A gyermekvédelemre hivatkozva engedné az EU, hogy a techvállalatok megfigyeljék a magánbeszélgetéseinket

Az Európai Parlament július 6-án fogadta el a Bizottság azon javaslatát, ami szerint a nagy techvállalatoknak monitorizniuk kéne a felhasználóik magánbeszélgetéseit, nehogy gyermekpornográf felvételeket küldözgessenek. A javaslat bírálói szerint ezzel az egész társadalmat megfigyelhetik. Megfigyelési mandátum vagy gyermekvédelem? Utánajártunk!

Az Európai Bizottság még 2020. szeptember 10-én nyújtotta be rendeletjavaslatát, aminek célja, hogy az elektronikus hírközlési ágazatban a személyes adatok kezeléséről, feldolgozásáról és a magánélet védelméről szóló irányelveket ideiglenesen módosítsa. A korábbi rendelet csak a hagyományos kommunikációs eszközökre, így a telefonhívásokra és az SMS-ekre tért ki, azonban a technológia fejlődése miatt mára ezek visszaszorulóban vannak az olyan online üzenetküldő platformokkal szemben, mint a Messenger, a Viber, a Signal vagy a Telegram.

A Bizottságnak már régóta célja, hogy a technológia fejlődését a jogalkotással is kövessék, és minél nagyobb fokú adatvédelmet biztosítsanak az uniós állampolgárok számára, ugyanakkor emellett az online térben megnőtt, gyermekeket érintő szexuális visszaéléseket visszaszorítsák. 

A Bizottság 2020 szeptemberében benyújtott javaslatának a lényege, hogy az internetes kommunikációs felületek szolgáltatói számára előírják „az ismerten gyermekek szexuális zaklatását ábrázoló anyagok felderítését”, és kötelezővé tegyék az ilyen anyagoknak a hatóságok felé történő bejelentését.

A szolgáltatóknak tehát minden olyan online kommunikációt jelenteni kell a hatóságok felé, amiben vagy gyermekeket ábrázoló pornográf felvételeket küldözgetnek, vagy valaki egy kiskorút zaklat szexuálisan online,

amit csak úgy tudnak megtenni, ha a Messenger, Whatsapp, Viber appilkációkon zajló magánbeszélgetéseket a szolgáltatók, azaz a platformokat üzemeltető cégek monitorozzák.

A Bizottság a „groomingot” is szeretné visszaszorítani – ez az a jelenség, amikor egy 18 éven felüli úgy próbál közeledni egy fiatalkorú felé, hogy a bizalmába férkőzik.

A javaslatról 2022. július 6-án szavazott az Európai Parlament, ahol a képviselők első olvasatra elfogadták 537 igen, 133 nem és 24 tartózkodás mellett a javaslatot – köztük mind a 21 magyar EP-képviselő szavazatával – , ami

2025. december 31-ig tenné lehetővé, hogy a techvállalatok saját felhasználóik beszélgetéseit mesterséges intelligenciával (MI) és algoritmusokkal szűrjék, illetve ellenőrizzék.

Igaz, a Bizottság által benyújtott javaslaton több ponton is módosítottak. Ilyen például, hogy a hangfelvételeketre nem terjedhet ki az ellenőrzés, illetve hogy az a személyzet, aki foglalkozik ezzel a vizsgálattal, csak abban az esetben tudja hozzákötni a beszélgetést az adott személyhez, ha valóban bűncselekményt követhetett el. 

Felmerül viszont a kérdés: kell-e attól tartanunk, hogy mostantól a Facebook egyik munkatársa minden üzenetünket elolvassa?

Hogyan lehet visszaszorítani a gyerekek elleni szexuális zaklatást online?

Első körben érdemes megvizsgálni, miként is szűrik a techvállalatok a beszélgetéseinket.

Ennek több lehetséges módszere lehet: a legegyszerűbb, ha mesterséges intelligenciát használnak, hiszen a hatalmas adatmennyiséget manuálisan, emberi munkával nem lehet feldolgozni. Ha emberek monitorozzák a beszélgetéseket, akkor jóval nagyobb a visszaélés esélye is.

Az Európa Tanács – ami nem uniós szerv – még 2019-ben közölt egy jelentést, amiben meghatározták, hogy miként lehet a magánbeszélgetéseket ily módon ellenőrizni: file hashing módszerrel beazonosíthatóak a képek és a videók, míg a szövegeket, illetve a metaadatokat (milyen eszközökkel vesznek részt a beszélgetésben, azok kikhez tartoznak) mesterséges intelligenciával és algoritmusokkal lehet ellenőrizni.

Ha pedig az MI valami gyanúsat talál, akkor jelez, és a tartalmat utána egy ember vizsgálja meg. 

Ilyen technológiát a legtöbb techvállalat amúgy is használ: a Google-höz tartozó YouTube semmilyen olyan videót nem enged élesíteni, amiben ismert gyemekpornográfiát tartalmazó képek szerepelnek – ismert eset például a Pesti Srácok YouTube-csatornájának a törlése, amiért egy videójukban pár másodpercet kitakarva közölni szerettek volna egy ilyen felvételről –, illetve a Facebookhoz tartozó szolgáltatásokon (Facebook, Messenger, Whatsapp, Instagram, stb.) is tiltással, bizonyos esetekben törléssel jár, ha valaki szintén egy már beazonosított ilyen jellegű képet küldene el valakinek vagy töltene fel.

Ha már amúgy is ellenőriznek a techvállalatok, miért kell ilyen jogszabály?

A Bizottság javaslata szerint – amit az Európai Parlamenttel közösen formáltak – is a fentebb felsorolt technológiákat használnák: a beszélgetéseket algoritmusokkal és erre a célra kifejlesztett mesterséges intelligenciákkal vizsgálnák. Azonban

a beszélgetőpartnerek identitása addig nem derülhetne ki, amíg az MI vagy az algoritmus nem azonosítja, hogy valóban tiltott felvételeket küldenek, vagy fiatalkorút zaklat egy felnőtt szexuálisan.

Mielőtt a techcégek a hatóságoknak leadnák a drótot, egy ember felülvizsgálja az MI jelentését – ezt egyébként az EP harcolta ki, és az uniós GDPR (általános adatvédelmi rendelet) elveinek is csak ilyen módon felel meg a javaslat.

A javaslatra azért volt szükség, mert más uniós jogszabályok változása miatt vitathatóvá vált az ilyen típusú, gyermekvédelmi célú algoritmusok és szoftverek használata, így jelenleg nincs EU-s szinten szabályozva, hogy a techcégeknek hogyan és milyen módon kell és lehet  ellenőrizniük az oldalukon található tartalmakat.

Sokan azonban úgy vélik, hogy a javaslat a jó szándék ellenére visszaélésekre adhat okot:

a javaslat bírálói szerint az lehetőséget ad a szolgáltatóknak arra, hogy válogatás nélkül nyomon kövessék a magánbeszélgetéseket.

Az EP-vitán a svéd EU-biztos, Ylva Johansson azzal védte meg a Bizottság tervét, hogy bár az nem teljesen oldja meg az online térben zajló gyermekabúzus problémáját, azonban megszünteti a cégek bizonytalanságát azzal kapcsolatban, hogy mit szabad, illetve mit kell tenniük ilyen ügyekben.  

A rendeletjavaslatot leginkább a német kalózpárti EP-képviselő, Patrick Breyer kritizálta: a vitán elmondta, hogy a rendőrségek automatizált bűnügyi keresései 86 százalékban ártatlanokat azonosítanak be, és a potenciális bűnelkövetők amúgy sem a Facebook vagy a Google kommunikációs felületeit használják. Szerinte az új rendelet lehetőséget adna a vállalatoknak, hogy „gyanú nélkül szimatolják [az emberek] privát és meghitt üzeneteit és beszélgetéseit – beleértve az aktfotókat is”. 

Breyer szerint a javaslattal minden online kommunikáció – az e-maileken, a chatüzeneteken keresztül – megfigyelhetővé válik, ami szerinte nem jó megoldás.

Mint mondta: „az összes e-mail és üzenet valós idejű megfigyelése nem hatékony, kontraproduktív, veszélyes és súlyos járulékos károkat okoz”. 

A cseh kalózpárti Marcel Kolaja azzal érvelt, hogy „a postások sem nyitják fel a privát leveleinket, hogy valami kifogásolhatót küldünk-e benne”. 

Vannak persze olyanok is, akik szerint a javaslat arányos, és betartja az EU alapelveit. Leanda Barrington-Leach, a 5Rights nevű gyerekek online védelmével foglalkozó civilszervezet EU-ügyekért felelős vezetője szerint a Bizottság javaslata a gyerekek érdekeit priorizálja, és „arányos választ ad a gyermekekkel szembeni szexuális visszaélések nagyon valóságos, folyamatos és rettenetes bűncselekményére”.

Gyermekvédelem vagy megfigyelés?

Többen azonban azon EP-képviselők közül is kritikával illették a javaslatot, akik végül elfogadták azt. A téma jelentéstevője – egyben a Bizottság és a Parlament közötti tárgyalásokon az EP főtárgyalója –, a szocialista frakcióban (S&D) ülő német Brigit Sippel úgy fogalmazott: a végső megoldás ugyan nem tökéletes, de működőképes, és átmeneti megoldást jelent az elkövetkezendő három évre. 

Sippel arra is felszólította a Bizottságot, hogy az átmeneti rendelet helyett olyan hosszútávú megoldást ajánljon, „amely az ideiglenes szabályokban található adatvédelmi biztosítékokból inspirálódik”, illetve célzottabb letapogatást írna elő a magánbeszélgetések kapcsán.

Arról, hogy az Európai Bizottság által javasolt, az Európai Parlament által elfogadott, és a tagállami szakminiszterekből álló Európai Unió Tanácsa elfogadására váró új javaslat mennyire jelent arányos korlátozást, illetve adatvédelmileg mennyire megalapozott, Sepsi Tibor adatvédelmi jogászt és ügyvédet kérdeztük.

Sepsi szerint a Tanács által elfogadásra váró javaslat szükséges és alapvetően arányos korlátozását jelenti a felhasználók magánszférájának,

ugyanis, ha a jogszabály nem engedélyezné valamilyen módon a beszélgetőpartnerek kilétét az üzenetekkel csak bűncselekmény gyanúja esetén összekapcsoló megfigyeléseket, akkor mindenki szabadon követhetne el bűncselekményeket ezeken a felületeken.

„Ha egy széles körben használt felületen nem szűrik a gyermekpornográf tartalmakat és a gyermekekkel való rossz szándékú kapcsolatfelvételi kísérleteket, akkor a felület az ilyen tartalmak terjesztésének és a regisztrált gyermekfelhasználók becserkészésének terepe lesz. Ennek nincs alternatívája, a biztosítékokkal együtt pedig az ideiglenes rendelet megfelelően egyensúlyoz a gyermekek védelme és a felhasználók magánszférájának tiszteletben tartása között”

– fogalmazott megkeresésünkre Sepsi.

Az adatvédelmi jogász szerint azért is fontos a javaslat, mert amíg a hagyományos, előfizetői azonosítóhoz kötött elektronikus hírközlési csatornákra – telefonhívás, SMS – már régóta vonatkoznak ilyen szabályozások, addig az egyre fontosabb internetes kommunikációs felületeken más uniós jogszabályok változása miatt a rendelet hiányában vitathatóvá vált a gyermekvédelmi célú algoritmusok használata.

A jogász szerint fontos adatvédelmi garancia, hogy

a szolgáltató csak akkor kötheti hozzá a vizsgált adatokat egy adott felhasználóhoz, ha az ellenőrzés eredménye gyermekpornográfiát vagy gyermekekkel való ártó szándékú kapcsolatfelvételre utaló mintát jelez.

Másrészt szerinte a szolgáltatók algoritmusok és mesterséges intelligencia általi tartalomfigyelésének nincs alternatívája. 

Akkora adatmennyiséget, amit nap mint nap egymásnak küldenek az emberek, másképp nem lehetne nyomon követni, ha pedig ezt nem tennék meg a szolgáltatók ebben a szűk körben, akkor a felületeiken szabadon terjedhetnének az ilyen tartalmak.

Már használt gyakorlatot engedélyeznek

A jogász szerint az Európai Uniónak már régóta célja a felhasználók személyes adatainak védelme és a gyermekpornográfia elleni fellépés is, az új szabályozás pedig egyszerre próbál mindkét célnak megfelelni. Szerinte az uniós jogalkotás abban régóta konzekvens volt, hogy „amikor ütközik a két szempont, akkor a gyermekpornográfia elleni fellépésnek adott elsőbbséget bizonyos garanciák mellett” – értékeli Sepsi.

Sepsi szerint a javaslattal a Bizottságnak a célja nem az volt, hogy új korlátozásokat vezessenek be, hanem a nagy techvállalatok által már folytatott gyakorlatokat akarták jogilag alátámasztani.

Ugyanakkor szerinte a rendelet céljai vetnek fel problémákat is, mégpedig a titkosítással összefügésben.

Az eddigi megoldások iránya szerinte ugyanis az online kommunikáció titkosításának a meggyengítése felé tart, ami gyakorlati problémákat okozhat: ha például a szolgáltatók a titkosítást használó kommunikációs szoftverek feloldókulcsait átadják a hatóságoknak, az akár valahogy ki is szivároghat, ebben az esetben pedig megszűnhetnek a biztonságos, titkosított beszélgetések. Korábban az Apple például ezért nem adott át az FBI-nak egy univerzális kulcsot egy terrorista titkosított iPhone-jának a feloldására: ezután nem tudták volna garantálni, hogy minden készülékük megfelelően titkosított marad.

Sepsi szerint a legnagyobb problémát nem is önmagában a keresőalgoritmusok biztonsága jelentheti, hanem hogy mi történik a szoftverek jelzése után. Szerinte

fontos kérdés, hogy a szolgáltató milyen protokollt dolgoz ki ilyen esetekre.

Hogyan, milyen garanciák mellett és – például a felhasználói fiók felfüggesztése esetén – mennyi idő alatt szűri ki a „téves riasztásokat”, megadja-e a felhasználónak a hatékony joggyakorláshoz szükséges információkat.

Az ilyen protokollok kapcsán elmondta, hogy azok fontosságát Magyarországon is láthatjuk a Facebook-letiltások kapcsán.

„Sokszor olyan embereket vagy oldalakat tiltanak le, amelyek nem posztoltak jogsértő tartalmat, de bejelzett az algoritmus, mert mondjuk tiltott tartalomként azonosította egy Rubens-festmény angyalkáját. Egy gyereket a közösségi oldalon megkereső frissen regisztrált felhasználó is lehet szexuális ragadozó, de a legtöbb esetben szerencsére csak egy internettel ismerkedő nagyszülő”

– fogalmazta meg aggályait Sepsi.

Mire lehet majd jó a rendelet, ha életbe lép? 

Sepsi Tibor szerint ha a szoftverek által kiszűrt tartalom valójában nem jogsértő – mert például valaki a saját gyerekének a fürdetéséről készített képet átküldött a nagyszülőknek –, akkor ebben az esetben mindig kérhető, hogy a szolgáltató munkatársai bírálják felül a mesterséges intelligencia találatát,

azaz amiatt elméletben nem indulhatna nyomozás, mert valaki ilyen ártatlan célból osztott meg a szolgáltatók által kiszűrt képeket.

Ugyanakkor Sepsi úgy véli, hogy ebben az esetben a szoftverek „fafejűsége” akár még hasznos is lehet, hiszen eleve nem szerencsés saját gyermekünkről akár csak a legkisebb mértékben is félreérthető fotókat küldözgetni az online térben. Ugyanezt támasztja alá egy korábbi tanulmány, ami szerint a szülők által feltöltött gyerekképek nagyon gyorsan felkerülhetnek a dark webre is – oda viszont már egészen más okból.

A dark web kapcsán Sepsi elismerte:

a gyermekpornográf képek terjesztését valóban nem a mostani javaslat fogja jelentősen visszaszorítani, hiszen a hatóságok az internet minden zugát nem tudják ellenőrizni,

és a Facebookhoz hasonló techvállalatok üzenetküldő alkalmazásain továbbított gyermekpornográf felvételek elleni fellépés csak a jéghegy csúcsa. Ugyanakkor szerinte ennek ellenére fontos, hogy a legnagyobb techvállalatokok hatékonyan tudják blokkolni és jelenteni ezeket a tartalmakat.

A jogász úgy látja, az EP által elfogadott javaslat leginkább a már említett grooming ellen – amikor egy 18 éven felüli úgy próbál közeledni egy fiatalkorú felé, hogy a bizalmába férkőzik – lehet hatékony, hiszen a gyerekek bizalmát nem a dark weben, hanem az általuk is használt közismert online felületeken próbálják elnyerni a szexuális ragadozók.

NYITÓKÉP: Az Európai Parlament strasbourgi épületének biztonságőrei sétálnak az épület folyósóján. FOTÓ: © Communautes Europeennes 2003 / European Parliament