A szabályozás már a megszavazása előtt is súlyos adatvédelmi aggályokat támasztott, ennek ellenére elfogadták. Novemberben az Európai Bizottság belügyi biztosa újabb jogalkotási kezdeményezéssel rukkolt elő: ez kötelezővé tenné az üzenetküldő alkalmazások számára azt, hogy a felhasználók eszközeire kontrollszoftvereket telepítsenek. Ezek mesterséges intelligencia (AI) használatával már az esetleges küldés előtt kiszűrnék a jogsértő tartalmakat.
Az Európai Parlament a júliusi szavazás során elsöprő többséggel (537 igen mindössze 133 nem ellenében) fogadta el az átmeneti szabályozást. Ennek ellenére több EU-s jogalkotó is felszólalt a rendelkezés ellen: szerintük az szembe megy az uniós adatvédelmi szabályokkal. Az Európai Adatvédelmi Testület közleményben jelezte, hogy megítélésük szerint „a tervezett intézkedések beavatkozást jelentenének a felhasználók a magánélet tiszteletben tartásához és adatvédelemhez való jogába”.
A néhai Facebook (ma már Meta) szóvivője 2018-ban, a Cambridge Analytica botrány kirobbanása után beismerte: a cégcsoport automatizált rendszereket használ arra, hogy kiszűrje a vírusos linkeket vagy illegális anyagokat tartalmazó Messenger üzeneteket.
A cég később megváltoztatta az álláspontját, sőt, Mark Zuckerberg alapító 2019-ben bejelentette, hogy a Facebook és az Instagram üzenetküldő felületeit a (szintén a cégcsoport tulajdonában lévő) WhatsApp-hoz hasonlóan titkosítani fogják. Ez egyelőre még várat magára: a The Sunday Times brit hetilap kérdésére a Meta képviselője, Antigone Davis elmondta, hogy a titkosítás 2023-ban kerülhet bevezetésre.
Ezzel szemben az Apple idén nyáron bejelentette, hogy év végéig egy új, a gyerekek védelmét szolgáló technológiát tervez bevezetni az iOS 15 operációs rendszerrel rendelkező készülékeken. A Client Side Scanning (CSS) egy olyan gépi tanuláson alapuló szoftver, ami automatikusan monitorozná az Apple eszközök tulajdonosainak tárhelyeit és keresési előzményeit, gyermekbántalmazásra utaló nyomokat keresve. A tervet sokan kritizálták és több szakértő is rámutatott a rendszer hiányosságaira - ennek eredményeképpen a cég 2022-re halasztotta a CSS bevezetését.
Egészen mostanáig, a felhasználó elkerülhette az „átvilágítást” ha végpontok közötti titkosításon alapuló üzenetküldő rendszereket használt. Ilyen például a Dust, a Wickr vagy a Signal. Ezeket a felületeket lényegében lehetetlen feltörni, mert - a Messengerrel ellentétben - blokklánc alapú hálózattal működnek, tehát az információ nem kerül tárolásra egy központi szerveren.
A CSS bevezetésével az ellenőrzés megtörténne az eszközön, így lényegtelenné válna az, hogy a felhasználó utána milyen üzenetküldő applikációt használ. Az EP elé terjeszteni kívánt törvényjavaslat hasonló kontroll-szoftverek telepítését tenné kötelezővé a szolgáltatók számára.
Az Internet Watch Foundation (IWF) jótékonysági szervezet kimutatásai szerint 2019-ben 10-ből 8 gyerekek elleni szexuális erőszakot tartalmazó weboldal URL-je vezethető vissza európai szerverekre.
Ennek oka az, hogy egyes országokat (például Hollandiát, ahol az ilyen szerverek 70%-a található) a megengedő jogi szabályozás és a kiváló informatikai infrastruktúra ideálissá tesz az úgynevezett tartalomfelügyelet nélküli tárhelyszolgáltatásra. Az ezzel foglalkozó cégek lényegében bérbe adják a szervereket, anélkül, hogy ellenőriznék, ki és mire használja azokat.
Az IWF 2019-es beszámolója szerint az általuk vizsgált anyagok túlnyomó többségében 7 és 13 év közötti kislányok szerepelnek, de tízből legalább egy esetben az áldozat 6 év alatti. A vizsgált tartalmak közel 40%-a jelenít meg nemi erőszakot. A másik kategóriába a gyerekekről kiszolgáltatott állapotban készült felvételek tartoznak.
„Képzeld el, hogy számtalan ember nézi végig életed legsötétebb pillanatait és nyer kielégülést a fájdalmadból” - írja a szervezet az éves kimutatásuk előszavában.
Az új javaslatot bemutatva Ylva Johansson uniós belügyi biztos elmondta: 2010-ben az EU-ban 23.000 internetes szexuális abúzussal kapcsolatos bejelentés érkezett, 2021-re ez a szám több 1 millió fölé emelkedett. „A gyerekek elleni online szexuális erőszak exponenciálisan növekszik” - tette hozzá, mielőbbi közbelépést sürgetve.
Az Apple által bevezetni kívánt CCS esetében több szakértő is megvizsgálta az algoritmus hatékonyságát. Az Imperial College London munkatársai kimutatták, hogy a tartalmak minimális átalakításával könnyen kijátszható a rendszer. A kutatók egy, az emberi szem számára láthatatlan filtert tettek a képekre, amik ilyen formában gond nélkül átcsúsztak az ellenőrzésen. A problémára ugyan megoldást jelenthet az algoritmus érzékenységének csökkentése, ez azonban jelentősen megnövelné a téves jelzések arányát.
A CSS példája jelzi: még a világ legfejlettebb mesterséges intelligencián alapuló szoftverei sem tévedhetetlenek. Könnyen megtörténhet, hogy egy hiba miatt ártatlanokat gyanúsítanak meg, míg az igazi bűnözők a radar alatt maradnak.
További kétségeket vet fel a kamaszok körében egyre inkább elterjedt „sexting” elnevezésű jelenség. A kifejezés a „texting” és a „sex” szavakból áll össze és szexuális tartalmú üzenet (és gyakran kép) váltást jelent. Egy 2020-as kutatás szerint a kamaszok 60%-a küldött és egyharmaduk kapott már ilyen üzeneteket. Az új törvényjavaslat könnyen vezethet ahhoz, hogy erotikus üzeneteket váltó tinédzsereket állítsanak bíróság elé gyermekpornográfia vádjával.
Más kritikusok azt nehezményezik, hogy a törvény olyan eszközöket adna magáncégek kezébe, amelyek korábban kizárólag az állami szervekhez tartoztak. Bár a javaslat tartalmazza a bejelentési kötelezettséget, ez ellenőrizhetetlen lenne, így lényegében a tech óriások dönthetnek arról, hogy mit továbbítanak a rendőrség felé. Ez az igazságszolgáltatást függővé teheti a cégek érdekeitől. Emellett azt sem garantálja semmi, hogy a begyűjtött adatokat csak a törvénybe foglalt célokra használják fel. Ipari kémkedés, a politikai ellenfelek befeketítése, választások manipulálása - a kontrollszoftverekkel számtalan módon vissza lehetne élni.
Patrick Breyer, az Európai Zöld Párt képviselője a szabályozás egyik legelkötelezettebb ellenzője. Breyer kétségbe vonja, hogy a valóban a gyermekvédelem a cél; szerint a kedeményezés mögött amerikai nagyvállalatok masszív nyomása áll, akik „erkölcsi bunkósbotként” használják a gyermekvédelmet.
„Ez a tömeges megfigyelés leginkább azokat érintené, akik a bizalmas kommunikációtól függenek. Ilyenek például a sajtó informátorai vagy az úgynevezett whistleblowerek - azok az emberek, akik beszámolnak a szervezetekben elkövetett visszaélésekről.” - modta Breyer. Hozzátette: ő is édesapa, természetesen neki is fontos a gyermekek védelme, de azt szeretné, hogy a következő nemzedéknek is legyen privátszférája. “Ha eltörlünk minden olyan szabadságjogot, amellyel vissza lehet élni, akkor hamarosan nem marad semmi” - összegezte a politikus.
A támogatók ezzel szemben kiemelik: míg a jogalkotók vitáznak, gyerekek százai szenvedik el a szexuális erőszak legborzasztóbb formáit. A rendelkezés legalább esélyt adna arra, hogy ez a közeljövőben megváltozzon.
