EU Komisija želi pregledavati sve poruke u našim mobitelima!

Šokantan dokument procurio je iz ureda Europske Komisije. Iz njega se može iščitati da će ovoga tjedna, u svibnju 2022. godine, Europska komisija objaviti nacrt zakona o tzv. „kontroli chata“ pod krinkom borbe protiv zlostavljanja djece. Plan je uspostaviti klasifikaciju svih poruka i slika temeljenu na umjetnoj inteligenciji izravno na našim uređajima. Ovo takozvano “skeniranje na strani klijenta” bilo bi napad na svaku povjerljivu komunikaciju.

Nacrt zakona planira da umjetna inteligencija (AI) ispita sav komunikacijski sadržaj izravno na našim uređajima i izvuče ga u slučaju sumnje. Ovo skeniranje na strani klijenta ne bi bilo prva pretjerana i pogrešna metoda nadzora opravdana borbom protiv zlostavljanja djece.

Nedvojbeno je žrtvama zlostavljanja djece potrebna mnogo više i bolja podrška, ali kontrola chata je pretjeran pristup, lako ga je zaobići od strane kriminalaca i fokusira se na krivo mjesto. Uz nulte šanse za uspjeh u smislu proklamiranog cilja, uvesti će se alat za praćenje bez presedana.

Potpuno promašen cilj

Predložena uredba zahtijevala bi da svaki uređaj skenira svaku poruku u potrazi za slikama zlostavljanja djece i kontakta između kriminalaca i djece. Ako se takav sadržaj otkrije u poruci, on će biti preusmjeren izravno nadzornom tijelu ili policiji.

Masovno skeniranje ne samo da napada povjerljivu komunikaciju u samom temelju, već bi bilo i neučinkovito: kriminalci već koriste distribucijske kanale na koje ova skeniranja ne bi utjecala i na koje će skeniranja lako izbjeći u budućnosti.

Počinitelji koriste tzv. „javne hostere datoteka“ (message boards) umjesto messengera koje cilja Komisija – prije svega zato što su aplikacije potpuno neprikladne za razmjenu velikih zbirki datoteka. Prije nego što se prenese na javne hostere, materijal je obično šifriran, čime je automatizirano skeniranje beskorisno.

Samo iz tog razloga, predloženo obvezno praćenje neće spriječiti daljnje širenje uvredljivih slika.

Nema pouzdane komunikacije bez pouzdanih uređaja

Ne samo da novinari i zviždači ovise o pouzdanoj komunikaciji – ona je temeljno pravo i važan kamen temeljac IT sigurnosti za sve nas. Da bi komunikacija bila uistinu pouzdana, moraju biti ispunjena dva uvjeta:

• Uređaj mora imati integritet u smislu IT sigurnosti i ne smije propuštati sadržaj trećim stranama.
• Enkripcija prijenosa za sadržaj korisnika mora biti sigurna, tako da ne moramo vjerovati mreži.

Uz tajnost telekomunikacija i temeljno pravo na jamstvo povjerljivosti i integriteta sustava informacijske tehnologije, kontrola chata suspendira dva temeljna prava. Korisnici gube kontrolu nad podacima koje dijele i s kim. Gube osnovno povjerenje u vlastite naprave.

Zasad nije jasno tko bi trebao definirati i kontrolirati algoritme i baze podataka za prepoznavanje. Takav netransparentan sustav može se i lako će se proširiti nakon njegovog uvođenja. Već je predvidljivo da će industrija upravljanja pravima na sadržaj biti jednako zainteresirana za sustav kao i antidemokratske vlade. Stoga je strašno za vidjeti s kakvom lakoćom se sada ovo predstavlja u EU. Implementacija skeniranja sadržaja na uređaju i upozorenja temelj je za sveobuhvatnu infrastrukturu cenzure i nadzora koju može i hoće zloupotrijebiti onaj tko ima kontrolu nad njom.

Stope lažnog otkrivanja dovode do poplave slika na kontrolnim točkama

Skeniranje “umjetne inteligencije” u potrazi za uvredljivim sadržajem također će “lažno označiti sadržaj kao nezakonit. Čak i najmanja stopa pogrešaka rezultirala bi velikim količinama netočno “prepoznatih” i eksfiltriranih poruka: samo u Njemačkoj, više od pola milijarda poruka šalje se svakog dana. Čak i iznimno “dobre” stope prepoznavanja dovele bi do ekstrakcije nekoliko tisuća poruka dnevno.

Naravno, vjerojatnost da će sadržaj biti označen i eksfiltriran dramatično se povećava za intimne, potpuno legalne i konsenzualne slike koje se razmjenjuju među odraslima i mladima. Mladi se već mogu radovati procjeni njihove dobi od strane nadzornih agencija. Netko će u tim agencijama morati gledati te slike i procjenjivati godine, a radi se o osobnim slikama. Mučna zabrinutost oko toga da li naše poruke cure, tko ih gleda i koliko su sigurne od zlostavljanja tamo zauzvrat će utjecati na sve nas.

Istodobno, sustav će stvoriti brda označenog, ali irelevantnog materijala, sprječavajući policajce da obavljaju važan istražni posao. Istražna tijela već su preopterećena podacima koje trenutno primaju. Priče o stvarnim uspjesima istražitelja ne uspijevaju se materijalizirati, a pronađeni materijali se čak niti ne brišu. Učinkovito otklanjanje ovih nedostataka bio bi najvažniji cilj u borbi protiv zlostavljanja djece. Umjesto toga, Komisija se želi osloniti na masovni nadzor i obećanje spasa “umjetne inteligencije”.

Kontrolu chata treba odbaciti kao temeljno pogrešnu tehnologiju.

Izvori: ccc.de i rebelnews.com