Evropska unija je na poti k sprejetju regulative, ki bo uvajala obsežno pregledovanje zasebnih sporočil v mobilnih aplikacijah z namenom hitrejšega boja proti pedofiliji na spletu.
Nova zakonodaja, znana pod strokovnim imenom CSAM (Child Sexual Abuse Material) ali po kritikih kot »Nadzor klepeta«, naj bi začela veljati že sredi oktobra 2025, ko Danska prevzame predsedovanje Svetu EU.
Čeprav ima cilj zakonodaja zaščito otrok in zatiranje nezakonitih vsebin, pa bo po njenem sprejetju vsak uporabnik mobilnih komunikacijskih orodij lahko pod drobnogledom algoritmov, ki bodo pregledovali vsa zasebna sporočila, tudi tista, zaščitena s šifriranjem.
V praksi to pomeni, da lahko že pošiljanje povsem nedolžne fotografije otrok na plaži partnerju sproži zaznavo suma, ki jo bo zaznala umetna inteligenca, kar lahko pripelje do opozorila policiji brez predhodne sodne odredbe.
Doslej so za pregled sporočil morali imeti policisti sodni nalog, zdaj pa bi nadzor izvajali algoritmi, kar sproža številne pomisleke glede zasebnosti, varnosti in možnosti zlorab.
Kritiki opozarjajo, da bo nova zakonodaja odprla vrata splošnemu nadzoru komunikacij, kjer bodo algoritmi odločali, kaj je sumljivo, kar lahko pripelje do napačnih obtožb in posega v zasebno življenje milijonov državljanov.
Večina držav EU naj bi sicer predlog podpirala, čeprav so proti Avstrija, Nizozemska in Poljska, slovenska vlada pa naj bi bila še neodločena. Prav tako so v strokovni javnosti izpostavljene tudi možnosti cenzure in varnostnih tveganj, ki nastopijo z oslabitvijo end-to-end šifriranja sporočil, ki trenutno zagotavlja popolno zasebnost uporabnikom.
Ena izmed ključnih kritik je, da predlagana zakonodaja krši pravico do zasebnosti in svobode izražanja, ker bi uporabnike prisilno, preko algoritmov, pregledovali brez njihovega izrecnega soglasja, kar strokovnjaki in varuhi zasebnosti označujejo kot neustrezen poseg.
Poleg tega so algoritmi, ki naj bi zaznavali sumljivo vsebino, še vedno podvrženi napakam in bi lahko tudi povsem nedolžne vsebine označevali kot nezakonite.
Obstoječe alternative, ki so bile uporabljene do zdaj, kot so prostovoljno pregledovanje po ključih oziroma “hashih” znanih materialov in vedenjska analiza uporabnikov, se izkažejo za manj invazivne in bolj spoštujejo šifriranje sporočil.
Nekatera tehnološka podjetja, kot je Meta, so navdušena nad tem pristopom, saj omogoča odkrivanje zlorab brez ogrožanja zasebnosti vseh uporabnikov.
Poleg tehničnih in pravnih pomislekov si je vredno zapomniti, da zakonodaja poskuša odgovoriti na resnično grožnjo – množično širjenje otroške spolne zlorabe na spletu in groominga, kar je pereč problem, ki presega državne meje in zahteva sodelovanje ter učinkovite ukrepe. Kljub temu pa je potrebno najti ravnotežje med zaščito otrok in obrambo temeljnih človekovih pravic.
Evropska komisija in parlament se še vedno soočata z izzivom, kako uskladiti boj proti zlorabam otrok, ne da bi hkrati izbrisali pravico do zasebnosti in zaščito šifriranja kot temeljnega mehanizma digitalne varnosti.
Vodilni politiki in strokovnjaki poudarjajo potrebo po jasnih varovališčih in neodvisnem nadzoru, da se preprečijo zlorabe in nepošteno profiliranje uporabnikov.
Ob morebitnem sprejetju regulative bodo torej vsi prebivalci EU soočeni z novim načinom digitalnega nadzora, ki bi lahko močno spremenil digitalno zasebnost in vsakodnevno komunikacijo, zlasti pa bo zahteval pozornost in informirano razumevanje tveganj ter pravic, ki si jih je potrebno aktivno zagovarjati v digitalni dobi.
VIRI:
https://www.slovenskenovice.si/novice/slovenija/vam-bo-na-vrata-kmalu-lahko-potrkala-policija-ce-boste-zeni-poslali-fotografije-otrok/
