Kaj je Chat Control in zakaj digitalne platforme pregledujejo vaše klepete na spletu?

Evropski parlament je minuli teden po precej kaotičnem postopku podprl podaljšanje začasnega odstopanja od pravil o e-zasebnosti, v splošni javnosti bolj znanega kot Chat Control oziroma nadzorovanje klepetov. Omenjena uredba digitalnim velikanom in spletnim platformam omogoča skeniranje spletnih komunikacij z namenom odkrivanja in odstranjevanja gradiva o spolnih zlorabah otrok (CSAM).

Pripravili smo pregled ključnih vprašanj in odgovorov o tem, kaj je Chat Control, kaj je bilo izglasovano v Evropskem parlamentu, kako poteka skeniranje, kdo ima dostop do vaših klepetov in kakšne izjeme bodo veljale.

Kaj sploh je Chat Control?

Chat Control v praksi pomeni začasno odstopanje od zakonodaje EU o zasebnosti, ki ponudnikom spletnih storitev omogoča prostovoljno odkrivanje in odstranjevanje gradiva o spolni zlorabi otrok na njihovih platformah. Evropska komisija je to začasno izjemo prvič uvedla in sprejela že leta 2020, kar je digitalnim velikanom omogočilo skeniranje nešifriranih sporočil do sprejetja trajnejše zakonodaje.

Google, Meta, Microsoft in drugi ponudniki so lahko s pomočjo tehnologije prepoznavanja digitalnih prstnih odtisov datotek pregledovali na primer priponke v Gmailu, javna in nešifrirana sporočila na Facebookovem Messengerju ter fotografije in posnetke v oblačnih shrambah, kot na primer Google Drive ali One Drive.

A do sprejetja dolgoročne zakonodaje ni nikoli prišlo, Evropski parlament je konec marca zavrnil predlog Evropske komisije za podaljšanje odstopanja od zakonodaje. V EU so zato 3. aprila prenehali veljati začasni ukrepi, ki spletnim platformam omogočajo, da prostovoljno pregledujejo vsebine z namenom iskanja posnetkov spolnih zlorab otrok. Svet EU se je nato odločil, da predlog vrne Evropskemu parlamentu v drugo obravnavo.

Evropska komisija je maja 2022 predlagala, da bi spletne platforme zakonsko zavezala k množičnemu spremljanju zasebnih sporočil v klepetalnicah za odkrivanje gradiva o zlorabi otrok, namesto da bi se kot doslej zanašala na prostovoljno sodelovanje.

Kaj so pretekli teden izglasovali evropski poslanci?

Ker od aprila pravila za digitalne velikane pri pregledovanju morebitnih vsebin, ki vsebujejo gradiva spolnih zlorab otrok, niso več veljala, je predsednica Evropskega parlamenta Roberta Metsola konec junija predlog o začasnem odstopanju od pravil zakonodaje EU o zasebnosti ponovno odprla in ga poslala Svetu EU z opozorilom, da pretečena pravila puščajo nevarno vrzel pri zaščiti otrok na spletu.

Svet EU je nato predlog tik pred poletnimi počitnicami poslal nazaj v odločanje v Evropski parlament, kjer pa je na glasovanju sledil nepričakovan proceduralni zaplet. Čeprav je bila večina prisotnih evroposlancev proti podaljšanju uredbe in je podprla njeno zavrnitev, predlog za ukinitev ni dosegel zahtevanega praga za uspeh. Za zavrnitev predloga v tej fazi ne zadošča le navadna večina, temveč je potrebna absolutna večina vseh izvoljenih poslancev. Ker ta prag 360 glasov ni bil dosežen, je zakonodajni sveženj preživel in bo poslan Svetu EU v potrditev, čeprav je večina glasujočih želela nasprotno.

So pa evropski poslanci ob tem izglasovali tudi nekaj pomembnih amandmajev, med drugim amandma, ki določa, da komunikacije, ki uporabljajo šifrirano pošiljanje sporočil – na primer Signal in WhatsApp – ostajajo izvzete iz postopkov skeniranja.

Začasni ukrep naj bi veljal do aprila 2028. A preden začne veljati, se mora Evropska komisija odzvati na predloge parlamenta, spremembe pa mora odobriti še Svet EU, v katerem so zastopane države članice. Ta ima tri mesece časa, da sprejme ali zavrne spremembe. Če Svet EU ne bo sprejel vseh sprememb, bosta parlament in Svet začela spravni postopek, da se dogovorita o zakonu.

Zakaj podporniki trdijo, da Chat Control nujen?

Zagovorniki podaljšanja začasne uredbe in predlagane zakonodaje poudarjajo nujnost zaščite otrok v digitalnem okolju. Ob tem opozarjajo, da je količina prijavljenih primerov spolnih zlorab otrok na spletu v strmem porastu, kar zahteva takojšen in učinkovit odziv pristojnih organov in spletnih platform.

Po njihovem mnenju so tehnološke rešitve, kot je primerjava digitalnih prstnih odtisov datotek, nujno orodje, ki omogoča hitro identifikacijo in odstranjevanje vsebin, ki prikazujejo spolne zlorabe otrok. Ob tem trdijo, da je ohranitev pravnega okvira ključna za preprečevanje nadaljnjega širjenja škodljivih posnetkov. Razpečevalci tovrstnih vsebin bi namreč lahko izkoristili vrzel pri sprejemanju zakonodaje in pravil.

Za podaljšanje uredbe je glasovala večina poslancev Evropske ljudske stranke (EPP), priključili so se jim tudi nekateri poslanci liberalne Renew in S&D – v obeh strankah so na drugi strani številni poslanci bili precej kritični do sprejema začasne uredbe, saj naj bi ta omogočala prevelike vdore v zasebnost uporabnikov na spletu.

Kateri so ključni argumenti kritikov Chat Controla?

Med kritiki Chat Controla so številne organizacije za varstvo državljanskih pravic in poslanci Evropskih konservativcev in reformistov (ECR), Zelenih, del poslancev Levice, Renew in S&D. Ti so opozarjali predvsem na nevarnost erozije zasebnosti na spletu in normalizacije množičnega nadzora digitalnih velikanov nad komunikacijo uporabnikov.

Osrednji argument kritikov Chat Controla je, da prostovoljno skeniranje na strežnikih, ki je dovoljeno, utira pot sistemskemu, obveznemu nadzoru zasebnih komunikacij, kar bi lahko trajno ogrozilo pravico do zasebnosti uporabnikov in njihovih pogovorov. Ob tem so nekateri opozarjali, da naj bi pod pretvezo zaščite otrok takšna izjema odprla vrata tehnologiji, ki bi lahko bila v prihodnosti zlorabljena za širši politični nadzor nad ljudmi in njihovo komunikacijo.

Tako že svarijo, da bi lahko po ponovnem preteku začasnega obdobja sledil sprejem še strožje zakonodaje, ki so jo v Bruslju poimenovali Chat Control 2.0. Ta naj bi po nekaterih navedbah še zaostril nadzor nad komunikacijo uporabnikov, saj naj bi vključeval tudi skeniranje pogovorov v aplikacijah in orodjih, ki za pošiljanje sporočil uporabljajo šifriranje. Pojavljajo se tudi ugibanja, da naj bi trenutno prostovoljno skeniranje preoblikovali v obvezno skeniranje, na takšen način pa bi bile digitalne platforme prisiljene, da vdirajo neposredno v naprave uporabnikov.

Kako poteka skeniranje in ali digitalne platforme dejansko berejo vaša sporočila?

Digitalne platforme se pri odkrivanju morebitnih spornih vsebin ne zanašajo na človeško pregledovanje sporočil – to pomeni, da nihče ne sedi za računalnikom in ročno pregleduje in bere vaša sporočila. Gre za popolnoma avtomatiziran postopek in temelji na primerjavi digitalnih prstnih odtisov datotek.

Ko uporabnik naloži fotografijo ali videoposnetek na nešifrirano platformo, sistem to datoteko v nekaj milisekundah pretvori v edinstveno digitalno kodo in jo primerja z mednarodnimi zbirkami podatkov, v katerih so shranjene kode že predhodno odkritih in potrjenih posnetkov spolnih zlorab otrok.

Če se kodi ujemata, sistem datoteko avtomatsko označi in sproži protokol za prijavo, če ujemanja ni, pa se postopek zaključi. Tehnologija je torej zasnovana tako, da prepoznava izključno že znano in identificirano nezakonito gradivo, ne omogoča pa splošnega branja osebnih dopisovanj.

Kaj poleg začasnega podaljšanja uredbe še prinašajo nova pravila za zaščito otrok?

Poleg samega podaljšanja začasnega ukrepa pa so evropski poslanci potrdili tudi precejšnje zaostrovanje evropske kazenske zakonodaje, prav tako se uvajajo nekatere povsem nove kategorije kaznivih dejanj. Tako je po novem izrecno inkriminirano prenašanje spolnih zlorab na spletu preko prenosov v živo, spolno izsiljevanje otrok ter izdelava priročnikov z navodili za zlorabe otrok.

Ena od ključnih novosti je tudi jasna opredelitev "groominga" oziroma nezakonitega in načrtnega navezovanja stikov z otroki na spletu z namenom spolne zlorabe. Nova pravila posegajo tudi na področje sodobne tehnologije, in sicer umetne inteligence. Zakonodaja prepoveduje pridobivanje, posedovanje ali širjenje orodij umetne inteligence, ki so posebej zasnovana za ustvarjanje fotografij in posnetkov otroške pornografije oziroma spolnih zlorab otrok.

Ob tem se podaljšujejo tudi roki, ki jih imajo na voljo žrtve za prijavo spolnih zlorab – žrtve pogosto o tovrstnih travmatičnih dogodkih spregovorijo šele po več letih. Nova pravila žrtvam omogočajo tudi pravico do odškodnine in dostop do specializirane strokovne pomoči. Na področju preventive pa se uvaja obvezno preverjanje preteklosti za vse osebe, ki pri svojem delu ali prostovoljni dejavnosti prihajajo v stik z otroki, medtem ko bodo imeli strokovni delavci strogo dolžnost prijave vsakega suma zlorabe.