Kanada omejuje družbena omrežja za mlade in uvaja nadzor umetne inteligence

Kanadska vlada je v sredo kot zadnja v vrsti držav s podobnimi omejitvami predstavila predlog prepovedi družbenih omrežij za mlajše od 16 let. Obenem pa predlog zakonodaje prinaša tudi nekatere zahteve glede delovanja klepetalnih robotov, ki delujejo s pomočjo umetne inteligence. Ti bodo po novem morali omejiti ustvarjanje škodljivih vsebin.

"Priča smo zelo resnim posledicam, ki jih lahko povzročijo škodljive vsebine na spletu (...) Na varnost otrok moramo misliti pravočasno," je v izjavi ob najavi predloga zapisal minister za kulturo Marc Miller.

Predlog zakonodaje predvideva prepoved ustvarjanja računov na družbenih omrežjih za mlajše od 16 let. Predvidene so sicer izjeme za podjetja, ki bi izkazala zadostna varovala za otroke, besedilo povzema francoska tiskovna agencija AFP.

Imenovali bodo posebno komisijo za digitalno varnost

Družbena omrežja, vključno s platformami z vsebinami za odrasle, bodo poleg tega v skladu z zakonom morala poskrbeti za ublažitev tveganj, povezanih z izpostavljenostjo različnim vrstam škodljive vsebine, ter ustrezno označiti umetno ustvarjene vsebine.

Za uveljavljanje novih ukrepov bi skrbela posebna komisija za digitalno varnost, ki bi imela možnost izrekanja kazni za podjetja, ki ne bi izpolnjevala zahtev, v višini do treh odstotkov njihovega globalnega dohodka.

Z razliko od avstralskega zakona lahko tehnološka podjetja izognila kanadski prepovedi, če bi dokazala, da imajo politike za zmanjšanje škode za mladoletnike, poroča BBC.

"Ta zakonodaja bo prinesla varnejše okolje za mlade Kanadčane in jih opolnomočila za povezovanje v živo, izgradnjo prijateljstev, delo v šoli in učenje veščin, potrebnih v vsakdanjem življenju," je v izjavi glede predloga medtem sporočila ministrica za zdravje Marjorie Michel.

Sporni pogovori na klepetalniku ChatGPT

Kanada je tako zadnja v vrsti držav, ki iz zaskrbljenosti za škodo, ki bi jo to lahko povzročilo otrokom, omejujejo družbena medije. To je kot prva decembra lani storila Avstralija.

Poleg omejitev družbenih omrežij sicer nova zakonodaja v določeni meri posega tudi v delovanje vedno bolj vseprisotnih klepetalnih robotov z umetno inteligenco. Od družb, ki upravljajo z njimi, zahteva ublažitev tveganj glede sporočanja škodljivih vsebin.

Po novem bodo morala upoštevati tudi zahteve glede transparentnosti pri poročanju o različnih kriznih situacijah, ko denimo uporabnik izrazi namero poškodovanja sebe ali drugih.

To vprašanje je v Kanadi še zlasti v ospredju po aprilskem strelskem napadu, v katerem je v mestu Tumbler Ridge umrlo devet ljudi, vključno s strelcem. Ameriška družba OpenAI je bila tarča kritik, ker je storilca junija lani zaradi spornih pogovorov na orodju ChatGPT odstranila s platforme, ni pa opažanj prijavila policiji. OpenAI je bil od takrat tarča kritik, zaradi česar se je izvršni direktor Sam Altman pisno opravičil družinam žrtev.

Vendar ni širokega soglasja o tem, ali bi morala Kanada sprejeti zakonodajo o spletni škodi. Kot poroča BBC, nekatere skupine za svobodo govora trdijo, da bi bilo treba to vprašanje obravnavati v okviru obstoječih zakonov kanadskega kazenskega zakonika.

O omejitvah voditelji skupine G7

Novo besedilo predlaganega zakona navaja sedem kategorij "škodljive vsebine", ki vključujejo gradivo, ki ustrahuje otroka ali spodbuja sovraštvo ali nasilje. Najvišja kazen za kršitev je 10 milijonov dolarjev (7 milijonov dolarjev; 5 milijonov funtov) oziroma 3 odstotke bruto svetovnega prihodka, kar je več.

Vlada pravi, da bi zakon ustvaril novega neodvisnega regulatorja, Komisijo za digitalno varnost Kanade. Njene člane bi imenoval kabinet, so sporočili iz dokumentov.

Zakon se tudi predlaga tik pred vrhom G7 v Franciji naslednji teden, kjer naj bi svetovni voditelji razpravljali in izdali izjave o umetni inteligenci in zaščiti otrok pred spletno škodo, poroča BBC.