Zveza potrošnikov: Ljudje ne bodo mogli vedeti, ali je slika resnična

presenečenje, fake news, lažne novice, mobilni telefon

PROFIMEDIA

Ljudje ne bodo mogli vedeti, ali je slika, besedilo, zvok ali video resničen ali sintetičen. Potrebujemo zakonodajo, opozarjajo pri Zvezi potrošnikov Slovenije.

Zveza potrošnikov Slovenije (ZPS) skupaj z drugimi organizacijami za zaščito potrošnikov v EU in ZDA opozarja, da generativna umetna inteligenca (AI) ogroža pravice potrošnikov in briše meje med resnično ter umetno vsebino.

“Zavedati se moramo, da generativna umetna inteligenca lahko razširja popolnoma ponarejene vsebine, kar lahko vodi do krize zaupanja, saj ljudje ne bodo mogli vedeti, ali je slika, besedilo, zvok ali video resničen ali sintetičen,” so zapisali pri ZPS.

Generativna umetna inteligenca ali generativni AI je vrsta umetne inteligence, ki je sposobna generirati ne le besedilo, pač pa tudi izvirne slike ali druge večpredstavnostne vsebine, na podlagi zahtev. Primer generativne AI je na primer fotografija “papeža v bundi“, ki je postala viralna pred nekaj tedni.

Poleg možnosti prevar in dezinformacij uporaba generativne umetne inteligence (AI) vzbuja resne pomisleke tudi glede pravic in varnosti potrošnikov, opozarjajo pri ZPS.

“Umetna inteligenca ima ogromen potencial, vendar morajo potrošniki prepoznati tudi nekatere pasti, predvsem v zvezi z njihovo zasebnostjo in varnostjo,” pravi Petra Lovišček z zveze potrošnikov. “V času, ko še čakamo na oblikovanje regulativ na področju umetne inteligence, je ključnega pomena, da se osredotočimo na ozaveščanje in opolnomočenje potrošnikov,” še dodaja.

Nevarnost za zasebnost potrošnikov pri uporabi AI se kaže zato, ker se generativni sistemi umetne inteligence izobražujejo z gradivom, pridobljenim s spleta. Ta gradiva običajno vsebujejo veliko osebnih podatkov, ki so bili obdelani brez zakonite pravne podlage.

Nujna je dobra zakonska regulativa

Da potrebujemo zakonsko regulativo o AI, ki bo potrošnike zaščitila pred škodljivo uporabo te tehnologije, poudarjajo tudi pri drugih potrošniških organizacijah. “Institucije EU pozivamo, naj se uprejo močnemu lobiranju velikih tehnoloških podjetij, ki si prizadevajo da bi ublažili zaščito v nastajajočem zakonu,” pravi Ursula Pachl, namestnica generalnega direktorja Evropske potrošniške organizacije. Ustrezni organi pregona potrebujejo vsa potrebna sredstva in pristojnosti za spremljanje tehnološkega razvoja in za ukrepanje proti podjetjem, ki uporabljajo generativno umetno inteligenco brez upoštevanja zakonodaje, so še zapisali pri ZPS.

Poudarjajo pa, da bo preteklo več let, preden bomo dobili kakovosten mednarodni pravni okvir, ki bo potrošnike ustrezno zaščitil. Sicer že danes nastaja regulativa o AI. Pred slabim tednom, 14. junija, se je Evropski parlament dogovoril zakonu o umetni inteligenci (AI Act) in trenutno potekajo pogajanja z Evropsko komisijo ter Svetom EU, so sporočili z ZPS.

Pričakujejo, da bo zakon pomembno vplival na razvoj in uporabo umetne inteligence. Opozarjajo pa, da ljudje to tehnologijo že uporabljajo in škoda nastaja zdaj, v tem trenutku. Zato je pomembno, da nacionalni organi z odločnim ukrepanjem v času do sprejema evropske uredbe zapolnijo vrzel. Tako je ZPS je danes poslala Poziv k preiskavi generativne umetne inteligence na ministrstvo za digitalno preobrazbo, ministrstvo za visoko šolstvo znanost in inovacije, ministrstvo za gospodarstvo, turizem in šport ter v vednost informacijskemu pooblaščencu.

V času do pričetka uporabe zakonodaje EU o umetni inteligenci morajo pristojni organi raziskati, kje lahko novi generativni izdelki in storitve, ki temeljijo na umetni inteligenci, škodujejo potrošnikom, in uveljaviti obstoječo zakonodajo o varstvu podatkov ter varstvu potrošnikov. Podjetja ne morejo biti oproščena upoštevanja obstoječih predpisov EU. Prav tako se s potrošniki ne sme manipulirati ali jih zavajati samo zato, ker je ta tehnologija nova, so zapisali pri ZPS.

Kaj morate vedeti o manipulaciji generativne umetne inteligence?

Kako ločiti umetno vsebino od resnične? Generativni modeli umetne inteligence imajo zmožnost ustvarjanja sintetične vsebine, ki je zelo podobna resnični vsebini, vključno z dialogi, glasovi, fotografijami in videoposnetki.
Generativna AI vpliva na ljudi. Študije so pokazale, da lahko generatorji besedil, ki simulirajo človeški dialog, vplivajo na čustva, razpoloženja in mnenja ljudi.
Močnejši kot je generativni model AI, večja je možnost manipulacije. Gre za kompleksne sisteme, ki imajo v ozadju ogromne količine materiala, in zato lahko dajejo vtis nezmotljivosti. Modeli ustvarjajo vsebine, ki so videti prepričljive in pravilne, a so dejansko napačne. To še posebej velja za generatorje besedila. ChatGPT, denimo, lahko ustvari besedilo, ki je videti zelo prepričljivo in temelji na dejstvih, vendar vsebuje dejanske napake ali zmote.

Generativni AI se lahko pripišejo človeške lastnosti. Ljudje živalim ali predmetom radi pripisujemo človeške lastnosti in sposobnosti, ko ti kažejo znake človečnosti, kot so obrazna mimika, vedenjski vzorci ali navidezne osebnostne lastnosti. Enako se zgodi tudi pri interakciji z generativnimi modeli umetne inteligence, zlasti z generatorji besedil.
Generativna AI je prihodnost spletne vsebine. Poročilo Europola iz leta 2022 ocenjuje, da bo do leta 2026 približno 90 odstotkov spletne vsebine lahko ustvarjene z umetno inteligenco.
Internet nima varovalk proti zlorabam. Tudi če vsebina prvotno ni bila ustvarjena za širjenje dezinformacij, je narava interneta takšna, da se pri deljenju vsebine na različnih platformah hitro izgubi kontekst in se zabriše odgovornost tistega, ki jo je ustvaril.
Komu ali čemu bomo sploh še lahko zaupali? Ker se umetno ustvarjena vsebina lahko širi brez omejitev, lahko to pomeni dvom tudi v primerih, ko je vsebina resnična. Na primer, če žvižgač razkrije informacije, ki razkrivajo korupcijo, lahko obtoženi posameznik ali institucija verodostojno trdi, da je razkrito gradivo lažno.

Globoki ponaredki so lahko uničujoči. Podkategorija t. i. “globokih ponaredkov” (deepfake), ki lahko vsebuje še posebej uničujoč učinek na žrtve, je “deepfake” pornografija. Glede na študijo podjetja Sensity je 96 odstotkov deepfake slik spolno eksplicitnih slik žensk, ki niso privolile v ustvarjanje slik.
Ne smemo zanemariti okoljskega vidika: da bi obravnavali pomemben vpliv generativne umetne inteligence na okolje, bi morala podjetja razkriti, koliko energije porabijo, kako je pridobljena in še posebej, koliko ogljika model AI odda v celotnem življenjskem ciklu, vključno z usposabljanjem, razvojem, uvajanjem in uporabo.