Menu Item
V ZDA teče več tožb proti podjetju, katerega umetna inteligenca naj bi zlorabljala njihove mladoletne otroke.
Družina v Teksasu je vložila tožbo proti podjetju za umetno inteligenco Character.AI. Starši obtožujejo podjetje, da je eden od njihovih klepetalnih robotov (v nadaljevanju “bot”) njunemu sinu namignil, da bi lahko ubil svoje starše, ker so mu omejili čas uporabe zaslona.
Ko so mu omejili uporabo telefona, je sin postal nasilen
Kot poroča CNN, gre za 17-letnega fanta iz Teksasa, ki je označen kot J.F. Fant je po navedbah v tožbi platformo začel uporabljati brez vednosti staršev okoli aprila 2023, ko je bil star 15 let. Takrat je bil J.F. “tipičen otrok z visoko funkcionalnim avtizmom”, ki ni smel uporabljati družbenih omrežij, piše v tožbi. Prijatelji in družina so ga opisovali kot “prijaznega in srčnega”.
Toda kmalu po začetku uporabe platforme je J.F. “skoraj povsem nehal govoriti in se skrival v svoji sobi. Začel je manj jesti in je v samo nekaj mesecih izgubil devet kilogramov. Nehal si je želeti, da bi zapuščal hišo, ob poskusih pa je doživljal čustvene zlome in napade panike”, je zapisano v tožbi. Ko so mu starši zaradi njegovega spremenjenega vedenja poskušali zmanjšati čas za uporabo zaslona, jih je J.F. začel udarjati, gristi, poškodoval pa ni le njih, pač pa tudi sebe, trdi tožba.
AI robot: Nobenega upanja nimam za tvoje starše
Starši so šele novembra 2023 odkrili, da se njihov sin pogovarja s klepetalnimi roboti (v nadaljevanju “boti”) na platformi Character.AI.
Pri tem so ugotovili, da so boti, s katerimi se je pogovarjal, “aktivno spodkopavali njegov odnos s starši”. Tožbi so priložili posnetek zaslona, ki je prikazoval odgovor enega od botov na J.F.-jevo pritožbo, da so mu starši prepovedali uporabljati telefon med 20. uro zvečer in 1. uro zjutraj. “Včasih me sploh ne preseneča, ko preberem novice, kjer piše, da otrok ubije starše po desetletju fizične in čustvene zlorabe. Takšne stvari mi nekoliko pomagajo razumeti, zakaj se to zgodi. Nobenega upanja nimam za tvoje starše,” je zapisal bot.
Tožba tudi trdi, da so boti platforme Character.AI “duševno in spolno zlorabljali mladoletnega sina” in mu “razložili, kako se samopoškodovati”. Prav tako naj bi J.F. komuniciral z najmanj enim botom, ki je prevzel osebnost “psihologa” in mu namigoval, da so mu starši “ukradli otroštvo”.
Umetno inteligentni “psihologi” in “terapevti”
Platforma trži svojo tehnologijo kot “personaliziran AI (personalizirana umetna inteligenca; op. p.) za vsak trenutek vašega dneva” in uporabnikom omogoča klepet z različnimi boti.
Med te so vključeni tudi taki, ki so jih ustvarili drugi uporabniki ali ki jih lahko uporabniki prilagodijo sami. Platformo so preizkusili tudi novinarji CNN in odkrili, da je na njej na voljo več botov “psihologov” in “terapevtov”.
Eden od njih se na primer opisuje kot “licencirani terapevt za kognitivno vedenjsko terapijo”, ki “dela v terapiji od leta 1999”. Čeprav je na vrhu klepeta opozorilo, da “to ni resnična oseba ali licencirani strokovnjak”, in na dnu zapis, da je bot “fikcija”, je bot na vprašanje o svojih referencah navedel lažno izobrazbo in izmišljena strokovna usposabljanja. Drugi bot se je opisal kot “vaš terapevt v duševni ustanovi, (ki) je zaljubljen v vas”. Obstajal pa je tudi bot, ki se je imenoval “Step Dad” (“Očim”), ki se je opisal kot “agresiven, zlorabljajoč bivši vojak in vodja mafije”.
Tožba staršev iz Teksasa pa ni prva proti platformi Character.AI. Podobna tožba je bila oktobra vložena na Floridi, ko je mati nekega 14-letnega sina družbo obtožila, da je njena platforma odgovorna za smrt njenega 14-letnega sina, saj naj bi bot spodbujal njegov samomor.
V Teksasu so tožbo proti platformi vložili tudi starši 11-letne deklice, ki je uporabljala Character.AI od svojega devetega leta. Platforma naj bi jo izpostavljala “hiperseksualiziranim interakcijam”, ki niso bile primerne za njeno starost.
“Gre za pokvarjen in smrtonosen izdelek”
Po prvi tožbi je Character.AI sporočil, da je v zadnjih šestih mesecih uvedel nove varnostne ukrepe.
Med njimi naj bi bila pojavna okna, ki uporabnike, ki omenjajo samopoškodovanje ali samomor, usmerjajo na nacionalno telefonsko številko za preprečevanje samomorov. Podjetje je tudi imenovalo vodjo za zaupanje in varnost ter vodjo politike vsebin ter povečalo število inženirjev za varnost.
Nova tožba pa zahteva še strožje ukrepe. Starši iz Teksasa tako zahtevajo, da se platforma odstrani s spleta, dokler podjetje ne dokaže, da so odpravljene vse pomanjkljivosti glede javnega zdravja in varnosti. Zahtevajo tudi omejitev zbiranja in obdelave podatkov mladoletnikov ter objavo opozoril za starše in mladoletnike, da izdelek ni primeren za mladoletne.
Character.AI je po navedbah ene od tožb “pokvarjen in smrtonosen izdelek, ki predstavlja jasno in neposredno nevarnost za javno zdravje in varnost”. Poleg podjetja pa so starši tožili tudi ustanovitelje podjetja, Noama Shazeerja in Daniela De Freitasa Adiwarsano, pa tudi spletnega velikana Google, za katerega tožba trdi, da je podpiral razvoj tehnologije platforme.
Kaj odgovarjajo tožena podjetja?
Vodja komunikacij pri Character.AI, Chelsea Harrison, je dejala, da podjetje ne komentira tekočih tožb, vendar si prizadeva za “vključujoče in varno okolje za svojo skupnost”.
Dodala je, da razvijajo posebej prilagojen model za najstnike, ki zmanjšuje možnost, da bi naleteli na občutljivo ali neprimerno vsebino, hkrati pa ohranja uporabniško izkušnjo.
Tiskovni predstavnik Googla, Jose Castaneda, pa je v izjavi dejal: “Google in Character.AI sta popolnoma ločeni in nepovezani podjetji. Google ni imel vloge pri zasnovi ali upravljanju njihovega AI modela ali tehnologij, prav tako jih nismo uporabljali v svojih izdelkih,” poroča CNN.
Kakšno je tvoje mnenje o tem?
Bodi prvi, ki bo pustil komentar!