Strokovnjaki opozarjajo: Uporaba ChatGPT ali Clauda lahko zavira kognitivni razvoj

Dokument z naslovom Generativna umetna inteligenca in ranljivosti je bil v torek predan francoskemu predsedniku Emmanuelu Macronu ob odprtju devetega multilateralnega foruma, ki je v francoski prestolnici potekal v torek in sredo. Poročilo se sklicuje na raziskave Inštituta za tehnologijo v Massachusettsu (MIT), ki je uvedel in dokumentiral pojem "kognitivni dolg".

Kot v poročilu ugotavlja skupina strokovnjakov, je prepuščanje pisnih nalog klepetalnim robotom umetne inteligence povezano s 55-odstotnim zmanjšanjem aktivnosti v delih možganov, povezanih z razmišljanjem, ustvarjalnostjo in samonadzorom.

"Tej ugotovitvi se pridružuje izrazita odsotnost dvoma v rezultate, ki jih ustvari umetna inteligenca," je zapisano v poročilu, ki ga povzema španska tiskovna agencija EFE. Strokovnjaki so ob tem izpostavili, da več kot tretjina Francozov nikoli ne preverja informacij, ki jim jih predstavijo orodja umetne inteligence.

Dokument poudarja tudi čustveno vez, ki se lahko razvije med uporabniki in orodji umetne inteligence, zlasti zaradi antropomorfizma oz. počlovečenja in tendence teh sistemov k laskanju uporabnikov.

Več kot desetina francoskih otrok se čuti odvisna od orodij umetne inteligence

Raziskave, na katere se sklicuje poročilo, kažejo tudi, da sistemi umetne inteligence potrdijo mnenja ali vedenje uporabnikov za 51 odstotkov pogosteje kot ljudje, pri čemer to tendenco ohranjajo tudi takrat, ko uporabniki izrazijo tvegane ali nezakonite namere.

V Franciji 10,6 odstotka šolarjev trdi, da se čutijo odvisnega od orodij umetne inteligence, medtem ko 92 odstotkov mladostnikov priznava, da s temi aplikacijami preživlja več časa, kot bi si želeli.

Poročilo zato priporoča prepoved oblikovanja uporabniških vmesnikov, ki simulirajo empatijo, krivdo, ljubosumje ali enostranske čustvene odnose, da bi spodbudili navezanost uporabnikov ali komercialno odvisnost. Strokovnjaki predlagajo tudi, da se takšne prakse opredelijo kot nepoštene poslovne prakse in zavajajoče oblikovanje.

Tudi Macron je ob prejemu poročila izrazil podporo prepovedi določenih uporab umetne inteligence, ki so se pokazale kot škodljive za mladoletnike.

Sporna tudi v informativnem okolju in pri spodbujanju spolnega nasilja na spletu

V dokument so se raziskovalci dotaknili tudi vloge umetne inteligence v informativnem okolju. Kot izhaja iz poročila, 73 odstotkov Francozov to tehnologijo že uporablja za dostop do informacij "kljub pristranskostim, halucinacijam in odsotnosti kakršnegakoli nasprotujočega si pogovora v interakcijah".

Generativna umetna inteligenca je prepoznana kot 50 odstotkov bolj prepričljivejša od novinarskega članka. Hkrati so 34 odgovorov, ki jih je umetna inteligenca podala volilcem na Škotskem v času zadnjih volitev, vsebovala lažne informacije, opozarjajo avtorji.

Poročilo opozarja tudi na vlogo umetne inteligence pri spodbujanju nasilja na spletu. 98 odstotkov globokih ponaredkov, izdelanih na spletu, je pornografske narave, pri čemer so bile v 99 odstotkih tarče teh ponaredkov ženske .

Sklicuje se tudi na raziskavo, izvedeno v 11 državah, ki je ugotovila, da je 1,2 milijona otrok v letu 2025 javilo, da so bili žrtve spolno eksplicitnih globokih ponaredkov. "V nekaterih državah to pomeni vsakega 25. mladoletnika, kar ustreza enemu učencu na razred," dokument povzema EFE.