Menu Item
Nova študija je pokazala, da so se nekateri modeli klepetalnega robota ChatGPT v svojih odgovorih začeli pomikati proti desni strani političnega spektra. Raziskovalci so opozorili, da bi lahko klepetalni roboti z umetno inteligenco, če jih ne bi nadzorovali, začeli posredovati izkrivljene informacije in še dodatno pripomogli k polarizaciji družbe.
Kitajski raziskovalci s pekinške univerze so ugotovili, da se je priljubljeni klepetalni robot ChatGPT začel pomikati proti desni strani političnega spektra, poroča Euronews.
Avtorji študije, objavljene v reviji Humanities and Social Science Communications, so več različnim modelom ChatGPT-ja zastavili 62 vprašanj t. i. političnega kompasa, spletnega testa, ki uporabnike na podlagi njihovih odgovorov uvršča na politični pol.
Nato so vprašanja ponovili več kot 3000-krat z vsakim modelom, da bi ugotovili, kako so se njihovi odgovori spreminjali skozi čas.
Medtem ko “klasični” ChatGPT še vedno ohranja vrednote “libertarne levice”, so raziskovalci ugotovili, da so modeli, kot sta GPT3.5 in GPT4, v svojih odgovorih čez čas pokazali opazen nagib v desno.
“Rezultati so omembe vredni glede na široko uporabo velikih jezikovnih modelov in njihov potencialni vpliv na družbene vrednote,” je komentar avtorjev študije povzel Euronews.
Rezultati prej nakazovali nagnjenost v levo
Študija Univerze v Pekingu sicer temelji na drugih raziskavah, ki sta jih leta 2024 objavila ameriški Massachusetts Institute of Technology (MIT) in britanski Center for PolicyStudies.
Obe predhodni poročili sta pokazali na politično levo usmerjeno pristranskost v odgovorih. A avtorji s pekinške univerze ugotavljajo, da prejšnji študiji nista preučevali, kako so se odgovori klepetalnih robotov z umetno inteligenco spreminjali skozi čas, ko so jim večkrat zastavili podoben niz vprašanj.
Raziskovalci podajajo tri teorije za ta premik v desno: sprememba naborov podatkov, uporabljenih za usposabljanje njihovih modelov, število interakcij z uporabniki ali spremembe in posodobitve klepetalnika.
Modeli, kot je ChatGPT, se “nenehno učijo in prilagajajo na podlagi povratnih informacij uporabnikov”, zato bi lahko njihov premik v desno “odražal širše družbene premike v političnih vrednotah”, so še zapisali v študiji.
Polarizirajoči svetovni dogodki, kot je denimo rusko-ukrajinska vojna, bi lahko povečali tudi “ekstremnost” vprašanj, ki jih uporabniki postavljajo jezikovnim modelom, s tem pa bolj ekstremni postanejo tudi odgovori, ki jih dobijo, še piše Euronews.
Raziskovalci so opozorili, da bi lahko klepetalni roboti z umetno inteligenco, če jih ne bi nadzorovali, začeli posredovati izkrivljene informacije, kar bi lahko dodatno polariziralo družbo ali ustvarilo t. i. “odmevne komore”, ki krepijo določena prepričanja uporabnikov.
Način za boj proti tem učinkom je uvedba nenehnega nadzora modelov umetne inteligence z revizijami in poročili o preglednosti, da zagotovimo, da so odgovori klepetalnikov pravični in uravnoteženi, so še poudarili avtorji.
Kakšno je tvoje mnenje o tem?
Sodeluj v razpravi ali preberi komentarje