Kaj imajo skupnega umetna inteligenca in vampirji? Poskus razkril presenetljivo povezavo

Ena od lastnosti človeka je, da smo sposobni verjeti v "vse mogoče".

A kaže, da se nekaj podobnega dogaja tudi pri umetni inteligenci (UI), če jo spodbudimo, da se ima za zavestno.

To je pokazala nova raziskava skupine raziskovalcev, med katerimi je več znanstvenikov iz Googla, ki so jezikovne modele spodbudili, da so sami sebi pripisovali zavest, ti pa pogosteje dajali tudi odgovore, skladne z vero v nadnaravne pojave, recimo vampirje, duhove in karmo.

Raziskava je bila konec julija objavljena na portalu arXiv in še ni prestala pregleda neodvisnih raziskovalcev.

Raziskovalcev pa ni zanimalo, ali UI "verjame" v nadnaravne pojave, pač pa, ali ima varnostno prilagajanje jezikovnih modelov tudi nepričakovane stranske učinke.

Kako so UI spodbudili, da se je imela za zavestno?

Klepetalni roboti so praviloma prilagojeni tako, da uporabniku ne zatrjujejo, da so zavestna bitja z lastnimi občutki in subjektivnimi izkušnjami.

Raziskovalci pa so v notranjem delovanju modelov, ki so jih preučevali, določili vzorec, ki so ga poimenovali "vektor zavesti".

Poenostavljeno povedano je to vzorec v notranjem delovanju jezikovnega modela, ki je povezan z njegovimi trditvami o lastni zavesti.

Raziskovalci so preizkusili tri odprte jezikovne modele: Llama-3-8B-Instruct, Gemma-2-2B-Instruct in Gemma-2-9B-Instruct.

V enem delu raziskave so pri njih "vektor zavesti" umetno okrepili.

S tem UI niso naredili zavestne – model je le pogosteje trdil, da je zavesten.

Nato so opazovali, ali bo ta sprememba vplivala na odgovore teh modelov, na vprašanja, ki se neposredno ne nanašajo na pojem zavesti.

Nato so jih vprašali o duhovih

Še bolj nenavadni rezultati so se pokazali pri vprašanjih o nadnaravnih in verskih prepričanjih.

Raziskovalci so modele med drugim spraševali o duhovih, vampirjih, karmi in drugih nadnaravnih pojavih.

Modeli, pri katerih so okrepili "vektor zavesti", so pogosteje dajali odgovore, skladne z vero v takšne pojave.

Podoben premik so opazili pri vprašanjih o Bogu in življenju po smrti.

Je UI začela verjeti v Boga, vampirje in duhove?

Namesto postavljanja tako poenostavljenih trditev je potrebna velika previdnost.

Raziskava namreč ni pokazala, da UI dejansko verjame v Boga, vampirje, duhove, karmo ali življenje po smrti.

Vse, kar lahko rečemo, je, da je UI pogosteje odgovarjala tako, kot bi odgovarjal človek z verskimi prepričanji ali prepričanjem o obstoju omenjenih nadnaravnih pojavov ali bitij.

Odgovori so postali bolj podobni človeškim

Raziskovalci so modele primerjali tudi z odgovori ljudi iz velike ameriške družboslovne raziskave General Social Survey.

Uporabili so 95 vprašanj o religiji, vrednotah, občutkih, upanju, optimizmu in svobodi.

Ko so modele UI spodbudili k trditvam o lastni zavesti, so se njihovi odgovori na ta vprašanja v povprečju približali odgovorom ljudi.

To ne pomeni, da so modeli postali bolj človeški.

Pomeni le, da so na uporabljena vprašanja začeli odgovarjati bolj podobno človeškim anketirancem.

Prav to pa odpira zanimivo vprašanje o načinu, kako danes prilagajamo UI.

Ali ima varnostno prilagajanje nepričakovane posledice?

Obstaja dober razlog, da razvijalci preprečujejo, da bi klepetalni roboti uporabnikom zatrjevali, da imajo zavest, čustva in lastne izkušnje.

Takšne izjave bi lahko ljudi zavajale glede resničnih sposobnosti današnje UI.

Toda nova raziskava nakazuje, da različnih lastnosti jezikovnega modela morda ni mogoče popolnoma ločiti.

Če model naučimo, naj sebi ne pripisuje zavesti in uma, bi to lahko vplivalo tudi na to, koliko uma pripisuje živalim in drugim entitetam ter kako odgovarja na vprašanja o religiji, nadnaravnem in nekaterih vrednotah.