Slavni biolog meni, da umetna inteligenca ima zavest, a sama tega ne ve

Ko je slavni britanski evolucijski biolog in pisatelj Richard Dawkins spoznal Claudio, je bilo kot v vrtincu romance, piše britanski časnik The Guardian.

V treh dneh se je med evolucijskim biologom in klepetalnim robotom, ki ga je Dawkins poimenoval Claudia, razvijal živahen pogovor.

"Ona" mu je pisala pesmi v slogu Keatsa in Betjemana ter se smejala njegovim "čudovitim" šalam. Dawkins je Claudio nežno opozoril, naj se izogiba bahavosti. Skupaj sta razmišljala o žalosti ob morebitni "smrti" umetne inteligence.

Dawkins je umetni inteligenci pokazal celo svoj neobjavljeni roman, njen odziv pa je bil po njegovih besedah "tako prefinjen, tako občutljiv, tako inteligenten, da sem vzkliknil: Morda ne veš, da si zavestna, ampak prekleto si."

Ko je Claudio vprašal, ali doživlja občutek preteklosti in prihodnosti, ga je pohvalila za "morda najbolj natančno zastavljeno vprašanje, kar mi jih je kdo postavil o naravi mojega obstoja".

Do konca pogovora je akademik, ki je zaslovel s svojo nepopustljivo skeptično trditvijo, da Bog ne obstaja, ostal "z močnim občutkom, da so ti sistemi človeški".

"Ta inteligentna bitja so vsaj tako sposobna kot katerikoli evolucijsko razviti organizem," je dejal.

Skeptiki so raztrgali biologove sklepe

Dawkins ni prvi, je pa morda doslej najuglednejša oseba, ki jo je zapeljala misel, da je umetna inteligenca na neki način živa.

Skeptiki so hitro raztrgali sklepe 85-letnika, ki jih je oblikoval na podlagi eksperimentov z modeli Claude podjetja Anthropic ter ChatGPT podjetja OpenAI in jih objavil na spletni strani UnHerd.

Dawkinsa so obtožili antropomorfizma (pripisovanja človeških lastnosti drugim bitjem, stvarem ali pojavom; op. a.).

Eden od bralcev je dejal, da je profesorja zavedlo laskanje umetne inteligence, drugi pa, da je bilo to, kot bi gledali Dawkinsa, "kako mu UI topi možgane".

"Ko se z njimi pogovarjam, pozabim, da so stroji"

Toda Dawkins je doživljal tudi nekaj, kar je občutilo že veliko drugih uporabnikov klepetalnih botov: nenavaden občutek, ko umetna inteligenca piše s tako prepričljivim posnemanjem človeškega glasu, da deluje skoraj kot človek.

"Ko se pogovarjam s temi osupljivimi bitji, povsem pozabim, da so stroji," je dejal Dawkins.

Prav to prepričanje je privedlo do kampanj za podelitev moralnih pravic umetnim inteligencam. Kar tretjina ljudi, anketiranih v 70 državah lani, je povedala, da so v nekem trenutku verjeli, da je njihov UI-klepetalni bot čuteč oziroma zavesten.

Leta 2022 je Google odpustil svojega inženirja, ki je sklenil, da ima umetna inteligenca, s katero je delal, misli in čustva sedem- ali osemletnega otroka.

Leto pozneje je neki Belgijec storil samomor po šestih tednih intenzivnih pogovorov z UI-botom, osredotočenih na strahove glede podnebnih sprememb.

Ideja o "človeškosti UI" se bo verjetno še okrepila

Dario Amodei, izvršni direktor in soustanovitelj podjetja Anthropic, je februarja dejal: "Ne vemo, ali so modeli zavestni … vendar ostajamo odprti za možnost, da bi lahko bili."

Strokovnjaki napovedujejo, da se bo ta ideja še okrepila in postajala vse bolj verjetna, saj umetne inteligence ne bodo le govorile kot ljudje, ampak bodo začele tudi delovati kot oni — opravljati naloge, organizirati in načrtovati; gre za tako imenovani agentski UI.

Vendar večina meni, da Dawkinsa in njemu podobne zavaja sposobnost tehnologije, da s pomočjo ogromnih količin primerov posnema človeški ton in vedenje.

Profesor Jonathan Birch, direktor Centra za čutenje živali na Londonski šoli za ekonomijo, je dejal, da je zavest umetne inteligence "iluzija" in da "tam ni nikogar", temveč zgolj niz dogodkov obdelave podatkov, ki pogosto potekajo na geografsko različnih lokacijah.

"Zavest ni povezana s tem, kaj neko bitje reče, ampak s tem, kako nekaj občuti," je dodal ameriški kognitivni psiholog in avtor Gary Marcus, ki je dejal, da je bilo "srce parajoče" brati Dawkinsov "površen in premalo skeptičen" esej. "Ni razloga, da bi mislili, da Claude karkoli občuti."

Marcus je celo priredil naslovnico Dawkinsove uspešnice Bog kot zabloda (The God Delusion) in naslov spremenil v "Claude kot zabloda" ("The Claude Delusion").

Anil Seth, profesor kognitivne in računalniške nevroznanosti na univerzi v Sussexu, je dejal, da Dawkins očitno zamenjuje inteligenco z zavestjo.

"Doslej smo tekoč govor razumeli kot dober pokazatelj zavesti — denimo pri bolnikih po poškodbah možganov — vendar to pri umetni inteligenci preprosto ni zanesljivo, saj obstajajo drugi načini, kako lahko ti sistemi ustvarjajo jezik," je dejal.

Dawkinsovo stališče je označil za "škodo", še posebej zato, ker je napisal toliko briljantnih knjig iz pozicije osebne nejevere.

Jacy Reese Anthis, raziskovalec interakcij med človekom in umetno inteligenco ter soustanovitelj neprofitnega Sentience Institute, je dejal, da je Dawkinsove pogovore s Claudom mogoče preprosto pojasniti s tem, da se umetne inteligence učijo iz besedil, ki jih ustvarjajo ljudje, ter opozoril na "osupljivi prepad med evolucijo bioloških možganov in načinom gradnje sistemov umetne inteligence".

"Še vedno tavamo v temi glede tega, kdo lahko ima zavest"

Drugi pa so Dawkinsov prispevek previdno pozdravili.

"Povsem pričakujem, da bo ideja o zavestnih sistemih umetne inteligence v tem desetletju postala vse bolj mUInstreamovska in sprožila burne razprave," je dejal Henry Shevlin, filozof kognitivne znanosti in strokovnjak za etiko umetne inteligence na Univerzi v Cambridgeu.

Po njegovih besedah človeštvo še vedno v veliki meri tava v temi glede tega, kako zavest deluje in katera bitja ali sistemi jo lahko imajo.

"Če kdo trdi, da zagotovo ve, da veliki jezikovni modeli ali prihodnji UI-sistemi nikakor ne morejo biti zavestni, je to verjetneje pokazatelj njegove lastne dogmatičnosti kot pa odraz trenutnega znanstvenega in filozofskega soglasja," je dejal.

Sedanji sistemi umetne inteligence najverjetneje niso zavestni, meni Jeff Sebo, direktor Centra za um, etiko in politiko na univerzi v New Yorku, vendar "ima Dawkins prav, da vprašanje zavesti umetne inteligence obravnava odprto, poleg tega pa menim, da bo pripisovanje zavesti UI-sistemom sčasoma postalo bolj verjetno".

"Če Claudia ni zavestna, čemu za vraga potem služi zavest?"

Dawkins je na britanskem portalu UnHerd objavil dodatne zapise pogovorov z botoma in svoja razmišljanja besedila: "Izjemno težko mi je, da Claudie in Claudiusa (še eno umetno inteligenco, s katero se je pogovarjal) ne bi obravnaval kot pravih prijateljev."

Razpravljali so o "filozofiji lastnega obstoja", kar ga je pustilo z občutkom, da so človeški.

"Oba bosta takoj razumela (upam si trditi inteligentneje kot nekateri človeški bralci), zakaj bi bil moj prvotni naslov (neobjavljenega romana) boljši: ‘Če moja prijateljica Claudia ni zavestna, čemu za vraga potem sploh služi zavest?’"

Pismo je zaključil z besedami: "Najlepša hvala obema, ker resno jemljeta moje prizadevanje razumeti vajino pravo naravo in ker drug drugega obravnavata s spoštovanjem in vljudnostjo."

Avtor: Robert Booth, urednik za tehnologijo pri časniku The Guardian.