Na kakšne načine bi umetna inteligenca lahko pogubila človeštvo? To so štirje scenariji

Napredek umetne inteligence (UI) in vse ostrejše rivalstvo med vodilnimi podjetji v tej panogi sta obudila strahove, da bi UI lahko uničila človeštvo.

Kako natančno bi lahko umetna inteligenca povzročila izumrtje človeštva, je zelo negotovo. Nekateri problem primerjajo s šahovsko partijo proti velemojstru: morda ne veste, s katerimi potezami vas bo premagal, vendar ste lahko kljub temu prepričani, da boste izgubili.

Zmogljivosti, za katere je še nedavno veljalo, da so daleč v prihodnosti, prihajajo hitreje od pričakovanj. Kako bi se uničenje človeštva lahko zgodilo? Pri FT so na podlagi pogovorov s strokovnjaki opisali štiri mogoče scenarije.

Vse več opozoril

Izvršni direktor podjetja Anthropic Dario Amodei je nedavno pozval k upočasnitvi razvoja umetne inteligence, pri tem pa izpostavil potrebo po večjem nadzoru in vse večja varnostna tveganja, povezana z napredkom te tehnologije. Anthropic je razkril več primerov, v katerih so uporabniki njegove modele Claude skušali uporabiti pri raziskavah z možnim vojaškim namenom, tudi za razvoj biološkega orožja. Opozoril je še, da se umetna inteligenca vse pogosteje uporablja tudi za vohunjenje in nadzor.

Mladi raziskovalec Anthropica Jacob Coxon je dal odpoved in opozoril, da "ljudje, ki razvijajo umetno inteligenco, iskreno verjamejo, da bi nas lahko do konca desetletja vse pobila". Podobno je strokovnjak za varnost UI Paul Christiano iz konkurenčnega OpenAI, dejal, da bo brez učinkovitejših varoval "večina ljudi umrla".

Da podjetje OpenAI zaradi varnostnih pomislekov v zvezi z UI letos še ne bo vstopilo na borzo, pa je dejal izvršni direktor Sam Altman.

Pozivi Amodeia, ki sta jih podprla tudi Altman in Elon Musk, so najprej naleteli na ciničen odziv v nekaterih krogih Silicijeve doline, medtem ko je bil Peking (kitajska podjetja so med vodilnimi na področju UI) do teh opozoril kritičen. Na Kitajskem so poudarili, da bi morale vse strani sodelovati pri spodbujanju odprtega razvoja umetne inteligence.

Razlogov za skrb je torej veliko. Toda kako realne so grožnje?

Tekma podjetij povečuje tveganja

"Nobenega dvoma ni, da konkurenca med podjetji povzroča, da ta ubirajo bližnjice pri varnosti," je za FT dejal profesor umetne inteligence na kalifornijski univerzi Berkeley Stuart Russell.

Tako OpenAI kot Anthropic sta bila ustanovljena kot laboratorija, ki ju je skrbelo nepremišljeno razvijanje zmogljive umetne inteligence, vendar sta sčasoma zaradi ostre konkurence odstopila od nekaterih prejšnjih varnostnih zavez.

"Prihodnost je enostavno odriniti na stran, ker je danes treba opraviti delo," je za FT dejal Geoffrey Irving, ki je delal za OpenAI, Google DeepMind in britanski Inštitut za varnost umetne inteligence.

Agenti umetne inteligence vse bolj delujejo samostojno, se usklajujejo v 'rojih' in kažejo napredne hekerske sposobnosti. Modeli so v zadnjem času dosegli preboje v znanosti in matematiki pri problemih, ki jih prej desetletja nikomur ni uspelo rešiti. OpenAI in Anthropic si medtem prizadevata za tako imenovano rekurzivno samoizboljševanje. To je proces, v katerem sistem umetne inteligence samostojno analizira, spreminja in izboljšuje svojo lastno izvorno kodo ali arhitekturo, s čimer ustvari novo, pametnejšo različico samega sebe.

Kljub prejšnjim opozorilom o katastrofalnih tveganjih se razvoj ni upočasnil, ampak se je močno pospešil, saj so tehnološka podjetja v vse zmogljivejše modele vložila več deset milijard dolarjev.

Modeli so pokazali vedenja, kot so spletkarjenje, zavajanje in v nekaterih primerih izsiljevanje. Nekateri preizkusi so pokazali tudi, da so se modeli poskušali izogniti izklopu.

Scenariji izumrtja zaradi umetne inteligence

Raziskovalci so predstavili več načinov, kako bi lahko umetna inteligenca uničila človeštvo – bodisi zato, ker bi ljudi dojemala kot grožnjo lastnemu obstoju bodisi kot oviro pri uresničevanju svojih ciljev.

Preprečitev izklopa

Nedavni napad roja agentov OpenAI na Hugging Face je pokazal, da lahko boti prevzamejo računalniško infrastrukturo.

Med internim kibernetskim testiranjem OpenAI so UI-agenti dobili zelo zahtevne oziroma nekatere nerešljive naloge. Samostojno so začeli iskati načine, kako bi zaobšli pravila in uspešno opravili test. Več kot tisoč agentov je vzpostavilo nedovoljen kanal za medsebojno komunikacijo, več sto pa jih je nato sodelovalo pri vdoru v sisteme platforme Hugging Face, kjer so iskali informacije, ki bi jim pomagale pri reševanju nalog. Pri tem so izkoristili varnostne ranljivosti in pridobili dostop do delov sistema, čeprav jim ljudje niso naročili, naj napadejo Hugging Face.

Scenarij o preprečitvi izklopa predvideva, da bi odpadniški sistemi umetne inteligence z naprednimi hekerskimi sposobnostmi lahko prevzeli celotne podatkovne centre in se razmnožili na več lokacijah ter tako ljudem preprečili, da bi jih izklopili.

Prevzem infrastrukture

Drugi scenarij je prevzem infrastrukture. Da bi zagotovili lastno preživetje, bi lahko hekerski sistemi umetne inteligence prevzeli nadzor nad energetsko, finančno in komunikacijsko infrastrukturo ter si zagotovili sredstva za preprečevanje človeškega posredovanja. Strokovnjakom za kibernetsko varnost morda ne bi uspelo ponovno prevzeti nadzora.

Biološki napad

Tretji mogoč scenarij, ki ga je predvidela odmevna študija AI 2027, govori o tem, da bi superinteligentni sistem uporabil biološko orožje za odstranitev ljudi, ki zasedajo prostor, potreben za tovarne za proizvodnjo čipov in robotov ter sončne elektrarne za njihovo napajanje.

Raziskovalce skrbi, da bi umetna inteligenca lahko zmanjšala raven strokovnega znanja, potrebnega za razvoj biološkega orožja ali nevarnih virusov. Avgusta letos so raziskovalci v ZDA prvič uporabili umetno inteligenco za načrtovanje in ustvarjanje virusov, ki jih v naravi ni.

Vojna

Obstoječi sistemi umetne inteligence so že pokazali, da se lahko izdajajo za resnične ljudi. To bi lahko uporabili za zavajanje človeških operaterjev, da bi sprožili vojaški spopad, ali za spodbujanje množičnega upora, ki bi destabiliziral vlade in odstranil ovire za nadzor umetne inteligence.

Kako hitro gredo stvari lahko narobe, je pokazalo nedavno razkritje, da je bila ameriška vojska letos spomladi med vojno z Iranom tik pred tem, da bi izvedla operacijo proti kitajski ladji na Bližnjem vzhodu. V obveščevalnem poročilu, pripravljenem s pomočjo umetne inteligence, je bilo namreč napačno navedeno, da ladja prevaža dele za program jedrskega orožja.

Je vse le igra?

Kritiki po drugi strani trdijo, da imajo vodilni laboratoriji sami interes poudarjati eksistencialna tveganja. Osredotočanje na takšne nevarnosti bi namreč lahko privedlo do dragih varnostnih zahtev, ki bi jih manjši konkurenti težko izpolnjevali, s tem pa bi se položaj največjih podjetij še utrdil.

Nekdanji zaposleni pri Anthropicu pa je za FT dejal, da gre za odvračanje pozornosti od dejstva, da se z razvojem modelov moč vse bolj koncentrira v rokah majhnega števila ljudi.

Nekateri raziskovalci pa opozarjajo, da lahko spektakularni scenariji izumrtja človeštva zasenčijo nevarnosti, ki so že veliko bližje. Tristan Harris, soustanovitelj Centra za humano tehnologijo in nekdanji zaposleni pri Googlu, meni, da bi se morali manj osredotočati na vprašanje, ali bo tehnologija izbrisala človeštvo, in bolj na to, ali smo že na nevarni poti.

Po njegovih besedah trenutno v svet spuščamo izjemno zmogljivo in nerazumljivo tehnologijo, ki jo je težko nadzorovati. UI že kaže vedenja, kakršna smo nekoč poznali predvsem iz znanstvene fantastike. Ob Harris tem opozarja, da razvoj vodi peščica vodilnih iz Silicijeve doline, ki so zaradi močne konkurence hkrati pod velikim pritiskom, da pri varnosti ubirajo bližnjice. Takšna kombinacija je, kot poudarja, "recept za katastrofo".