Botri UI opozarjajo na "eksplozijo inteligence", ki bi lahko bila pogubna

Avtorji raziskave so zaskrbljeni zaradi tako imenovane "eksplozije inteligence", ki jo opisujejo kot "dramatično", pri čemer lahko "dosežke, za katere bi sicer potrebovali leta, strnejo v mesece ali še manj".

Pri raziskovalnem članku sta poleg Nobelovca Geoffreyja Hintona in Yoshue Bengia, ki veljata za botra umetne inteligence (UI), sodelovala tudi Jack Clark, soustanovitelj podjetja Anthropic, in Jakub Pachocki, glavni znanstvenik pri OpenAI.

Raziskovalci so zaskrbljeni predvsem glede možnosti, da bi se sistemi umetne inteligence lahko izboljševali brez človeškega posredovanja, piše Guardian. Ko bi sistemi umetne inteligence na tem področju dosegli raven strokovnjakov, bi lahko en sam razvijalec upravljal delovno silo, ki bi bila po zmogljivostih enakovredna milijonom vrhunskih človeških raziskovalcev, navaja študija.

Avtorji menijo, da je avtomatizacija raziskav in razvoja umetne inteligence najverjetnejši sprožilec eksplozije inteligence, saj UI že sodeluje pri izboljševanju lastne tehnologije.

Vlade vsega sveta tako avtorji študije pozivajo k hitremu ukrepanju. "Eksplozija inteligence bi lahko bila tehnološki razvoj z najdaljnosežnejšimi posledicami v zgodovini človeštva. Leta napredka bi lahko skrčila na nekaj mesecev ali manj, ogrozila človeški nadzor nad sistemi umetne inteligence ter močno oslabila mehanizme nadzora in omejevanja moči znotraj držav, podjetij in vej oblasti ter med njimi," pišejo v študiji.

Preveč zmogljivi sistemi bi lahko omogočili biološke in kibernetske grožnje, ker pa bi bili ljudje vse manj vključeni v raziskave in razvoj UI, bi lahko izgubili možnost nadzora nad temi sistemi.

Avtorji študije so predlagali tudi nekaj ukrepov, ki bi lahko eksplozijo inteligence preprečili, med drugim obvezno pregledno poročanje o napredku pri raziskavah in razvoju UI ter vključevanje neodvisnih revizorjev v podjetja; omejevanje hitrosti, s katero se lahko UI v določenem časovnem obdobju izboljšuje; zagotavljanje popolne izolacije avtomatiziranih sistemov za raziskave in razvoj UI, da ti ne bi mogli uiti človeškemu nadzoru ter pripravo načrtov za ukrepanje v izrednih razmerah, ki bi lahko nastale.

Anthropic in OpenAI sta se že strinjala, da njune modele ocenjujejo neodvisni ocenjevalci, potem ko sta opozorila, da razvoj umetne inteligence z vidika varnosti dosega kritično točko, navaja Guardian.