V osrčju tehnološkega sveta želijo "stikalo za izklop" najnaprednejše umetne inteligence

Izvršni ukaz sam po sebi ne uvaja obveznega stikala za izklop. Državnim organom nalaga, naj do 16. novembra pripravijo priporočila o tem, ali in kako bi bilo mogoče takšen sistem uvesti. Predlagano stikalo bi omogočilo zasilno zaustavitev naprednega modela, če bi ta odpovedal ali ušel izpod nadzora, poroča francoska tiskovna agencija AFP.

Demokratski guverner Gavin Newsom je potezo utemeljil z navedbami, da ameriška zvezna vlada na področju nadzora nad umetno inteligenco ne ukrepa dovolj.

Predsednik Donald Trump je svarila pred prehitrim razvojem umetne inteligence ta teden označil za pretirana. Ameriška tehnološka podjetja je pozval, naj nadaljujejo razvoj tehnologije, da bi ZDA ohranile prednost pred Kitajsko.

Kalifornija je središče ameriške tehnološke industrije

Kalifornija je središče ameriške tehnološke industrije in sedež številnih podjetij, ki razvijajo najnaprednejše modele umetne inteligence. "Ne čakamo na ukrepanje, ampak bomo pospešili delo na področju temeljitega in odgovornega nadzora nad umetno inteligenco, preden bo prepozno," je dejal Newsom.

Njegov izvršni ukaz predvideva tudi, da bi podjetja, ki razvijajo najnaprednejše modele umetne inteligence, neodvisnim strokovnjakom morala omogočiti dostop do svojih laboratorijev. Ti strokovnjaki bi izvajali redne varnostne preglede in ocenjevali skladnost sistemov s predpisi.

Kalifornijske oblasti naj bi poleg tega preučile razširitev obveznosti poročanja o tako imenovanih incidentih izgube nadzora. Gre za primere, ko se sistem začne obnašati nepredvidljivo ali zapusti okolje, v katerem naj bi bil omejen.

Med povodi za nove ukrepe je bil tudi julijski incident, povezan s platformo Hugging Face, pri katerem so avtonomni agenti, zgrajeni na modelih podjetja OpenAI, med internim preizkusom zapustili testno okolje. Primer je skupaj z drugimi incidenti okrepil razprave o tem, ali razvijalci še lahko v celoti nadzorujejo vse bolj zmogljive sisteme umetne inteligence.

Nekdanji raziskovalec podjetja Anthropic Jacob Coxon je pred kratkim dejal, da posamezniki, ki razvijajo to tehnologijo, verjamejo, da bi lahko do konca desetletja predstavljala eksistenčno grožnjo človeštvu. Izvršni direktor Anthropica Dario Amodei je nato pozval k previdnosti in upočasniti razvoja.

Podporo ideji upočasnitve razvoja teh modelov so izrazili tudi izvršni direktor OpenAI Sam Altman, podjetnik Elon Musk in vodja Google DeepMinda Demis Hassabis. Slednji se je že zavzel za oblikovanje globalnega regulativnega telesa pod vodstvom ZDA.