Mark Zuckerberg nasprotuje upočasnitvi razvoja umetne inteligence

Izvršni direktor podjetja Meta Mark Zuckerberg je zavrnil pozive k zaustavitvi ali upočasnitvi svetovnega razvoja umetne inteligence.

Zuckerberg je v torek v objavi na omrežju X zapisal, da ima vsak laboratorij odgovornost, da varno uri svoje modele umetne inteligence, za to pa ima možnost sprejetja lastnih ukrepov.

Ob tem je naznanil, da je Meta zaradi zagotovitve varnosti za več mesecev odložila izdajo svojega najnovejšega modela umetne inteligence Muse. "To smo preprosto naredili v okviru našega vsakodnevnega dela, saj je bilo prav tako za ljudi kot za nas," je dejal.

Glede nedavnih pozivov vodilnih v drugih velikih tehnoloških podjetjih k upočasnitvi razvoja zmogljivosti umetne inteligence pa je dejal, da zaupanje in usklajenost hitro postajata najpomembnejši lastnosti, po katerih se bodo razlikovali agenti in modeli umetne inteligence.

"Laboratoriji nosijo veliko odgovornost"

"Laboratoriji nosijo veliko odgovornost, če njihovi modeli povzročijo škodo, zato imajo tudi močan motiv, da se temu izognejo," je ocenil.

Ob tem je pozval k vzpostavitvi "večjega in bolj raznolikega ekosistema ocenjevalcev" sistemov in modelov umetne inteligence v celotni panogi, s čimer je posredno kritiziral podjetje Anthropic, ki mu očitajo, da želi uporabiti ocenjevalce, s katerimi tesno sodeluje.

Zuckerbergovo objavo so podprle vplivne osebnosti iz Silicijeve doline, ki so blizu Beli hiši in nasprotujejo številnim opozorilom o morebitnih nevarnostih umetne inteligence za človeštvo ter pozivom k upočasnitvi njenega razvoja.

Na drugi strani sta direktor podjetja OpenAI Sam Altman in ustanovitelj xAI Elon Musk v soboto podprla poziv direktorja podjetja Anthropic Daria Amodeija k upočasnitvi razvoja umetne inteligence. "Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je zapisal Amodei.

Kot je opozoril, se je razvoj umetne inteligence v zadnjih mesecih drastično pospešil, modeli umetne inteligence pa so postali sposobni samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je dodal.

V zadnjem času se vse bolj krepijo tovrstna svarila in pozivi k bolj nadzorovanemu in odgovornemu razvoju teh tehnologij, ki bi lahko ušle izpod človeškega nadzora. Ameriško in svetovno javnost je denimo julija pretreslo razkritje kibernetskega incidenta, v katerem so agenti umetne inteligence OpenAI na lastno pest vdrli v platformo Hugging Face. Sledilo je več podobnih razkritij, kar je sprožilo pomisleke glede varnosti, svarila in pozive k upočasnitvi razvoja naprednih modelov umetne inteligence.

Ob tem je več kot tisoč zaposlenih v tehnološki industriji, tudi iz podjetij OpenAI in Anthropic, podpisalo peticijo, s katero so pozvali ameriško vlado, naj podpre usklajeno upočasnitev razvoja umetne inteligence.