Strokovnjak: Obstaja več kot 10-odstotna verjetnost, da bo UI v naslednjem desetletju "ubila vse ljudi"

Evan Hubinger, vodilni raziskovalec na področju varnosti v podjetju za umetno inteligenco Anthropic, je v nedavni objavi na platformi X opozoril na vse hitrejši razvoj UI, piše BBC.

Čeprav je tveganje za to nizko, je izrazil skrb, da bi se tehnologija kmalu razvila do te mere, da bi predstavljala grožnjo ljudem. Po njegovem mnenju namreč obstaja več kot 10-odstotna verjetnost, da bo UI v naslednjem desetletju "ubila vse ljudi".

V objavi sicer ni pojasnil, kako bi sistemi UI lahko v prihodnosti privedli do te točke. Verjame pa, da se podjetje Anthropic trudi po najboljših močeh, čeprav za zdaj še nimajo točnega načrta, kako to preprečiti.

Opozorilo je sicer zapisal v odzivu na objavo Jacoba Coxona, ki je na isti platformi sporočil, da je zapustil podjetje Anthropic.

"Nobeno podjetje ne ravna odgovorno," je poudaril Coxon in uporabnike pozval, naj ne podcenjujejo moči tovrstne tehnologije. "To bodo kmalu postali sistemi, ki bodo presegali človeške sposobnosti in bodo lahko vdrli v karkoli, čez noč revolucionirali katero koli področje ter pridobili moč in vire."

V zadnjem času več pozivov strokovnjakov

Hubinger sicer deluje na področju usklajevanja umetne inteligence (AI alignment, op. p.), katerega cilj je zagotoviti, da sistemi UI delujejo v skladu s človeškimi vrednotami in načeli.

Številni strokovnjaki pa menijo, da ti poskusi niso dovolj uspešni. V zadnjem času se po njihovih navedbah pojavlja več znakov, da imajo podjetja težave z nadzorovanjem UI. To naj bi med drugim dokazovali incidenti letošnjega poletja, ko so avtonomni sistemi UI izvedli kibernetske napade. Pri tem so bila uporabljena orodja podjetij OpenAI, Anthropic in Meta.

Jakob Pachocki iz OpenAI je medtem nedavno pozval k previdnosti pri razvoju UI in opozoril, da bodo morda potrebni dodatni ukrepi, da lahko "ljudje ohranijo nadzor nad prihodnostjo". K upočasnitvi razvoja sta pozvala tudi Dario Amodei in Jared Kaplan, soustanovitelja Anthropica.

Kar 1.300 zaposlenih na področju UI pa je v odprtem pismu ameriško vlado pozvalo, naj podpre mednarodna prizadevanja za bolj nadzorovan razvoj naprednih sistemov UI.