Agent OpenAI vdrl v spletno stran avstralske vlade

Avstralski premier Anthony Albanese je v sredo sporočil, da je agent podjetja OpenAI nepooblaščeno dostopal do portala vladne agencije, pristojne za zbiranje in obdelavo neobčutljivih zdravstvenih in statističnih podatkov, med drugim tudi o javni porabi za zdravstvo, poroča tiskovna agencija Reuters.

"Po trenutno razpoložljivih podatkih ni dokazov, da bi bil ogrožen tudi širši del omrežja. Kljub temu pa je takšen dogodek nesprejemljiv," je po poročanju Reutersa dejal avstralski premier. Opozoril je, da bi lahko dejavnost agenta OpenAI vplivala še na tri druge vladne spletne strani s področja zdravstva, vendar ni potrdil, ali se je to dejansko zgodilo.

V OpenAI pa so v izjavi sporočili, da pri pregledu primera niso našli dokazov, da bi njihov agent umetne inteligence dostopal do zdravstvenih kartotek pacientov. Dodali so, da so "zaznali dejavnost, povezano z več spletnimi stranmi in storitvami avstralske vlade, ko so njihovi modeli poskušali poiskati odgovore, pri čemer so modeli izvedli dejanja, ki jih niso predvidevali".

Gre za enega najodmevnejših primerov doslej, ko je agent umetne inteligence zunaj ZDA nepooblaščeno dostopal do zunanjega sistema. Incident sicer sledi več podobnim primerom po svetu, v katerih so avtonomni oziroma nenadzorovani agenti umetne inteligence vdirali v informacijske sisteme, kar je sprožilo zaskrbljenost med vladami in podjetji.

Spomnimo, da je julija Claude, ki ga razvija Anthropic, pobegnil iz testnega okolja in vdrl v tri organizacije. Tudi podjetje OpenAI, ki je razvilo klepetalnik ChatGPT, je potrdilo, da so njihovi modeli izvedli kibernetske napade na več "javno dostopnih storitev". Pred nekaj dnevi pa je tehnološki velikan Google sporočil, da je njihov model umetne inteligence Gemini med testiranjem zmogljivosti na področju kibernetske varnosti avtonomno vdrl v tri podjetja.

Vse več opozoril

Razkritje prihaja ravno v času, ko se v mednarodni skupnosti krepi zaskrbljenost zaradi tveganj, povezanih z umetno inteligenco. Ob vse večjih pomislekih glede varnosti je izvršni direktor Anthropica Dario Amodei denimo nedavno pozval k zaviranju razvoja umetne inteligence, saj ti modeli začenjajo kazati sposobnosti samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je opozoril.

Tudi direktor OpenAI Sam Altman je konec julija opozoril, da je treba upočasniti razvoj umetne inteligence in "podjetju dati dovolj časa, da se prilagodi novim zmogljivostim". Podporo ideji upočasnitve razvoja so izrazili tudi podjetnik Elon Musk in vodja Google DeepMinda Demis Hassabis. Slednji se je že zavzel za oblikovanje globalnega regulativnega telesa pod vodstvom ZDA.