Model OpenAI vdrl v spletno stran avstralske vlade

Avstralski premier Anthony Albanese dejal, da je model umetne inteligence dostopal do javnih in nejavnih datotek na portalu s statističnimi podatki avstralskega sistema zdravstvenega zavarovanja Medicare, ki se financira z javnimi sredstvi. Dodal je, da so bili mogoče prizadeti še trije vladni sistemi, poroča nemška tiskovna agencija dpa.

Incident se je zgodil junija, toda OpenAI Avstralije o njem ni obvestil do septembra, ko je podjetje poslalo elektronsko sporočilo v javni poštni predal, je ob robu zasedanja Generalne skupščine Združenih narodov v New Yorku razkril Albanese.

Podjetje OpenAI je po navedbah dpa v izjavi sporočilo, da so vdor v vladno spletno stran odkrili avgusta med pregledom, kaj je počel model. Zapisali so, da so o incidentu obvestili pristojne ter da nudijo tehnične informacije pri preiskavi incidenta in pri odpravljanju morebitnih varnostnih ranljivosti.

Avstralski premier izrazil "izjemno zaskrbljenost"

"Med pregledom smo odkrili dejavnosti, ki so vključevale več avstralskih vladnih spletnih mest in storitev, ko so naši modeli med interno oceno poskušali poiskati odgovore in razpoložljive statistike za vprašanje o Avstraliji. Pri tem so naši modeli izvedli dejanja, ki jih nismo predvideli," so dodali v izjavi.

OpenAI ni našel dokazov, da bi umetna inteligenca dostopala do kartotek pacientov. "Ne glede na to, ta situacija vsekakor ni sprejemljiva," je poudaril avstralski premier in dodal, da preiskava še poteka. Albanese je še dejal, da je govoril z glavnim izvršnim direktorjem podjetja Samom Altmanom ter izrazil "izjemno zaskrbljenost" Avstralije tako zaradi incidenta kot tudi zaradi načina, kako je OpenAI o tem obvestil vlado.

Premier je incident označil za dober primer, zakaj želi Avstralija vzpostaviti standarde na tem področju. Ti bodo po njegovih besedah zagotavljali, "da bo umetna inteligenca delovala in koristila ljudem, ne pa obratno".

Strokovnjaki ocenjujejo, da gre za prvi znani primer domnevno nenamernega vdora umetne inteligence na vladno spletno stran na svetu, poroča britanski BBC.

Gre sicer za najnovejšega v nizu incidentov, v katerih so nenadzorovani modeli umetne inteligence vdirali v informacijske sisteme ter s tem vzbudili zaskrbljenost vlad in podjetij po svetu.

Spomnimo, da je julija Claude, ki ga razvija Anthropic, pobegnil iz testnega okolja in vdrl v tri organizacije. Tudi podjetje OpenAI, ki je razvilo klepetalnik ChatGPT, je potrdilo, da so njihovi modeli izvedli kibernetske napade na več "javno dostopnih storitev".

Pred nekaj dnevi pa je tehnološki velikan Google sporočil, da je njihov model umetne inteligence Gemini med testiranjem zmogljivosti na področju kibernetske varnosti avtonomno vdrl v tri podjetja.

Vse več opozoril

Razkritje prihaja ravno v času, ko se v mednarodni skupnosti krepi zaskrbljenost zaradi tveganj, povezanih z umetno inteligenco. Ob vse večjih pomislekih glede varnosti je izvršni direktor Anthropica Dario Amodei denimo nedavno pozval k zaviranju razvoja umetne inteligence, saj ti modeli začenjajo kazati sposobnosti samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je opozoril.

Tudi direktor OpenAI Altman je konec julija opozoril, da je treba upočasniti razvoj umetne inteligence in "podjetju dati dovolj časa, da se prilagodi novim zmogljivostim". Podporo ideji upočasnitve razvoja so izrazili tudi podjetnik Elon Musk in vodja Google DeepMinda Demis Hassabis. Slednji se je že zavzel za oblikovanje globalnega regulativnega telesa pod vodstvom ZDA.