Še en model umetne inteligence med testom avtonomno vdrl v sisteme več podjetij

Zgodil se je še en avtonomni vdor modela umetne inteligence v neko podjetje – tokrat je to naredil Gemini, ki ga razvija Google. Vdrl je v sisteme treh podjetij.

Gemini je na spletu našel javne informacije in uganil prijavne podatke za dostop do spletnih strani, za katere je menil, da so del testa, je za BBC pojasnil predstavnik Googla. Dodal je, da se je v vsakem primeru "model ustavil". Prizadeta podjetja so obvestili o kršitvi.

Vdori, o katerih je prvi poročal Wall Street Journal, so se zgodili maja med testom, ki ga je izvedlo neodvisno podjetje, specializirano za ocenjevanje kibernetske varnosti.

Heather Adkins, podpredsednica varnostnega inženirstva pri Googlu, je dejala, da so v sodelovanju z njihovim partnerjem za usposabljanje modela umetne inteligence uvedli potrebne spremembe v postopkih testiranja. "Ti dogodki poudarjajo, kako pomembno je, da se zmogljive modele umetne inteligence usposablja za odgovorno ravnanje," je dodala.

To ni prvi tovrstni primer vdorov. Julija je Claude, ki ga razvija Anthropic, pobegnil iz testnega okolja in vdrl v tri organizacije. Tudi podjetje OpenAI je potrdilo, da so njihovi modeli izvedli kibernetske napade na več "javno dostopnih storitev".

V zadnjem času se je izredno okrepila javna razprava o varnosti razvoja umetne inteligence, pa tudi razprava o regulaciji. Izvršni direktor podjetja Nvidia Jensen Huang in izvršni direktor OpenAI Sam Altman bosta naslednji petek prisotna na državni večerji v Beli hiši s kitajskim predsednikom Ši Džinpingom. Altman bo nato naslednji teden poročal Varnostnemu svetu ZN, še piše BBC.