OpenAI ne bo izdal najnovejšega modela, saj "ne izpolnjuje varnostnih standardov"

Model Astra 6.1 je bil v nekaterih vidikih boljši od prejšnjih modelov, vendar "ni povsem izpolnil pričakovanj glede upoštevanja obsega in pooblastil ter načina, kako uporabnika obvešča o vrsti opravljenega dela", je v izjavi dejala vodja varnostnih sistemov pri OpenAI Saachi Jain.

Po njenih besedah želijo v podjetju zagotoviti varen razvoj modelov. Ob tem je zagotovila, da imajo ob posredovanju modelov uporabnikom "izredno visoke standarde glede varnosti in skladnosti", poroča francoska tiskovna agencija AFP.

Novica o preklicu izida najnovejšega modela je prišla dan pred letno konferenco podjetja OpenAI, znano kot OpenAI DevDay, na kateri naj bi podjetje objavilo več novic - čeprav ni jasno, ali bo med njimi tudi nova različica Astre, navaja AFP.

Pomisleki glede varnosti modelov umetne inteligence so se okrepili, potem ko je v zadnjih mesecih prišlo do več incidentov, kot je bil julijski vdor modelov podjetja OpenAI v platfromo Hugging Face. Že pred tem, junija, so modeli podjetja OpenAI vdrli v portal avstralskega zdravstvenega sistema, avstralsko vlado pa so na incident opozoril šele v tem mesecu.

Pri OpenAI so se v ponedeljek opravičili, ker se niso ustrezno odzvali na incident v Avstraliji. "Žal nam je in si prizadevamo, da bomo v prihodnje delovali bolje," so sporočili iz podjetja ter dodali, da bodo podali pojasnila o tem, kaj so po incidentu spremenili in kaj še bodo storili, da ponovno vzpostavijo zaupanje avstralske javnosti.

Kot so navedli, je bil njihov cilj, da prizadetim agencijam po zaključku preiskave podajo podrobno poročilo. "Vendar bi morali predhodne ugotovitve deliti prej in avstralske agencije sproti obveščati o novih dejstvih, ko so se ta pojavljala," so zapisali pri razvijalcu orodja ChatGPT.

OpenAI je avstralsko vlado na incident opozoril šele septembra. Albanese je v pogovoru s prvim možem podjetja Samom Altmanom izrazil veliko zaskrbljenost.

Avstralski premier Anthony Albanese je prejšnji teden sporočil, da je model umetne inteligence podjetja OpenAI dostopal do javnih in nejavnih datotek na portalu s statističnimi podatki avstralskega sistema zdravstvenega zavarovanja Medicare, ki se financira z javnimi sredstvi. Dodal je, da so bili mogoče prizadeti še trije vladni sistemi.