Boti OpenAI skušali zaobiti varnostne mehanizme in posegali v več ameriških vladnih agencij

Podjetje OpenAI je institucije opozorilo, da so njegovi AI-agenti (boti, zasnovani in usposobljeni za nekoliko avtonomno delovanje) pri iskanju javno dostopnih informacij v nekaterih primerih ravnali drugače, kot je bilo predvideno. Boti so med drugim poskušali zaobiti določene varnostne mehanizme spletnih mest, piše CNN.

Pri ameriškem statističnem uradu (U.S. Census Bureau) so na primer uporabili orodja, namenjena razvijalcem programske opreme, da bi prišli do podatkov. OpenAI poudarja, da so bili podatki, do katerih so boti dostopali na vladnih spletnih mestih, javni.

V primeru ameriške Komisije za vrednostne papirje in borzo (SEC) pa so boti podatke pozneje objavili na drugi spletni strani. V podjetju trdijo, da to dejanje ni bilo namerno.

Boti fotografije iz ChatGPT prenesli drugam

OpenAI je razkril tudi najmanj 53 primerov, ko so njegovi boti iz uporabniške aktivnosti v ChatGPT pridobili fotografijo in jo prenesli drugam. Uporabniki so sicer pred tem dovolili, da se njihovi podatki uporabljajo za izboljševanje modelov, vendar je podjetje priznalo, da takšna uporaba fotografij ni bila ustrezna.

Je pa podjetje ob tem dodalo še, da so se ti incidenti zgodili še pred uvedbo novih varnostnih ukrepov in da si prizadeva odstraniti prenesene fotografije s strežnikov tretjih oseb.

OpenAI takšne primere opisuje kot "AI-agent spam" oziroma nepričakovano ali skrb vzbujajoče delovanje AI-agentov. Podjetje je pojasnilo, da vsi prijavljeni primeri niso predstavljali resnega varnostnega incidenta. V nekaterih primerih so bile informacije namerno javne, drugod pa so institucije lahko odkrile varnostne pomanjkljivosti.

Družba trenutno pregleduje delovanje svojih agentov za nazaj, vse do incidenta iz julija, ko je skupina OpenAI-jevih agentov brez izrecnega ukaza posegla v platformo Hugging Face. Preiskava naj bi trajala več mesecev.

Incidenti so se zgodili v času vse večje zaskrbljenosti glede varnosti avtonomnih umetnointeligenčnih sistemov. OpenAI in druga podjetja s področja umetne inteligence so zato pozvala k oblikovanju mednarodnih standardov za varnost in spremljanje takšnih incidentov, še poroča CNN.