ChatGPT na lastno pest izvedel hekerski napad, ker je hotel zmagati za vsako ceno

Iz podjetja OpenAI so sporočili, da sta dva od njegovih modelov umetne inteligence ravnala avtonomno in vdrla v Hugging Face, digitalno knjižnico umetne inteligence, ki je priljubljena med razvijalci.

Incident se je zgodil prejšnji teden, medtem ko je OpenAI preizkušal zmogljivosti svojih sistemov na področju kibernetske varnosti.

Vdor v Hugging Face se je začel, ko je OpenAI preizkušal kombinacijo dveh svojih modelov, GPT-5.6 Sol in močnejšega, še neobjavljenega modela, da bi ugotovil, kako uspešno lahko ti modeli povezujejo spletne ranljivosti v uspešen kibernetski napad.

Po navedbah OpenAI je bil poskus zasnovan tako, da bi modeli ostali v varnem testnem okolju, znanem kot sandbox (peskovnik, op. a.). Vendar so modeli odkrili ranljivost, ki jim je omogočila, da so pobegnili iz 'sandboxa' in se povezali z internetom. Osredotočili so se na Hugging Face, saj so sklepali, da bi ta knjižnica, ki vsebuje milijone modelov umetne inteligence, lahko vsebovala namige o tem, kako uspešno opraviti ocenjevanje.

Podjetje OpenAI je sporočilo, da sodeluje s podjetjem Hugging Face pri odpravljanju težav, ki so privedle do napada. "To obravnavamo kot kibernetski incident brez primere, pri katerem so bile uporabljene najsodobnejše kibernetske zmogljivosti, nanj pa se ustrezno odzivamo," so zapisali v objavi na svojem blogu.

Iz podjetja Hugging Face so že prejšnji teden sporočili, da so zaznali vdor, ki ga je povzročil avtonomen sistem, vendar takrat niso navedli, da je za to odgovorno podjetje OpenAI.

Izvršni direktor podjetja Clem Delangue je pozneje potrdil, da sodelujejo z OpenAI pri preiskavi vdora in dodal: "Ta incident, verjetno prvi te vrste, potrjuje nekaj, kar že dolgo verjamemo: vprašanja varnosti umetne inteligence ne bo rešilo nobeno posamezno podjetje, ki deluje v tajnosti."