ChatGPT bo omogočil starševski nadzor

Odločitev sledi tožbi, ki sta jo proti podjetju vložila starša 16-letnika iz Kalifornije, ker ChatGPT krivita za sinov samomor.

"V prihodnjih mesecih bodo starši dobili možnost povezati svoj račun z računom svojega najstnika. S pravili, prilagojenimi starosti uporabnika, bodo lahko nadzirali, kako se ChatGPT odziva njihovemu najstniku," so v OpenAI zapisali v objavi na svojem blogu.

ChatGPT bo staršem prav tako pošiljal obvestila, ko bo zaznal, da je njihov otrok "v hudi stiski". "Še naprej izboljšujemo način, kako naši modeli prepoznavajo in se odzivajo na znake duševne in čustvene stiske," so dodali v podjetju.

Starša 16-letnika iz Kalifornije, ki je storil samomor, sta prejšnji teden na zveznem sodišču te ameriške zvezne države vložila tožbo proti OpenAI, ker naj bi ChatGPT njunemu sinu dal navodila za samomor in ga k njemu spodbudil.

Zahtevata nedoločeno odškodnino, sodišče pa pozivata, naj določi varnostne ukrepe, vključno s samodejnim končanjem pogovorov, ki vključujejo samopoškodovanje, in starševskim nadzorom za mladoletne uporabnike.

OpenAI je prejšnji teden priznal, da njihov klepetalni robot dela napake v občutljivih primerih, in obljubil spremembe. V podjetju so poudarili, da je ChatGPT usposobljen, da uporabnikom, ki izražajo samomorilske namere, priporoči, naj se za pomoč obrnejo na strokovnjake.

So pa po lastnih navedbah ugotovili, da se kljub temu in drugim varnostnim mehanizmom robot v občutljivih situacijah ni obnašal, kot bi se moral. Varnostni mehanizmi namreč najbolje delujejo v kratkih izmenjavah, v dolgih pa lahko odpovejo, so izpostavili.