ChatGPT epileptičarki svetoval, naj zmanjša dozo zdravil. Družina po njeni smrti toži OpenAI

Čun Van in Meičin Šu sta vložila tožbo zoper podjetje OpenAI in izvršnega direktorja Sama Altmana po smrti hčerke Boven Van, nekoč inženirke pri Amazonu. Ta je od 14. leta starosti imela epilepsijo, zaradi bolezni pa je morala po poročanju New York Timesa leta 2021 na dolgotrajno bolniško.

Kot izhaja iz tožbe, vložene na višjem sodišču v San Franciscu, je ChatGPT model GPT-4o zanjo pripravil podroben 25-dnevni načrt za zmanjšanje odmerka zdravila Lamotrigin s 400 miligramov na nič. Tega načrta ni odobril zdravnik.

Po poročanju NYT je želela zmanjšati odmerek, saj je želela biti bolj zbrana za intervjuje za novo službo, ki jo je potrebovala, da bi lahko zaprosila za stalno bivališče v ZDA. Bila je namreč ena od več tisoč zaposlenih, ki jih je Amazon odpustil.

Van je zadnji odmerek vzela 10. februarja, 12. februarja pa je umrla. Kot vzrok smrti je mrliški oglednik navedel nenadno nepričakovano smrt pri epilepsiji. Obdukcija je pokazala, da je bila raven zdravila v njenem telesu petkrat nižja od najmanjšega terapevtskega odmerka.

V tožbi starši prav tako navajajo, da je klepetalni robot Van spodbujal, naj svoj načrt prikrije zdravnikom. Pred zdravniškim pregledom ji je svetoval, naj ne omenja zmanjšanja odmerka, in jo pohvalil, ker je zavrnila krvno preiskavo, ki bi razkrila znižano raven zdravila v njenem telesu.

Njen nevrolog dr. Nicholas Poolos je za New York Times izjavil, da glede na njeno zdravstveno zgodovino ne bi nikoli niti pomislil, da bi ji terapijo postopno ukinil.

Strožji do avtorskih pravic kot neutemeljenih zdravstvenih nasvetov

Tožba sicer temelji na internem dokumentu podjetja OpenAI z naslovom Model Spec, ki določa pravila ravnanja za modele umetne inteligence.

Odvetniki družine opozarjajo, da ta dokument prepoved reproduciranja avtorsko zaščitenega besedila obravnava kot strogo pravilo, ki ga uporabniki ne morejo zaobiti. Po drugi strani pa imajo smernice glede podajanja zdravstvenih nasvetov v dokumentu veliko manjšo vlogo.

Tožniki poudarjajo, da bi morali za nasvete v povezavi z zdravili veljati enako strogi ukrepi. Prav tako trdijo, da bi podjetje lahko preprečilo njeno smrt, če bi določilo, da je podajanje navodil glede zdravil na recept prepovedano.

Model umaknili dan po njeni smrti

Model GPT-4o, ki je bil deležen kritik zaradi prevelike popustljivosti oziroma prilagajanja uporabniku, je bil ukinjen 13. februarja, dan po smrti Van. Predstavnik družbe OpenAI Drew Pusateri je primer opisal kot izjemno pretresljiv, a je opozoril, da je Van uporabljala model, ki so ga že umaknili.

Podjetje OpenAI je sporočilo, da več kot 300 milijonov ljudi vsak teden na platformi ChatGPT postavlja vprašanja, povezana z zdravjem. Januarja 2026 je podjetje uvedlo ChatGPT Health, namenjen zgolj zdravstvenim vprašanjem, ob čemer so dodali opozorilo, da nasveti ne nadomeščajo strokovne zdravstvene oskrbe.