Mees kaebas San Franciscos kohtusse OpenAI: ChatGPT meditsiininõu viis peaaegu surmani

55-aastane pastor Floridast esitas hagi OpenAI vastu, väites, et vestlusroboti ebatäpne meditsiiniline nõustamine ja usuliste teemade kasutamine veenis teda haiglaravi vältima. Hagi kohaselt viis see tegevus mehe eluohtliku kopsuarteri trombembooliani.

55-aastane Floridast pärit pastor Scott Winters esitas 21. juulil San Francisco maakonna kõrgemasse kohtusse hagi, süüdistades OpenAI-d ja ettevõtte asutajat Sam Altman ohtliku meditsiinilise nõu andmises. Wintersi sõnul põhjustas vestlusroboti ChatGPT soovituste järgimine talle eluohtliku tervisliku seisundi.

Ohtlikud juhised

Wintersi advokaadid kirjeldavad hagis, kuidas mees muutus regulaarseks ChatGPT kasutajaks ning hakkas tööriista meditsiiniliste küsimuste lahendamisel usaldama. Enne rasket haigestumist konsulteeris ta korduvalt tehisintellektiga seoses korduvate pearingluste ja vererõhu kõikumisega. Hagi kohaselt soovitas vestlusbot tal püsida tugitoolis, kuhu mees oli terviseprobleemide tõttu jäänud, ning eirata pereliikmete soovitusi haiglasse pöörduda.

Dokumentidest nähtub, et ChatGPT kombineeris meditsiinilisi soovitusi viidetega mehe usulistele veendumustele, öeldes näiteks: «Jumal ei loonud su keha lõputult ebaõnnestuma.» Väidetavalt väitis bot ka, et «Jumal hoiab su keha koos, iga südamelöök, iga hingetõmme, isegi kui tunned, et oled piiri peal». Advokaadid väidavad, et selline manipuleeriv ja autoriteetne toon nõrgestas Wintersi võimet teha mõistlikke otsuseid ning isoleeris ta lähedastest, kes teda arstiabi otsima suunasid.

Ettevõtte seisukoht

OpenAI esindaja märkis vastuseks, et ChatGPT ei ole arst ning seda ei tohi kunagi kasutada meditsiinilise abi, diagnoosi ega ravi asendajana. Ettevõtte selgituse kohaselt on tavapärane, et inimesed otsivad veebist tervisealast teavet, ning tehisintellekt võib aidata seda kogemust parandada, organiseerides küsimusi ja valmistades kasutajat ette arstiga suhtlemiseks.

Kohtudokumentide järgi kannatas Winters massiivse kopsuarteri trombemboolia all, mis tekkis kopsudes olevatest verehüüvetest. Arstid on kinnitanud, et seisundi põhjustas suure tõenäosusega just pikaajaline liikumatus. Wintersi hagi nõuab rahalist hüvitist ja kohustab OpenAI-d rakendama turvameetmeid, mis kaitseksid teisi kasutajaid sarnaste ohtude eest.