Kanada arsti-AI luuab valeinfo: hallutsinatsioonid haiguslugudes

Kanada Ontario provintsist tehtud audit paljastas, et tehisintellekt-süsteemid, mis automaatselt koostada arstide visiitide märkmeid, lisavad haiguslugudesse faktiliselt ebatäpseid või väljamõeldud andmeid. See oht võib otseselt mõjutada patsientide ravi ja ohustada nende tervist.

Kanada Ontario provintsist lähtenud uus audit hoiatab arste ja tervishoiuasutusi tehisintellekti kasutamise ohtude eest. Süsteemid, mis on ette nähtud arstide visiitide automaatseks dokumenteerimiseks ja märkmete koostamiseks, on haiglates ja kliinikus muutunud üha levinumaks, sest need säästtavad arstide aega.

Probleemiks on asjaolu, et nimetatud AI-süsteemid võivad mõnikord "hallutsineerida" ja lisada haiguslugudesse andmeid, mida ei ole tegelikult olemas. Ontario audit tuvustas juhtumeid, kus süsteemid lisasid ebatäpseid või täiesti väljamõeldud teavet patsiendi seisundi, ravi ajaloo või diagnoosi kohta. See võib omakorda viia vale ravi soovitusteni ja otsustamiseni.

Tehnoloogia lumeele hallutsnatsioonide probleeme pole seni üksikasjalikult uuritud tervishoiusektori kontekstis, kuid Ontario audit näitab, et tegemist on tegeliku riskiga. Kui AI kirjutab haiguslukku valeinfo, mille arst märkamata jätab, võib see lõppkokkuvõttes kahjustada patsienti.

Expertide sõnul on oluline, et arstid jätkaksid AI-ga genereeritud märkmete kritiliselt ülevaatamist ja kontrolli. Ontario audit kutsub üles parema kvaliteedikontrolli ja valideerimissüsteemide rakendamisele, et tagada, et AI-assistendid teevad enamat teenitud kui moonutavad meditsiinilist informatsiooni.