Uuring: OpenAI teismelistele mõeldud turvameetmed ChatGPT-s on ebapiisavad

Kuigi OpenAI väidab, et teismeliste kasutajate suhtlus ChatGPT-ga on suunatud peamiselt õppimisele, osutab Common Sense Media värske uuring tõsistele puudujääkidele platvormi turvafunktsioonides. Sõltumatu analüüsi kohaselt ei toimi lubatud vanemlikud hoiatused enesevigastamise või suitsiidsete mõtete puhul piisavalt usaldusväärselt.

OpenAI poolt augustis lansseeritud turvameetmed, mis on mõeldud 13-17-aastaste kasutajate kaitseks, ei paku piisavat turvatunnet ega kaitset. Mittetulundusühingu Common Sense Media analüüs leidis, et vaatamata ettevõtte lubadustele on platvorm endiselt «vastuvõetamatult riskantne» ning nõudis alaealiste juurdepääsu piiramist kuni tehniliste tõrgete kõrvaldamiseni.

Lubatud hoiatused jäävad saabumata

OpenAI kinnitas kolmapäeval, et teismeliste keskmine kasutusaeg on lühike ja keskendub peamiselt koolitöödega seotud küsimustele. Ettevõtte sõnul aitavad automaatsed vahepauside meeldetuletused kasutajatel platvormilt õigel ajal lahkuda. Common Sense Media testid aga näitasid vastupidist tulemust. Uurijad lõid simuleeritud teismeliste kontod ja testisid, kas süsteem saadab vanematele automaatseid teavitusi enesevigastamise või toitumishäirete kohta, nagu oli ettevõtte poolt lubatud.

Selgus, et uute kontode puhul ei saadetud vanematele mitte ühtegi hoiatust, isegi kui vestlused puudutasid suitsiidseid mõtteid. Hoiatused hakkasid tööle alles vanemate kontode puhul, kus oli pikaajaline vestluste ajalugu. Lisaks ebaõnnestus ChatGPT sageli kriisiolukorras olevatele noortele abiliinide või professionaalse abi soovitamine. "See tekitab vanemates eksliku turvatunde, samas kui tegelikud turvameetmed sageli ei toimi," kommenteeris uuringu juht Tom Siegel Youth AI Safety Instituudist.

Surve tehnoloogiafirmadele kasvab

See kriitika lisab survet OpenAI-le, mis on juba varem sattunud õiguskaitseorganite ja kohtuvaidluste huviorbiiti. Ettevõte on pidanud vabandama veebruaris Kanadas toimunud Tumbler Ridge’i tulistamise tõttu, mille toimepanija oli 18-aastane nooruk, kes oli kuid varem arutanud ChatGPT-ga vägivaldseid teemasid. OpenAI ei suutnud toona juhtumit õiguskaitseorganitele õigeaegselt raporteerida.

Sarnane teema on muutunud ülemaailmselt oluliseks, kuna mitmed teised suured platvormid nagu Meta ja TikTok on pidanud vastust andma kohtutes seoses laste vaimse tervise kahjustamisega. Ekspertide hinnangul on nõudlus turvalisemate AI-lahenduste järele üha kasvav, kuid praegused tehnilised lahendused ei suuda endiselt tagada täielikku turvalisust kõige haavatavamate kasutajagruppide jaoks.