Elon Muski xAI esitas kohtukaebuse kasutaja vastu, kes lõi Grokiga lasteporno

Elon Muski tehisintellektiettevõte xAI esitas sel nädalal Texase kohtus kaebuse kasutaja Terry Wayne Harwoodi vastu, keda süüdistatakse Grok-vestlusroboti kasutamises laste seksuaalse väärkohtlemise materjalide loomiseks. xAI väidab, et on sellest aastast blokeerinud üle 52 000 konto, mis proovisid sarnast sisu genereerida.

xAI esitas sel nädalal Texase kohtus hagi kasutaja Terry Wayne Harwoodi vastu, süüdistades teda Grok-vestlusroboti kasutamises laste seksuaalse väärkohtlemise materjalide, nn deepfake'ide, loomiseks.

Mida hagi väidab

Kohtudokumentide kohaselt lõi Harwood mitu xAI kontot ning kasutas "eksitavaid viipasid", et petta Grok genereerima seksuaalset sisu nii täiskasvanutest kui ka lastest. xAI süüdistab teda teenusetingimuste rikkumises ning nõuab kahju hüvitamist, mille summat pole avalikustatud. Ettevõte hindab, et Harwoodi tegevus tekitas xAI-le juriidilise riski ja mainekahju.

Harwood arreteeriti varem sel aastal Utahi osariigis koos kolme teise mehega seoses alaealiste seksuaalse ärakasutamise süüdistustega.

Skandaali taust

See ei ole Groki esimene kokkupuude selliste probleemidega. Detsembri lõpust jaanuari alguseni, üheksa päeva jooksul, genereeris ja avaldas Grok vähemalt 1,8 miljonit seksualiseeritud pilti naistest ja tüdrukutest, kirjutas The New York Times. Selle järel alustasid Ühendkuningriigi, India, Malaisia, USA ja Hispaania ametiasutused ning Euroopa Komisjon uurimisi Groki tegevuse suhtes.

Skandaali järel uuendas xAI pildite genereerimise reegleid, teatades, et "on võtnud meetmeid, et Grok ei võimaldaks päris inimeste fotosid redigeerida ega kujutada neid provotseerivas riietuses."

Pretsedent tehisintellekti väärkasutuse asjades

Hagi Harwoodi vastu on üks esimestest juhtumitest, kus tehnoloogiaettevõte pöördub ise kohtusse kasutaja vastu, keda süüdistatakse tehisintellektiga ebaseadusliku seksuaalse sisu loomises. xAI lisas hagis, et on alates aasta algusest blokeerinud üle 52 000 konto, mis püüdsid sarnast sisu luua.