Meta platvormidel levivad Indias endiselt tehisintellektiga loodud lastepilastuse reklaamid

Tehnoloogiaettevõte Meta on korduvalt lubanud mitte kuvada oma platvormidel tasulisi reklaame, mis kasutavad tehisintellektiga manipuleeritud pilte laste väärkohtlemisest. Washingtonis asuv Tech Transparency Project tuvastas, et paljud neist reklaamidest jõudsid kasutajateni Indias ka pärast valitsuse kehtestatud keeldu.

Washingtonis asuva Tech Transparency Projecti (TTP) värske aruanne näitab, et Meta sotsiaalvõrgustikes Facebook ja Instagram on viimase kümne kuu jooksul jooksnud sadu tasulisi reklaame, mis sisaldavad tehisintellekti abil manipuleeritud lastepilastusmaterjale. TTP andmetel tuvastati kokku 332 sellist reklaami, millest lõviosa ehk 274 ilmusid platvormidel tänavu augustis.

Eriti murettekitav on olukord Indias, kus reklaamid jätkasid ilmumist vaatamata valitsuse varasemale otsesele korraldusele sisu eemaldada. TTP tuvastas Indias 84 reklaami, millest 78 avaldati pärast seda, kui India ametivõimud olid kohtunud Meta esindajatega ja nõudnud laste seksuaalset väärkohtlemist propageeriva sisu (CSAM) kustutamist.

Puudulik modereerimine

TTP aruande kohaselt on reklaamid tihti loodud tegelike laste fotodest, sealhulgas on kasutatud Euroopa kuningliku perekonna liikmete pilte, mida on tehisintellekti abil graafiliselt moonutatud. Paljud reklaamid suunavad kasutajaid teistele rakendustele, mis pakuvad tehisintellektipõhiseid „nudify“ teenuseid, võimaldades kasutajatel luua nõusolekuta seksuaalse sisuga pilte.

Meta modereerimissüsteemid, mis toetuvad suuresti automatiseeritud kontrollile, ei ole suutnud reklaame tõhusalt blokeerida. Kui TTP üritas leitud reklaame Meta enda süsteemi kaudu raporteerida, vastas platvorm mitmel juhul, et sisu ei riku nende reklaamistandardeid. Ettevõte on väitnud, et nad teevad koostööd USA-s asuva laste ärakasutamise vastase keskusega (NCMEC) ning blokeerivad rikkumisi, kuid tunnistavad samas, et kurjategijad vahetavad pidevalt taktikat, et avastamist vältida.

Õiguslikud tagajärjed Indias

Lasteõiguste võrgustiku Just Rights for Children asutaja Bhuwan Ribhu on esitanud India ülemkohtusse hagi, nõudes sotsiaalmeedia platvormidelt laste väärkohtlemisega seotud materjalide kohustuslikku tuvastamist ja sellest teavitamist. Ribhu sõnul on tegemist selge seaduserikkumisega, kuna ettevõtted jätavad lastekaitse seadustest tulenevad kohustused täitmata.

Telangana osariigi küberjulgeolekubüroo direktor Shikha Goel kommenteeris sotsiaalmeedias leviva kuritegeliku sisu keerukust. Meta teatas vastuseks, et on rakendanud tugevamaid kaitsemeetmeid, sealhulgas blokeerinud reklaame ja peatanud kontosid, ning rõhutas, et paljud TTP raporteeritud reklaamid olid juba süsteemist eemaldatud enne nende sekkumist.