Discordi tehisintellekti modereerimise viga keelas üle 8000 kasutaja

Discord tunnistas, et selle tehisintellektil põhinev modereerimissüsteem keelas kahe kuu jooksul ekslikult üle 8000 kasutaja kontod, tuvastades kahjutud pildid, tabelarvutused, malenupu ruudustikud ja mängutekstuurid kahjuliku sisuna. Kõikide mõjutatud kontode taastamine on käimas.

Discord tunnistas esmaspäeval, 7. juulil 2026, et selle tehisintellektipõhine modereerimissüsteem on kahe kuu jooksul keelanud üle 8000 kasutajakonto, märkides ekslikult kahjutuid pilte kahjulikuna. Keelustamise põhjuseks said tavaline tabelarvutuse kuvatõmmis, malenupuruudustik, mängutekstuurid ning valged ja hallid läbipaistvad taustapildid.

Viga möödutas inimülevaatuse

Discord selgitas platvormil X avaldatud pikemas postituses, et selle automaatne turvasüsteem töötab, võrreldes üleslaaditud sisu tuntud kahjuliku materjali andmebaasiga. Sarnasuse tuvastamine võib anda valepositiivseid tulemusi, just seetõttu peaks iga märgistatud sisu enne konto peatamist üle vaatama inimmodereerija. Seekord jäeti see samm vahele ja kontod keelustati koheselt.

«Töötame selle nimel, et rakendada paremad kaitsemehhanismid, et see ei saaks uuesti juhtuda,» kirjutas Discord.

Viimase nädalavahetuse jooksul enne veaparandust lisandus veel 200 keelustatud kasutajat. Discord kinnitas, et kõik mõjutatud kontod taastatakse.

Kasutajad: ruudustikumustrid vallandasid tuvastuse

Platvormidel X ja Reddit jagasid kasutajad oma kogemusi: mitmed kinnitasid, et nende konto peatati lihtsalt ruudustiku- või võrgumustrit sisaldava pildi üleslaadimise tõttu. Üks mängude arendaja kirjutas 4. juulil, et tema konto keelustati mängutekstuuride tõttu, mida süsteem tuvastas lapseseksuaalse väärkohtlemise materjalina (CSAM), hoolimata sellest, et ta kasutab Discordit oma põhilise töösuhtluskanalina.

Kasutajad spekuleerivad, et Discordi tehisintellekt on muutunud eriti tundlikuks ruudustikusarnaste mustrite suhtes, kuna neid on varem kasutatud NSFW-sisu ja CSAM-i varjamiseks automaattuvastuse eest.

«Discordi konto kaotamine nii ebaõiglaselt võib olla laastav ja mõjutada kasutajaid tõsiselt. Iga päev kannatavad miljonid inimesed valepositiivsete tehisintellekti keelustamiste tõttu,» kirjutas üks X-i kasutaja.

Lai valdkonnaprobleem

Discord pole ainus platvorm, kus automatiseeritud modereerimine on viinud massikeelustamisteni. Instagrami ja Facebooki kasutajad teatasid eelmisel aastal laiaulatuslikest seletamatutest konto peatamistest, mille taga kahtlustati tehisintellektipõhist modereerimist, Meta ei kinnitanud kunagi ametlikult, kas viga oli tehisintellektis. Meta järelevalvenõukogu nõuab nüüd suuremat läbipaistvust. Ka Tumblr seisis mullu silmitsi massiliste konto peatamistega ilma selgete selgitusteta.

8000 kasutajat keelustati sisu eest, mis ei kujutanud kellegi jaoks mingit ohtu, sest inimülevaatuse samm langes automatiseeritud ahelast välja.