Meta platvormidel: uued tehisintellekti tööriistad laste ärakasutamise tõkestamiseks

Meta eemaldas 2024. aasta esimesel poolel üle 33 miljoni ebaseadusliku postituse ja rakendab nüüd uusi tehisintellekti lahendusi varjatud suunamisreklaamide tuvastamiseks. Need meetmed järgnevad 18 miljardi dollari suurusele kohtulahendile, mis puudutas laste turvalisust internetis.

Meta teatas 2024. aasta esimesel poolaastal 33,2 miljoni laste seksuaalse ärakasutamisega seotud postituse eemaldamisest Facebookist ja Instagramist. Ettevõte on nüüd juurutanud uued tehisintellekti süsteemid, mis on suunatud reklaamide ja kontode leidmisele, mille kaudu suunatakse kasutajaid varjatult ebaseadusliku sisuni väljaspool Meta platvorme.

Enam kui 97% eemaldatud sisust tuvastati ettevõtte automatiseeritud süsteemide poolt enne, kui kasutajad sellest teada andsid. Eemaldati samal ajavahemikul 5,3 miljonit ühikut laste väärkohtlemisega seotud sisu, millest 98% tuvastati enne kasutajapoolseid raporteid.

Uute tehnoloogiate rakendamine

Ettevõte on kasutusele võtnud uue keelemudeli, mis on optimeeritud tuvastama niinimetatud „suunaviitasid“. Tegemist on reklaamidega, mis võivad näida täiesti tavalised, kuid suunavad kasutajaid teistele veebilehtedele või platvormidele, kus leidub keelatud materjali. Meta hinnangul on see meetod kurjategijate seas uus taktika, mille abil püütakse vältida platvormi turvasõelu. Ettevõte on muutnud oma lähenemist nii, et nüüd analüüsitakse reklaami sisu asemel ka sihtkohta, kuhu reklaam kasutaja suunab.

Turvameetmete täiendamiseks on käivitatud ka punase meeskonna tehisintellekti agent, mis testib Meta süsteeme, otsides potentsiaalseid nõrku kohti enne, kui pahatahtlikud osalised need avastavad. Lisaks on täiustatud mehhanisme, mis tuvastavad platvormilt eemaldatud kasutajate korduvkontode loomist.

Need muudatused saabuvad ajal, mil ettevõte on jätkuva surve all seoses alaealiste turvalisusega. Augustis nõustus Meta maksma kuni 18 miljardit dollarit, et lahendada 29 USA osariigi esitatud kohtuhagi, mis puudutas laste veebipõhist kaitset. Sel aastal on ettevõte lisanud vanemlikud kontrollmeetmed Meta AI-le ning võimaldanud piiranguid WhatsAppi alaealiste kontodele. Samuti kuvatakse nüüd lapsevanematele hoiatusi, kui alaealised otsivad Instagramist enesevigastamisega seotud sisu.