TikToki algoritm võib Eesti noori radikaliseerida nädalatega

Matemaatikaõpetaja ja sisulooja Annely Kasela hoiatab, et TikToki soovitusalgoritm suunab kasutajad äärmusliku sisuni vaid mõne nädalaga. Eksperimendi käigus selgus, et algoritm õpib kasutaja eelistusi juba ühe vaadatud video põhjal, muutes radikaliseerumise kiireks ja raskesti märgatavaks.

Matemaatikaõpetaja ja sisulooja Annely Kasela hoiatab, et TikToki soovitusalgoritm on äärmuslikult tõhus, suutes kasutaja radikaliseerida vaid mõne nädalaga. Tema hinnangul toimub see protsess tunduvalt kiiremini kui varasemates sotsiaalmeediakanalites ning sageli jääb see täiskasvanutel märkamatuks.

Eksperiment näitas algoritmi võimekust

Kasela, kes kirjutas magistritöö teemal "Uute kasutajate teekond paremäärmusliku sisuni TikTokis", testis platvormi mehhanisme kuue võltskontoga. Ta ei avaldanud ise ühtegi postitust ega kirjutanud kommentaare. Ainus interaktsioon oli videote lõpuni vaatamine või neile "meeldib" märkimine. Tulemused näitasid, et vaid 100 minutiga jõudnud kontod äärmusliku sisuni.

Algoritm hakkab piire kompama juba ühe vaadatud video põhjal. «TikToki eripära ongi selles, et neil on kõige efektiivsem soovitusalgoritm, mis tõmbab väga hästi kasutaja spiraali,» selgitas Kasela. «Kõik võib alati alata täiesti süütust naljast.»

Probleemid koolikeskkonnas

Õpetajana töötav Kasela on kogenud, kuidas internetis leviv sisu jõuab klassiruumi. Ta on kuulnud 12-aastaseid lapsi kasutamas antisemiitlikke väljendeid või naisi objektistavat kõnepruuki, mis on tihti kaja sotsiaalmeedia mõjukujude ideoloogiatest.

«Kui keegi ei sekku, siis noor ilmselt radikaliseerubki,» nentis ta. Probleemiks on asjaolu, et ühiskondlik teadlikkus äärmuslike gruppide slängist on madal. Kui koolide sotsiaalpedagoogid ja psühholoogid probleemi juurde jõuavad, on radikaliseerumine sageli juba kaugele arenenud.

Kasela hinnangul vajavad koolid ja lapsevanemad tõhusamaid tööriistu sisu jälgimiseks. «Mina õpetajana näen lahendusena seda, et täiskasvanud on kursis slängiga, mida äärmuslike mõtteviiside gruppi kuuluvad inimesed kasutavad ja märkavad võimalikult vara,» lisas ta.