Uuring: paljud tehisintellekti mudelid on Kremli propaganda suhtes haavatavad

Keelemudelite võrdlustestid näitavad, et tehisintellekti võime tuvastada Kremli propagandat varieerub oluliselt. Esmapilgul tunduvad parimad mudelid usaldusväärsed, kuid sihipärase manipuleerimise korral võivad ka need olla propaganda mõju suhtes vastuvõtlikud.

Uued võrdlevad testid keelemudelite kohta on toonud esile murettekitava leiud: tehisintellekti (TI) süsteemide suutlikkus tuvastada Kremli propagandat on mudeliti väga erinev. Kuigi pealtnäha tunduvad juhtivad mudelid usaldusväärsed, selgub sihipärase manipuleerimise käigus, et ka neist mõned on vastuvõtlikud desinformatsiooni mõjule.

Testides uuriti, kuidas erinevad suurte keelemudelid reageerivad propagandistlikele narratiividele ja kas nad suudavad eristada faktipõhist teavet ideoloogiliselt kallutatud sisust. Tulemused näitavad, et mõned mudelid kipuvad Kremli sõnavõttude sisu edastama kriitikavabalt, kui küsimusi esitatakse teatud viisil.

Eriti murettekitav on asjaolu, et katsetajad suutsid mõningaid mudeleid tahtliku suunamisega panna propagandat heaks kiitma või seda neutraalselt edastama. See tähendab, et TI-süsteemide kasutamine usaldusväärse teabeallikana eeldab kasutajalt täiendavat kriitilist mõtlemist ja kontrollimist.

Küberturvalisuse ja meediakirjaoskuse eksperdid rõhutavad, et tehisintellekti mudelid ei ole iseenesest propagandavastased tööriistad ning nende kasutamine desinformatsiooni tuvastamiseks nõuab ettevaatust. Mudelite arendajad peaksid omakorda parandama süsteemide vastupidavust manipuleerimiskatsetele, eriti geopoliitiliselt tundlike teemade käsitlemisel.