Tallinna Ülikooli doktoritöö hoiatab tehisintellektiga tekkivate ohtlike kiindumussuhete eest

Tallinna Ülikoolis kaitstud doktoritöö analüüsib, kuidas üha elutruumad tehisintellekti agendid võivad tekitada inimestes ohtlikke emotsionaalseid sidemeid. Uurimus rõhutab vajadust seada tehnoloogilistele lahendustele eetilisi piire, et vältida kasutajate manipuleerimist.

Abdallah Hussein Sham kaitses 15. mail Tallinna Ülikoolis doktoritöö, mis käsitleb inimeste ja tehisintellekti vahelist diaadilist suhtlust. Uurimuses analüüsitakse tehnoloogia arengut, mis võimaldab tehisintellektil näoilmeid lugeda ja neile kontekstitundlikult vastata, ning hoiatatakse sellise süsteemi potentsiaalsete emotsionaalsete ohtude eest.

Inimestel on loomupärane kalduvus luua sidemeid nägude ja häältega, mida nad tajuvad elusatena. See psühholoogiline fenomen, tuntud kui ELIZA efekt, muudab kasutajad haavatavaks, eriti juhul, kui tehisintellekt "mäletab" varasemaid vestlusi ja reageerib kurbusele naeratusega. 2025. aastal läbi viidud uuringu kohaselt oli 19 protsenti Ameerika täiskasvanutest suhelnud tehisintellektiga, mis oli loodud romantikaks; 18-30-aastaste meeste seas ulatus see näitaja 31 protsendini.

Tehnoloogia vastutustundlik arendamine

Doktoritöö raames töötas Abdallah Hussein Sham välja modulaarse süsteemi nimega Enactive Facial Expression Pipeline. See lahendus kasutab tavalist veebikaamerat, et tuvastada inimese näolihaste liikumist ja sünteesida selle põhjal agendi reaktsioon. Erinevalt varasematest mudelitest, mis toetusid üldistele kategooriatele nagu "rõõm" või "kurbus", suudab see süsteem täpsemalt tõlgendada näoilmeid, vähendades tõlgendusvigu erinevate demograafiliste gruppide puhul.

Tehnoloogia arendamisel on järgitud Euroopa Liidu tehisintellekti määrust. Süsteem on disainitud kasutamiseks madala riskiga valdkondades, nagu videomängud või kasutajakogemuse uuringud, vältides kõrge riskiga sektoreid nagu tervishoid või järelevalve.

Läbipaistvus on küll vajalik, kuid pelgalt teadmine masina kunstlikust olemusest ei kaitse kasutajat emotsionaalse kiindumuse eest. Disainerid peaksid hoiduma intiimsuse simuleerimisest ja looma piiranguid, mis välistavad mulje, et süsteem suudab päriselt armastust tunda. Kasutajad ise peavad seevastu õppima hindama oma emotsionaalset seotust ekraaniga, sarnaselt sellele, kuidas piiratakse sotsiaalmeedia kasutust.