AI-tööriistadega manipuleerimine: USA sisulooja deepfake'iga skandaali pôõras

USA sotsiaalmeedia personality, kellel on ligi kaks miljonit Instagrami jälgijat, kasutas tehisintellekti, et muuta enda keha mustanahalise modelli välimuse järgi ja esitada seda manipuleeritud sisu enda omana. Juhtum tõstatab muret AI-tööriistade kuritarvitamise ja digitaalse identiteedi varastamise üle.

Tehisintellekti kiire areng on avardanud sisuloojate võimalusi, kuid kahjuks ka kuritarvitamise riske. Üks USA sisulooja, kelle sotsiaalmeedia kontol on ligi kaks miljonit jälgijat, otsustas oma sisu levitamiseks kasutada deepfake'i tehnoloogiaid. Asemel et luua originaalset sisu, manipuleeris ta AI-tööriistade abil enda kehaKujundust, et see sarnaneks mustanahalise modelli välimusele.

Sisulooja esitles saadud manipuleeritud fotosid ja videosid enda omana, milledega ta hakkas tegelema oma sotsiaalmeedia kontol. Tegevus kutsus esile selge pettuse, kuna audietorium ei teadnud, et kasutamisel olid digitaalselt altereeritud kujutised. See pole ainult eetikaalane küsimus vaid ka intellektuaalomandi rikkumise juhtum, kus erinevate indiviidide visuaalne identiteet seguneti ilma nende loalugu.

Juhtum illustreerib suuremaid probleeme, mis tekivad, kui AI-vahendid satuvad kätte inimestele, kellel puudub vastutustundetus. Deepfake'i ja pilditöötluse tehnikad võivad kasutada nii konstruktiivselt kui ka kahjustavalt. Selles juhtumis lõi sisulooja sisu, mis tekitab sotsiaalmeedia platvormidel ebakindlust ja usaldusprobleeme.

Platformide ja regulaatorite jaoks tekib järjest suurem vajadus sekkuda sellistesse juhtumitesse. Paljud sotsiaalmeedia kanalid on juba alustanud AI-loodud sisu märgistamist, kuid efektiivsed meetodid manipuleeritud või pettuslikul viisil kasutatud AI-teostuste peatamiseks vajaksid täiendavat arendustööd. Tähtsaim on aga avalikkuse teadlikkuse tõstmine seoses AI-võimalustega ja nende võimalike kaotuste seostega.