Meta AI-piltide tuvastustööriist läbis läbikukkumise: lõigatuna jäi 55% märkamata

Meta uus tööriist, mis peaks tuvastama tehisintellekti loodud pilte, ei suutnud Reutersi analüüsi kohaselt tuvastada 55% oma Muse Image mudeliga loodud piltidest pärast nende kärpimist. Kõik originaalpildid tuvastati õigesti, kuid pärast kolmandiku või poole ulatuses kärpimist ebaõnnestus tuvastamine üle pooltel juhtudel. Meta tunnistas, et tugeva kärpimise korral võib veemärk kaduda.

Meta nädalavahetusel esitletud AI-piltide tuvastustööriist ei tule toime lihtsa nipiga: kui Muse Image'iga loodud pilti kärpida kolmandiku või poole ulatuses, jääb üle poolte tuvastamata. Seda näitas Reutersi agentuur, kes testis 40 Muse Image'iga genereeritud pilti.

Originaalpildid tuvastati täpselt. Kuid niipea kui pilti kärpida, kadus tuvastamisvõime 55% juhtudel. Meta teatas tööriista ja Muse Image'i käivitamisest samal nädalal ning lubas, et süsteem suudab AI-pilte tuvastada ka pärast kärpimist, tänu nähtamatule veemärgisüsteemile Content Seal, mis on iga Muse Image'i pildi sisse põimitud.

Meta tunnistas piiranguid

Reutersi päringule vastates rõhutas Meta, et tööriist töötab endiselt eelversiooni režiimis. Veemärk on mõeldud taluma tavalisi töötlusi, kuid tugeva kärpimise korral võib see kaduda, tunnistas ettevõte.

Meta pole siin erand. Google ja OpenAI on varem samuti hoiatanud, et nende tuvastussüsteemid ei kaitse täielikult piltide muutmismeetodite eest.

Veemärgi meetodil on põhimõtteline nõrkus

New Yorgi osariigi Buffalo ülikooli arvutiteaduse professor Siwao Lü, kes uurib AI-piltide kohtuekspertiisi, ütles Reutersile, et ta pole Meta tööriista ise testinud, kuid veemärgipõhistel süsteemidel on kaasasündinud piirangud.

«Veemärgipõhised meetodid võivad olla väga tõhusad, kuni märk on puutumata, kuid igasugune muutus, mis eemaldab või nõrgendab sisseehitatud signaali, kärpimine, suuruse muutmine, tugev tihendamine või redigeerimine, võib nende tõhusust vähendada, sõltuvalt sellest, kuidas veemärk on üles ehitatud,» selgitas Lü.

Oht suureneb valimiste eel

Tuvastuspuudujääk on eriti murettekitav, kuna USA valmistub vahepealisteks kongressivalimisteks ja deepfake'ide leviku risk on valimisaastal kõrgem kui kunagi varem.

Meta enda järelevalvenõukogu nõudis märtsis, et ettevõte võtaks aktiivsemalt meetmeid «eksitava AI-sisu leviku» vastu oma platvormidel ning investeeriks võimsamatesse tuvastustööriistadesse.