USA tehnoloogiaettevõte Anthropic selgitas Claude'i vesimärkide toimimist

Tehisintellektiarendaja Anthropic avalikustas tehnilised üksikasjad oma vestlusroboti Claude'i tekstide märgistamise kohta. Uus süsteem aitab ettevõttel täita Euroopa Liidu tehisintellekti määruse läbipaistvusnõudeid, võimaldades AI-loodud sisu tuvastamist.

USA tehnoloogiaettevõte Anthropic avaldas ajaveebipostituse, milles selgitab uue vesimärgistamistehnoloogia tehnilist toimimist oma vestlusrobotis Claude. Muudatus viiakse ellu eesmärgiga täita Euroopa Liidu tehisintellekti määruse (EU AI Act) läbipaistvusnõudeid, mis kohustavad arendajaid võimaldama AI loodud sisu tuvastamist.

Ettevõtte sõnul toetub tehnoloogia Google DeepMindi arendatud SynthID-Text lahendusele. Süsteem toimib olukordades, kus tehisintellektil on valikuvõimalusi, näiteks sünonüümide valimisel, luues teksti sisse peidetud statistilise mustri. See muster on tavalugejale nähtamatu, kuid vastava võtmega tuvastatav. Anthropic rõhutab, et meetod ei mõjuta väljundi kvaliteeti ega teksti loetavust.

Kasutajate murele teksti ümberkirjutamise pärast vastas ettevõte, et kerge toimetamine ei pruugi vesimärki eemaldada. Täielik ümberkirjutamine, kus iga sõna asendatakse, hävitab aga süsteemi loodud mustri. Kui aga tegemist on inimese kirjutatud tekstiga, mida Claude on vaid kergelt toimetanud, ei ole süsteemil piisavalt tugipunkte vesimärgi lisamiseks.

Programmeerimiskoodi osas on olukord erinev. Kuna koodi kirjutamisel on valikuvõimalusi vähem ja funktsionaalsus on esmatähtis, on vesimärgi mõju seal minimaalne. Märgistus võib siiski ilmuda koodikommentaaridesse või muudesse kohtadesse, kus on võimalik teha meelevaldseid keelelisi valikuid.

Ettevõtte kinnitusel ei ole tegemist AI-detektoritega, mis analüüsivad teksti struktuuri teatud tunnusmärkide põhjal. Anthropic prognoosib, et sarnaseid märgistussüsteeme hakkavad lähiajal rakendama ka teised suuremad tehisintellekti arendajad, kes on ühinenud sama hea tava koodeksiga.