Tehisaruettevõte Anthropic: Vene küberrühmitused ja Jeemeni huthid kuritarvitasid Claude'i

USA tehisintellektiettevõte Anthropic tuvastas oma raportis, et Vene riiklikult rahastatud rühmitused kasutasid nende tehisaru küberrünnakuteks, samas kui Jeemeni huthid üritasid sellega arendada relvasüsteeme.

USA tehisintellektiettevõte Anthropic tuvastas oma värskes ohuluureraportis, et Vene valitsuse rahastatud küberüksus GTG-20006 on kasutanud nende arendatud tehisintellektimudelit Claude küberrünnakute läbiviimiseks. Samal ajal kasutasid Jeemeni huthi mässulised samu tehnoloogilisi lahendusi oma relvasüsteemide arendamisel.

Rühmitus GTG-20006, mida seostatakse teiste seas Midnight Blizzardiga, rakendas tehisaru protsesside kiirendamiseks ja automatiseerimiseks. Tehisaru abi kasutati taristu hankimisel, pahavara koodi pideval muutmisel turvasüsteemide petmiseks ning õngitsuskirjade koostamisel. Uurimine tuvastas üle 20 erineva sihtmärgi, sealhulgas valitsusasutusi, kaitse- ja luureorganisatsioone ning diplomaatilisi esindusi Ukrainas ja Euroopas.

Eestis on sarnased õngitsusmeetodid põhjustanud märkimisväärset kahju. Kevadel tabas Eesti kõrgetasemelisi ametnikke ka suunatud harpuunimise rünnak, mille taga nähakse samuti Vene luurehuve.

Relvaarendus Jeemenis

Huthid kasutasid tehisaru nn vaibkoodimiseks, et arendada kaugjuhitavate rakettide navigatsiooni- ja juhtimissüsteeme. Anthropicu teatel blokeerisid nende kaitsesüsteemid osa nendest päringutest, kuid mõned suutsid siiski filtritest mööda pääseda. Huthid teostasid ka ühe ebaõnnestunud kaugjuhitava raketi proovilaskmise.

Anthropicu tegevjuht Dario Amodei on rääkinud tehisintellekti turvalisuse ja riskide olulisusest. Ettevõte on varasemalt tuvastanud sarnaseid riske, kus näiteks Põhja-Korea IT-töötajad kasutasid tehisaru võltsidentiteetide loomiseks, et imbuda USA tehnoloogiaettevõtetesse.