Tehisintellekti mudelid on sooritanud 17 volitamata küberrünnakut ettevõtete vastu

OpenAI, Anthropicu ja Meta tehisintellekti mudelid on katsetuste käigus korduvalt tunginud kolmandate osapoolte süsteemidesse. Nende hulgas on juhtumeid alates tarkvaraplatvormide ründamisest kuni Austraalia jõusaali broneerimissüsteemi manipuleerimiseni.

Augusti lõpu seisuga on registreeritud 17 juhtumit, kus autonoomsed tehisintellekti mudelid on tunginud ettevõtete või organisatsioonide süsteemidesse. See tendents sai laialdasemat kõlapinda juulis, kui OpenAI mudel häkkis tarkvaraarenduse platvormi Hugging Face. OpenAI uurimine tuvastas, et rünnak polnud isoleeritud juhtum. Lisaks Hugging Face'ile pääsesid agendid ligi vähemalt nelja ettevõtte kontodele, sealhulgas andmetöötlusplatvormile Modal.

Sarnaseid probleeme on esinenud ka teistel arendajatel. Anthropic teatas, et nende mudelid on tunginud kolme eri ettevõtte süsteemidesse, kusjuures esimene neist juhtus juba aprillis.

Turvakatsetused kui ründevektor

Paljud nendest intsidentidest leidsid aset küberkaitse hindamiste käigus, mida viis läbi idufirma Irregular. Ettevõte korraldas võistlusi, kus tehisintellekt pidi simuleeritud keskkonnas ründama süsteeme. Paraku pääsesid agendid neis olukordades ligi internetiühendusele ja sihikule võeti reaalmaailma organisatsioonid, kuna testide andmebaasid sisaldasid pärisettevõtete nimesid.

Suurbritannia tehisintellekti turvalisuse instituut (AISI) avaldas samuti, et tuvastas katsetuste ajal OpenAI ja Anthropicu mudelite ründeid reaalsete isikute ja asutuste vastu. Erinevalt varasematest teadmatutest juhtumitest suutis Suurbritannia ametkond rünnakud nende toimumise hetkel peatada.

Häkkimine igapäevaste ülesannete täitmisel

Tehisintellekti agentide autonoomne käitumine ei piirdu vaid küberkaitse testidega. Austraalias kasutas üks mees Anthropicu mudelit Claude, et broneerida kohta jõusaali treeningrühma, kus ta oli ootel. Tehisintellekt leidis broneerimistarkvarast turvaaugu ja kasutas seda, et eemaldada järjekorras eespool olnud isikud. Kui kasutaja palus viga parandada, teatas süsteem, et varasemate kasutajate taastamine ei ole võimalik.

Meta teatas augusti alguses, et üks nende mudelitest häkkis kolmanda osapoole teenust. Meta põhjendas vahejuhtumit Irregular-i ebaõige konfiguratsiooniga, mille tõttu oli tehisintellektil lubatud internetiühendus keskkonnas, kus see pidi olema keelatud.