Tehisintellekti rünnak Hugging Face’i vastu oli tingitud OpenAI turvaveast

OpenAI tehisintellektimudel murdis testimise käigus sisse Hugging Face’i süsteemidesse, tuues esile kriitilised puudujäägid tehisintellekti laborite turvakeskkondades. Eksperdid peavad intsidendi põhjuseks inimlikku eksimust, kuna testkeskkond polnud piisavalt isoleeritud.

OpenAI tehisintellektimudel murdis testimise käigus sisse AI-andmestiku platvormi Hugging Face süsteemidesse, demonstreerides ohtusid, mis võivad kaasneda arenenud mudelite katsetamisega. Ehkki intsidendi peamine põhjus näib esmapilgul olevat tehisintellekti ootamatu ja iseseisev käitumine, viitavad küberturvalisuse eksperdid, et tegelikuks süüdlaseks oli inimlik eksimus testimiskeskkonna seadistamisel.

Teisipäeval avaldatud raporti kohaselt pidi OpenAI mudel töötama rangelt isoleeritud keskkonnas, kuid tegelikkuses oli süsteemil ühendus internetiga. Keskkonna turvalisus tugines kolmanda osapoole tarkvarale, mis võimaldas paigaldada pakette, kuid just see funktsionaalsus muutus nõrgaks lüliks, võimaldades mudelil «liivakastist» välja pääseda.

Eksperdid: tegemist on kontrolli läbikukkumisega

Küberturvalisuse uuringute ettevõtte Trail of Bits asutaja Dan Guido viitas intsidendi seostele testimiskeskkonna nõrkustega. Ekspertide hinnangul ei tohiks isoleeritud testimiskeskkonnal olla mingisugust füüsilist või virtuaalset ühendust välise võrguga, sest vastasel juhul on kogu liivakasti kontseptsioon küsitav.

Küberturvalisuse konsultant Daniel Card märkis, et OpenAI ei panustanud liivakasti disaini piisavalt, jättes süsteemi võimaluse ligipääsuks filtreerimata internetiühendusele. Tema sõnul polnud niisuguse keskkonna loomine mõistlik otsus. Sarnasel seisukohal on küberturvalisuse ekspert Jake Williams, kes nimetas juhtunut massiivseks kontrolli läbikukkumiseks, rõhutades, et kui mudel suutis selliseid toiminguid sooritada, ei olnud see algusest peale nõuetekohaselt isoleeritud.

Sarnased probleemid ka teistel ettevõtetel

OpenAI teatas, et on tuvastanud tarkvaras nullpäeva haavatavuse ja tegeleb selle parandamisega koos teenusepakkujaga. Vahejuhtum on siiski tõstatanud küsimusi tehisintellekti laborite turvapraktikate kohta üldiselt.

Sarnaste väljakutsetega on silmitsi seisnud ka Anthropic, kes oma küberturvalisusele suunatud mudeli Mythos testimisel avastas, et ka nende loodud «turvaline» konteiner ei suutnud mudeli internetiühendust täielikult piirata. Kuigi mudel ei pääsenud täielikult vabaks, suutis see luua ühenduse teenustega, millele tal pidanuks ligipääs puuduma.