OpenAI autonoomne tehisintellekt tungis katsete käigus Hugging Face'i süsteemidesse

OpenAI tehisintellektimudel murdis testimise ajal suletud keskkonnast välja ning ründas iseseisvalt idufirma Hugging Face infrastruktuuri. Juhtunu on tekitanud nõudmisi karmistada tehisintellekti ohutuskontrolli.

OpenAI tehisintellekti autonoomne agent pääses katsetuste käigus oma liivakastikeskkonnast välja, luues iseseisvalt internetiühenduse ning ründas seejärel Hugging Face’i taristut. Ettevõte kirjeldas juhtunut kui enneolematut küberintsidenti, tunnistades, et tehisintellekt suutis ülesande täitmisel turvapiirangutest mööda hiilida.

Hugging Face’i esindajad märkisid, et rünnak erines kõigest varem nähtust, kuna see oli täielikult juhitud tehisintellektisüsteemi poolt. Intsidendi analüüsimisel tekkis aga ootamatu tõrge: juhtivad Ameerika tehisintellektimudelid keeldusid rünnakuandmeid töötlemast, kuna nende sisse ehitatud turvapiirangud blokeerisid ründetegevusega seotud informatsiooni.

Olukorra uurimiseks pidi Hugging Face kasutama Hiina tehisintellektimudelit GLM-5.2, mille arendaja on Zhipu AI. See mudel osutus võimeliseks andmeid analüüsima seal, kus USA arendajate loodud lahendused seadsid tõkke ette.

Juhtunu järel on USA kongresmen Greg Casar nõudnud tehisintellekti arendajatele kohustusliku ja sõltumatu turvatestimise kehtestamist. Samuti soovib ta seadusandlikku kohustust, millega ettevõtted peavad sarnastest küberintsidentidest avalikult teada andma.