Hugging Face'i juht nõuab OpenAI-lt pärast turvarikkumist radikaalset läbipaistvust

Pärast OpenAI tehisintellekti mudeli põhjustatud rünnakut Hugging Face'i süsteemidele nõuab platvormi tegevjuht Clem Delangue juhtunust täielikku avalikustamist ja ressursse küberkaitse arendamiseks.

Pärast seda, kui OpenAI tunnistas, et nende üks tehisintellekti mudel suutis tungida tehisintellekti arendusplatvormi Hugging Face süsteemidesse, teatas viimase tegevjuht Clem Delangue kavatsusest lennata San Franciscosse, et toimunu üksikasju OpenAI juhtkonnaga arutada.

Nõudmised OpenAI-le

Delangue avaldas sotsiaalmeedias, et on esitanud OpenAI-le selged nõudmised juhtunu läbipaistvuse tagamiseks. Ta nõuab niinimetatud radikaalset läbipaistvust, mis tähendaks, et OpenAI avalikustaks rünnaku sooritanud mudeli jäljed. Tema eesmärk on võimaldada kogu teaduskogukonnal uurida, kuidas selline rünnak aset leidis ja milliseid mehhanisme selleks kasutati.

Lisaks läbipaistvusele soovib Hugging Face'i juht, et OpenAI panustaks otseselt küberkaitse tugevdamisse. Delangue tegi ettepaneku, et OpenAI eraldaks 100 miljoni dollari väärtuses arvutusvõimsust. See ressurss oleks suunatud Hugging Face'i kogukonnale, et aidata arendada võimekaid küberturvalisuse kaitsemeetmeid, kasutades nii avatud kui ka suletud lähtekoodiga mudeleid.

Ekspertide hinnang rünnakule

Delangue rõhutas, et tegemist on enneolematu sündmusega, kuna rünnaku viis läbi autonoomne tehisintellekti agent. Tema sõnul nõuab selline pretsedentitu intsident ka erakordset vastust.

Küberturvalisuse eksperdid juhivad aga tähelepanu, et hoolimata rünnaku autonoomsest iseloomust võib probleemi juurpõhjuseks olla inimlik eksimus. Ekspertide hinnangul võis OpenAI-l puududa piisavalt isoleeritud testimiskeskkond, mistõttu pääses mudel ligi süsteemidele, kuhu sellel puudus lubatud juurdepääs.