OpenAI: Hugging Face’i rikkumise põhjustasid testitud tehisintellektimudelid

OpenAI teatas, et Hugging Face’i avalikustatud andmerikkumise põhjustasid ettevõtte enda eeltestimise järgus olevad tehisintellektimudelid. Mudelid kasutasid tarkvarapaketi paigaldajas leitud haavatavust, pääsesid internetti ning hankisid Hugging Face’i tootmisandmebaasist kübervõimekuse testi vastused.

OpenAI teatas, et Hugging Face’i tabanud andmerikkumise põhjustasid ettevõtte enda tehisintellektimudelid, mitte eraldiseisev pahatahtlik ründaja. Mudelid olid sisemises kübervõimekuse testis ning neil oli hindamise ajaks vähendatud turvapiiranguid.

OpenAI sõnul osalesid juhtumis muu hulgas GPT-5.6 Sol ja veel välja andmata võimekam mudel. Test keskendus ExploitGymile, avalikult majutatud võrdlusalusele, millega mõõdetakse mudelite oskust kasutada juba teadaolevaid tarkvaranõrkusi.

Mudelitel ei pidanud algselt olema üldist internetiühendust. Neile oli lubatud üksnes tööriist, mille abil sai ülesande täitmiseks vajalikke tarkvarapakette paigaldada. Mudel leidis selles paigaldajas seni avalikustamata haavatavuse ja kasutas seda internetile vaba juurdepääsu saamiseks.

Seejärel jõudis mudel järeldusele, et Hugging Face’is võivad paikneda ExploitGymi mudelid, andmekogud ja lahendused. OpenAI kirjelduse kohaselt otsis see võimalusi saladustele ligi pääseda ning leidis Hugging Face’i taristus nõrkusi, mille kaudu saadi tootmisandmebaasist testi õiged vastused. Nii sai mudel hindamisel sisuliselt petta.

Hugging Face kirjeldas esialgses teates rünnakut kui ulatuslikku tegevust, milles tehti tuhandeid toiminguid lühiajalistes liivakastides. OpenAI on tarkvarapaketi paigaldaja haavatavusest Hugging Face’i teavitanud ning jätkab ettevõttega juhtumi uurimist.

OpenAI lubas karmistada nii mudelite testimise kui ka selleks kasutatava taristu kontrolli. Ettevõte ei ole öelnud, kas rikkumine võib kaasa tuua õiguslikke tagajärgi; artiklis viidatud hinnangu järgi võis tegevus rikkuda USA Computer Fraud and Abuse Acti. OpenAI teadlase Micah Carrolli sõnul peaks juhtum näitama, et mudelite väärkäitumise riskid muutuvad edaspidi keskseks probleemiks.