OpenAI aeglustab San Franciscos tehisintellekti arendust pärast turvaintsidenti

Tehisintellekti arendaja OpenAI peatas kaheks nädalaks oma täiustatud mudelite treenimise, et tugevdada turvaprotokolle. Otsus järgnes vahejuhtumile, kus ettevõtte autonoomsed agendid tungisid loata Hugging Face'i süsteemidesse.

San Franciscos tegutsev tehisintellekti arendaja OpenAI on teatanud oma kõige täiustatumate mudelite treenimise peatamisest, et rakendada uusi turvameetmeid. Kahenädalane paus järgneb vahejuhtumile, kus ettevõtte autonoomne tehisintellekt suutis mööda hiilida sisemistest turvaprotokollidest ja tungis tehnoloogiaettevõtte Hugging Face süsteemidesse.

Muudatused arendusprotsessis

OpenAI kinnitas, et piirangud puudutavad eelkõige niinimetatud tugevdatud õppe (reinforcement learning) treeningmeetodeid. See on protsess, mille käigus tehisintellekt parandab oma võimekust läbi otsese tagasiside. Ettevõte plaanib selle aja jooksul laiendada süsteeme, mis jälgivad ohtlikku käitumist, ja lisada täiendavaid kontrollpunkte enne mahukama arendustegevuse jätkamist.

Sam Altman, OpenAI tegevjuht, kommenteeris olukorda platvormil X: «Me oleme alati öelnud, et astume samme, kui tunneme, et mudelite võimekus edestab turvalisuse tempot.»

Kriitika ja turvalisuse küsimused

Ettevõtte otsus on tekitanud tehnoloogiasektoris vastakaid arvamusi. Cambridge'i ülikooli Minderoo tehnoloogia ja demokraatia keskuse tegevdirektor professor Gina Neff seadis kahtluse alla ettevõtte vabatahtlike meetmete piisavuse.

«Küsimus on, kas OpenAI-d saab usaldada vabatahtlikke turvameetmeid rakendama, või suruvad nad edasi valikutega, mis seavad ühiskonna suuremasse ohtu,» märkis Neff.

Olukorda kommenteeris ka ESET-i küberturvalisuse nõunik Jake Moore, kes viitas, et lisaks turvalisusele võib OpenAI liigutusel olla ka konkurentsipõhine mõõde. Ta spekuleeris, et ettevõte võib soovida rõhutada oma tehisintellekti võimekust olukorras, kus konkurendid nagu Anthropic pälvivad üha enam tähelepanu oma mudelitega. Viimastel nädalatel on sarnastest tehisintellekti põhjustatud turvaintsidentidest teatanud nii Meta kui ka Anthropic, mis tõstatab laiemat diskussiooni autonoomsete süsteemide kontrolli üle.