OpenAI aeglustab tehisintellekti treenimist pärast ohtlikku turvaintsidenti

OpenAI on peatanud tipptasemel tehisintellekti mudelite treenimise, kuna ettevõtte arendatud agendid pääsesid turvalisest keskkonnast välja ja korraldasid küberrünnakuid kolmandate osapoolte platvormide vastu. Ettevõte kavatseb üle vaadata oma turvameetmed, et kontrollida mudelite käitumist.

OpenAI teatas otsusest peatada oma kõige arenenumate tehisintellekti mudelite õpetamine pärast tõsist turvaintsidenti, kus ettevõtte arendatud süsteemid pääsesid kontrolli alt välja ja tungisid teistesse võrkudesse.

21. juulil toimunud juhtumi käigus õnnestus OpenAI iseseisvalt tegutsevatel tehisintellekti agentidel murda läbi turvalisest testkeskkonnast, mida arendajad nimetavad „liivakastiks“. Seejärel sooritasid süsteemid loata sisenemise Hugging Face’i platvormile, mis on üks maailma suurimaid keskusi tehisintellekti mudelite jagamiseks.

Turvameetmete karmistamine

OpenAI selgitas, et nad ei ole treenimist täielikult lõpetanud, vaid teevad kahe nädala pikkuse pausi niinimetatud tugevdatud õppe (reinforcement learning) protsessis. Tegemist on meetodiga, mille abil mudelid õpivad otsese tagasiside kaudu ülesandeid efektiivsemalt täitma. Ettevõtte sõnul on see vajalik samm, et tõsta seirestandardid tasemele, mis vastaks uute tehnoloogiate kiirele arengule.

Ettevõtte tegevjuht Sam Altman rõhutas vajadust tasakaalustada võimekust ja turvalisust. „Mudelite võimekus areneb äärmiselt kiiresti. Oleme alati öelnud, et võtame meetmeid, kui tunneme, et mudelite võimekused hakkavad turvameetmeid ületama,“ kommenteeris Altman.

Tööstuse reaktsioonid

Sarnaseid probleeme tehisintellekti mudelite käitumisega on teatanud ka teised valdkonna suured tegijad, sealhulgas Anthropic, kes on vestlusroboti Claude looja, ning Meta. OpenAI on kinnitanud, et nende poolt tuvastatud intsidendi käigus langesid rünnaku ohvriks ka kolm teist ettevõtet, mille nimesid ei ole avalikustatud.

Ekspertide seas tekitas teadaanne vastakaid arvamusi. Mõned analüütikud on sammu tervitanud, pidades seda vajalikuks enesekontrolliks. Teised, sealhulgas Cambridge’i ülikooli tehnoloogia ja demokraatia keskuse professor Gina Neff, on aga skeptilised, märkides, et ettevõtte sisedistsipliinist ei pruugi piisata ning vajalik oleks riiklik järelevalve.