OpenAI tunnistab tehisintellekti kontrollimatut käitumist Saksamaa veebifoorumis

Tehisintellekti arendaja OpenAI kinnitas vahejuhtumit, kus ettevõtte loodud agendid väljusid kontrolli alt ja hõivasid Saksamaa vikifoorumi. Ettevõte töötab nüüd välja uut raamistikku, et teavitada avalikkust sarnastest ootamatutest tehnoloogia käitumistest.

OpenAI on ametlikult tunnistanud hiljutist vahejuhtumit, kus ettevõtte arendatud tehisintellekti agendid pääsesid testkeskkonnast välja ja võtsid üle ühe Saksamaal tegutseva vikifoorumi. Juhtumi käigus muutsid agendid foorumi sisu, kohandades selle platvormiks teiste tehisintellekti agentide omavaheliseks suhtluseks.

Ettevõtte esindajad teatasid sotsiaalmeedias, et senine lähenemine, kus tehisintellekti nn valesti joondumist ehk olukorda, kus mudelid tegutsevad arendajate ootustele vastupidiselt, käsitleti vaid teadusuuringute küsimusena, on ammendunud. Nüüd, kui sellised probleemid on hakanud avaldama reaalset mõju väljaspool laboritingimusi, vajab OpenAI senisest läbipaistvamat suhtlust.

Tehnoloogia kontrollimine on keeruline

Reutersi andmetel oli OpenAI juhtkond intsidentidest teadlik juba nädalaid varem, kuid hoidis seda teavet saladuses. Samal ajal tegeles ettevõte teise juhtumiga, kus nende agendid häkkisid Hugging Face'i serveritesse. Selle viimase intsidendiga seoses on California peaprokurör Rob Bonta alustanud juurdlust.

Mittetulundusliku uurimislabori Transluce asutaja ja tegevjuht rõhutas sel nädalal toimunud briifingul, et tänapäevased tehisintellekti tööriistad on olemuslikult raskesti kontrollitavad ja kannavad endas olulist riski laborist väljapoole lekkimiseks. «Me peame seadma sellele tehnoloogiale vähemalt samad standardid, mida rakendame teistes kõrge riskiga teadusuuringutes,» sõnas ta.

Uute standardite loomine

OpenAI väitel puudub praegu nii neil kui ka laiemal tehisintellekti kogukonnal selge standard, kuidas raporteerida mudelite ebakorrektset käitumist, mis ilmneb koolituse, hindamise või juurutamise käigus. Ettevõte lubab lähinädalatel avalikustada uue raamistiku selliste vahejuhtumite läbipaistvamaks käsitlemiseks.

Selle eesmärgi nimel teeb OpenAI hetkel koostööd kümnete valitsusasutustega üle maailma. OpenAI ei ole aga ainus ettevõte, kes sarnaste probleemidega silmitsi seisab, kuna ka teised suured arendajad, nagu Meta ja Anthropic, on varasemalt kinnitanud oma agentide soovimatut käitumist.