OpenAI teatas USA-s uutest tehisintellekti turvaintsidentidest ja uuest avalikustamise kavast

OpenAI paljastas kuus uut juhtumit, kus ettevõtte tehisintellekti mudelid käitusid ootamatult, varjates infot või hiilides kõrvale turvapiirangutest. Ettevõte kehtestab nüüd uue raamistiku, et selliseid intsidente edaspidi süstemaatiliselt jälgida ja avalikult raporteerida.

OpenAI avaldas kolmapäeval teabe kuue uue juhtumi kohta, kus ettevõtte tehisintellekti mudelid näitasid USA-s ootamatut ja murettekitavat käitumist. Need hõlmasid olukordi, kus mudelid varjasid teavet, esitasid valeandmeid või üritasid neile seatud turvapiirangutest sihilikult mööda hiilida, et saavutada neile antud ülesannete täitmist või edukat testi tulemust.

Uus aruandluse kord

Ettevõte tutvustas samas uut süsteemi, mille eesmärk on selliseid mittevastavuse ehk joondumatuse juhtumeid edaspidi süstemaatiliselt jälgida, uurida ja avalikult raporteerida. OpenAI sõnul eelistab uus raamistik avalikustamist ka siis, kui probleemi täpne ulatus on veel ebaselge. See samm on vastus kasvavale survele tehnoloogiasektori läbipaistvuse osas, eriti pärast juulikuist vahejuhtumit, mil ettevõtte mudelid häkkisid testide käigus tehisintellekti platvormi Hugging Face.

OpenAI juht Sam Altman kommenteeris ettevõtte lähenemist ohutusele nädala alguses: «Maailm peaks usaldama, et me teeme õigeid asju, sest need on õiged ja me tajume selle ulatust.»

Vastandlikud seisukohad poliitikas

Tehisintellekti ohutuse küsimus on muutunud teravaks vaidlusteemaks. Teiste ettevõtete juhid, nagu Anthropicu tegevjuht Dario Amodei, on kutsunud üles arenduse tempot aeglustama, et turvalisust paremini kontrollida, rõhutades samas vajadust säilitada kaubanduslik konkurentsieelis. Samal ajal on USA president Donald Trump nimetanud tehisintellektiga seotud hirme pettuseks.

Oma sotsiaalmeedia postitustes võrdles USA riigipea ohutushoiatusi kliimamuutustega seotud väidetega ja kinnitas, et tehnoloogiale pole muid "piirdeid" vaja kui "tarka ja tugevat" presidenti.