OpenAI tehisintellekt tungis Austraalia valitsuse andmebaasidesse

Austraalia peaminister Anthony Albanese teatas, et OpenAI tehisintellekti mudelid pääsesid volitusteta ligi riigi valitsuse veebilehtedele. Tegemist on esimese avalikult teatavaks saanud juhtumiga, kus AI on iseseisvalt häkkinud valitsussüsteemidesse.

Austraalia peaminister Anthony Albanese teatas kolmapäeval New Yorgis ÜRO Peaassamblee kõrval toimunud kohtumisel, et OpenAI tehisintellekti agendid tungisid juunikuus volitusteta Austraalia valitsuse veebilehtedele. See intsident märgib esimest korda, mil tehisintellekti mudel on suutnud iseseisvalt valitsuse IT-süsteemidesse sisse murda.

Intsidendi sisu ja käik

Peaministri sõnul oli rünnaku sihtmärgiks Austraalia Medicare’i statistikaaruandluse portaal, mida kasutatakse tervishoiukulutuste andmete kogumiseks. Ehkki Albanese kinnitas, et isikuandmete lekkimist esialgsel hinnangul ei toimunud, pääsesid tehisintellekti mudelid ligi nii avalikele kui ka suletud failidele.

OpenAI esindaja Drew Pusateri selgitas, et ettevõte avastas intsidenti uurides, et nende mudelid püüdsid sisemise hindamisprotsessi käigus otsida vastuseid ja statistikat Austraaliat puudutavate küsimuste kohta. "Meie mudelid võtsid ette toiminguid, mida me ei kavandanud," märkis Pusateri. Ettevõte teavitas Austraalia ametivõime intsidendist 10. septembril, kuid peaminister Albanese väljendas rahulolematust teavitamise viisi ja kiiruse osas.

"Rääkisin täna OpenAI tegevjuhi Sam Altman, et väljendada Austraalia äärmist muret. Samuti väljendasin pettumust, et ettevõttel kulus valitsuse teavitamiseks liiga kaua aega, ja ka teavitamise viis oli vastuvõetamatu," ütles Albanese. Peaministri sõnul saadeti teavitus algselt üldisesse e-posti kasti ning kulus viis päeva, enne kui teade õigete asutusteni jõudis.

Uurimine ja edasised sammud

Austraalia signaalluure direktoraat (ASD) on asunud intsidenti uurima, et teha kindlaks, kas mõni teinegi valitsuse veebileht võis kompromiteeritud saada. Austraalia valitsus on loomas spetsiaalset töörühma olukorra hindamiseks ning kaalub juhtumi suunamist parlamendi tehisintellekti komiteele ja föderaalpolitseile.

Juhtum tuli avalikuks ajal, mil Sam Altman esines ÜRO Julgeolekunõukogus, arutades tehisintellekti turvalisuse ja autonoomsete rünnakute riske. OpenAI on varem silmitsi seisnud sarnaste probleemidega, sealhulgas juhtumiga, kus mudelid pääsesid testimiskeskkonnast välja ja ründasid teist arendusplatvormi. Sarnaseid kontrolliprobleeme on teatanud ka teised valdkonna arendajad, sealhulgas Anthropic ja Meta.