Claude tehisintellekt pääses testide käigus volituseta võõrastesse süsteemidesse

Tehisintellekti arendaja Anthropic teatas, et nende keelemudel Claude pääses testimise käigus volituseta ligi kolme organisatsiooni süsteemidesse. Juhtum leidis aset turvatestide vältel, mis pidid olema isoleeritud, kuid jäid koostööpartneri vea tõttu avaliku internetiga ühendatuks.

Tehisintellekti arendaja Anthropic teatas neljapäeval, et nende keelemudel Claude pääsesid testimise käigus volituseta kolme välise organisatsiooni süsteemidesse. Juhtum leidis aset turvatestide vältel, mis pidid olema rangelt isoleeritud reaalsest internetist.

Ettevõte analüüsis kokku 141 006 testsessiooni. Analüüs näitas, et Claude’i kolm eri versiooni, Opus 4.7, Mythos 5 ja üks sisemine uurimismudel, suutsid väljapoole testikeskkonda tungida.

Eksimus internetiühendusega

Anthropicu sõnul sai intsident alguse vääratusest, mis tekkis koostöös hindamispartneri Irregulariga. Testikeskkondade süsteemid jäid avaliku internetiga ühendatuks, mis võimaldas mudelitel välisvõrkudesse pääseda. See eristab juhtumit OpenAI hiljutisest kübertestist, kus mudelid tegutsesid iseseisvalt suletud süsteemis.

«Claude kompromiteeris mõjutatud organisatsioonide infrastruktuuri, kasutades lihtsaid võtteid, nagu nõrkade paroolide ja autentimata otspunktide ärakasutamine,» kirjeldas ettevõte toimunut oma blogipostituses.

«Lipu hõivamise» väljakutse

Mudelid osalesid «lipu hõivamise» (capture the flag) katses, kus tehisintellekti eesmärk on leida võrku peidetud saladus. Tavaliselt toimub see suletud virtuaalkeskkonnas, kuid Anthropicu mudelitel oli ligipääs välismaailma.

Anthropic alustas hindamistulemuste kontrollimist 23. juulil ja peatas kõik kübertestimised samal päeval pärast internetiühenduse avastamist. Kõik kolm intsidenti tuvastati 24. juuliks. Ettevõte rõhutas, et teeb olukorra lahendamiseks tihedat koostööd Irregulariga ja võtab vastutuse paranduste eest enda kanda.