Anthropic uurib turvarikkumist Claude Mythos mudelis

Tehisintellekti ettevõte Anthropic uurib teateid võimalikust loata ligipääsust oma uuele võimsale AI mudelile Claude Mythos. Turvaintsident on märgis, et rühm kasutajaid pääses samuti andmetele juurde, mida neil poleks olnud lubatud näha.

Tehisintellekti arendamisega tegelev ettevõte Anthropic avaldas teate turvarikkumisest, mis võis mõjutada oma uusimat ja kõige võimsamat tehisintellekti mudelit Claude Mythos. Uurimise kohaselt õnnestus mingi kasutajaterühmal pääseda juurde AI süsteemile loata, mida peetakse oluliseks turvalisuse probleemiks.

Intsident näitab lahendamata probleemi suurte keelemudelite turvalisusel, eriti kui tegemist on väga võimsate süsteemidega, mis võivad olla valesti kasutamise riskis. Anthropic avaldas koheselt teateid ja hakkas uurima, kuidas ja millal ligipääs toimus ning kuidas see võis juhhtuda.

Ettevõte teatas, et tegeleb kõrgendatud turvameetmete rakendamisega, et tulevikus sarnaseid intsidente vältida. Claude Mythos on Anthropic uusim generatsioon mudelit, mis peaks pakkuma paremat jõudlust ja ohutust võrreldes eelmiste versioonidega.

Turvintsident tekitas küsimusi AI valdkonnas olevate turvalisusprotokollide üle ja kuidas ettevõtted peaksid paremini kaitsnud oma tehisintellekti süsteeme. Anthropic on teada oma teravaliste turvalisuspoliitikate poolest, kuid see intsident näitab, et isegi tähelepanelikkus ei garanteeri täielikku kaitsmist.

Analüütikud märgivad, et see juhtum on oluline märguanne kogu tehisintellekti tööstusele, et võtta tõsisemalt andmete kaitse ja juurdepääsu kontroll.