Anthropicu uus AI-mudel Mythos tekitab turvalisusmuret

Anthropic avaldas 7. aprillil uut keelemudeli Mythos, mis on eriti osav tarkvara turvaauke leidmisel. Mudeli potentsiaalne kuritarvitamisriski tõttu pole seda veel avalikult välja antud, vaid juurdepääsu on ainult valitud partneril.

Kunstliku intelligentsi ettevõte Anthropic tutvustas uut tipptasemel keelemudeli Mythos, mis näitab erakordseid võimekusi tarkvaraturvalisuse valdkonnas. Mudel on spetsiaalselt optimeeritud tarkvara turvaauke avastama, mis võiks teoreetiliselt aidata arendajatel nende süsteeme turvalisemaks muuta.

Ometi on Anthropic mudeli avalikule kasutamisele piiranguid seadnud. Ettevõte kartseb, et lekkimisel võiks mudel anda liiga võimsaid vahendeid küberkurjategijatele kriitiliste süsteemide vastu rünnakute sooritamiseks. See oleks potentsiaalselt ohtlik nii suurettevõtetele kui ka valitsusasutustele.

Seepärast on Anthropic otsustanud mudeli avalikult välja ei anna. Selle asemel saavad mudeli kasutada ainult ettevõtte valitud partnerid ja koostööpartnerid, kellel on sisulised huvi ja vastutus turvalisuse parandamisel. Selline lähenemine näitab kasvavat teadlikkust AI-mudelite dubleeritud kasutamise riskidest ja vastutustundlikust tehnoloogia arendamisest.