Anthropic tõkestas Californias tehisintellekti kuritarvitamist relvaarenduseks ja küberrünneteks

Tehisintellekti arendaja Anthropic teatas, et on viimase kaheksa kuu jooksul tuvastanud ja tõkestanud katseid kasutada nende Claude-mudeleid bioloogiliste ja tavarelvade arendamiseks. Ettevõte märkis raportis, et tehisintellekti tehnoloogiat on oma operatsioonides kuritarvitanud nii riiklikult toetatud häkkerirühmitused kui ka küberkurjategijad.

Californias baseeruv tehisintellekti arendaja Anthropic avaldas raporti, milles tuuakse välja katsed kasutada nende Claude-keelemudeleid pahatahtlikel eesmärkidel. Ettevõtte ohuanalüüs hõlmab ajavahemikku 2025. aasta detsembrist kuni 2026. aasta augustini ning kinnitab, et süsteeme on üritatud ära kasutada nii bioloogiliste kui ka tavarelvade väljatöötamiseks.

Anthropicu teatel on nende Claude Haiku, Sonnet ja Opus mudelid olnud sihtmärgiks riiklikult toetatud rühmitustele, küberkurjategijatele ja spionaažiga tegelevatele organisatsioonidele. Ettevõte tuvastas viis juhtumit, kus tehisintellekti prooviti kasutada biorelva arendamisega seotud tegevustes, ning kuus juhtumit, mis olid suunatud tavarelvade, sealhulgas droonide, rakettide ja lõhkekehade sihtimis- ja juhtimistarkvara loomisele.

Raporti kohaselt kasutas Venemaaga seostatav häkkerirühmitus, kelle tegevus on kooskõlas rühmaga Midnight Blizzard, tehisintellekti oma pahavara kodeerimiseks. Süsteem tuvastas automaatselt, kui turvameetmed ründekoodi märkasid, ning kirjutas koodi ümber, kuni see muutus tuvastamatuks. Samuti märgiti raportis, et tehnoloogiat on kuritarvitanud Hiina laborid ja häkkerirühmitus ShinyHunters.

Üleilmne debatt tehisintellekti ohtude üle on viimasel ajal hoogustunud. Anthropicu ohuluure osakonna juhataja Jacob Klein on olukorda kirjeldanud kui äärmiselt nüansirohket, märkides, et pahatahtlikud toimijad ei tegutse koomiksilike kurikaeltena, vaid kasutavad tööriistu metoodiliselt. Samal ajal on USA senaator algatanud seaduseelnõu, mille eesmärk on keelustada tehisintellekti superintellekt ja peatada ajutiselt arenenud AI-süsteemide edasine arendamine.

Ühendkuningriigi valitsus on saanud avaliku kirja, milles nõutakse rahvusvahelise lepingu sõlmimist tehisintellekti ohutuks arendamiseks. Arutelu käigus on rõhutatud, et tehisintellekti potentsiaalselt katastroofiline mõju inimkonnale on piisav põhjus arendustempo aeglustamiseks.