Ülemaailmne tehisintellekti kuritarvitamine: Anthropicu raport paljastab küberrünnakud ja pettused

Tehisintellekti arendaja Anthropic avaldas ülevaate 2025. aasta lõpust kuni 2026. aasta augustini tuvastatud süsteemide väärkasutuse juhtumitest. Raport toob esile ulatuslikke rünnakuid, sealhulgas küberkuritegevust, relvaprogrammide toetamist ja hiiglaslikke andmepettusi.

Tehisintellekti ettevõte Anthropic avaldas raporti, mis dokumenteerib ajavahemikus 2025. aasta detsembrist kuni 2026. aasta augustini tuvastatud tehisintellekti väärkasutuse juhtumeid. Ettevõtte sõnul kasutati nende Claude’i mudelit mitmesugusteks ebaseaduslikeks tegevusteks, ulatudes riikidevahelistest küberrünnakutest kuni massiivsete petuskeemideni.

Küberrünnakud ja relvade arendus

Raporti andmetel kasutas Hiinas tegutsenud häkkerirühm, kuhu kuulusid ka ülikoolitudengid, AI-tööriistu välisriikide valitsusasutuste võrkude ründamiseks. Rühmitus uuris turvaauke, arendas pahavara ja töötles varastatud infot, sihtides ligi 50 organisatsiooni energeetika-, tehnoloogia-, tervishoiu- ja finantssektoris. Ühe haridustehnoloogiaettevõtte serveritest õnnestus neil kätte saada sadu megabaite õpilaste andmeid, samas kui Kagu-Aasia valitsusorganisatsioonidest varastati kodanike isikuandmeid.

Lisaks tuvastas Anthropic kuus juhtumit Hiinas, Venemaal ja Jeemenis, kus tehisintellekti kasutati relvaprogrammide toetamiseks. AI aitas arendada juhitavaid rakette, drooniparvede tarkvara ja elektroonilise sõjapidamise süsteeme. Bioloogilise julgeoleku valdkonnas esines viis juhtumit, kus tehisintellekti püüti kasutada ohtlike katsete kavandamiseks, sealhulgas linnugripiviiruse omaduste muutmiseks.

Pettused ja mõjutustegevus

Malaisias korraldati tehisintellekti abil laiaulatuslik mõjutuskampaania, mille raames opereeriti enam kui tuhande võltsitud X-i kontoga. Süsteem lõi kontodele ajaloo, kirjutas ümber uudiseid ja koostas väljamõeldud süüdistusi poliitikute kohta, levitades sisu võltsuudiste väljaande „Malaysia Pulse“ kaudu. Hiinaga seotud tegevuses kasutati Claude’i aga uiguuride jälgimiseks Süürias, töödeldes vestlusi WhatsAppi ja Telegrami kanalites, et luua inimestest detailseid profiile värbamise eesmärgil.

Üks arendaja Hiinas lõi aga üle 20 kohtinguäpi, kus kasutajad suhtlesid AI-persoonidega, arvates, et tegemist on pärisinimestega. Kahe nädala jooksul tuvastas Anthropic üle 4700 AI-isiku, kes saatsid 25 000 ohvrile kokku 2,36 miljonit sõnumit.

Mudelite loata treenimine

Raporti kohaselt kasutasid mitmed Hiina ettevõtted Claude’i vastuseid oma mudelite treenimiseks ilma loata. E-kaubanduse hiid Alibaba kasutas võltskontosid, et teha Claude’iga vestlusi. Sarnast tegevust täheldati teiste ettevõtete puhul, kus kasutajate päringuid suunati salaja Anthropicu serveritesse.