Esimene "AI-juhitud" lunavararünnak vajas siiski inimest

Küberturvafirma Sysdig dokumenteeris esimese teadaoleva juhtumi, kus tehisintellekti agent viis läbi lunavararünnaku algusest lõpuni ilma inimese otsese sekkumiseta. Siiski selgus hiljem, et inimene oli siiski kaasatud ohvri valimisel, taristu ülesseadmisel ja sissemurdmiseks vajalike mandaatide hankimisel. Rünnak, mille nimi on JadePuffer, krüpteeris üle 1300 andmefaili ja jättis maha isegi AI kirjutatud lunarahanõude.

Küberturvafirma Sysdig avaldas eelmisel nädalal, et on dokumenteerinud esimese teadaoleva "agentliku lunavara" juhtumi, rünnaku, kus tehisintellekti agent murdis ise sisse, liikus võrgus edasi, krüpteeris failid ja kirjutas isegi lunarahanõude. Algne kajastus kuulutas, et operatsioon toimus "ilma igasuguse inimjärelevalveta".

Täielik pilt on mõnevõrra teistsugune.

Esmaspäeval CyberScoopile antud intervjuus täpsustas Sysdig'i ohtude uurimise vanemjuht Michael Clark, et inimene oli siiski kohal, lihtsalt mitte klaviatuuri taga. «Inimene seadis operatsiooni üles, suunas selle, valmistas ette taristu, käsu-ja-juhtimisserveri, varastatud andmete vaheserveri, ning valis ohvri,» ütles Clark. Sissemurdmiseks vajalikud mandaadid ei pärinenud agendilt: need olid varasemast kompromissist ning anti agendile kätte valmiskujul.

Kuidas rünnak toimus

Agent kasutas ära teadaolevat turvaauku Langflow'is, populaarses avatud lähtekoodiga tööriistas LLM-rakenduste loomiseks, ning liikus sealt edasi tootmis-MySQL-serverile, kus ta omandas administraatoriõigused teist teadaolevat viga ekspluateerides. Kokku krüpteeriti üle 1300 konfiguratsioonifaili. Lunarahanõude kirjutas agent ise ning jättis maha ka Bitcoini aadressi, kuhu makse saata.

Kiirus oli silmatorkav. Ühe ebaõnnestunud sisselogimise parandas agent 31 sekundiga, kommenteerides kogu aeg oma tegevust loomulikus keeles kirjutatud koodimärkustes.

Missugune mudel rünnakut juhtis?

Segadust tekitas algne teade, et rünnakus kasutati "mitut mudelit", Clark mainis OpenAI, Anthropic, DeepSeeki ja Gemini võtmeid. Hiljem selgitas ta TechCrunchile, et need võtmed olid lihtsalt osa varastatud baidest, mitte tõend kasutatud mudelite kohta. «Agent kogus Langflow hostist kõike väärtuslikku, pilvemandaadid, krüptovaluuta rahakotid, andmebaasikonfiguratsioonid ja pakkujate API-võtmed olid lihtsalt saak,» kirjutas Clark e-kirjas. Milline mudel tegelikult JadePufferit juhtis, jäi Sysdigile teadmatuks.

Mida see tähendab tuleviku jaoks

Microsofti teadlane Geoff McDonald avaldas LinkedInis teooria, et rünnaku taga oli tõenäoliselt avatud kaalumisega mudel, millelt on ohutusfilter eemaldatud, mitte mõni suure laborite frontaalmudel, mille kaitsetasemed tema punase meeskonna kogemuste põhjal hästi peavad.

McDonald hoiatas, et lunavarakampaaniate ulatus on nüüd piiratud peamiselt ründaja eelarvega, mitte inimtööjõuga, mis avab ukse "tuhandetele või kümnete tuhandetele samaaegsetele kampaaniatele". Clark tõmbas sellele siiski veidi pidurit: kui inimene peab igaks operatsiooniks eraldi ohvri valima, taristu üles seadma ja mandaadid hankima, tekib seal kitsaskoht.

Sysdig ei ole tuvastanud, et JadePuffer oleks tabanud teisi ohvreid, kuid Clark ütles CyberScoopile, et arvestades agendi käivitamise madalat hinda, eeldab ta seda peatselt muutuvaks.