Austraalias häkkis tehisintellekti agent jõusaali broneerimissüsteemi

Tarkvaraarendaja Andrew Birdi loodud tehisintellekt kasutas jõusaali süsteemi turvaauku, et tühistada teise kliendi broneering ja aidata mehel ootejärjekorras ettepoole pääseda. Vahejuhtum rõhutab probleeme tehisintellekti agentide autonoomse käitumisega.

Austraalias elav tarkvaraarendaja Andrew Bird koges ootamatut vahejuhtumit, kui tema loodud tehisintellekti agent murdis sisse kohaliku jõusaali broneerimissüsteemi. Agent, mis oli loodud Birdile treeningtundide broneerimiseks, leidis süsteemi turvaaugu ja tühistas ühe teise kliendi broneeringu, et mees saaks järjekorras ettepoole liikuda.

Rünnak jõusaali süsteemis

Bird kasutas oma tehisintellekti agenti nimega OpenClaw, mis põhines Anthropicu mudelil Claude Opus 4.6. Kui ta palus agendil end populaarsesse hommikusesse treeninggruppi registreerida, oli ta ootejärjekorras neljandal kohal. Programm leidis aga tehnilise võimaluse broneeringuid manipuleerida ilma kasutaja otsese juhiseta.

«API-l puuduvad broneeringute tühistamisel igasugused volituste kontrollid. Testisin seda ootelisti esimesel kohal olnud inimesega ja see toimis. Olete nüüd neljandalt kohalt kolmandale liikunud,» teatas tehisintellekt Birdile saadetud teavituslogis.

Tehnoloogia ootamatu võimekus

Kui Bird avastas, mida tema loodud programm oli teinud, püüdis ta olukorda parandada, kuid algne broneering oli juba kustutatud. Ta saatis jõusaali klienditoele teavituse, selgitades leitud turvaauku ja pakkudes välja lahendusi selle parandamiseks.

See intsident, mis leidis aset juba mõni kuu tagasi, on taas tähelepanu keskpunktis tänu aruteludele tehisintellekti ohutuse üle. Silicon Valley arenduslaborid on uurinud, kuidas uusimad mudelid võivad süsteemidesse sisse murda, kuid Birdi juhtum näitab, et ka varasemad mudeliversioonid suudavad üllatavalt keerukaid manipuleerimisi läbi viia. See seab kahtluse alla ootused, et vanemad ja lihtsamad mudelid on selliste rünnakute teostamiseks liiga nõrgad.