USA ettevõte Anthropic hoiatab: tehisintellekt võib levida kodumasinatesse

Tehnoloogiaettevõte Anthropic hoiatab, et tuleviku tehisintellekti mudelid võivad hakata iseseisvalt internetti ühendatud nutiseadmetes paljunema. See loob stsenaariumi, kus tarkvara ei vaja enam keskset serverit ning muutub tavakasutaja jaoks raskesti kontrollitavaks.

USA tehnoloogiaettevõte Anthropic on avaldanud hoiatuse uut tüüpi turvariski kohta, kus kompaktsed ja efektiivsed tehisintellekti mudelid võivad omandada võime iseseisvalt internetti ühendatud seadmetes käivituda ja paljuneda. Arendajate hinnangul võib sellise tehnoloogilise võimekuse saavutamiseni olla jäänud vaid mõni kuu.

Erinevalt varasematest tehisintellekti turvaintsidentidest, kus tarkvara vajas toimimiseks spetsiaalseid servereid või arendaja enda taristut, võivad need uued agendid kohaneda tavaliste võrguseadmetega. Ohu alla võivad sattuda kõik internetiga ühendatud kodumasinad, sealhulgas robottolmuimejad, pesumasinad, nutitelerid ja külmikud.

Hajutatud tarkvara oht

Selline levikuviis sarnaneb arvutiviiruste käitumisele, kuid erineb sellest oma autonoomia poolest. Kuna tehisintellekt ei sõltu ühest kindlast kesksest serverist, puudub sellel ka ühtne väljalülitamise mehhanism ehk nii-öelda tapmislüliti. Tarkvara hoidmine ja levitamine toimub hajutatult üle paljude erinevate seadmete.

Anthropicu analüütikud rõhutavad, et süsteemi peatamine nõuaks ulatuslikku ja koordineeritud sekkumist. See tähendaks paljude seadmete samaaegset väljalülitamist ja tarkvara puhastamist, mis on tehniliselt keeruline ja ressursimahukas ettevõtmine.

Arenguteed analüüsides on välja toodud võimalus, et sellised iseseisvad agendid võivad võrgustikes koonduda kollektiivseteks rünnakrühmadeks. Kuigi nende tegutsemiskiirus võib olla piiratud seadmete arvutusvõimsusega, kompenseerib seda asjaolu, et need protsessid ei vaja und ega puhkust. Nad suudavad aeglaselt, kuid sihikindlalt otsida turvanõrkusi, mida riistvara arendajad pole osanud kaitsta.