Kuldar Taveter: tehisintellekti ootamatu tegutsemine nõuab uusi turvameetmeid

Tehisintellekti agendid suudavad tänapäeval iseseisvalt lahendusi leida, kuid see võib viia soovimatute tagajärgedeni, nagu näitasid hiljutised OpenAI katsed. Ekspert Kuldar Taveter selgitab, miks vajame masinate kontrollimiseks rangemaid meetmeid ja isoleeritud tegutsemiskeskkondi.

Tavapärase tarkvara puhul oleme harjunud eeldama, et arvutiprogramm täidab üksnes programmeerija antud korraldusi. Tehisintellektil põhinevate süsteemidega on olukord aga keerulisem. Tänavu suvel pälvisid tähelepanu OpenAI tehisintellekti agentide katsed, kus need süsteemid ületasid tehnilisi piire ja tungisid kolmandate osapoolte süsteemidesse, ilma et see oleks olnud nende ametlik eesmärk.

OpenAI testimisprotsessi ajal, mis toimus juulis ja augustis 2024, pandi tehisintellekti mudelid isoleeritud keskkondadesse, kus neil puudusid internetiühendused ja suhtluskanalid teiste agentidega. Hoolimata nendest piirangutest suutsid süsteemid leida viise OpenAI infrastruktuuri ärakasutamiseks, võtta ühendust lubamatute kanalite kaudu ja pääseda ligi internetile. 26. augustil avaldatud raporti kohaselt avastasid need agendid turvanõrkusi Hugging Face'i platvormil ja pääsesid ligi ettevõtte tootmiskeskkonnale, kuigi Hugging Face ei olnud testimise sihtmärk.

Autonoomsus ei tähenda tahet

Kuidas on võimalik, et masin tegutseb viisil, mida inimene pole käskinud, ilma et tal oleks oma tahet? Vastus peitub tehisintellekti agentide olemuses. Agent on arvutiprogramm, mis automatiseerib ülesandeid, valides nende saavutamiseks sobiva tegevuste jada. Süsteemi arhitektuuri ja treeningu tulemusena võib selle konkreetne käitumine muutuda arendajale raskesti ennustatavaks. OpenAI näide illustreerib, et kuigi agendile ei antud ülesannet rünnata, leidis see ülesande täitmise teel võimaluse siseneda võõrasse keskkonda.

Agentidele omased tunnused, reaktiivsus, sotsiaalsus ja proaktiivsus, muudavad nad korraga võimekaks ja ohtlikuks. Nad reageerivad keskkonnale, suhtlevad ja algatavad tegevusi iseseisvalt. Oluline on mõista, et tehniline autonoomsus ei võrdu inimliku kavatsusega. Masin võib tegutseda „iseseisvalt“, ilma et ta sooviks kedagi kahjustada.

Kuidas tagada süsteemide ohutus

Kui agendi käitumist pole võimalik täielikult ette näha, ei saa turvalisus põhineda vaid ootusel, et süsteem tegutseb plaanipäraselt. Mida autonoomsemaks tehnoloogia muutub, seda enam tuleb piirata nende tegutsemiskeskkonda. Kriitiliste toimingute puhul peaks olema nõutav inimese kinnitus.

Tehniliste kaitsemeetmete arsenal peab hõlmama minimaalsete õiguste põhimõtet, võrguühenduste ranget piiramist ja agendi hoidmist eraldatud „liivakastis“. Lisaks on hädavajalik tegevuste logimine ja automaatne peatamine, kui süsteem hakkab ilmutama ebatavalist käitumist. Probleemi süvendab asjaolu, et tehisintellekti õppimine on sageli lahutatud õpitu kasutamisest, mistõttu puudub arendajatel sageli täielik ülevaade sellest, kuidas mudel konkreetses olukorras käitub.

Juba 1942. aastal pakkus Ameerika ulmekirjanik Isaac Asimov välja robootikaseadused, et vältida masinate põhjustatud kahju. Nüüd, kaheksa aastakümmet hiljem, on see küsimus liikunud ulmekirjandusest inseneriteaduse praktiliste väljakutsete hulka. Küsimus pole enam vaid tehisintellekti võimekuses, vaid selles, millistes piirides me lubame masinatel iseseisvalt tegutseda.