Algokraatia hiiliv oht: miks efektiivsus võib maksta demokraatia hinda

Riikide püüdlus muuta haldusprotsesse efektiivsemaks läbi algoritmide toob endaga kaasa varjatud riski: algokraatia. Filosofeerides algokraatia olemuse üle, osutab Oliver Laas, et automatiseeritud otsustussüsteemide läbipaistmatus võib õõnestada ühiskonna usaldust ja legitiimsust.

Riigid, nagu ka ettevõtted, otsivad pidevalt teid, kuidas muuta oma igapäevaseid protsesse efektiivsemaks. Tehnoloogiline progress pakub selleks ahvatlevaid võimalusi: automatiseerimine lubab kulusid kärpida ja kiirust tõsta. Kuid tehnoloogilise mugavuse taga peitub tõsine oht, mida filosoof John Danaher on nimetanud algokraatiaks, olukord, kus otsustusprotsessid muutuvad inimestele hoomamatuks ja läbipaistmatuks.

Algokraatia ei ole kauges tulevikus terendav düstoopia, vaid hiiliv protsess. See on süsteem, kus algoritmid koguvad, organiseerivad ja suunavad andmeid, mis omakorda dikteerivad riiklikke otsuseid. Kui süsteemi loojad ja kasutajad ise ei suuda selgitada, miks algoritm langetas ühe või teise otsuse, tekib legitiimsuskriis. Demokraatlikus ühiskonnas peavad otsused olema arusaadavad ja inimesed peavad saama nendes protsessides osaleda. Algokraatia aga kapseldab otsustamise masinasse, vähendades kodaniku rolli.

Standardiseerimise uus faas

See ihalus algoritmide järele pole vaid tehniline vajadus, vaid sügavam poliitiline soov riiki «loetavaks» muuta. Nagu James C. Scott on kirjeldanud, on riigid sajandeid püüdnud elu standardiseerida, alates perenimede kehtestamisest kuni rahvaloendusteni. Algoritmid on selle pikaajalise protsessi uus, võimsam tööriist. Selleks, et arvuti saaks andmeid töödelda, peab ühiskondlik elu olema standardiseeritud ja mõõdetav.

Ebaõnnestunud katsed, näiteks Hollandi süsteem abirahapettuste tuvastamiseks või USA-s katsetatud kuritegevuse ennetamise algoritmid, on näidanud karmi reaalsust: algoritmid on sageli kallutatud ja ebatäpsed. Eestis on samuti kaalutud andmekaeve kasutamist rahapesu tõkestamiseks või tehisintellekti rakendamist seaduseelnõude kontrollimiseks. Iga selline samm peab aga olema tasakaalustatud küsimusega, mida me kaotame. Kui me ohverdame läbipaistvuse mugavuse altarile, võime ehitada valitsussüsteemi, mis küll toimib efektiivselt, kuid kaotab oma poliitilise legitiimsuse.