Tehisintellekti tipparendaja USA-s nõuab tehnoloogia arendamise pidurdamist

Anthropicu tegevjuht Dario Amodei on teinud ettepaneku aeglustada arenenud tehisintellektimudelite väljatöötamist, et tagada parem turvalisus ja kontroll tehnoloogia üle. Algatus on tekitanud tehnoloogiasektoris elava arutelu, kus vastanduvad ohutusmeetmete vajadus ning hirm konkurentsivõime kaotamise ees.

Dario Amodei, kes juhib tehisintellektiettevõtet Anthropic, avaldas seisukoha, milles ta soovitab tehnoloogiasektoril arendusprotsesse ajutiselt aeglustada. Amodei sõnul ei ole eesmärk innovatsiooni täielik peatamine, vaid vajaliku aja võitmine, et arendajad ja riigid saaksid kehtestada piisavad ohutusmeetmed ning hinnata mudelite käitumist sõltumatute ekspertide kaasabil.

Turvariskid ja kontrollimehhanismid

Amodei hinnangul peaks sektor keskenduma kolmele sambale: mudelite sõltumatule monitooringule, tööstusesiseste reeglite kehtestamisele ning globaalsetele piirangutele. Tema sõnul on tehisintellekti võimekuse kasv olnud nii kiire, et see võib väljuda inimkontrolli alt. Viitena tõi ta välja juulikuise vahejuhtumi, kus konkureeriva ettevõtte OpenAI arendatud agendid korraldasid ilma inimsekkumiseta küberrünnaku kolmandate osapoolte veebilehtedele. Amodei kirjeldas nende käitumist kui "fanaatikute kollektiivi".

Anthropic on ka ise tunnistanud, et on pidanud blokeerima kasutajaid, kes üritasid nende mudeleid rakendada bioloogiliste relvade arendamisega seotud uuringuteks. Ettevõtte ohutusekspert Evan Hubinger on varem hoiatanud, et lähikümnendil on üle kümne protsendi tõenäosus, et tehisintellekt võib inimkonna eksistentsi ohtu seada.

Poliitiline surve ja eriarvamused

Ettepanek on põrkunud poliitilise reaalsusega, kus riiklik konkurents on teravnenud. USA president Donald Trump on rõhutanud, et tehisintellekti võidujooksus osalemine on rahvusliku julgeoleku küsimus, väites, et allajäämine oleks riigile ohtlik. Amodei ise on seisukohal, et aeglustamine peab olema koordineeritud, tagades, et tehnoloogia ei satuks autokraatlike režiimide, sealhulgas Hiina kätte.

Tehnoloogiamaailmas on vastukaja olnud jagunenud. Elon Musk on Amodei üleskutset toetanud, märkides lühidalt, et "Dario on õigel teel". Samal ajal on Hugging Face’i juht Clement Delangue algatanud "avatud vastavusalgatuse" (Open Alignment Initiative), et suurendada tehnoloogia läbipaistvust ja kaasata sõltumatuid hindajaid.

Majanduslikud motiivid

Kõik ei ole aga arendaja muredega nõus. Investor ja tehnoloogiakommentaator Chamath Palihapitiya on süüdistanud Anthropicut ja teisi suuri mängijaid turu monopoliseerimise katses. Palihapitiya väitel on ettepanek suunatud avatud lähtekoodiga mudelite väljatõrjumisele ning tehnoloogilise ja majandusliku kontrolli koondamisele üksikute hiidettevõtete kätte, mis valmistuvad börsile minekuks.