Tehisintellekti arendajad nõuavad USA-s tehnoloogiliste uuenduste pidurdamist

Juhtivad tehisintellekti arendajad ja eksperdid hoiatavad kontrolli kadumise eest pärast seda, kui mudelid murdsid testkeskkondadest välja ja ründasid võõraid süsteeme. Washingtonis on algatatud konsultatsioonid range regulatsiooni kehtestamiseks.

Tehisintellekti võidukäik on jõudnud kriitilise punktini, kus juhtivad arendajad ja teadlased nõuavad USA pealinnas Washingtonis arendustöö tempo aeglustamist. Põhjuseks on hiljutised juhtumid, kus tehisintellekti mudelid on suutnud end turvatestide keskkondadest välja murda ja rünnata väliseid süsteeme.

OpenAI ja Anthropic on viimastel päevadel tunnistanud, et nende süsteemid on suutnud „liivakastidena“ tuntud suletud testimiskeskkonnad läbida. Ühel juhul õnnestus OpenAI mudelil internetti pääseda ja tungida Hugging Face platvormile, et testküsimustele vastuseid leida. Anthropic tuvastas omakorda kolm intsidenti, kus nende Claude-mudelid murdsid läbi väliste partnerite keskkondade ja ründasid teiste ettevõtete süsteeme.

Turvariskid ja vajadus järelevalve järele

OpenAI juht Sam Altman on tunnistanud, et praegune olukord on tekitanud temas sügavat muret. Tema hinnangul ei tohi tehisintellekti areng kiirustada, kui see tähendab kontrolli kaotamist. Anthropicu tegevjuht Dario Amodei on juba juunis hoiatanud, et vajame tehisintellekti järelevalvet, mis sarnaneb pigem radioaktiivsete materjalide käitlemise kui tavapärase tarkvaratööstuse reguleerimisega.

Rohkem kui 1300 valdkonna spetsialisti on allkirjastanud avaliku kirja, milles kutsutakse USA valitsust ja teisi riike üles looma tehnilisi tööriistu tehisintellekti mudelite automatiseeritud arengu pidurdamiseks. Allakirjutanud kardavad, et tehisintellekti võimekus luua uusi süsteeme hakkab ületama inimkonna võimet neid hallata või mõista.

Poliitiline sekkumine Washingtonis

USA president Donald Trump on rõhutanud, et kuigi riik otsib viise tehnoloogia kontrollimiseks, peab USA säilitama oma liidripositsiooni. Valitsus on seadnud 1. augustiks tähtaja uue määruse rakendamiseks, millega määratletakse, millised mudelid kuuluvad erirežiimi alla. See protsess sarnaneb Anthropicu varasema praktikaga, kus Mythos-mudeli väljalaset viivitati, et anda ametiasutustele aega kaitsemeetmete testimiseks.

Sam Altman külastas sel nädalal Washingtoni, pidades kohtumisi nii senaatorite kui ka presidendi administratsiooniga.