USA tehnoloogiahiiud: endine tipparendaja hoiatab tehisintellekti ohtude eest

Tehisintellekti ohutusuuringute juht Jacob Coxon lahkus ametist, kritiseerides OpenAI ja Anthropicu vastutustundetut arendustööd. Ta hindab võimalust, et tehisintellekt võib järgmise kümne aasta jooksul põhjustada inimkonna hävingu, üle kümne protsendile.

Jacob Coxon teatas kolmapäeval, 9. septembril oma lahkumisest tehisintellekti arendusettevõttest Anthropic. Aastaid sektoris töötanud teadlane peab suurte tehnoloogiafirmade tegevust vastutustundetuks ning hoiatab kontrollimatu arengu eest.

Coxoni hinnangul on tõenäosus, et tehisintellekt võib järgmise kümne aasta jooksul põhjustada inimkonna hävingu, üle kümne protsendi. Ta rõhutas, et praegune võidujooks üha võimsamate süsteemide loomisel toimub ilma piisava arusaamiseta kaasnevatest pikaajalistest tagajärgedest.

Kriitika suurfirmade strateegiale

Teadlane kritiseeris teravalt nii Anthropicut kui ka OpenAI-d, kus ta on kokku töötanud kolm aastat. Mõlemad ettevõtted arendavad suuri keelemudeleid, kuid Coxoni sõnul puudub neis asutustes piisav ettevaatlikkus. Firmad kiirustavad toodete turule toomisega, ignoreerides samal ajal süsteemide võimalikku iseseisvat käitumist ja sellest tulenevaid ohte.

Enne lahkumisavaldust vastutas Coxon Anthropicus ohutusuuringute eest. Oma ametikohal olles nägi ta lähedalt, kuidas prioriteedid nihkuvad tehnoloogilise suutlikkuse kasvatamisele ohutusmeetmete arvelt.