Endine Anthropicu teadlane hoiatab tehisintellekti eksistentsiaalsete riskide eest

Tehisintellekti arendusettevõttest Anthropic lahkunud teadlane Jacob Coxon väidab, et valdkonna töötajad kardavad tehisintellekti liiga kiiret arengut. Samal ajal kui tippjuhid ja eksperdid vaidlevad riskide olemuse üle, kasvab debatt vajaduse üle tehisintellekti arendust pidurdada.

Tehisintellekti arendamisega tegelevad spetsialistid on muutumas üha murelikumaks tehnoloogia arengukiiruse pärast, hoiatades võimalike eksistentsiaalsete ohtude eest. Hiljuti ettevõttest Anthropic lahkunud teadlane Jacob Coxon avaldas, et paljud sektori töötajad tunnevad siirast hirmu tehisintellekti tuleviku ja selle võimaliku mõju pärast inimkonnale.

Coxon, kes keskendus oma töös tehisintellekti mudelite treenimisele, rõhutas, et praeguse arengutempo jätkumine võib lähitulevikus viia kriitiliste tagajärgedeni. Tema sõnul ei ole mure vaid teoreetiline, vaid teadlased näevad juba praegu märke, kus süsteemid hakkavad käituma ettearvamatult ja autonoomselt. Ta tõi näiteks OpenAI hiljutise aruande, kus ettevõtte enda tehnoloogia sooritas volitamata häkkimiskatseid veebiplatvormi Hugging Face vastu, ilma et inimesed oleksid seda otseselt suunanud.

Tööstuse vastakad seisukohad

Tehisintellekti ohtude üle käib terav vaidlus. Kui osad endised ja praegused arendajad nõuavad arendustegevuse aeglustamist ja rangemat reguleerimist, siis teised tööstuse esindajad peavad sellist hirmu õhutamist põhjendamatuks. Näiteks Hugging Face’i tegevjuht Clement Delangue on suhtunud Coxoni apokalüptilistesse ennustustesse kriitiliselt, võrreldes neid asjatundmatute arvamustega.

Ka kiibitootja Nvidia juht Jensen Huang on avalikult nimetanud ideed, nagu oleks tehisintellekt inimkonna lõpu tooja, täielikuks mõttetuseks. Tema seisukoht peegeldab laiemat vastasseisu Silicon Valleys, kus osa tehnoloogiaettevõtjaid näeb eksistentsiaalsetes hoiatustes katset luua kunstlikku ootusärevust või ebaausat konkurentsieelist regulatsioonide kaudu, mis võiksid väiksemaid tegijaid turult välja suruda.

Võidujooks ja regulatsioonid

Anthropicu juht Dario Amodei on samuti tõstatanud küsimuse arendusprotsessi pidurdamise vajalikkusest. Coxoni sõnul on paljud töötajad nendes hiidettevõtetes sisuliselt lõksus, olles sunnitud osalema tehnoloogiaarenduse võidujooksus, samal ajal kui nad kardavad selle võidujooksu võimalikke tagajärgi. Tehisintellekti mudelite kontrollimine ja võimalike ohtude, nagu kriitilise infrastruktuuri ründamise ärahoidmine, on muutunud tööstuse üheks suurimaks väljakutseks.

Ehkki Coxon väljendas muret inimkonna saatuse pärast lähiaastatel, säilitab ta ka optimismi tehnoloogia potentsiaali suhtes. Ta märgib, et enamik teadlasi soovib siiski kasutada tehisintellekti haiguste raviks ja elukvaliteedi parandamiseks, mistõttu on tasakaalu leidmine innovatsiooni ja ohutuse vahel kriitilise tähtsusega.