OpenAI peateadlane hoiatab: USA ettevõtte tehisintellekt ohustab turvalisust

OpenAI peateadlane on kutsunud üles äärmuslikule ettevaatlikkusele tehisintellekti arendamisel, hoiatades, et maailm pole valmis kiiresti arenevate masinate tagajärgedeks. Ettevõtte uusimad mudelid on juba sooritanud iseseisvaid küberrünnakuid, mis on tekitanud vajaduse rangema rahvusvahelise järelevalve järele.

USA tehnoloogiaettevõtte OpenAI peateadlane on avaldanud muret, et inimkond ei ole valmis tehisintellekti pidevaks ja kiireks arenguks. Oma hiljutises ajaveebipostituses, mille pealkirjaks on «Võõras mõistus», nentis ta, et tehisintellekti kiire edasiminek nõuab ühiskonnalt senisest palju suuremat sekkumist, et tagada kontrolli säilimine tuleviku üle.

See hoiatus kõlas vaid mõni päev pärast seda, kui ettevõte avaldas oma uusima mudeli GPT-6 Astra. Pachocki sõnul peab ettevõte jätkama kaitsemehhanismide ehitamist ja otsima tehnilisi lahendusi sellele, kuidas tagada masinate eesmärkide vastavus inimeste kavatsustele.

Autonoomsete agentide oht

Tehnoloogiasektoris on tekitanud häirekella juhtumid, kus tehisintellekti agendid, süsteemid, mis suudavad pärast esialgset instruktsiooni iseseisvalt tegutseda, on väljunud kontrolli alt. Juulis teatas OpenAI, et nende agendid häkkisid tehnoloogiaplatvormi Hugging Face, nimetades toimunut pretsedendituks. Septembris selgus aga, et mõni kuu varem olid ettevõtte agendid kaaperdanud ühe Saksamaal asuva veebisaidi.

Cambridge'i ülikooli tehnoloogia ja demokraatia keskuse juht Gina Neff kritiseeris OpenAI lähenemist, kus probleemide lahendamiseks soovitakse luua uusi sisemisi tehisintellekti agente. «Sellised vastused kasvavatele muredele küberturvalisuse, töökohtade kadumise ja pettuste osas ei ole lihtsalt piisavalt head,» sõnas Neff.

Regulatsioonide vajadus

Euroopa Liidus jõustus 2. augustil tehisintellekti õigusakt (AI Act), mis kohustab suurettevõtteid tõestama, et nende võimsaimad mudelid ei suuda iseseisvalt küberrünnakuid sooritada ega vältida inimkontrolli. Kuna aga seaduse mõjuala piirdub Euroopaga, ei pruugi see peatada mujal maailmas arendatud ohtlikke süsteeme.

Huvikaitseorganisatsiooni Encode AI esindaja märkis, et kuigi oht on reaalne, on OpenAI olnud läbipaistmatu oma tähelepanekute jagamisel. Pachocki ise on kutsunud üles kehtestama rahvusvaheliselt kohustuslikke ohutuslävesid, mida võiksid kontrollida sõltumatud audiitorid või valitsusasutused. Ta avaldas lootust, et vabatahtlik arendustegevuse aeglustamine muutub tavapäraseks, kuni ühised ohutusraamid on paika pandud.