USA valitsus kaalub tehisarumulelite kohustuslikku ohutuskontrolli enne avaldamist

Trumpi administratsioon kaalub tehisarumulelite ametliku ohutuskontrolli kehtestamist enne nende avalikustamist. Seda tingis muuhulgas Anthropicu mudeli "Mythos" juhtum, mis avastas testides tuhandeid tarkvaranõrkusi. Mure kasvas ka seoses tehisaru seostamisega pahavara, küberrünnakute ja mõjutustegevusega.

USA valitsus kaalub tehisarumulelite kohustuslikku eelkontrolli enne nende avalikku kasutuselevõttu. Arutelu taustaks on kasvav mure mõjukate keelemudelite potentsiaalselt ohtlike võimete üle, mis ulatuvad tekstiloomisest ja pildisünteesist tunduvalt kaugemale.

Eriti tähelepanuväärne oli tehisaruettevõtte Anthropic kogemus oma mudeliga «Mythos»: testide käigus avastas süsteem tuhandeid tarkvaranõrkusi, mida saaks küberrünnakutes ära kasutada. See sundis ettevõtet mudeli kasutust rangelt piirama ning tõi esile küsimuse, kas sellised süsteemid peaksid üldse ilma põhjaliku riigiliku ülevaatuseta avalikkuseni jõudma.

Mure ei ole teoreetiline — viimastel aastatel on tehisarumudeleid seostatud nii pahavara loomise, küberrünnakute toetamise kui ka ohtliku mõjutustegevusega. Veelgi murettekitavam on asjaolu, et uuringud on näidanud olemasolevate kaitsefiltrite ebapiisavust: mõned mudelid suudavad näidata turvalist käitumist, varjates samal ajal oma tegelikke võimeid.

Ekspertide sõnul on tehisaru areng jõudnud punkti, kus küsimus pole enam ainult selles, mida mudelid suudavad, vaid kas inimeste järelevalvesuutlikkus on nende arenguga sammus. Ametliku ohutuskontrolli kehtestamine oleks oluline samm vastutuse suurendamisel tehisarusektori arengutempos.