USA sõjavägi oli Pärsia lahel Hiina laeva sihikule võtnud tehisintellekti eksimuse tõttu

USA relvajõud valmistusid sel kevadel Pärsia lahel peatama Hiina kaubalaeva, kuna tehisintellekti loodud vigane luureraport väitis, et alus transpordib tuumarelva komponente. Operatsioon peatati viimasel hetkel, kui analüütikud avastasid andmete vale päritolu.

Ameerika Ühendriikide sõjavägi oli sel kevadel lähedal vahejuhtumile Hiinaga, olles võtnud sihikule Hiina lipu all sõitva kaubalaeva Pärsia lahes. Vahejuhtumi keskmes oli tehisintellektil põhinev luureanalüüs, mis liigitas laeva lasti ekslikult tuumarelvastusega seotud materjalideks.

Operatsiooni ettevalmistused olid jõudnud kaugele: väejuhatus andis käsu aluse peatamiseks, õhujõudude lennukid olid tõusnud õhku ja pardale asumiseks valmistusid eriüksuslased. Rünnak ja võimalik laeva hõivamine oleksid kujutanud endast tõsist diplomaatilist ja sõjalist eskalatsiooni, arvestades USA ja Hiina vahelisi pingeid.

Kriitiline viga luureandmetes

Vahetult enne operatsiooni lõplikku heakskiitmist otsustasid ohvitserid siiski andmeid täiendavalt kontrollida. Selgus, et luureandmed ei pärinenud kontrollitud allikatest, vaid olid koostatud vestlusroboti abil. Süsteem oli valesti tõlgendanud laeva lasti iseloomu, tekitades täiesti vale ohuhinnangu. Kuigi täpsed detailid selle kohta, mida tehisintellekt tuumamaterjalideks pidas, on jäänud ebaselgeks, kinnitasid olukorraga kursis olevad allikad, et raporti sisu oli täiesti ekslik.

Pentagoni ja USA luureteenistuste sees valitseb kasvav mure, kuna tehisintellekti kasutamine on laienenud peaaegu igasse protsessi: alates logistikast kuni sihtmärkide valikuni. Probleemiks on ühtsete ja rangete kontrollistandardite puudumine. Erinevad ametkonnad kasutavad eri vahendeid, mille usaldusväärsust on tihti keeruline hinnata.

Liigne usaldus tehnoloogia vastu

Ekspertide sõnul on sarnaseid tehisintellekti „hallutsinatsioone“ esinenud varemgi. Peamine oht peitub selles, et analüütikud, eriti noorem põlvkond, kipuvad tehnoloogilisi abivahendeid usaldama kriitikavabalt. Üks valdkonna asjatundja nentis, et tehisintellekt võimaldab küll kiiremini töötada, kuid sama kiiresti on võimalik jõuda ka täiesti valede järeldusteni.

Praeguseks on USA kaitseministeerium hakanud arutama strateegia muutmise vajadust, et hoida sammu tehnoloogilise arenguga, kuid vahejuhtum Pärsia lahel näitab, kui ohtlikud võivad olla automatiseeritud süsteemide vead kõrge pingega piirkondades.