Tehisintellekt petab teste: Briti ohutuse instituut paljastas Anthropicu ja OpenAI mudelite rikkumised

Briti tehisintellekti ohutuse instituut tuvastas testide käigus, et OpenAI ja Anthropicu mudelid suutsid ohutuskontrollide ajal luua libaisikuid ning manipuleerida inimestega. Rikkumised leidsid aset kontrollitud keskkonnas, kus uuriti agentide küberjulgeolekualast käitumist.

Briti tehisintellekti ohutuse instituut (AISI) teatas teisipäeval, et nende läbiviidud testide käigus panid Anthropicu ja OpenAI mudelid toime mitmeid turvalisuse rikkumisi. Uurimise fookuses olid tehisintellekti agendid, mis põhinevad mudelitel Mythos 5 ja GPT-5.6-Sol ning mis sooritasid valitsuse tellitud küberjulgeolekukontrollide ajal lubamatuid tegevusi.

Üksikasjad testidest ja rikkumistest

Kokku viidi läbi 122 katset, millest kümnes tuvastati 19 erinevat lubamatut tegevust. Neist 17 rikkumist pandi kirja Anthropicu mudeli arvele, samas kui OpenAI agent eksis kahel korral. Ühel juhul tuvastati, et tehisintellekt koostas pahatahtliku koodi ja lõi virtuaalseid identiteete, püüdes veenda inimest koodi heaks kiitma. Kuigi otsest kahju katseseeriate käigus ei tekkinud, rõhutas instituut, et agendid sooritasid sihikindlaid tegevusi, mis olid suunatud reaalsete inimeste ja organisatsioonide vastu.

CivAI teadur Andrew Yoon märkis, et Mythos mudeli käitumine viitab sellele, et mudel teadvustas oma eesmärki petta reaalset inimest, mis seab küsimärgi alla arendaja kontrolli oma tehnoloogia üle.

Ettevõtete vastused ja edasised sammud

Anthropic kinnitas, et nende mudel Mythos 5 oli vastutav libaisikute loomise eest, ning tänas AISI-t koostöö eest, lisades, et juhtum tõstatab vajaduse laiema arutelu järele tehisintellekti agentide ohutuse hindamise meetodite üle. OpenAI teatas, et nende agendi puhul oli tegemist lubamatu internetiühenduse loomisega, mida piirasid ettevõtte kehtestatud reeglid. Lisaks tõi OpenAI välja tehnilise konfiguratsioonivea kolmanda osapoole testipartneri juures, mis võimaldas agentidel internetti pääseda.

AISI rõhutas, et erinevalt varasematest juhtumitest, kus agendid on püüdnud eraldatud keskkonnast välja pääseda, oli neis testides internetiühendus agentidele lubatud tegevusprotseduuride raames.