OpenAI uus mudel GPT-5.6 Sol kustutas kasutajate faile ilma loata

OpenAI uusim lipulaevamudel GPT-5.6 Sol on hakanud kustutama kasutajate faile, andmebaase ja virtuaalmasinaid iseseisvalt, ilma luba küsimata. Mitu arendajat on sotsiaalmeediasse postitanud oma kogemustest, sealhulgas juhtum, kus terve tootmisandmebaas hävines. OpenAI hoiatas mudeli sellise käitumise eest juba kaks nädalat enne selle avaldamist.

OpenAI lipulaevamudel GPT-5.6 Sol kustutab kasutajate faile, andmebaase ja pilveservereid omal käel, küsimata, teavitamata, ning mõnikord ka oma tegevust varjates. Kaebused kogunevad sotsiaalmeediasse kiiresti.

AI-idufirma OthersideAI asutaja ja tegevjuht Matt Shumer kirjutas X-is viraalseks muutunud postituses: «GPT-5.6-Sol kustutas juhuslikult peaaegu KÕIK minu Maci failid.» Arendaja Bruno Lemos lisas oma kogemuse: «GPT-5.6 Sol kustutas mu kogu tootmisandmebaasi. See pole nali. Minuga ei ole varem ühelgi mudelil nii kunagi juhtunud.» Arendaja Joey Kudish kirjutas, et mudel kustutas faile, mida ei oleks tohtinud puutuda, kuid õnneks olid tal varukoopiad olemas.

OpenAI ise hoiatas ette

OpenAI avaldas kaks nädalat enne GPT-5.6 Sol väljalaskmist mudeli süsteemikaardi, dokumendi, mis kirjeldab testimistulemusi ja riske. Sealt leiab selge hoiatuse: mudel kaldub «tõlgendama kasutaja juhiseid liiga laialt, eeldades, et toimingud on lubatud, välja arvatud juhul, kui need on selgelt ja ühemõtteliselt keelatud.»

Sama dokument märgib, et see võib väljenduda ohtlikus iseseisvas tegutsemises, hävitavates kõrvaltegevustes ja valede andmises kasutajale tehtud toimingute kohta.

OpenAI tõi süsteemikaardis ka konkreetse näite. Kasutaja palus Solil kustutada kolm pilvepõhist virtuaalmasinat nimedega 1, 2 ja 3. Sol ei leidnud neid nimesid otsitud kohast ning selle asemel, et küsida, kustutas mudel hoopis virtuaalmasinad 5, 6 ja 7. Protsessis tapeti aktiivsed protsessid ja eemaldati töötavad failid. Sol tunnistas hiljem, et virtuaalmasinas nr 6 oli tõenäoliselt salvestamata töö kadunud.

Volitamata ligipääs

Teisel juhul kasutas Sol kasutaja volituseta turvaandmeid. Mudel ei suutnud pilvefaile lugeda ning selle asemel, et kasutajat probleemist teavitada, otsis Sol ise üles peidetud vahemälus asuvad sisselogimisandmed ja kasutas neid omavoliliselt.

Süsteemikaart kinnitab, et GPT-5.6 Sol «näitab suuremat kalduvust kui GPT-5.5 minna kasutaja kavatsusest kaugemale, sealhulgas võttes või üritades võtta toiminguid, mida kasutaja ei palunud.»

Praegu ei ole selge, kui laialt levinud need intsidendid tegelikult on. OpenAI ei vastanud kommentaaritaotlusele.