OpenAI parandab ChatGPT mudelit, mis rääkis ootamatul viisil kobolditest

OpenAI avastas ChatGPT mudelites vea, mille käigus tehisintellekt hakkas ootamatult kobolditest rääkima. Tehisintellekti ettevõte märkis, et erinevalt varasematest vigadest tekkis see probleem pehmelt ja märkamatult.

OpenAI avalikustas, et tema ChatGPT mudelites oli tekkinud tehisintellektiga seotud vale käitumine, mille puhul süsteem hakkas kasutajate palvetest sõltumata kobolditest jutustama. Ettevõte selgitas, et see probleem ei olnud teiste vigadega võrreldav, taimõistuslikult tekkis see väga pehmelt ja graduaalselt, mistõttu ei märganud seda esialgu ei kasutajad ega arendajad.

Tehnoloogiaettevõtte tehnilised spetsialistid alustasid viivitamata olukorra lahendamisega ja töötas välja paranduse, mis peaks probleemi korrigeerima. OpenAI kinnitas, et käsitleb seda juhtumit tõsiselt ja analüüsib hoolikalt, kuidas sarnased vead tulevikus vältida oleks võimalik.

See incident toob taas esile olulisi küsimusi tehisintellekti ennustamise ja kontrolli üle. Kuigi ChatGPT on osutunud väga võimekaks tööriistaks paljudel aladel, näitab see juhus, et isegi hästi treenitud mudelid võivad käituda ettenägematutel viisidel. OpenAI teatas, et jääb alertsel ja jätkab oma süsteemide põhjalikku testimist, et tagada kasutajate jaoks turvallisem ja usaldusväärsem kogemus.