OpenAI lisab ChatGPT-le ohutusfunktsiooni enesekahjustamise juhtudel

OpenAI tegi avalikuks uue turvafeature, mida nimetatakse "Trusted Contact"-iks. See funktsioon on mõeldud kasutajate kaitsmiseks juhul, kui vestlused ChatGPT-ga võiksid käsitleda enesekahjustamist või ohtlikke käitumismalle.

OpenAI on avaldanud uue turvaline meetme, mis laiendab ettevõtte pingutusi ChatGPT-i kasutajate kaitsmisel. Uus funktsioon, mida kutsutakse "Trusted Contact"-iks, on spetsiaalselt kavandatud selleks, et tuvastada ja reageerida juhtumitele, kus kasutaja vestlused AI-ga võiksid seonduda ohtlike käitumiste või enesekahjustamise ideega.

Funktsiooni peamine eesmärk on pakkuda tuge inimestele, kes võiksid olla kriisiolukorras. Kui ChatGPT tuvastab potentsiaalse ohujuhtu, saab see süsteem automaatselt teavitada eelnevalt määratud usaldusväärset kontakti, kes saab siis otse kasutajale jõuda ja tuge pakkuda.

See on osa OpenAI-st jätkuvate algatuste seeriate jätkust, et muuta AI-abistajatest ohutumad ja vastutusrikkamad. Ettevõte tunnustab, et suurte keelemudelitega vestlemine võib mõnikord käsitleda emotsionaalselt rasketel teemadel arutelu, mistõttu on oluline, et AI-platvormidel oleks asjakohased kaitsemeetmed olemas.

Trusted Contact funktsioon on tasapisi väljastatavas faasis ja saadaval valitud kasutajate kogumile, kuid OpenAI plaanib laiendada juurdepääsu laialdasemalt. Ettevõtte eesmärk on luua ökosüsteem, kus AI-i kasutajad tunnevad end turvaliselt ja toetatavas keskkonnas, isegi kui nad arutavad tundlikke teemasid.