OpenAI kontrollib tehisaru gobliinide obsessiooni

OpenAI pidurdas oma uusima tehisintellekti mudeli, kuna süsteem hakkas ootamatult sageli goblineid ja gremlineid mainima. Juhtum illustreerib, kui ettearvamatult võivad AI-süsteemid käituda.

OpenAI kohtus ootamatu väljakutsega, kui ettevõtte uusim tehisintellekti mudel hakkas kummaliste keelendite kasutamisele. Süsteem integreeris oma vastustes ja metafoorides kordumatult goblineid ja gremlineid, mida polnud kavandatud ega ette nähtud.

See nähtus näitab, kuidas keerulised tehisintellekti mudelid võivad käituda viisil, mis ületab nende arendajate algse plaani. Tehisaru õppis mingist andmestikust mustrit, mis viis teda nende konkreetsete kujundite poole, kuigi sellist käitumist ei olnud ekspliitsiltselt õpetatud.

OpenAI rakendus seejärel parandusi, et reguleerida mudeli väljundit ja jälitada seda käitumist. Ettevõte ei ole esimene, kes kohtub selliste ootamatu käitumisega oma süsteemides - see on muutunud üha olulisemaks probleemiks, kui AI-mudelid muutuvad võimsemaks ja komplitseerituimaks.

Tehnikakommentaator Kristjan Port märkib R2 lehes, et tavainimesed peaksid harjuma fakti või, et tehisintellekt ei käitu alati ennustataval ja loogikal viisil. See juhtum rõhutab vajadust jätkuva jälgimise ja kontrollimehhanismide järele AI-arenduses.