TikTok peatab AI-videod kirjeldused USAs pärast absurdseid vigu

TikTok otsustas peatada oma AI-põhise videosisalduse kirjelduste funktsiooni Ameerika Ühendriikides, sest tehisintellekt tegi pidevalt absurdseid ja segaseid vigu. Funktsioon oli juba mõnes kasutajate rühmas jõustatud, kuid selle laialt jagatud vigased tulemused sundisid ettevõtet kiiresti tagasi astuma.

TikTok tegi otsuse peatada oma automaatse videosisalduse kirjelduste teemakaardi, mis kasutab tehisintellekti videote analüüsimiseks ja kirjeldamiseks. Funktsioon oli juba osa kasutajatele saadaval, kuid palju neist jagasid sotsiaalmeedias naeruväärseid näiteid, kuidas AI fail lugesid videote sisu valesti.

AI-süsteem tegi hulganisti segaseid ja asjatundmatuid kirjeldusi, mis ei vastanud video tegelikule sisule. Need vead levisid kiiresti internetis, tekitades ettevõttele negatiivse avaliku reaktsiooni ja kahjustades kasutajate usaldust funktsiooniga.

TikTok tõdes probleemi ja otsustas funktsiooni praegu eemaldada, et seda parandada ja ümber koolitada. Ettevõte käsitleb seda võimalust jätkuvalt oluliseks osana oma platvormi arengust, kuid tunnistab, et praegune AI-mudel ei ole piisavalt täpne.

See samm näitab, kui keeruline on tehisintellekti õigesti treenida videosisalduse analüüsimiseks. Vigade tõttu võis funktsioon tekitada juurdepääsetavuse probleeme ja halvendasid kasutaja kogemust, eriti neil, kes sõltuvad automaatsetest kirjeldustest.