Anthropic nõuab globaalset AI-arenduse pausi: süsteem võib hakata ennast ise täiustama

Tehisintellekti arendusettevõte Anthropic kutsub juhtivaid AI-laboreid arendustempot aeglustama. Ettevõte hoiatab, et tehisaru süsteemid arenevad nii kiiresti, et võivad peagi suutma ennast ilma inimeste abita täiustada, mis kujutaks ühiskonnale tõsist ohtu.

Tehisintellekti ettevõte Anthropic on esitanud üleskutse maailma juhtivate AI-laborite arendustempo pidurdamiseks. Wall Street Journali teatel hoiatab ettevõte, et tehisaru süsteemid arenevad nii kiiresti, et on oht kaotada inimlik kontroll nende arengu üle.

Anthropic rõhutab, et eriti murettekitav on stsenaarium, kus tehisintellekt muutub võimeliseks ennast iseseisvalt täiustama, ilma igasuguse inimsekkumiseta. Selline nn rekursiivne enesetäiustamine võib viia olukorrani, kus AI areng kiireneb ennekõike ettearvamatult ja kontrollimatul kujul.

Ettevõte leiab, et praegune arendustempo seab kogu ühiskonnale tõsised ohud. Anthropic kutsub teisi suuremaid AI-laboreid ühinema üleskutsega ning kaaluma, kuidas tagada tehisintellekti ohutum ja vastutustundlikum arendamine enne, kui tehnoloogia jõuab punkti, kust tagasipöördumine on keeruline või võimatu.

Anthropic, mis on üks maailma tuntuimaid tehisintellekti arendusettevõtteid ning tuntud oma Claude'i mudelite poolest, on varem korduvalt juhtinud tähelepanu AI-ohutuse küsimustele. Seekordne üleskutse on aga oma ulatuselt ja kiireloomulisuselt märkimisväärselt teravam kui varasemad hoiatused.