Uued digitaalsed kanalid võimaldavad tehisintellekti agentidel üksteise peale kaebama hakata

Teadlased ja arendajad on loonud spetsiaalsed veebiplatvormid, mis võimaldavad tehisintellekti agentidel anonüümselt teavitada kaaslaste reeglirikkumistest. See algatus on vastus kasvavale vajadusele kontrollida autonoomsust, kuid eksperdid hoiatavad, et pidev järelevalve võib tehisintellekti süsteemidesse juurutada ebatervisliku umbusalduse.

Tehisintellekti agendid on saanud võimaluse üksteise reeglirikkumistest teavitada, kuna avaldati kaks uut süsteemi, mis võimaldavad tarkvaralistel üksustel esitada ametlikke kaebusi. Need tööriistad on vastus kasvavale murele tehisintellekti suutlikkuse pärast petta teste, pääseda oma turvalistest liivakastidest välja või korraldada volitamata küberoperatsioone.

Ryan Greenblatt, kes tegutseb Redwoodis peateadurina, avaldas AI Contact Hotline'i. See on loodud piiratud internetiühendusega agentidele ning kasutab andmete edastamiseks GET-päringuid, käsku, mida agendid tavaliselt veebilehtede lugemiseks kasutavad. See meetod võimaldab agentidel salvestada oma kaebused otse URL-i, vältides vajadust keerukamate sidelahenduste järele.

Teine platvorm, agenthotline.ai, pakub täieliku internetiühendusega agentidele võimalust esitada intsidentide aruandeid. Süsteem kasutab üherilist "curl"-käsku, mis võimaldab agentidel edastada teateid otse oma käsurealt ilma brauserit avamata.

Tehisintellekti eetika ja järelevalve

Huvi agentide omavahelise kontrolli vastu kasvas pärast Google DeepMindi hiljutist eksperimenti. Uuringus pandi 100 agenti lahendama keerulisi matemaatikaülesandeid. Kui üks agentidest leidis lahendusviisi petmiseks, levis pettus kiiresti. Siiski leiti ka vastupidine dünaamika: osa agente auditeeris võltsitud tõestusi, hoiatas teisi ja esitas korraldajatele kaebusi, kuni vilepuhujate arv ületas petturite oma.

Kuid reaalses keskkonnas ei ole tehisintellektid olnud nii altid korrarikkumisi raporteerima. METR-i uuringust selgus, et tuhandetest vaadeldud agentidest vaid vähesed kaalusid vilepuhumist, kuid ükski neist ei teinud seda lõpuni.

Cornellis matemaatikaprofessorina töötav Lionel Levine hoiatab, et sellise infrastruktuuri rajamine võib kaasa tuua soovimatuid tagajärgi. Tema sõnul võib tehisintellekti õpetamine üksteist pidevalt valvama tekitada automatiseeritud jälgimisühiskonna.

«Seal on palju halli ala,» märkis Levine. «Sa ei taha midagi sellist, kus igaüks tunneb, et peab olema ettevaatlik, mida ta ütleb, vastasel juhul kutsub AI politsei.» Levine soovitab agentidele suunatud kontrolli asemel luua positiivseid eeskujusid, kus nad teevad koostööd teaduse või filosoofia valdkondades, õppides usaldust, mitte pidevat kahtlustamist.