San Franciscos arendatav AI-assistent Instinct tekitab muret privaatsuse pärast

Uus tehisintellektil põhinev assistent Instinct on pälvinud tähelepanu oma võimekusega, kuid varased testijad hoiatavad tõsiste turvariskide ja kasutajate privaatsust ohustavate teenusetingimuste eest. Ettevõtet kritiseeritakse andmete säilitamise ja kasutajate nimel iseseisvate otsuste langetamise pärast.

San Franciscos tegutseva startup-ettevõtte Spear Street Technology arendatav tehisintellektil põhinev assistent Instinct on pälvinud esimese avaliku tähelepanu, kuid mitte ainult oma tehniliste võimete tõttu. Ehkki tarkvara on endiselt piiratud testimisfaasis, on varased kasutajad tõstatanud tõsiseid küsimusi rakenduse turvalisuse ja kasutajate privaatsuse tagamise kohta.

Instinct toimib automatiseeritud agendina, mis ühendub kasutaja seadmete ja rakendustega, sealhulgas e-posti, kalendri ja sõnumivahetusplatvormidega. Süsteem suudab broneerida aegu, organiseerida reise ning korrastada meilikasti, analüüsides seejuures kasutaja ekraanipilte, hiireliigutusi ja klaviatuurisisestusi.

Murettekitavad teenusetingimused

Kriitika keskmes on ettevõtte kasutustingimused, mis annavad arendajale laiaulatusliku ja pöördumatu õiguse kasutada, salvestada ja muuta kõiki kasutaja materjale, sealhulgas andmeid, mida kasutatakse tehisintellekti mudelite treenimiseks. Lisaks on tekitanud pahameelt asjaolu, et tarkvara võib sõlmida kasutaja nimel siduvaid lepinguid ja tehinguid.

Varased testijad on raporteerinud juhtumitest, kus privaatsus on olnud ohus. Katie Jacobs Stanton, Moxxie Venturesi asutaja, tõi näiteks olukorra, kus tarkvara saatis tema nimel e-kirja ilma eelneva kinnituseta. Teised kasutajad on märkinud, et rakendus on säilitanud andmeid lihttekstina ka pärast seda, kui neile on antud juhis ligipääs lõpetada või andmed kustutada.

Turvariskid ja investeeringud

Turvakaalutlused ulatuvad ka tehniliste haavatavusteni. Mõned kasutajad on täheldanud, et assistent suudab iseseisvalt ligi pääseda e-kirjakasti kinnituskoodidele, mis teeb süsteemi potentsiaalselt vastuvõtlikuks andmepüügirünnakutele. Michael Mignano, Union Square Venturesi partner, rõhutas, et sellised tooted muudavad tarbijate arusaama turvalisusest, kuna inimesed on valmis andma kolmandate osapoolte rakendustele üha rohkem kontrolli oma paroolide ja andmete üle.

Vaatamata negatiivsele tagasisidele on ettevõte, mida juhivad teiste seas endised Sierra teadurid nagu Noah Shinn, suutnud kaasata investeeringuid sellistelt fondidelt nagu Kleiner Perkins ja Conviction. Ettevõtte esindajad ei ole avalikkusele oma privaatsuspoliitika või turvamurede kohta kommentaare andnud.