Kasutajate vestlused Claude’i tehisintellektiga sattusid avalikult Google’i otsingusse

Mitu kasutajat avastas, et privaatsed Claude’i vestlused ja projektid olid Google’i otsingumootori kaudu kõigile kättesaadavad. Lekkinud andmete hulgas oli tundlikku infot, sealhulgas terviseandmeid ja eraettevõtete dokumente.

Nädalavahetusel selgus, et tehisintellektiteenus Claude’i kasutajate vestlused ja nn Artifact-failid ehk interaktiivsed rakendused ja dokumendid olid Google’i otsingumootoris avalikult leitavad. Probleem ilmnes, kui Redditit kasutavad inimesed märkasid, et spetsiifiliste otsingukäskude nagu „site:claude.ai/share“ sisestamisel kuvab Google pika nimekirja kasutajate jagatud vestlustest.

Lekkinud materjalide hulgas oli väga tundlikku teavet. Meediaväljaannete teatel sattus avalikku otsingusse meditsiinilisi aruandeid, kliiniliste uuringute tulemusi koos patsientide nimedega, algkooliealiste laste kontaktandmeid ning ettevõtete sisedokumente ja töötajate hindamislehti. Samuti leidus otsingutulemustes tehisintellektiga genereeritud erootilist sisu, mis on vastuolus teenusepakkuja Anthropicu enda kasutustingimustega.

Kuidas andmed avalikuks said?

Turvaintsident on seotud Claude’i „jaga vestlust“ funktsiooniga. See võimaldab kasutajatel luua lingi, mida saab jagada sõprade või kolleegidega. Anthropicu esindaja Amie Rotherham selgitas, et ettevõte ei jaga vestluste katalooge või saidikaarte otsingumootoritele ning lingid ei ole arvatavad ega leitavad, kui kasutajad ise neid kuhugi ei avalikusta. Ettevõtte seisukohalt on vestlused avalikud vaid siis, kui kasutaja on lingi ise mõnele avalikule platvormile, näiteks foorumisse või sotsiaalmeediasse postitanud.

Otsingumootor Google märkis omalt poolt, et nemad ei kontrolli, millised lehed veebis avalikuks tehakse. Google’i esindaja Ned Adriance rõhutas, et otsingumootor järgib alati veebilehtede omanike antud juhiseid selle kohta, kas lehti tohib indekseerida või mitte.

Olukorra lahendamine ja ajalugu

Esmaspäevaks näis, et probleem on suures osas lahendatud, kuna otsingupäringud ei andnud enam varasemaid tulemusi. See ei ole esimene kord, kui taoline turvanõrkus ilmsiks tuleb, Forbes teatas sarnasest probleemist Claude’iga juba eelmisel aastal. Toona oli indekseeritud ligi 600 vestlust. Sarnaseid probleeme on varem esinenud ka teiste tehisintellektimudelitega, sealhulgas OpenAI ChatGPT-ga.

Kasutajatel on võimalik oma jagatud vestluste nimekirja kontrollida ja hallata Claude’i seadete menüüs, liikudes jaotisesse Privaatsus ja sealt edasi Jagatud vestlused.