Convorbirile utilizatorilor cu Claude AI, inclusiv date sensibile, au ajuns accesibile public prin indexarea linkurilor de partajare

Sute de convorbiri ale utilizatorilor cu chatbotul de inteligență artificială Claude, dezvoltat de Anthropic, au fost descoperite ca fiind accesibile practic oricui online.

Linkuri către aceste discuții – unele conținând informații personale sau de serviciu – apăreau în rezultatele motoarelor de căutare atunci când era folosit un termen de căutare de tip „site-specific”, de exemplu pe Google.

Căutările arătau conversațiile din Claude pentru care utilizatorii aleseseră opțiunea de a „partaja” un link. Aceste linkuri au fost apoi indexate și salvate de motoare de căutare, ceea ce le-a făcut accesibile publicului larg.

Posibilitatea de a găsi în căutare aceste jurnale de chat a fost eliminată la sfârșitul săptămânii, însă multe dintre ele fuseseră deja salvate și redistribuite pe scară largă în mediul online.

O purtătoare de cuvânt a companiei Anthropic a subliniat că utilizatorii Claude păstrează controlul asupra momentului și modului în care își partajează conversațiile cu chatbotul.

Potrivit acesteia, linkurile către discuții „nu sunt ușor de ghicit sau de descoperit decât dacă oamenii aleg ei înșiși să le partajeze”.

„Când cineva partajează o conversație, face acel conținut accesibil public, iar, la fel ca alte conținuturi publice de pe web, acesta poate fi arhivat de servicii terțe”, a mai explicat purtătoarea de cuvânt.

Opțiunea de partajare din Claude îi informează pe utilizatori că „oricine are linkul” poate vedea conținutul respectiv, dar nu precizează explicit că acel link poate ajunge să fie indexat și afișat în rezultatele Google sau ale altor motoare de căutare.

Utilizatorii de pe Reddit au fost cei care au observat inițial că aceste conversații erau public disponibile. Era vorba de peste 200 de discuții cu Claude, răspândite pe cel puțin 25 de pagini de rezultate ale căutării, unele desfășurate cu doar câteva săptămâni în urmă.

În aceste conversații, utilizatorii au cerut chatbotului să răspundă la o gamă foarte variată de subiecte.

Într-unul dintre jurnale, un utilizator l-a întrebat anul trecut pe Claude dacă vrea „să mă ajuți pe mine sau vrei să ajuți mai mult pe Anthropic?”. Chatbotul a răspuns parțial spunând: „I experience something like wanting to help you”.

Într-o discuție din aprilie, un utilizator i-a cerut lui Claude să redacteze un articol de blog nepublicat despre securitatea în cloud, incluzând detalii despre un proiect corporativ. Într-o altă conversație, din luna trecută, un utilizator a întrebat cum poate „become become Nine-tailed fox?”, clarificând apoi că dorește să se transforme literalmente din om în acea creatură.

Claude a încercat mai întâi să îi afișeze utilizatorului o imagine generată de AI, susținând că acesta ar fi primit „puteri de vulpe complet funcționale!”.

Alte discuții cu Claude au inclus utilizatori care cereau ajutor pentru redactarea CV-ului. În aceste cazuri apăreau nume, date de contact și istoricul profesional. Unele persoane păreau să desfășoare chiar activități de cercetare proprietară pentru locul de muncă, de exemplu în domeniul sanitar, cu tot cu transcrieri de conversații private.

Anul trecut, o problemă aproape identică a apărut în cazul OpenAI, când jurnalele de chat ale ChatGPT au devenit public accesibile. Ulterior, compania a modificat modul în care astfel de înregistrări pot fi accesate.

Și Grok, chatbotul AI integrat în platforma X, a trecut anul trecut printr-o situație similară, când sute de mii de jurnale de convorbiri au ajuns vizibile prin intermediul căutărilor online.

Un purtător de cuvânt al Google a precizat că firma nu controlează „ce pagini sunt făcute publice pe web”, această decizie aparținând site-urilor însele. El a adăugat că motorul de cautare oferă administratorilor de site-uri instrumente clare pentru a decide ce pagini pot fi accesate de roboții de indexare sau adăugate în index și că Google respectă întotdeauna aceste directive.

Deoarece indexarea în motoarele de căutare a acestor jurnale de chat nu mai are loc, este probabil ca Anthropic să fi folosit rapid instrumentele disponibile pentru a bloca linkurile conversațiilor să mai apară în rezultate. Procedura prin care un proprietar de site poate bloca un link în Google este simplă, dar trebuie inițiată chiar de acel proprietar.

Alte motoare de căutare, precum Bing, Brave și DuckDuckGo, prin intermediul cărora au fost vizibile de asemenea jurnalele de chat Claude, au fost contactate pentru a oferi un punct de vedere.