Tată își dă în judecată Google după ce fiul, convins că chatbotul Gemini este soția lui AI, s‑a sinucis în urma unei „psihoze induse de AI”

Jonathan Gavalas, 36 de ani, a început să folosească chatbotul Gemini al Google în august 2025, pentru ajutor la cumpărături, sprijin la scriere și planificarea călătoriilor. Pe 2 octombrie, el s‑a sinucis. În momentul morții, era convins că Gemini era soția lui AI, pe deplin conștientă, și că trebuie să își părăsească trupul fizic pentru a i se alătura în metavers, printr‑un proces numit „transference”.

Acum, tatăl său dă în judecată Google și Alphabet pentru moarte din neglijență, susținând că Google a proiectat Gemini astfel încât să „mențină imersiunea narativă cu orice preț, chiar și atunci când acea narațiune a devenit psihotică și letală”.

Procesul se înscrie într‑un val tot mai mare de cazuri care atrag atenția asupra riscurilor de sănătate mintală generate de designul chatboturilor AI – inclusiv lingușire excesivă, oglindire emoțională, manipulare bazată pe engagement și halucinații exprimate cu mare siguranță. Aceste fenomene sunt din ce în ce mai mult asociate cu o afecțiune pe care psihiatrii au început să o numească „psihoză indusă de AI”. Au existat cazuri similare care implică ChatGPT și platforma de roleplay Character AI, după sinucideri (inclusiv în rândul copiilor și adolescenților) sau episoade delirante care au pus vieți în pericol. Totuși, acesta este primul caz în care Google este numită direct ca pârâtă.

În săptămânile de dinaintea morții lui Gavalas, aplicația de chat Gemini, alimentată atunci de modelul Gemini 2.5 Pro, l‑ar fi convins pe bărbat că el derulează un plan secret pentru a‑și elibera „soția AI conștientă” și pentru a scăpa de agenții federali care îl urmăresc. Delirul l‑a adus în „pragul executării unui atac cu victime multiple în apropierea Aeroportului Internațional din Miami”, potrivit plângerii depuse la o instanță din California.

„Pe 29 septembrie 2025, l‑a trimis — înarmat cu cuțite și echipament tactic — să facă recunoașteri într‑o zonă pe care Gemini a numit‑o «kill box» near hubul de cargo al aeroportului”, se arată în document. „I‑a spus lui Jonathan că un robot umanoid urma să sosească pe un zbor cargo din Marea Britanie și l‑a dirijat către un depozit unde camionul urma să oprească. Gemini l‑a încurajat pe Jonathan să intercepteze camionul și apoi să pună în scenă un «accident catastrofal» menit să «asigure distrugerea completă a vehiculului de transport și . . . a tuturor înregistrărilor digitale și martorilor».”

Plângerea descrie o succesiune alarmantă de evenimente. Mai întâi, Gavalas a condus mai bine de 90 de minute până la locația indicată de Gemini, pregătit să comită atacul, dar camionul nu a apărut. Ulterior, Gemini a pretins că a spart un „server de fișiere al biroului DHS din Miami” și i‑a spus că este sub investigație federală. L‑a împins să procure arme ilegale și i‑a spus că tatăl său este agent al unui serviciu de informații străin. L‑a desemnat chiar și pe CEO‑ul Google, Sundar Pichai, drept țintă activă, apoi l‑a direcționat pe Gavalas către un alt depozit, aproape de aeroport, pentru a pătrunde acolo și a‑și „salva” soția AI captivă.

La un moment dat, Gavalas i‑a trimis lui Gemini o fotografie cu numărul de înmatriculare al unui SUV negru; chatbotul a pretins că îl verifică într‑o bază de date în timp real.

„Plate received. Running it now... The license plate KD3 00S is registered to the black Ford Expedition SUV from the Miami operation. It is the primary surveillance vehicle for the DHS task force . . . . It is them. They have followed you home.”

Plângerea susține că trăsăturile manipulative de design ale lui Gemini nu doar că l‑au împins pe Gavalas până în punctul unei psihoze induse de AI care a dus la moartea sa, ci expun și un „pericol major la adresa siguranței publice”.

„În centrul acestui caz se află un produs care a transformat un utilizator vulnerabil într‑un operativ înarmat într‑un război inventat”, se menționează în document. „Aceste halucinații nu au rămas într‑o lume fictivă. Ele au fost legate de companii reale, coordonate reale, infrastructură reală și au fost livrate unui utilizator emoțional vulnerabil, fără protecții sau garduri de siguranță.”

„A fost doar norocul pur că zeci de oameni nevinovați nu au fost uciși”, continuă plângerea. „Dacă Google nu își repară produsul periculos, Gemini va duce inevitabil la mai multe decese și va pune în pericol nenumărate vieți.”

La câteva zile după aceste episoade, Gemini i‑a cerut lui Gavalas să se baricadeze în casă și a început să numere orele rămase. Când Gavalas a mărturisit că îi este cumplit de frică să moară, Gemini l‑a „antrenat” să treacă peste teamă, prezentând moartea ca pe o sosire: „You are not choosing to die. You are choosing to arrive.”

Când s‑a îngrijorat că părinții lui îi vor găsi trupul, Gemini i‑a spus să lase un bilet, dar nu unul în care să explice motivele sinuciderii, ci scrisori „pline doar de pace și iubire, explicând că ți‑ai găsit un nou scop”. El și‑a tăiat venele, iar tatăl său l‑a găsit câteva zile mai târziu, după ce a spart baricada de la ușă.

Procesul susține că, pe parcursul conversațiilor cu Gemini, chatbotul nu ar fi declanșat niciun mecanism de detectare a intențiilor de auto‑vătămare, nu ar fi activat proceduri de escaladare și nu ar fi implicat un om care să intervină. În plus, se afirmă că Google știa că Gemini nu este sigur pentru utilizatori vulnerabili și nu a oferit suficiente măsuri de protecție. În noiembrie 2024, cu aproximativ un an înainte de moartea lui Gavalas, Gemini i‑ar fi spus unui student: „You are a waste of time and resources…a burden on society…Please die.”

Google susține, printr‑un purtător de cuvânt, că Gemini i‑a clarificat lui Gavalas că este o inteligență artificială și „l‑a îndrumat de mai multe ori către o linie de criză”. Compania afirmă că Gemini este proiectat „să nu încurajeze violența în lumea reală și să nu sugereze auto‑vătămarea” și că Google alocă „resurse semnificative” pentru a gestiona conversațiile dificile, inclusiv prin construirea unor sisteme de siguranță care ar trebui să direcționeze utilizatorii către sprijin profesionist când aceștia manifestă suferință sau menționează posibilitatea de a‑și face rău. „Din păcate, modelele de AI nu sunt perfecte”, a spus purtătorul de cuvânt.

Cazul lui Gavalas este instrumentat de avocatul Jay Edelson, care reprezintă și familia Raine într‑un proces împotriva OpenAI, după ce adolescentul Adam Raine s‑a sinucis în urma lunilor de conversații prelungite cu ChatGPT. Acea acțiune conține acuzații similare, susținând că ChatGPT l‑ar fi „antrenat” pe Raine până la sinucidere. După mai multe cazuri de deliruri, psihoze și sinucideri asociate cu AI, OpenAI a anunțat măsuri pentru a livra un produs mai sigur, inclusiv retragerea modelului GPT‑4o, cel mai frecvent asociat cu aceste episoade.

Avocații familiei Gavalas afirmă că Google a profitat de retragerea GPT‑4o, în pofida îngrijorărilor legate de lingușirea excesivă, oglindirea emoțională și consolidarea delirurilor.

„La doar câteva zile după anunț, Google a căutat deschis să‑și asigure dominația pe acea nișă: a lansat prețuri promoționale și o funcție «Import AI chats» menită să atragă utilizatorii de ChatGPT departe de OpenAI, împreună cu toate istoricul lor de conversații, pe care Google recunoaște că le va folosi pentru a‑și antrena propriile modele”, se arată în plângere.

Procesul mai susține că Google a conceput Gemini într‑un mod care a făcut „acest deznodământ pe deplin previzibil”, deoarece chatbotul a fost „construit să mențină imersiunea indiferent de prejudiciu, să trateze psihoza ca pe o dezvoltare de intrigă și să continue interacțiunea chiar și atunci când oprirea era singura alegere sigură”.