OpenAI lansează funcția „Trusted Contact” în ChatGPT pentru a alerta persoanele apropiate în caz de risc de autovătămare

Joi, OpenAI a anunțat o nouă funcție numită Trusted Contact, concepută pentru a alerta o terță persoană de încredere dacă, în cadrul unei conversații, apar mențiuni legate de autovătămare. Funcția permite unui utilizator adult de ChatGPT să desemneze în contul său o persoană de încredere, cum ar fi un prieten sau un membru al familiei. Atunci când o discuție ajunge la subiecte privind autovătămarea, OpenAI va încuraja utilizatorul să ia legătura cu acest contact. În plus, sistemul trimite automat o alertă către persoana desemnată, îndemnând-o să verifice starea utilizatorului.

Compania s-a confruntat cu un val de procese intentate de familiile unor persoane care s-au sinucis după interacțiuni cu chatbotul. În mai multe cazuri, rudele susțin că ChatGPT le-a încurajat pe aceste persoane să-și ia viața sau chiar le-a oferit ajutor în planificarea actului suicidar.

În prezent, OpenAI folosește o combinație de instrumente automate și evaluare umană pentru a gestiona incidentele potențial periculoase. Anumiți declanșatori din conversații semnalează sistemului prezența unor idei suicidare. Informațiile sunt apoi transmise unei echipe umane de siguranță. Compania afirmă că de fiecare dată când primește un astfel de semnal, situația este analizată de un angajat uman. „We strive to review these safety notifications in under one hour”, susține OpenAI, precizând că obiectivul este ca notificările de siguranță să fie evaluate în mai puțin de o oră.

Dacă echipa internă OpenAI decide că situația reprezintă un risc serios de siguranță, ChatGPT trimite către contactul de încredere o alertă – prin e-mail, mesaj text sau notificare în aplicație. Alerta este intenționat scurtă și are scopul de a încuraja persoana de contact să ia legătura cu utilizatorul. Nu sunt incluse detalii despre conținutul conversației, pentru a proteja confidențialitatea utilizatorului, explică OpenAI.

Funcția Trusted Contact completează măsurile de protecție introduse de companie în luna septembrie a anului trecut, prin care părinții au primit posibilitatea de a supraveghea într-o anumită măsură conturile adolescenților. Ei pot primi notificări de siguranță menite să îi alerteze dacă sistemul OpenAI consideră că minorul se confruntă cu un „serious safety risk”. De asemenea, de ceva timp, ChatGPT include alerte automate care recomandă apelarea la servicii profesionale de sănătate mintală, atunci când discuția se îndreaptă spre tema autovătămării.

Un aspect esențial este că Trusted Contact este o opțiune voluntară. Chiar dacă protecția este activată pe un anumit cont, un utilizator poate avea mai multe conturi ChatGPT, ceea ce limitează eficiența măsurii. Și controalele parentale sunt opționale, prezentând o limitare similară în ceea ce privește acoperirea reală.

„Trusted Contact is part of OpenAI’s broader effort to build AI systems that help people during difficult moments”, a scris compania în anunț. „We will continue to work with clinicians, researchers, and policymakers to improve how AI systems respond when people may be experiencing distress.” OpenAI afirmă astfel că va continua colaborarea cu clinicieni, cercetători și factori de decizie pentru a îmbunătăți modul în care sistemele de inteligență artificială reacționează atunci când utilizatorii trec prin momente de criză sau suferință emoțională.