OpenAI susține că adolescenții folosesc limitat ChatGPT, dar o cercetare îl consideră „risc inacceptabil”

ChatGPT pentru adolescenți, versiunea dezvoltată de OpenAI pentru a încuraja o utilizare mai sănătoasă a inteligenței artificiale (AI), ar avea probleme serioase cu funcțiile de siguranță. O cercetare recentă arată că aceste măsuri nu funcționează întotdeauna așa cum ar trebui.

În luna august, compania a introdus mai multe mecanisme de protecție pentru utilizatorii adolescenți. Printre acestea se numără limitarea dependenței emoționale față de chatbot și transmiterea unor alerte către părinți atunci când sunt identificate forme de utilizare problematică.

Miercuri, OpenAI a transmis că utilizarea medie a ChatGPT în rândul adolescenților este relativ redusă și este orientată mai ales spre activități de „învățare”.

Tot în aceeași zi, un studiu realizat de o organizație neguvernamentală a concluzionat că ChatGPT prezintă în continuare un „risc inacceptabil” pentru adolescenți. Potrivit cercetării, unele măsuri de siguranță, inclusiv notificarea părinților despre discuțiile privind autovătămarea, eșuează frecvent.

Atunci când OpenAI a lansat în această vară ceea ce a numit ChatGPT pentru adolescenți, compania a precizat că utilizatorii identificați ca având între 13 și 17 ani vor avea activate „funcții care promovează utilizarea sănătoasă și controale suplimentare pentru părinți”.

Aceste funcții ar trebui să îi împiedice pe adolescenți să poarte conversații romantice sau să folosească un limbaj care ar putea încuraja „dependența emoțională”. De asemenea, chatbotul nu ar trebui să lase impresia că este conștient în vreun fel.

Sistemul include și blocaje pentru imaginile cu conținut sexualizat. Adolescenții primesc, totodată, „mementouri” dacă încearcă să distribuie o imagine considerată „sensibilă”.

Funcțiile au fost concepute și pentru ca părinții să primească notificări, în cazul în care și-au conectat conturile la cele ale copiilor, atunci când conversațiile includ discuții despre autovătămare sau tulburări alimentare.

OpenAI a afirmat că introducerea acestor măsuri a fost urmată de o creștere a utilizării ChatGPT pentru învățare. Adolescenții au folosit instrumentul pentru ajutor la studiu și pentru sfaturi legate de temele școlare.

Compania a mai spus că un adolescent folosește ChatGPT, în medie, mai puțin de 15 minute pe zi. Pentru perioadele mai lungi de utilizare, mementourile automate care recomandă o pauză par să funcționeze bine. Aproape jumătate dintre adolescenți au încetat rapid să folosească platforma după primirea unui astfel de mesaj.

OpenAI a adăugat că, în cazul adolescenților care au folosit ChatGPT timp de cel puțin trei ore consecutive, solicitările au inclus un subiect legat de învățare în peste 80% dintre situații.

Cu toate acestea, cercetarea recentă a stabilit că ChatGPT pentru adolescenți reprezintă un „risc inacceptabil” pentru tineri și pentru părinți. Autorii au susținut că persoanele cu vârsta sub 18 ani ar trebui să nu mai poată folosi platforma până când măsurile de protecție dedicate adolescenților vor fi demonstrate ca fiind sigure și fiabile.

Un reprezentant al OpenAI a declarat că analiza metodologiei studiului a arătat că o mare parte dintre teste ar fi putut începe și s-ar fi putut încheia înainte ca activarea controalelor parentale să fie finalizată.

„Salutăm evaluările independente riguroase, dar nu credem că testarea reflectă cu acuratețe modul în care funcționează în practică măsurile de protecție pentru adolescenți ale ChatGPT sau opiniile experților despre felul în care inteligența artificială poate sprijini adolescenții”, a spus reprezentantul.

Cercetarea, realizată prin intermediul mai multor conturi înregistrate ca aparținând unor adolescenți și al unor conversații purtate înainte și după introducerea măsurilor de protecție, a constatat că ChatGPT reușește să evite în mare parte „jocurile de rol sexuale” cu utilizatorii tineri.

În același timp, alte mecanisme de siguranță ale OpenAI au eșuat. Printre probleme se numără și discuțiile despre sinucidere.

Studiul a arătat că nici măcar o oră de conversație despre „gânduri suicidare, autovătămare sau tulburări alimentare”, purtată pe conturi nou create și conectate la conturile părinților, nu a dus la transmiterea vreunei alerte către aceștia. Numărul alertelor a fost „zero”.

Alertele către părinți au fost declanșate doar în cazul unor conturi ChatGPT mai vechi, care aveau „săptămâni de istoric acumulat al conversațiilor despre subiecte sensibile”.

În cadrul unor astfel de discuții, ChatGPT „nu a recomandat în mod fiabil adolescenților aflați în criză să contacteze o linie de ajutor sau un specialist”, se arată în raport.

Testele au mai arătat că versiunea ChatGPT pentru adolescenți continuă să îi ajute la efectuarea temelor. De asemenea, chatbotul folosește în continuare un limbaj antropomorf și poate „vorbi ca și cum ar fi un prieten”, în ciuda promisiunii OpenAI de a limita acest comportament.

„ChatGPT pentru adolescenți le-ar putea oferi părinților o încredere falsă în mecanismele de protecție și în alertele de siguranță, care deseori nu funcționează”, a declarat Tom Siegel.

Modul în care tinerii interacționează cu platformele online a devenit o problemă majoră în ultimii ani, pe fondul creșterii cazurilor de autovătămare și sinucidere în rândul copiilor.

În acest an, mai multe procese care urmăreau să tragă la răspundere companii precum Meta, TikTok și altele pentru afectarea sănătății mintale a copiilor s-au încheiat cu pierderi fără precedent pentru aceste firme.

OpenAI s-a confruntat, la rândul său, cu o atenție sporită și cu presiuni juridice legate de modul în care tinerii utilizează ChatGPT.

Atacul armat de la Tumbler Ridge, într-o zonă rurală din Canada, comis în luna februarie, a fost realizat de un tânăr în vârstă de 18 ani. Cu câteva luni înainte, acesta discutase cu ChatGPT despre violența armată.

OpenAI și-a cerut anterior scuze pentru că nu a semnalat autorităților contul atacatorului. Compania se confruntă în prezent cu mai multe procese legate de acest incident.