OpenAI schimbă regulile pentru minori: ChatGPT mai puțin „uman”, pauze obligatorii și alerte pentru părinți

Dezvoltatorul ChatGPT lansează astăzi o serie de funcții noi de siguranță dedicate utilizatorilor cu vârsta sub 18 ani care folosesc chatbotul de inteligență artificială.

Cei care își creează conturi noi pentru adolescenți vor putea dezactiva răspunsul vocal uman, pentru a reduce cât mai mult capacitatea tehnologiei de a părea o persoană reală.

OpenAI introduce și memento-uri regulate pentru tineri, prin care aceștia sunt încurajați să ia pauze de la utilizarea instrumentului, să‑și reamintească faptul că ChatGPT este o inteligență artificială și că „poate să aștepte”.

Compania a insistat că aceste schimbări nu apar ca reacție la o problemă concretă în care copiii cred că ChatGPT ar fi viu. Totuși, există îngrijorări tot mai mari că oamenii ajung să fie convinși că instrumentele de tip AI cu care interacționează sunt conștiente.

Anul trecut, Mustafa Suleyman, șeful departamentului de inteligență artificială de la o companie rivală, a declarat că produsele de AI „în aparență conștiente” „nu îl lasă să doarmă noaptea” din cauza temerilor sale privind impactul lor asupra societății.

În alte privințe, OpenAI pare să urmeze, cel puțin parțial, modelul de conturi pentru adolescenți implementat deja de marile rețele sociale.

Într-o postare pe blog prin care anunță ChatGPT pentru Adolescenți, compania a subliniat că utilizarea AI de către tineri „trebuie să vină cu protecții care să reflecte etapa lor de dezvoltare, să întărească relațiile din lumea reală și să încurajeze, în timp, o utilizare sănătoasă”.

A fost anunțat că aceste conturi pentru adolescenți vor deveni setarea implicită pentru persoanele care se declară minore la înscriere și, de asemenea, pentru alți utilizatori pe care compania îi identifică drept sub 18 ani.

Totuși, OpenAI nu a oferit detalii despre modul în care îi va identifica pe acești adolescenți.

Copiii sub 13 ani nu au voie să utilizeze produsul.

Anul trecut, ChatGPT a introdus Study Mode pentru elevi și studenți, un mod în care instrumentul discută despre teme și sarcini școlare fără să furnizeze direct răspunsurile.

Tinerii vor putea acum să își seteze intervale orare în care Study Mode să fie activ în mod implicit. În plus, vor avea opțiunea de a activa „perioade de liniște”, în care accesul la instrument va fi oprit pentru ei.

Potrivit OpenAI, nouă din zece tineri care folosesc ChatGPT îl utilizează pentru a-i ajuta la învățare.

Un raport publicat ieri de un think tank de politici publice susține că majoritatea universităților din Marea Britanie se expun riscului ca studenții să își îmbunătățească notele cu ajutorul AI, întrucât se bazează în continuare pe examene online susținute de la distanță. Conform documentului, 94% dintre studenții intervievați au recunoscut că au folosit tehnologia în cadrul evaluărilor.

OpenAI adaugă, de asemenea, solicitările legate de tulburări de alimentație pe o listă de cereri considerate dăunătoare, care vor fi semnalate părinților ce au conturi conectate cu ale copiilor.

Compania a precizat că fiecare alertă va fi analizată de o persoană înainte de a fi trimisă și că își propune ca notificările să ajungă la părinți în termen de aproximativ o oră de la efectuarea unei asemenea cereri de către tânăr.

În postarea sa pe blog, OpenAI a menționat că se va concentra pe „momentele în care sprijinul offline poate conta cel mai mult”.

Până în prezent, în Marea Britanie nu există o reglementare dedicată în mod specific inteligenței artificiale. Guvernul de la Londra a luat în considerare, alături de alte reforme privind utilizarea rețelelor sociale de către copii, și posibilitatea de a limita accesul la chatboturi de AI pentru persoanele sub 18 ani.

Unele instrumente alternative rămân disponibile strict pentru adulți. De exemplu, sistemul de AI Claude, dezvoltat de Anthropic, este încă destinat numai persoanelor majore. La lansarea inițială a propriului sistem Gemini, denumit la început Bard, și o altă companie importantă nu a permis copiilor să îl folosească.

Dr. Susan Shelmerdine, medic imagist la un spital de copii și cercetător în domeniul inteligenței artificiale, a declarat anul trecut că, în viitor, medicii ar putea începe să îi întrebe pe pacienți cât de mult folosesc AI, în același mod în care îi întreabă acum despre fumat și consumul de alcool.

„Știm deja ce pot face alimentele ultra-procesate corpului uman, iar aici vorbim despre informație ultra-procesată. Vom ajunge să ne confruntăm cu o avalanșă de minți ultra-procesate”, a spus ea.