OpenAI lansează un nou plan de siguranță pentru combaterea exploatării sexuale a copiilor în era inteligenței artificiale

Ca răspuns la îngrijorările tot mai mari privind siguranța copiilor în mediul online, OpenAI a prezentat un nou plan de acțiune pentru consolidarea măsurilor de protecție a copiilor în SUA, în contextul expansiunii accelerate a inteligenței artificiale. „Child Safety Blueprint”, publicat marți, este conceput pentru a permite o detectare mai rapidă, raportare mai eficientă și investigare mai bună a cazurilor de exploatare a copiilor facilitate de instrumente de inteligență artificială.

Obiectivul principal al acestui plan este combaterea creșterii alarmante a exploatării sexuale a copiilor asociate progreselor în domeniul AI. Conform datelor Internet Watch Foundation (IWF), în prima jumătate a anului 2025 au fost identificate peste 8 000 de rapoarte privind conținut de abuz sexual asupra copiilor generat cu ajutorul inteligenței artificiale. Aceasta reprezintă o creștere de 14% față de anul precedent. Printre cazuri se numără infractori care folosesc instrumente AI pentru a crea imagini false, explicite, cu minori, utilizate în sextorție financiară, dar și pentru a genera mesaje foarte convingătoare, folosite în acțiuni de racolare și grooming.

Planul OpenAI apare pe fondul unei presiuni sporite din partea factorilor de decizie politică, a mediului educațional și a organizațiilor pentru siguranța copiilor. Aceste preocupări au fost amplificate de incidente îngrijorătoare în care tineri au murit prin sinucidere după ce ar fi interacționat cu chatboți bazați pe inteligență artificială. Dezbaterea publică s-a intensificat, iar legislația este tot mai des invocată ca instrument esențial de protecție.

În noiembrie anul trecut, Social Media Victims Law Center și Tech Justice Law Project au intentat șapte procese în instanțele din statul California, susținând că OpenAI ar fi lansat GPT-4o înainte ca acesta să fie suficient de pregătit pentru utilizare în siguranță. Reclamanții afirmă că natura presupus manipulatoare psihologic a produsului ar fi contribuit la decese nelegale prin sinucidere și la cazuri de asistență la sinucidere. Sunt citate situațiile a patru persoane care au murit prin sinucidere și ale altor trei care au suferit deliruri severe, cu risc major pentru viață, după interacțiuni prelungite cu chatbotul.

Acest plan de siguranță a fost elaborat în colaborare cu National Center for Missing and Exploited Children (NCMEC) și cu Attorney General Alliance, beneficiind totodată de feedback din partea procurorului general al Carolinei de Nord, Jeff Jackson, și a procurorului general din Utah, Derek Brown. Cooperarea cu aceste instituții urmărește alinierea mai strânsă dintre inovația tehnologică și mecanismele existente de aplicare a legii.

Compania precizează că planul se concentrează pe trei direcții esențiale. Prima este actualizarea legislației, astfel încât materialele de abuz generate cu ajutorul inteligenței artificiale să fie incluse explicit în cadrul legal. A doua vizează îmbunătățirea mecanismelor de raportare către forțele de ordine. A treia componentă privește integrarea, direct în sistemele AI, a unor măsuri preventive și a unor bariere de siguranță mai robuste. Prin aceste măsuri, OpenAI își propune nu doar identificarea mai timpurie a potențialelor amenințări, ci și transmiterea rapidă a informațiilor relevante către anchetatori, pentru intervenții concrete.

Noul „child safety blueprint” al OpenAI se sprijină pe inițiativele anterioare ale companiei. Printre acestea se numără actualizarea ghidurilor pentru interacțiunile cu utilizatori sub 18 ani, care interzic generarea de conținut nepotrivit sau de mesaje ce încurajează auto-vătămarea și limitează furnizarea de sfaturi ce i-ar putea ajuta pe tineri să ascundă comportamente nesigure față de părinți sau de alte persoane care au grijă de ei. Recent, compania a lansat și un plan distinct de siguranță destinat adolescenților din India, extinzând astfel abordarea regională a protecției copiilor in mediul online.