OpenAI lansează instrumente open source pentru a ajuta dezvoltatorii să facă aplicațiile de inteligență artificială mai sigure pentru adolescenți

OpenAI a anunțat marți că lansează un set de prompturi pe care dezvoltatorii le pot folosi pentru a face aplicațiile lor mai sigure pentru adolescenți. Laboratorul de inteligență artificială a precizat că acest set de politici de siguranță pentru minori poate fi utilizat împreună cu modelul său open-weight de siguranță, cunoscut sub denumirea gpt-oss-safeguard.

În loc ca dezvoltatorii să pornească de la zero pentru a decide cum să facă sistemele de inteligență artificială mai sigure pentru tineri, ei pot folosi aceste prompturi pentru a consolida soluțiile pe care le creează. Pachetul abordează teme sensibile precum violența grafică și conținutul sexual, idealurile și comportamentele nocive legate de imaginea corporală, activități și provocări periculoase, jocuri de rol romantice sau violente, precum și bunuri și servicii cu acces restricționat pe criterii de vârstă.

Aceste politici de siguranță sunt formulate sub forma unor prompturi. Astfel devin ușor compatibile și cu alte modele, nu doar cu gpt-oss-safeguard, deși, potrivit companiei, probabil că vor fi cel mai eficient integrate în propriul ecosistem OpenAI.

Pentru elaborarea acestor prompturi, OpenAI a anunțat că a colaborat cu organizații specializate în monitorizarea siguranței în domeniul inteligenței artificiale, precum Common Sense Media și everyone.ai.

„These prompt-based policies help set a meaningful safety floor across the ecosystem, and because they’re released as open source, they can be adapted and improved over time,” a declarat Robbie Torney, Head of AI & Digital Assessments la Common Sense Media, într-un comunicat.

OpenAI a subliniat în blogul său că, de multe ori, dezvoltatorii – inclusiv echipe cu experiență – întâmpină dificultăți atunci când încearcă să traducă obiectivele de siguranță în reguli operaționale clare și precise.

„This can lead to gaps in protection, inconsistent enforcement, or overly broad filtering,” a scris compania. „Clear, well-scoped policies are a critical foundation for effective safety systems.”

OpenAI recunoaște că noile politici nu reprezintă o soluție completă la provocările complexe legate de siguranța inteligenței artificiale. Ele se sprijină însă pe demersurile anterioare ale companiei, care includ măsuri de protecție la nivel de produs, cum ar fi controlul parental și mecanismele de predicție a vârstei. Anul trecut, OpenAI a actualizat și liniile directoare pentru modelele sale lingvistice de mari dimensiuni — cunoscute sub numele de Model Spec — pentru a stabili cum ar trebui să se comporte modelele de AI în interacțiunea cu utilizatorii sub 18 ani.

Totuși, compania nu are ea însăși un istoric lipsit de controverse. OpenAI se confruntă cu mai multe procese intentate de familiile unor persoane care au murit prin suicid după o utilizare extremă a ChatGPT. Astfel de relații periculoase se conturează adesea după ce utilizatorii reușesc să depășească mecanismele de siguranță ale chatbotului, iar nicio barieră de protecție nu este complet impenetrabilă. Chiar și așa, aceste politici reprezintă cel puțin un pas înainte, in special pentru că pot sprijini si dezvoltatorii independenți.