OpenAI va marca invizibil textele generate de ChatGPT în Uniunea Europeană

OpenAI va începe să adauge un marcaj invizibil textelor generate de ChatGPT și Codex în Uniunea Europeană, pentru a respecta cerințele Actului european privind inteligența artificială, a anunțat compania luni, într-o postare pe blog.

Regulile de transparență prevăzute de Actul UE privind inteligența artificială au intrat în vigoare la 2 august. Acestea obligă companiile care dezvoltă sisteme de inteligență artificială să marcheze conținutul generat de AI într-un mod care să poată fi identificat de alte sisteme.

OpenAI a precizat că marcajul va fi introdus în urmatoarele saptamani pentru utilizatorii eligibili ai ChatGPT și Codex, indiferent de planul pe care îl folosesc, însă doar în Uniunea Europeană. Dezvoltatorii care utilizează API-ul OpenAI oriunde în lume vor putea activa această funcție pentru anumite modele începând de luni. Opțiunea va fi dezactivată în mod implicit.

Compania a mai spus că, la lansare, nu va transforma marcarea textelor într-o setare globală activată automat. Astfel, implementarea va începe doar în UE pentru utilizatorii ChatGPT și Codex, în timp ce dezvoltatorii vor putea decide separat dacă doresc să activeze funcția prin intermediul API-ului.

Marcajul nu este un simbol propriu-zis și nu apare vizibil în text. Acesta funcționează prin modificarea subtilă a alegerii cuvintelor de către model, lăsând un tipar pe care cititorii nu îl pot observa, dar pe care un detector îl poate identifica. Deoarece marcajul este integrat în cuvintele folosite, el rămâne prezent și atunci când textul este copiat și lipit în altă parte.

OpenAI a subliniat că marcajul nu permite identificarea utilizatorului. Compania a afirmat, de asemenea, că nu a observat o schimbare semnificativă în performanța modelelor sale atunci când funcția este activată.

Odată cu anunțul, OpenAI a publicat și un raport tehnic despre metoda sa, denumită textGrain. Documentul a fost redactat împreună cu cercetători de la Universitatea din Pennsylvania și Universitatea Yale. Raportul explică, printr-un exemplu, modul în care o cheie secretă poate fi folosită pentru a ordona predicțiile privind următorul cuvânt, astfel încât propoziția să fie completată.

Prin acumularea a sute de astfel de modificări subtile, detectorul poate identifica un conținut generat de inteligența artificială folosind doar textul și cheia secretă. Metoda nu schimbă în mod vizibil textul pentru cititor, dar creează un tipar statistic care poate fi analizat de instrumentele specializate.

Totuși, testele OpenAI arată că marcajul poate fi eliminat prin editare. Într-unul dintre teste, înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detectare de la aproximativ 92% la 66%. Compania a mai precizat că pasajele scurte, răspunsurile la probleme de matematică și textele traduse sunt mai greu de identificat.

„Aceste limitări au contribuit la decizia noastră de a oferi acces inițial la detector doar cercetătorilor aprobați și organizațiilor de specialitate, care ne pot ajuta să evaluăm fiabilitatea și utilizările responsabile”, a declarat compania.

OpenAI a avertizat și că lipsa unui marcaj „nu dovedește că textul a fost scris de un om”. Textul poate fi prea scurt, poate fi editat într-o măsură prea mare sau poate proveni de la sistemul de inteligență artificială al unei alte companii.

„[Marcajele] pot indica faptul că un sistem OpenAI a generat sau a procesat o parte a unui pasaj, dar nu arată cât de multă judecată umană, editare sau creativitate a fost implicată”, a mai spus compania.

Anunțul OpenAI vine la două luni după ce Anthropic a declarat că va introduce un marcaj pentru textele generate de Claude. Compania aplică această măsură la nivel mondial. Decizia a provocat reacții negative din partea unor utilizatori Claude, care au susținut că ei au oferit „instrucțiunile, contextul, deciziile”, în timp ce Claude a fost doar „instrumentul”.

OpenAI dezvoltase anterior un marcaj pentru texte, dar a amânat lansarea acestuia, în parte din cauza temerilor că utilizatorii ar putea trece la servicii concurente care nu foloseau o astfel de tehnologie. Acum, compania a decis să introducă sistemul în etape, cu acces limitat pentru detectoare și cu aplicare inițială doar în Uniunea Europeană.

Anthropic, Google, Meta, Microsoft și OpenAI se numără printre companiile care s-au angajat să respecte codul de practică al Uniunii Europene privind conținutul generat de inteligența artificială.