Anthropic le interzice utilizatorilor să fie „cruzi” cu sistemele sale de inteligență artificială

Anthropic a stârnit controverse după ce a anunțat că va interzice utilizatorilor să manifeste un comportament abuziv „susținut și inutil” față de inteligența sa artificială.

Compania care dezvoltă Claude a anunțat joi că își actualizează politica de utilizare, astfel încât instrumentele sale să poată încheia interacțiunile în care oamenii sunt „cruzi”. Anthropic a precizat că a procedat deja astfel, în cazuri „rare”.

Comportamentul abuziv va fi inclus pe lista acțiunilor interzise. Aceasta mai cuprinde hărțuirea altor persoane, promovarea automutilării și crearea de imagini intime fără consimțământ.

Anthropic susține că politica se va aplica doar în „cazuri extreme”, care presupun abuzuri repetate. Totuși, decizia a relansat dezbaterea privind modul în care ar trebui să comunicăm cu instrumentele bazate pe inteligență artificială.

Compania a precizat că măsura nu va fi aplicată în cazul „formelor obișnuite de frustrare a utilizatorilor, al opoziției, al temelor creative întunecate sau al testării și cercetării modelelor”. Acest lucru sugerează că restricțiile vor viza doar situațiile în care abuzul este clar intenționat.

Cu toate acestea, nu este clar ce va considera Anthropic drept „comportament abuziv sau crud” față de modelele sale.

Capturile de ecran ale noii politici au fost distribuite și comentate pe scară largă. Unii utilizatori au apreciat măsura, considerând că promovează bunele maniere sau chiar „bunăstarea modelelor”.

Alții au criticat planul. O persoană l-a descris drept „profund greșit”, în timp ce un alt utilizator a sugerat că acesta ar putea minimaliza abuzurile îndreptate împotriva oamenilor și animalelor.

„Nu poți fi crud cu numerele și matematica”, a scris Dr. Barry Scannell, partener în domeniul tehnologiei la o firmă irlandeză de avocatură.

„Acest nivel de antropomorfizare a inteligenței artificiale este dăunător. Îi face pe oameni să creadă că este ceva ce nu este.”

Mustafa Suleyman, director în cadrul diviziei de inteligență artificială a Microsoft, a reacționat la actualizarea Anthropic folosind un emoji cu o față care se topește. În luna septembrie, el criticase compania rivală pentru că tratează inteligența artificială ca și cum ar fi o ființă umană.

Modificările au fost introduse în urma unei revizuiri anuale a politicii de utilizare a companiei. Documentul a fost actualizat și pentru a răspunde unor riscuri noi sau emergente din alte domenii.

Printre schimbări se numără interzicerea folosirii lui Claude pentru „campanii înșelătoare”. Anthropic a precizat, de asemenea, că, în contextul apropierii alegerilor intermediare din Statele Unite, instrumentul nu poate fi folosit pentru a „înșela alegătorii sau a perturba alegerile”.

Compania a mai anunțat joi că politica sa de utilizare interzicea deja folosirea instrumentelor pentru dezvoltarea de arme. Niciuna dintre aceste modificări nu a atras însă la fel de multă atenție precum decizia de a interzice abuzurile utilizatorilor față de chatboturile sale.

Măsura readuce în discuție și întrebarea intens dezbătută dacă oamenii ar trebui să fie politicoși sau mai direcți atunci când folosesc instrumente de inteligență artificială generativă.

Unii experți susțin că formularea unor expresii precum „te rog” sau „mulțumesc” în conversațiile cu instrumente precum ChatGPT este inutilă și consumă tokeni. Aceștia sunt utilizați de modelele lingvistice mari, care stau la baza instrumentelor de inteligență artificială generativă, pentru a procesa întrebările și a formula răspunsuri.

Alți specialiști consideră că politețea poate contribui la obținerea unor răspunsuri de o calitate mai bună.

În urmă cu un an, când un utilizator l-a întrebat pe Sam Altman despre costurile de electricitate generate de răspunsurile ChatGPT la mesajele care conțineau „te rog” și „mulțumesc”, directorul OpenAI a spus că este vorba despre „zeci de milioane de dolari cheltuiți cu folos – nu se știe niciodată”.

În noiembrie, a revenit în atenție și termenul „clanker”, folosit în sens depreciativ pentru a face referire la instrumentele de inteligență artificială.

Cuvântul era utilizat pentru a descrie roboți în jocurile și filmele „Star Wars” încă de la mijlocul anilor 2000. Ulterior, el a fost inclus pe lista termenilor care reflectă starea de spirit din 2025, după ce numeroase persoane și-au exprimat frustrarea față de mașinile bazate pe inteligență artificială.

Unii experți au susținut, de asemenea, că folosirea unui limbaj nepoliticos față de chatboturi ar putea influența negativ comunicarea dintre oameni. Potrivit acestora, felul în care utilizatorii vorbesc cu sistemele de inteligență artificială s-ar putea răsfrânge asupra modului în care îi tratează și îi abordează pe ceilalți.