Șeful Anthropic sfidează Pentagonul și refuză să renunțe la garanțiile de siguranță pentru AI

Compania Anthropic a anunțat că nu va ceda în disputa cu Departamentul Apărării al Statelor Unite (DoD) privind modul în care este utilizată tehnologia sa de inteligență artificială (AI).

Directorul general al firmei, Dario Amodei, a declarat joi că societatea pe care o conduce ar prefera să nu colaboreze deloc cu Pentagonul decât să accepte utilizări ale tehnologiei sale care ar putea „submina, mai degrabă decât să apere, valorile democratice”.

Afirmatiile sale vin la două zile după o întâlnire cu secretarul american al apărării, Pete Hegseth, în cadrul căreia s-a cerut ca Anthropic să accepte „orice utilizare legală” a instrumentelor sale. Discuția s-a încheiat cu o amenințare că Anthropic ar putea fi eliminată din lanțul de aprovizionare al DoD.

„Aceste amenințări nu ne schimbă poziția: nu putem, în bună conștiință, să dăm curs solicitării lor”, a spus Amodei.

În centrul disputei se află posibilitatea folosirii instrumentelor AI ale Anthropic, precum Claude, în două scopuri sensibile: „supraveghere domestică în masă” și „arme complet autonome”.

Amodei a subliniat că „astfel de cazuri de utilizare nu au fost niciodată incluse în contractele noastre cu Departamentul de Război și considerăm că nu ar trebui incluse nici acum”.

Departamentul de Război este o denumire secundară pentru Departamentul Apărării, introdusă printr-un ordin executiv semnat de președintele american Donald Trump în luna septembrie.

„Dacă Departamentul va alege să renunțe la Anthropic, vom lucra pentru a asigura o tranziție lină către un alt furnizor”, a mai declarat Amodei.

Un reprezentant al Departamentului Apărării nu a putut fi contactat pentru comentarii.

Un oficial al Pentagonului a declarat anterior că, în cazul în care Anthropic nu se conformează, Hegseth se va asigura că Legea privind producția de apărare (Defense Production Act) va fi invocată împotriva companiei.

Această lege oferă președintelui SUA autoritatea de a considera o companie sau un produs al acesteia atât de important încât guvernul să poată impune îndeplinirea unor nevoi de apărare.

În plus, Hegseth a amenințat că va cataloga Anthropic drept un „risc pentru lanțul de aprovizionare”, ceea ce ar însemna că firma ar fi considerată insuficient de sigură pentru a fi utilizată de guvern.

Un fost oficial al DoD, care a dorit să își păstreze anonimatul, a afirmat joi că argumentele lui Hegseth pentru adoptarea oricăreia dintre aceste măsuri sunt „extrem de șubrede”.

Deși Amodei nu a specificat exact în ce mod tehnologia Anthropic ar putea fi sau a fost folosită de DoD în supraveghere în masă sau pentru arme complet autonome, el a scris într-o postare pe blogul companiei că AI poate „asambla date disparate, individual inofensive, într-o imagine cuprinzătoare a vieții oricărei persoane – în mod automat și la scară masivă”.

„Susținem utilizarea AI pentru misiuni legale de informații externe și contrainformații”, a spus Amodei. „Însă folosirea acestor sisteme pentru supraveghere domestică în masă este incompatibilă cu valorile democratice.”

În ceea ce privește integrarea AI în armament, Amodei a declarat că chiar și cele mai avansate și capabile sisteme de inteligență artificială de astăzi „pur și simplu nu sunt suficient de fiabile pentru a alimenta arme complet autonome”.

„Nu vom furniza în mod conștient un produs care să pună în pericol militarii Americii și civilii”, a subliniat el. „Fără o supraveghere adecvată, armele complet autonome nu pot fi considerate demne de încredere pentru a exercita judecata critică pe care trupele noastre profesioniste, înalt pregătite, o manifestă în fiecare zi. Aceste sisteme trebuie desfășurate cu bariere de siguranță corespunzătoare, care astăzi nu există.”

El a adăugat că Anthropic a „oferit să colaboreze direct cu Departamentul de Război în activități de cercetare-dezvoltare pentru a îmbunătăți fiabilitatea acestor sisteme, dar această ofertă nu a fost acceptată”.

Potrivit unei surse, Hegseth a fost cel care a cerut organizarea întâlnirii de marți cu Amodei.