Anthropic se opune Pentagonului: bătălia pentru controlul inteligenței artificiale militare și al supravegherii în masă

Ultimele două săptămâni au fost marcate de un conflict tot mai dur între CEO‑ul Anthropic, Dario Amodei, și secretarul Apărării, Pete Hegseth, în timp ce cei doi se confruntă pe tema modului în care armata poate folosi inteligența artificială.

Anthropic refuză să permită ca modelele sale de inteligență artificială să fie utilizate pentru supravegherea în masă a cetățenilor americani sau pentru arme complet autonome care execută lovituri fără nicio intervenție umană. În același timp, secretarul Hegseth susține că Departamentul Apărării nu ar trebui să fie limitat de regulile unui furnizor, argumentând că orice „utilizare legală” a tehnologiei ar trebui să fie permisă.

Joi, Amodei a transmis public că Anthropic nu cedează – chiar și în fața amenințărilor că firma ar putea fi desemnată drept risc pentru lanțul de aprovizionare. În ritmul accelerat al ciclului de știri, merită însă reamintit ce este de fapt în joc în această confruntare.

În esență, disputa privește cine controlează sistemele de inteligență artificială foarte puternice: companiile care le dezvoltă sau guvernul care dorește să le folosească în misiuni militare.

Așa cum a fost deja subliniat, Anthropic nu dorește ca modelele sale să fie utilizate pentru supravegherea în masă a americanilor sau pentru arme autonome în care oamenii nu mai au niciun rol în deciziile de țintire și declanșare a focului. În mod tradițional, contractorii din domeniul apărării au un cuvânt redus, aproape inexistent, de spus asupra modului în care produsele lor sunt folosite. Anthropic susține însă, încă de la înființare, că tehnologia AI implică riscuri unice și, prin urmare, are nevoie de garanții speciale. Din perspectiva companiei, miza este cum pot fi păstrate aceste garanții tocmai când tehnologia ajunge să fie utilizată de armată.

Armata SUA se bazează deja pe sisteme extrem de automatizate, unele cu efect letal. Decizia de a folosi forța letală a fost istoric lăsată în seama oamenilor, dar există foarte puține restricții legale privind utilizarea militară a armelor autonome. Departamentul Apărării nu interzice în mod categoric sistemele de arme complet autonome. Potrivit unei directive a DOD din 2023, sistemele de inteligență artificială pot selecta și angaja ținte fără intervenție umană, atâta timp cât îndeplinesc anumite standarde și trec printr-un proces de revizuire realizat de oficiali militari de rang înalt.

Tocmai acest lucru alimentează îngrijorarea celor de la Anthropic. Tehnologia militară este în mod inerent secretă, astfel încât, dacă armata SUA ar face pași către automatizarea deciziilor letale, publicul ar putea afla abia când sistemele ar fi deja operaționale. Iar dacă s-ar folosi modelele Anthropic, asta ar putea fi încadrat tot ca „utilizare legală”.

Poziția Anthropic nu este că astfel de utilizări trebuie excluse pentru totdeauna. Mesajul companiei este că modelele actuale nu sunt încă suficient de capabile pentru a susține astfel de aplicații în siguranță. Se ridică scenariul unui sistem autonom care identifică greșit o țintă, escaladează un conflict fără autorizare umană sau ia o decizie letală de o fracțiune de secundă care nu mai poate fi inversată. Dacă pui o inteligență artificială insuficient de avansată la comanda armelor, vei avea o mașină foarte rapidă și foarte sigură pe ea însăși, dar nepotrivită pentru decizii cu miză extrem de mare.

AI poate de asemenea să amplifice puternic supravegherea „legală” a cetățenilor americani până la un nivel îngrijorător. Legile actuale din SUA permit deja supravegherea comunicărilor – mesaje text, e‑mailuri și alte tipuri de date. Inteligența artificială schimbă însă radical situația, făcând posibile analize automate de tip pattern‑detection la scară mare, corelări de identitate între seturi vaste de date, scoruri predictive de risc și monitorizare comportamentală continuă.

Argumentul Pentagonului este că ar trebui să poată implementa tehnologia Anthropic pentru orice utilizare legală pe care o consideră necesară, fără a fi constrâns de politicile interne ale companiei privind armele autonome sau supravegherea.

Mai concret, secretarul Hegseth susține că Departamentul Apărării nu trebuie „ținut în frâu” de regulile unui furnizor și că instituția va recurge doar la „utilizări legale” ale tehnologiei.

Purtătorul de cuvânt al Pentagonului, Sean Parnell, a declarat într-o postare pe X, joi, că departamentul nu este interesat să desfășoare supraveghere domestică în masă și nici să folosească arme complet autonome.

„Iată ce cerem: permiteți Pentagonului să folosească modelul Anthropic pentru toate scopurile legale”, a spus Parnell. „Aceasta este o solicitare simplă, de bun-simț, care va împiedica Anthropic să pună în pericol operațiunile militare critice și, potențial, să ne expună militarii la riscuri. Nu vom permite NICIUNEI companii să dicteze termenii în privința modului în care luăm decizii operaționale.”

El a adăugat că Anthropic are timp până vineri, ora 5:01 PM ET, pentru a lua o decizie. „În caz contrar, vom încheia parteneriatul cu Anthropic și îi vom considera un risc pentru lanțul de aprovizionare al DOW”, a spus acesta.

În pofida poziției oficiale a Departamentului, conform căreia nu dorește decât să nu fie limitat de politicile unei corporații, îngrijorările lui Hegseth privind Anthropic par uneori legate și de resentimente culturale. Într-un discurs susținut în ianuarie la birourile SpaceX și xAI, Hegseth a denunțat „woke AI”, într-o intervenție pe care mulți au interpretat-o drept o avanpremieră a conflictului actual cu Anthropic.

„Departamentul de Război AI nu va fi woke”, a spus Hegseth. „Construim arme și sisteme pregătite de război, nu chatbots pentru un salon de profesori din Ivy League.”

Pentagonul a amenințat că fie va declara Anthropic un „risc pentru lanțul de aprovizionare” – etichetă ce ar bloca efectiv compania de la orice afaceri cu guvernul – fie va invoca Defense Production Act (DPA) pentru a forța adaptarea modelului la nevoile militare. Hegseth a fixat același termen limită, ora 5:01 PM vineri, pentru răspunsul companiei. Apropierea acestui deadline lasă însă deschisă întrebarea dacă Pentagonul își va duce sau nu amenințările până la capăt.

Nu este o dispută din care vreuna dintre părți poate ieși cu ușurință. Sachin Seth, investitor de capital de risc la Trousdale Ventures, specializat în tehnologie de apărare, afirmă că o etichetare a Anthropic drept risc de lanț de aprovizionare ar putea însemna „stingerea luminii” pentru companie.

Totuși, el subliniază că, dacă Anthropic va fi eliminată din ecosistemul DOD, consecințele pot ține și de securitatea națională.

„[Departamentul] ar trebui să aștepte între șase și 12 luni ca fie OpenAI, fie xAI să ajungă din urmă”, a declarat Seth pentru presă. „Aceasta ar lăsa un interval de până la un an în care s-ar putea lucra nu cu cel mai bun model, ci cu al doilea sau al treilea ca performanță.”

xAI se pregătește să devină aptă pentru lucrul cu informații clasificate și să o înlocuiască pe Anthropic, iar, având în vedere declarațiile publice ale lui Elon Musk pe această temă, este de așteptat ca firma să nu aibă nicio problemă în a oferi Departamentului Apărării control total asupra tehnologiei sale. În plus, relatări recente sugerează că OpenAI ar putea menține aceleași linii roșii ca Anthropic în ceea ce privește utilizările militare ale AI.