Controversa Pentagon–Anthropic zguduie lumea AI: vor mai intra startupurile în jocul contractelor militare?

În doar puțin peste o săptămână, negocierile privind utilizarea de către Pentagon a tehnologiei Claude, dezvoltată de Anthropic, au eșuat, administrația Trump a desemnat Anthropic drept risc pentru lanțul de aprovizionare, iar compania de inteligență artificială a anunțat că va contesta în instanță această decizie.

Între timp, OpenAI a anunțat rapid un acord propriu cu Pentagonul, ceea ce a stârnit un val de critici, mulți utilizatori dezinstalând ChatGPT și propulsând aplicația Claude a celor de la Anthropic pe primele poziții în topurile App Store. Cel puțin un executiv OpenAI a demisionat, invocând îngrijorări că anunțul a fost grăbit și făcut fără mecanisme de siguranță adecvate.

În cel mai recent episod al podcastului „Equity”, realizat de publicația TechCrunch, Kirsten Korosec, Sean O’Kane și Anthony au discutat despre ce înseamnă toate acestea pentru alte startupuri care vor să colaboreze cu guvernul federal, în special cu Pentagonul. Kirsten s-a întrebat: „Are we going to see a changing of the tune a little bit?” și dacă nu cumva multe companii își vor regândi strategia față de contractele publice.

Sean a subliniat că situația este neobișnuită din mai multe puncte de vedere, inclusiv pentru că OpenAI și Anthropic, prin Claude, oferă produse despre care „no one can shut up about”. Esențial însă, disputa privește modul în care tehnologiile lor sunt folosite sau nu sunt folosite „to kill people”, în operațiuni unde deciziile pot duce direct la pierderi de vieți omenești. De aceea, atenția publică și presiunea sunt mult mai mari.

Totuși, Kirsten a susținut că această situație ar trebui „să dea de gândit oricărui startup”. Ea consideră că felul în care Pentagonul încearcă să își ajusteze relațiile contractuale cu furnizorii de AI transmite un semnal de risc pentru companiile tinere care caută finanțare și stabilitate prin contracte cu statul.

Mai jos este un rezumat al discuției lor, editat pentru claritate și concizie.

Kirsten: „Mă întreb dacă alte startupuri încep să se uite la ceea ce s-a întâmplat în relația cu guvernul federal, în mod special cu Pentagonul și Anthropic, la această dezbatere și confruntare, și să se oprească puțin înainte de a urmări bani federali. Oare vom vedea o schimbare de ton?”

Sean: „Și eu mă întreb asta. Pe termen scurt însă, cred că nu, cel puțin parțial pentru că, dacă te uiți la numărul uriaș de companii – fie că vorbim de startupuri sau de corporații listate în Fortune 500 – care lucrează deja cu guvernul, și în special cu Departamentul Apărării sau cu Pentagonul, pentru multe dintre ele munca aceasta trece complet pe sub radar.

General Motors produce vehicule de apărare pentru armată de foarte mult timp, a dezvoltat versiuni complet electrice și variante autonome ale acestor vehicule. Astfel de proiecte se întâmplă constant. Nu ajung însă în atenția publicului larg, nu devin subiecte în prim-plan. Problema în care au intrat OpenAI și Anthropic în ultima săptămână e că sunt companii care fac produse folosite de o mulțime de oameni – și, mai important, produse despre care nimeni nu încetează să vorbească.

Există un reflector uriaș ațintit asupra lor, ceea ce scoate în evidență implicarea lor la un nivel cu care majoritatea celorlalte companii contractate de guvern – mai ales cele care lucrează cu segmentele de luptă ale aparatului federal – nu sunt obișnuite și nu sunt nevoite să îl gestioneze.

Singura nuanță pe care aș mai adăuga-o este că mare parte din tensiunea discuției dintre Anthropic, OpenAI și Pentagon este foarte specifică: se referă la felul în care tehnologiile lor sunt folosite sau nu pentru a ucide oameni, sau în etapele misiunilor unde se produc astfel de rezultate letale. Nu e doar chestiune de atenție mediatică și de familiaritatea publicului cu brandurile lor. Există un element suplimentar, destul de abstract când compari cu rolul General Motors ca simplu contractor de apărare.

Nu cred că vom vedea companii precum Applied Intuition sau alte firme care se descriu drept „dual use” retrăgându-se prea mult. Nu văd același nivel de vizibilitate asupra lor, iar publicul nu are încă o înțelegere comună, atât de clară, a impactului pe care îl pot avea.

Anthony: „Povestea aceasta este într-un fel unică și foarte specifică pentru aceste companii și pentru oamenii implicați. Au existat multe analize și articole interesante pe tema: Care este rolul tehnologiei în guvern? Ce rol are AI în guvern? Sunt întrebări corecte și necesare, care merită explorate.

Totuși, cred că privim toate aceste lucruri printr-o lentilă foarte ciudată, pentru că Anthropic și OpenAI nu sunt atât de diferite în multe privințe, nici în pozițiile pe care le afișează. Nu avem o companie care să spună „Nu vreau să lucrez cu guvernul” și cealaltă să afirme „Da, eu chiar vreau”. Sau una să declare „Puteți face orice doriți cu tehnologia noastră” iar cealaltă „Nu, impunem restricții stricte”. Ambele, cel puțin la nivel declarativ, susțin: „Vrem restricții asupra modului în care este utilizată inteligența noastră artificială.” Diferența pare să fie că Anthropic este mult mai fermă și spune: Nu puteți schimba termenii în felul acesta.

Pe deasupra, există și o latură de tip „război al personalităților”: între CEO-ul Anthropic și Emil Michael – cunoscut publicului din perioada lui la Uber, acum [chief technology officer for the Department of Defense] – se pare că există o antipatie puternică. Cel puțin asta se relatează.”

Sean: „Da, există un element masiv de tip „girls are fighting” aici, pe care nu ar trebui să-l ignorăm.”

Kirsten: „Da, într-o anumită măsură. Există, însă implicațiile sunt mai serioase decât atât. Dacă privim puțin de sus, vedem un conflict direct între Pentagon și Anthropic, conflict din care Anthropic pare să fi ieșit în pierdere, chiar dacă tehnologia sa este în continuare folosită de armată. Este considerată crucială. Totuși, OpenAI a intrat în scenă, situația e în plină evoluție și probabil se va mai schimba până când acest episod va apărea.

Reacția publică la adresa OpenAI a fost deosebit de interesantă: numărul dezinstalărilor ChatGPT a crescut cu aproximativ 295% după ce OpenAI a încheiat acordul cu Departamentul Apărării.

Din punctul meu de vedere, toate aceste reacții și valuri de opinie sunt zgomot în raport cu problema cu adevărat critică și periculoasă: Pentagonul a încercat să modifice termeni existenți ai unui contract deja în vigoare. Asta este deosebit de important și ar trebui să pună pe gânduri orice startup, pentru că mecanismul politic care acționează acum, în special în cadrul Departamentului Apărării, pare să se fi schimbat. Nu mai e ceva normal. Contractele cu guvernul se definitivează, de obicei, extrem de greu. Faptul că se caută schimbarea unora dintre acești termeni, după ce au fost agreați, reprezintă o problema serioasă.