Demisii la Google pe fondul controverselor privind contractele militare pentru AI

Google se confruntă cu nemulțumirea unor angajați după ce compania a început să-și folosească tehnologia de inteligență artificială în scopuri militare.

Mai mulți angajați din domeniul tehnologiei au demisionat recent sau sunt pe cale să plece de la Google DeepMind, compania de inteligență artificială a Google, invocând îngrijorări legate de contractele militare ale firmei.

Sofia Liguori, inginer de cercetare stabilită la Londra, este una dintre ei. Ea a demisionat de la Google DeepMind în această săptămână și și-a exprimat public îngrijorările, deși contractul său îi interzice acest lucru.

„Să-mi dau seama că firma mea promovează tot mai mult utilizarea sistemelor de inteligență artificială în operațiuni militare mă face să-mi fie rușine că lucrez la Google”, a declarat Liguori, precizând că vorbește în nume personal.

Un purtător de cuvânt al Google a răspuns: „Colaborăm cu organizații din sectorul public din întreaga lume și urmăm un proces consecvent pentru evaluarea și încheierea acestor contracte, inclusiv respectarea politicilor noastre de utilizare acceptabilă și a principiilor privind inteligența artificială”.

„Avem, de asemenea, canale dedicate prin care angajații pot semnala în siguranță orice îngrijorare — de la etica în afaceri până la abateri — și politici stricte la locul de muncă pentru a preveni orice formă de represalii.”

Google este una dintre companiile de tehnologie care au semnat contracte cu armata SUA la începutul acestui an, pentru implementarea inteligenței artificiale în medii militare clasificate. Secretarul american al Apărării, Pete Hegseth, a făcut din integrarea inteligenței artificiale în forțele armate o prioritate-cheie, afirmând că administrația Trump va transforma armata într-o „forță de luptă bazată pe inteligența artificială”.

Tehnologia evoluează rapid, însă criticii se întreabă dacă este suficient de fiabilă pentru a fi utilizată în război fără testări suplimentare, garanții mai ferme și supraveghere umană.

După ce a lucrat trei ani la companie, Liguori a spus că a decis să demisioneze din cauza extinderii activității Google în colaborare cu armatele Statelor Unite și Israelului. „Nu sunt de acord cu această direcție, iar asta m-a făcut să-mi pierd încrederea că firma mea respectă valorile etice pe care le declară”, a spus ea.

Potrivit principiilor Google privind inteligența artificială, compania urmărește să implementeze tehnologia cu „supraveghere umană” și să o alinieze la „dreptul internațional și drepturile omului”. Totuși, angajați actuali și foști ai companiei, precum și experți consultați, și-au exprimat îngrijorarea cu privire la nivelul de supraveghere umană în momentele critice.

Angajații din domeniul tehnologiei au spus că sunt îngrijorați în special de acordurile militare privind inteligența artificială semnate anul acesta, deoarece acestea extind considerabil aria în care Pentagonul poate utiliza tehnologia.

Andreas Kirsch, cercetător în domeniul inteligenței artificiale, a demisionat și el de la Google DeepMind la începutul acestei luni, din cauza îngrijorărilor sale.

Kirsch a declarat că, în opinia sa, „guvernanța și supravegherea Google nu sunt suficient de adecvate sau relevante pentru a permite utilizarea sigură și responsabilă a inteligenței artificiale în contexte militare și clasificate” și nici „pentru a dezvolta în siguranță superinteligența artificială în viitor”.

„Google pare să nu aibă dreptul de a controla sau de a respinge modul în care Pentagonul își folosește inteligența artificială și pare să aibă o vizibilitate limitată asupra felului în care aceasta este implementată”, a adăugat el.

În ultimii ani, armata SUA a implementat mai multe tehnologii bazate pe inteligență artificială pentru a-și dezvolta capacitățile de luptă.

Cel mai cunoscut exemplu este Maven Smart Systems, principala platformă software a Pentagonului pentru organizarea informațiilor și a datelor.

Dezvoltată de compania americană de apărare Palantir, platforma folosește inteligența artificială pentru a ajuta personalul să selecteze și să identifice ținte asupra cărora să se lanseze atacuri. Palantir a integrat în Maven tehnologia mai multor companii de top din domeniul inteligenței artificiale, iar unele procese au fost astfel accelerate semnificativ.

Generalul-locotenent în retragere Jack Shanahan, fost director al Proiectului Maven, a spus că „filosofia” pare să fie: „Să implementăm [tehnologia inteligenței artificiale] cât mai repede și cât mai pe scară largă, posibil în detrimentul rigurozității și disciplinei testării și evaluării”.

Cu toate acestea, Pentagonul susține că adoptarea tehnologiilor de inteligență artificială este esențială pentru câștigarea războaielor. „Viteza definește victoria în era inteligenței artificiale”, a declarat la începutul acestui an Emil Michael, subsecretar în cadrul Departamentului Apărării al SUA.

Contractul Google cu Pentagonul, semnat la începutul acestui an, permite folosirea tehnologiei companiei în activități militare clasificate. Acordul precizează că modelele de inteligență artificială ale Google pot fi utilizate pentru „orice scop guvernamental legal” și „nu ar trebui folosite pentru supraveghere în masă pe teritoriul național sau pentru arme autonome (inclusiv selectarea țintelor) fără supraveghere și control uman adecvat”.

Acorduri similare au fost semnate de OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și startupul Reflection. Acestea permit utilizarea tehnologiei de inteligență artificială într-o varietate de contexte militare, precum transportul, planificarea și operațiunile de pe câmpul de luptă.

Pe măsură ce tehnologia avansează rapid, cresc și îngrijorările privind folosirea inteligenței artificiale în teatrele de război.

„Inteligența artificială comprimă timpul de care dispune un operator pentru a lua o decizie, deoarece funcționează mult mai repede decât o persoană, iar acest lucru este deosebit de riscant într-un mediu cu stres ridicat”, a spus Sarah Shoker, fostă șefă a echipei de geopolitică a OpenAI.

„Când ai sute de ținte selectate de inteligența artificială și foarte puțin timp la dispoziție, este aproape imposibil ca un operator uman să verifice în mod real rezultatele sistemului pentru a depista erori.”

Angajați ai Google au spus că personalul se teme să vorbească despre siguranța inteligenței artificiale și folosirea acesteia în război, deoarece contractele de muncă le interzic să critice public compania.

„În principiu, nu am voie să critic Google pentru tot restul vieții mele”, a spus Sofia Liguori. Ea a decis totuși să vorbească „pentru că cred că este important ca aceste lucruri să fie cunoscute și cred, de asemenea, că a vorbi despre fapte nu înseamnă a critica”.

Liguori a adăugat că, la Google, „oamenilor le este frică de represalii și de riscul de a-și pune cariera în pericol. Simți că ești supravegheat, nu poți vorbi”.

Un angajat actual al Google DeepMind, care a cerut să rămână anonim de teamă să nu fie vizat de represalii, a spus că „mulți angajați motivați, care s-au alăturat companiei pentru misiunea sa inițială, ar putea pleca — dar există și un flux de oameni aflați la începutul carierei, care le-ar putea lua locul. Ar putea fi o schimbare de generație”.

Un alt angajat Google DeepMind, care a dorit, de asemenea, să-și păstreze anonimatul, a declarat: „Mulți oameni au părăsit compania pentru că sunt profund nemulțumiți de felul în care Google DeepMind și-a schimbat poziția etică”.

„Unii încearcă să lupte, alții se gândesc: «Este o companie mare. La ce vă așteptați să se schimbe?»”, a spus angajatul.

Acordurile Google cu Israelul au provocat, de asemenea, controverse. În 2024, compania a fost criticată de angajați pentru un contract comun cu Amazon, în valoare de 1,2 miliarde de dolari (960 de milioane de lire sterline), numit Project Nimbus. Acesta oferă guvernului și armatei Israelului tehnologie de inteligență artificială și infrastructură de cloud computing. La acel moment, Google a spus că Project Nimbus „nu este destinat unor activități extrem de sensibile, clasificate sau militare, legate de arme ori servicii de informații”.

În plus, capacitățile Israelului de a folosi inteligența artificială în război au fost dezbătute după ce au apărut într-un documentar recent, Naza, care analizează rolul sistemelor de țintire bazate pe inteligență artificială în bombardarea Fâșiei Gaza, soldată cu un număr mare de victime civile. Un ministru israelian a afirmat că acuzațiile prezentate în film sunt false și denaturate.

Fostul angajat Google Andreas Kirsch consideră că tehnologia inteligenței artificiale nu este pregătită pentru câmpul de luptă. „Modelele actuale de inteligență artificială nu sunt suficient de robuste și nici nu cred că au fost antrenate pentru astfel de sarcini”, a spus el.