Palantir pasează armatei responsabilitatea pentru utilizarea în război a inteligenței artificiale Maven

Gigantul tehnologic Palantir respinge îngrijorările legate de riscurile imprevizibile pe care le-ar putea genera utilizarea militară a platformelor sale de inteligență artificială, insistând, într-un interviu exclusiv, că modul în care tehnologia este folosită rămâne responsabilitatea clienților săi militari.

Declarațiile vin în contextul în care experți și analiști și-au exprimat tot mai des preocuparea față de folosirea platformei de apărare bazate pe inteligență artificială a Palantir – Maven Smart System – în timpul războiului și față de relatările privind utilizarea sa în atacurile SUA asupra Iranului.

Specialiștii avertizează că modul în care armata folosește această platformă, care ajută la planificarea atacurilor, lasă puțin timp pentru o „verificare semnificativă” a rezultatelor sistemului și poate duce la lovirea unor ținte incorecte.

Șeful Palantir pentru Marea Britanie și Europa, Louis Mosley, a subliniat într-un interviu amplu că, deși platforme de tip Maven au fost „instrumentale” în gestionarea de către SUA a războiului din Iran, responsabilitatea pentru modul în care este folosit rezultatul lor trebuie să rămână mereu „la organizația militară”.

„There's always a human in the loop, so there is always a human that makes the ultimate decision. That's the current set-up.”

Maven Smart System a fost lansat de Pentagon în 2017, fiind conceput pentru a accelera luarea deciziilor de țintire militară prin integrarea unor volume uriașe de date: informații de intelligence, imagini din satelit, imagini de la drone și alte surse.

Sistemul analizează aceste date, apoi poate furniza recomandări pentru selectarea țintelor. De asemenea, poate sugera nivelul de forță ce urmează a fi folosit, în funcție de disponibilitatea personalului și a mijloacelor militare, cum ar fi aeronavele.

În ultimii ani a crescut însă nivelul de scrutinizare a acestor instrumente folosite în conflicte armate. În februarie, Pentagonul a anunțat că va renunța treptat la sistemul Claude AI al companiei Anthropic – componentă care contribuia la funcționarea Maven – după ce firma a refuzat să permită utilizarea inteligenței sale artificiale în arme autonome și activități de supraveghere. Palantir susține că există alternative capabile să îi ia locul.

De la începutul războiului cu Iranul, în februarie, SUA ar fi folosit în mod repetat Maven pentru planificarea loviturilor pe întreg teritoriul iranian.

Întrebat insistent despre riscul ca Maven să sugereze ținte greșite – inclusiv civili – Mosley a insistat că platforma are rolul de a ghida și accelera procesul decizional al personalului militar, și nu trebuie privită drept un sistem de țintire complet automatizat.

„You could think of it as a support tool,” a spus Mosley. „It's allowing them to synthesise vast amounts of information that previously they would have had to do manually one by one.”

Totuși, atunci când a fost confruntat cu scenariul în care comandanți presați de timp le-ar ordona subordonaților să trateze recomandările Maven ca fiind deja validate, Mosley a pasat responsabilitatea către armată.

„That's really a question for our military customers. They're the ones that decide the policy framework that determines who gets to make what decision,” a afirmat el. „That's not our role.”

Din 28 februarie, SUA au lansat peste 11.000 de lovituri asupra Iranului, multe dintre ținte fiind, potrivit relatărilor, identificate cu ajutorul Maven.

Adm Brad Cooper, șeful forțelor militare americane din Orientul Mijlociu, a lăudat sistemele de inteligență artificială pentru că ajută ofițerii „să filtreze cantități uriașe de date în câteva secunde, astfel încât liderii noștri să poată tăia prin zgomot și să ia decizii mai inteligente mai rapid decât poate reacționa inamicul”.

Există însă îngrijorări serioase că implicarea AI în planificarea misiunilor crește riscurile.

„This prioritisation of speed and scale and the use of force then leaves very little time for meaningful verification of targets to make sure that they don't include civilian targets accidentally,” a declarat Prof Elke Schwarz, de la Queen Mary University of London.

„If there's a risk of killing and you co-opt a lot of your critical thinking to software that will take care of these things for you, then you just become reliant on the software,” a adăugat ea. „It's a race to the bottom.”

În ultimele săptămâni, oficiali ai Pentagonului au fost întrebați dacă instrumente de tip Maven au fost folosite la identificarea țintelor pentru lovitura mortală asupra unei școli din orașul iranian Minab. Autoritățile iraniene afirmă că atacul a ucis 168 de persoane, inclusiv aproximativ 110 copii, chiar în prima zi a războiului.

În Congres, mai mulți democrați de rang înalt cer o supraveghere sporită a platformelor de AI precum Maven. Reprezentanta Sara Jacobs, membră a Comisiei pentru Forțele Armate din Camera Reprezentanților, a cerut reguli și reglementări clare, aplicate strict, privind modul și momentul în care pot fi folosite astfel de sisteme.

„AI tools aren't 100% reliable — they can fail in subtle ways and yet operators continue to over-trust them,” a declarat ea luna trecută.

„We have a responsibility to enforce strict guardrails on the military's use of AI and guarantee a human is in the loop in every decision to use lethal force, because the cost of getting it wrong could be devastating for civilians and the service members carrying out these missions.”

Mosley respinge însă ideea că viteza platformei sale ar grăbi în mod periculos procesul decizional la Pentagon și ar genera situații riscante. În viziunea sa, ritmul mai alert în care comandantii iau acum decizii este „o consecință a eficienței crescute” pe care Maven a făcut-o posibilă.

Invocând „securitatea operațională”, Pentagonul a refuzat să comenteze modul în care vor fi folosite pe viitor sistemele de inteligență artificială precum Maven sau cine va fi tras la răspundere în cazul în care ceva va merge prost.

În ciuda criticilor, oficialii americani par să avanseze cu planurile de integrare și mai profundă a Maven în infrastructura militară.

Săptămâna trecută, a fost dezvăluit că Pentagonul a desemnat Maven drept „program oficial de referință”, ceea ce îl transformă într-o tehnologie destinată integrării pe termen lung în toate ramurile armatei SUA.

Într-o scrisoare internă, adjunctul secretarului Apărării, Steve Feinberg, a afirmat că platforma va pune la dispoziția comandanților „ultimele instrumente necesare pentru a detecta, descuraja și domina adversarii noștri în toate domeniile”.