Un raport generat cu ajutorul Inteligenței Artificiale era să declanșeze un conflict între SUA și China. Operațiunea a fost oprită în ultima clipă

Un raport de informații generat cu ajutorul Inteligenței Artificiale era să declanșeze un conflict militar între Statele Unite și China.

Documentul a determinat armata americană să pregătească interceptarea unei nave chineze despre care se credea că transportă componente destinate unui program de arme nucleare. Patru surse familiarizate cu episodul au declarat că incidentul dintre cele două puteri era pe punctul de a se transforma într-o confruntare militară. Două dintre surse au afirmat că avioane militare americane se aflau deja în aer.

Cu puțin timp înainte de începerea operațiunii, oficialii americani au verificat mai atent raportul întocmit de un analist al comandamentului pentru operațiuni speciale. Atunci au descoperit că documentul fusese generat cu ajutorul Inteligenței Artificiale. Se pare că un chatbot utilizat de analist identificase în mod greșit materialul transportat de navă. Nu este clar ce încărcătură fusese indicată eronat.

Potrivit uneia dintre surse, raportul era „complet fals”. Aceeași sursă a avertizat însă că documentul „aproape a declanșat un război”. Orice operațiune americană împotriva unei nave chineze ar fi putut escalada rapid și s-ar fi putut transforma într-un conflict armat între cele două țări.

În cadrul armatei americane, oficialii încearcă să introducă Inteligența Artificială în aproape toate domeniile de activitate. Tehnologia este folosită sau testată pentru analizarea volumelor uriașe de informații brute colectate de Statele Unite, pentru selectarea unor ținte militare și pentru sprijinirea operațiunilor de atac.

În același timp, AI este luată în calcul și pentru sarcini mai puțin spectaculoase, precum administrarea bugetelor, gestionarea logisticii și coordonarea lanțurilor de aprovizionare. Incidentul navei chineze scoate însă în evidență riscurile majore ale unei tehnologii noi și încă insuficient înțelese.

Analiștii avertizează de multă vreme că folosirea unor date slabe, incomplete sau corupte de către sistemele de Inteligență Artificială ar putea conduce la erori de calcul cu urmări catastrofale. Un astfel de calcul greșit ar putea determina Statele Unite să deschidă focul asupra unei nave chineze, în baza unor informații inexacte generate sau interpretate de un sistem automat.

În acest caz, analistul a interogat un chatbot cu privire la mai multe rapoarte de informații referitoare la manifestul navei. Documentele proveneau de la Comandamentul Operațiunilor Speciale din Pacific al Statelor Unite, cu sediul în Hawaii. Nu este clar dacă chatbotul utilizat era un serviciu disponibil comercial sau un produs dezvoltat de guvernul american.

„Instrumentele interne sunt în mare parte doar copii ale materialelor comerciale”, a declarat un fost oficial american de rang înalt, familiarizat cu sistemele de Inteligență Artificială utilizate de analiștii militari și de informații.

Chatbotul a combinat informații disponibile public cu date secrete despre semnale aflate în posesia guvernului american. Pe baza acestora, sistemul a ajuns la o concluzie greșită cu privire la materialul transportat de navă.

Ulterior, analistul a folosit din nou Inteligența Artificială pentru a transforma concluziile într-un raport standard de informații. Acest tip de document este folosit și consultat în mod obișnuit de oficialii militari. Raportul a fost apoi distribuit, fără ca eroarea să fie identificată imediat.

Comandamentul Operațiunilor Speciale ale Statelor Unite din Pacific și Pentagonul nu au oferit un răspuns cu privire la acest episod.

Inteligența Artificială a fost adoptată într-un ritm accelerat deoarece poate ajuta armata să ia mai repede decizii pe câmpul de luptă. Printre acestea se numără alegerea țintelor, stabilirea momentului unor atacuri și mutarea unor efective sau echipamente militare în anumite zone.

Oficialii americani susțin că Statele Unite nu își pot permite să rămână în urma altor puteri în ceea ce privește integrarea AI. Ei se tem că, într-un eventual conflict cu China sau cu un alt adversar, o țară care ar utiliza mai eficient aceste tehnologii ar putea obține un avantaj decisiv.

În ianuarie, secretarul Apărării, Pete Hegseth, a lansat „Strategia de accelerare a Inteligenței Artificiale” a instituției pe care o conduce. Documentul are ca obiectiv extinderea și grăbirea utilizării AI în cadrul armatei americane.

„Vom declanșa experimente, vom elimina barierele birocratice, ne vom concentra investițiile și vom demonstra abordarea de execuție necesară pentru a ne asigura că suntem lideri în domeniul AI militară”, a declarat Hegseth într-un discurs în care a anunțat strategia.

Strategia susține, de asemenea, folosirea pe scară largă a Inteligenței Artificiale în cadrul armatei. Departamentul Apărării a primit ordin să pună tehnologia la dispoziția mai multor programe, cu scopul de a „democratiza experimentarea și transformarea Inteligenței Artificiale în cadrul departamentului, prin punerea modelelor de AI de top din America direct în mâinile celor trei milioane de angajați civili și militari ai noștri, la toate nivelurile de clasificare”, se arată în comunicatul de prezentare a strategiei.

Efortul nu este însă coordonat printr-un singur sistem. Mai mulți oficiali americani au explicat că diferite structuri ale guvernului utilizează instrumente distincte, în baza unor ordine și standarde de siguranță diferite. Nu există un set unic de reguli pentru verificarea informațiilor generate de aceste sisteme.

Unele dintre avertismentele referitoare la pericolele AI sunt extrem de severe. De exemplu, Jacob Coxon, cercetător în domeniul Inteligenței Artificiale, care a lucrat la Anthropic și anterior la OpenAI, a declarat cu câteva saptamani în urmă că AI ne-ar putea ucide pe toți până la sfârșitul deceniului.

Timp de săptămâni, factorii de decizie de la Washington au dezbătut intens viitorul acestei tehnologii. Discuțiile au fost alimentate de avertismentele unor ingineri și directori din industria tehnologică, potrivit cărora AI s-ar putea elibera de constrângerile umane și ar putea produce consecințe capabile să pună capăt civilizației.

Incidentul legat de nava chineză evidențiază însă un pericol diferit și mai imediat. Oamenii pot lua decizii dezastruoase atunci când se bazează pe informații inexacte, incomplete sau înșelătoare generate de Inteligența Artificială ori de alte sisteme automatizate.