Warren cere explicații Pentagonului pentru accesul acordat inteligenței artificiale Grok la rețele militare clasificate

Senatoarea Elizabeth Warren (D-MA) a trimis luni o scrisoare secretarului Apărării, Pete Hegseth, în care își exprimă îngrijorarea față de decizia Pentagonului de a oferi companiei lui Elon Musk, xAI, acces la rețele clasificate.

„Grok, modelul controversat de inteligență artificială dezvoltat de xAI, a furnizat utilizatorilor rezultate tulburătoare, inclusiv oferind ‘sfaturi despre cum să comiți asasinate și atacuri teroriste’, generând conținut antisemit și creând material de abuz sexual asupra copiilor”, se arată în scrisoare.

Warren a subliniat că lipsa aparentă a unor „mecanisme de protecție adecvate” în cazul Grok ar putea reprezenta riscuri serioase pentru siguranța personalului militar american și pentru securitatea cibernetică a sistemelor clasificate. Ea i-a cerut lui Hegseth să explice cum intenționează Departamentul Apărării să „atenueze aceste potențiale riscuri la adresa securității naționale”.

Warren nu este prima care își exprimă alarma în legătură cu accesul chatbotului Grok, dezvoltat de xAI, la sisteme clasificate. Luna trecută, o coaliție de organizații nonprofit a cerut guvernului să suspende imediat implementarea Grok în agențiile federale, inclusiv în cadrul Departamentului Apărării, după ce utilizatori ai platformei X au reușit în mod repetat să determine chatbotul să transforme fotografii reale ale unor femei – și, în unele cazuri, ale unor copii – în imagini sexualizate, fără consimțământul acestora. În aceeași zi în care Warren a trimis scrisoarea, a fost depusă și o acțiune colectivă în instanță împotriva xAI, în care se susține că Grok a generat conținut sexual pornind de la imagini reale ale reclamanților din perioada când erau minori.

Scrisoarea vine pe fundalul deciziei Pentagonului de a eticheta compania Anthropic drept risc pentru lanțul de aprovizionare, după ce firma de AI a refuzat să ofere armatei acces nelimitat la sistemele sale. Până de curând, Anthropic era singura companie de inteligență artificială cu sisteme pregătite să opereze în medii clasificate. In mijlocul acestui conflict, Departamentul Apărării a semnat un acord atât cu OpenAI, cât și cu xAI, pentru utilizarea sistemelor lor de inteligență artificială în rețele clasificate.

Un înalt oficial al Pentagonului a confirmat că Grok a fost integrat pentru a fi folosit într-un mediu clasificat, însă deocamdată nu este utilizat efectiv.

„Nu este clar ce garanții sau documentație a furnizat xAI Departamentului Apărării cu privire la măsurile de securitate ale lui Grok, la practicile de gestionare a datelor sau la mecanismele de siguranță și dacă DoD a evaluat aceste garanții înainte de a permite, din câte se pare, accesul lui Grok la un sistem clasificat”, notează Warren.

Senatoarea a solicitat o copie a acordului încheiat între Departamentul Apărării și xAI privind utilizarea Grok în sistemele clasificate, precum și o explicație detaliată a modului în care departamentul intenționează să se asigure că Grok nu va fi expus la atacuri cibernetice și că „nu va divulga informații militare sensibile sau clasificate”.

În paralel, săptămâna trecută, un fost angajat al așa-numitului Department of Government Efficiency al lui Musk ar fi furat date personale ale cetățenilor americani din cadrul Administrației pentru Securitate Socială și le-ar fi stocat pe un stick USB, acesta fiind cel mai recent episod de presupuse scurgeri de date legate de DOGE.

Purtătorul de cuvânt principal al Pentagonului, Sean Parnell, a declarat că departamentul „așteaptă cu nerăbdare să implementeze Grok pe platforma sa oficială de inteligență artificială, GenAI.mil, în viitorul foarte apropiat”.

GenAI.mil este platforma enterprise securizată de inteligență artificială generativă a armatei, care oferă angajaților Departamentului Apărării acces la modele mari de limbaj și la alte instrumente de AI în cadrul unor medii de tip cloud aprobate de guvern. Platforma este concepută în principal pentru sarcini neclasificate, cum ar fi cercetarea, redactarea de documente și analiza de date.