OpenAI își apără acordul grăbit cu Pentagonul: acuzații de risc de supraveghere internă și arme autonome

Directorul executiv Sam Altman a recunoscut chiar el că acordul OpenAI cu Departamentul Apărării a fost „cu siguranță grăbit” și că „optica nu arată bine”.

După ce negocierile dintre Anthropic și Pentagon au eșuat vineri, președintele Donald Trump a dispus ca agențiile federale să înceteze utilizarea tehnologiei Anthropic după o perioadă de tranziție de șase luni, iar secretarul Apărării Pete Hegseth a anunțat că desemnează compania de inteligență artificială drept un risc pentru lanțul de aprovizionare.

Imediat după aceea, OpenAI a anunțat rapid că a ajuns la propriul acord pentru ca modelele sale să fie implementate în medii clasificate. În timp ce Anthropic declara că trasează linii roșii ferme privind utilizarea tehnologiei sale în arme complet autonome sau în supraveghere internă în masă, iar Altman spunea că OpenAI are aceleași linii roșii, au apărut întrebări evidente. Este OpenAI sinceră în privința măsurilor sale de siguranță? De ce a reușit să încheie un acord în timp ce Anthropic nu a putut?

Pe măsură ce directorii OpenAI apărau înțelegerea pe rețelele sociale, compania a publicat și o postare pe blog în care și-a prezentat abordarea.

Postarea indica de fapt trei domenii în care, spune OpenAI, modelele sale nu pot fi utilizate: supraveghere internă în masă, sisteme de arme autonome și „decizii automatizate cu miză ridicată (de exemplu sisteme de tip ‘credit social’)”.

Compania a susținut că, spre deosebire de alte companii de AI care „și-au redus sau eliminat baremele de siguranță și s-au bazat în principal pe politici de utilizare ca principale măsuri de protecție în implementările legate de securitatea națională”, acordul OpenAI își protejează liniile roșii „printr-o abordare mai extinsă și cu mai multe straturi”.

„Păstrăm libertate totală de decizie asupra ‘safety stack’-ului nostru, implementăm prin cloud, personalul OpenAI cu autorizație de acces este implicat direct, iar noi avem protecții contractuale puternice”, se arată în textul de pe blog. „Toate acestea se adaugă peste protecțiile solide deja existente în legislația SUA.”

Compania a mai precizat: „Nu știm de ce Anthropic nu a putut ajunge la acest acord și sperăm ca ei și mai multe laboratoare să îl ia în considerare.”

După publicarea postării, Mike Masnick de la Techdirt a susținut că acordul „permite într-adevăr supravegherea internă”, deoarece stipulează că colectarea datelor private va respecta Ordinul Executiv 12333 (alături de o serie de alte legi). Masnick a descris acel ordin ca fiind modul „în care NSA își ascunde supravegherea internă, capturând comunicații prin interceptarea liniilor din afara SUA, chiar dacă acestea conțin informații despre persoane din SUA”.

Într-o postare pe LinkedIn, Katrina Mulligan, responsabilă pentru parteneriatele de securitate națională ale OpenAI, a argumentat că mare parte din discuția despre limbajul contractual pornește de la premisa greșită că „singurul lucru care stă între americani și utilizarea AI pentru supraveghere internă în masă și arme autonome este o singură prevedere de utilizare dintr-un singur contract cu Department of War”.

„Nu așa funcționează lucrurile”, a spus Mulligan, adăugând: „Arhitectura de implementare contează mai mult decât limbajul contractual […] Limitând implementarea la un API în cloud, putem asigura că modelele noastre nu pot fi integrate direct în sisteme de arme, senzori sau alt hardware operațional.”

Altman a răspuns, de asemenea, întrebărilor despre acord pe platforma X, unde a admis că procesul a fost grăbit și că a generat un val semnificativ de reacții negative la adresa OpenAI (până în punctul în care Claude al celor de la Anthropic a depășit ChatGPT al OpenAI în App Store-ul Apple sâmbătă). De ce a mers totuși mai departe cu înțelegerea?

„Am vrut cu adevărat să detensionăm lucrurile și am considerat că acordul propus era bun”, a spus Altman. „Dacă avem dreptate și acest lucru chiar va duce la o de-escaladare între DoW și industrie, ni se va părea că am fost geniali și o companie care și-a asumat multe costuri pentru a ajuta industria. Daca nu, vom continua să fim caracterizați ca […] grăbiți și neglijenți.”