Șefa echipei de robotică de la OpenAI demisionează după acordul cu Pentagonul

Directorul de hardware Caitlin Kalinowski a anunțat astăzi că, în urma acordului controversat încheiat de OpenAI cu Departamentul Apărării al SUA, a demisionat din funcția sa de lider al echipei de robotică a companiei.

„This wasn’t an easy call”, a declarat Kalinowski într-o postare pe rețelele de socializare. „AI has an important role in national security. But surveillance of Americans without judicial oversight and lethal autonomy without human authorization are lines that deserved more deliberation than they got.” Ea a subliniat astfel că, deși inteligența artificială poate juca un rol crucial în securitatea națională, anumite limite nu au fost suficient discutate.

Kalinowski, care a condus anterior echipa ce dezvolta ochelari de realitate augmentată la Meta, s-a alăturat OpenAI în noiembrie 2024. În anunțul făcut astăzi, ea a insistat că decizia este „despre principii, nu despre oameni” și a spus că are un „respect profund” pentru CEO-ul Sam Altman și pentru întreaga echipă OpenAI.

Într-o postare ulterioară pe X, Kalinowski a adăugat: „To be clear, my issue is that the announcement was rushed without the guardrails defined. It’s a governance concern first and foremost. These are too important for deals or announcements to be rushed.” Ea a explicat astfel că principala problemă ține de guvernanță și de faptul că anunțul ar fi fost făcut prea repede, înainte de a fi stabilite clar limitele și mecanismele de protecție.

Un purtător de cuvânt al OpenAI a confirmat plecarea lui Kalinowski. Compania a transmis, într-o declarație oficială, că „acordul nostru cu Pentagonul creează o cale funcțională pentru utilizări responsabile ale inteligenței artificiale în domeniul securității naționale, definind în același timp linii roșii clare: fără supraveghere pe plan intern și fără arme autonome”. Reprezentanții OpenAI au mai afirmat că înțeleg faptul că „oamenii au opinii puternice” în privința acestor subiecte și au promis că vor continua dialogul cu angajații, guvernele, societatea civilă și comunitățile din întreaga lume.

Acordul OpenAI cu Pentagonul a fost anunțat la puțin peste o săptămână după ce discuțiile dintre Departamentul Apărării și Anthropic au eșuat. Anthropic încercase să negocieze garanții clare pentru ca tehnologia sa să nu fie folosită nici în supravegherea în masă a populației, nici în arme complet autonome. Ulterior, Pentagonul a desemnat Anthropic drept risc pentru lanțul de aprovizionare, compania anunțând că va contesta această decizie în instanță.

În acest context, Microsoft, Google și Amazon au precizat că vor continua să ofere acces la Claude pentru clienții non-militari. Imediat după aceea, OpenAI a anunțat rapid propriul acord, care permite utilizarea tehnologiilor sale în medii clasificate. În încercarea de a explica public înțelegerea, conducerea OpenAI a descris modelul ca fiind „o abordare mai amplă, pe mai multe straturi”, bazată nu doar pe clauze contractuale, ci și pe protecții tehnice, pentru a apăra linii roșii similare celor susținute de Anthropic.

Cu toate acestea, controversa pare să fi afectat imaginea OpenAI în rândul unei părți a utilizatorilor. Numărul de dezinstalări ale aplicației ChatGPT a crescut cu 295%, în timp ce Claude a urcat pe primul loc în topul aplicațiilor din App Store. Sâmbătă după-amiază, Claude și ChatGPT ocupau în continuare pozițiile unu și doi în topul aplicațiilor gratuite din App Store în Statele Unite.