Procesul intentat de Elon Musk scoate la iveală tensiunile dintre profit și siguranță în interiorul OpenAI

Efortul juridic al lui Elon Musk de a desființa OpenAI ar putea depinde de modul în care subsidiara sa cu scop lucrativ susține sau, dimpotrivă, subminează misiunea inițială a laboratorului, aceea de a se asigura că întreaga umanitate beneficiază de inteligența artificială generală.

Joi, o instanță federală din Oakland, California, a audiat declarațiile unei foste angajate și membre a consiliului de administrație, care a afirmat că eforturile companiei de a împinge rapid produsele de inteligență artificială pe piață au compromis angajamentul ei față de siguranța în domeniul AI.

Rosie Campbell s-a alăturat în 2021 echipei de „AGI readiness” a companiei, iar în 2024 a părăsit OpenAI după ce această echipă a fost desființată. În aceeași perioadă a fost închisă și o altă echipă axată pe siguranță, Super Alignment, ceea ce a alimentat îngrijorările interne legate de prioritizarea profitului în detrimentul cercetării prudente.

„When I joined, it was very research-focused and common for people to talk about AGI and safety issues,” a declarat ea. „Over time it became more like a product-focused organization.”

Sub interogatoriul avocaților părții adverse, Campbell a recunoscut că este probabil ca un volum semnificativ de finanțare să fie necesar pentru atingerea obiectivului laboratorului de a construi AGI. Totuși, ea a subliniat că elaborarea unui model de calculator superinteligent, fără măsuri de siguranță adecvate, nu ar corespunde misiunii organizației în forma în care aceasta exista atunci când s-a angajat acolo.

Campbell a făcut referire la un incident în care Microsoft a implementat în India, prin motorul său de căutare Bing, o versiune a modelului GPT-4 al companiei înainte ca aceasta să fie evaluată de Deployment Safety Board (DSB). Modelul în sine nu reprezenta un risc uriaș, a spus ea, însă compania trebuia „to set strong precedents as the technology gets more powerful. We want to have good safety processes in place we know are being followed reliably.”

Avocații OpenAI au obținut și recunoașterea, din partea lui Campbell, că, în „speculative opinion”, abordarea OpenAI privind siguranța este superioară celei de la xAI, compania de inteligență artificială fondată de Musk și achiziționată ulterior de SpaceX.

OpenAI publică evaluări ale modelelor sale și pune la dispoziție un cadru de siguranță, însă compania a refuzat să comenteze în legătură cu abordarea actuală privind alinierea la AGI. Dylan Scandinaro, actualul șef al diviziei de „preparedness”, a fost recrutat de la Anthropic în februarie. Altman a declarat că această angajare îi va permite să „sleep better tonight.”

Totuși, lansarea GPT-4 în India a fost unul dintre semnalele de alarmă care au determinat consiliul non-profit al OpenAI să îl demită temporar pe CEO-ul Sam Altman în 2023. Incidentul a avut loc după ce angajați, inclusiv fostul cercetător-șef Ilya Sutskever și fosta CTO Mira Murati, s-au plâns de stilul de management al lui Altman, descris drept unul excesiv de avers față de confruntări. Tasha McCauley, membră a consiliului la acea vreme, a relatat în instanță că existau îngrijorări serioase privind lipsa de transparență a lui Altman, esențială pentru funcționarea structurii neobișnuite a conducerii.

McCauley a vorbit și despre un tipar bine documentat de inducere în eroare a consiliului de către Altman. În mod special, acesta a mințit un alt membru al consiliului în legătură cu intenția ei de a o înlătura pe Helen Toner, o a treia membră a consiliului care a publicat un white paper cu critici implicite la adresa politicii de siguranță a OpenAI. Totodată, Altman nu a informat consiliul despre decizia de a lansa public ChatGPT, iar membrii au fost alarmați și de lipsa de dezvăluiri privind eventuale conflicte de interese.

„We are a non-profit board and our mandate was to be able to oversee the for-profit underneath us,” a declarat McCauley în fața instanței. „Our primary way to do that was being called into question. We did not have a high degree of confidence at all to trust that the information being conveyed to us allowed us to make decisions in an informed way.”

Decizia de a-l înlătura pe Altman a coincis cu o ofertă de răscumpărare (tender offer) adresată angajaților companiei. McCauley a precizat că, atunci când personalul OpenAI a început să se alinieze de partea lui Altman, iar Microsoft a acționat pentru a restabili status quo-ul, consiliul a făcut un pas înapoi, iar membrii care se opuneau lui Altman au demisionat.

Eșecul aparent al consiliului non-profit de a influența cu adevărat organizația cu scop lucrativ atinge direct miezul argumentației lui Musk: transformarea OpenAI dintr-un laborator de cercetare într-una dintre cele mai mari companii private din lume ar fi încălcat înțelegerea implicită dintre fondatori privind rolul inițial al structurii nonprofit.

David Schizer, fost decan al unei prestigioase facultăți de drept și plătit de echipa lui Musk pentru a depune mărturie ca expert, a reluat îngrijorările exprimate de McCauley. „OpenAI has emphasized that a key part of its mission is safety and they are going to prioritize safety over profits,” a spus Schizer. „Part of that is taking safety rules seriously, if something needs to be subject to safety review, it needs to happen. What matters is the process issue.”

În contextul în care inteligența artificială este deja profund integrată în companiile orientate spre profit, problema depășește cu mult cazul unui singur laborator. McCauley a afirmat că eșecurile de guvernanță internă de la OpenAI ar trebui să fie un argument în favoarea unei reglementări guvernamentale mai ferme a sistemelor avansate de AI. Ea a avertizat că, „[if] it all comes down to one CEO making those decisions, and we have the public good at stake, that’s very suboptimal.”