Foști cercetători ai OpenAI susțin că au fost concediați după ce au pus siguranța pe primul loc

Trei foști cercetători ai OpenAI, concediați pentru presupusa gestionare necorespunzătoare a unor informații, susțin că au fost dați afară după ce au ridicat probleme legate de siguranța tehnologiei în cadrul companiei.

„Cred că am fost concediați pentru că am pus siguranța înaintea intereselor pe termen scurt ale OpenAI ca societate”, a scris Mikita Balesni pe platforma X, alături de o scrisoare deschisă adresată companiei care a creat ChatGPT. Documentul a fost redactat împreună cu alți foști angajați.

La 2 octombrie, un purtător de cuvânt al companiei de inteligență artificială a declarat că investigația internă „a confirmat că aceste persoane au gestionat necorespunzător informații sensibile, în afara procedurilor stabilite de companie”.

OpenAI și-a repetat vineri dimineață aceste acuzații, într-o notă semnată de liderii departamentului de cercetare. „Vrem să fie foarte clar că aceste decizii nu au avut legătură cu ridicarea unor probleme de siguranță sau cu exprimarea unor opinii critice”, se arată în document.

„Investigația noastră internă a scos la iveală o încălcare semnificativă a încrederii, dincolo de ceea ce este prezentat în scrisoarea publicată de aceștia, iar noi menținem decizia de a nu continua raporturile de muncă”, a adăugat compania.

Concedierile au loc în contextul unei dezbateri tot mai intense despre siguranța inteligenței artificiale și despre riscurile pe care sistemele avansate le-ar putea reprezenta pentru societate.

Scrisoarea comună adresată conducerii OpenAI a fost redactată de Balesni, Tomek Korbak și Jasmine Wang. Cei trei afirmă că, până de curând, lucrau în cadrul companiei în domeniul siguranței sau al alinierii sistemelor de inteligență artificială.

Alinierea reprezintă procesul prin care ideile și principiile etice ale oamenilor sunt integrate în tehnologie. Scopul este ca sistemele să rămână orientate către valorile umane și să acționeze într-un mod compatibil cu acestea.

Foștii angajati au avertizat că demiterile lor i-au făcut pe angajații companiei „să se teamă să vorbească și să lucreze în moduri care, până săptămâna trecută, reprezentau o parte esențială a activității la OpenAI”.

Într-o republicare a scrisorii, Korbak a afirmat: „De luni întregi, ridicam probleme de siguranță, deoarece pierdem capacitatea de a monitoriza ceea ce gândesc agenții AI, unul dintre cele mai bune instrumente pentru a detecta momentele în care aceștia se comportă necorespunzător.

„Cred că acesta a fost motivul pentru care am fost concediat.”

OpenAI a anunțat că finalizează contracte cu evaluatori independenți specializați în siguranță și că va comunica detaliile în următoarele săptămâni.

„Nu am fost primii care au fost îndepărtați din OpenAI în circumstanțe suspecte”, a scris Wang pe platforma X. „Dacă angajații nu iau acum atitudine împotriva acestui tip de manevră, mă tem că nu vom fi ultimii.”