Unicul expert al lui Elon Musk în procesul împotriva OpenAI avertizează asupra unei curse globale pentru AGI

Când ar trebui să luăm în serios „doomerii” AI? Aceasta este întrebarea de fond în încercarea lui Elon Musk de a închide activitatea comercială cu scop lucrativ a OpenAI. Avocații săi susțin că organizația a fost înființată ca un fel de entitate caritabilă axată pe siguranța inteligenței artificiale și că s-a abătut de la această misiune în căutarea profitului. Pentru a demonstra acest lucru, ei invocă emailuri vechi și declarații ale fondatorilor despre necesitatea unui contrabalans public față de Google DeepMind.

Astăzi, ei au chemat un singur martor expert: Peter Russell, profesor de informatică la Universitatea California, Berkeley, care studiază inteligența artificială de decenii. Rolul său a fost să ofere context tehnologic despre AI și să argumenteze că această tehnologie este suficient de periculoasă pentru a justifica îngrijorarea.

Russell a co-semnat, în martie 2023, o scrisoare deschisă care cerea o pauză de șase luni în cercetarea AI. Ironic, același document a fost semnat și de Musk, chiar în timp ce acesta lansa xAI, propriul său laborator comercial de inteligență artificială.

Russell le-a explicat juraților și judecătoarei Yvonne Gonzalez Rodgers că există o varietate de riscuri legate de dezvoltarea AI, de la amenințări de securitate cibernetică până la probleme de „misalignment” între obiectivele oamenilor și cele ale sistemelor, dar și la natura de tip „câștigătorul ia totul” a cursei pentru dezvoltarea Inteligenței Artificiale Generale (AGI). În cele din urmă, el a spus că există o tensiune constantă între urmărirea AGI și prioritatea siguranței.

Îngrijorările sale mai ample despre amenințările existențiale ale unei AI nereglementate nu au fost detaliate în ședință publică, după ce obiecțiile avocaților OpenAI au determinat judecătoarea să limiteze aria depoziției. Totuși, Russell este de mult timp un critic al dinamicii de „cursă a înarmărilor” create de laboratoarele de frontieră din întreaga lume, care concurează pentru a ajunge primele la AGI, și a cerut ca guvernele să reglementeze mult mai strict acest domeniu.

Avocații OpenAI au folosit contra-interogatoriul pentru a stabili că Russell nu evalua în mod direct structura corporativă a organizației și nici politicile sale specifice de siguranță. Astfel, expertiza lui a rămas mai degrabă la nivel de cadru general asupra riscurilor AI decât o analiză punctuală a companiei.

Însă această relatare, precum și judecătoarea și jurații, vor cântări în ce măsură trebuie acordată importanță legăturii dintre lăcomia corporativă și preocupările privind siguranța AI. Aproape toți fondatorii OpenAI au avertizat cu intensitate asupra riscurilor inteligenței artificiale, în timp ce, în același timp, subliniau beneficiile, încercând să construiască AI cât mai rapid și pregătind planuri pentru entități comerciale axate pe AI, pe care tot ei le-ar controla.

Privind din exterior, o problemă clară este conștientizarea tot mai mare, în interiorul OpenAI după fondare, că organizația avea nevoie de mult mai multă capacitate de calcul pentru a reuși. Acești bani puteau veni doar de la investitori interesați de profit. Teama inițială a echipei fondatoare față de o AGI controlată de o singură organizație a împins grupul să caute capitalul care, în cele din urmă, a dezbinat echipa, a alimentat cursa pe care o vedem astăzi și ne-a adus la acest proces.

Aceeași dinamică se manifestă deja la nivel național: inițiativa senatorului Bernie Sanders pentru o lege care să impună un moratoriu asupra construcției de centre de date invocă temeri legate de AI exprimate de Musk, Sam Altman, Geoffrey Hinton și alții. Hoden Omar, care lucrează la organizația de profil Center for Data Innovation, a contestat modul în care Sanders le citează doar temerile și nu și speranțele, declarând pentru presă că „it is unclear why the public should discount everything tech billionaires say except when their words can be recruited to fill gaps in a precarious argument.”

Acum, ambele tabere din acest proces cer instanței să facă exact acest lucru: să ia în serios o parte din argumentele lui Altman și Musk, dar să ignore acele părți ale discursului lor care sunt mai puțin utile pentru poziția juridică pe care o susțin.