Noua companie a lui Richard Socher vrea să construiască o superinteligență AI care se auto-îmbunătățește fără intervenție umană

Richard Socher este de mult timp o figură importantă în domeniul inteligenței artificiale, cunoscut mai ales pentru fondarea timpurie a startupului de chatbot You.com și, anterior, pentru munca sa la Imagenet. Acum, el se alătură noii generații de startupuri axate pe cercetare cu Recursive Superintelligence, o companie din San Francisco care a ieșit miercuri din starea de „stealth” cu o finanțare de 650 de milioane de dolari.

În noul proiect, Socher este însoțit de un grup de cercetători proeminenți în AI, printre care Peter Norvig și cofondatorul Cresta, Tim Shi. Împreună, aceștia își propun să creeze un model de inteligență artificială capabil de auto-îmbunătățire recursivă, care să își poată identifica autonom propriile slăbiciuni și să se reproiecteze pentru a le corecta, fără implicare umană. Acest obiectiv, urmărit de multă vreme în cercetarea modernă în AI, este considerat un fel de „Sfânt Graal” al domeniului.

După lansare, Socher a explicat pe Zoom abordarea tehnică unică a Recursive Superintelligence și motivul pentru care nu vede acest proiect ca pe un „neolab” în sensul uzual al termenului, care descrie noua generație de startupuri AI ce prioritizează cercetarea față de construirea de produse concrete.

El a fost întrebat de ce, într-o perioadă în care se vorbește atât de mult despre recursivitate și multe laboratoare par să urmărească același scop, consideră că abordarea lor este diferită. Răspunsul lui Socher a fost că strategia distinctivă a companiei este utilizarea „open-endedness” (deschidere nelimitată) pentru a ajunge la auto-îmbunătățirea recursivă, lucru pe care încă nimeni nu l-a atins. Mulți presupun deja că acest nivel ar fi atins odată ce permiți AI-ului să facă „auto-cercetare”, adică să iei un sistem de inteligență artificială și să-l pui să îmbunătățească altceva: un alt sistem de machine learning, o scrisoare sau orice alt tip de conținut. Dar, subliniază Socher, acest lucru înseamnă doar îmbunătățire, nu auto-îmbunătățire recursivă în sensul profund.

„Obiectivul nostru principal este să construim o superinteligență cu adevărat recursivă și capabilă de auto-îmbunătățire la scară mare. Asta înseamnă că întregul proces de generare a ideilor de cercetare, de implementare și de validare a acestor idei va fi automatizat.”

Într-o primă etapă, sistemul ar automatiza ideile de cercetare în AI, însă pe termen lung viziunea este ca el să poată genera orice fel de idei de cercetare, inclusiv în domenii fizice. Forța reală a acestei abordări apare atunci când inteligența artificială lucrează asupra propriei arhitecturi și dezvoltă un nou tip de conștientizare a propriilor sale limite.

Întrebat dacă termenul de „open-ended” are o semnificație tehnică exactă, Socher a răspuns afirmativ. El a subliniat că Tim Rocktäschel, unul dintre cofondatorii Recursive Superintelligence, a condus echipele de „open-endedness” și auto-îmbunătățire la Google DeepMind și a lucrat în mod special la world model-ul Genie 3, un exemplu remarcabil de sistem deschis. Acestuia îi poți descrie orice concept, orice lume, orice agent, iar modelul îl generează și îl face interactiv.

Socher compară acest tip de deschidere cu evoluția biologică: animalele se adaptează la mediu, apoi alte specii se contra-adaptează la aceste adaptări. Este un proces care poate continua miliarde de ani, iar lucruri tot mai complexe apar în mod constant. Așa am ajuns, de exemplu, să dezvoltăm ochii în poziția în care se află acum pe corpul nostru.

Un alt exemplu oferit este „rainbow teaming”, concept provenit dintr-o altă lucrare semnată de Tim Rocktäschel. Socher pornește de la noțiunea de „red teaming”, utilizată în securitatea cibernetică, unde o echipă încearcă să găsească vulnerabilități, de pildă încercând să obțină de la un model de limbaj instrucțiuni despre cum să construiești o bombă. Scopul este ca modelul să nu ofere astfel de răspunsuri.

Acest proces poate fi, în mod tradițional, făcut de oameni, care generează timp îndelungat scenarii în care AI-ul nu ar trebui să răspundă. Dar, spune Socher, ce se întâmplă dacă pui o a doua inteligență artificială să testeze prima, având misiunea de a o determina să producă toate posibilele răspunsuri nepotrivite? Cele două sisteme pot interacționa și se pot testa reciproc milioane de iterații.

În acest fel, două sisteme AI pot co-evolua. Unul atacă permanent, găsește nu doar un unghi, ci foarte multe unghiuri de abordare, de aici și analogia cu un „curcubeu”. Apoi primul model poate fi „inoculat” treptat, devenind din ce în ce mai sigur. Ideea aceasta, propusă de Tim Rocktaeschel, este deja folosită în toate marile laboratoare de inteligență artificială.

Întrebat cum știi când un asemenea proces este „terminat”, Socher admite că unele dintre aceste demersuri nu se vor încheia niciodată. Poți deveni mereu mai inteligent, poți progresa la nesfârșit în programare, în matematică și în alte domenii. Există anumite limite teoretice ale inteligenței, pe care el însuși încearcă acum să le formalizeze, dar acestea sunt la niveluri astronomice, iar umanitatea este, deocamdată, foarte departe de ele.

Discuția ajunge și la ideea de „neolab”. Presupunerea este că un astfel de laborator ar trebui să facă ceva ce marile companii nu fac. Rezultă, implicit, că Recursive Superintelligence nu crede că marile laboratoare vor ajunge la auto-îmbunătățirea recursivă doar urmând strategiile actuale. Socher evită să comenteze direct ce fac ceilalți, însă spune clar că ei abordează problema diferit și că îmbrățișează cu adevărat conceptul de open-endedness, dedicând întreaga echipă acestui obiectiv. Echipa publică de peste un deceniu lucrări pe această temă, are un istoric solid de contribuții majore în domeniu și de lansare a unor produse reale. Tim Shi a construit Cresta până la statutul de unicorn, iar Josh Tobin a fost unul dintre primii angajați la OpenAI, ajungând să conducă echipele Codex și echipele de deep research.

Socher spune că, de fapt, se regăsește doar parțial în categoria de „neolab”. „Simt că nu suntem doar un laborator. Vreau să devenim o companie viabilă, cu produse extraordinare pe care oamenii să le folosească cu plăcere și care să aibă un impact pozitiv asupra umanității.”

Când vine vorba de momentul lansării primului produs, el recunoaște că s-a gândit mult la acest lucru. Progresul intern a fost atât de rapid încât ar putea să grăbească termenul inițial. El promite totuși că vor exista produse reale și că acestea vor apărea în câteva trimestre, nu peste ani.

În final, discuția abordează ideea conform căreia, odată ce un sistem de auto-îmbunătățire recursivă ar fi realizat, singura resursă cu adevărat importantă ar deveni puterea de calcul. Cu cât rulezi mai repede sistemul, cu atât el se va îmbunătăți mai rapid, iar intervențiile umane externe ar avea un rol tot mai redus. În această viziune, cursa ar fi redusă la întrebarea „câtă putere de procesare putem pune la dispoziția sistemului?”.

Socher admite că importanța resursei de calcul nu trebuie subestimată. În viitor, întreabă el, câtă putere de calcul va dori omenirea să aloce pentru a rezolva anumite probleme? Dacă ai în față un tip de cancer și un anumit virus, care ar trebui abordat mai întâi? Cât „compute” vrei să dedici fiecăruia? În esență, povestea devine una de alocare a resurselor. Iar acest mod de a decide la ce probleme să fie folosită superinteligența ar putea deveni una dintre cele mai mari întrebări ale lumii.