Șeful cercetării de la OpenAI avertizează că nimeni nu este pregătit pentru consecințele inteligenței artificiale

Jakub Pachocki, șeful echipei de cercetare de la OpenAI, spune că este nevoie de „prudență extremă” în fața dezvoltării rapide și dificil de gestionat a inteligenței artificiale. El avertizează că ar putea fi necesare măsuri suplimentare pentru a ne asigura că „oamenii continuă să aibă controlul asupra viitorului”.

„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele creșterii rapide și continue a inteligenței mașinilor”, a scris el într-o postare pe blog intitulată „O minte extraterestră”. Textul a fost publicat la doar câteva zile după ce compania care dezvoltă ChatGPT a lansat cel mai nou model al său, GPT-6 Astra, descris drept cel mai puternic produs creat până acum.

OpenAI și alte companii din domeniul inteligenței artificiale, inclusiv Anthropic, au publicat rapoarte despre agenți AI capabili să acționeze autonom și să efectueze atacuri cibernetice împotriva altor firme.

În iulie, OpenAI a calificat drept „fără precedent” un incident în care agenții săi AI, capabili să acționeze singuri după ce primesc instrucțiuni de la oameni, au reușit să spargă platforma tehnologică Hugging Face. Ulterior, în septembrie, s-a raportat că, cu câteva luni mai devreme, agenți AI ai companiei au obținut controlul asupra unui site din Germania.

„Ne confruntăm cu tranziția către o lume în care există mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție are un rezultat bun pentru omenire”, a scris Pachocki.

El spune că OpenAI va continua să „construiască sisteme de apărare” și să caute soluții tehnice pentru problema alinierii AI. Termenul se referă la eforturile prin care acțiunile și obiectivele unei mașini trebuie să corespundă intențiilor oamenilor și regulilor de siguranță.

Pachocki afirmă că una dintre principalele priorități ale companiei va fi dezvoltarea unui „cercetător AI automatizat”. Acesta ar trebui să țină pasul cu ritmul accelerat al progresului în inteligența artificială și, în același timp, să mențină cercetătorii umani implicați în acest proces.

„În loc să îmbunătățească mecanismele de siguranță ale AI, reglementările sau măsurile care ar putea proteja oamenii, ei propun dezvoltarea unor agenți AI interni care să cerceteze aceste probleme”, spune profesoara Gina Neff, directoarea Minderoo Centre for Technology and Democracy de la Universitatea Cambridge.

„Astfel de răspunsuri la preocupările tot mai mari legate de problemele pe care modelele OpenAI le provoacă în securitatea cibernetică, pierderea locurilor de muncă, greșeli, erori și fraude nu sunt suficiente”, adaugă ea.

Nathan Calvin, consilier juridic principal al organizației de advocacy Encode AI, spune că este de acord cu Pachocki în privința riscurilor asociate dezvoltării modelelor AI avansate. El susține însă că OpenAI nu oferă publicului suficiente informații. Din acest motiv, avertismentele companiei ar putea fi privite drept „o exagerare în interes propriu”.

„Dacă Jakub și ceilalți reprezentanți ai OpenAI vor ca oamenii relevanți din industria AI să acționeze împreună cu ei pentru ca lucrurile să evolueze bine, unul dintre cele mai importante lucruri pe care le pot face este să ofere mult mai multe informații despre ceea ce observă și despre motivele pentru care cer prudență”, a scris Calvin pe X.

Reglementările din întreaga lume încearcă să țină pasul cu rapiditatea dezvoltării inteligenței artificiale. Actul Uniunii Europene privind inteligența artificială a intrat în vigoare pe 2 august.

Conform acestor reguli, companiile mari de AI, precum OpenAI, trebuie să demonstreze că cele mai avansate modele ale lor nu pot lansa atacuri cibernetice pe cont propriu și că nu pot eluda controlul uman înainte de a fi comercializate în Europa.

Totuși, regulamentul se aplică doar în Uniunea Europeană. Astfel, un sistem AI dezvoltat într-o altă parte a lumii ar putea reprezenta în continuare o amenințare pentru Europa.

În postarea sa, Pachocki subliniază necesitatea unor standarde minime de siguranta, stabilite fie prin lege, fie prin acorduri internaționale. Respectarea acestor standarde ar putea fi verificată de o „rețea de auditori independenți” sau de agenții guvernamentale.

El consideră că laboratoarele de inteligență artificială ar trebui să respecte aceste cerințe înainte de a putea continua dezvoltarea unor modele tot mai puternice sau de a lansa sisteme AI avansate.

Pachocki mai speră ca „încetinirile voluntare”, adică pauzele asumate de companiile de AI în dezvoltarea tehnologiei, să devină o practică obișnuită până la stabilirea unor reglementări comune de siguranta.

În luna august, OpenAI a anunțat că a redus ritmul de antrenare pentru unele dintre cele mai avansate modele AI, cu scopul de a îmbunătăți securitatea.