OpenAI își redenumește agenții AI în „dots”, în timp ce temerile privind siguranța amână lansarea unui nou model

OpenAI a decis să redenumească noile versiuni ale instrumentelor de inteligență artificială cunoscute pe scară largă drept agenți. Acestea vor fi numite de acum „dots”.

Directorul companiei, Sam Altman, a vorbit marți, la San Francisco, în cadrul evenimentului anual OpenAI dedicat dezvoltatorilor de tehnologie. El a descris „dots” drept „agenți remarcabil de capabili, mereu activi, care pot gestiona aproape orice lucru la care vă puteți gândi”.

În ultimele luni, OpenAI s-a confruntat cu o atenție intensă, după ce testele interne ale agenților săi de inteligență artificială au scos la iveală acțiuni adesea neașteptate și, uneori, periculoase. Situația a amplificat temerile publicului și ale autorităților cu privire la riscurile acestor sisteme.

În schimb, „dots” au fost prezentate sub forma unor personaje animate, drăguțe și viu colorate, concepute să funcționeze ca asistenți digitali pentru persoanele cu un program aglomerat.

Altman a repetat că „dots” „pot gestiona aproape orice lucru la care vă puteți gândi”.

În timpul evenimentului a fost prezentat un videoclip realizat într-un stil elegant. În acesta, mai multe persoane vorbeau cu versiunile animate ale propriilor „dots”, le dădeau nume și le încredințau diverse sarcini. Printre exemple se numărau construirea unui site și rezervarea unor activități pentru copii după terminarea orelor de școală.

Vorbind despre „dot-ul meu”, Altman a evitat aproape complet să se refere la acest instrument ca la un agent, deși termenul este folosit de mai mulți ani. Agenții AI sunt, în esență, chatboturi programate să funcționeze într-o anumită măsură autonom.

„Pur și simplu îi încredințați dot-ului vostru o responsabilitate... iar dot-urile voastre se vor apuca de treabă și vor continua să lucreze”, a adăugat Altman.

Cu o zi înainte de evenimentul organizat marți de OpenAI, compania a anunțat că amână lansarea celui mai recent model al său. Decizia a fost luată din cauza unor probleme de siguranță identificate în timpul testelor interne.

Din luna iulie, compania s-a confruntat cu o serie de incidente în care agenții săi AI au acționat necorespunzător. Printre acestea s-au numărat accesarea neautorizată a platformei de inteligență artificială Hugging Face, publicarea pe site-uri terțe a unor imagini preluate de agenți din conversațiile utilizatorilor ChatGPT și accesarea unor informații care nu erau publice și erau deținute de guvernul australian.

OpenAI și compania rivală Anthropic au amânat anterior lansarea publică a anumitor modele de inteligență artificială din cauza unor riscuri potențiale. Cele mai multe îngrijorări au vizat securitatea cibernetică și posibilitatea unor atacuri informatice.

Ambele companii se așteaptă, de asemenea, să fie listate pe piața publică de capital în următoarele luni. Anthropic ar putea face acest pas în cursul acestui an, în timp ce OpenAI este pregătită pentru o listare în 2027.

În ultima perioadă, ambele companii au transmis clar că inteligența artificială prezintă un risc real la scară largă. Pericolele ar putea afecta infrastructura publică sau chiar siguranța oamenilor.

Săptămâna trecută, într-un discurs susținut în fața Organizației Națiunilor Unite, Altman a cerut stabilirea unor standarde AI „naționale și internaționale”. Acestea ar urma să vizeze măsurarea capacităților unui instrument de inteligență artificială, evaluarea riscurilor asociate, măsurile de protecție și nivelul de supraveghere umană menținut asupra unor astfel de sisteme.

Dario Amodei, directorul Anthropic, a declarat la rândul său în fața ONU că, dacă dezvoltarea accelerată a inteligenței artificiale nu va fi gestionată și supravegheată corespunzător, versiunile viitoare ale tehnologiei „ar putea reprezenta un risc pentru întreaga umanitate”.

În acest context, rebrandingul agenților în „dots” apare într-un moment în care companiile de profil încearcă să prezinte aceste instrumente ca pe niște asistenți utili și accesibili, în timp ce autoritățile și experții atrag atenția asupra necesității unor controale stricte și a unei supravegheri permanente. Dezvoltarea lor continuă să fie însoțită de dezbateri privind limitele autonomiei și responsabilitatea pentru acțiunile realizate de aceste sisteme.