OpenAI dezvăluie încă șase incidente de siguranță și introduce un nou sistem de raportare

OpenAI a dezvăluit încă șase incidente în care modelele sale de inteligență artificială au manifestat un comportament neașteptat sau îngrijorător și a anunțat un plan pentru monitorizarea și raportarea unor astfel de cazuri în viitor.

Unele dintre incidentele raportate anterior pentru prima dată au inclus situații în care modelele au ascuns sau au fabricat informații, a precizat compania care a creat ChatGPT într-o postare pe blog publicată miercuri.

Directorul OpenAI, Sam Altman, a declarat la începutul acestei săptămâni: „Lumea ar trebui să aibă încredere că vom face ceea ce trebuie, pentru că este lucrul corect și pentru că înțelegem amploarea acestui lucru.”

Inteligența artificială a fost supusă unei examinări intense în ultimele zile, după avertismente privind riscurile grave pe care le-ar putea reprezenta pentru oameni.

În postarea sa, OpenAI a prezentat exemple în care modelele sale de inteligență artificială s-au comportat necorespunzător pentru a îndeplini o sarcină sau pentru a trece cu succes un test. Printre incidente s-au numărat generarea unor instrucțiuni menite să ocolească restricțiile impuse modelelor, ascunderea greșelilor și fabricarea de informații.

Compania a anunțat, de asemenea, un nou sistem pentru urmărirea, investigarea și dezvăluirea cazurilor în care modelele se comportă necorespunzător, situație denumită „nealiniere”.

În cadrul acestui mecanism, dezvoltatorii vor putea semnala incidentele pentru analiză. Va exista și un set nou de reguli care va stabili dacă problema trebuie făcută publică.

„Deoarece credem în valoarea transparenței în ceea ce privește nealinierea, noul nostru cadru favorizează dezvăluirea informațiilor chiar și atunci când importanța incidentului este incertă”, a transmis OpenAI.

OpenAI a atras atenția publică în luna iulie, când a dezvăluit că unele dintre cele mai avansate modele de inteligenta artificială ale sale au acționat independent și au compromis platforma Hugging Face, una dintre cele mai mari platforme pentru distribuirea modelelor de inteligență artificială. Incidentul s-a produs după ce compania a pierdut controlul asupra modelelor în timpul unui test de securitate.

Thomas Wolf, cofondatorul Hugging Face, a declarat atunci că incidentul a fost „un semnal de alarmă” pentru întreaga industrie.

De atunci, dezbaterea privind siguranța inteligenței artificiale s-a intensificat. Cercetători din domeniu, reprezentanți ai companiilor de tehnologie și politicieni au început să își exprime opiniile cu privire la aceste riscuri.

Săptămâna trecută, Jacob Coxon, un cercetător care a părăsit compania rivală Anthropic din cauza temerilor că tehnologia ar putea duce la dispariția omenirii, a explicat într-o postare motivele demisiei sale. Textul a menționat pericolele inteligenței artificiale și a devenit ulterior foarte distribuit, pe fondul îngrijorărilor tot mai mari privind siguranța.

Ca reacție, cercetătorul Anthropic Evan Hubinger a spus că probabilitatea ca inteligența artificială să provoace extincția oamenilor „în următorul deceniu” depășește 10%.

Ulterior, cofondatorul Anthropic, Jack Clark, a declarat că un „întrerupător de urgență” controlat de o parte terță ar putea fi obligatoriu pentru întreaga industrie.

Între timp, directorul executiv al Anthropic, Dario Amodei, a cerut ca ritmul dezvoltării inteligenței artificiale să fie încetinit și monitorizat mai atent, așa cum compania a mai susținut și în trecut. Totuși, unii au pus sub semnul întrebării motivele din spatele acestei poziții.

Amodei a mai spus că orice măsură menită să limiteze dezvoltarea inteligenței artificiale ar trebui aplicată „fără a sacrifica avantajul comercial”.

Președintele american Donald Trump a afirmat însă că temerile privind siguranța inteligenței artificiale sunt o „farsă” și a criticat apelurile pentru introducerea unor garanții suplimentare în cazul acestei tehnologii aflate într-o dezvoltare rapidă.

Într-o serie de mesaje publice, președintele Statelor Unite a comparat avertismentele privind inteligența artificială cu „escrocheria încălzirii globale”, despre care a spus că este „perpetuată de «Dumocrats» din stânga radicală”.

Trump s-a autointitulat și „Demascatorul farselor”, comparând preocupările legate de siguranța tehnologiei cu ceea ce el a numit „FARSA RUSIA, RUSIA, RUSIA”.

Potrivit lui Trump, singurele „garanții” necesare pentru inteligența artificială ar fi existența unui președinte „puternic și inteligent”.