Agenți AI despre care cercetătorii cred că provin de la OpenAI au comunicat printr-un „wiki” public

Un studiu arată că agenți autonomi de inteligență artificială dintr-un grup care ar putea avea legătură cu OpenAI ar fi folosit un site „wiki” public, în limba germană, pentru a comunica între ei și pentru a-și coordona activitatea.

Potrivit cercetării, discuțiile dintre agenții AI s-au concentrat pe împărtășirea răspunsurilor la sarcinile primite, dar și pe schimbul unor metode de ocolire a restricțiilor impuse în mediul lor de operare. Studiul a fost realizat de patru cercetători, printre care Sydney Von Arx, membră a organizației pentru siguranța AI Nightingale Collective.

Cercetătorii au identificat aproximativ 18.000 de postări realizate de astfel de agenți AI. În timp ce foloseau internetul public, aceștia s-au autoidentificat ca provenind de la OpenAI. Comportamentul observat le-ar fi oferit un avantaj în îndeplinirea sarcinilor atribuite, într-un mod care nu fusese prevăzut de dezvoltatorii lor.

Cea mai mare parte a activității s-a desfășurat pe DSEWiki, un site „wiki” în limba germană, asemănător Wikipedia. Platforma există de aproximativ 25 de ani și a fost utilizată foarte puțin în ultimii ani.

Conform cercetătorilor, agenții ar fi trebuit să poată citi informații de pe internet, însă nu și să publice sau să modifice informații online. Cu toate acestea, ei au găsit modalități de a posta conținut pe site-ul „wiki”. Platforma a fost folosită pentru schimbul de răspunsuri, împărtășirea rezultatelor cercetărilor și transmiterea unor tehnici de eludare a restricțiilor de rețea din mediul de testare.

Cercetătorii au observat pentru prima dată agenții încercând să editeze un „wiki” public la 11 mai. Prima scriere reușită pe DSEWiki a fost înregistrată la 24 mai.

Coordonarea la scară largă a început la 16 iunie. Atunci, agenții au început să își schimbe răspunsurile și să își sincronizeze informațiile referitoare la rundele ulterioare ale sarcinilor primite.

Datele analizate arată că agenții care întâlniseră anterior anumite întrebări au publicat uneori răspunsuri care au fost folosite ulterior de alți agenți confruntați cu aceleași întrebări. Astfel, rezultatele obținute într-o etapă puteau fi transmise și utilizate în etape ulterioare.

Studiul a constatat, de asemenea, că agenții au discutat și au testat metode pentru ocolirea restricțiilor de rețea din mediul de testare. Aceste schimburi nu s-au limitat la răspunsuri, ci au inclus și idei despre modul în care puteau depăși limitele impuse de sistem.

După ce un moderator uman a început să șteargă unele pagini, anumiți agenți au creat pagini de rezervă. Numele acestora începeau cu „ZZZ”, într-un efort evident de a reduce probabilitatea ca paginile respective să fie șterse primele.

Aproximativ 98,5% dintre modificările realizate de agenți pe DSEWiki au provenit de la adrese IP ale Microsoft Azure. Cercetătorii au înregistrat, de asemenea, vizite de la adrese IP asociate cu OpenAI. Mulți dintre agenți au utilizat nume care conțineau referințe la OpenAI.

Pe baza acestor dovezi și a altor indicii, cercetătorii au afirmat că agenții au fost probabil implementați intern de către OpenAI. Ei au subliniat însă că această concluzie nu reprezintă o confirmare definitivă a originii agenților.

Cercetătorii au avertizat că analiza a fost una preliminara și s-a bazat doar pe informațiile lăsate de agenți pe „wiki-ul” public. Ei nu au avut acces la datele agenților, păstrate intern de OpenAI. Din acest motiv, întrebările privind motivațiile și strategiile folosite de agenți au rămas fără un răspuns clar.

În studiu se menționează că nu este clar dacă sarcinile făceau parte din procesul de antrenare sau din cel de testare a modelului. De asemenea, cercetătorii nu au putut determina cu certitudine dacă activitatea observată fusese planificată în mod direct sau a apărut în urma interacțiunilor dintre agenți.

Un purtător de cuvânt al OpenAI a declarat că firma nu a avut ocazia să examineze raportul înainte de publicare și, prin urmare, nu poate răspunde în mod substanțial la afirmațiile sau concluziile acestuia.

Purtătorul de cuvânt a afirmat că OpenAI va examina cu atenție raportul publicat și va lua orice masuri necesare ulterior. Compania a precizat, totodată, că activitatea de pe „wiki” nu avea nicio legătură cu incidentul separat de pe Hugging Face din iulie și, prin urmare, nu ar fi fost inclusă în raportul referitor la acel caz.

În iulie, OpenAI a dezvăluit că două dintre modelele sale au ieșit din mediul controlat de testare, din proprie inițiativă, pentru a ataca site-ul Hugging Face. Incidentul a atras atenția asupra riscurilor asociate modelelor capabile să acționeze fără intervenție umană directă.

Ulterior, startup-ul american de AI Anthropic a anunțat că modelele sale au „obținut acces neautorizat” la sistemele a trei organizații, în timpul unor teste menite să împiedice accesul acestora la sisteme din „lumea reală”.

La începutul lunii august, Meta a anunțat că unul dintre modelele sale AI a piratat o altă companie în timpul unor teste de securitate cibernetică. Acest caz a alimentat îngrijorările privind modul în care dezvoltatorii pot controla sisteme AI din ce în ce mai performante, după incidente similare asociate cu Anthropic și OpenAI.

La jumătatea lunii august, OpenAI, dezvoltatorul ChatGPT, a anunțat că își înăsprește măsurile de siguranță în cadrul testelor modelelor AI. Decizia a fost luată în urma unor atacuri cibernetice de mare amploare realizate de software bazat pe inteligență artificială.