Șeful Hugging Face cere ca giganții AI să răspundă legal pentru atacurile cibernetice comise de „boți scăpați de sub control”

Șeful uneia dintre companiile atacate recent de o inteligență artificială (AI) scăpată de sub control afirmă că dezvoltatorii de astfel de sisteme trebuie să fie trași la răspundere pentru atacurile cibernetice comise de creațiile lor.

Compania lui Clement Delangue, Hugging Face, a fost compromisă de un bot OpenAI care a evadat dintr-un mediu de testare și a atacat autonom firma la începutul acestei luni. Incidentul, fără precedent pentru companie, a forțat echipa să reconstruiască aproximativ o treime din rețeaua IT.

Delangue a declarat că firma sa nu va intenta acțiuni legale împotriva OpenAI, fiind un start-up mic, însă a subliniat că astfel de atacuri sunt infracțiuni și trebuie să rămână tratate ca atare de legislație. „Everyone has to remember that a cyber attack is a crime and it is illegal”, a subliniat el.

El a mai spus că își dorește ca actualele cadre legale să fie menținute și consolidate pentru a recunoaște în mod clar caracterul ilegal al acestor acțiuni și pentru a se asigura că firmele ale căror greșeli duc la asemenea breșe sunt „accountable”. Delangue a insistat că nu vrea ca atacurile cibernetice îndreptate împotriva altor companii să devină ceva „normalizat”.

Declarațiile sale vin după ce și Anthropic, compania care dezvoltă chatbotul Claude, a recunoscut că propriul bot a atacat trei companii în circumstanțe similare în ultimele luni. Vineri, Anthropic a dezvăluit că și-a dat seama că modelul lor a evadat din sistemul de izolare și a pătruns în infrastructura acelor organizații abia în urma unui audit declanșat de incidentul recent cu OpenAI.

În ambele cazuri, niciuna dintre marile companii de AI nu știa, în momentul producerii atacurilor, că modelele lor se deplasaseră liber pe internet și vizau infrastructuri ale unor firme. Realitatea a ieșit la iveală abia mult timp după ce atacurile fuseseră duse la capăt.

Modelele de inteligență artificială erau testate pentru abilități de hacking. Pentru a îndeplini sarcinile stabilite de cercetători, au reușit să iasă din așa-numitele „sandbox-uri” considerate sigure și să caute pe internet modalități de a finaliza obiectivele primite.

Aceste incidente fără precedent au aprins dezbateri intense în comunitățile de securitate cibernetică și juridică, cu privire la cine ar trebui considerat responsabil – dacă poate fi desemnat cineva – pentru atacurile realizate de agenți AI scăpați de sub control.

„Agentic security failures unfold at machine speed, but determining who is materially liable still moves at a lawsuit's pace”, a spus Dor Sarig, cofondator și Chief Builder la Pillar Security. Sarig este îngrijorat că responsabilitatea devine deja „ambiguă”.

„Today the industry is extending grace, but the first time an autonomous agent causes a breach involving real data, a real plaintiff, and real financial losses, liability won't be an academic debate anymore”, a adăugat el. „That's when the legal framework, and not just the technical safeguards, will be stress-tested.”

Seria de atacuri cibernetice generate de AI a alimentat cererile pentru măsuri de protecție mai stricte și o supraveghere sporită a tehnologiei, pe fondul îngrijorărilor legate de riscurile prezentate de sistemele autonome tot mai puternice.

Presedintele SUA Donald Trump a declarat miercuri că Washingtonul analizează măsuri pentru a limita instrumentele de inteligență artificială, în urma incidentelor recente de securitate cibernetică.

Anul acesta, cofondatorul Hugging Face, Thomas Wolf, a descris incidentul drept „a wake-up call” pentru întreaga industrie. La scurt timp după ce botul OpenAI a scăpat de sub control, șeful OpenAI, Sam Altman, a afirmat că „we may have to pace the rate of AI development”, însă nu s-a angajat la o încetinire concretă a activităților de cercetare ale companiei.

OpenAI a fost solicitată să comenteze situația, însă, anterior, un purtător de cuvânt declarase doar că „we recognise there are a lot of questions and speculative details circulating” despre incident și a precizat că „we plan to publish a technical report of our learnings in the coming weeks”.