Anthropic limitează lansarea modelului Mythos: protecție pentru internet sau pentru propriul profit?

Anthropic a anunțat în această săptămână că a limitat lansarea celui mai nou model al său, numit Mythos, pe motiv că este prea capabil să identifice vulnerabilități de securitate în software folosit de utilizatori din întreaga lume.

În loc să fie pus la dispoziția publicului larg, acest model de frontieră va fi oferit unui grup restrâns de companii mari și organizații care gestionează infrastructuri online critice, de la Amazon Web Services până la JPMorgan Chase. Se relatează că și OpenAI ia în considerare un plan similar pentru următorul său instrument de securitate cibernetică. Ideea declarată este ca aceste mari întreprinderi să poată acționa din timp împotriva actorilor rău-intenționați care ar putea folosi modele lingvistice avansate pentru a penetra software securizat.

Totuși, referința la „exploatare” sugerează că ar putea exista mai mult în spatele acestei strategii de lansare decât grija pentru securitate cibernetică sau simpla promovare a capacităților modelului.

Dan Lahav, CEO al laboratorului de securitate cibernetică bazat pe inteligență artificială Irregular, declara în martie, înainte de lansarea lui Mythos, că, deși descoperirea vulnerabilităților de către instrumente de tip AI este importantă, valoarea reală a unei slăbiciuni pentru un atacator depinde de numeroși factori, inclusiv de modul în care aceste vulnerabilități pot fi combinate între ele.

„The question I always have in my mind,” a spus Lahav, „is did they find something that is exploitable in a very meaningful way, whether individually, or as part of a chain?”

Anthropic susține că Mythos poate exploata vulnerabilități mult mai eficient decât modelul său anterior, Opus. Totuși, nu este deloc clar că Mythos reprezintă soluția supremă în domeniul securității cibernetice. Aisle, un startup de securitate cibernetică bazată pe AI, afirmă că a reușit să reproducă o mare parte dintre rezultatele atribuite modelului Mythos folosind modele mai mici, cu greutăți deschise. Echipa Aisle argumentează că aceste constatări arată că nu există un singur model de deep learning care să rezolve totul în securitate cibernetică, ci că eficiența depinde foarte mult de fiecare sarcină în parte.

În condițiile în care Opus era deja considerat un punct de cotitură pentru securitatea cibernetică, apare un alt motiv pentru care laboratoarele de frontieră ar dori să își limiteze lansările la marile organizații. Un astfel de model exclusivist creează un „flywheel” pentru contractele cu întreprinderi mari, făcând în același timp mai dificil pentru competitori să copieze modelele prin distilare, o tehnică prin care modelele de vârf sunt folosite pentru a antrena altele noi, mai ieftine.

„This is marketing cover for fact that top-end models are now gated by enterprise agreements and no longer available to small labs to distill,” a sugerat într-o postare pe rețelele sociale David Crawshaw, inginer software și CEO al startup-ului exe.dev. „By the time you and I can use Mythos, there will be a new top-end rev that is enterprise only. That treadmill helps keep the enterprise dollars flowing (which is most of the dollars) by relegating distillation companies to second rank,” a adăugat Crawshaw.

Această analiză se potrivește cu ceea ce se observă în prezent în ecosistemul AI: o cursă între laboratoarele de frontieră, care dezvoltă cele mai mari și mai capabile modele, și companii precum Aisle, ce mizează pe utilizarea mai multor modele și văd în LLM-urile open-source, adesea provenind din China și adesea presupus dezvoltate prin distilare, o cale către un avantaj economic.

Laboratoarele de frontieră au adoptat anul acesta o poziție mult mai fermă față de distilare. Anthropic a făcut publice ceea ce descrie drept încercări ale unor firme chineze de a-i copia modelele, iar trei dintre cele mai importante laboratoare — Anthropic, Google și OpenAI — s-au aliat pentru a identifica „distillerii” și a-i bloca, potrivit unui raport Bloomberg. Distilarea reprezintă o amenințare directă la adresa modelului de afaceri al acestor laboratoare, pentru că diminuează avantajul conferit de investițiile uriașe de capital necesare scalării. Prin urmare, blocarea distilării este deja un obiectiv important, însă strategia de lansare selectivă oferă și un mod de a diferenția ofertele pentru mediul enterprise, într-un moment în care acest segment devine esențial pentru o implementare profitabilă.

Rămâne de văzut dacă Mythos, sau vreun alt model nou, reprezintă cu adevărat o amenințare la securitatea internetului. O introducere treptată și atent controlată a tehnologiei pare, totuși, o cale responsabilă de urmat.

Anthropic nu a răspuns la întrebările legate de legătura dintre această decizie și îngrijorările privind distilarea până la momentul redactării, însă compania ar putea să fi găsit o abordare ingenioasă pentru a proteja atât internetul, cât și propria linie de profit.