Malware descoperit în proiectul LiteLLM ridică semne de întrebare asupra certificărilor de securitate obținute prin Delve

Un incident recent din Silicon Valley pare desprins dintr-un episod de satiră despre industria tech. În această săptămână a fost descoperit un malware extrem de agresiv într-un proiect open source dezvoltat de LiteLLM, o companie absolventă Y Combinator.

LiteLLM oferă dezvoltatorilor acces facil la sute de modele de inteligență artificială și include funcționalități precum gestionarea costurilor. Proiectul a devenit un adevărat succes, fiind descărcat, potrivit companiei de securitate Snyk, chiar și de 3,4 milioane de ori pe zi. Pe GitHub, LiteLLM acumulase 40.000 de stele și mii de „fork”-uri, adică dezvoltatori care l-au folosit ca bază pentru a-l modifica și adapta propriilor nevoi.

Malware-ul a fost descoperit, documentat și făcut public de cercetătorul Callum McMahon de la FutureSearch, o companie care oferă agenți de inteligență artificială specializați în cercetare pe web. Codul malițios a pătruns printr-o „dependință”, adică un alt software open source de care LiteLLM depindea. Odată instalat, acesta fura datele de autentificare ale tuturor serviciilor cu care intra în contact. Prin aceste credențiale, malware-ul obținea acces la și mai multe pachete open source și conturi, pentru a colecta și mai multe date sensibile, și tot așa, într-un lanț periculos.

Incidentul a ieșit la iveală după ce calculatorul lui McMahon s-a închis brusc imediat după ce a descarcat LiteLLM. Acest eveniment l-a determinat să investigheze și să identifice malware-ul. Ironia este că un bug din codul malițios a provocat „căderea” sistemului său. Tocmai pentru că bucata respectivă de cod rău intenționat era implementată atât de neglijent, el – la fel ca reputatul cercetător în domeniul IA Andrej Karpathy – a ajuns la concluzia că a fost scrisă în stil „vibe coded”, adică fără rigoare tehnică, mai mult din impuls și improvizație.

Dezvoltatorii LiteLLM au lucrat continuu în ultimele zile pentru a remedia situația. Partea bună este că problema a fost detectată relativ rapid, cel mai probabil în câteva ore de la apariție, ceea ce a limitat proportiile potențiale ale atacului.

Există însă și un alt capitol al acestei povești, intens comentat pe rețelele sociale. La data de 25 martie, site-ul LiteLLM încă afișa cu mândrie că proiectul a trecut două mari certificări de securitate: SOC 2 și ISO 27001.

Compania a apelat la startup-ul Delve pentru obținerea acestor certificări. Delve este un startup axat pe conformitate asistată de inteligență artificială, acuzat de unii critici că ar fi indus în eroare clienții cu privire la nivelul lor real de conformitate, prin generare de date discutabile și folosirea unor auditori care ar fi aprobat rapoartele fără verificări suficient de stricte. Delve a negat însă aceste acuzații.

Există, totuși, un aspect de nuanță important. Astfel de certificări sunt concepute pentru a demonstra că o companie are politici de securitate bine puse la punct, menite să reducă riscul unor incidente precum acesta. Ele nu garantează automat că o organizație, cum este LiteLLM, nu va fi afectată de malware. SOC 2 ar trebui să acopere inclusiv politicile privind gestionarea dependențelor software, însă, în practică, cod malițios poate totuși să se strecoare prin aceste lanțuri de dependințe.

Chiar și așa, inginerul Gergely Orosz a remarcat pe X, văzând comentariile ironice pe această temă: „Oh damn, I thought this WAS a joke. ... but no, LiteLLM *really* was 'Secured by Delve.'”. Remarca lui a alimentat discuțiile despre cât de solide sunt, în realitate, astfel de procese de certificare automatizată.

În ceea ce privește LiteLLM, CEO-ul Krrish Dholakia nu a dorit să comenteze pe marginea colaborării cu Delve. El este în continuare concentrat pe gestionarea consecințelor atacului și pe curățarea infrastructurii afectate.

„Our current priority is the active investigation alongside Mandiant. We are committed to sharing the technical lessons learned with the developer community once our forensic review is complete,” a declarat el pentru TechCrunch, subliniind că, după încheierea analizei criminalistice, compania intenționează să comunice lecțiile tehnice învățate comunității de dezvoltatori.