Disputa dintre matematicieni alimentează temerile că AI ar putea submina știința

Un șir de congelatoare albe zumzăie într-o fostă fabrică de ceasuri din centrul Londrei. In interior se află zeci de cutii mici, cu eprubete de sticlă marcate cu coduri de bare, care conțin, în total, o sută de miliarde de gene. Doar două cutii ar putea cuprinde de zece ori mai multe informații decât tot textul de pe internet, spune dr. Oliver Vince, unul dintre fondatorii facilității.

Compania sa, Basecamp Research, intenționează să colecteze cât mai mult ADN posibil pentru a crea o inteligență artificială capabilă să vorbească limbajul biologiei. Ideea este asemănătoare cu cea a companiilor tehnologice din SUA și China, care au adunat cantități uriașe de texte online pentru a crea modele lingvistice mari (LLM), aflate la baza sistemelor AI actuale.

Vince, asemenea multor oameni din mediul de afaceri și din cercetarea academică, crede că AI va accelera considerabil cercetarea științifică. Totuși, utilizarea acesteia este însoțită tot mai des și de controverse.

Luna trecută, OpenAI, compania care a creat ChatGPT, a anunțat că a rezolvat una dintre marile probleme nerezolvate ale matematicii, legată de celebrele ecuații Navier–Stokes. Compania a susținut că agenții săi AI au găsit soluția în 88 de ore. Organismul care acordă un premiu pentru rezolvarea problemei a declarat că aceasta „pare să fi fost rezolvată”, dar a precizat că verificarea va dura.

Cu câteva ore înaintea anunțului, Tristan Buckmaster, matematician la Universitatea din New York, își făcuse publice îngrijorările. El a format o echipă independentă împreună cu Levent Alpöge, matematician care lucrează în timpul zilei pentru compania rivală Anthropic.

Cei doi cercetători lucrau la aceeași problemă și își păstrau variantele de lucru în Codex, instrumentul de programare al OpenAI. Buckmaster a spus că partenerul său de cercetare a fost avertizat că informațiile despre progresul lor „ajunseseră” la OpenAI, fără să precizeze cum. El s-a întrebat dacă cercetarea sa, stocată în Codex, ar fi putut contribui la munca OpenAI, subliniind însă că „nu acuză pe nimeni de nimic”.

OpenAI a declarat că nimeni din companie, niciun angajat și niciun sistem AI, nu a văzut munca celeilalte echipe înainte de publicarea acesteia. Inițial, compania a spus că, deși era puțin probabil, nu putea „exclude” posibilitatea ca date anonimizate rezultate din folosirea produselor sale să fi contribuit la îmbunătățirea modelelor. Câteva zile mai târziu, a afirmat că mesajele trimise de Buckmaster în Codex în cele două luni dinaintea anunțului „nu ar fi putut influența sistemul în niciun fel”.

Este o poveste complicată și încă nu știm pe deplin ce s-a întâmplat. Însă ea scoate în evidență o problemă tot mai mare legată de utilizarea AI în știință. De obicei, aceste discuții ne fac să ne imaginăm roboți care creează virusuri modificate genetic sau arme chimice pentru a distruge omenirea. Există însă și o problemă mai subtilă, care nu a primit aceeași atenție: AI ar putea submina încrederea în procesul științific și ar putea ridica semne de întrebare privind noutatea și acuratețea cercetărilor.

Mai există o îngrijorare. Se știe că chatboturile AI, precum Claude sau Gemini, pot uneori să halucineze și să prezinte lucruri neadevărate. Ele pot vorbi despre un film care nu a existat niciodată sau pot atribui cuiva un citat pe care nu l-a rostit. Acum există dovezi că fenomenul apare tot mai des și în știință. În cele din urmă, se teme că va deveni dificil să deosebim descoperirile științifice reale de ficțiunea generată de AI.

Toate acestea ar putea eroda, dacă nu chiar arunca în aer, piatra de temelie a cercetării științifice: încrederea.

O amenințare vizează revistele științifice, considerate gardienii integrității în cercetare, care par să nu facă față avalanșei de distorsiuni generate de AI.

„AI generativă a perturbat, practic, întregul proces științific”, spune Dalmeet Singh Chawla, jurnalist specializat în știință, care a relatat timp de zece ani despre abaterile din cercetare.

El spune că angajații editurilor responsabili de integritatea cercetării — cei care verifică acuratețea și fiabilitatea lucrărilor trimise spre publicare — vor trebui „să-și mărească drastic numărul și eforturile, dacă vor să facă față”. „În acest moment, nu pare că o fac”, adaugă el.

La prima vedere, AI pare instrumentul ideal pentru cercetarea științifică. Oamenii de știință lucrează cu cantități uriașe de informații. Telescoapele și acceleratoarele de particule, de exemplu, colectează miliarde de puncte de date, mult prea multe pentru ca mintea umană să le poată cuprinde. AI poate identifica elementele științifice importante în acest volum copleșitor de informații.

Exemplul emblematic al AI în știință este compania britanică Google DeepMind, care în 2020 a rezolvat una dintre cele mai mari probleme din biologie: modul în care proteinele din organismele vii se pliază în formele lor precise.

Poate părea un subiect neinteresant, dar proteinele sunt mici mașinării care fac posibilă viața, iar forma în care se pliază determină ce pot face. Ele contribuie la formarea celulelor, la combaterea infecțiilor și la dezvoltarea țesuturilor și organelor corpului.

Înainte de AI, oamenii de știință trebuiau să desfășoare experimente îndelungate în laborator. Apoi, Google DeepMind a dezvoltat un model AI numit AlphaFold, care a prezis cu acuratețe 200 de milioane de structuri proteice într-un singur an.

Experimentele echivalente ar fi necesitat sute de milioane de ani de muncă în laboratoare. Compania a oferit gratuit rezultatele cercetătorilor. Directorul DeepMind și omul de știință care a condus proiectul au primit amândoi Premiul Nobel pentru Chimie.

A fost un motiv de sărbătoare pentru toată lumea.

Dr. Pushmeet Kohli, care conduce activitatea DeepMind în domeniul științei, mi-a spus că AlphaFold poate fi considerat „un moment de cotitură”.

În alte domenii, însă, utilizarea AI în știință a fost însoțită de acuzații de exagerare. Unele modele computerizate sunt acuzate că amplifică importanța rezultatelor, iar cercetătorii care le supraveghează ajung să creadă unele afirmații fără suficient scepticism.

După succesul AlphaFold, DeepMind și-a îndreptat atenția spre prezicerea structurii unor materiale noi. Munca ar putea duce la baterii mai bune, celule solare mai ieftine și componente electronice care să nu depindă de elemente rare ale pământurilor rare. (În teorie, nimeni nu ar mai trebui să se certe pentru drepturile de exploatare minieră, iar Groenlanda ar fi în siguranță în fața unei invazii.)

Un model DeepMind a generat ceea ce compania a descris drept peste două milioane de structuri cristaline noi, anunțate ca „aproape 800 de ani de cunoaștere” publicați dintr-odată. Dintre acestea, aproximativ 380.000 au fost considerate suficient de promițătoare pentru a fi create în laborator.

Apoi a apărut un semnal de avertizare din partea a doi chimiști de la Universitatea din California. Anthony Cheetham și Ram Seshadri au examinat un eșantion aleatoriu dintre cristalele prezentate drept noi. Într-un articol publicat în revista Chemistry of Materials, ei au scris că „nu au găsit încă niciun compus remarcabil de nou” și au susținut că multe erau „adaptări triviale ale unor materiale cunoscute”. Verdictul lor nu a fost că metoda era greșită, ci că rezultatele au nevoie de mai multă verificare și validare din partea chimiștilor.

DeepMind respinge acuzația și spune că a verificat noutatea fiecărui compus. A respinge o structură nouă pentru că seamănă cu una cunoscută înseamnă să nu înțelegi esența, susține compania: înlocuirea unui singur atom este modul în care au apărut multe dintre materialele utile de astăzi, de la componentele telefoanelor până la cremele de protecție solară.

În aceste cazuri, cel puțin, știința era în mare parte reală, iar problema ținea doar de riscul ca AI să exagereze importanța rezultatelor.

O preocupare posibil și mai mare este riscul ca revistele științifice să fie inundate de ceea ce se numește „gunoi AI”: situații în care cercetarea este scrisă de un computer, nu de un om de știință, și ajunge să conțină citări false și lucrări inexistente.

În 2024, informaticianul prof. Dmitry Kobak, de la Universitatea din Gent, a căutat cuvinte-indiciu preferate de modelele lingvistice mari în peste un milion de articole de cercetare biomedicală. Echipa sa a constatat că, până în decembrie anul trecut, aproape 90% dintre lucrări prezentau urme de AI. Tehnologia de detectare a AI nu este perfectă: unele programe au etichetat drept „generată de AI” chiar și Constituția SUA, scrisă în anii 1780. Cu toate acestea, Kobak a spus că a fost șocat de amploarea aparentă a utilizării AI. Există riscul, a declarat el pentru Nature, ca „orice prejudecată a modelului lingvistic mare să se răspândească brusc în literatura științifică”.

Kobak se numără printre numeroșii cercetători care se tem că AI distruge treptat revistele științifice.

Este un lucru important: articolele de cercetare sunt esențiale pentru progresul științific. După publicarea unei descoperiri, o altă echipă, aflată într-o altă parte a lumii, ar putea obține finanțare pentru a dezvolta rezultatele.

Este compromis și procesul de evaluare inter pares, prin care alți oameni de știință verifică lucrările înainte de publicare.

O echipă condusă de Weixin Liang și James Zou, de la Universitatea Stanford, a analizat rapoarte de evaluare trimise la patru conferințe importante de informatică și a constatat că până la 17% din text fusese modificat substanțial de un model lingvistic.

O parte esențială a integrității unei lucrări științifice constă în faptul că autorii principali menționează cercetările anterioare, pentru a arăta că rezultatele lor sunt cu adevărat noi. Aceste trimiteri se numesc citări. O altă echipă, de la Universitatea Cornell, a constatat că cercetătorii foloseau AI pentru a alcătui liste de citări, iar sistemele inventau studii inexistente. Anul trecut au fost citate aproximativ 147.000 de lucrări-fantomă.

Dacă AI continuă să denatureze în acest fel integritatea procesului academic, cercetătorii vor fi trimiși pe piste false, banii publici vor fi irosiți, iar rezultatele cercetărilor valide — precum medicamente noi sau tehnologii ecologice — vor întârzia să apară sau nu vor fi obținute deloc.

Unele edituri de reviste științifice, precum Elsevier, iau măsuri pentru a preveni această criză tot mai mare de încredere.

Echipa Elsevier pentru integritatea cercetării a dezvoltat aproximativ 100 de indicatori care semnalează lucrările ce necesită o verificare mai atentă din partea oamenilor. Revistele Nature interzic imaginile generate de AI și le cer evaluatorilor să nu încarce niciodată manuscrise într-un sistem AI. Platforma arXiv, unde oamenii de știință își distribuie rezultatele preliminare, îi suspendă timp de un an pe cercetătorii care trimit referințe inventate.

Prof. Sarah Main, vicepreședintă la Elsevier, face parte dintre cei care încearcă să găsească modalități de utilizare responsabilă a AI în cercetare. „Ceea ce numim AI de nivel profesional pentru cercetare ar trebui să se asigure că cercetătorul rămâne la conducere”, spune ea.

Pe măsură ce agenții AI procesează cantitățile uriașe de date provenite de la acceleratoarele de particule, din cosmos și din lumea naturală, cum putem ști că interpretează corect informațiile?

Mai există o întrebare îngrijorătoare: cum știm că agenții AI nu resping un rezultat important, considerându-l o anomalie? Descoperirile penicilinei și radioactivității, precum și ale unor stele neobișnuite numite pulsari, au pornit de la rezultate ciudate, care puteau fi ușor trecute cu vederea. Intuiția oamenilor le-a transformat în unele dintre cele mai importante momente științifice ale secolului trecut.

Poate AI să reproducă cu adevărat acel amestec de întâmplare fericită și ingeniozitate umană?

Kohli, de la DeepMind, nu crede că soluția este să întoarcem spatele AI. Asta ar fi „ca și cum ai spune că ar trebui să faci calcule fără să folosești calculatoare”, mi-a spus el. Totuși, recunoaște că sunt necesare limite și supraveghere umană: „Agenții de astăzi sunt imperfecți. Cineva trebuie să-și asume responsabilitatea.”

El propune un test simplu: „Trebuie să înțelegi ce a făcut agentul și să-ți asumi responsabilitatea. Nu poți doar să formulezi problema, apoi să lași mașina să scrie lucrarea și să o trimiți ca fiind adevărată.”

Prof. Andrea Pauli, de la Vienna BioCenter din Austria, a urmat acest principiu. Aproape zece ani a cercetat o întrebare la care nimeni nu a reușit încă să răspundă: cum ajunge un spermatozoid în ovul. Folosirea responsabilă a AI a ajutat-o să se apropie de un răspuns. Laboratorul său a identificat o proteină la suprafața ovulelor de pește-zebră, care indică existența unui mecanism de tip lacăt și cheie ce permite pătrunderea spermatozoidului.

Cazul ei oferă motive de speranță într-o mare de cercetări științifice de slabă calitate generate de AI. Arată că AI poate fi de ajutor.

Aceasta este și o poveste despre oameni. La scurt timp după înființarea Basecamp — laboratorul pe care l-am vizitat în fosta fabrică de ceasuri din Londra — cofondatorul Oliver Vince s-a îmbolnăvit și a ajuns în spital cu leucemie, de care s-a vindecat între timp. Experiența l-a motivat să dezvolte un sistem AI care să aibă șanse mai mari de a vindeca formele de cancer. Poate că nu va funcționa, spune el, dar merită încercat.

„Avem o cale fezabilă din punct de vedere tehnic pentru a vindeca cancerul”, spune el.

Vince nu face o promisiune, ci indică o direcție. Marea întrebare este dacă AI va duce știința acolo sau va eroda, pe nesimțite, temelia pe care aceasta se sprijină.