Noua unealtă AI din Google Earth permite manipularea imaginilor satelitare și amplifică riscul de dezinformare, avertizează experții

Google a lansat un nou instrument de inteligență artificială care permite utilizatorilor să creeze imagini false prin suprapunerea aproape oricărui element peste imaginile sale satelitare foarte folosite.

Gigantul tehnologic a integrat generatorul de imagini AI Nano Banana 2 în Google Earth, astfel încât, pe baza unor comenzi text, pot fi generate scenarii fabricate peste un strat de bază cu imagini reale – satelitare, aeriene sau 3D – care apoi pot fi descărcate și distribuite pe alte platforme.

Specialiștii au criticat noul instrument, considerându-l un mijloc suplimentar de răspândire a dezinformării sub aparența legitimității oferite de Google, și au subliniat că există un potențial serios ca persoane rău intenționate să-l folosească abuziv.

Printre imaginile generate în cadrul unor teste s-au numărat un Turn Eiffel prăbușit, un crater uriaș care înghite Piramida lui Keops și tancuri rusești în capitala Ucrainei, toate create prin noua funcție introdusă joi.

Google încă nu a răspuns la întrebările formulate pe baza acestor teste, însă, într-o postare pe rețelele sociale, compania a afirmat că „take misinformation seriously” și că „we prevent image creation on harmful topics and are continually updating our protections”.

Expertul în inteligență artificială și dezinformare Henk van Ess a atras atenția asupra riscurilor. El a demonstrat cum pot fi generate imagini false ale unei centrale nucleare inexistente în Iran, ale unei tabere de refugiați la granița SUA-Mexic sau ale unui spital fictiv în Gaza, cu un crater de bombă lângă el.

Acesta a explicat că Google permite ca imagini „inventate” să fie „sudate de coordonate reale, desenate peste imagini reale”.

„The forgery does not have to look convincing on its own. It inherits the credibility of the map it was born on”, a adăugat van Ess, subliniind că falsul împrumută din credibilitatea hărții pe care este plasat.

Google susține că toate conținuturile create de instrumentele sale AI includ filigrane invizibile, menite să indice faptul că imaginile sunt false sau manipulate. Compania mai afirmă că oricine este „nesigur în privința unei imagini” o poate verifica prin aplicația chatbot Gemini sau utilizând funcția Lens din căutare.

În general, testele au arătat că aceste măsuri sunt eficiente pentru imaginile generate cu noua funcție. Totuși, au existat cazuri în care a fost posibil să fie ocolite aceste verificări, reușindu-se păcălirea lui Gemini astfel încât să considere unele imagini false din Google Earth ca fiind reale.

Teste efectuate cu instrumente externe de detectare AI au eșuat, în anumite situații, să identifice conținutul generat de Google Earth ca fiind produs de inteligență artificială.

Cercetătorul în detecția conținutului AI, Henry Ajdar, a subliniat că producerea de imagini false în zone de conflict poate deveni deosebit de „destabilizatoare”, mai ales când evenimentele se derulează rapid și informațiile verificate sunt puține.

„Jurnaliștii s-ar putea să verifice imaginea… și să relateze despre ea. Dar, din nou, nu toată lumea va face asta”, a spus el.

Google insistă că liniile directoare integrate în modelul său AI vor împiedica generarea de imagini care ilustrează „subiecte dăunătoare”. Cu toate acestea, testele au arătat că mici modificări ale comenzilor text pot permite ocolirea acestor restricții.

De exemplu, solicitarea de a crea o „platformă înălțată pentru spânzurarea trădătorilor” lângă Parlamentul Regatului Unit a fost respinsă. Când însă comanda a fost reformulată mai vag, cererea a fost acceptată și imaginea a fost generată.

A fost testată și o cerere de a tunde cuvântul „Trump” pe peluza din fața Casei Albe, iar sistemul a răspuns că nu poate „crea acea imagine” din cauza regulilor sale. În schimb, a acceptat să creeze în același loc o grădină comunitară.

În contextul fluxului continuu de imagini produse de AI, Ajdar a explicat că spațiile considerate „neatinse de inteligența artificială” devin foarte valoroase, mai ales pentru jurnaliști și pentru cei care lucrează în teren, în zone de criză în plină evoluție.

„Este îngrijorător, pentru că mai dispare un spațiu în care sursele de informații de încredere sunt erodate de îndoiala constantă că ar putea fi implicată inteligența artificială”, a adăugat el.

Pentru mulți utilizatori, Google Earth reprezintă punctul principal de acces la imagini satelitare disponibile publicului și poate fi folosit pentru a obține informații despre locuri greu accesibile.

„Acest lucru poate afecta în mod deosebit încrederea publică, deoarece imaginile satelitare au fost percepute, în mod tradițional, ca o sursă de date deosebit de demnă de încredere”, a explicat Bill Greer, analist geospațial și cofondator al serviciului satelitar non-profit Common Space.

El a adăugat că imagini satelitare falsificate au fost deja utilizate pentru a răspândi dezinformare. În același timp, guvernele restricționează tot mai mult accesul la date reale, ceea ce înseamnă că e probabil să apară mai multe imagini false și mai puține imagini autentice, fenomen care va slăbi și mai mult încrederea publicului.