Cum au ajuns videoclipurile false cu „declinul urban” din Marea Britanie, generate de AI, să domine rețelele sociale

Un videoclip generat cu ajutorul inteligenței artificiale prezintă o mulțime de tineri – în mare parte de culoare – purtând cagule și jachete groase, alunecând pe un tobogan de apă într-o piscină murdară, plină de gunoaie plutitoare. Legenda descrie scena drept un parc acvatic finanțat din banii contribuabililor, aflat în Croydon.

Este unul dintre numeroasele deepfake-uri care ilustrează scene adesea absurde de declin urban, pretinzând în mod repetat că sunt filmate în același cartier din sudul Londrei. Zeci de conturi imitatoare au început să producă conținut similar, iar la un loc au adunat milioane de vizualizări pe TikTok și Instagram Reels.

Aceste videoclipuri false s-au integrat într-un fenomen mult mai larg – creatori de conținut și influenceri online descriu orașe occidentale precum Londra, Manchester, San Francisco sau New York drept locuri copleșite de imigranți și criminalitate.

Fenomenul a fost numit „decline porn”. Astfel de narațiuni – adesea exagerate sau inventate, uneori în mod evident satirice – alimentează furia și reacțiile rasiste ale unor spectatori care le iau de bune.

Originea videoclipurilor AI despre Croydon a fost identificată pentru un podcast nou, Top Comment, care analizează poveștile din spatele fluxurilor noastre de social media. A ieșit la iveală un nou tip de falsificator online, care trăiește din engagement, dar își asumă foarte puțin responsabilitatea pentru modul în care conținutul său poate fi folosit pentru a împinge narațiuni politice divizive.

Rușinea legată de postarea de materiale fabricate pare să fi dispărut complet.

Creatorul, care folosește pseudonimul online RadialB, susține că nu se aștepta să genereze imitatori sau să devină provocator politic. Spune că își dorește ca materialele lui să fie amuzante – dar în același timp vrea ca oamenii să creadă că scenele false sunt reale, pentru a le capta atenția.

„Dacă oamenii l-ar vedea și ar ști imediat că e fals, ar trece mai departe. Punctul forte al modelelor generative AI este că arată a realitate”, afirmă RadialB la telefon. Refuză să își dezvăluie identitatea, dar spune că are puțin peste 20 de ani și este din nord-vestul Angliei. Nu a fost niciodată în Croydon.

El explică faptul că invenția parcului acvatic, a grădinii zoologice și a acvariului din Croydon generate cu AI a fost „doar parte din evoluția către lucruri din ce în ce mai amuzante sau absurde”. Unele dintre videoclipuri „au explodat”, spune el, deoarece erau foarte grafice, prezentând oameni care zboară de pe tobogane.

Tinerii bărbați din clipurile sale sunt „roadmen”, un termen de argou pentru adolescenți sau tineri de la oraș, frecvent asociați cu trafic de droguri, după cum explică, și sunt „arhetipuri culturale” pe care le folosește constant în materialele sale. O postare în care roadmen apar în Parlament a strâns, potrivit lui, opt milioane de vizualizări într-o singură zi.

Întrebat despre comentariile rasiste provocate uneori de videoclipurile sale, el spune: „Nu neg asta”, dar adaugă că „comentariile sunt filtrate”, adică platformele șterg insultelor rasiste. TikTok, Instagram și X au politici care interzic abuzul rasist.

RadialB afirmă că, atunci când generează conținutul cu AI, nu își propune ca personajele să aibă o anumită rasă sau etnie, ci folosește promptul „roadmen wearing puffer jackets, track suits, and balaclavas” deoarece astfel ies personajele „cele mai amuzante”.

Deși respinge orice intenție politică, în clipuri apar facilități absurde, descrise ca fiind „finanțate din banii contribuabililor”. El susține că „politica engleză este un fel de hazna parazitară” și sugerează, într-o notă provocatoare, „să îi înlocuim pe toți cu roadmen”.

Mai multe videoclipuri includ mici etichete care menționează că sunt „AI-generated” sau conțin „synthetic media”, în conformitate cu politicile TikTok, Instagram și X privind materialele create cu inteligență artificială. Cu toate acestea, unii dintre cei care au comentat au spus că au fost convinși că imaginile sunt reale.

RadialB recunoaște că videoclipurile declanșează reacții politice: „Aș putea să postez ceva și ar apărea oameni de 50–60 de ani în comentarii, furioși, spunând tot felul de lucruri politice.” Totuși, el sugerează că o parte dintre comentarii sunt ironice.

Alți utilizatori au criticat valul de astfel de videoclipuri „AI slop” ca fiind un stereotip rasial nedrept despre cartierul lor. Un utilizator de TikTok de culoare din Croydon, numit C.Tino, a postat un răspuns, afirmând că trendul prezintă în mod fals zona drept „ghetto”.

„Aceste videoclipuri îi fac pe oameni să creadă că asta este viața reală. Situația scapă de sub control acum”, a spus el.

RadialB declară că a început să producă acest tip de conținut datorită „saltului uriaș” în calitatea și accesibilitatea instrumentelor de inteligență artificială. Ele „reduc enorm bariera de intrare” pentru oricine vrea să creeze „lucruri false”, susține el.

Spune că multe dintre conturile care redistribuie postările sale o fac probabil pentru vizualizări și clickuri – și pentru a încerca să monetizeze conținutul pe alte platforme, cum ar fi Facebook.

Utilizatori din țări precum Israel și Brazilia au declarat că au împărtășit aceste videoclipuri pentru că „primeau engagement” sau pentru a „intra în trend”. Câteva conturi care postează în limba arabă, aparent din Orientul Mijlociu, au distribuit și ele de mai multe ori clipuri ce susțin că Londra este în declin – inclusiv cele realizate în Croydon.

Au fost identificate și mai multe profiluri de TikTok care se prezintă drept conturi de știri britanice, dar care publică exclusiv astfel de videoclipuri generate cu AI despre Londra sau alte materiale negative despre orașele din Regatul Unit și Statele Unite.

Aceste deepfake-uri se suprapun peste o tendință deja existentă: videoclipuri care prezintă orașe europene și americane ca fiind în plin declin urban din cauza criminalității și imigrației. Uneori surprind situații reale – furturi de telefoane, persoane fără adăpost, graffiti sau consum de droguri – însă fără să ofere contextul mai larg.

Din ce în ce mai des însă, realitatea este distorsionată cu ajutorul AI.

Un YouTuber sud-african, Kurt Caz, și-a construit o audiență de peste patru milioane de abonați postând vloguri de călătorie cu titluri precum „Atacat de hoți în Barcelona!” și „Amenințat în cel mai rău oraș din Regatul Unit!”.

După ce a publicat recent un videoclip numit „Evitați acest loc din Londra”, a fost acuzat că a folosit inteligența artificială pentru a modifica miniatura, accentuând imaginea Londrei ca fiind unul dintre „cele mai varză orașe” în care ar fi fost vreodată.

În miniatură apărea un bărbat pe bicicletă, purtând cagulă, în fața unor firme scrise în limba arabă.

În videoclipul propriu-zis însă, firmele de pe North End, în Croydon, sunt în engleză, biciclistul nu poartă cagulă, iar Caz îi face semn cu degetul mare în sus după o discuție prietenoasă.

Pe X, Kurt Caz a respins criticile la adresa miniaturii, catalogând-o drept „clickbait” și afirmând: „dacă vrei să faci un material împotriva mea, fă-l cum trebuie”.

Ideea unui Regat Unit și a unei Europe în declin a fost preluată și de figuri influente, cu profil foarte vizibil, între care proprietarul X, Tesla și Space X, Elon Musk, care a vorbit anul trecut la un miting organizat de activistul de extremă dreapta Tommy Robinson, Unite the Kingdom.

„Ceea ce văd eu este distrugerea Marii Britanii. Inițial o eroziune lentă, dar care se accelerează rapid, printr-o migrație masivă și necontrolată”, a spus Musk. Este un subiect despre care postează frecvent pe contul său de X, urmărit de peste 230 de milioane de persoane.

Deși există discuții legitime care pot fi purtate despre imigrație și criminalitate, o mare parte din acest conținut depășește cu mult dovezile existente în realitate.

În ianuarie, institutul de sondare YouGov a publicat date noi care arată că o majoritate a britanicilor consideră Londra nesigură, dar doar o treime dintre cei chestionați în capitală au fost de acord – iar 81% dintre ei au spus că propriul lor cartier este sigur.

RadialB insistă însă că nu a intenționat să devină un influencer de „decline porn”, ci vrea doar să stârnească râsul printr-o formă de „artă” care exploatează sistemele de recomandare ale platformelor. El pare să se spele pe mâini de orice responsabilitate pentru modul în care conținutul său este folosit sau copiat.

Spune că i-a fost interzis contul de TikTok pentru că ar fi postat conținut detectat drept grafic sau nepotrivit. Dar și-a creat deja un nou cont, unde continuă să posteze același tip de videoclipuri, cu „roadmen” în „infinity pools” murdare și la „bufete finanțate din taxele contribuabililor”.