Meta continuă să difuzeze în India reclame care promovează materiale cu abuzuri sexuale asupra copiilor, arată un raport

Atenție: acest material conține descrieri ale abuzurilor.

Meta a difuzat, în ultimele 10 luni, sute de reclame plătite care conțineau imagini generate cu ajutorul inteligenței artificiale și înfățișau abuzuri sexuale asupra copiilor, inclusiv mai multe în India, potrivit unui nou raport realizat de activiști din Statele Unite.

Raportul a fost publicat la două luni după ce guvernul indian i-a cerut companiei Meta să elimine toate reclamele și materialele care promovează conținutul cu abuzuri sexuale asupra copiilor (CSAM) pe Instagram. Decizia a venit după ce o investigație anterioară a constatat că pe Instagram erau difuzate în India reclame plătite care promovau astfel de materiale.

Proiectul Tech Transparency Project (TTP), cu sediul la Washington, afirmă că a identificat 332 de reclame cu materiale CSAM difuzate pe Facebook și Instagram. Majoritatea dintre acestea, 274, au fost publicate în luna august a acestui an.

Compania Meta a transmis: „Nu tolerăm aplicațiile de tip nudify și niciun fel de exploatare a copiilor, indiferent dacă este vorba despre materiale reale sau generate cu ajutorul inteligenței artificiale. Acești infractori își schimbă constant metodele pentru a evita detectarea, motiv pentru care ne consolidăm permanent sistemele de identificare și măsurile de aplicare a regulilor.”

Raportul TTP, publicat marți, afirmă că a identificat mai multe fotografii cu copii reali, inclusiv imaginea unui membru al unei familii regale europene, care au fost folosite în reclame și apoi manipulate cu ajutorul inteligenței artificiale. Potrivit documentului, peste o duzină de reclame au apărut pe platformele Meta chiar și după ce organizația a informat compania despre descoperirile sale.

Aproximativ un sfert dintre reclame, respectiv 84, au fost difuzate în India. Dintre acestea, 78 au fost publicate după ordinul guvernului indian privind eliminarea materialelor CSAM și după întâlnirea reprezentanților autorităților cu oficiali de rang înalt ai companiei Meta.

În urma investigației, mai multe agenții indiene, inclusiv Comisia Națională pentru Protecția Drepturilor Copilului și Comisia Națională pentru Drepturile Omului, au anunțat că examinează situația.

Distribuirea materialelor cu abuzuri sexuale asupra copiilor reprezintă o infracțiune în India. Politica Meta prevede, de asemenea, că reclamele nu trebuie să conțină materiale care exploatează sexual copiii sau îi expun unor pericole.

Meta a precizat că, atunci când află despre un caz aparent de exploatare a copiilor, îl raportează Centrului Național pentru Copii Dispăruți și Exploatați din Statele Unite (NCMEC), în conformitate cu obligațiile sale legale.

NCMEC reprezintă sistemul centralizat de raportare la nivel mondial pentru cazurile de exploatare sexuală a copiilor în mediul online.

Bhuwan Ribhu, fondatorul organizației Just Rights for Children, o rețea formată din peste 250 de organizații care lucrează pentru prevenirea violenței împotriva copiilor în India, consideră însă că această măsură nu este suficientă.

Just Rights for Children a depus o petiție la Curtea Supremă a Indiei, invocând constatările investigației, și a cerut instanței să emită instrucțiuni pentru platformele de socializare. Organizația solicită raportarea obligatorie și identificarea persoanelor care promovează materiale cu abuzuri sexuale asupra copiilor.

„Companiile de social media încalcă în mod clar legislația indiană, deoarece nu raportează conținutul privind abuzurile sexuale asupra copiilor autorităților indiene de aplicare a legii, așa cum prevăd legile noastre privind protecția copiilor”, a declarat Ribhu.

TTP, o inițiativă de cercetare a organizației nonprofit Campaign for Accountability, care urmărește să tragă la răspundere marile companii de tehnologie, a declarat că a găsit 332 de reclame cu materiale CSAM pe Instagram și Facebook. Acestea au fost difuzate în Statele Unite, Marea Britanie, Uniunea Europeană, Australia și India. Organizația afirmă că a raportat toate reclamele către NCMEC.

Potrivit TTP, aproape toate reclamele identificate începeau cu fotografia unui copil. Pe măsură ce videoclipul rula, fotografia era modificată cu ajutorul inteligenței artificiale, astfel încât copilul să pară implicat într-un act sexual explicit.

TTP a descris una dintre reclamele difuzate în India astfel: o fotografie a unei fete cu vârsta sub 13 ani era animată pentru a părea că aceasta realizează un act sexual explicit, în timp ce o voce afirma: „Nu există restricții. Toate personajele sunt persoane reale și există multe opțiuni. Aceasta este inteligența artificială folosită de fapt de bărbați.” Reclama nu a fost verificată direct.

Potrivit TTP, reclama a fost publicată de peste 50 de conturi diferite din India pe parcursul a două săptămâni, în luna august a acestui an.

În luna iulie, după investigația privind aceste materiale, Meta a publicat pe site-ul său o explicație detaliată despre modul în care combate exploatarea copiilor în cadrul aplicațiilor sale.

„Orice persoană de pe platformele noastre poate raporta reclamele dacă consideră că acestea încalcă politicile noastre”, a transmis compania.

TTP afirmă că a încercat să raporteze reclamele prin propriul sistem de raportare al Meta. Dintre cele 84 de reclame difuzate în India, organizația a reușit să raporteze 55. Meta permite raportarea reclamelor doar în perioada în care acestea sunt active.

În cazul a 43 dintre reclame, TTP a primit răspunsul: „Am analizat situația și am constatat că această reclamă nu încalcă Standardele noastre privind publicitatea.”

În cazul altor 11 reclame, organizației i s-a comunicat că materialele fuseseră deja eliminate. Pentru o singură reclamă nu fusese primit încă niciun răspuns.

Meta a transmis: „Am construit sisteme solide de protecție, inclusiv mecanisme care blochează reclamele ce încalcă regulile, precum și monitorizare permanentă, în cazul în care nu identificăm ceva la prima verificare. De aceea, multe dintre reclamele raportate către noi fuseseră deja eliminate, majoritatea având mai puțin de 200 de afișări, iar cheltuielile totale pentru reclame fiind mai mici de 5.000 de dolari.”

TTP a declarat că, după ce a solicitat un răspuns din partea companiei, toate reclamele raportate de organizație au fost eliminate.

O situație similară a fost constatată și în timpul investigației anterioare. Atunci când una dintre reclamele care prezentau abuzuri sexuale asupra copiilor a fost raportată prin sistemul Meta, platforma nu a eliminat-o.

Ulterior, compania a afirmat că dezactivase deja mai multe reclame și suspendase conturile care le publicaseră. Meta a mai spus că, în urma informațiilor primite, a eliminat reclame suplimentare, a dezactivat alte conturi și a blocat adresele URL către materiale care încălcau politicile sale.

TTP afirmă că marea majoritate a celor 332 de reclame identificate direcționau utilizatorii către aplicații de generare a imaginilor sau videoclipurilor cu ajutorul inteligenței artificiale. Cele mai multe dintre aceste aplicații erau dezvoltate de companii din China.

Raportul susține că promovarea acestor aplicații prin imagini cu abuzuri sexuale asupra copiilor lasă impresia că ele pot fi folosite pentru crearea sau vizualizarea materialelor CSAM.

Meta a declarat că interzice promovarea aplicațiilor de tip nudify, care folosesc inteligența artificială pentru a crea imagini false cu persoane dezbrăcate sau în situații explicite sexual, fără consimțământul acestora.

Shikha Goel, unul dintre principalii ofițeri de poliție cibernetică din India și directoarea Biroului pentru Securitate Cibernetică din statul Telangana, a declarat că una dintre cele mai mari provocări în cazul materialelor CSAM este „ușurința cu care utilizatorii pot trece de pe o platformă pe alta, ceea ce face mai dificilă prinderea lor”.

„Sperăm ca guvernul să abordeze această problemă în cadrul celor mai recente discuții cu intermediarii din domeniul rețelelor sociale și să le ofere instrucțiuni în consecință”, a adăugat ea.

Reclamele identificate în investigația anterioară direcționau utilizatorii și către o altă aplicație, serviciul de mesagerie Telegram, unde materialele puteau fi cumpărate cu doar 99 de rupii, echivalentul a aproximativ 1,05 dolari sau 0,80 lire sterline.

Telegram a transmis că folosește atât moderarea automată, cât și verificarea umană pentru a combate materialele CSAM și că a „eliminat practic răspândirea publică a materialelor CSAM” pe platforma sa.

Reclamele de pe platformele Meta sunt publicate numai după ce sunt aprobate de tehnologia de moderare a companiei. Sistemul de verificare se bazează în principal pe automatizare și este conceput pentru a analiza imagini, videoclipuri, texte și fișiere audio. De asemenea, acesta verifică publicul vizat de reclamă și destinația linkurilor incluse.

Meta a declarat că „niciun sistem nu este perfect” și că „infractorii hotărâți încearcă în continuare să exploateze platforma, inclusiv sistemele noastre de publicitate”.

TTP a constatat însă că mai multe dintre reclamele care prezentau abuzuri sexuale asupra copiilor au fost plasate de parteneri ai Meta din China, care oferă servicii de publicitate.

Acești parteneri, cunoscuți sub denumirea de „revânzători”, direcționează către Facebook și Instagram reclame chinezești în valoare de miliarde de dolari. Partenerii nu au răspuns întrebărilor adresate de TTP.

TTP a afirmat că noi reclame au continuat să apară chiar și după ce organizația a informat Meta despre rezultatele raportului său. Cercetătorii au transmis detalii despre 17 reclame, dintre care 11 au fost difuzate în India în perioada 1-2 septembrie.