TikTok închide 20 de conturi cu influenceri virtuali de femei de culoare hiper-sexualizate, după o investigație BBC

TikTok a interzis 20 de conturi dupa ce a fost semnalata utilizarea unor influenceri virtuali – femei de culoare generate cu ajutorul inteligenței artificiale – pentru a direcționa utilizatorii spre site-uri cu conținut sexual explicit.

Aceste conturi fac parte dintr-un fenomen in creștere pe Instagram și TikTok, criticat ca fiind rasist, exploatator și înșelător, din cauza stereotypurilor rasiale și a limbajului folosit.

Au fost identificate zeci de conturi pe cele două platforme care prezintă personaje digitale sau avataruri de femei de culoare, foarte sexualizate, toate create cu ajutorul AI.

Imaginile și videoclipurile sunt generate de inteligența artificială, dar nu sunt etichetate ca atare, ceea ce pare să încalce regulile platformelor.

Aproape toate conturile sunt pe Instagram, iar aproximativ o treime există și în versiuni pe TikTok. Compania-mamă a Instagram, Meta, a declarat că investighează situația, dar nu a precizat ce măsuri concrete a luat.

Avatarurile apar adesea în costume de baie sumare sau în alte ținute foarte decoltate, fiind reprezentate cu forme corporale exagerate.

Unele au tonuri de piele extrem de închise, modificate digital, care le conferă un aspect artificial.

Numele conturilor includ frecvent termeni precum „black”, „noir”, „dark” și „ebony”. În postări apar și referințe la bărbați albi, de tipul „loves white men” sau „why I need a white guy in my life”. Multe dintre aceste conturi se urmăresc sau își dau like unele altora.

Au fost identificate 60 de astfel de conturi, în principal pe Instagram, care conțin linkuri sau lanțuri de linkuri către conținut sexual explicit cu plată, găzduit pe site-uri terțe. Pe acele site-uri imaginile erau etichetate ca fiind generate de AI, dar pe Instagram nu apărea nicio astfel de mențiune.

Cercetarea a scos la iveală și multe alte conturi, atât pe Instagram cât și pe TikTok, cu avataruri similare generate automat, care nu făceau însă trimitere la conținut cu plată.

Unul dintre conturile închise de TikTok – dar care era încă activ pe Instagram la momentul redactării – a stârnit și mai multă indignare pentru că a furat videoclipuri de la persoane reale.

Contul se prezenta drept profilul unui personaj digital foarte spectaculos și ajunsese la trei milioane de urmăritori în câteva săptămâni de la crearea sa, în decembrie.

Însă au fost prelucrate și repostate videoclipuri realizate de o creatoare de conținut reală, Riya Ulan, un model din Malaezia.

Fața avatarului, cu o nuanță excepțional de închisă a pielii, creată artificial, este suprapusă peste corpul Riyei, iar mișcările, vestimentația și decorul original sunt replicate.

„I was angry”, spune Riya. „Of course my videos are all out there… It doesn't mean that you can just take it and steal it and post it as your own.”

Unul dintre videoclipurile manipulate a ajuns la peste 35 de milioane de vizualizări pe TikTok și 173 de milioane pe Instagram, de circa 47 de ori mai multe decât vizionările obținute de postarea originală a Riyei.

Deși cele trei videoclipuri care corespund clar conținutului Riyei nu sunt sexuale, alte materiale de pe contul AI, cu același personaj digital, o prezintă în haine provocatoare sau în ipostaze sugestive. Un lanț de linkuri de la acest cont duce la conținut pentru adulți contra cost.

„Nu știu ce mă îngrijorează mai mult: faptul că au folosit videoclipul meu ca să-și promoveze conținutul explicit sau faptul că oamenii chiar cred în acea imagine”, spune ea.

Devine tot mai dificil pentru utilizatori să distingă între conținut real și artificial, iar „people keep on falling for these AI models”, adaugă Riya.

Mulți spectatori par să considere aceste avataruri drept persoane reale, în pofida trăsăturilor lor nerealiste. În postări sau în Stories, unele conturi neagă că ar folosi AI, inclusiv cel care i-a preluat conținutul Riyei.

Riya afirmă că a raportat în mod repetat contul pe ambele platforme, însă la acel moment conținutul nu fusese eliminat. TikTok a interzis contul doar după ce a fost solicitat un punct de vedere oficial.

„Cred că aceste conturi sunt rasiste pentru că existența lor perpetuează o istorie lungă de exploatare a persoanelor de culoare”, spune cercetătoarea Angel Nulani.

„Utilizarea caricaturilor, a terminologiei de «race-play» și a reprezentărilor nerealiste ale femeilor de culoare arată clar că nu le pasă de siguranța sau de bunăstarea noastră, ci doar de felul în care putem fi transformați în profit în mașina porno online”, adaugă ea.

Analistul Jeremy Carrasco, care comentează tendințele din AI pe rețelele sociale, consideră că „noul fenomen este cantitatea de reprezentări fără rușine, rasiste, ale unor persoane extrem de închise la culoare”.

Deși „acel fetiș” exista și înainte, inteligența artificială „îi dă un nou avânt”, explică el. AI ușurează eliminarea subtilităților din imagini și videoclipuri pentru a crea tonuri de piele foarte închise, nenaturale, precum și efecte care altădată ar fi cerut animație sau machiaj elaborat.

În plus, subliniază el, un avatar nu suportă consecințe sociale: „Nu există rușine… asta e ceva ce AI exploatează în mod unic.”

Modelul și creatoarea de conținut Houda Fonone, originară din Maroc și susținătoare a reprezentărilor mai autentice ale femeilor de culoare, spune că această tendință înseamnă „ștergere”.

„Păr mătăsos, corpuri extrem de slabe și o piele imposibil de perfectă… e ca și cum frumusețea neagră poate fi acceptată doar atunci când este «rafinată».”

În opinia ei, astfel de imagini riscă să întărească stereotipurile, în timp ce „poveștile noastre și experiențele reale de viață sunt înlocuite de o imagine artificială”.

Au fost trimise către Meta și TikTok exemple ale conturilor identificate și au fost solicitate reacții oficiale.

După două zile, un purtător de cuvânt al TikTok a declarat că platforma „a eliminat conținut și a interzis conturi care încalcă regulile noastre”.

În câteva zile, 20 de conturi au apărut în aplicație ca fiind „banned”.

„TikTok interzice conținutul generat de AI al persoanelor folosit fără permisiunea lor. Avem toleranță zero pentru conținutul care promovează servicii sexuale în afara platformei”, a mai precizat reprezentantul companiei.

Compania susține că interzice și elimină materialele generate de AI care sunt dăunătoare sau înșelătoare și că utilizatorii sunt obligați să marcheze conținutul realist creat cu ajutorul AI. A anunțat și că a aplicat etichetări corecte unor videoclipuri.

Meta a comunicat că investighează conținutul semnalat.

Spune că dorește ca oamenii să știe când privesc postări realizate cu ajutorul inteligenței artificiale și că are deja politici pentru etichetarea acestui tip de conținut. Nouă conturi de Instagram urmărite în cadrul investigației par să nu mai existe.

Nicio platformă nu a oferit detalii despre modul în care a reacționat la primele sesizări făcute de Riya.