Comisia Europeană investighează X pentru imaginile sexuale deepfake generate de Grok AI asupra femeilor și copiilor

Compania X, detinută de Elon Musk, este anchetată de Comisia Europeană din cauza îngrijorărilor că nu a reuşit să împiedice chatbotul său Grok AI să răspândească imagini deepfake „ce pot constitui material susceptibil de abuz sexual asupra copiilor”.

Scandalul imaginilor generate de Grok a avut un impact mondial încă de la începutul acestui an. Pornind de la simpla comandă „Grok, pune-o în bikini”, mii de utilizatori ai reţelei sociale X au folosit inteligenţa artificială integrată în platformă pentru a dezbrăca, fără consimţământ, femei, adolescente şi chiar copii.

Comisia Europeană a anunţat luni că această anchetă – care riscă să atragă un nou val de critici din partea Casei Albe – va verifica dacă platforma socială a evaluat şi a atenuat în mod corespunzător riscurile asociate cu implementarea Grok în X în cele 27 de ţări ale UE.

„Deepfake-urile sexuale neconsensuale cu femei şi copii sunt o formă violentă şi inacceptabilă de degradare”, a declarat comisarul european pentru tehnologie, Henna Virkkunen. Cazul intră sub incidenţa regulamentului blocului european privind conţinutul online, Legea serviciilor digitale, care impune restricţii ferme asupra materialelor dăunătoare şi ilegale de pe internet.

În ultimele săptămâni, condamnarea globală a Grok s-a intensificat. Utilizatori din mai multe ţări au semnalat că chatbotul AI generează imagini sexualizate, care apoi sunt postate pe X, ceea ce a provocat reacţii rapide din partea autorităţilor de reglementare şi a organizaţiilor care apără siguranţa copiilor.

Autoritatea de reglementare în domeniul comunicaţiilor din Marea Britanie, Ofcom, investighează deja oficial dacă X a încălcat Legea britanică privind siguranţa. Franţa şi India s-au implicat, de asemenea. Acestea acuză Grok de crearea ilegală de imagini sexualizate ale persoanelor fără consimţământul lor.

X, filială a companiei xAI, a declarat anterior că elimină conţinutul ilegal, inclusiv materialele legate de abuzuri sexuale asupra copiilor, că suspendă conturile care îl distribuie şi că lucrează cu autorităţile de aplicare a legii acolo unde este necesar.

Ancheta asupra Grok vine după ce X a fost deja sancţionată separat cu 120 de milioane de euro (142 de milioane de dolari) de UE în temeiul DSA. În acest caz, autorităţile de supraveghere au concluzionat că simbolul cu bifă albastră, serviciul plătit al X, a indus în eroare utilizatorii. Platforma a refuzat să acorde experţilor acces adecvat la date şi nu a reuşit să creeze în mod corespunzător un fond de publicitate, ceea ce a dus la penalizări.

În conformitate cu DSA, care a intrat în vigoare în 2023, UE poate aplica platformelor online amenzi de până la 6% din veniturile lor globale anuale dacă acestea nu combat conţinutul ilegal sau dezinformarea ori nu respectă regulile stricte de transparenţă. Înainte de aplicarea amenzii de către UE, în decembrie, vicepreşedintele SUA, JD Vance, a scris pe X că „UE ar trebui să susţină libertatea de exprimare, nu să atace companiile americane pentru nişte prostii”.