Instagram anchetează conturi AI care sexualizează persoanele cu dizabilități

Compania Meta, care deține Instagram, investighează conturi de pe rețelele sociale generate cu ajutorul inteligenței artificiale, care sexualizează persoane cu dizabilități prezente pe platforma sa.

Investigația a început după ce au fost semnalate zeci de profiluri cu imagini generate de AI reprezentând femei cu dizabilități, inclusiv cu sindrom Down sau vitiligo.

Unele profiluri publică imagini și clipuri false cu femei care au membre lipsă, cicatrici vizibile sau folosesc scaune cu rotile. Multe dintre ele apar în ipostaze sexualizate și poartă haine sumare.

Unele conturi au strâns în doar câteva luni sute de mii de urmăritori. Un profil care pretinde că reprezintă două surori siameze are aproximativ 400.000 de urmăritori, deși s-a alăturat platformei Instagram abia în decembrie 2025.

Kamran Mallick, director executiv al organizației Disability Rights UK, a declarat că apariția unor „conturi care fetișizează, batjocoresc sau monetizează identitățile persoanelor cu dizabilități este pur și simplu îngrozitoare”.

El a adăugat: „What we have here is technology weaponised to strip disabled people of their agency and dignity, turning our lived experiences into digital caricatures for the profit and titillation of others.”

Organizațiile medicale și de caritate și-au exprimat, la rândul lor, îngrijorarea. Un purtător de cuvânt al Gemini Untwined, organizație care finanțează intervenții chirurgicale de specialitate pentru nou-născuți cu o formă rară de unire la nivelul capului, a spus că prezentarea persoanelor siameze ca simplu divertisment este „moralmente condamnabilă”.

Acesta a explicat: „We witness first-hand the medical challenges that these children and their families endure, which makes the portrayal of conjoined twins as a form of entertainment or spectacle especially problematic.”

Dr. Amy Gaeta, de la Universitatea din Cambridge, a declarat că studiază modul în care inteligența artificială schimbă raporturile de putere în raport cu genul și dizabilitatea. Ea a subliniat că internetul este „inundat” de instrumente de generare de imagini cu AI gratuite sau foarte ieftine.

Inteligența artificială generativă reprezintă un tip de software care creează conținut nou pe baza tiparelor învățate din date existente, ca răspuns la comenzile formulate de utilizator.

Gaeta a menționat că unele instrumente au anumite restricții de conținut, cum ar fi interzicerea comenzilor sexual explicite. Alte instrumente nu au astfel de limite sau pot fi foarte ușor ocolite.

„Sometimes, without my prompting or intent, hypersexualized images of disabled people will be generated. This clearly shows a bias in the datasets that these tools are trained upon”, a spus ea, subliniind aceste derapaje.

Un purtător de cuvânt al autorității de reglementare a comunicatiilor a declarat că instituția „urmărește modul în care evoluează AI, riscurile care pot apărea și ce acțiuni ar putea fi necesare pentru a le aborda”.

El a explicat că regulile privind siguranța online impun companiilor tehnologice să combată conținutul ilegal și să protejeze copiii de material dăunător – inclusiv conținut abuziv sau instigator la ură.

Legea privind Siguranța Online cere platformelor precum Instagram să aplice în mod consecvent termenii și condițiile de utilizare, inclusiv în situațiile în care conținutul batjocorește persoane pe baza unor caracteristici protejate, cum ar fi dizabilitatea.

Comisia pentru Egalitate și Drepturile Omului a apreciat că profilele semnalate sunt „profund tulburătoare” și a adăugat: „Este esențial să existe competențe de reglementare solide în spațiul digital, pentru a proteja oamenii de prejudicii.”

Un purtător de cuvânt al Meta a anunțat că firma investighează acest conținut și că elimină materialele care promovează exploatarea sexuală sau atacă persoanele pe baza unor caracteristici protejate.

Deși aceste conturi creează personaje false, există îngrijorări serioase în legătură cu comenzile și modul în care sunt folosite instrumentele generative din spatele lor.

Alison Kerry, șefa departamentului de comunicare al organizației pentru egalitatea persoanelor cu dizabilități Scope, a declarat că această practică echivalează cu „discriminare deghizată în conținut”.

„These AI images don't appear from nowhere – they're built from real disabled people's images, often without consent – and unmoderated comment threads turbocharge objectification and harassment”, a adăugat ea, insistând asupra lipsei de consimțământ și a efectelor comentariilor nemoderate.

Gaeta consideră că moderarea pe platforme precum Instagram nu este suficient de puternică. Din acest motiv, ea atrage atenția că măsurile actuale nu reușesc să țină pasul cu abuzurile facilitate de noile tehnologii.

„Even when safeguards are in place, it has been proven relatively easy to bypass these if someone is insistent enough on doing so”, a spus ea, arătând cât de ușor pot fi eludate filtrele existente.

„Big tech needs to be held accountable just as much as misogyny and ableism need to be tackled”, a concluzionat ea, subliniind nevoia de responsabilizare a marilor companii tehnologice în paralel cu combaterea mizoginiei și a ableismului.