Deputață britanică din Suffolk dă în judecată xAI după ce chatbotul Grok a generat imagini sexuale false cu ea

O deputată din Suffolk a suferit „o încălcare gravă a demnității sale” după ce imagini și videoclipuri false, cu conținut sexualizat, au fost generate despre ea de chatbotul Grok al companiei xAI, potrivit documentelor depuse la Înalta Curte.

Jess Asato, deputat laburist pentru Lowestoft, a intentat proces împotriva xAI. Ea cere despăgubiri pentru faptul că imagini și videoclipuri create fără consimțământul ei, inclusiv unele în care apare agresată sexual, au fost distribuite online.

Asato solicită daune pentru folosirea abuzivă a informațiilor sale private și pentru încălcarea regulilor de protecție a datelor. În plus, cere o ordonanță judecătorească prin care compania să fie obligată să identifice și să elimine orice imagini rămase pe internet.

Până în prezent, xAI nu a depus încă un răspuns oficial în apărarea sa în acest litigiu.

În documentele instanței, publicate marți, avocații lui Asato susțin că aceasta a fost „victimizată” după ce, în ianuarie, a vorbit public împotriva imaginilor deepfake, create fără consimțământ, cu femei generate de Grok.

Marie Demetriou KC, reprezentanta legală a lui Asato, a precizat că deputata a publicat un mesaj pe X, în care i-a cerut lui Musk „să înțeleagă că folosirea inteligenței artificiale pentru a dezbrăca femei fără consimțământul lor este o agresiune sexuală menită să le degradeze și să le umilească”.

Ulterior, mai mulți utilizatori ai platformei X au cerut chatbotului Grok să creeze imagini „sexualizate, intime, extrem de ofensatoare, degradante, amenințătoare, umilitoare și/sau discriminatorii, realizate fără consimțământ” cu Asato, imagini care apoi au fost distribuite online, se arată în dosar.

După ce au fost făcute încercări de raportare a unor astfel de postări, platforma X a refuzat să le elimine, susținând în martie că acestea nu încalcă termenii de utilizare, politica de confidențialitate sau alte reguli ale sale.

Demetriou a spus că, deși două videoclipuri au fost ulterior înlăturate, șase dintre cele 21 de postări raportate în februarie erau încă active la sfârșitul lunii iulie.

Compania xAI a anunțat între timp că utilizatorii nu vor mai putea folosi instrumentul pentru a genera imagini sexualizate cu persoane reale.

Între timp a devenit ilegal în Regatul Unit să creezi sau să soliciți imagini deepfake cu adulți, realizate fără consimțământ.

Cu toate acestea, Demetriou susține că xAI „a eșuat și continuă să eșueze” în a împiedica generarea în continuare a unor astfel de imagini de către chatbot.

Ședința de judecată în acest caz nu a fost încă programată.