Adolescente dau în judecată xAI a lui Musk, acuzând Grok că a generat imagini pornografice cu ele

Compania de inteligență artificială a lui Elon Musk se confruntă cu un proces intentat de adolescente care susțin că firma a facilitat pornografia infantilă, permițând crearea de imagini sexuale explicite cu ele.

Plângerea împotriva xAI a fost depusă luni la un tribunal federal din California de trei tinere ale căror imagini și videoclipuri au fost modificate de un utilizator Grok, fără știrea lor, pentru a le prezenta dezbrăcate sau în ipostaze explicit sexuale.

Grok este un chatbot dezvoltat de xAI și găzduit pe platforma de social media X a lui Musk. xAI nu a răspuns unei solicitări de comentariu transmisă prin compania-mamă.

Acțiunea în instanță face parte din seria de consecințe declanșate de lansarea controversată de anul trecut a noilor funcții Grok, promovate de X ca fiind modul „spicy”.

Avocații tinerelor au afirmat că abilitatea lui Grok de a modifica imagini și videoclipuri a fost creată și lansată de xAI exclusiv pentru a crește utilizarea chatbotului și a platformei X.

Ei au comparat felul în care au fost transformate imaginile tinerelor cu „o păpușă de cârpă adusă la viață prin artele întunecate”.

„xAI — și fondatorul său Elon Musk — au văzut o oportunitate de afaceri”, se arată în plângere. „Știau că Grok poate produce astfel de rezultate, inclusiv utilizând imagini și videoclipuri cu copii, și totuși l-au lansat public.”

Tinerele cer despăgubiri al căror cuantum nu este specificat, precum și un ordin imediat care să interzică lui Grok generarea unor astfel de imagini.

„Viețile lor au fost distruse de pierderea devastatoare a intimității, demnității și siguranței personale”, au declarat avocații în plângere.

Două dintre adolescentele care au intentat procesul au sub 18 ani, însă toate trei își păstrează identitatea ascunsă pentru a-și proteja viața privată.

Una dintre reclamante a aflat de existența imaginilor după ce a primit un mesaj anonim pe Instagram, prin care era avertizată că există fotografii și videoclipuri cu ea, inclusiv poza din albumul de liceu, modificate pentru a o prezenta în acțiuni sexuale explicite și în nuditate totală.

Acest material era distribuit pe un server Discord, un spațiu privat de chat pe acea platformă, și includea imagini similare, de asemenea alterate cu ajutorul lui Grok, cu cel puțin alte 18 tinere care erau și ele minore, potrivit plângerii.

Celelalte două tinere care dau în judecată xAI au descoperit, la rândul lor, imagini false, sexual explicite, cu ele, postate online și identificate ca fiind create prin Grok.

Grok a fost lansat în 2023 de xAI, compania lui Musk. Firma, împreună cu rețeaua socială X, face acum parte din grupul SpaceX al lui Musk, care a preluat controlul asupra xAI luna trecută.

Anul trecut, xAI a lansat ceea ce a numit Grok Imagine sau „modul spicy” pentru Grok, cu funcții care permiteau utilizatorilor să ceară crearea de imagini false cu un conținut mai accentuat sexual.

Acest mod ajunsese chiar să „dezbrace” persoane reale din fotografii online, de la Taylor Swift la utilizatori obișnuiți.

În mai puțin de două săptămâni, Grok generase milioane de imagini sexualizate, inclusiv peste 20.000 cu copii, conform unei analize pe un eșantion de imagini realizate de Center for Countering Digital Hate.

Musk a minimalizat inițial capacitatea lui Grok de a crea conținut sexualizat fals, afirmând în ianuarie că nu era „conștient de nicio imagine nudă cu minori generată de Grok. Literal zero”, și a pus vina pe utilizatorii care au folosit această funcție.

„În mod evident, Grok nu generează imagini spontan, o face doar în funcție de cererile utilizatorilor”, a scris Musk pe X.

Pe măsură ce abuzurile asupra imaginilor online au continuat în acest an, autoritatea de reglementare din Regatul Unit, Comisia Europeană și statul California au deschis fiecare investigații asupra capacității funcției de a crea imagini sexualizate cu persoane reale, în special copii.

Până la jumătatea lunii ianuarie, X a anunțat că va implementa „măsuri tehnologice” pentru a bloca abilitatea lui Grok de a dezbrăca persoane în fotografii.

În cele din urmă, autorul din spatele serverului Discord menționat în noul proces a fost arestat. El nu este numit în acțiunea civilă, dar face obiectul unei anchete penale separate.

Potrivit plângerii, ancheta a descoperit că acesta deținea sute de imagini de abuz sexual asupra minorilor, generate sau modificate cu ajutorul inteligenței artificiale, pe care le tranzacționa pe platforma de mesagerie Telegram și pe platforma de partajare de fișiere Mega, se arată în documentele depuse în instanță.