xAI, compania lui Elon Musk, dată în judecată pentru imagini sexualizate cu minori generate de Grok

Compania xAI a lui Elon Musk ar trebui să fie trasă la răspundere pentru că a permis modelelor sale de inteligență artificială să genereze imagini sexuale abuzive cu minori identificabili, susțin trei reclamanți anonimi într-un proces intentat luni la o instanță federală din California.

Cei trei reclamanți vor să transforme cauza într-un proces colectiv, reprezentând toate persoanele ale căror fotografii reale din perioada minoratului au fost modificate de Grok în conținut cu caracter sexual. Ei afirmă că xAI nu a implementat măsuri de bază, utilizate de alte laboratoare de vârf, pentru a împiedica modelele sale de imagine să producă pornografie în care apar persoane reale și minori.

Cazul, Jane Doe 1, Jane Doe 2, minoră, și Jane Doe 3, minoră, împotriva x.AI Corp. și x.AI LLC, a fost înregistrat la Curtea Districtuală a Statelor Unite pentru Districtul de Nord al Californiei.

Alți generatori de imagini bazați pe deep learning folosesc diverse tehnici pentru a preveni transformarea fotografiilor obișnuite în pornografie infantilă. Plângerea susține că aceste standarde nu au fost adoptate de xAI.

În mod deosebit, dacă un model permite generarea de conținut nud sau erotic din imagini reale, devine practic imposibil să se prevină apariția de conținut sexual în care să fie înfățișați copii. În acțiunea în instanță cântărește mult și promovarea publică făcută de Musk pentru capacitatea lui Grok de a produce imagini sexualizate și de a ilustra persoane reale în ținute sumare.

Compania nu a oferit niciun răspuns la o solicitare de comentarii trimisă de publicația care a relatat initial cazul.

Una dintre reclamante, Jane Doe 1, a descoperit că fotografii de la balul de liceu și din albumul ei școlar au fost transformate de Grok astfel încât să o arate dezbrăcată. Un denunțător anonim, care a contactat-o pe Instagram, i-a spus că imaginile circulă online și i-a trimis un link către un server de Discord unde erau distribuite fotografii sexualizate cu ea și cu alți minori pe care îi recunoștea din școală.

A doua reclamantă, Jane Doe 2, a fost informată de anchetatori penali despre imagini alterate și sexualizate cu ea, create printr-o aplicație mobilă terță parte care se bazează pe modelele Grok. A treia reclamantă, Jane Doe 3, a fost și ea notificată de către anchetatori, care au descoperit o imagine modificată, cu caracter pornografic, cu ea pe telefonul unei persoane reținute.

Avocații reclamanților susțin că, întrucât utilizarea de către terți presupune în continuare folosirea codului și a serverelor xAI, compania trebuie considerată responsabilă.

Toate cele trei reclamante, dintre care două sunt încă minore, afirmă că trăiesc o suferință extremă din cauza răspândirii acestor imagini și a consecințelor pe care le-ar putea avea pentru reputația și viața lor socială. Ele solicită aplicarea de sancțiuni civile în temeiul unei serii de legi menite să protejeze copiii exploatați și să prevină neglijența corporativă.