Clarifai șterge 3 milioane de fotografii furnizate de OkCupid pentru antrenarea unui AI de recunoaștere facială, după o investigație FTC

Platforma de inteligență artificială Clarifai a șters 3 milioane de fotografii despre care afirmă că le-a obținut de la OkCupid pentru antrenarea sistemelor sale de recunoaștere facială, potrivit agenției citate. Compania a eliminat, de asemenea, toate modelele de inteligență artificială care au fost antrenate folosind aceste date.

Conform investigației FTC, Clarifai a cerut în 2014 aplicației OkCupid să îi pună la dispoziție date, într-un moment în care unii dintre directorii OkCupid investiseră deja în Clarifai. Ulterior, aplicația de dating ar fi furnizat fotografii încărcate de utilizatori, împreună cu date demografice și de localizare. Această practică ar fi trebuit să fie interzisă de propriile politici de confidențialitate ale OkCupid.

„We’re ⁠collecting data now and just realized that OKCupid must have a HUGE amount of awesome data for this,” i-a scris fondatorul și CEO-ul Clarifai, Matthew Zeiler, cofondatorului OkCupid, Maxwell Krohn, într-un email citat în documentele de instanță analizate de Reuters.

Deși incidentul pare să fi avut loc în urmă cu doisprezece ani, FTC nu a deschis o investigație decât în 2019. Atunci a apărut un articol în presa americană despre Clarifai, în care se menționa că firma folosise imagini de la OkCupid pentru a dezvolta un instrument de inteligență artificială capabil să estimeze vârsta, sexul și rasa unei persoane pe baza trăsăturilor faciale.

Procesul dintre FTC și OkCupid, deținut de grupul Match, a fost soluționat luna trecută. La acel moment, OkCupid și Match Group nu au admis acuzațiile privind inducerea în eroare a utilizatorilor prin încălcarea propriilor politici de confidențialitate. Totuși, confirmarea Clarifai că a șters datele sugerează că firma a avut într-adevăr acces la acele fotografii și le-a folosit. FTC a mai susținut că, începând din 2014, Match Group și OkCupid au ascuns în mod deliberat aceste practici și au încercat să obstrucționeze investigația.

Reprezentanții OkCupid și Clarifai nu au răspuns imediat solicitărilor de comentarii trimise de presa de specialitate. Acest refuz sau întârziere lasă în continuare unele întrebări deschise cu privire la modul concret în care au fost utilizate datele.

Deși FTC nu are posibilitatea de a amenda companiile pentru acest gen de încălcare la prima abatere, instituția a stabilit că OkCupid și Match sunt „permanent interzise să denatureze sau să ajute alte părți în denaturarea” naturii modului în care colectează și partajează datele. Astfel, OkCupid și Match nu mai pot recurge la astfel de practici, care, în mod formal, erau deja nepermise potrivit regulilor impuse de FTC, insa acum interdicția este explicită și permanentă.