Meredith Whittaker: Folosirea neglijentă a inteligenței artificiale este adevărata amenințare, nu scenariile apocaliptice

Acest articol conține un limbaj vulgar.

Meredith Whittaker are puțină răbdare pentru scenariile apocaliptice legate de inteligența artificială, care domină titlurile. Ea consideră că avertismentele potrivit cărora AI s-ar putea întoarce împotriva omenirii reprezintă o teamă „care nu are la bază știința”.

„Riscul este foarte real”, spune directoarea Signal Foundation, organizația care administrează aplicația de mesagerie criptată cu același nume, „dar nu este vorba despre poveștile strălucitoare cu fantome pe care le spun băieții cu priviri rătăcite”.

În schimb, ea crede că pericolul cel mai imediat este folosirea neglijentă a tehnologiei.

Whittaker menționează un presupus incident în care un chatbot folosit de serviciile de informații americane ar fi inventat date despre o navă chineză care transporta materiale nucleare. Informațiile ar fi determinat Statele Unite să pregătească un răspuns militar.

„Aproape că am intrat în război cu China”, spune ea.

„Un sistem care produce informații eronate și aproape ne împinge într-un război cu China nu ar trebui considerat superinteligent, indiferent de standardele folosite.”

Signal are între 40 și 70 de milioane de utilizatori, o cifră mică în comparație cu WhatsApp, care are miliarde de utilizatori.

Cu toate acestea, aplicația este cunoscută pentru poziția sa fermă în apărarea vieții private. Signal ascunde de propriile servere identitatea persoanei care trimite un mesaj, limitând astfel cantitatea de date disponibilă pentru observatori externi sau hackeri.

Whittaker a fost desemnată una dintre cele mai influente persoane din domeniul inteligenței artificiale. Ea participă la discuții despre viitorul tehnologiei în locuri precum sălile de consiliu din Silicon Valley, Downing Street, Davos și Vatican.

A studiat literatura la universitate și s-a angajat la Google în 2006, ca lucrătoare temporară aflată la început de drum, fără diplomă în informatică.

La sfârșitul anului 2017, numele ei a devenit cunoscut după ce un coleg i-a vorbit despre Project Maven, un contract secret al Google cu Departamentul american al Apărării. Proiectul urmărea dezvoltarea unor sisteme de inteligență artificială pentru identificarea țintelor dronelor.

Whittaker a înțeles ce însemna „comprimarea lanțului de ucidere”: reducerea timpului dintre momentul în care o mașină semnalează o țintă și cel în care cineva decide să deschidă focul. Astfel, timpul pentru analiză și deliberare era micșorat. Împreună cu mii de colegi, ea s-a opus proiectului.

„Acest lucru va spăla imaginea unor informații și date proaste”, își amintește ea că a argumentat public.

În anul următor, Whittaker a contribuit la organizarea unei greve interne. Aproximativ 20.000 de angajați au protestat față de modul în care compania gestiona mai multe probleme, inclusiv ceea ce ei considerau a fi introducerea grăbită a unor tehnologii noi.

Google a renunțat la contract, iar proiectul a fost preluat de Palantir.

Whittaker trasează o legătură directă între Project Maven și atacul american cu rachete asupra unei școli din Iran, produs în acest an. Ea susține că atacul s-a bazat pe sistem și pe informații depășite, care identificaseră școala drept o țintă militară.

„Acesta este exact lucrul despre care avertizam în 2017”, spune ea.

Palantir a transmis că „nu există dovezi că software-ul Palantir a fost vinovat pentru această teribilă tragedie”.

Compania a adăugat că „Palantir nu este responsabil pentru datele de bază și nici pentru identificarea deficiențelor informațiilor”. La începutul acestui an, directorul Palantir pentru Regatul Unit și Europa, Louis Mosley, a declarat că „există întotdeauna un om în buclă, astfel încât există întotdeauna o persoană care ia decizia finală”.

Armata Statelor Unite nu a publicat încă rezultatele anchetei privind atacul de la Minab. Secretarul Apărării, Pete Hegseth, a afirmat însă că armata „nu va viza niciodată ținte civile”.

Guvernele, inclusiv cel al Regatului Unit, cer un acces mai mare la conversațiile purtate prin aplicațiile de mesagerie. Ele susțin că această măsură este necesară pentru protejarea femeilor și a copiilor.

La London Tech Week 2026, premierul de atunci, Keir Starmer, a declarat că firmelor de tehnologie li se va cere să detecteze și să blocheze imaginile nud de pe dispozitivele copiilor. În caz contrar, companiile ar putea fi vizate de noi legi.

Whittaker susține că cei mici ar putea ocoli astfel de măsuri. Ea descrie abordarea guvernului drept „un regim fără precedent de control al comunicării și al informațiilor”.

Departamentul pentru Știință, Inovare și Tehnologie a anunțat că pregătește o legislație în acest sens.

Ar renunța Signal la activitatea dintr-o țară, inclusiv din Regatul Unit, dacă autoritățile ar obliga compania să își slăbească sistemul de criptare?

„Da! Doamne, doar am și eu coloană vertebrală”, răspunde Whittaker. „Aceasta nu se schimbă în funcție de dispoziție. Nu se schimbă în funcție de consultanți.”

În situația în care ar trebui să expună supravegherii persoane „care se bazează pe noi, uneori în contexte de viață și de moarte”, iar această supraveghere ar putea fi folosită împotriva lor, ea spune că Signal „ar părăsi piața”.

Aplicația este blocată total sau parțial în Rusia, China și Iran.

Rani Govender, coordonatoare pentru siguranța copiilor în mediul online la National Society for the Prevention of Cruelty to Children, a declarat că organizația primește mesaje de la copii care au fost ademeniți și mutați pe platforme cu criptare integrală. Acolo, aceștia sunt constrânși să creeze materiale care prezintă abuzuri sexuale asupra copiilor.

„Companiile de tehnologie sunt responsabile pentru alegerile de design pe care le fac și nu pot ignora riscurile pe care aceste alegeri le pot crea pentru copii.”

Totuși, Signal beneficiază și de sprijinul unor grupuri pentru drepturile femeilor, în special al celor din Sudul Global, care folosesc ele însele aplicația.

„Într-o perioadă a supravegherii de stat și a atacurilor cibernetice, Signal este un instrument de supraviețuire”, spune Hera Hussain, fondatoarea organizației Chayn, care luptă împotriva abuzului de gen și activează în Asia de Sud.

„Orice platformă poate fi folosită și de persoane rău intenționate, iar noi trebuie să acceptăm și acest adevăr.”

I-am prezentat lui Whittaker cazul din Canada în care polițiștii au distribuit într-un grup Signal mesaje rasiste și misogine. Mesajele au devenit publice abia după ce unul dintre participanți le-a transmis mai departe.

Avocatul unuia dintre polițiști a spus că bărbații credeau că Signal era la fel de privat și de sigur ca propria lor locuință.

„Dacă ar fi purtat conversația în bucătărie, iar fratele lor ar fi divulgat-o, atunci întrebarea ar fi fost: «Ce facem în privința bucătăriilor?»”, întreabă ea.

„Trebuie să funcționeze pentru toată lumea sau nu funcționează pentru nimeni. Acesta este principiul drepturilor fundamentale. Ele se aplică inclusiv ticăloșilor.”

Whittaker indică și cazul unei femei din Statele Unite care a fost condamnată la închisoare după ce Meta a predat mesaje ce arătau că aceasta și-a ajutat fiica să aibă acces la un avort într-un stat în care procedura fusese incriminată.

Comunicarea privată, spune ea, protejează oamenii de numeroase forme de abuz: „un soț violent, un ofițer misogin de aplicare a legii care are acces la o bază de date sau un guvern autoritar care nu crede că femeile ar trebui să beneficieze de educație”.

Ce i-ar spune unei femei care vrea să lucreze în domeniul tehnologiei, dar se simte intimidată de caracterul dominat de bărbați al acestei profesii?

„Îți place cu adevărat?”, întreabă ea.

„Te așezi în fața unui terminal și simți un val de energie? Îți place să te joci cu sistemele de inteligență artificială și să le definești?”

Apoi face o pauză și continuă: „Ești capabilă să navighezi prin medii interesante și dificile, în care nu toată lumea va fi calmă și rezonabilă? Pentru că nu există nimic mai periculos decât să fii laș în fața unui bătăuș.”

Este întrebată dacă aceste medii sunt pline de bătăuși.

Colegul ei spune: „Cred că este ora 14:00”, momentul stabilit pentru încheierea interviului.

Meredith zâmbește. „Aș spune să nu fii un lingușitor”, afirmă ea, folosind un termen pentru o persoană care manifestă o supunere exagerată față de cei aflați în poziții de autoritate.

„Nu te va ajuta. Nu râde la glumă dacă nu ți se pare amuzantă.”