Papa Leon al XIV-lea avertizează: inteligența artificială amplifică puterea elitelor și amenință democrația

Papa Leon al XIV-lea a publicat luni prima sa enciclică, intitulată Magnifica Humanitas, dedicată „protejării persoanei umane în vremea inteligenței artificiale”. Deși inteligența artificială este punctul de plecare, problemele asupra cărora se oprește Leon sunt mai vechi și mai răspândite: inegalitatea, războiul, erodarea democrației și concentrarea puterii în mâinile celor care nu sunt neapărat preocupați ca umanitatea, în ansamblu, să rămână măreață.

În întregul document de 200 de pagini, pe care papa l-a prezentat alături de cofondatorul Anthropic, Chris Olah, Leon susține că o tehnologie creată și guvernată de o elită restrânsă nu poate, prin definiție, să servească binele comun. Ideea este reluată constant și argumentată din mai multe unghiuri.

„Când o astfel de putere este concentrată în mâinile câtorva, ea tinde să devină opacă și să scape controlului public, crescând riscul unor forme distorsionate de dezvoltare care generează noi dependențe, excluderi, manipulări și inegalități”, scrie el.

Enciclica continuă: „De fapt, ca în cazul oricărei mari schimbări tehnologice, inteligența artificială tinde să amplifice puterea celor care dețin deja resurse economice, expertiză și acces la date”, subliniind temerile că elita poate folosi această putere pentru a „modela informația și modelele de consum, a influența procesele democratice și a dirija dinamica economică în propriul avantaj”.

Documentul apare la doar câteva zile după ce președintele Donald Trump a amânat semnarea ordinului său executiv privind inteligența artificială, un act care ar fi oferit guvernului drept de supraveghere asupra noilor modele înainte de lansarea lor, decizie luată, potrivit relatărilor, la insistențele investitorului de capital de risc și fost responsabil pentru AI la Casa Albă, David Sacks.

Papa Leon a cerut ca dezvoltarea și utilizarea inteligenței artificiale să fie ghidate de „criterii clare și o supraveghere eficientă”, ancorate în participarea comunităților direct afectate de aceste tehnologii. Mai concret, Leon solicită oprirea cursei înarmărilor în domeniul AI, a alergării „după algoritmi tot mai puternici și seturi de date tot mai vaste”, pe care companiile și statele le consideră cheia pentru a-și asigura „supremația geopolitică sau comercială”.

„A dezarma înseamnă a discredita prezumția că puterea tehnică conferă automat dreptul de a guverna”, afirmă el în enciclică, exprimând clar ruptura față de logica puterii bazate exclusiv pe progres tehnologic.

Aceste dinamici, subliniază papa, preced cu mult apariția inteligenței artificiale. Enciclica Rerum Novarum a Papei Leon al XIII-lea, din 1891, aborda aceeași problemă a concentrării puterii în timpul Revoluției Industriale. Și, de fapt, nici nu este nevoie să privim atât de departe înapoi. Preluarea Twitter de către Elon Musk și folosirea platformei în sprijinul alegerii lui Trump, precum și sutele de milioane de dolari direcționate de elitele tehnologice către super PAC-uri pentru a bloca reglementarea AI ilustrează exact tiparul care a inspirat reflecțiile lui Leon al XIV-lea.

Papa ajunge la aceeași concluzie la care au ajuns deja mulți observatori: puterea aproape ireală și capacitățile tehnologiilor actuale de inteligență artificială ridică miza într-un mod enorm. Riscurile sunt mai mari, iar consecințele, mai greu de ignorat.

Profesorul Paolo Carozza, de la Facultatea de Drept a Universității Notre Dame, membru al Academiei Pontificale de Științe Sociale și președinte al Consiliului de Supraveghere Meta, a declarat că dezinformarea generată de AI și deepfake-urile au „corodat capacitatea noastră de a recunoaște ce este adevărat și ce nu este adevărat, iar acest lucru are cu adevărat consecințe pentru politica democratică”. El a adăugat că practica industriei tehnologice de a „culege și manipula” datele umane ridică „provocări fundamentale la adresa libertății cognitive”.