Papa Leon cere reguli dure pentru inteligența artificială în război: deciziile de viață și de moarte trebuie să rămână la oameni

Tema utilizării inteligenței artificiale în conflictele militare a ajuns oficial în centrul atenției la Vatican. Papa Leon al XIV-lea a transmis unul dintre cele mai dure mesaje de până acum despre riscurile dezvoltării accelerate a tehnologiei AI și despre pericolul ca aceasta să ajungă să decidă cine trăiește și cine moare pe câmpul de luptă.

În primul său document major publicat după alegerea în fruntea Bisericii Catolice, Papa Leon avertizează că omenirea intră într-o perioadă extrem de sensibilă. Potrivit acestuia, inteligența artificială trebuie controlată strict și nu poate fi lăsată să depășească limitele morale sau responsabilitatea umană. El subliniază că, fără reguli clare, dezvoltarea tehnologiei ar putea scăpa de sub control.

Mesajul a fost transmis printr-o enciclică – document oficial prin care papa își exprimă poziția asupra unor teme esențiale pentru societate. În text, Leon susține clar că sistemele bazate pe AI nu trebuie să primească autoritatea de a lua decizii letale. Autoritatea finală în chestiuni de viață și de moarte, afirmă el, trebuie să rămână la oameni.

Pontiful atrage atenția și asupra modului în care chatbot-urile și alte forme de inteligență artificială sunt tot mai des prezentate ca echivalente ale gândirii umane. Din perspectiva Vaticanului, această direcție este periculoasă. Se diluează diferența dintre rațiunea omului și calculul mașinii, iar acest lucru poate afecta atât etica, cât și percepția asupra demnității umane.

Documentul reprezintă cea mai puternică poziție publică exprimată până acum de Biserica Catolică privind dezvoltarea tehnologiei AI și impactul ei asupra războiului, muncii și societății moderne. În același timp, mesajul are potențialul de a tensiona relația dintre Vatican și statele care investesc masiv în sisteme autonome și arme bazate pe inteligență artificială. Mai mult, papa sugerează că aceste guverne vor trebui să își asume o dezbatere etică serioasă.

Enciclica are și o dimensiune simbolică puternică. Este primul astfel de document emis de Leon după alegerea sa, iar papa a ales să îl prezinte personal – un gest rar la Vatican. La eveniment a fost prezent și Christopher Olah, antreprenor canadian din domeniul tehnologiei și cofondator al companiei Anthropic, prezență care subliniază dialogul direct dintre Biserică și lumea tehnologică.

În mesajul adresat episcopilor și credincioșilor catolici din întreaga lume, papa descrie dezvoltarea AI drept un punct de cotitură pentru civilizație. Nu vorbește doar despre tehnologie. Vorbește și despre modul în care ea poate schimba relația oamenilor cu responsabilitatea, cu moralitatea și chiar cu războiul. Pentru Leon, modul în care va fi folosită inteligența artificială va modela secolul acesta.

Textul insistă asupra riscurilor reprezentate de armele autonome, de algoritmii care pot lua decizii fără intervenție umană și de eliminarea responsabilității directe din actele de război. Practic, Vaticanul avertizează că distanțarea omului de consecințele violenței poate coborî foarte mult pragul moral al conflictelor. Când nu mai vezi rezultatul concret al acțiunilor tale, războiul devine mai ușor de declanșat.

Papa Leon nu cere interzicerea completă a tehnologiei AI. Dimpotrivă, el recunoaște potențialul ei pozitiv. Experiența sa academică este una neobișnuită pentru un lider religios: are studii avansate în matematică și a predat fizica înainte de a începe cariera religioasă. Tocmai această formație îl face să înțeleagă atât promisiunile, cât și riscurile tehnologiei.

Totuși, documentul subliniază că dezvoltarea inteligenței artificiale trebuie să rămână sub controlul principiilor etice și al unor legi clare. În opinia sa, noile tehnologii ar trebui să „servească cu adevărat umanitatea”, nu să reducă valoarea vietii umane sau să automatizeze violența. Reglementarea, dialogul internațional și transparența sunt prezentate ca fiind esențiale.

„Niciun algoritm nu poate face războiul acceptabil din punct de vedere moral”, a transmis papa în enciclică. Liderul de la Vatican consideră că folosirea AI în scop militar trebuie supusă celor mai dure reguli etice și mecanisme de responsabilizare. Fără aceste bariere, spune el, tentația de a delega mașinilor deciziile letale va deveni tot mai mare.

În finalul mesajului, avertismentul devine și mai direct. „Orice tehnologie care facilitează atacuri fără a vedea chipul ființelor umane reduce pragul moral al conflictului.” Declarația vine într-un moment în care tot mai multe guverne dezvoltă sisteme autonome bazate pe AI, iar dezbaterea despre rolul inteligenței artificiale în război și societate devine tot mai intensă la nivel global.