L’intelligenza artificiale deve essere disarmata”. È stato come un urlo, quasi improvviso, questa frase, seppure espressa pacatamente da Leone XIV, durante l’illustrazione della sua prima Enciclica “Magnifica humanitas – Sulla custodia della persona umana nel tempo dell’intelligenza artificiale”. Il Pontefice ha aggiunto: “I sistemi di armamento autonomi sono sempre più preoccupanti. L’intelligenza artificiale ora richiede di essere disarmata, liberata cioè dalle logiche che la trasformano in uno strumento di dominio, di esclusione e di morte. Come per l’energia nucleare, anche l’intelligenza artificiale deve essere al servizio di tutti e del bene comune. Le decisioni riguardanti la tecnologia non devono mai essere separate dalla coscienza e dalla responsabilità – ha sottolineato il Papa – La pace, non intesa come la mera assenza del conflitto, è una giustizia all’opera. Ma quando la tecnologia indebolisce il nostro senso critico, anche la pace corre il rischio di sparire”.
Ha sottolineato con particolare vigore il Pontefice: ”Lo sviluppo e l’uso dell’AI in campo bellico devono essere sottoposti ai più rigorosi vincoli etici, nel rispetto della dignità, evitando una corsa agli armamenti”. Un monito implicito a quei Paesi che da anni bloccano ogni tentativo delle organizzazioni internazionali di limitare l’uso dell’IA nei conflitti: chi non vuole freni all’IA sono gli Stati Uniti, Israele e la Russia. Tutti artefici di una contemporaneità perennemente in guerra.
Chi si aspettava un’Enciclica che si soffermasse solo sugli aspetti filosofici e morali del progresso incalzante, aveva sbagliato. Papa Prevost entra nel vivo della contemporaneità e cerca di mutarne gli indirizzi rivolgendo un monito forte alla politica: “Le regole vanno bene – ha detto – i principi etici sono irrinunciabili. Ma oggi non serve un’IA più morale, se questa morale è decisa da pochi. Serve essere vigili, non accontentarsi del disarmo, delineando insieme la speranza nel futuro. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”.
Il perché di questa necessità di presenza forte della politica nel momento in cui l’intelligenza artificiale pervade sempre di più ogni aspetto della nostra vita, è indicato dal Papa in modo capillare. “Come accade per ogni grande svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Alla luce del bene comune e della destinazione universale dei beni, questo fenomeno desta seria preoccupazione: piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio, contraddicendo la giustizia sociale e la solidarietà tra i popoli. Per questo è indispensabile che l’impiego dell’IA – soprattutto quando coinvolge beni pubblici e diritti fondamentali – sia accompagnato da criteri chiari e controlli effettivi – ha sottolineato il Papa ispirati alla partecipazione e alla sussidiarietà: le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi”.
Il documento affronta l’impatto della rivoluzione digitale, evidenziando alcune derive legate alle reti sociali e al web, manipolazione e opacità primo luogo. L’Enciclica mette in guardia dalla manipolazione informativa. I social media, attraverso i loro algoritmi, possono distorcere la realtà e rendere le relazioni impersonali.
Il Pontefice denuncia il “colonialismo dei dati“, lo sfruttamento dei lavoratori invisibili dietro il mondo digitale e le insidie di un’esistenza in cui le persone rischiano di essere controllate e alienate dagli strumenti tecnologici. Viene sottolineato il rischio che l’abuso o la dipendenza da questi mezzi riduca lo spazio per una vera fraternità ed esperienza relazionale, invitando a non innalzare una nuova “torre di Babele” tecnologica.
Dunque, si tratta di un’Enciclica contro la tecnologia, di un’abiura dell’intelligenza artificiale? No, certamente no. “Chiedere prudenza, verifiche rigorose, e talvolta anche un rallentamento nell’adozione dell’IA – ha detto Papa Prevost – non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana”. In questo, Magnifica humanitas “si pone in profonda continuità con Laudato si’ e Laudate Deum”, testi in cui “Papa Francesco ha insegnato – ha sottolineato il Pontefice – che quando il potere tecnico è separato da una sapienza capace di salvaguardare le relazioni, esso può trasformarsi in dominio sull’umanità e sul creato”.
Magnifica humanitas esprime la richiesta di Papa Leone di far crescere la tecnica tutelando la dignità umana, ricordando che la persona non è risorsa da sfruttare, auspicando che le conoscenze e le tecnologie non siano concentrate nelle mani di pochi, alimentando il divario tra inclusi ed esclusi dalla rivoluzione digitale. L’auspicio è che l’IA non sia una nuova discriminante per far diventare i ricchi più ricchi e i poveri più poveri. Forte il richiamo alla Rerum Novarum firmata da Papa Leone XIII il 15 maggio 1891, definita “pietra miliare nell’evoluzione del magistero sociale”, motivata dalla necessità dei profondi mutamenti nella vita delle persone introdotte dalla rivoluzione industriale, con rischi di alienazione e sfruttamento: “Oggi – ha detto il Papa – quei rischi si ripropongono in modo esponenziale con l’intelligenza artificiale”.
L’Enciclica è suddivisa in cinque capitoli, più un’introduzione una conclusione: È stata illustrata dal Pontefice nell’Aula del Sinodo in Vaticano, nel corso di una presentazione coordinata dal Cardinale segretario di Stato, Pietro Parolin, con i Cardinali Michael Czerny, prefetto del Dicastero per il Servizio dello Sviluppo umano integrale, e Víctor Manuel Fernández, prefetto del Dicastero per la Dottrina della Fede. Ma hanno preso la parola prima del Pontefice anche alcuni laici: Anna Rowlands, professoressa di Teologia politica, Dottrina sociale della Chiesa ed Etica teologica delle migrazioni umane presso il Dipartimento di Teologia e Religione della Durham University, in Inghilterra; Leocadie Lushombo, professoressa di Teologia politica e Pensiero sociale cattolico presso la Jesuit School of Theology della Santa Clara University, in California e Christopher Olah, cofondatore di “Anthropic” e responsabile della ricerca sull’interpretabilità dell’IA.
Non appare casuale la scelta di Anthropic, la Big Tech messa al bando da Trump. Olah ma sottolineato che “i produttori dei modelli di IA hanno bisogno di osservazioni critiche. L’Enciclica lo è nel modo più alto e noi siamo pronti a dialogare con la Chiesa e con chi voglia farlo”. Il Papa ha subito accettato la proposta, come unica strada da percorrere. Perché il treno dell’innovazione corre veloce e non può essere fermato. E allora è necessario agire intorno ai temi fondamentali ricordati dall’Enciclica: “Non possiamo considerare l’IA moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso non è un semplice strumento “da usare bene”: introduce già un criterio che contraddice la dignità inalienabile della persona. Nel contesto digitale, il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione. Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”.
E ancora: “Tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”. Di conseguenza, aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti. Si manifesta pertanto l’urgenza di un duplice impegno: da un lato, un approfondimento della ricerca scientifica, dall’altro, un esercizio di discernimento morale e spirituale. Per questo, il discernimento etico non può limitarsi a domandare se usiamo un certo sistema per uno scopo buono o cattivo, ma deve anche chiedersi come esso venga progettato e quale idea di persona e di società risulti inscritta nei dati e nei modelli che lo guidano”
L’Enciclica non trascura neppure i rischi per la sostenibilità ambientale: “Gli attuali sistemi di IA richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva. Con l’aumento di complessità, soprattutto nei grandi modelli linguistici, crescono anche i bisogni di potenza di calcolo e capacità di archiviazione, che si appoggiano su un insieme di macchine, cavi, centri dati e infrastrutture energivore. Per questo è essenziale sviluppare soluzioni tecnologiche più sostenibili per ridurre l’impatto sull’ambiente e custodire la nostra Casa comune”.
Il nodo della trasparenza dei processi è ben chiaro nel testo dell’Enciclica: “Perché l’IA rispetti la dignità umana e serva davvero il bene comune, è essenziale che siano chiare le responsabilità in tutti i passaggi: da chi progetta e addestra i sistemi fino a chi li utilizza e a chi decide di affidare ad essi le scelte concrete”.
Come ha sottolineato il Cardinale Parolin, “l’Enciclica, in fondo, ci invita a guardare alla tecnica con fiducia e discernimento. Il compito che ci attende supera il solo piano normativo e regolatorio, pur necessario – ha sottolineato il Segretario di Stato – è anche un compito educativo, spirituale e culturale per formare coscienze capaci di abitare il tempo dell’intelligenza artificiale senza smarrire la libertà, di utilizzare strumenti potenti senza esserne dominati, di restare umani in un ambiente sempre più plasmato da logiche automatizzate”.
Papa Leone ha sottolineato la presenza della Chiesa al tavolo globale in cui si dibatte l’intelligenza artificiale: “A quel tavolo – ha detto – noi portiamo una saggezza che riguarda l’umano e l’epoca attuale, in cui ogni persona è unica e insostituibile e soggetto, libero, intelligente, dotato di coscienza”.
L’Enciclica si conclude con la speranza nell’intelligenza artificiale come strumento di miglioramento delle condizioni di vita dell’uomo, di riequilibrio tra Paesi sviluppati e non. Mezzo per evitare discriminazioni e disuguaglianze, votato al bene comune. Uno strumento, appunto, di fronte al quale l’Enciclica invita a “restare umani”, sfuggendo l’assolutezza dal paradigma tecnocratico e l’illusione di un IA onnipotente: “La vera meraviglia – ha sottolineato il Papa – resta l’uomo”.
Conclude l’Enciclica, citando San Paolo: “Ciascuno stia attento a come costruisce. Ci siamo chiesti che cosa voglia dire custodire la persona umana nel tempo dell’intelligenza artificiale. In un mondo attraversato da tante manovre che puntano a conquistare mercati e spazi di influenza, spesso rivestite da retoriche rassicuranti e costruzioni ideologiche seducenti, il nostro cuore avverte il bisogno di scoprire un disegno diverso, sapiente e benevolo, simile a quello che Maria contempla nel Magnificat, quando proclama che di generazione in generazione la misericordia di Dio si stende su quelli che lo temono. Questo disegno di misericordia attraversa la storia anche oggi – si legge nella Magnifica Humanitas – dentro i passaggi più rapidi e inquieti segnati dagli algoritmi e dalle reti globali, e diventa la bussola per un’esistenza evangelica nell’era digitale”.
A QUESTO LINK IL TESTO INTEGRALE DELL’ENCICLICA
https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html#Le_res_novae%20del_nostro_tempo
