“L’intelligenza artificiale è una grande sfida che dobbiamo accettare, ma dobbiamo anche discuterla, contestarla, perché sia ospitale e abitabile“. E’ la metafora che mons. Renzo Pegoraro, arcivescovo, presidente della Pontificia Accademia per la vita , utilizza per sottolineare il monito che Papa Leone XIV ha lanciato nell’enciclica Magnifica Humanitas: “disarmare” l’IA. In un’epoca di cambiamenti e di eccezionali sviluppi della tecnologia, nella quale sembra che i diritti umani e i valori della pace e della reciproca comprensione siano messi da parte, la sua istituzione assume un ruolo chiave nell’affrontare le tematiche della bioetica globale, il dialogo con le discipline scientifiche, l’intelligenza artificiale e le biotecnologie, la promozione del rispetto e della dignità della vita umana in tutte le sue fasi. Mons. Pegoraro è laureato in Medicina presso l’Università di Padova e ha poi conseguito la licenza di Teologia Morale all’Università Gregoriana di Roma.
Mons. Pegoraro, partiamo da un tema che accende il dibattito internazionale in questo momento. L’intelligenza artificiale, che è un software eccezionale che libera tempo e dunque creatività, sta invece diventando uno strumento del potere al livello globale. Sul piano dei rapporti di forza abbiamo visto, per esempio, che Donald Trump ha interdetto Anthropic a mettere a disposizione i due modelli più importanti di intelligenza artificiale al di fuori dei confini degli Stati Uniti.
Vorrei partire dall’enciclica di Papa Leone, la Magnifica Humanitas. Il Pontefice chiede di “disarmare l’intelligenza artificiale”. Che significa?
Anzitutto occorre premettere che l’intelligenza artificiale rappresenta una grande sfida e quindi ancora non comprendiamo del tutto i benefici che offre nel campo della sanità, dei trasporti, in quello della gestione delle risorse economiche e finanziarie, insomma in tutti gli ambiti in cui ormai è presente, perché è estremamente diffusa e pervasiva. Ci sono tuttavia anche forti preoccupazioni. Non riusciamo ancora a decifrare bene, e interpretare quindi in maniera corretta, quali siano i risultati positivi e quali siano quelli inquietanti, pericolosi o le derive che generano. Allora, è importante accettare la sfida, favorire l’informazione, la trasparenza e la partecipazione – in quelle che chiamiamo in maniera forse più precisa le intelligenze artificiali – ed essere più responsabili, perché attualmente le intelligenze artificiali sono nelle mani di pochi, soprattutto del mondo americano o dell’area cinese.
Alcune delle Big Tech contano capitalizzazioni di 4.500 miliardi dollari, superiori al Pil di molti paesi…
C’è un grande investimento di capitali che però non si riesce ancora a comprendere quale ritorno avranno e come verrà utilizzato lo sviluppo dell’intelligenza artificiale che è ancora in atto. Senza dimenticare l’impatto ambientale consistente legato al consumo energetico e a quello di acqua per il raffreddamento dei grandi data center che sono utilizzati.
Secondo dati statistici pubblicati dall’Economist il 40% degli americani è preoccupatissimo per l’impatto ambientale dei data center.
In alcuni stati americani la preoccupazione è molto seria, per esempio il Texas. L’impatto è notevole e adesso i dati sono più chiari. Fino a poco tempo fa era un ambito che veniva un po’ trascurato, quasi nascosto. Adesso è esploso perché se non hai più acqua, perché tutta viene utilizzata per sistemi di raffreddamento, il problema è reale.
In questo scenario credo che la prima istanza che anche Papa Leone sottolinea è quella del maggior coinvolgimento di tutti, di una nuova responsabilità etica a vari livelli che coinvolga chi produce, chi costruisce, chi sviluppa le intelligenze artificiali, chi le utilizza a vari livelli e chi è chiamato anche alla responsabilità di governo delle intelligenze artificiali e quindi il ruolo della politica, del diritto, e anche dell’educazione e della formazione . C’è un passaggio importante dell’enciclica Magnifica Humanitas, che invita a disarmare l’intelligenza artificiale. Il Papa lo dice non solo al livello militare, che è motivo di grande preoccupazione, ma anche al livello cognitivo e a quello dell’impatto generale sulla vita delle persone. Invita anche a discutere e a contestare l’intelligenza artificiale proprio perché sia ospitale e abitabile. A non lasciarla nelle mani di pochi con le loro prospettive o interessi, talvolta ideologie.
Nel 2020 la Chiesa lanciò la Rome Call for AI ethics. L’iniziativa voleva essere un ponte verso i produttori di tecnologia digitale per un approccio trasparente. Quali sono i principali dilemmi etici che dobbiamo affrontare?
La Rome Call for AI Ethics è il frutto di un gruppo di lavoro transdisciplinare che ha coinvolto fino dall’inizio alcune società, in particolare Microsoft, IBM, a cui si sono aggiunti Cisco, Qualcomm, Salesforce, per condividere una piattaforma etica che sia punto di riferimento per la responsabilità e la governance dell’intelligenza artificiale. Nella Rome Call c’è una distinzione in tre capitoli: etica, educazione e diritto. Sei principi etici si ritengono basilari per sviluppare poi quella che è stata riconosciuta anche da Papa Francesco come una algoretica, cioè un’etica dell’algoritmo. La questione è come da questi principi si possano declinare delle indicazioni etiche più precise da definire nei vari ambiti, cioè nel campo per esempio della medicina e della sanità, ma anche nel campo del lavoro e in quelli dell’industria e dell’ambiente. Uno dei principi che la carta fondativa ricorda è la trasparenza che rimane ancora un problema: come l’intelligenza artificiale arriva a delle conclusioni, vale a dire come funziona il sistema dell’algoritmo o degli algoritmi esistenti. Un altro è il tema dell’inclusione: come evitare discriminazioni o che gruppi vengano esclusi dall’impostazione e dal funzionamento delle intelligenze artificiali. Poi il tema della accountability cioè dell’affidabilità dei sistemi e quello della sicurezza e della privacy. Bisogna garantire che i dati raccolti e utilizzati siano comunque tutelati, perché se entriamo per esempio nel campo della sanità occorre ricordare che i sistemi utilizzeranno molti dati dei malati, dei pazienti, delle persone. Come garantire la protezione di tutto questo?
Lei ha già accennato alla questione della responsabilità. Con gli agents AI, si arriverà a una realtà nella quale entità autonome si sostituiscono alle persone nel processo decisionale in modo non trasparente . Soprattutto si pone il problema della responsabilità delle scelte e delle decisioni. Chi ce l’ha? La macchina non può avere nessuna responsabilità.
Dobbiamo precisare che stiamo usando delle metafore. La macchina non ragiona. Di fatto non è neanche intelligente nel senso umano del termine, ma ha una grande capacità di calcolo e quindi di connessione di tante informazioni/dati, per cui riesce a ricostruire delle conclusioni ad altissima precisione statistica. La macchina non decide, ma stabilisce una connessione che ha un’altissima probabilità di essere coerente con determinate premesse e con i dati che è riuscita ad analizzare per arrivare a determinate conclusioni. E’ qui che si pone il problema della trasparenza . Sono stati sviluppati dei sistemi migliori in alcuni campi specifici di applicazione che offrono anche l’informazione sulle sorgenti, le risorse utilizzate per arrivare a quella conclusione. Ma la responsabilità rimane sempre umana, perché la macchina non ha consapevolezza di quello che fa e non può rispondere di quello che fa. Bisogna comprendere allora dove e come si collochi la responsabilità morale e eventualmente anche legale delle persone coinvolte.
E’ un aspetto essenziale del dibattito attuale…
Un dibattito già presente in letteratura e già con alcuni aspetti concreti. Riguarda per esempio la figura del medico che utilizza l’intelligenza artificiale per una diagnosi veloce e anche ben fatta, completa, adeguata. La qualità ormai è molto alta, ma spetta al medico assumere la responsabilità professionale nella decisione conclusiva. Quindi una cosa è avvalersi dell’intelligenza artificiale, un’altra cosa è seguirla passivamente. Se avviene, come è già successo, un errore, allora di chi è la responsabilità in termini morali, ma soprattutto legali? C’è in atto una discussione ampia sul caso in cui l’errore di diagnosi dipenda dalla macchina. Che ha dei difetti, dei bias cognitivi, perché non è estremamente precisa sulla questione che viene chiamata a trattare. Occorre che sia chiaro se c’è un errore da parte di chi ha fatto il contratto, parlo dell’ospedale, con una data società per utilizzare quel sistema, oppure se anche il medico non è stato preparato e non è capace di valutare attentamente quello che la stessa intelligenza artificiale offre. Quindi bisognerà discernere a quale livello si pone la responsabilità e come prevenire determinati errori. Qui si ritorna al capitolo importante della formazione di medici, ma anche dei manager, delle direzioni, per capire di che cosa si tratta ed essere anche più partecipi e responsabili nell’utilizzo dell’intelligenze artificiale.
Si pone anche la questione drammatica della disuguaglianza che si sta sempre più accentuando in modo significativo fra chi ha a disposizione questi strumenti e i cittadini in generale. Si pongono problemi seri per i nostri sistemi democratici. Come regolare il rapporto fra le nuove potenze tecnologiche e le democrazie europee. Al livello mondiale l’Europa ha una capacità di elaborazione di intelligenza artificiale del 5%, gli Stati Uniti del 75%. Siamo in una situazione di sostanziale colonizzazione che può portare alla crisi dei nostri sistemi. Questi nuovi potentati privati si appoggiano soprattutto a movimenti populistici che dirigono l’insofferenza, la ribellione contro le disuguaglianze verso le minoranze, verso gli immigrati, verso i più fragili.
L’osservazione è giusta e anche la preoccupazione. L’Europa ha fatto un passo in avanti importante, pur essendo così debole da un punto di vista dello sviluppo dell’intelligenza artificiale, perché si è dotata di un regolamento entrato in vigore all’inizio del 2025.L’AI Act dell’Ue stabilisce alcuni criteri di protezione dei dati, di alcune tutele da garantire. E’ uno sforzo significativo. L’intelligenza artificiale si sviluppa sempre più rapidamente e quindi è difficile anche per il diritto gestire le sue possibilità, i suoi limiti e i rischi . Il diritto, la politica e i governi devono proseguire nel loro sforzo e nella loro responsabilità.
Lei è ottimista?
Si sta confermando fortemente il bisogno di una crescita etica che coinvolga le grandi società di intelligenza artificiale. Che coinvolga gli scienziati e i tecnici impegnati nello sviluppo dell’intelligenza artificiale, le varie realtà professionali e le varie istituzioni che già la utilizzano. Si sta delineando la possibilità – cosa che anche Papa Leone cita nell’Enciclica – che per esempio nel campo medico o nel campo del lavoro, nel campo economico o ambientale, di sviluppare codici etici più precisi, più definiti e anche più facilmente aggiornabili in base agli sviluppi che ci sono e che diventano patrimonio di tutti i soggetti. Sono la garanzia anche di fronte alla società di voler rispettare determinati valori e principi . Chi utilizza l’IA, parlo delle istituzioni, parlo degli ospedali, parlo dei sistemi sanitari, verifica che vengano rispettati determinati i codici di comportamento che sono stati definiti.
Si tratta di creare una vera cultura diffusa…
Certamente, è importante che l’intera popolazione sia coinvolta in modo tale che conosca cosa sono le intelligenze artificiali, quali sono i rischi che possono presentare e che faccia anche molta attenzione ai dati che si forniscono tante volte in maniera inconsapevole. La popolazione sia meno passiva o rassegnata, ma molto più consapevole e protagonista. E qui entra in gioco la democrazia, perché la democrazia va garantita, va sviluppata ovviamente con la partecipazione e responsabilità di tutti, dalla politica alle professioni, ai mondi culturali, ma anche dell’intera popolazione perché l’intelligenza artificiale rischia di creare delle gravi discriminazioni. Il Papa stesso ricorda che l’IA non è neutra, ma rappresenta sempre anche una certa visione della persona, della società, del bene comune, della giustizia. Qualche company tecnologica è andata in una direzione un po’ ideologica. Sta imponendosi un’ideologia nella Silicon Valley dove alcuni hanno una visione delle persone e dei rapporti sociali molto particolare. Anche molto pericolosa . Non è di tutti , ma è un’ideologia già in qualche modo giustificata, che richiama le profezie di George Orwell, prima nella Fattoria degli animali, e poi in 1984, il romanzo del Grande Fratello che sa e decide cosa è bene per le persone perché lo considera intelligente. L’errore è definire intelligente quello che è frutto di un’ideologia.
E’ l’involuzione della Silicon Valley. Partiti da una posizione libertaria anche condivisibile si è trasformata in un antistatalismo in funzione di un potere enorme…
E’ quello che indicava appunto Orwell: nella fattoria degli animali c’è l’idea che tutti sono uguali, ma qualcuno è più uguale degli altri.
Solo la Cina, egli Emirati Arabi hanno reso obbligatoria nelle scuole la formazione sull’intelligenza artificiale. Lei come vede la possibilità di creare una percorso di formazione, che poi è educazione al pensiero critico, l’unico che serve per poter gestire questi strumenti?
Ritengo che sia necessario, possibile e anche urgente introdurre l’educazione alle intelligenze artificiali nelle scuole, ma anche in tante altre realtà che sono importanti nella formazione dei giovani, ai quali far conoscere e capire meglio alcuni concetti e meccanismi delle intelligenze artificiali e insegnare loro a essere più protagonisti. Tanti ragazzi hanno già una certa dimestichezza un po’ con i social, un po’ con l’intelligenza artificiale, per cui non è così difficile aiutarli a conoscere e a essere più protagonisti. Ho detto delle scuole, ma ci sono anche associazioni, per esempio nell’ambiente ecclesiale che ha tante attività di formazione dagli oratori agli scout, alle attività sportive. Deve esserci uno spazio in cui si affronta anche questo tema . Ormai le pubblicazioni sono tante, ci vorrebbe però più bibliografia essenziale accessibile ai ragazzi a seconda anche delle diverse fasce di età. E’ interessante negli Stati Uniti la protesta in alcune università come Stanford di giovani laureandi e laureati che protestano contro l’intelligenza artificiale. E’ fondamentale per l’università coltivare uno spirito critico.
In foto mons. Renzo Pegoraro
