Ottantuno anni fa l’aviazione degli Stati Uniti lanciò due bombe atomiche sulle città giapponesi di Hiroshima e di Nagasaki. La prima, il 6 agosto, chiamata deliziosamente Little Boy, basata sulla fissione dell’uranio ( 64,13 chilogrammi di uranio arricchito all’80 %), aveva una potenza equivalente a quella di circa 16.000 tonnellate di tritolo; uccise circa 80mila persone e altrettanti furono i feriti; molte altre moriranno nei mesi e negli anni successivi a causa delle radiazioni.
Little Boy 
Fat Man
La potenza equivalente della seconda (chiamata Fat Man per la sua forma), basata sulla fissione del plutonio, equivaleva a circa 21 mila tonnellate di tritolo e causò circa 30.000 morti immediati e altrettanti feriti; molti altri in seguito.(il calcolo delle vittime è oggetto di diverse valutazioni che vanno da oltre 100 mila a 250 mila morti in totale).
E veniamo ai nostri giorni. Interessante il discorso di Giorgio Parisi, Premio Nobel per la fisica 2021, discorso tenuto nel giugno all’Accademia dei Lincei. in occasione del conferimento del Premio per la Pace della Fondazione Ducci . Riguarda i pericoli al tempo delle armi autonome e dell’AI. Ne riportiamo alcune parti.
“Signore e signori, autorità, care amiche e cari amici,
vi ringrazio per questo riconoscimento, che ricevo con sincera gratitudine e, lo confesso, con un certo imbarazzo. Sul piano personale non mi sento all’altezza di un premio per la pace. Non ho dedicato la mia vita a costruire la pace: ho fatto il fisico, ho studiato i sistemi disordinati, le transizioni di fase, i vetri di spin. Se accetto questo premio, lo faccio perché lo interpreto non come un omaggio alla mia persona, ma come un riconoscimento al ruolo che la scienza, e gli scienziati, possono e devono avere nella ricerca della pace.
Lo dico perché sono convinto che lo scienziato non debba sostituirsi al politico, e tanto meno pretendere di avere ricette per i grandi problemi del mondo. Ma ha un dovere preciso: mettere a disposizione di tutti la propria competenza, spiegare con onestà ciò che sappiamo e ciò che non sappiamo, e dire la verità anche quando è scomoda. La storia che vorrei raccontarvi questa sera è la storia di scienziati che, di fronte alla possibilità della fine, hanno deciso di non tacere.(…..).
Vorrei sottolineare un punto che mi sta a cuore: questa è una delle cose che la scienza può offrire alla pace. Non solo conoscenze tecniche, ma un metodo e un linguaggio comuni, che non hanno passaporto, e una comunità abituata a discutere guardando ai fatti più che alle bandiere. Quando i diplomatici non riescono a parlarsi, a volte due fisici che hanno studiato sugli stessi libri trovano ancora un terreno comune. E da quel terreno comune può ripartire la fiducia.(….)
Vengo ai nostri giorni. Per molto tempo abbiamo creduto che il pericolo nucleare appartenesse al passato. Non è così. Quasi ogni giorno sentiamo riaffiorare le minacce di un possibile uso delle armi atomiche. Il numero complessivo delle testate è enormemente diminuito, dalle circa sessantamila degli anni Ottanta alle attuali diecimila; ma queste armi restano in grado di devastare completamente l’emisfero settentrionale. Siamo ancora, in sostanza, nella stessa logica di distruzione reciproca assicurata di allora.
La grande stagione dei trattati, cominciata nel 1963 subito dopo la crisi di Cuba, si è esaurita. Alcuni accordi sono scaduti, altri sono stati denunciati, altri firmati ma non ratificati. E non si riesce ad arrivare a un impegno chiaro sul non utilizzo per primi delle armi nucleari, il cosiddetto no first use, che pure sarebbe una garanzia elementare. A tutto questo si aggiungono le guerre che abbiamo sotto gli occhi, in Ucraina e in Medio Oriente, con il loro tragico carico di vittime civili e di milioni di profughi.
Credo che il compito di noi scienziati, oggi come allora, sia duplice: spiegare con onestà all’opinione pubblica i rischi reali, senza allarmismi e senza minimizzazioni, e chiedere ai governi di riaprire negoziati seri sul disarmo, che coinvolgano tutte le potenze nucleari. È proprio quando sembra meno realistico che bisogna preparare la pace. (…..)
Una frontiera nuova: armi autonome e intelligenza artificiale
Fin qui ho parlato delle armi nucleari, che sono state la grande sfida della mia generazione. Ma vorrei dedicare gli ultimi minuti a una sfida nuova, che riguarda soprattutto le generazioni che verranno. Il Manifesto Russell-Einstein fu la risposta degli scienziati a un’arma che la scienza stessa aveva reso possibile. Oggi una tecnologia nuova ci pone domande sorprendentemente simili.
Sappiamo tutti che la scienza è un’arma a doppio taglio. La scienza aumenta il potere dell’uomo, ma è l’uomo a scegliere in quale direzione usarlo. Ogni volta che si compie un grande progresso è necessaria una profonda riflessione su ciò che è lecito fare e ciò che non si deve fare. L’intelligenza artificiale non sfugge a questa regola. Ha già portato benefici straordinari e può essere fonte di grande prosperità; ma solleva anche questioni serie, sul lavoro, sulla riservatezza dei dati, sui valori etici, sulla fiducia che possiamo riporre nei suoi risultati.
Il fronte che mi preoccupa di più è quello militare. L’intelligenza artificiale apre la strada alle armi autonome: sistemi capaci di selezionare e colpire un bersaglio senza un intervento umano diretto, i cosiddetti sistemi d’arma autonomi letali. Sarebbe un salto di qualità che potrebbe cambiare i connotati stessi della guerra. Armi di questo tipo rischiano di innescare una nuova corsa agli armamenti, di abbassare la soglia con cui si decide di entrare in guerra, e di finire nelle mani di regimi oppressivi o di gruppi terroristici.
Ma c’è una ragione ancora più profonda per fermarsi a riflettere Non possiamo permettere che sia un algoritmo a risolvere problemi etici delicatissimi. Uccidere o non uccidere una persona che sembra un combattente nemico, ma forse non lo è? Quanti morti civili sono un «danno collaterale» accettabile, espressione che usiamo soprattutto quando i morti non sono i nostri? Come evitare di colpire dei bambini? Sono decisioni che non possono essere delegate a una macchina: la responsabilità deve restare sempre legata a esseri umani identificabili, che ne rispondano davanti alla legge e davanti alla propria coscienza.
Anche su questo gli scienziati non sono rimasti in silenzio.
Nel 2019, a Parigi, le accademie scientifiche dei paesi del G7 firmarono all’unanimità una dichiarazione intitolata «Intelligenza artificiale e società». Ne conservo un ricordo particolare, perché in quei giorni guidavo la delegazione italiana come presidente dell’Accademia dei Lincei. Quel documento chiedeva trasparenza e discussione pubblica, e ricordava la proposta di mettere al bando le armi autonome con una convenzione analoga a quelle che già vietano le armi chimiche e biologiche.
Le difficoltà che incontriamo oggi sui trattati nucleari non devono farci credere che un accordo internazionale contro le armi autonome letali sia impossibile. È difficile, ma è possibile, a patto di affrontare con chiarezza tutti gli aspetti del problema. Quello che serve, prima di tutto, è non rassegnarsi. Troppo spesso l’opinione pubblica assiste all’introduzione di queste armi come a un destino ineluttabile. Non lo è. Gli scienziati hanno il dovere di spiegare questi rischi in modo comprensibile, e i mezzi di informazione quello di esercitare una pressione perché chi governa compia passi concreti per proteggere l’umanità dalle forme più crudeli della guerra.
Ma vorrei dire una cosa che mi sta particolarmente a cuore, e che va oltre le armi. La pace non si costruisce soltanto con i trattati sugli armamenti. Si costruisce riducendo le diseguaglianze, che sono una delle radici profonde dei conflitti. Si costruisce eliminando le guerre, comprese quelle commerciali ed economiche, che impoveriscono e contrappongono i popoli. Si costruisce coltivando la solidarietà, dentro e fuori i nostri confini.
La lotta contro le diseguaglianze, del resto, non può essere separata dalla lotta contro il cambiamento climatico: sono due facce dello stesso problema, quello di un mondo che deve imparare a considerarsi una sola comunità. Un mondo più giusto è anche un mondo più sicuro. È una verità antica, che la scienza, con i suoi strumenti, ci aiuta oggi a vedere con maggiore chiarezza.
Lasciatemi concludere con le parole finali del Manifesto Russell-Einstein. Forse a qualcuno suoneranno retoriche; a me sembrano invece la testimonianza di una saggezza concreta, più necessaria che mai, o, se preferite, di un elementare istinto di conservazione che può ancora accomunarci:
« Davanti a noi, se lo scegliamo, c’è un continuo progresso nella felicità, nella conoscenza e nella saggezza. Dovremmo invece scegliere la morte, perché non riusciamo a dimenticare i nostri litigi? Ci appelliamo, come esseri umani, agli esseri umani: ricordate la vostra umanità e dimenticate il resto. »
