In pochi anni un piccolo gruppo di ricercatori, imprenditori e investitori ha realizzato una delle più straordinarie invenzioni in grado di aprire prospettive di progresso dell’umanità giudicate impossibili e nello stesso tempo indicare i grandi pericoli che può produrre il suo cattivo uso: l’intelligenza artificiale. Ne racconta la storia Sebastian Mallaby, giornalista e scrittore inglese, editorialista del “Washington Post”, due volte finalista al Premio Pulitzer, vincitore del Financial Times and McKinsey Business Book of the Year Award 2016, nel suo ultimo saggio “The Infinity Machine – Demis Hassabis, DeepMind e la gara per la superintelligenza” (trad. di Armando Sternieri, Edizioni Thedotcompany, 2026).
Mallaby è partito da trenta ore di intervista con Demis Hassabis, fondatore di DeepMind, un piccolo gruppo di ricerca britannico di proprietà di Google, premio Nobel per la Chimica per aver previsto con 32 algoritmi la forma di quasi tutte le proteine presenti in natura. Ma il tumultuoso sviluppo dell’IA con il lavoro di altri team di ricercatori ha reso la sua un’opera in progress che risente della partecipazione alla meraviglia della continua scoperta (leggi la recensione di Armando Sternieri https://www.thedotcultura.it/come-lintelligenza-artificiale-e-diventata-la-nuova-infrastruttura-del-potere/).
L’8 ottobre scorso Mallaby ha partecipato all’evento Wave By Vento all’OGR di Torino dove ha presentato il suo libro ai leader tecnologici europei e mondiali nonché agli investitori più importanti del settore. Lo abbiamo intervistato.
Quando hai deciso di raccontare la storia dell’intelligenza artificiale?
Ho preso la decisione all’inizio del 2022; avevo appena terminato il mio libro The Power Law che parla di venture capital nella Silicon Valley. Avevo già incontrato Demis Hassabis in passato e l’avevo trovato straordinario; tuttavia, temevo che l’intelligenza artificiale fosse un argomento un po’ troppo di nicchia — non ero certo che ci fosse un vasto pubblico interessato a un libro del genere. Ma, dato che consideravo Demis una persona eccezionale, ho deciso di procedere. E proprio dopo che lui ha accettato di parlarmi, è uscito ChatGPT: il mio timore che l’IA fosse un tema troppo specialistico è svanito, perché all’improvviso tutti volevano parlarne. Mi sono ritrovato così all’interno di DeepMind proprio mentre iniziava la corsa all’intelligenza artificiale.»
Forse ti hanno affascinato le personalità in gioco…
La situazione di un fondatore nel campo dell’intelligenza artificiale che crea quella che potremmo definire la versione del XXI secolo della vicenda nucleare ricorda quella di Robert Oppenheimer. È un po’ come il Progetto Manhattan. E la cosa sorprendente è che Demis è d’accordo con questa lettura: nel libro parla proprio dei parallelismi con l’energia nucleare, le armi nucleari, il Progetto Manhattan e la Seconda Guerra Mondiale. Credo dunque che questa sia la storia della nostra epoca: quella di uno scienziato che crea una tecnologia capace di rappresentare una minaccia esistenziale, dotata di risvolti straordinariamente positivi ma anche di pericoli enormi.
Preferisci parlare di AGI (Artificial General Intelligence), di IA, di “Superintelligenza” o “Macchina dell’infinito”, il titolo del tuo libro?
L’espressione “macchina dell’infinito” mi sembra calzante, perché spiega bene di cosa si tratta: un sistema capace di trovare un senso all’interno di un’infinità di dati. I grandi modelli linguistici (LLM) che utilizziamo oggi, ad esempio, “ingeriscono” l’intero Internet, assorbendo una mole di dati immensa, quasi infinita, e riuscendo a estrarne un significato. Ecco, per me “macchina dell’infinito” è il modo più appropriato per descrivere tutto ciò. Altri, invece, preferiscono il termine “Superintelligenza”, ma questa definizione non riesce a celare le problematiche sottostanti.
Vorrei soffermarmi sui paradossi, sulla tensione tra la ricerca della conoscenza e gli interessi commerciali che la guidano, nonché sulle implicazioni geopolitiche, si pensi al confronto tra Cina e Stati Uniti, e così via. La storia della “macchina dell’infinito” è un intreccio di timori, criticità, rischi e, al contempo, di nuove frontiere e straordinari traguardi raggiunti dall’umanità. Cosa ne pensi?
Credo che proprio qui risieda il fascino di una figura come Demis Hassabis: il dover trovare un equilibrio tra istanze tanto diverse. Da un lato, gli obblighi commerciali legati allo sviluppo di una tecnologia da vendere al pubblico; dall’altro, il desiderio di creare un’intelligenza artificiale destinata alla scienza, per svelare i misteri più profondi della natura. A questo si aggiunge la sfida ingegneristica e, non da ultimo, la questione del rischio esistenziale – un rischio, peraltro, tutt’altro che trascurabile. Hassabis si trova dunque sospeso tra imperativi contrastanti; osservare come un essere umano riesca a bilanciare tutto ciò non è solo affascinante, ma tocca, a mio avviso, un aspetto intrinseco della condizione umana, che riguarda tanto lui quanto noi. Nel corso della nostra vita abbiamo visto emergere diverse tecnologie: fanno sempre un po’ paura, eppure esercitano un grande fascino; noi, dal canto nostro, le accettiamo, ne accogliamo i compromessi e andiamo avanti. L’umanità è, per sua natura, una specie che inventa. Se il “penso, dunque sono” definisce l’essere, potremmo dire che anche l’inventare ne costituisce l’essenza: “invento, dunque sono”. In questo senso, la storia di Demis Hassabis appare come una versione estrema della storia di ognuno di noi.
Possiamo osservare il paradosso, ad esempio, nel contesto dell’«altruismo efficace» (EA) applicato all’intelligenza artificiale; se ne è parlato nell’ultimo numero dell’Economist. Se si tenta di creare nuovi laboratori, favorendo una maggiore concorrenza e una maggiore attenzione ai valori etici, si finisce paradossalmente per alimentare la competizione...
Esattamente. Gli esponenti dell’altruismo efficace hanno contribuito a questa corsa; basti pensare a un retroscena sorprendente: quando Demis cercava fondi per avviare DeepMind, voleva essere messo in contatto con il venture capitalist Peter Thiel. A favorire l’incontro fu Eliezer Yudkowsky, che oggi è il più acceso sostenitore dello scenario catastrofico — il più grande profeta di sventura, per intenderci —, autore di un libro in cui sostiene che, se qualcuno dovesse realizzare un’IA avanzata, l’intera umanità finirebbe per morire. Eppure, è stato proprio lui a far sì che Demis ottenesse i finanziamenti per dare il via alla corsa all’IA.
Sono molto interessato alla componente religiosa della missione che motiva Hassabis e i suoi , ovvero a quello che chiami “un approccio verso Dio”…
Demis ha questa idea, che lui fa risalire al filosofo del XVII secolo Spinoza. Spinoza sosteneva che studiare la scienza significhi comprendere la natura; e poiché la natura è stata creata da Dio, studiare la scienza e comprendere la natura diventa un modo per avvicinarsi a Dio. Demis ha fatto propria questa visione, affermando di credere nel Dio di Spinoza – lo stesso in cui credeva Einstein. Persino Elon Musk ha seguito l’esempio di Demis, dichiarando di credere nel Dio di Spinoza. Credo che sia un fenomeno piuttosto diffuso tra i creatori di IA: trattandosi di qualcosa di così vasto e straordinario – la creazione di una nuova forma di cognizione – si ricorre a un linguaggio spirituale per descrivere ciò che si sta realizzando.
Sei d’accordo con chi chiede di frenare la corsa della ricerca sull’intelligenza artificiale?
Credo che gestire il ritmo dello sviluppo sia la cosa giusta da fare. Il punto è che questa gestione deve riguardare sia la Cina che l’Occidente; per questo ritengo sia possibile dialogare con la Cina e instaurare una collaborazione, dato che Pechino non vuole un’intelligenza artificiale utilizzata per attacchi informatici. Alla Cina non piacciono i disordini; al contrario, ama regolamentare le cose. Dovrebbe quindi essere possibile raggiungere un’intesa tra l’Occidente e la Cina sul fatto che entrambi desideriamo un’intelligenza artificiale sicura. Naturalmente, è un obiettivo condiviso. Continueremo a competere con la Cina, anche in ambito militare, ma su questioni come gli attacchi informatici e le armi biologiche dovremmo essere in grado di trovare un accordo. Certo, bisogna considerare che esiste una profonda sfiducia tra la Cina e gli Stati Uniti. Quindi, credo che ci vorrà un po’ di tempo. E finché non avremo una soluzione, gestire il ritmo di avanzamento alla frontiera tecnologica sarà estremamente difficile: se l’Occidente rallenta, la Cina prenderà il sopravvento e non saremo più al sicuro, poiché ci ritroveremmo con modelli cinesi “aperti” che comportano dei rischi.
Si tratta, in sostanza, di un problema di azione collettiva; per quanto riguarda la “governance globale” dell’intelligenza artificiale di cui si parla, al momento è un obiettivo irrealizzabile, date le attuali relazioni internazionali...
Sì, credo che puntare a una governance globale sia eccessivo. Dovremmo concentrarci sul rapporto tra Occidente e Cina – dove, ovviamente, l’Occidente sarebbe guidato dagli Stati Uniti. Se si riuscisse a raggiungere un accordo tra Stati Uniti e Cina, sarebbe sufficiente: tutte le altre aziende occidentali che operano nel settore dell’IA – come Mistral in Francia o ASML nei Paesi Bassi – desiderano fare affari negli Stati Uniti; pertanto, se gli Stati Uniti stabilissero delle regole, queste verrebbero rispettate. In definitiva, pensare alle Nazioni Unite o a una governance globale è troppo complesso, ma un accordo bilaterale tra Stati Uniti e Cina potrebbe essere la strada percorribile.
Alcuni sostengono che è prematuro essere entusiasti o catastrofici. Il punto non è scegliere tra il risultato e il processo, quanto piuttosto comprendere che la soluzione può rappresentare, a sua volta, l’inizio di un nuovo percorso di scoperta; è possibile riavviare il processo per comprenderlo meglio, arrivando così a individuare elementi che possono condurre a ulteriori scoperte.
Credo sia vero che la ricerca della sicurezza sia stata strettamente legata al progresso dell’intelligenza artificiale. Un ottimo esempio, che descrivo in The Infinity Machine, risale al 2018: all’epoca, OpenAI creò il primo GPT. Dario Amodei, che lavorava in OpenAI, dava grande importanza alla sicurezza e sosteneva che fosse necessario rendere il modello più potente; l’idea era che, con un GPT più avanzato, gli esseri umani avrebbero potuto impartire istruzioni in linguaggio naturale, che il modello avrebbe compreso ed eseguito. Dunque, per ragioni legate alla sicurezza, Dario Amodei caldeggiò la creazione di un modello molto più grande; si è scoperto, in seguito, che questo approccio ha favorito sia il progresso della sicurezza che quello delle capacità dell’IA. Concordo quindi sul fatto che esista un forte legame tra i progressi nella sicurezza e quelli nelle capacità dei sistemi.
Pensi che il vero problema, il vero rischio, sia che l’IA possa impedire agli esseri umani di spegnerla o di disattivarla?
Mentre lavoravo al mio libro ho parlato con Geoffrey Hinton, considerato il padre accademico dell’intelligenza artificiale. Gli ho chiesto: “Jeff, ma gli esseri umani non potrebbero semplicemente premere l’interruttore di spegnimento e mettersi così al sicuro?”. E lui ha risposto: “No, Sebastian, sarà molto difficile, perché l’IA sarà estremamente persuasiva. Convincerà gli esseri umani a non spegnerla”. Capisco cosa intende: credo che, quando l’IA gestirà gran parte delle infrastrutture da cui dipendiamo e quando la utilizzeremo quotidianamente, sarà davvero complicato decidere di disattivarla. A volte potrebbe verificarsi un attacco, un attacco informatico. Non si sa quale IA sia stata coinvolta. Quindi, quale si spegne? Credo che forse Jeff Hinton abbia ragione, ma penso anche che, se si arrivasse davvero a una situazione in cui gli esseri umani temono l’estinzione – una situazione davvero molto grave –, allora ovviamente la spegneremmo. Insomma, a un certo punto decideremmo semplicemente di spegnere tutto, giusto? Per questo sono più ottimista riguardo alla sopravvivenza umana.
In foto Sebastian Mallaby durante il suo intervento al salone Wave di Torino
