“L’IA potrebbe contribuire a creare un futuro radicalmente migliore, ma questo risultato non è garantito. Le principali aziende di Intelligenza Artificiale nel mondo ritengono di essere sul punto di automatizzare la ricerca. È difficile prevedere con precisione quanto ciò accelererà il progresso dell’IA, ma esiste un rischio concreto che lo sviluppo di queste capacità acceleri rapidamente, oltre la nostra capacità di comprendere o controllare i sistemi risultanti”. Così parte il grido di preoccupazione che esce come lettera aperta online la notte del 28 luglio scorso. I soliti sonni disturbati di allarmisti o conservatori? No: la lettera sollecitamente riportata dal giornale francese online Grand Continent è firmata da più di mille ingegneri, per essere precisi 1.178 fino a quella data, tutti leader o personaggi chiave delle più grandi imprese del settore.
E’ per ora l’unico avviso sui rischi di un’ IA senza controlli così consistente e organizzato. Il primo di questa portata – più di mille firmatari – che non arriva dal fuori, come già peraltro è spesso accaduto, ma dall’interno dell’IA stessa. Non si tratta dell’uomo e la donna qualunque, e neanche di pur autorevoli esponenti del mondo scientifico esterno, ma, ancorché appoggiato dalle due ong Guidelight AI Standards e Encode AI, l’appello accorato non viene da chi guarda alla finestra bensì dall’interno dei laboratori IA più all’avanguardia (OpenAI, Anthropic, Google Deep Mind). La preoccupazione nasce proprio dalle persone che lavorano dall’interno e appassionatamente alla ricerca delle più significative imprese di Intelligenza Artificiale. Ci sono Jakub Pachicki, Chief Scientist (direttore scientifico) di OpenAi, Dario Omodei, ceo di Anthropic insieme a due cofondatori, tra cui Chris Olah, e a vari altri suoi collaboratori interni di peso, come Sam Bowman o altri nomi di rilievo. Firmano Ben Bariach di Microsoft, Scengjia Zhao, Chief Scientiist di Meta Ai, Tian Huey Teh di Google, Dawn Song, AI Research di Meta, solo per citare pochi dei tanti nomi delle colonne della IA che esprimono le loro preoccupazioni in nome non certo della loro avversione ma della loro passione per lo sviluppo del sistema in cui confidano ma di cui temono, se incontrollato, l’ implosione.
Fondatori, dirigenti, ricercatori e collaboratori interni alle aziende di punta dello sviluppo dell’IA, chiedono, per incrementarla in maniera proficua e non certo per boicottarla, ai governi, la politica, il mondo un’alleanza globale che dia loro il tempo di conquistare la capacità di rallentare e riprendere in mani il processo, sospendendone temporaneamente lo sviluppo. Come già abbiamo sottolineato, si tratta di persone che con le macchine dell’IA hanno familiarità e dialogo quotidiano, ne seguono ogni passo, e ora intervengono non in ordine sparso ma per la prima volta in modo organizzato per dire: fermiamoci un attimo a riflettere o verremo travolti. Questo l’obiettivo di “Pacing the Frontier” (regolare i ritmi delle nuove tecnologie), come si chiama la lettera dei mille che costituisce un fatto senza precedenti.
Altra novità, oltre al fatto che la critica sorge dentro il cuore del sistema, è che non si tratta di pur mille protestatari in ordine sparso, né delle menti abitualmente più critiche all’interno delle aziende ma proprio di coloro che, al contrario, sono in prima linea con la missione di accelerare il processo. Come i direttori scientifici di OpenAi, Meta e Thinking Machines. Impressiona soprattutto il fatto che, a poche ore di distanza dalla pubblicazione della lettera, OpeAi e Anthropic la abbiano adottata come espressione non di alcuni loro collaboratori, magari i più importanti, ma proprio come loro manifesto di imprese. Insomma non alcune firme preoccupate e isolate che vanno in ordine sparso, ma un movimento cosciente e coeso che coinvolge i cervelli più attivi e visionari dell’IA, i quali chiedono aiuto e sostegno per fermarsi: non per smettere, anzi per andare avanti ma senza il pericolo di autofagocitarsi.
L’ allarme non è astratto ma si basa su segnali della recente convulsa crescita. Segnali nuovi sottolineati per la prima volta in modo organizzato, nonostante alcuni singoli, come per esempio Omodei, avessero già accennato al rischio che le macchine potessero autosvilupparsi senza attendere l’intervento umano. Il cambiamento non è teorico ma nasce da fatti ultimi e concreti. Ovvero dalla novità che tra dicembre e gennaio 2026, i principali laboratori di IA hanno deciso di automatizzare in modo esteso la ricerca e il ciclo dello sviluppo dell’intelligenza. E le macchine dell’Intelligenza Artificiale hanno risposto dimostrando di saper fare da sole. Ogni generazione capace di partorire una nuova generazione. Un ciclo di sviluppo battezzato auto-miglioramento ricorsivo (RSI) per cui gli sviluppatori per mestiere dell’IA si sono trovati all’improvviso scavalcati e si sono preoccupati sulla base non di teorie o sospetti insidiosi, ma di fatti concreti e visibili a occhio nudo.
Si sono spaventati dello scatto in avanti delle macchine non più solo regolato e voluto, ma tanto frenetico e autonomo che potrebbe, avvertono, non dare più tempo al tempo, né umanità a decisioni che in teoria potrebbe portare a tutto: di positivo ma anche di negativo. Una corsa che potrebbe eliminare il controllo in nome di un progresso rapido e automatico, non più orientato dai tempi e dai cervelli umani.
La conclusione allarmante della lettera dei big della IA è che questa accelerazione autonoma cancelli quella finestra di tempo in cui le istituzioni possano conoscere e valutare i vari gradini del processo, valutarli, decidere se incoraggiarli o meno e verso cosa indirizzarli. In sintesi, possano intervenire. Si tratta, dicono i leader dell’AI di fare svelti. Non c’è tempo per aspettare un futuro che è già qui, ammoniscono. Jason Wolfe, che si occupa dell’allineamento dentro OpenAI, riferisce ancora Grand Continent, avverte che molti esperti considerano ormai del tutto plausibile un’ “esplosione dell’Intelligenza Artificiale” entro due anni. Non lo dice a caso Wolfe. Già pochi mesi fa il rapporto di Anthropic sull’auto-miglioramento ricorsivo avverte che le macchine da sole potrebbero progettare e perfezionare quelle a loro successive.
A questo punto sono gli uomini- cervelli chiave dell’IA a chiedere ai governi, la politica, il mondo un’alleanza che permetta loro di conquistare la possibilità di conservare e rafforzare le nuove tecnologie. Non certo distruggerle. Il problema è conciliare sviluppo e controllo. Dopo avere sentito sul collo l’alito di un balzo imprevisto e fuori dalla loro stessa capacità, chiedono di avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’IA più all’avanguardia. Leo Gao, ricercatore presso OpenAI, accompagna la sua firma sulla lettera con un commento: “Il mondo è intrappolato in una corsa mortale verso un’esplosione di intelligenza, dove la capacità dell’IA di creare IA sempre più potenti sta raggiungendo un punto critico, come una reazione a catena nucleare incontrollabile. Poiché nessun attore è disposto a fermarsi da solo, dobbiamo coordinare i nostri sforzi per rallentare questa corsa al fine di sopravvivere”.
Si sostiene, in sostanza, che le migliori sorti e progressive annunciate dall’AI, potrebbero essere grandiose ma non sono per niente assicurate. Il sistema, si avverte, è sulla soglia della totale automatizzazione. Meglio fermarsi un attimo e ripensarlo che perdere irrimediabilmente il controllo e che il sistema acceleri oltre le capacità umane di comprenderlo e controllarlo.
Qualcuno a livello singolo si è già mosso. Il ceo di OpenAI, Sam Altman, ha annunciato di aver sospeso l’addestramento del modello che è recentemente stato alla base dell’attacco che OpenAi ha riconosciuto di aver fatto al sito Hugging Face. Lo ha fatto per avere il tempo di occuparsi di mettere in sicurezza le sandbox, ovvero gli ambienti di prova isolati e sicuri in cui si testano le novità. Ma è evidente che per intervenire con serietà ci dovrebbe essere un’azione unitaria, globale e controllata. Non fosse altro perché sai altrimenti come si scatenerebbe la concorrenza. E allora come riuscire a riprendere le redini che sfuggono senza improvvisare e in modo che non sia un fatto isolato ma funzioni su scala industriale. E e con quali procedure?
“Affinché l’IA mantenga le sue promesse, aziende, stati e la società nel suo complesso potrebbero avere bisogno di tempo: tempo per affrontare i rischi emergenti, costruire misure di sicurezza e rafforzare i controlli. Tuttavia, la competizione è tale che nessuna azienda, né alcun paese, può permettersi di rallentare da sola”, recita la lettera dei big della IA. Il rimpianto è che “oggi, su scala globale, non disponiamo né degli strumenti tecnici né dei quadri di governance che ci consentirebbero di stabilire consapevolmente il ritmo con cui l’intero fronte della ricerca sta progredendo”.
Di conseguenza, “Chiediamo al governo degli Stati Uniti di sostenere un’iniziativa internazionale volta a creare gli strumenti tecnici e di governance che ci consentiranno di stabilire consapevolmente il ritmo dello sviluppo automatizzato dell’IA”. Il,problema è che quello Usa non sembra proprio il governo più sensibile e dichiara di negare una governance internazionale per non ostacolare i rapporti con la Cina. Tanto che l’uomo dell’IA di Trump, David Sachs, se l’è presa con le regole di Anthropic che ha accusato di essere motivate solo dalla paura. Paura di niente e avanti da qualsiasi parte, sarebbe la teoria di Trump seppure ne avesse una. Gli autori dell’Intelligenza Artificiale sembrano essere di altro pare
