IA, Anthropic dice no al Pentagono. Amodei: no all’uso senza limiti

Ha risposto picche. Ha risposto di no a Pete Hegseth, il ministro USA della guerra come, con un termine abbastanza agghiacciante, Trump ha ribattezzato il capo del Pentagono. No, Dario Amodei, 43 anni, origine italiana, dottorato a Princeton, fondatore, dopo essere stato vice presidente della ricerca di OpenAI, insieme  alla sorella Daniela nel 2021 a San Francisco dell’azienda di AI di sempre maggior successo,  Anthropic di cui è ceo, non è disposto a fornire al Pentagono la sua IA per uso militare totalmente svincolata da qualsiasi limite. I due guard-rail che Amodei non intende togliere dalle regole di sicurezza sono l’uso dell’intelligenza artificiale per la sorveglianza di massa e quello per la costruzione armi totalmente autonome senza supervisione umana.

 Il no è arrivato un giorno prima che venerdì  27 febbraio scadesse l’ ultimatum del Pentagono per ottenere totale libertà. C’era chi avrebbe scommesso su una posizione meno rigida di Amodei visto che un contratto, come quello con il Pentagono, non è uno scherzetto da sottovalutare per un’azienda, mentre  Hegseth ha minacciato di escludere Anthropic da tutti i contratti che finora erano considerati suoi. Visto che l’azienda ha avuto,  con  il suo chatbot Claude, in pochi anni un successo tale da vedersela con le più stagionate rivali, ed è leader nell’IA per industria, governi, segreti militari. In quest’ultimo caso è l’unica in campo. Adesso il Pentagono potrebbe anche metterla nella bad list .

Amodei è considerato, tra tutti i produttori di IA alla ribalta,  il più problematico sul fronte dell’etica. Già prima del gran rifiuto aveva recentemente messo in circolazione una specie di manifesto in 50 pagine in cui avverte che forse anche tra un anno o due  – e non nel lontano futuro cui si accenna vagamente che possa diventare possibile ma anche no – l’IA attuale sarà in grado di generare da sola nuova IA. Capace, di dirigere un’azienda e non solo di rendere più efficiente e spedita l’azione umana in alcuni settori della medesima, ma di fare cose che gli umani non sanno fare. Il che può essere un bene e un male. Una grande ricchezza o un grande pericolo per l’umanità, avverte Amodei. L’IA potrà, per esempio, curare malattie altrimenti incurabili, ma anche costruire da sola distruttivi strumenti bellici. Potrà essere strumento di democrazia o sostenere governi dittatoriali. La scelta è esclusivamente nostra e consiste nell’evitare catastrofismi come ciechi ottimismi, dice il patron di Claude. Dobbiamo smettere di ignorare, negare o rimandare la possibilità di un’IA che si muove da sola e non guidata dagli umani ma essere presenti e vigili per saper gestire e regolare a nostro vantaggio il prossimo e ravvicinato salto in avanti dell’intelligenza artificiale.

 L’IA prima o poi potrà fare da sola e meglio degli umani. Amodei scrive di non poter sapere ancora precisamente come e quando, ma immagina tempi brevi: visto che il balzo in avanti non se lo è sognato  ma lo ha visto direttamente dai progressi rapidi e impressionanti che per conto loro hanno fatto le macchine della sua azienda. A tradurli, invece che in una minaccia, in una grande opportunità bisogna pensare da subito: economia, governi, industria, società, politica. E non dormiamo sonni tranquilli confidando nelle democrazie, regimi autoritari potrebbero usarne i progressi.

 Siamo di fronte, ammonisce Amodei , a un “rito di passaggio” dell’umanità. Al di là del quale ci potrà essere un gran bel mondo dove gli umani avranno tutto quello a cui loro non arrivano . Non soffochiamolo questo passaggio ma affrontiamolo. “In questo nuovo saggio – spiega a proposito del suo manifesto – vorrei affrontare il rito di passaggio. Mappare i rischi che stiamo per affrontare e cercare di iniziare a formulare un piano di battaglia per superarli. Credo profondamente nella nostra capacità di vincere, nello spirito e nella nobiltà dell’umanità, ma dobbiamo affrontare la situazione senza illusioni”.

Anthropic si è data una “costituzione” con l’impegno di evitare usi deviati, dannosi o violenti dall’IA, e Amodei e’ anche considerato il più interessato all’etica nell’universo di questa tecnologia. Caratteristica che gli può aprire scontri con i colleghi e con i clienti. Abbiamo visto il cliente Pentagono. Avevamo già visto, al recente ritrovo delle star dell’IA a Delhi, presente anche il premier Narendra Modi, i due patron di Anthropic e di OpenAI, Amodei e Sam Altman, che per non stringersi  la mano nella foto di gruppo alzano festosamente le mani in alto.

 Ma torniamo al manifesto che prevede grandi conquiste dell’IA, cervelli artificiali più intelligenti dei Nobel, capacità di risolvere problemi considerati irrisolvibili, ma anche potere distruttivo il cui pericolo maggiore potrebbe essere in ambito biologico o terroristico . Però la IA non arretrerà né si può pensare di fermarla, dice Amodei. Anche perché, se per assurdo le democrazie frenassero, le autocrazie spingerebbero l’acceleratore. Piuttosto acquistiamo una coscienza di quello che stiamo facendo ed attrezziamoci perché l’Intelligenza Artificiale  diventi un plus invece che un rischio.

Quattro le principali azioni su cui Amodei scrive nel suo manifesto di doversi concentrare: 1) Sviluppare la scienza dell’allineamento, ovvero combattere il disallineamento che i modelli di AI molto sviluppati possono  avere dal loro addestramento basato su valori positivi e diventare “cattivi”  2) Promuovere l’interpretabilità meccanica per “aprire la scatola nera” ed osservare dall’interno i modelli, 3) Monitorare i modelli in produzione in tempo reale.
4) Coordinare l’industria e il processo legislativo, e lavorare a una regolamentazione mirata. Amodei non risparmia le stesse imprese che hanno, dichiara, la loro responsabilità: essendo grandi, private, miliardarie e potenti, controllando data center, promuovendo modelli sempre più avanzati e contattando milioni e milioni di persone. La governance delle società che sviluppano IA, scrive nel manifesto, dovrebbe essere sottoposta a un controllo pubblico molto più stringente.

 Un altro nodo è politico. L’accesso all’IA avanzata, scrive ancora, non sarà limitato alle democrazie. Regimi autoritari potrebbero usare questi strumenti per rafforzare sistemi di controllo sofisticati e illiberali. Amodei cita esplicitamente la Cina come una possibilità di questo abuso. Raccomanda però di “evitare di essere catastrofici” ma di “imparare che dobbiamo discutere e affrontare i rischi in modo realistico e pragmatico: con moderazione, basandoci sui fatti e attrezzati per sopravvivere alle tendenze in evoluzione”.

 “Oggi  parlo già di potente IA intendendo l’attuale modello che, in termini di pura intelligenza, è più intelligente di un premio Nobel in biologia, programmazione, matematica, ingegneria, scrittura e così via. Ciò significa che può dimostrare teoremi matematici irrisolti, scrivere romanzi eccellenti, scrivere basi di codice complesse da zero e molto altro. Oltre a essere semplicemente un oggetto intelligente ‘con cui si può parlare’, ha tutte le interfacce disponibili a un essere umano che lavora virtualmente, inclusi testi, audio, video, controllo di mouse e tastiera e accesso a Internet. Può eseguire tutte le azioni e le comunicazioni o operazioni a distanza rese possibili da questa interfaccia, tra cui agire su Internet, dare o ricevere istruzioni agli esseri umani, ordinare attrezzature, dirigere esperimenti, guardare video, realizzare video, ecc.

Svolge tutti questi compiti con un livello di competenza superiore a quello degli esseri umani più competenti al mondo. Non si limita a rispondere passivamente alle domande ma le possono essere assegnati compiti che richiedono ore, giorni o settimane per essere completati, e poi li svolge autonomamente, come un dipendente intelligente, chiedendo chiarimenti se necessario. Non ha aspetto fisico ma può controllare strumenti fisici, robot o attrezzature di laboratorio, potrebbe persino progettare robot o attrezzature per il proprio uso. In sintesi, si potrebbe dire che questo modello è come un paese pieno di geni in un data center”.

Presto però potrà’ venire avanti un’IA ancora più potente. In un anno, in più anni? Amodei non fa il mago ma suggerisce di attrezzarsi. “Tre anni fa, l’intelligenza artificiale faceva ancora fatica a risolvere problemi aritmetici di livello elementare ed era a malapena in grado di scrivere una singola riga di codice”.  Fa svelta. “Dato che l’IA ora scrive gran parte del codice in Anthropic, sta già accelerando significativamente il ritmo dei nostri progressi nella costruzione della prossima generazione dei suoi sistemi. Questo ciclo di feedback si sta accelerando di mese in mese e potrebbe raggiungere, entro uno o due anni, la fase in cui l’attuale generazione di AI costruirà autonomamente la successiva”.

 I rischi, dice ancora Amodei ci sono e “mi sembra che sia un problema su cui dovrebbero concentrarsi le migliori menti della civiltà. Sarebbe assurdo dire che non c’è bisogno di preoccuparsi  di fronte ai rapidi progressi dell’IA. L’umanità deve svegliarsi perché i rischi possano essere superati. Direi addirittura che le nostre possibilità sono buone. E c’e’ un mondo molto migliore dall’altra parte. Ma dobbiamo capire che questa è una seria sfida per la civiltà”.

Cinque i rischi ipotizzati. Uno, “quelli associati all’autonomia”. Due, “abuso a fini distruttivi” di malintenzionati. Tre, “abuso a fini di presa del potere”. Quattro, “disgregazione economica”. Cinque, “il mondo cambierà rapidamente. Quali cambiamenti potrebbero essere destabilizzanti?”. Si domanda Amodei: “Cosa bisogna fare per affrontare questi rischi? Credo che esistano quattro categorie fondamentali di intervento per difendersi”,  delle quali alcune da parte delle aziende di IA e altre da un’azione a livello sociale, afferma. Le abbiamo accennate per sommi capi qui di sopra.

Più estesamente, leggiamo sul manifesto, lavoriamo per  “sviluppare la scienza che ci consenta di addestrare e guidare in modo affidabile i modelli di intelligenza artificiale, al fine di plasmare le loro personalità in una direzione prevedibile, stabile e positiva”. Due, “sviluppare la scienza che esamina il funzionamento interno dei modelli di intelligenza artificiale per diagnosticarne il comportamento, in modo da poter identificare i problemi e risolverli” . Tre, “gestire i rischi associati all’autonomia  implementando l’infrastruttura necessaria per monitorare i nostri modelli durante il loro utilizzo in tempo reale e per condividere pubblicamente i problemi che incontriamo”. Quattro, “incoraggiare il coordinamento per affrontare i rischi associati all’autonomia a livello industriale e sociale”.

In foto Dario Amodei