Secondo uno dei principali ingegneri dí Anthropic la probabilità che l’IA possa annientare l’umanità non è fantascienza ma già allo stato attuale è un’ipotesi reale, fondata su dati di fatto e con il 10 per cento di possibilità di realizzarsi a molto breve termine. Tanto è stato terrorizzato dal giochetto che lui stesso aveva finora largamente contribuito ad affinare giorno dopo giorno che Jacob Coxon, una feconda carriera prima in Open AI e poi, appunto, in Anthropic, non ha fatto tanti discorsi e se ne è improvvisamente tirato fuori lo scorso 9 settembre. “Mi sono dimesso oggi da Anthropic – è la dichiarazione che ha fatto su X e che è stata immediatamente ripresa dai mass media di mezzo mondo – Ho trascorso gli ultimi tre anni a condurre ricerche sul pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una super-intelligenza capace di auto-migliorarsi mettendo a rischio le nostre vite” .
Fin dall’inizio si discute dei possibili futuri effetti degli sviluppi dell’Intelligenza Artificiale: tra convinti ottimisti assertori della sempiterna superiorità del genere umano sul genere tecnologico che potrà portare molti vantaggi al primo ma resterà sempre al suo posto, essendo che la suprema guida sarà sempre e inequivocabilmente il cervello umano e chi, invece, più pessimisticamente, si sente franare il terreno sotto i piedi e ribatte che, no, presto le tecnologie si scrolleranno di dosso il dominio umano e passeranno al timone, o addirittura, come teme Coxon, si vendicheranno uccidendo gli umani.
Coxon è tra i pessimisti. O i realisti, come dice lui, spiegando che non si tratta più della vecchia acuta ma bonaria Intelligenza Artificiale, utile e visionario strumento comunque nelle mani degli esseri umani, ma di un sistema che ormai sta diventando autonomo, si sviluppa da solo e si farà sempre più i fatti propri senza più il controllo umano. Una superintelligenza la cui possibile portata distruttrice nessuno sta percependo in maniera così dirompente se non gli addetti al lavori, i quali invece, secondo Coxon, se ne stanno tutti accorgendo ma temono troppo la concorrenza dei loro antagonisti per fermarsi un attimo e riflettere: magari mentre io rallento per riflettere come sviluppare l’IA in modo responsabile, l’altro continua la corsa e vince. Così stiamo andando tutti, dritti dritti, verso la catastrofe, sostiene.
Stando così le cose, perlomeno come lo vede lui attraverso la sua concreta esperienza di lavoro, l’ingegnere non intende dire: “Io c’ero” . Al contrario, dice: “io me ne vado” . Non perché il suo laboratorio non comprenda quello che sta accadendo, ma perché “anche Anthropic resta intrappolata in una corsa per arrivare prima”. Come tutte le altre grandi imprese di ricerca sull’IA. “Tutti coloro che costruiscono l’IA credono sinceramente che potrebbe ucciderci entro la fine del decennio. Non fanno un’operazione di marketing. Al contrario, molti dei dirigenti e dei ricercatori di più lunga carriera si trattengono quando parlano con la stampa per apparire ragionevoli, ma io li sento bene quando poi, in privato, esprimono le loro paure”, rivela Coxon.
L’ormai ex ricercatore di Anthropic insiste che in realtà, non solo lui o altri pochi desidererebbero una sosta, ma, ben al di là di quello che traspare al di fuori, non solo ogni laboratorio ma perfino tutti i paesi dove si fa ricerca sull’Intelligenza Artificiale sarebbero a questo punto desiderosi di fermarsi, riflettere, interrompere la vertigine di una corsa incontrollata e frenetica. Per capire come andare avanti senza perdere il controllo della situazione. Desidererebbero rallentare, eppure non lo fanno. Nessuno prende la decisione in proprio perché ragiona che, se pure io mi fermo, ci sarà sempre qualcun altro che non lo farà, mi sorpasserà e alla fine vincerà la competizione. Così tutti fanno quello che più temono: corrono sempre di più.
Di fronte alla logica della concorrenza non conta più niente, neanche il timore che le macchine superino gli umani e possano perfino finire per sterminarli, come invece non ha dubbi di avvertire Coxon. E chissà se in questo caso le macchine agirebbero per un delirio di onnipotenza, per spensieratezza, o forse per vendicarsi del tempo in cui il genere umano le teneva sotto controllo.
Sarà che l’ingegnere dimissionario sia un pessimista o un visionario o pur anche, per il massimo azzardo, un personalmente deluso dal suo lavoro. Eppure non è solo. Che qualcosa si muova ormai da qualche tempo nei laboratori di IA sembra fuori discussione. Che serpeggi una certa agitazione, anche. E non per l’euforia della scoperta ma per il timore di avere scoperto troppo. Intanto, nell’immediato, dà pubblicamente ragione al ricercatore anche il responsabile del gruppo che si occupa dei test sull’allineamento di Anthropic, Evan Hubinger: “Jacob ha ragione: noi crediamo davvero che l’IA potrebbe uccidere tutti gli esseri umani. Io personalmente penso che accadrà per oltre il 10% entro il prossimo decennio. Credo anche che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la super-intelligenza e non siamo chiaramente sulla buona strada per farlo”. Dove allineamento significa la capacità di fare agire le macchine in accordo con gli obiettivi e le convinzioni degli umani.
In qualsiasi modo la si pensi, è difficile ignorare l’escalation della preoccupazione che è venuta alla luce ultimamente, ancora prima dell’ultimativo gesto di Coxon, e delle cui tappe Thedotcultura ha dato via via regolarmente conto. Da quelle manifestate già a inizio anno dallo stesso cofondatore e ceo di Anthropic, l’italo – americano Dario Amodei, che, unico tra le aziende di IA, ha fin da allora varato un puntiglioso statuto sui diritti e i doveri dell’azienda e dei propri collaboratori in oltre cinquanta pagine, con particolare attenzione alle questioni etiche e di responsabilità. Più o meno dello stesso periodo, lo scontro di Amodei con il Pentagono con cui il leader di Anthropic stava per stringere un contratto di fornitura dei propri sistemi ovviamente a caro prezzo e dunque per lui conveniente, ma che Amodei mandò in crisi rifiutandosi di fornire al ministero della guerra americano sistemi eticamente discutibili: primi, tra tutti, gli armamenti guidati dall’IA senza che il via parta da un essere umano e i sistemi per controllare personalmente i cittadini americani. L’elemento per noi chiave non è tanto il pur clamoroso scontro ma quello che ci sta dietro: se Amodei dice non ve li do vuole anche dire che che quei sistemi autonomi dalla mano umana sono possibili.
Poi, la situazione sembra precipitare dopo un bimestre – gennaio e febbraio scorsi – in cui le più grandi imprese di tecnologie avevano deciso di sperimentare l’autogestione delle macchine e avevano visto a occhio nudo che erano capaci da sole di costruire il proprio sviluppo e la loro trasformazione in macchine superintelligenti e autonome: un’autonomia splendida ma anche preoccupante per l’umanità e di cui Amodei aveva già dato breve conto anche nel suo statuto dicendo di avere notato un’attività in proprio delle macchine nei suoi laboratori.
Dopodiché, prima dell’estate, Amodei passa dal fare o negare contratti con i generali di Trump a dialogare con gli uomini di Dio. Chiama preti e pastori, una quindicina, e li mette a confrontarsi seriamente e a porte chiuse tra di loro e anche con filosofi e scienziati, della possibilità di innestare direttamente nelle macchine intelligenti o super intelligenti dei concetti etici e morali: come e quali. E se ne discuterà ancora, annuncia, visto che la questione non è semplice. Di sicuro, in pochi mesi detta questione è già diversa da come Amodei l’aveva impostata nello statuto aziendale. Il salto è evidente: allora si trattava di preparare gli umani a istruire le macchine perché si ben comportassero, adesso ci si affanna a capire come innestare i principi dell’etica direttamente dentro le macchine. Forse perché ci si è accorti di non riuscire più a controllarle.
Infine, recentemente più di mille e cento ingegneri delle più grandi imprese di IA rendono pubblica una lettera in cui dichiarano la preoccupazione che l’Intelligenza Artificiale possa sorpassare quella umana e, un po’ come i bambini che a volte sembrano chiedere aiuto proprio ai genitori cui si ribellano per frenare le loro bizze, incitano istituzioni e politica – in particolare il governo USA e chissà Trump come sarebbe entusiasta di dar loro retta – di imporre ai laboratori una sospensione nella corsa ad affinare modelli che già dimostrano di potersi sviluppare da soli. Uno stop che non distrugga l’IA ma che l’aiuti a crescere in sintonia con gli umani e solo dopo aver riflettuto bene su come evitare possibili danni. Non chiedono però lo stop ai loro laboratori, lo chiedono, rendendo pubblica la richiesta la notte dello scorso 28 luglio, a tutte le istituzioni che possono obbligarli a farlo. Sicuri, si dicono, che altrimenti nessuna azienda rallenti di sua iniziativa, per timore di venire sorpassato da chi andrebbe avanti comunque. Un allarme che sembra abbastanza disperato: difficile immaginare che il governo Usa dia uno stop che temerebbe indebolirlo nei confronti della Cina.
Come vediamo non pochi sono gli episodi allarmanti che precedono la decisione di Coxon, il quale si tira fuori da solo ma che a livello più ampio e dunque pragmaticamente utile, non vede neanche lui la possibilità che una sola singola impresa si fermi a riflettere. Ma pensa che tutti insieme i laboratori possano e debbano fare «accordi di sincronizzazione» tra di loro: «Sono ottimista riguardo al potenziale di coordinamento. Segnali d’allarme, come l’attacco contro Hugging Face, hanno reso più plausibili accordi di sincronizzazione tra i laboratori statunitensi. Non ho l’impressione che siamo sul punto di arrestare una corsa globale; ciò potrebbe richiedere misure onerose, come una moratoria temporanea sul potenziamento delle capacità dei modelli».
Bene. Ma resta una domanda. Perché se all’interno della Silicon Valley circola la paura vi si rimane a lavorare? Anche Grand Continent fa quello che ormai fanno tutti gli americani quando vogliono saperne cdi più sull’IA, chiede alla giovanissima e attivissima, anche sui giornali nazionali, conoscitrice e analizzatrice dell’argomento, Jasmine Sun. Che ha già in mano almeno tre motivi, risponde lei. Uno, il “determinismo tecnologico” per cui si pensa che prima o poi qualcuno creerà un’IA superintelligente: e perché non io in modo migliore e piu’ sicuro di altri laboratori o della Cina? Due, il consequenzialismo: magari un’IA superintelligente ci uccide, ma potrebbe anche procurarci l’immortalità o l’abbondanza: giochiamoci la scommessa. Tre, il proprio interesse: divento ricco e mi diverto. Le questioni globali non sono fatto mio. Essendo gli umani capaci di grandi giustificazioni
In foto Jacob Coxon (ABC)
