I pentiti della rivoluzione digitale aumentano. L’ultimo è Geoffrey Hinton, pioniere dell’Intelligenza Artificiale, nominato da pochi giorni Premio Nobel per la Fisica (insieme a John J. Hopfield), che non ha nascosto un approccio critico rispetto all’utilizzo esondante dell’apprendimento automatico profondo. Per questo è stato tacciato di doomerismo. Doom è una parola inglese che può essere tradotta con catastrofe. Il neologismo conseguente, coniato negli ultimi anni prima in relazione al clima e adesso in merito al progresso digitale, è “doomerismo”. E i cosiddetti “doomer” sono coloro che, come Hinton, vengono tacciati di essere eccessivamente pessimisti, appunto, catastrofisti.
Instillare il dubbio dell’inattendibilità e del catastrofismo per tutti coloro che pongono problemi etici di fronte all’avanzata delle “macchine pensanti”, relegandoli in una specie di riserva indiana per doomer e boomer, è una manovra di comunicazione che certamente non dispiace ai colossi big tech. Perfino il neoministro della cultura Alessandro Giuli si è inventato un proprio linguaggio difficilmente comprensibile, tacciando i dubbiosi tecnologici di “apocalittismo difensivo che rimpiange un’immagine del mondo trascorsa”. Molto più semplice e molto più efficace il termine “doomerismo”.
Ma in realtà né Giuli né gli altri dispensatori dell’etichetta di doomer tengono conto di un fatto ormai oggettivo: Geoffrey Hinton non è un catastrofista tecnologico o un apocalittico passatista. Ma un vero e proprio pentito rispetto alla piega che hanno preso i propri studi, indipendentemente dalla propria volontà scientifica. E non è solo. La lista dei pentiti, di coloro che rimuginano amaramente sull’applicazione delle proprie scoperte soprattutto in merito al dominio algoritmico, si fa sempre più lunga. Quattro esempi, oltre a Hinton: Roger Mc Namee, che non è uno studioso ma il primo finanziatore di Zuckerberg, Sean Parker inventore di Facebook, Tim Berners Lee padre di Internet, Michael Kosinski, uno dei massimi esperti di psicometria i cui studi furono sfruttati da Cambridge Analytica per truccare le elezioni americane del 2016, vinte da Donald Trump. Tutti questi pentiti hanno in comune la profonda diffidenza rispetto ad un mondo sempre più dipendente dagli algoritmi.
Roger McNamee, convinto partner iniziale di Mark Zuckerberg e suo mentore, ha affidato i propri ripensamenti ad un libro dal titolo esplicito, “Zucked”, dove scrive in relazione a Facebook: “Le piattaforme internet utilizzano le loro reti, la loro capacità di progettazione, l’intelligenza artificiale e l’apprendimento automatico per catturare e trattenere la nostra attenzione. Sfruttano i lati più deboli della psicologia umana con effetti che portano ad assuefazione e dipendenza comportamentale. Dosi massicce di intrattenimento e dopamina ci tengono incollati agli schermi e ci rendono vulnerabili. È così per tutti: bambini, preadolescenti, adolescenti e adulti. Non tutti coloro che trascorrono del tempo online sono dipendenti, così come non tutti sono vittime di manipolazione. Ma se vogliamo preservare la facoltà di decidere sulle nostre vite, dobbiamo impegnarci e resistere. La tecnologia di prossima generazione rappresentata dall’internet delle cose e dall’intelligenza artificiale aggraverà i problemi attuali se non corriamo subito ai ripari”.
E sempre con riferimento agli algoritmi che governano i social, il primo presidente di Facebook, Sean Parker, dichiara nel corso di un convegno a Roma: “Solo Dio sa i danni che i social network hanno creato al cervello dei nostri figli. Facebook e gli altri social media approfittano delle vulnerabilità della psicologia umana con un meccanismo che crea dipendenza come una droga”. In quell’occasione, Parker si definisce un ‘obiettore di coscienza’ dei social media e rivela: “Il processo creativo dietro queste applicazioni, a partire da Facebook, è stato ispirato da questa domanda: come posso consumare più tempo e attenzione possibile? Dovevamo cercare il modo di dare una piccola dose di dopamina ogni tanto, ad esempio un ‘like’ alla tua foto o al tuo post. E questo porta a produrre più contributi, che danno più interazioni e commenti. È un ‘loop’ di validazione sociale – concludeva Parker – I creatori, gli inventori, come me e Kevin Systrom di Instagram, lo capivamo perfettamente- conclude Sean Parker – Ma l’abbiamo fatto lo stesso”.
Ha il sapore dello “scippo” ciò che è capitato a Michael Kosinski, scienziato della Psychometrics Centre dell’Università di Cambridge, che ha una lunga tradizione nell’ambito della Psicometria, la scienza che misura le caratteristiche psicologiche di un individuo e quindi la sua personalità. A portare nuove fonti di analisi e ricerca agli studiosi di psicometria sono i Big data, cioè quella sorta di immensa catalogazione di tutte le tracce digitali che lasciamo sul web e soprattutto sui social. Incrociare le informazioni dei Big data con le dinamiche della psicometria consente non solo una misurazione della personalità dell’individuo, ma anche delle sue preferenze in ogni campo, compreso quello politico. E si traduce nella possibilità di determinare quali messaggi inviare alle persone, così convincerlo a votare, per esempio nel caso delle presidenziali Usa, Donald Trump. Kosinski nel 2016 stava tenendo una serie di conferenze in tutto il mondo con un titolo ricorrente – “I pericoli dei big data e la rivoluzione digitale” – quando da un comunicato di Cambridge Analytica, azienda di consulenza allora poco nota, che si attribuisva il merito della vittoria di Trump, comprende che i suoi studi sono stati sfruttati per un uso improprio. Kosinski denuncerà anche al suo istituto, una sorta di spionaggio sul modello psicometrico da lui elaborato. A sua insaputa, infatti, Cambridge Analytica applicò quel metodo ai dati frutto della profilazione di milioni di americani su Facebook, influenzandone le intenzioni di voto. Ne derivò una condanna per Cambridge Analytica, poi fallita, e una multa record da 5 miliardi di dollari per Facebook per violazione della privacy.
Ma il primo scienziato informatico pentito rispetto all’evoluzione derivata dai propri studi è quello che viene ritenuto il padre di Internet, Tim Berners Lee. In occasione del trentesimo compleanno – o almeno mediaticamente definito tale – della “sua” creatura, il 12 marzo 2109, Lee ha pubblicato una lettera aperta pubblicata sulla home page della sua fondazione, con il titolo “30 years on, what’s next #ForTheWeb?”, elencando i tre vizi capitali che la Rete ha accumulato in questi trenta anni. E ha delineato gli obiettivi per salvare la Rete, o almeno per tornare a far prevalere i presupposti originari, che certamente avevano fatto di Internet la più grande rivoluzione positiva per la crescita dell’uomo. Primo punto, indicato da Lee: “I governi devono varare leggi e regolamenti per l’era digitale. Devono garantire che i mercati rimangano competitivi, innovativi e aperti. E hanno la responsabilità di proteggere i diritti e le libertà delle persone online. Le aziende devono fare di più per garantire che la ricerca del profitto a breve termine non vada a scapito dei diritti umani, della democrazia o della sicurezza pubblica”.
Non è solo dunque, Geoffrey Hinton, a esprimere preoccupazioni sugli effetti arrembanti della tecnologia digitale. Hinton è lo scienziato a cui può essere attribuita la scoperta del deep learning, cioè dell’apprendimento automatico profondo che è alla base dell’Intelligenza Artificiale. Google ne capì le possibili applicazioni fin dal 2012 e Hinton diventò uno dei suoi ricercatori più importanti. Fino a quando, nel maggio 2023, dopo l’avvento di Chat GPT, Hinton decise di abbandonare Google per avere maggiore libertà nel mettere in guardia rispetto al velocissimo sviluppo dell’IA. In una intervista al New York Times, il Premio Nobel per la Fisica dichiarò: “Pensavo che ci sarebbero voluti 30 o 50 anni perché queste ‘macchine’ divenissero più intelligenti delle persone: mi sbagliavo. Oggi la persona media non è più in grado di riconoscere quali contenuti siano veri e quali falsi”. E rispetto alle sue scoperte, aggiunse: “Mi consolo con la solita scusa: se non l’avessi fatto io, lo avrebbe fatto qualcun altro”.
Il paradosso è che Hinton si è visto attribuire il Premio Nobel proprio per le sue scoperte da cui sta prendendo le distanze, definite nella menzione ufficiale “invenzioni fondazionali che abilitano l’apprendimento automatico nelle reti neurali artificiali”.
In foto Geoffrey Hinton
