I progressi recenti dei sistemi basati su reti neurali artificiali che usano tecniche di “apprendimento profondo” (deep learning) mettono in discussione tre idee che ci sono care: (1) l’idea che la razionalità è pienamente trasparente a se stessa; (2) l’idea che l’intelligenza richiede la comprensione del significato; (3) l’idea che l’autonomia personale richiede la padronanza esclusiva dei propri pensieri.
Contro (1): mentre sistemi dell’IA classica erano “spiegabili”, l’IA recente è ricca di sistemi le cui procedure sono “opache”, cioè, non siamo capaci di ricostruirne i passi, uno dopo l’altro. Contro (2): i sistemi, vecchi e nuovi, di IA non richiedono la comprensione del significato. Contro (3): l’uso dei recenti sistemi di IA interferisce con i nostri processi decisionali e minaccia la privacy.
Come servirsi in maniera razionale ed etica dell’IA? Verso quale tipo di IA orientare la ricerca dei futuri sistemi? Per rispondere, bisogna fermarsi a soppesare vantaggi e svantaggi delle nostre possibili scelte. Da quali risposte diamo non dipende solo il successo a livello individuale, d’impresa o di comunità, dipende il futuro dell’umanità. Negli ultimi due anni siamo stati inondati da un fiume di discorsi sull’IA: da parte di addetti ai lavori, intellettuali, giornalisti e politici. La gamma di posizioni va da toni entusiastici a toni apocalittici. Che piaccia o non piaccia, questi discorsi sfruttano idee filosofiche, per lo più naïf e soprattutto implicite, cioè, senza la consapevolezza di sfruttarle.
Che dire? Come ci vuole lo slow food invece del fast food, così ci vuole il pensiero lento invece di quello veloce. Per capire la velocità ci vuole lentezza. E poi ci vuole capacità di astrarre dal qui e ora. Ma la lentezza non fa per i media e l’attenzione della gente è assorbita dalle sollecitazioni immediate del presente. Ogni presente sembra a chi ne fa parte come l’ombelico del mondo ma l’ombelico del mondo dovrebbe essere uno e uno solo, mentre di presenti ce ne sono tanti: è già un problemino. Dovremmo calare la nostra riflessione nel presente e preoccuparci delle ricadute pratiche a breve termine. Come no? Anche il latte ha una scadenza a breve termine, ma per fare il parmigiano ci vuole tempo. Nella storia della civiltà il pensiero lento e astratto ha trovato due sedi privilegiate, la matematica e la filosofia. In entrambi i casi la progressiva selezione delle idee ha avuto più ricadute pratiche di tutte quelle messe insieme da chi focalizzava i suoi pensieri sul presente di turno. Ovviamente l’una cosa non esclude l’altra, ma la recente discussione sull’IA mi sembra troppo focalizzata su questioni d’attualità.
Cos’ha da dire la filosofia sull’IA? Non posso presumere di parlare a nome di tutti i filosofi (uomini e donne). E siccome la risposta dev’essere breve e senza tecnicismi, il rischio è che sia generica, oltre che troppo personale. Consentitemi quindi un preliminare chiarimento.
Nell’opinione comune, chi si dedica alla filosofia è qualcuno che ha da dire, e deve aver da dire, qualcosa su ogni argomento, insomma un tuttologo, che miscela parole comuni a un sofisticato lessico e per questo appare come detentore di un sapere arcano. I filosofi (M e F) sono gente molto erudita, infilano una collana di illustri progenitori in ogni discorso per ammantarlo di autorevolezza, illuminano dall’alto le vicende umane, sanno criticare tutto (anche se costruire poco), sfoggiano la loro superiore coscienza morale. In particolare, fanno le pulci alle pretese della scienza e denunciano i pericoli della tecnologia: non che ne manchino i motivi, ma l’immagine che ne emerge è quella che corrisponde alla filosofia da talk show e ha poco a che fare con l’autentica ricerca filosofica. Per quanto mi riguarda, ci sono tante cose che non capisco e non mi passa neanche per la testa di esprimere giudizi al riguardo. L’idea di chiudermi in una torre d’avorio non mi ha mai attratto e non mi sono mi sono gonfiato il petto pensando che la filosofia sia il supremo tribunale. La buona filosofia è quella che partecipa all’avventura della conoscenza, non quella che sentenzia dall’alto.
È proprio da una serie di domande sollevate da questo tipo di filosofia che negli anni Trenta del secolo scorso sono state gettate le basi della teoria degli algoritmi (e poi dell’informatica teorica). E negli anni Cinquanta questo tipo di filosofia era coinvolta nel progetto di una scienza cognitiva unitaria che attribuiva alla nascente IA un posto di primo piano. Non era il tipo di filosofia che alligna dalle nostre parti, però da allora si è fatta strada anche in Italia una comunità di studio che ha dedicato attenzione all’IA, alle sue potenzialità e ai suoi limiti. Insomma, se la filosofia ha da dire qualcosa sull’IA, non ce l’ha dal 2022, cioè, da quando è arrivata la prima versione dell’ormai famoso ChatGPT fino al recentissimo Deep Seek cinese, che non sono robot, ma chatbot.
I chatbot esemplificano soltanto una specie di sistemi di IA. L’IA non è una, ma molte: ci sono sistemi per l’esecuzione di calcoli, per l’elaborazione del linguaggio, per il riconoscimento delle forme, per la robotica (date un’occhiata a cosa riesce a fare l’ultimo modello di Atlas). Oggi questa molteplicità di sistemi può essere integrata, in vario modo. Ma qui mi preme richiamare la vostra attenzione sulla differenza fra due specie di architetture: c’è l’IA basata su regole (istruzioni procedurali, come in un linguaggio di programmazione), e c’è quella basata sul deep learning di reti come GPT3, con circa 70 miliardi di nodi (analogo dei neuroni) e circa 170 miliardi di connessioni tra i nodi (analogo delle sinapsi tra neuroni). La prima specie, detta “classica”, di IA è essenzialmente deduttiva (logica), la seconda, quella nuova, è essenzialmente induttiva (associativa, probabilistica).Ciascuna ha i suoi pregi e i suoi difetti. Tutte e due sono già presenti in noi. Come l’IA, anche l’intelligenza naturale (IN) è plurima, e quella umana in particolare ha più componenti, talvolta in contrasto tra loro. In noi c’è intelligenza logica e probabilistica, intelligenza percettiva e motoria, intelligenza morale e sociale, intelligenza emotiva. Così ci ritroviamo il compito di raccordare in modo coerente e ottimale queste diverse intelligenze in funzione degli scopi che via via ci poniamo, con una “piccola” differenza: noi abbiamo scopi, le macchine no: o meglio, per il momento i loro scopi sono quelli decisi da noi. Per confrontare menti e macchine, bisognerebbe quindi tener conto delle diverse forme di intelligenza e dei modi di raccordarle. Le opportunità offerte dall’IA sono tante: nella produzione industriale, nell’e-commerce, nel settore biomedico, nel mondo della ricerca scientifica. Già si profilano impieghi dell’IA nella pubblica amministrazione e nell’istruzione. Non ultimo, il contributo dell’IA “generativa” alla diffusione delle conoscenze è sotto gli occhi di chiunque interroghi un odierno chatbot.
Quest’elogio delle virtù dell’IA ha un rovescio: i rischi che il suo impiego può presentare e, di fatto, già presenta. Spesso i sistemi di IA incamerano bias (pregiudizi), peraltro ereditati da noi. Per esempio, anche le macchine finiscono per privilegiare i dati che confermano un’assunzione (ipotesi, credenza), sottostimando gli altri: è il bias della conferma che si inietta nell’IA attraverso un addestramento tendenzioso delle odierne reti. viene in mente l’impiego che negli Stati Uniti si è fatto di un sistema di IA “dedicato” all’ambito giuridico, un uso viziato da un pregiudizio razziale. Non meno preoccupante è l’uso dell’IA nella manipolazione dell’opinione pubblica a fini politici tramite la generazione di fake news e altri trucchi, un tempo appannaggio di retori privi di scrupoli, ma oggi, grazie a internet la disinformazione che sfrutta l’IA ha una diffusione epidemica rapidissima. Possiamo eliminare ogni bias dai sistemi di IA? È molto difficile. Il discorso si farebbe lungo. Il rischio è quello di un indottrinamento “gentile”, che opera senza che ce ne rendiamo neppure conto. Giovani e non giovani sono altrettanto indifesi nei confronti delle strategie comunicative di chi sfruttano l’IA per plasmare l’opinione pubblica. C’è poi il rischio connesso alla violazione dei dati personali e al loro impiego per la profilazione degli utenti, a loro insaputa.
Possiamo far fronte a questi rischi? Sì. L’UE ha per prima introdotto, con l’AI Act che entrerà in vigore nel 2026, una serie di paletti da rispettare, anche se l’UE non è che sia messa tanto bene nella competizione sul mercato dell’IA e finché ci serviremo di sistemi altrui, saremo sempre in ritardo. Le tutele normative sono una buona cosa ma sarebbe sciocco aspettarsi che bastino. La necessità di impiegare tante risorse per applicare le leggi in materia sarebbe minore se ci preoccupassimo di fornire un’educazione all’uso dell’IA e intendo un’educazione che aiuti a riconoscerne i bias, per ridurre il successo dei nuovi furbi a spese degli ingenui. Con riferimento all’istruzione, l’idea di addestrare i giovani all’uso dell’IA va benissimo, ma bisognerebbe anche addestrarli a difendersi dalle strategie di persuasione di cui possono essere inconsapevoli vittime (con o senza IA). Tutti questi aspetti pratici dell’IA sono immediatamente comprensibili, suscitano immediate reazioni nel pubblico e veicolano istanze etiche più che apprezzabili. Accanto a questi aspetti, ce ne sono altri di natura teorica, che meritano uguale attenzione, perché pongono problemi di fondo sia per l’IA classica sia per quella “generativa” di oggi, problemi che ci portano a una domanda: in che cosa consiste la razionalità? Il bello è che impegnandoci a capire quanto razionali sono le “macchine”, riusciamo a capire meglio la nostra razionalità.
Mi limiterò a segnalare tre di questi problemi. Sono problemi nuovi? No. Ma siccome l’infuocato dibattito sull’IA, tra gli entusiasti per le nuove “magnifiche sorti e progressive” e i nunzi dell’Armageddon, sembra aver dimenticato questi problemi, conviene ricordarli.
Si tratta di problemi filosofici. Anche se non entrerò nel merito di quale significato abbiano le rispettive soluzioni, ci tengo a dire prima una cosa: con questi problemi, non intendo suggerire che l’IN è essenzialmente superiore a ogni possibile IA, facendo leva sulla captatio benevolentiae, cioè, sul carpire l’assenso dicendo quello che il pubblico vuol sentirsi dire. Sarebbe il modo peggiore di fare filosofia. Perciò non ricorderò questi tre problemi per ribadire che noi umani siamo superiori a qualunque tipo di IA così come, circa gli impieghi dell’IA, non vi ho detto che dovremmo averne paura e neppure che dovremmo scorgervi la panacea dei nostri guai. Di fatto, con la nostra superiore intelligenza ne combiniamo di tutti i colori e, sì, siamo intelligenti ma anche stupidi, specialmente quando si tratta di decidere come comportarci per assicurare il bene comune.
Primo problema. Quando si parla di IA ci si riferisce a macchine. Sono macchine straordinarie perché fanno cose che a noi richiedono molta intelligenza. Ma… queste macchine sono davvero intelligenti? E, per prima cosa, capiscono il significato delle sequenze di simboli che manipolano? Come i comuni pc, queste macchine infatti manipolano simboli (i sistemi di IA classica lo fanno in un modo, quelli dell’IA generativa in un altro) e lo fanno in maniera eccellente. Cioè, hanno capacità sintattica. Ma capiscono la relazione tra i simboli e ciò cui i simboli si riferiscono, cioè, hanno capacità semantica? Sono stati addotti argomenti che lo escludono. E in futuro? Finora le macchine sono confinate a un mondo digitale che abbiamo costruito per loro. In futuro, con l’integrazione delle abilità linguistiche, di astrazione e robotiche, e senza bisogno di alcun “prompt” (come nella recente IA “agentiva”) non escludo che possano sviluppare una, seppur minima, capacità semantica . Questo non mi impedisce di dubitare che sentimenti e moralità siano replicabili artificialmente, perché sono aspetti strettamente connessi alla vita (umana). Potranno essere simulati? Sì, ma, per riprendere un’analogia molto usata, come la simulazione al computer di un temporale non è un temporale (non piove nel computer – meno male), così la simulazione di sentimenti e moralità resta un falso, fermo restando che il mercato delle apparenze è molto redditizio.
Secondo problema. Da quando è stata battezzata, nel 1956, l’IA è stata improntata per molto tempo a un’architettura logica specializzata su un ben definito dominio. Si tratta dei cosiddetti sistemi esperti, che al di fuori di quel dominio, però, non funzionano: sono privi di “intelligenza generale”. Se non altro, il loro funzionamento era trasparente: in linea di principio si poteva controllare ogni passo eseguito dalle macchine, trovare i bug e rimediare. L’IA recente, basata su reti neurali artificiali e deep learning, è , o sembra essere, opaca: riesce a svolgere bene i più svariati compiti, ma il modo in cui ci arriva non è accessibile al controllo. Possiamo dire che un’IA opaca è razionale? Dobbiamo aprirci a un nuovo tipo di razionalità? L’opacità potrebbe essere contingente: ancora non abbiamo trovato il modo di eliminare l’opacità ma potremmo riuscirci domani; oppure potrebbe essere ineliminabile. Neanche noi abbiamo accesso all’insieme di processi che avvengono nel nostro cervellino quando ragioniamo e questo non sembra disturbarci. C’è forse una soglia di trasparenza in una gerarchia di livelli di complessità?
Terzo problema. Gli algoritmi di cui si serve l’IA sono in grado di risolvere ogni problema? Le macchine possono essere coscienti? Sembrano due domande, non una. In realtà, sono connesse e non da ora. Alcuni teoremi di quasi un secolo fa hanno mostrato l’esistenza di problemi indecidibili (non risolvibili medianti algoritmi). Fermo restando che gli algoritmi sono stati una grande scoperta, uno strumento imprescindibile del pensiero razionale e di grande utilità pratica, gli algoritmi vanno incontro a dei limiti intrinseci: ci sono problemi indecidibili e la cosa interessante è che hanno che fare con la capacità di un sistema di riferirsi a se stesso.
Eccoci dunque al nesso con la coscienza. Infatti, la coscienza, prima di essere responsabilità morale, è la capacità di riferirsi a se stessi. Si chiama “autoriferimento”. Qualunque sistema, sia esso naturale o artificiale, che ha questa risorsa può oggettivare se stesso e parlarne dicendo quel che noi diciamo con il pronome “io”. Un sistema che avesse accesso a sé e ne parlasse solo in terza persona, come se io parlassi di me dicendo “Alberto spera che …” avrebbe soltanto una semi-coscienza, come purtroppo si verifica nel caso di alcune patologie.
Alan Turing ideò le macchine che portano il suo nome e che sono state una sorta di modello teorico per i primi programmi di computer. Turing mostrò che queste macchine sono in grado di codificare il proprio programma ma proprio per questo i loro algoritmi vanno incontro ai limiti che dicevo. La mente umana è in grado di riconoscere questi limiti e di arrangiarsi, con la creatività, a risolvere i problemi che un sistema che computa non risolve. Naturalmente, bisogna vedere cosa s’intende per creatività. Sotto certi aspetti, già l’IA attuale può essere creativa, o almeno dare l’impressione di esserlo. Anche se gli esseri viventi fossero macchine, cioè, macchine biologiche, sarebbero pur sempre macchine diverse da quelle che implementano l’IA: hanno un hardware, il loro corpo, che è alquanto diverso dall’hardware di macchine come pc e robot. C’è chi ha sostenuto che, come un software è indipendente dall’hardware su cui gira e quindi può esserne separato, così la mente umana è indipendente dal corpo; ma l’architettura della mente sembra strettamente connessa alle potenzialità del corpo, quindi l’IA finisce per riproporci il classico problema mente-corpo – un problema che mi guardo bene dall’affrontare in poche parole.
