Per quanti ancora non avessero dimestichezza con i luoghi classici del dibattito epistemologico sulla filosofia dell’intelligenza artificiale e sulla filosofia della mente – le macchine di scatole di fiammiferi che imparano a giocare a tris, le cyrillic typist della Guerra fredda che battevano a macchina il russo senza capirne una parola, la stanza cinese di John Searle, il cervello immerso nel suo bagno di sostanze chimiche, il gioco dell’imitazione di Alan Turing – questo è il libro da leggere. E per chi quei luoghi li frequenta da anni è il libro da rileggere con occhi nuovi, perché li rimette in circolo proprio mentre i chatbot hanno smesso di essere curiosità da laboratorio per diventare interlocutori quotidiani di milioni di persone.
Marco Salucci, filosofo del linguaggio e della mente, lo ha intitolato “Bestiario artificiale. Storie di macchine che parlano” (Metilene, Pistoia 2026), e il titolo non è un vezzo. Come i bestiari medievali catalogavano creature reali e fantastiche per ricavarne un insegnamento, queste pagine radunano automi omerici e bambole meccaniche, dattilografe e scatole di cartone, uomini chiusi in una stanza e omini infilati dentro un cervello, per rivolgere a ciascuno la stessa domanda antica: c’è una mente là dentro? Ne esce un volume che mette al centro le questioni epistemologiche – che cosa sappiamo, e che cosa possiamo sapere, delle macchine che parlano – lasciando volutamente ai margini quelle etiche, giuridiche e politiche, delle quali del resto le librerie non patiscono carestia.
L’oracolo che nessuno sa leggere
Il punto di partenza è meno astratto di quanto sembri. Si ripete spesso che il problema non sta nell’intelligenza artificiale ma nell’uso che se ne fa. È un argomento che ha accompagnato molte tecnologie del passato e che perde forza davanti a strumenti che scelgono a chi concedere un credito, quale curriculum scartare, quale diagnosi suggerire. Uno strumento che decide non è più un mezzo neutro, almeno non nello stesso senso.
A complicare le cose c’è un ostacolo elementare: la diffusa ignoranza di come questi sistemi funzionino davvero. Chi li interroga rischia di trattarli come oracoli, senza conoscere né la natura né i limiti delle risposte che riceve. E l’opacità non riguarda soltanto gli utenti. Sappiamo costruire e addestrare reti neurali dalle prestazioni sorprendenti, ma non sempre sappiamo ricostruire il percorso che porta a un certo risultato: è il problema della cosiddetta «scatola nera».
Salucci non ne fa un dogma. La storia della scienza conosce tecnologie che hanno funzionato prima di possedere una teoria, come la macchina a vapore prima della termodinamica, e non a caso uno dei capitoli invoca un Maxwell per l’IA. Proprio per questo, però, le spiegazioni vanno cercate e non archiviate come superflue solo perché il sistema «funziona». Prima ancora delle questioni sociali ed etiche si impone dunque una domanda epistemica: che cosa sappiamo davvero delle macchine a cui affidiamo compiti sempre più complessi?
Dalle ancelle di Efesto ai neuroni di McCulloch e Pitts
La filosofia, ricorda Salucci, non arriva a cose fatte a commentare le novità della tecnica. La riflessione sulla logica, sul calcolo e sul linguaggio, da Leibniz a Frege, da Hilbert a Turing, ha preparato la nascita dell’intelligenza artificiale e continua a fornirci gli attrezzi concettuali per capirla. A sua volta l’IA ci restituisce l’immagine come uno specchio, costringendoci a chiarire che cosa intendiamo per intelligenza, comprensione, significato, creatività, intenzionalità, coscienza.
Il desiderio di costruire creature pensanti, del resto, è più vecchio dei computer. Già nel diciottesimo canto dell’Iliade Efesto si fa sorreggere da ancelle d’oro che hanno «mente nel petto», voce e forza; Erone di Alessandria costruiva automi che meravigliavano gli spettatori; e poi il Golem, l’homunculus degli alchimisti, la bambola Olympia di Hoffmann su cui ragionò Freud nel saggio sul perturbante. Cambiano i materiali, la domanda resta.
Ma la storia recente, avverte l’autore, non procede in linea retta. Il passaggio dal cognitivismo classico al connessionismo ha cambiato il modo di pensare l’elaborazione dell’informazione: non più soltanto manipolazione sequenziale di simboli secondo regole esplicite, ma reti di unità interconnesse che lavorano in parallelo, rappresentazioni distribuite, apprendimento. Le reti neurali, le cui basi teoriche furono poste nel 1943 da Warren McCulloch e Walter Pitts, rimasero a lungo ai margini prima di tornare al centro della ricerca negli anni Ottanta. Sono per certi aspetti biologicamente più plausibili dei calcolatori sequenziali, perché il risultato non dipende da un’unità centrale. Resta però una continuità di fondo: entrambi i paradigmi ci obbligano a chiederci se almeno alcune capacità mentali siano descrivibili in termini computazionali. È il filo che lega questo libro al precedente Il problema mente-corpo. Da Platone all’intelligenza artificiale (thedotcompany, 2018), di cui il Bestiario è una sorta di prosecuzione ideale.
Tra le righe si avverte lo stupore, persino una certa ammirazione, di Salucci davanti alle prestazioni dei grandi modelli linguistici. E dietro molte pagine sembra affiorare una domanda insieme ironica e inquietante: le macchine sono davvero così brave, o siamo noi più semplici di quanto abbiamo sempre creduto?
Cappelli, mantelli e buona creanza
Il confronto da cui il libro prende le mosse è quello fra Cartesio e Turing. Per Cartesio le macchine non possono avere stati mentali: potranno imitare questo o quel comportamento, ma non possiedono la capacità generale di adattare il linguaggio, indefinitamente, alle circostanze. Eppure fu lo stesso Cartesio a porsi il dubbio che tre secoli dopo Turing renderà operativo: che cosa garantisce che le figure coperte da cappelli e mantelli che passano sotto la finestra siano uomini veri e non automi?
Turing non cerca una definizione preliminare del pensiero. Osserva che l’unico modo per essere certi che un altro pensi sarebbe essere quell’altro, cosa impossibile; per questo, tra esseri umani, ci atteniamo alla convenzione, suggerita dalla buona creanza, che tutti pensino. Propone allora di applicare la stessa cortesia alle macchine e sostituisce la domanda «possono pensare?» con il gioco dell’imitazione: un interrogante, separato dagli interlocutori e costretto a comunicare per iscritto, deve indovinare chi è chi. Che cosa accade se al posto di uno dei giocatori si mette una macchina?
Il test, precisa Salucci, non dimostra che la macchina abbia una mente, e Turing non lo ha mai sostenuto: attribuirgli questa tesi significa confonderlo con l’interpretazione «forte» dell’IA. Il test mette piuttosto in crisi la pretesa di decidere la questione attraverso un accesso diretto agli stati interni, accesso che non abbiamo neppure nei confronti dei nostri simili. Rimane aperto uno spazio decisivo: la somiglianza dei comportamenti non implica la somiglianza della costituzione interna. Quanto deve assomigliarci un essere «non nato da donna» perché lo trattiamo come qualcuno e non come qualcosa? È in questo spazio, fra comportamento linguistico e stati mentali, che il Bestiario costruisce il suo discorso.
Trecentoquattro scatole e un sacchetto di perline
Hilary Putnam, per difendere il funzionalismo, scherzava che la sostanza di cui siamo fatti, spirito, materia o emmental svizzero, non pone restrizioni interessanti alla nostra forma intellettuale. Nessuno, osserva Salucci, ha mai costruito un computer di formaggio; con le scatole di fiammiferi, invece, qualcuno ci è riuscito.
È una delle pagine più godibili del libro. All’inizio degli anni Sessanta Donald Michie, all’Università di Edimburgo, realizzò MENACE, una macchina che imparava a giocare a tris composta da 304 scatole di fiammiferi, una per ogni configurazione della griglia. Ogni scatola conteneva perline colorate associate alle mosse possibili: al turno della macchina, un operatore umano agitava la scatola corrispondente, estraeva una perlina e giocava la mossa indicata. Una vittoria aggiungeva tre perline del colore vincente, un pareggio una sola, una sconfitta toglieva la perlina colpevole. Dopo un certo numero di partite la macchina diventava imbattibile. Martin Gardner ne divulgò su Scientific American una versione semplificata per l’esapedone che bastava con 24 scatole, e ai Bell Labs nacque perfino NIMBLE per il gioco del Nim.
Il punto filosofico è sottile. Il funzionamento di MENACE si lascia descrivere, senza forzature, con il lessico dell’IA contemporanea: stati, azioni, policy aggiornata per rinforzo, reward shaping, ciclo agente-ambiente. Dunque, provoca l’autore, o l’IA è «stupida» quanto un mucchio di scatole di fiammiferi, o le scatole sono intelligenti quanto l’IA. La via d’uscita sta nel non confondere il formalismo di una teoria con la struttura del sistema descritto: la meccanica descrive tanto il lancio di un sasso quanto quello di un razzo, ma le prestazioni non si equivalgono. Resta comunque la lezione: comportamenti apparentemente intelligenti si ottengono con meccanismi che certamente non lo sono, e se basta un po’ di cartone per fabbricare un campione di tris, forse il re è un po’ più nudo di quanto amiamo ammettere. Anche l’evoluzione per selezione naturale procede per tentativi, errori e rinforzi, eppure nessuno chiamerebbe intelligenti i becchi dei fringuelli di Darwin.
Dattilografe, stanze chiuse e uragani simulati
Nel 1980 John Searle propose quello che è stato definito l’esperimento mentale più famoso del Novecento. Un uomo che non conosce il cinese, chiuso in una stanza, riceve fogli con domande in ideogrammi e, consultando un manuale di corrispondenze, restituisce risposte pertinenti senza capire nulla. Poiché fa esattamente ciò che fa un computer, manipolare simboli in base alla forma, la sintassi non basta a produrre semantica. Salucci mostra la struttura disgiuntiva dell’argomento: il mentale deriva dal software o dall’hardware; non dal software, dunque dai poteri causali del cervello.
Il libro affianca a questo scenario un episodio storico poco noto. Durante la Guerra fredda gli enti federali americani, dalla CIA alla Library of Congress, impiegavano le cyrillic typist: dattilografe che non sapevano il russo ma, addestrate con schemi plastificati, ricopiavano giornali e dispacci sovietici anche a oltre cinquemila parole al giorno, lasciando ai pochi e costosi linguisti il lavoro di analisi. I loro testi alimentarono persino i primi esperimenti di traduzione automatica. Facevano con il cirillico ciò che l’uomo di Searle fa con gli ideogrammi, e l’autore non esclude che proprio loro, insieme alle scatole di Michie, abbiano ispirato l’argomento.
Le obiezioni non tardarono. John Haugeland immaginò di infilare l’uomo dentro un cervello, incaricandolo di aprire e chiudere le sinapsi al posto dei neurotrasmettitori: l’uomo non capirebbe il cinese, il cervello sì. Nessun neurone pensa, ma tutti insieme sì. Searle replicò che ciò che conta sono le giuste proprietà fisico-causali, e che un uragano simulato non bagna nessuno; Dennett rispose che la simulazione di una dimostrazione è una dimostrazione. Il cervello, del resto, non è una centrale telegrafica ma un organo immerso in un bagno chimico: se per la coscienza conta anche l’analogico, il silicio potrebbe non bastare.
C’è poi un rovescio ironico che Salucci mette bene in luce. Per stabilire che l’uomo nella stanza non capisce, Searle deve appellarsi all’introspezione, al sapere «che effetto fa» comprendere una lingua, come nel pipistrello di Thomas Nagel. È un ritorno, suo malgrado, a Cartesio. E così, conclude l’autore, si torna al punto di partenza: il test di Turing.
Il mondo per sentito dire
Che la conclusione di Searle valga senza residui per i sistemi connessionisti di oggi, però, è parte del problema e non un dato acquisito. Nei grandi modelli linguistici il testo viene spezzato in token, parole o frammenti tradotti in numeri; il modello apprende le regolarità statistiche dei testi e, generando, sceglie di volta in volta il token più adatto al contesto. Resta sorprendente, scrive Salucci, che «un modo di usare il linguaggio senza “sapere di cosa si parla”, senza riferimenti al mondo esterno, riesca a parlare sensatamente del mondo». È probabilmente la domanda attorno a cui ruota l’intero libro.
Una risposta possibile è l’ipotesi distributiva: il significato di una parola dipende dai contesti in cui compare, un’idea che affonda le radici nella linguistica strutturale e che, con le dovute cautele, ricorda il significato come uso di Wittgenstein. Già in Saussure il valore di un segno nasce dalle differenze con gli altri segni del sistema. Se gli usi linguistici rispecchiano in qualche misura la struttura del mondo, è perché li hanno prodotti parlanti che nel mondo vivono e agiscono: un LLM erediterebbe così un riferimento di seconda mano. Ma il linguaggio non è uno specchio perfetto, porta con sé mediazioni sociali, culturali e storiche; ciò di cui un LLM è modello non è il mondo ma la sua sedimentazione linguistica.
Salucci invita a non scambiare l’ipotesi per una soluzione definitiva. Eppure la domanda resta: se nel linguaggio si è depositata una parte della nostra esperienza, imparare le relazioni interne al linguaggio potrebbe voler dire imparare, indirettamente, qualcosa della realtà. La distinzione fra sintassi e semantica non scompare, ma le prestazioni dei modelli la rendono meno netta di quanto sembrasse nella stanza di Searle.
Pierino, i batteri e settanta definizioni
Buona parte della confusione dipende da una parola: intelligenza. Shane Legg e Markus Hutter ne hanno contate oltre settanta definizioni, e chiedersi se l’IA sia «vera» intelligenza presuppone una definizione che non c’è. Salucci distingue la capacità di adattarsi e risolvere problemi nuovi dalla razionalità, cioè dal saper giustificare ciò che si fa. Se Pierino copia il compito dal compagno ma non sa spiegare i passaggi, non diremo che ha capito; eppure Pierino resta intelligente anche quando sbaglia l’esercizio. Allo stesso modo i batteri che aggirano gli antibiotici sono intelligenti solo per metafora, e un sasso che cade «segue» la legge di gravità senza rappresentarsela.
La stessa prudenza vale per la coscienza. «Cercare di riprodurre una coscienza artificiale o capire perché non può essere riprodotta», scrive l’autore, «potrebbe aprire la strada per comprendere quella naturale». Non sapendo ancora come il cervello produca l’esperienza in prima persona, tanto l’entusiasmo quanto le negazioni definitive appaiono azzardati. Ma la domanda si può anche rovesciare: se le prestazioni linguistiche non bastano a provare la comprensione, quali basterebbero? Agli esseri umani la attribuiamo proprio perché rispondono, si correggono, traggono conseguenze. Se una macchina fa sempre meglio queste cose, tocca a noi dire con precisione che cosa le manca.
Spiegare non è svilire
C’è poi la creatività, spesso difesa come ultimo baluardo dell’umano senza che nessuno sappia dire bene che cosa sia. «Non si può valutare se un sistema di IA è creativo se non si ha una teoria su cosa sia la creatività», osserva Salucci. Si obietta che le macchine si limitino a ricombinare un numero enorme di elementi già esistenti; ma allora bisognerebbe stabilire quanto anche la creatività umana proceda per combinazioni, selezioni e trasformazioni di materiali precedenti. La differenza, se c’è, potrebbe riguardare meno la capacità combinatoria che i criteri con cui riconosciamo, tra le tante combinazioni, quelle che valgono.
Dietro questi timori se ne nasconde uno più generale: se una macchina fa ciò che credevamo esclusivamente nostro, la dignità umana ne esce diminuita? La risposta dell’autore è semplice e disarmante: «se scopriamo di essere fatti così-e-così non abbiamo svilito l’essere umano, l’abbiamo spiegato». Conoscere meglio i meccanismi da cui dipendono le nostre capacità può cambiare l’immagine che abbiamo di noi stessi, ma non cancella il valore che attribuiamo alle persone.
Un’àncora gettata fuori dalle parole
Il capitolo forse più riuscito è quello dedicato al rapporto fra linguaggio e realtà, che torna urgente quando a parlare sono sistemi privi del nostro accesso percettivo al mondo. Salucci mette a confronto il relativismo linguistico con i vincoli che la comune costituzione biologica impone a lingue e culture, e la verità come corrispondenza con la verità come coerenza. Accediamo alla realtà solo attraverso i nostri apparati percettivi e concettuali, ma non ne segue che la realtà si riduca alle nostre interpretazioni; un’autoreferenzialità radicale renderebbe impossibile ogni confronto con l’evidenza. Passando per il realismo interno di Putnam e per le tesi sull’universo come simulazione, l’autore arriva a un’indicazione preziosa: con gli LLM conviene conservare del realismo almeno l’idea che la funzione epistemica del linguaggio dipenda dal suo ancoraggio al mondo, e che parlare di significato implichi fare i conti con qualcosa che eccede il linguaggio stesso.
Lo specchio che risponde
Le macchine che parlano mostrano che prestazioni linguistiche straordinariamente convincenti possono esistere senza che sia chiaro se vi corrispondano pensiero, comprensione, intenzionalità. La questione non si chiude constatando che le loro frasi hanno senso, né decretando in partenza che, essendo di una macchina, non possono avere nulla a che fare con il significato. Il terreno più fertile sta proprio nella distanza fra queste due risposte troppo facili.
Il Bestiario è una guida rigorosa e accessibile a quel territorio, e ha il merito di non chiudere le porte che apre. Ci costringe a riprendere domande antiche: che cosa vuol dire capire una parola, quali indizi ci autorizzano ad attribuire una mente, che cosa separa intelligenza, razionalità e coscienza. Lo stupore per le macchine finisce così per riguardare noi: capire che cosa fanno significa chiederci di nuovo che cosa facciamo quando comprendiamo, pensiamo e creiamo.
In foto: Donald Michie
