Noi e le “macchine” dell’intelligenza artificiale. Una convivenza che ruota intorno ad un bivio: governare la tecnologia o subirla. Lo afferma Adriano Fabris, Professore Ordinario di Filosofia Morale all’Università di Pisa, tra i più autorevoli esponenti del dibattito intorno all’etica dell’intelligenza artificiale. Il suo lavoro si concentra sulla necessità di criteri etici condivisi in un’epoca in cui le macchine non sono più solo strumenti, ma “entità” capaci di agire con un certo grado di autonomia. Queste tematiche sono al centro dell’intervista che segue.
Partiamo da una definizione di etica?
“Etica è la riflessione e la giustificazione di quei criteri in base ai quali agiamo nella nostra vita. Deriva dal termine greco ethos, che significa comportamento, abitudini individuali e collettive. E tutte le volte che noi agiamo, lo facciamo sempre sulla base di alcuni criteri e principi che ci guidano nelle nostre scelte. L’etica è, appunto, la riflessione sui criteri e sui principi che ci orientano nelle nostre scelte. Criteri e principi che sono, condivisibili da tutte le persone, dai soggetti razionali”.
Nel suo libro “La filosofia nell’epoca dell’intelligenza artificiale” lei scrive: “Dobbiamo anzitutto contrastare l’idea, assai diffusa nella mentalità comune, che gli sviluppi tecnologici comportano solo vantaggi e che pertanto bisogna inseguirne gli esiti senza mai fermarsi. Dobbiamo capire che nell’epoca dell’intelligenza artificiale ci troviamo di fronte ad un’alternativa netta. Possiamo o farci affiancare dalle tecnologie o farci sostituire da esse”. E secondo lei verso quale opzione stiamo andando?
“Questa è la domanda fondamentale, la scelta chiave che ci troviamo a dover prendere nell’epoca dell’intelligenza artificiale. Deleghiamo sempre di più a programmi e a macchine il nostro agire, senza conservarne forme di controllo, oppure, visto che siamo noi a scrivere questi programmi, a costruire queste macchine, vogliamo mantenerne il controllo? In questo secondo caso, potenziando il nostro agire con l’intelligenza artificiale. Attenzione perché non è automatico che l’utilizzo di programmi e di dispositivi renda più facile e più comoda la nostra vita. Questa è una illusione che magari molti, anche per interessi personali, vogliono farci credere, ma in realtà ogni volta che noi interagiamo con programmi e dispositivi accade sempre che c’è un vantaggio, indubbio, un potenziamento delle nostre capacità, ma c’è anche un danno, una diminuzione di certe nostre potenzialità. Quello che si chiama diminuzione delle competenze, de-skilling”
Il filosofo Nick Bostrom ha avvertito che “lo sviluppo di una superintelligenza potrebbe essere l’ultima invenzione dell’umanità”. Ritiene che queste preoccupazioni siano realistiche o distolgano l’attenzione dai problemi etici più immediati?
“Come sempre ci troviamo di fronte a grandi contrapposizioni. Un tempo Umberto Eco parlava di apocalittici e di integrati, cioè di quelli che delineano scenari terrificanti da una parte e altri che invece inseguono l’ultimo modello di smartphone o di computer. Io credo che dobbiamo essere equilibrati, la verità come molto spesso accade sta nel mezzo, ma ha ragione Bostrom: non possiamo lasciar andare gli sviluppi tecnologici per la loro strada senza una regolamentazione, senza la possibilità di mantenere un qualche controllo. Certamente questo è complesso, ma se rinunciamo a tutto questo, concordo con Bostrom, lo sviluppo di determinate tecnologie potrebbe essere l’ultima invenzione dell’umanità. Però dall’altra parte non si può neanche spegnere ogni dispositivo, sarebbe impossibile, peraltro oggi. La strada di un utilizzo consapevole e regolamentato è l’unica davvero efficace”.
Uno studio del MIT Media Lab ha evidenziato bias significativi nei sistemi di riconoscimento facciale, soprattutto verso donne e persone con pelle scura. Quali strumenti concreti possono essere adottati per ridurre i bias algoritmici che evidenziano pregiudizi razziali?
“È molto importante il fatto che gli operatori informatici, i programmatori, scrivano programmi consapevoli di quelle che sono le conseguenze e consapevoli anche di quelli che sono i loro pregiudizi. Chi scrive un programma ne ha certamente e si aggiungono anche quelli del committente, che può avere interessi economici o di potere a caratterizzare i modelli in un certo modo. Come uscirne? Attraverso una presa di coscienza che introduca criteri di verifica e una serie di regolamentazioni collegate alla sperimentazione. Ad esempio, nell’Unione Europea c’è tutta una procedura di sperimentazione prevista dall’AI Act per testare le conseguenze prima del rilascio dei modelli: è puro buon senso, è prudenza. Proprio quella prudenza che però è considerata nemica di uno sviluppo tecnologico sempre più veloce perché vuole occupare ambiti di mercato crescenti, colpendo fin dall’inizio l’interesse delle persone e il loro portafoglio”.
Siccome i sistemi algoritmici riflettono le priorità, le preferenze e i pregiudizi di chi li crea, quanto conta la eterogeneità nei team che sviluppano IA per garantire sistemi più equi?
“Sarebbe bene che i team fossero rappresentativi delle varie sensibilità, ma anche di varie competenze: dovrebbero essere presenti anche un eticista, un giurista, coloro che possono fare un lavoro di governo e di attenzione durante la costruzione dei programmi. In molti casi questo già avviene, Ma il discorso di fondo, quello di cui dobbiamo davvero diventare sempre più consapevoli, è che i programmi, le macchine non sono neutri, non sono neutrali e dunque anche i tecnici, i tecnologi, gli informatici, i programmatori non sono dei semplici tecnici, ma anzi, sono dei veicoli di idee se non di ideologie. Ciò che progettano modifica i nostri modi di pensare, incide sulla nostra mentalità. Teniamo conto di questo fatto fondamentale: i programmi di IA davvero cambiano quello che noi pensiamo e cambiano quello che noi facciamo. Basti pensare a quello che è successo con l’invenzione e con la diffusione degli smartphon o dei social. Siamo noi che ci siamo adattati a essi, non il contrario.
Secondo Stanford University (AI Index Report), i modelli di IA stanno diventando sempre più potenti ma anche più opachi. Come si può garantire trasparenza senza compromettere l’innovazione?
“E’ questo è il vero punto, la trasparenza degli algoritmi. Abbiamo a che fare con molti dispositivi e molti programmi di IA che sfuggono al nostro controllo e che sono in grado di agire con una certa autonomia. Perché sfuggono al nostro controllo? Perché non sono trasparenti, perché non sono in buona parte prevedibili e perché i loro processi, per quanto riguarda il loro output, le conseguenze del loro agire, noi non li conosciamo nei dettagli. Ecco perché sono necessarie delle clausole di salvaguardia. Possiamo fare in modo, ad esempio, che le “macchine” per certi compiti debbano fermarsi e rinviare all’essere umano la decisione finale. Anche perché in molti casi questi programmi incidono proprio sulla vita, sulle scelte di un essere umano. Se mettiamo nelle mani digitali di un programma la nostra vita o determinate scelte che ci riguardano profondamente, senza controllo, le conseguenze possono essere davvero pericolose”.
Il tema della responsabilità è centrale: quando un sistema di IA prende una decisione errata, chi ne risponde? Il programmatore, l’azienda o l’utilizzatore finale?
“Il tema della responsabilità è uno dei temi chiave di ogni considerazione etica. Anzitutto si deve parlare di una responsabilità a più mani, le tante mani che vengono coinvolte sono quelle di cui si parlava, vale a dire il progettatore, lo scrittore di programmi, il programmatore, il collaudatore, l’utilizzatore, lo stesso dispositivo che in qualche modo può avere qualche tipo di difetto o essere utilizzato in una certa maniera. Sono tutti questi gli elementi e gli aspetti di responsabilità che devono essere considerati in una maniera decisamente molto più complessa. In questa realtà sempre più complicata, in cui ad agenti umani si aggiungono anche a agenti artificiali, alcuni hanno iniziato a pensare sostanzialmente a due soluzioni per gestire la situazione. La prima di queste è dire; non consideriamo le conseguenze, pensiamo soltanto all’intenzione, pensiamo soltanto all’intenzione umana. L’altra strada è quella di attribuire una responsabilità di segno diverso ai programmi e alle macchine stesse: una sorta di responsabilità artificiale. Recentemente qualcuno ha pensato di attribuire almeno per quanto riguarda i risarcimenti economici che possono venire richiesti a causa del malfunzionamento di certi programmi e di certe macchine, un fondo finanziario a cui attingere nel momento in cui si verifica un malfunzionamento o un certo tipo di guasto. Però dal punto di vista giuridico, legale, dare la responsabilità a entità artificiali è sempre stato escluso, almeno finora”.
L’Unione Europea ha introdotto l’AI Act, uno dei primi tentativi di regolamentazione globale dell’IA. È sufficiente una normativa per affrontare le sfide etiche o serve anche una trasformazione culturale?
“Come sempre i codici aiutano perché definiscono una serie di regole, un mondo in cui si sa che cosa è bene fare e che cosa invece bisogna evitare. Aiutano ma non bastano, perché i codici, come ad esempio la legge europea sull’intelligenza artificiale, l’AI Act, funzionano secondo la logica: trasgressione, punizione, sanzione. Mentre le trasgressioni possono essere abbastanza facilmente riconosciute, le sanzioni, le punizioni non sempre risultano efficaci, non sempre possono essere realmente ed efficacemente applicabili e comunque sono sempre applicabili all’interno della giurisdizione, dell’ambito di quello Stato o di quella comunità che le ha assunte. Ecco allora perché è necessario qualcosa di più, cioè una coscienza etica: una serie di principi generali per l’uso buono e corretto delle tecnologie, che riguardi l’essere umano in quanto tale, non l’essere umano in quanto europeo piuttosto che americano, piuttosto che cinese. Quindi sì, l’AI Act è utile, ma dato che l’intelligenza artificiale è un fenomeno globale che riguarda tutti gli esseri umani di tutte le parti del mondo, deve essere affrontato in una maniera globale, cioè con quei criteri e principi universali che offre l’etica”.
Tra le politiche di Trump più aggressive ci sono proprio quelle contro le norme che l’Unione Europea si è data in materia di IA e digitale. Gli obiettivi sembrano quelli di soggiogare le dinamiche di mercato a cominciare da quelle decisive che riguardano l’intelligenza artificiale e l’industria digitale: niente regole sull’IA per fare dell’UE una colonia delle Big Tech e contrastare la linea responsabile dell’UE riguardo all’uso militare dell’IA. Quanto è pericoloso il fatto che l’evoluzione dell’IA dipenda da pochi colossi digitali e dalla loro alleanza con un presidente come Trump?
“Sicuramente molto, perché il governo dell’intelligenza artificiale come il governo di ogni sviluppo tecnologico, almeno in Europa e più in generale in Occidente, è qualcosa che riguarda e deve riguardare un dibattito pubblico e un coinvolgimento democratico in cui ciascuno ha la possibilità di dire la sua. Ci troviamo, invece, in una situazione molto diversa, in cui solo pochi, in questo momento, hanno un vantaggio dallo sviluppo dell’intelligenza artificiale. Solo pochi possono decidere in sinergia con il potere consolidato. Pensiamo a Stati Uniti, a Russia, a Cina: in queste realtà ben pochi ritengono che il nostro modo di interagire con le tecnologie debba essere governato. Si pensa solo al controllo da parte di pochi che possono aumentare il loro potere, la loro forza economica, la loro capacità di dominio sul resto dell’umanità. Facciamo un nome, Peter Thiel: ha scritto esattamente questo nei libri che ha pubblicato”.
Emily Bender e Alex Hanna nel libro “L’inganno dell’intelligenza artificiale” lanciano un appello ai responsabili politici affinché indaghino su come le modalità di produzione e di utilizzo dell’IA stiano calpestando i diritti umani e civili. C’è bisogno che la politica sia attenta a come sviluppa l’innovazione?
“E’ un appello che mette in evidenza le nuove diseguaglianze che gli sviluppi dell’intelligenza artificiale comportano, che non sono soltanto dovute al fatto che certe parti del mondo hanno un accesso più facile e altre meno, o che non tutti hanno le medesime competenze. No, è proprio l’intelligenza artificiale che plasma le relazioni economiche, le relazioni tra classi sociali e le relazioni tra le varie parti del mondo. Ma gli appelli come sempre sono certamente utili per prendere coscienza del problema, ma poi in realtà non è che portano a risultati concreti. Questi risultati concreti dovrebbero essere realizzati o quantomeno prefigurati attraverso scelte specifiche che vengono fatte da Stati o da comunità di Stati. L’Unione Europea da questo punto di vista aveva incominciato ad andare appunto nella giusta direzione, regolamentando in maniera trasparente, chiara, sulla base di criteri di fiducia e di evitare il rischio, gli utilizzi dell’intelligenza artificiale. Se però non investe in una autonomia tecnologica, alla fine non può che andare a rimorchio di quegli Stati e di quelle realtà politiche che invece hanno questa capacità e corrono nella direzione di un potenziamento tecnologico sempre più forte”.
Microsoft ha lanciato il manifesto Community-First AI che introduce una sorta di “contratto sociale” dell’IA, basato su tre principi chiave: responsabilità sociale, equità dei benefici, salvaguardia dell’ambiente. Questo manifesto è un riferimento da tenere presente per trovare equilibrio tra etica e innovazione?
“Questo è un altro aspetto fondamentale che oggi viene in molti casi trascurato, cioè trascuriamo l’impatto ambientale dell’utilizzo di intelligenza artificiale. Ci sembra che sia così gratuito, così facile da usare anche per le cose più stupide e non allarghiamo lo sguardo, non siamo consapevoli di quello che è il costo anche in termini ambientali. L’uso dell’intelligenza artificiale – ma in generale lo sviluppo tecnologico – ha un impatto ambientale in molti casi davvero dirompente. Ad esempio, per l’utilizzo dell’energia per i data center, che hanno bisogno di tanta acqua per il raffreddamento. L’intelligenza artificiale è molto poco green. E allora è necessario sviluppare realmente una nuova ecologia che non è soltanto quella degli ambienti fisici che pure è importante, ma l’ecologia digitale, cioè quella che riguarda realmente l’impatto sul nostro mondo reale, non soltanto sui mondi virtuali, degli sviluppi tecnologici. È un altro terreno su cui l’etica sta lavorando e può dare realmente il suo contributo”.
Lei ha scritto il libro “Insegnare l’intelligenza artificiale”. Quali competenze etiche dovrebbero acquisire gli insegnanti e gli studenti per vivere nell’era dell’intelligenza artificiale in modo responsabile?
“Quello che dobbiamo realmente insegnare è a un rapporto corretto con le tecnologie in generale. C’è la necessità di formazione anzitutto degli insegnanti, che si trovano a dover lottare con un nuovo scenario in continua evoluzione. E poi c’è la necessità di formazione delle studentesse e degli studenti, che in maniera molto spesso acritica finiscono per diventare ostaggio delle tecnologie e dei modelli di intelligenza artificiale. Allo stato attuale nell’insegnamento della educazione civica è prevista anche una educazione alla cittadinanza digitale. Sono state rilasciate da qualche anno delle linee guida, quali obiettivi di apprendimento, sviluppi conoscitivi e di competenze possono essere effettivamente messi alla prova. Tutto questo diventa sempre di più importante, perché ci giochiamo tutto con le giovani generazioni. Sono loro che saranno richiamati all’alternativa: ci facciamo sostituire o ci facciamo affiancare e potenziare dall’intelligenza artificiale? Per scegliere nel modo giusto devono anzitutto essere consapevoli che le cose, negli sviluppi tecnologici e anche nell’escalation dell’intelligenza artificiale, non vengono mai regalate. Come si sa, quando qualche cosa sembra essere gratuita, poi in realtà il prodotto che viene venduto siamo proprio noi”.
In foto Adriano Fabris
