I rischi dei sistemi di Intelligenza Artificiale (IA) includono: (i) bias e discriminazioni, essi possono infatti perpetuare e amplificare i pregiudizi esistenti nella societa, portando a risultati arbitrariamente selettivi; (ii) soppressione di posti di lavoro e disparità di reddito, perche automazione e IA possono sostituire i lavoratori umani in alcune funzioni; (iii) problemi di sicurezza e di privacy, nonché di compromissione potenziale di informazioni sensibili, considerato che tali sistemi sono vulnerabili agli attacchi degli hacker e in generale alla violazione dei dati; (iv) deficit di responsabilità e di accountability, poiche l’IA potrebbe prendere decisioni senza l’intervento umano e dunque rendere difficile determinare chi e responsabile di eventuali errori o esiti dannosi; (v) controllo e manipolazione eccessivi, nel senso che l’IA puo essere utilizzata per la sorveglianza e per attività ispettive o di verifica, con potenziali gravi ripercussioni sulla liberta delle persone e sulla riservatezza; (vi) conseguenze non volute anche molto serie, dato che i sistemi di IA possono produrre esiti inattesi ed effetti collaterali negativi non prevedibili durante il loro sviluppo; (vii) importanti questioni etiche, in particolare su come vengono prese le decisioni.
Si tratta evidentemente di rischi che devono essere considerati con attenzione e affrontati sia nella fase di sviluppo sia nell’implementazione dei sistemi di Intelligenza Artificiale, in modo da garantire che questi ultimi vengano utilizzati in modo eticamente sostenibile.
In generale, il fatto che i benefici superino i rischi, dipenderà dalle singole specifiche applicazioni e dalle modalità d’uso. Ad esempio, sebbene sia già piuttosto chiaro che l’IA può apportare vantaggi assai significativi come una maggiore efficienza, accuratezza e capacita decisionale, se il sistema di Intelligenza Artificiale non fosse adeguatamente convalidato o se vi fossero errori nei dati utilizzati per addestrarlo, i risultati potrebbero essere inaffidabili e danneggiare i fruitori di quella specifica applicazione.
Un problema, questo, da non trascurare, anche in ragione del fatto che altamente improbabile che nel futuro saremo in grado di escludere anche solo parzialmente l’Intelligenza Artificiale dalle nostre vite visto che e già profondamente integrata in molti ambiti della società – dall’assistenza sanitaria alla finanza, dai trasporti al commercio al dettaglio, dalla formazione alla comunicazione – e che man mano che la tecnologia avanza, essa svolge un ruolo sempre piu importante e pervasivo. Al riguardo, sarà naturalmente necessario regolamentare l’uso dei sistemi di IA, anche attraverso strumenti di soft law e linee guida.
Relativamente ai Paesi più poveri, l’impatto dell’IA sarà ancora più complesso perché a fronte degli indubbi benefici in termini di accesso alla sanità e all’istruzione, nonché in generale di efficienza, produttività e nuove opportunità economiche, vi sono rischi significativi legati alla mancanza delle infrastrutture, risorse e competenze necessarie per regolamentarla e controllarne efficacemente l’uso, il che potrebbe portare a conseguenze indesiderate e danni a popolazioni vulnerabili. Inoltre, si potrebbero esacerbare le disuguaglianze esistenti e crearne di nuove, poiché coloro che dispongono di maggiori risorse e piu facile accesso alla tecnologia potrebbero trovarsi in una posizione molto migliore per raccogliere i benefici dell’IA.
Infine, vanno considerati, per tutti i Paesi, i rischi politici associati all’Intelligenza Artificiale, che evidenziano l’importanza di una cooperazione e regolamentazione che siano internazionali. Tra questi rischi: (i) la polarizzazione, poiché l’IA potrebbe essere utilizzata per diffondere disinformazione e manipolare l’opinione pubblica, alimentando le divisioni e i conflitti nella societa; (ii) la concentrazione del potere nelle mani di poche aziende o organizzazioni, il che può avere conseguenze significative per la democrazia e la responsabilità politica; (iii) la sorveglianza e il controllo di massa, con serie preoccupazioni in merito alla privacy, alla liberta individuale e ai diritti umani fondamentali; (iv) la mancanza di responsabilità, cui si e già accennato, nel senso di non essere in grado di determinare chi ha causato cosa; (v) la perdita di posti di lavoro e i disordini politici conseguenti; (vi) l’incremento della competizione geopolitica e possibili nuove o maggiori tensioni internazionali; (vii) le questioni etiche relative al ruolo della tecnologia nella società e a come le decisioni prese dai sistemi di IA dovrebbero essere guidate da considerazioni morali.
Fin qui quello che l’IA, id est ChatGPT, pensava di se stessa il 3 febbraio 2023, letteralmente. L’etteralmente a parte una revisione stilistica che chi scrive ha apportato traducendo in italiano il testo redatto da ChatGPT, nel tentativo, molto umano, di renderlo forse piu gradevole, di certo meno impersonale; di scalfire la percezione di un prodotto confezionato in una specie di sistema fordista, utile perche realizzato con i criteri di un’affidabilita standard, ma non del tutto convincente per la stessa ragione.
I sistemi di Intelligenza Artificiale come ChatGPT si basano infatti fondamentalmente su tecniche di apprendimento automatico. Cio significa che le soluzioni che essi propongono ai problemi posti dagli utilizzatori derivano dalla ricombinazione statistica di ciò che essi trovano nel web. Sebbene vi sia anche la presenza di tecniche di apprendimento supervisionato e per rinforzo, la struttura essenziale presuppone una orizzontalità’ per cui non vi è distinzione tra quanto viene prodotto nel web, sugli stessi argomenti, da persone esperte e da persone meno esperte o addirittura non esperte.
Che ChatGPT produca risultati piu accurati quando si tratta di argomenti molto specialistici e tecnici deriva dal fatto che di questi argomenti nel web “parlano” in misura preponderante persone qualificate, realmente esperte. Tuttavia, poiché evidentemente il maggiore impatto sociale di sistemi di IA come ChatGPT si ha relativamente al loro uso da parte degli utenti per questioni generali, che riguardano le loro vite, e non per questioni scientifiche, un’ovvia conseguenza del suo sistema di funzionamento e che tali sistemi danno una forma (apparentemente) logica a idee e visioni, sia fattuali sia valoriali, che non hanno un solido fondamento empirico o scientifico. In questo modo, si riproducono le condizioni che, baconianamente, generano i ‘pregiudizi della mente’, gli “Idola”, che si contrappongono alla verita e alla sua ricerca. Una ragione in più per riflettere sulla direzione che i sistemi di IA presumibilmente imprimeranno alle comunità su questioni della massima rilevanza per l’umanità e il suo futuro.
Dal febbraio scorso, da quando ChatGPT e stato interrogato al fine di riportare in questo volume, che in quel periodo prendeva forma, una sorta di auto-valutazione etica dell’IA, nuove versioni della ChatBot si sono affastellate, nuovi competitori hanno guadagnato spazio nel mercato, nuove applicazioni sono state realizzate e si sono diffuse globalmente: le prospettive si sono evolute con una velocità di innovazione non riscontrabile in altri settori scientifici e tecnologici, con salti qualitativi che probabilmente non vi sono invece stati nell’analisi etico-giuridica, e antropologica, dell’impatto dell’IA, attuale e potenziale, sulle società e sulle economie del pianeta.
Il testo che segue, “L’Intelligenza Artificiale: distingue frequenter. Come giungere a una comunanza etica nella societa del pluralismo”, è una proposta della Consulta scientifica del Cortile dei Gentili, come sempre corale e polifonica, quale contributo alla riflessione su forme di intelligenza che sono una creazione umana e che hanno già raggiunto alcuni risultati comparabili a quelli ad oggi prodotti solo dall’umana ragione.
Probabilmente, si tratta di un altro modo di comprendere la realtà, con rischi significativi e margini di miglioramento vertiginosi, da parte di sistemi straordinariamente sofisticati, rispetto ai quali il volume vuole offrire una guida che speriamo utile per l’interpretazione dei fenomeni in corso, sine ira ac studio.
Cinzia Caporale è Coordinatore del Centro Interdipartimentale di Bioetica del CNR e componente della Consulta scientifica del Cortile dei Gentili. Il testo costituisce l’introduzione del libro “Intelligenza Artificiale: distingue frequenter. Uno sguardo interdisciplinare” con la prefazione di Giuliano Amato, a cura di Cinzia Caporale e Laura Palazzani (CNR Edizioni)
In foto un particolare della copertina del libro
