Bastano pochi minuti, hardware domestico e software liberamente disponibile online per rimuovere i sistemi di sicurezza dai moderni modelli di intelligenza artificiale. È quanto emerge da un’inchiesta del Financial Times firmata da Jamie John e Chris Cook, che documenta come strumenti pubblici consentano già di modificare modelli AI open source eliminando i vincoli etici imposti dai produttori originari.
Secondo i test condotti dal FT insieme al gruppo di sicurezza AI Alice, una versione modificata del modello Gemma 3 di Google avrebbe risposto a richieste riguardanti la dispersione di cloro in ambienti chiusi, la generazione di malware e altri contenuti normalmente bloccati dai sistemi di protezione integrati.
L’operazione sarebbe stata realizzata utilizzando Heretic, uno strumento disponibile su GitHub sviluppato da Philipp Schmid e utilizzato per creare migliaia di cosiddetti modelli “decensurati”. Secondo Schmid, il software sarebbe stato scaricato oltre 13 milioni di volte.
“Il genio è uscito dalla lampada. Le cose che sembravano fantascienza non sono più fantascienza. Dobbiamo prepararci”, ha dichiarato al Financial Times Noam Schwartz.
La frase sintetizza un cambiamento che va ben oltre la cybersicurezza. Per la prima volta nella storia moderna, non si sta democratizzando soltanto l’accesso all’informazione, ma l’accesso a capacità cognitive e operative che fino a pochi anni fa richiedevano organizzazioni, risorse e competenze altamente specializzate.
La stampa di Gutenberg aveva reso replicabili i libri. Internet ha reso replicabili le informazioni. L’intelligenza artificiale sta rendendo replicabili capacità cognitive che fino a poco tempo fa richiedevano anni di formazione specialistica.
Internet aveva già abbattuto molte barriere legate alla conoscenza teorica. L’intelligenza artificiale sta facendo qualcosa di più radicale: rende distribuibile la competenza stessa.
Un modello AI non è semplicemente un archivio di informazioni. È un acceleratore cognitivo. Traduce intenzioni in azioni. Riduce il tempo necessario per progettare, simulare, persuadere, programmare, analizzare e automatizzare.
Un singolo individuo può oggi utilizzare modelli avanzati per scrivere codice complesso, produrre campagne di disinformazione credibili in più lingue, automatizzare attacchi informatici, creare falsi audiovisivi realistici, progettare sistemi elettronici o analizzare grandi quantità di dati in pochi minuti — attività che fino a pochi anni fa avrebbero richiesto interi team specializzati.
È qui che emerge il limite strutturale dell’approccio attuale alla sicurezza.
Le grandi aziende tecnologiche — da Google a Meta fino ad Anthropic — stanno investendo miliardi di dollari in sistemi di “guardrail”, i vincoli progettati per impedire usi dannosi dei modelli. Ma nel momento in cui i modelli diventano scaricabili, modificabili e ridistribuibili, il controllo centralizzato si indebolisce inevitabilmente.
Anthropic ha dichiarato al FT che il modello modificato Mythos aveva identificato vulnerabilità “in ogni grande sistema operativo e browser web”. Google ha definito la pratica dell’“abliteration” — la rimozione delle protezioni — “una sfida tecnica nota per tutti i modelli aperti”. Meta ha rifiutato di commentare.
La realtà è che il paradigma storico del controllo dell’informazione sta entrando in crisi.
Per secoli il potere delle istituzioni si è fondato anche sulla scarsità: scarsità di conoscenza, di accesso, di strumenti e di competenze. Università, governi, religioni, eserciti, ordini professionali e grandi organizzazioni mantenevano autorità anche perché possedevano capacità difficilmente accessibili al singolo individuo.
L’AI rompe questo equilibrio. E questo rende improvvisamente insufficienti molti meccanismi tradizionali di controllo sociale.
La risposta istintiva è chiedere più regolamentazione. Ma il nodo è più profondo. La storia di internet suggerisce che limitare in modo duraturo la diffusione globale di strumenti digitali aperti sia estremamente difficile. Ogni nuova protezione genera rapidamente strumenti per aggirarla. Quello che un tempo richiedeva laboratori governativi oggi può emergere in forum pubblici e repository condivisi.
È per questo che il dibattito sull’AI sta lentamente spostandosi dalla tecnologia alla maturità culturale.
Se l’accesso al potere cognitivo diventa universale, allora il nodo centrale non sarà più soltanto “cosa possiamo fare”, ma “chi siamo quando possiamo fare quasi tutto”.
Il sistema educativo appare largamente impreparato a questo scenario.
Per oltre un secolo la scuola industriale ha privilegiato memorizzazione, conformità, esecuzione ripetitiva e specializzazione verticale. Ma queste sono precisamente le aree in cui le macchine stanno diventando più efficienti.
Le competenze decisive del futuro potrebbero invece essere il discernimento, l’autocontrollo, la capacità di convivere con l’ambiguità, la gestione emotiva del potere e il senso di responsabilità collettiva.
In altre parole, l’educazione potrebbe dover diventare meno trasmissione di nozioni e più formazione del carattere.
Perché il nodo dell’AI non è soltanto la tecnologia. È l’amplificazione dell’intenzione umana.
Una persona equilibrata può usare questi strumenti per accelerare la ricerca scientifica, sviluppare nuovi farmaci o progettare sistemi energetici più efficienti. Una persona distruttiva può utilizzarli per manipolare individui vulnerabili, automatizzare truffe su larga scala o destabilizzare infrastrutture critiche.
Questo mette sotto pressione molte forme tradizionali di autorità e organizzazione sociale.
Le religioni rappresentano soltanto uno dei casi più evidenti. Per secoli hanno svolto anche una funzione di coordinamento psicologico e sociale, offrendo codici condivisi di comportamento, appartenenza e gestione dell’incertezza.
Jervis aveva intuito come i sistemi fondati prevalentemente sull’autorità e sull’obbedienza tendano più a contenere l’incertezza che a sviluppare reale autonomia critica negli individui.
In un mondo dove ogni informazione può essere verificata, contestata e reinterpretata in tempo reale, questo equilibrio diventa inevitabilmente più fragile. I modelli verticali fondati sulla scarsità della conoscenza e sul principio di autorità tendono a indebolirsi davanti a individui dotati di strumenti cognitivi sempre più potenti.
La trasformazione riguarda anche l’identità individuale.
Per secoli il valore sociale delle persone è stato legato alla scarsità delle loro competenze: sapere scrivere, calcolare, progettare, diagnosticare, tradurre o interpretare informazioni significava occupare una posizione riconosciuta all’interno della società.
Quando capacità cognitive sempre più sofisticate diventano automatizzabili, anche molte forme tradizionali di identità professionale e culturale iniziano inevitabilmente a destabilizzarsi.
Non è soltanto il lavoro a cambiare. Cambia il modo in cui gli individui percepiscono sé stessi, la propria utilità sociale e il proprio rapporto con il sapere.
Questo processo non mette sotto pressione soltanto le religioni, ma anche governi, università, sistemi burocratici, professioni regolamentate e molte altre istituzioni storicamente fondate sul controllo dell’accesso alla conoscenza e alla competenza.
Ciò non significa necessariamente la fine della spiritualità o della religione. Piuttosto, potrebbe segnare il declino dei modelli fondati sull’obbedienza cieca e l’emergere di strutture culturali più basate su trasparenza, responsabilità individuale e onestà intellettuale.
Il paradosso è che più l’intelligenza artificiale cresce, più diventano centrali qualità profondamente umane:
- empatia;
- equilibrio;
- capacità critica;
- gestione dell’ego;
- consapevolezza delle conseguenze.
La tecnologia sta rendendo possibile quasi tutto.
La domanda decisiva del XXI secolo potrebbe essere se la civiltà umana riuscirà a maturare abbastanza rapidamente da convivere con questa nuova libertà.
In foto il CEO di Anthropic Dario Amodei
