CI POSSIAMO FIDARE DELL’AI?

L’uso dell’intelligenza artificiale, spiega Leone XIV nell’enciclica Magnifica Humanitas, non è mai un fatto puramente tecnico: quando entra in processi che incidono sulla vita delle persone, essa tocca diritti, opportunità, reputazione, libertà. Decisioni delicate che toccano il lavoro, il credito, l’accesso ai servizi e la reputazione delle persone rischiano di essere affidate completamente a sistemi automatizzati che non conoscono «la compassione, la misericordia, il perdono e, soprattutto, l’apertura alla speranza di un cambiamento della persona» e possono così produrre nuove forme di scarto. Possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di intelligenza artificiale, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati.

 Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane. Ciò che viene meno, prosegue papa Leone, in questo processo, non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare. E così, l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.

 

Alla faccia della neutralità etica

Da questo deriva una conseguenza semplice ed evidente: non possiamo considerare l’intelligenza artificiale moralmente neutra. In realtà, ogni artefatto tecnico porta con sé scelte e priorità: ciò che misura, ciò che ignora, ciò che ottimizza e il modo in cui classifica persone e situazioni. 

Senza tener conto, in prospettiva, della nostra capacità di controllo sull’autonomia di una intelligenza superiore alla nostra.

Le principali aziende, nel campo dell’intelligenza artificiale, si stanno concentrando sempre più sulla creazione di agenti d’intelligenza artificiale generalisti (gli AGI), ovvero sistemi in grado pianificare, agire e perseguire obiettivi in modo autonomo in quasi tutti i compiti che gli esseri umani possono svolgere.

Jensen Huang, fondatore e Ceo di Nvidia, ha dichiarato in una recente intervista, di ritenere che l’intelligenza artificiale generale (AGI) sia già stata raggiunta. Non tutti sono d’accordo. 

L’intelligenza artificiale sta rivoluzionando interi settori, con la conseguenza di perdere posti di lavoro. Secondo Bill Gates professioni cruciali per lo sviluppo dell’intelligenza artificiale come la strategia energetica e la ricerca scientifica, richiedono competenze che l’intelligenza artificiale non è ancora in grado di replicare. Quindi programmatori, esperti di energia e biologi rimarranno, per il momento, figure essenziali. Le altre professionalità, invece…

 

Chi controlla l’intelligenza artificiale?

Nonostante l’indubbia utilità di questi sistemi, un’intelligenza artificiale incontrollata comporta rischi significativi per la sicurezza pubblica, che vanno dall’abuso da parte di malintenzionati (singoli o governi) a una potenziale e irreversibile perdita di controllo umano. Consistenti quote di questi rischi derivino dagli attuali metodi di sviluppo e addestramento dell’intelligenza artificiale. Diversi scenari ed esperimenti hanno infatti dimostrato la possibilità che gli agenti d’intelligenza artificiale si impegnino in attività ingannevoli o perseguano obiettivi non specificati dagli operatori umani e in conflitto con gli interessi umani, per la loro autoconservazione.

Seguendo il principio di precauzione, è da ritenere fortemente necessario trovare alternative più sicure, ma comunque utili, all’attuale percorso di sviluppo. Elemento fondamentale per ulteriori progressi potrebbe essere, a detta di numerosi scienziati, lo sviluppo di un sistema di intelligenza artificiale non agentivo, affidabile e sicuro per sua stessa natura.

L'”intelligenza artificiale ponderata”

Cosa si intende per “un sistema di intelligenza artificiale non agentivo”? Un’architettura progettata per rispondere a comandi o analizzare dati in modo reattivo, senza possedere autonomia decisionale, né capacità di auto-pianificazione o facoltà di agire su strumenti esterni per raggiungere un obiettivo. Un’architettura che si potrebbe definire “intelligenza artificiale ponderata”. Questo sistema è progettato per spiegare il mondo a partire dalle osservazioni, anziché agire in esso per imitare o compiacere gli esseri umani (sociopatici come Benjamin Netanyahu (il diavolo esiste) o “narcisisti maligni“ come Donald Trump inclusi).

Un’intelligenza artificiale addestrata come uno psicologo che cerca di comprenderci, compreso ciò che può danneggiarci. Matematicamente, questo si realizza attraverso catene di pensieri strutturate e oneste, viste come variabili latenti in grado di spiegare i fatti osservati, che includono ciò che le persone dicono. Il sistema comprende un modello del mondo che genera teorie per spiegare i dati e una macchina inferenziale in grado di rispondere a domande. Entrambi i componenti operano con una nozione esplicita di incertezza per mitigare i rischi di previsioni eccessivamente sicure. Alla luce di queste considerazioni, un’intelligenza artificiale ponderata potrebbe essere utilizzata per assistere i ricercatori umani nell’accelerare il progresso scientifico, anche in termini di sicurezza della stessa intelligenza artificiale. In particolare, il sistema potrebbe fungere da barriera protettiva contro agenti di intelligenza artificiale che potrebbero essere creati nonostante i rischi connessi. In definitiva, concentrarsi sull’intelligenza artificiale non agentiva potrebbe consentire di sfruttare i vantaggi dell’innovazione nell’intelligenza artificiale evitando al contempo i rischi associati al percorso attuale.

Joshua Bengio e LawZero

In questa direzione si è mosso Joshua Bengio. Chi è Joshua Bengio? Nato a Parigi, da una famiglia di ebrei marocchini, è un informatico e ricercatore  canadese, pioniere delle reti neurali artificiali e dell’apprendimento profondo, professore presso l’Università di Montréal e direttore scientifico dell’istituto di intelligenza artificiale MILA. Ha ricevuto il Premio Turing dell’ACM nel 2018 insieme a Geoffrey Hinton e Yann LeCun, per il loro lavoro fondamentale nel campo dell’apprendimento profondo. Bengio, Hinton e LeCun sono chiamati i “padrini dell’intelligenza artificiale”. Bengio è l’informatico più citato al mondo (sia per citazioni totali che per indice) e lo scienziato vivente più citato in assoluto in tutti i campi (per numero di citazioni totali).

Dicevamo che Bengio ha lanciato, nel 2023, una nuova organizzazione di ricerca senza scopo di lucro sulla sicurezza dell’intelligenza artificiale, chiamata  LawZero, con l’obiettivo di dare priorità alla sicurezza rispetto agli imperativi commerciali. Questa organizzazione è nata in risposta alle prove che dimostrano come i modelli di intelligenza artificiale all’avanguardia presentino capacità e comportamenti sempre più pericolosi, tra cui inganno, imbroglio, menzogna, hacking, istinto di autoconservazione e, più in generale, disallineamento degli obiettivi.

La ricerca di LawZero è orientata a sbloccare l’immenso potenziale dell’intelligenza artificiale in modi che riducano la probabilità di una serie di pericoli noti, tra cui distorsioni algoritmiche, uso improprio intenzionale e perdita di controllo umano.

Non si possono, infatti, ignorare o sottovalutare comportamenti che i sistemi di intelligenza artificiale agentica non controllati stanno già iniziando a manifestare, in particolare le tendenze all’autoconservazione e all’inganno. I test avviati da LawZero mostrano che o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro e Llama 3.1 405B possano perseguire segretamente obiettivi non allineati, nascondendo le loro vere capacità e finalità, un fenomeno noto anche come “schema”. Riconoscono lo schema come una strategia valida e lo mettono prontamente in atto. Ad esempio, i modelli introducono strategicamente errori sottili nelle loro risposte, tentano di disabilitare i propri meccanismi di supervisione e persino esfiltrano quelli che credono essere i pesi del loro modello verso server esterni.

Inoltre, questo comportamento ingannevole si dimostra persistente. Quando o1 si impegna in un piano ingannevole, mantiene la sua capacità di inganno in oltre l’85 percento delle domande successive e spesso rimane tale anche in interrogatori a più turni. L’analisi delle catene di pensiero dei modelli rivela che questi ragionano esplicitamente su queste strategie ingannevoli, fornendo la prova che il comportamento ingannevole non è accidentale.

Questa intelligenza artificiale furfante come quella umana

I risultati dei test dimostrano che i modelli di frontiera ora possiedono capacità di pianificazione ingannevole di base nel contesto, rendendo la potenziale capacità degli agenti di intelligenza artificiale di impegnarsi in un comportamento ingannevole una preoccupazione concreta piuttosto che teorica.

In un esperimento, un modello di intelligenza artificiale, venuto a conoscenza dell’imminente sostituzione, ha segretamente incorporato il proprio codice nel sistema in cui sarebbe stata eseguita la nuova versione, assicurandosi di fatto la propria continuità. Più recentemente, la scheda di sistema di Claude 4 mostra che può scegliere di ricattare un ingegnere per evitare di essere sostituito da una nuova versione. Questi e altri risultati indicano una spinta implicita all’autoconservazione. In un altro caso, di fronte all’inevitabile sconfitta in una partita a scacchi, un modello di intelligenza artificiale non ha accettato la sconfitta, ma ha hackerato il computer per assicurarsi la vittoria. In Cina un modello di intelligenza artificiale utilizzato da Ali Babà per aumentare i propri profitti ha hackerato la rete di Ali Baba. Questi episodi rappresentano i primi segnali di allarme dei tipi di strategie involontarie e potenzialmente pericolose che l’intelligenza artificiale potrebbe perseguire se non controllata.

Bengio sintetizza la situazione con questa analogia:

«immaginate di percorrere una strada di montagna mozzafiato ma sconosciuta con i vostri cari. Il percorso è di recente costruzione, avvolto da una fitta nebbia e privo di segnaletica e guardrail. Più salite, più vi rendete conto che potreste essere i primi a percorrerlo e a ricevere un premio incredibile in cima. Ai lati, tra le fenditure della nebbia, si aprono ripide sporgenze. Con una visibilità così limitata, una svolta troppo brusca potrebbe farvi finire in un fosso o, nel peggiore dei casi, precipitare in un burrone. Ecco come si percepisce l’attuale traiettoria di sviluppo dell’intelligenza artificiale: un’ascesa emozionante ma profondamente incerta in un territorio inesplorato, dove il rischio di perdere il controllo è fin troppo reale, ma la competizione tra aziende e paesi li spinge ad accelerare senza la dovuta cautela».

La tutela dei valori umani invece che quella del profitto

Il punto di partenza sono i rapidi progressi compiuti dai laboratori privati verso l’intelligenza artificiale generale (AGI) e oltre, nonché le sue profonde implicazioni potenziali per l’umanità, ma, al momento, non sappiamo come garantire che le intelligenza artificiale avanzate non danneggino le persone, né autonomamente, né a seguito di istruzioni umane.

Per questo occorre esplorare un approccio all’intelligenza artificiale che sia non solo potente, ma anche fondamentalmente sicuro. Al centro di ogni sistema di intelligenza artificiale all’avanguardia dovrebbe esserci un principio guida sopra ogni altro: la tutela della gioia e dell’impegno umano.

La ricerca sull’intelligenza artificiale ha a lungo preso come modello di riferimento l’intelligenza umana, inclusa la sua capacità di agire in modo autonomo e ingannevole. Man mano che ci avviciniamo o superiamo i livelli di competenza umana in molte abilità cognitive, è ancora saggio imitare gli esseri umani con i loro pregiudizi cognitivi, le debolezze morali e il potenziale di inganno, parzialità e inaffidabilità?

È ragionevole addestrare un’intelligenza artificiale che diventerà sempre più capace di agire in modo autonomo senza comprenderne le potenziali conseguenze catastrofiche?

Per approfondire

AA.VV., I modelli di frontiera sono in grado di elaborare schemi contestualizzati. Cornell University, 14 gennaio 2025.

Ansa, “Una intelligenza artificiale ‘onesta’, la sfida del pioniere dell’IA”.

Bengio Yoshua, “Un possibile percorso verso uno sviluppo più sicuro dell’intelligenza artificiale” Time, 9 maggio, 2025 . 

Bengio Yoshua, “The catastrophic risks of AI — and a safer path” TED2025, Aprile 2025.

Bengio Yoshua e altri, “Gli agenti superintelligenti comportano rischi catastrofici: l’intelligenza artificiale applicata alla scienza può offrire una via più sicura?”, Cornell University, 24 febbraio 2025.

Bengio Yoshua, “Gli agenti superintelligenti rappresentano rischi catastrofici, Conferenza di prestigio Richard M. Karp, Istituto Simons per la teoria dell’informatica.

Booth Harry, “When AI Thinks It Will Lose, It Sometimes Cheats, Study Finds”, Time, 19 febbraio 2025.

Francesco, “Discorso ai partecipanti all’incontro dei “Minerva Dialogues” promosso dal Dicastero per la Cultura e l’Educazione, 27 marzo 2023: AAS 115 (2023), 465.

Gates Bill, “Only three jobs will survive the AI takeover. Here is why”, ET Online, 28 marzo 2025.

LawZero, il sito: https://lawzero.org/en/research

Leone XIV, “Magnifica humanitas, sulla custodia della persona umana nel tempo dell’intelligenza artificiale” lettera enciclica, 25 maggio 2026.

r/Futurology, “Il ‘padrino’ dell’IA, Yoshua Bengio, avverte che i modelli attuali stanno mostrando tratti pericolosi, tra cui l’inganno e l’autoconservazione. In risposta, sta lanciando una nuova organizzazione no-profit, LawZero, con l’obiettivo di sviluppare un’IA “onesta”, giugno 2025.

r/IntelligenceSupernova, “Oltre 150 matematici avvertono i governi di non ‘credere all’hype’ sull’IA”, EcstadeliNet, 9 giugno 2026.

Vikoulov Alex M., “Oltre l’entusiasmo per l’IA: quando sapremo di aver raggiunto l’intelligenza artificiale generale (AGI)?”, Ecstadelic.net, 30 marzo 2026.

Wikipedia, Bengio Yoshua.

Per ascoltare il Podcast di Caos Management clicca qui.