HOMO SAPIENS e MACHINA SAPIENS – Speranze Timori Opportunità

Convegno alla  Ambasciata d’Italia presso la Santa Sede,
5 settembre 2017 - Contributo  di  Roberto Vacca 



La definizione tassonomica “homo sapiens” è rozza. Implica note caratteristiche biologiche, linguaggio articolato, capacità mentali, abilità manuali e iconiche. Negli ultimi 10 millenni umani hanno acquisito scrittura, uso di simboli, capacità predittive, comprensione di processi fisici, abilità artistiche. In questa ascesa hanno raggiunto livelli molto diversi – ardui da definire. Manifesta intelligenza superiore chi sa risolvere problemi più difficili.
Definire l’intelligenza è arduo. È fatta di memoria, intuizione, capacità logica, abilità di effettuare stime, misure, congetture e previsioni, riconoscimento di configurazioni, destrezza manuale.
È ancora più arduo misurare l’intelligenza. Sono diffusi metodi empirici noti. È ragionevole pensare che sia distribuita secondo la curva a campana di Gauss. I livelli di intelligenza differiscono marcatamente. Non è giusto usare lo stesso aggettivo “sapiens” per cacciatori-raccoglitori, artigiani, tecnici, insegnanti, letterati (che certo risolvono problemi logici, logistici, matematici, organizzativi, finanziari) e per i geni sommi. Euclide, Aristotele, Archimede, Newton, Leibniz,  Einstein, Planck, Heisenberg, etc. hanno formulato congetture ardite, poi dimostrate, e hanno inventato potentissimi strumenti di indagine matematica e fisica.  La difformità dei loro intelletti da quelli anche più elevati che osserviamo, suggerisce che sia dovuta a mutazioni genetiche. Però la preponderanza del nostro cervello (con centinaia di miliardi di neuroni e milioni di miliardi di sinapsi plasticissime) sul DNA indica che le nostre doti (intelligenza, carattere, laboriosità) dipendono forse dall'ambiente e dall'esperienza  più che dai geni. Gli effetti cumulativi di esperienze favorevoli dalla più tenera età finora non osservati, né registrati –sarebbero ardui da osservare e interpretare nei loro effetti edificanti.

 

 

I computer venivano chiamati popolarmente "cervelli elettronici", quando si cominciarono a usare a metà del secolo XX per risolvere problemi matematici e trattare grandi quantità di dati. Queste macchine eseguono anche operazioni logiche e, sebbene non siamo in grado di definire l'intelligenza umana  si pensò alla possibilità di realizzare sistemi elettronici che si comportassero in modo intelligente e comprendessero i linguaggi umani e automi (intelligenti quanto certi animali) che eseguissero gli ordini da noi impartiti. Secondo i sostenitori della intelligenza artificiale "forte", avremo creato una macchina intelligente, se questa passerà il test di Turing (1) - cioè comunicherà con umani i quali non sapranno dire se sull'altro terminale c'è una persona o un computer. L'intelligenza artificiale "debole", invece, mira a realizzare modelli su computer per studiare la mente umana come altri modelli studiano tempo atmosferico, economia o biologia molecolare. Sono in certo senso intelligenti anche gli scanner OCR (che riconoscono otticamente caratteri a stampa e li codificano in forma adatta a immetterli nella memoria di un computer). L'intelligenza artificiale trova applicazioni nei robot industriali, applicati nell'industria. Alcuni studiosi mirano a realizzare meccanismi che copiano quelli della nostra mente, altri mirano a emulare le prestazioni umane usando processi del tutto diversi. Alcuni sostengono che manifestano intelligenza:

  • i computer che gestiscono il funzionamento  di grandi strutture tecnologiche (fabbriche, centrali energetiche, raffinerie, etc.)
  • i computer impiegati da istituti finanziari per decidere di comprare o vendere azioni nelle borse (ma più di una volta un crollo della Borsa di New York fu attribuito alle reazioni programmate male di queste macchine)
  • i sistemi esperti usati da medici per diagnosi e da chimici per analisi strutturali
  • i sistemi di controllo e guida militari per interpretare immagini riprese da aerei e per attaccare i bersagli individuati.

 

 

Comportamenti umani intelligenti: calcolati o preregistrati?
Uomini e animali compiono agevolmente azioni difficili o impossibili da realizzare on un computer, come interpretare dati visivi in un ambiente mutevole all'aria aperta. La psicologia sperimentale spiega che gli esseri umani, quando imparano un nuovo compito, usano molto il sistema nervoso centrale. Esitano, ragionano su ogni passo e raggiungono il risultato in piena coscienza. Se questo tipo di processo fosse in atto anche dopo aver avuto molta esperienza, i nostri cervelli sarebbero occupati di continuo per tenerci in equilibrio o eseguire azioni banali. Invece agiamo in modo automatico mentre pensiamo ad altro. Guidando l'auto, prima diamo un calcio al freno e poi riflettiamo a perchè lo abbiamo fatto
Dunque non ricalcoliamo ogni volta la soluzione di molti problemi di comportamento, ma la troviamo registrata in memoria (vedi l'automatismo con cui usiamo la tavola pitagorica). Succede lo stesso quando riconosciamo configurazioni e immagini. Anche nelle macchine intelligenti dovremo usare questo sistema di preregistrare molte soluzioni, mirando all'equilibrio fra capacità di calcolo e di memoria.


Intelligenza e intuizione
Taluno nega la possibilità dell'intelligenza artificiale perchè l'intelligenza è fatta anche di intuizione, facoltà che salta i passi strettamente logici. È fatta anche della capacità di formulare congetture, alcune delle quali vengono poi confermate. Quindi i computer che usano i metodi della logica formale non potrebbero emulare l'intelligenza umana. A questo punto di vista ci sono due obiezioni.
La prima: l'intuizione è un modo per saltare alle conclusioni, che poi devono essere confrontate logicamente con la realtà e con gli assiomi da cui si parte. Ora un computer può essere programmato per saltare alle conclusioni, ad esempio scegliendo direzioni di elaborazione casuali. Poi controllerà le conclusioni con metodi logici, comportandosi come un essere umano.
La seconda contro-obiezione è più complicata. I computer usano normalmente la logica classica coi 2 valori Vero/Falso. Però possono essere programmati in modo da usare altre logiche con 3 o 4 o infiniti valori di verità che sfuma gradatamente nella falsità (come la probabilità che va dal certo all'impossibile). Dunque ai computer può non mancare la flessibilità fuori dagli schemi "tutto o niente".
L'intelligenza, dunque, è globale: non è fatta solo di manipolare simboli e risolvere problemi logico-matematici, ma di accettare segnali dal mondo esterno, misurandoli e producendo reazioni costruttive. Per risolvere problemi che non siano già previsti in un manuale, occorre che i computer diventino capaci di imparare dall'esperienza, seguendo cammini ancora non segnati e innovando. In certa misura questi risultati sono stati ottenuti con le reti neurali.

E se una macchina fornisce una soluzione che ci sembra assurda?
Possiamo immaginare che una soluzione a un problema nuovo e complesso proposta da un computer intelligente ci sembri intuitivamente assurda, cioè sia controintuitiva. Allora la macchina dovrebbe spiegarci perchè la ritiene giusta. Una situazione simile si verifica con programmi di computer che risolvono certi finali di scacchi. In certe situazioni è ben noto che uno dei giocatori può dare scacco matto in alcune decine di mosse. Questi programmi, in effetti, non contengono alcuna intelligenza: i pezzi rimasti in scacchiera sono pochi, quindi qualcuno ha già elencato tutte le possibili sequenze di mosse da ogni posizione e, da ciascuna, il computer consulta una tabella e suggerisce la mossa giusta che condurrà alla vittoria. Se uno chiede al computer: "Perchè è questa la mossa migliore?" la macchina può solo rispondere: "Perchè lo dice la tabella che mi è stata data."
La risposta è soddisfacente, se tutta la tabella è stata controllata accuratamente. Però, quando si tratta di programmi più complessi scritti per risolvere problemi innovativi in situazioni caratterizzate da incertezza, la macchina non potrebbe dare una risposta così definita. Se la soluzione trovata appare controintuitiva anche a un operatore esperto, il programma del computer dovrebbe fornire una spiegazione esplicita. Situazioni di questo tipo si possono incontrare quando si usano sistemi esperti.
Sono stati prodotti sistemi esperti per:

  • aiutare i chimici a determinare la struttura di molecole grandi e complesse (DENDRAL)
  • assistere i medici nella diagnosi di malattie infettive e nella scelta di antibiotici per curarle (MYCIN)
  • fornire ad avvocati informazioni sui precedenti dei loro casi e possibilmente previsioni sui probabili verdetti di un tribunale
  • fornire ai tecnici addetti alla manutenzione di grandi e complessi sistemi tecnologici (raffinerie, impianti chimici, centrali elettro-nucleari) dati sull'andamento e sui rendimenti dei processi e indicazioni sulle procedure da iniziare in caso di guasti o emergenze.


I sistemi esperti incorporano regole. L'applicabilità di ogni regola si determina mediante una sequenza di domande rivolte all'utente dal sistema in modo che dalla risposte possa caratterizzare il problema. Il sistema propone una possibile soluzione e fornisce a richiesta una spiegazione delle motivazioni di quella scelta. Illustra le regole che ha applicato e spiega perché fossero da ritenere valide in base alle informazioni disponibili. Non si tratta perciò semplicemente di consultare una tabella.

I tre aspetti più interessanti dei sistemi esperti sono:

  1. L'uso di un sistema esperto per l'addestramento di persone umane
  2. L'aiuto che può essere dato a operatori umani per risolvere problemi non standard in condizioni di incertezza
  3. La probabilità che future ricerche nel campo permettano di raggiungere una migliore comprensione concettuale e pratica delle interazioni uomo-macchina che costituiscono un elemento essenziale per la realizzazione di un sistema integrato di intelligenza artificiale.


Le soluzioni innovative nel campo dell'intelligenza artificiale non possono essere costruite, nè giudicate nel vuoto. Dovrebbero essere associate con strutture che tengano conto anche delle caratteristiche delle persone e dell'ambiente in connessione con i quali devono funzionare. Le macchine dovrebbero presentare dati di partenza e risultati ottenuti in forma adatta a essere compresa dagli operatori umani: se questi non sono stati addestrati adeguatamente, o non hanno istruzione sufficiente, si potranno verificare malintesi con gravi conseguenze.
Sondaggi noti hanno dimostrato che la grande maggioranza della popolazione anche nei Paesi più  prosperi è ancora a livelli di cultura infimi. Ha idee errate e vaghe sui processi della natura e ignora strumenti e procedure  di indagine e di elaborazione sviluppate da secoli o millenni. Impegno, risorse e sperimentazione dovrebbero essere dunque dedicati a innalzare la cultura e a coltivare l’intelligenza “naturale”  umana in misura maggiore di quella investita in ricerche sulla intelligenza artificiale. Le macchine intelligenti non serviranno a niente, se saranno usate da persone incolte o semideficienti.

Considerazioni etiche
Quando il mondo era semplice, bastavano regole semplici per comportarsi bene: non rubare, non uccidere, non mentire, etc. In un mondo complesso come quello attuale certe azioni hanno conseguenze che si manifesteranno in contesti vastissimi anche a distanza notevole di tempo e che sono difficili da prevedere. Accadono di continuo eventi che modificano il mondo ed è in esso che si svilupperanno le conseguenze delle nostre azioni. Per comportarci in modo adeguato dovremmo saper prevedere l’avvenire o almeno conoscere i modi in cui tentare di anticiparlo. Un endecalogo ragionevole è:

  1. Cerca di prevedere tutti gli effetti di ogni tua azione e scegli azioni che ne abbiano di positivi
  2. Nei casi difficili chiedi consiglio a esperti
  3. Decidi rapidamente:  l'ottimo è spesso troppo difficile da  individuare
  4. Cerca di prevedere i più importanti effetti esterni sulla realtà che stai cercando di modificare
  5. Immagina soluzioni nuove e paradossali: quelle standard sono spesso inadeguate
  6. Assegna priorità  corrette alle tue azioni; programmale e revisiona spesso i programmi
  7. Valuta le  conseguenze  delle conseguenze  delle tue  azioni  e cerca di capire quali rischi ci si possano annidare
  8. Cerca di  acquisire tutti  gli strumenti teorici che puoi (matematica,  scienza,  cultura): potranno esserti utilissimi
  9. Utilizza i nuovi prodotti  della tecnologia che possano essere davvero utili
  10. Non danneggiare l'ambiente inutilmente
  11. In  ogni problema  tieni in conto i fattori umani - a cominciare dalle  reazioni  personali. Molti  problemi  hanno soluzioni umane più efficaci di quelle legali o tecniche.

Questi non sono  comandamenti.  Sono descrizioni  di modi  di  procedere razionali. Dalle stesse premesse - o da premesse più vaste - si potrebbero dedurre suggerimenti diversi. La  morale  nuova  deve  essere  fatta così - anche se rifiuteremo gli Undici Suggerimenti come regole fisse.

Le decisioni di attivare sistemi di regolazione automatica (e anche computerizzata) implica la necessità di conoscerne bene il funzionamento. Vale per i sistemi ci controllo computerizzati, per i sistemi esperti e anche per i sistemi che incorporino funzioni di intelligenza artificiale. È noto che occasionalmente possono anche funzionare male.

I sistemi avanzati per controllare e gestire le grandi reti elettriche sono inadeguati a evitare blackout che colpiscono centinaia di milioni di persone. I sistemi computerizzati che governano gli arsenali di armi nucleari potrebbero causare deflagrazioni esiziali – il loro potenziale distruttivo equivale a quello di 700 kg di alto esplosivo per ogni essere umano. Tutte le armi nucleari dovrebbero essere disattivate – invece vengono fatti grossi investimenti per ammodernarle. Le condanne morali di queste politiche dovrebbero essere recise e pubbliche.

Dobbiamo prevedere adeguati monitoraggi e sistemi di comunicazione con cui le macchine allertano operatori umani. Le reazioni dei programmi di controllo computerizzati devono essere previste e accettate dai progettisti, dai decisori e dalle autorità pubbliche. Gli imperativi etici saranno complicati. Anche solo per discuterne bisogna studiare a fondo.

 

Nota:

(1) Alan Turing, matematico inglese. Nel 1935 inventò una ideale macchina informatica (dotata di un nastro e capace di muoverlo nei 2 sensi, leggere le cifre 1 o 0 registrate su di esso e registrarne o cancellarne altre sullo stesso nastro). Durante la II Guerra Mondiale collaborò a decifrare i messaggi che i tedeschi crittografavano con la famosa macchina Enigma
cui usiamo la tavola pitagorica). Succede lo stesso quando riconosciamo configurazioni e immagini. Anche nelle macchine intelligenti dovremo usare questo sistema di preregistrare molte soluzioni, mirando all'equilibrio fra capacità di calcolo e di memoria.

 

 

Roberto Vacca

Laureato in ingegneria elettrotecnica e libero docente in Automazione del Calcolo (Universita' di Roma). Docente di Computer, ingegneria dei sistemi, gestione totale della qualita' (Universita' di Roma e Milano). Fino al 1975 Direttore Generale e Tecnico di un'azienda attiva nel controllo computerizzato di sistemi tecnologici, quindi consulente in ingegneria dei sistemi (trasporti, energia, comunicazioni) e previsione tecnologica. Tengo seminari sugli argomenti citati e ho realizzato numerosi programmi TV di divulgazione scientifica e tecnologica.
http://www.robertovacca.com/italiano.htm


Submit to FacebookSubmit to Google BookmarksSubmit to LinkedIn