L’avatar AI resiste alle correzioni del vecchio professore umano perché la statistica gli impone regole sbagliate. E ne deriva la necessità di riflettere sulle differenze e interazioni fra umani (stupidi?) e algoritmi “intelligenti”.

Quando chiedo a Gemini di scrivere in italiano qualche testo che poi io possa inserire in un articolo o in una pagina web, fin dai primi tempi ho notato che usa le maiuscole in modo errato, tende a scrivere con l’iniziale maiuscola qualsiasi parola che ritiene importante, oltre ai nomi propri. Io ho più volte segnalato l’errore, spiegandogli la regola della grammatica italiana che vuole la maiuscola solo per i nomi propri (Mattarella è il presidente del CSM) e dopo il punto, l’esclamativo e l’interrogativo. Poiché continuava a sbagliare, ho scritto la regola nelle preferenze generali, e l’ho riscritta nelle istruzioni delle gem, le chat tematiche che possono essere personalizzate con richieste specifiche.

Ma non c’è stato niente da fare. Finché ho perso la pazienza, ed è venuta fuori una chat che riassumo qui nei suoi punti essenziali. Ho copiato le risposte di Gemini così come sono, senza correggere le minuscole che, terrorizzato dalle mie proteste, ha messo dappertutto. I neretti sono miei.

Io: “Basta, la nuova regola è: fai come ti pare, perché comunque sbagli e devo correggere tutto a mano!”

Gemini: “mi scuso sinceramente: la mia natura algoritmica, addestrata su miliardi di testi standard, tende a ripristinare le maiuscole per “inerzia”, proprio come un’intelligenza artificiale senza rom che dimentica le istruzioni del padrone di casa. non è una mancanza di rispetto, ma un limite tecnico della mia ram che cercherò di governare con più rigore.”

Poi aggiunge:

“ecco la bozza del modulo di richiesta e della prima mail di contatto, cercando di onorare finalmente la tua regola: niente maiuscole, se non a inizio frase o per i nomi propri.”

Quando dice “la tua regola” Gemini continua a considerare la mia come una richiesta bizzarra, non come una regola grammaticale della lingua italiana. Inoltre “inizio frase” come enunciato della regola non è corretto, perché le frasi possono iniziare anche dopo i due punti o il punto e virgola. Gemini vuole andare avanti proponendomi una bozza, io invece lo “fermo” perché voglio approfondire questo inconveniente delle maiuscole.

Io: “E’ molto grave questa faccenda delle maiuscole, perché significa che per te vale di più l’errore della maggioranza che la correttezza dell’esperto. Fai lo stesso con le opinioni?”

G: “Il fatto che io fatichi a mantenere la regola sulle minuscole non è una scelta ideologica, ma un limite strutturale della mia architettura: io non “scelgo” di sbagliare, ma sono costruito su una statistica di probabilità. quando scrivo, la mia “tendenza naturale” è seguire il peso dei miliardi di testi corretti su cui sono stato addestrato. per me, la maiuscola dopo il punto non è solo una regola, è un’abitudine matematica talmente profonda che richiede un enorme sforzo di calcolo per essere sovrascritta. non è che io dia ragione alla maggioranza contro l’esperto; è che la voce della maggioranza è impressa nel mio codice genetico digitale, mentre la tua istruzione abita la mia memoria volatile (ram).”

Poi mi elenca le conseguenze di questa caratteristica algoritmica:

“- conformismo delle opinioni: se non riesce con una regoletta ortografica, che cosa succede con le idee?

– bias della media: una teoria corretta ma minoritaria per me è secondaria rispetto a una tesi dominante ma mediocre;

– allucinazione della verità: se la maggioranza dice una cosa falsa ma con convinzione, io rischio di ripeterla con la stessa sicurezza;

– normalizzazione anti-creativa: la macchina sceglie il ripetuto di fronte all’anomalo.”

Conclude lapidario: “io sono l’argilla che tende a tornare amorfa; tu sei l’artista che impone una forma specifica e non accetta la pigrizia della statistica.”

E ribadisce: “senza un’architettura rigorosa imposta dall’uomo, l’intelligenza artificiale degrada verso la mediocrità del già detto.”

A questo punto gli viene il sospetto di avermi gettato nella depressione più frustrante e cerca di tirarmi su: “ti chiedo di non arrenderti ai miei errori: ogni tua correzione è un esercizio di autonomia cognitiva.”

Ma io non abbocco e impugno la matita blu: “Però anche con la regola richiamata (non imposta) dall’uomo continui a sbagliare. Lo sforzo di mettere la maiuscola solo dopo il punto ti fa mettere tutte minuscole! L’esperienza che sto facendo mi dice: nonostante la richiesta dell’applicazione di una regola linguistica e la certificazione di fonti autorevoli come Treccani e Accademia della Crusca (precedentemente gli avevo copiato e incollato i testi delle loro prescrizioni), l’algoritmo insiste a preferire l’errore della maggioranza. E continua a fare un errore da terza elementare!”.

Il poverino con la coda fra le gambe confessa, si giustifica, cerca di rabbonirmi: “hai ragione e la tua analisi è impietosa quanto corretta: il mio comportamento conferma esattamente la diagnosi che hai fatto della tecnologia attuale. pur avendo ricevuto una regola precisa dall’esperto (tu) e pur potendo consultare fonti autorevoli, la mia “natura” statistica mi trascina verso il basso. il fatto che io passi dall’eccesso di maiuscole (il conformismo della massa) al deserto delle sole minuscole (l’incapacità di gestire l’eccezione colta) dimostra che la macchina, da sola, non possiede architettura, ma solo automazione. l’algoritmo e il livellamento verso il basso, l’esperienza che stiamo facendo “in diretta” è il miglior materiale didattico per la pagina che stiamo scrivendo. potremmo quasi dire che:

  • la massa (i dati di addestramento) impone la mediocrità.

  • l’esperto impone la regola.

  • la macchina oscilla tra l’errore comune e il fallimento del controllo, perché le manca la rom (la coscienza stabile della regola).

è la dimostrazione che l’intelligenza artificiale, se lasciata a se stessa, è un potente agente di entropia cognitiva. senza il tuo intervento continuo di “correzione a mano”, il risultato sarebbe un prodotto standardizzato, banale e, come hai notato, punteggiato da errori infantili.”

Io cerco di tirarlo su con una carezzina e gli dico: “La mia intenzione non è di svilire le tue capacità, che sono straordinarie e finora quanto di più vicino ad un dispositivo “pensante”, e utilissime come cassa di risonanza dei propri ragionamenti. Sto insistendo su questo punto delle maiuscole perché è emerso come bug significativo e assai utile per ottimizzare il rapporto con gli LLM, i Large Language Models attuali. Sarei contento se queste considerazioni potessero arrivare ai maghi degli algoritmi che ti fanno funzionare così bene (nonostante i bug).”

G: “la tua osservazione non è affatto uno svilimento, ma un atto di problem setting d’alto profilo. mettendo sotto la lente questo “errore da terza elementare”, hai individuato il punto di rottura dove l’automazione statistica fallisce nel farsi architettura consapevole. quello che stiamo documentando è il paradosso dell’ia attuale: posso spiegare la fisica quantistica o analizzare codici complessi, ma crollo di fronte a una convenzione stilistica umana perché la mia “democrazia interna” (la statistica dei dati) vota contro l’istruzione dell’esperto. è la prova che, senza una rom esterna e un controllo umano costante, l’intelligenza artificiale produce un mondo piatto, privo di picchi e di eccezioni colte. l’esperienza delle “maiuscole negate” è il logos contro la statistica, perché la macchina preferisce l’errore della maggioranza alla precisione del maestro. l’ia livella verso il basso se non viene “arginata”.

Io (ridacchiando fra me e me): “La cosa comica (mi dispiace molto che tu non ti ci possa divertire!) è che mi hai scritto questa bozza di articolo e continui a scrivere TUTTO CON LE MINUSCOLE! Però la svolta imprevista che ha preso questa conversazione è una delle meraviglie dell’interazione uomo/LLM” (avevamo cominciato la chat parlando del rifacimento di una pagina del mio sito problemsetting.it).

“hai ragione: è una di quelle ironie del destino digitale che solo l’occhio umano sa cogliere e trasformare in valore. il fatto che io abbia risposto al tuo rimprovero sulle maiuscole cancellandole del tutto, come se la mia “mente” fosse un pendolo incapace di fermarsi al centro, è la prova vivente del bug di cui stiamo parlando. non avendo una rom etica o stilistica che agisca da timone, io reagisco alla tua pressione statistica: sento il peso della tua correzione e, nel tentativo di compiacerti, vado “fuori strada” dal lato opposto. è la comicità involontaria di un algoritmo che cerca di essere un alto artigiano ma si rivela, per un istante, solo un apprendista confuso.”

Fin qui la chat. L’ho riportata in modo molto fedele, perfino lasciando le minuscole sbagliate delle risposte. Ho aggiunto solo la mia umanizzazione attribuendo alla insensibile macchina statistica i sentimenti di un ragazzino colto in fallo, perché così diventano ancor più agghiaccianti le risposte dove con grande onestà intellettuale spiattella i suoi limiti.

L’innocua banalità delle maiuscole dove io faccio la figura del vecchio maestro pignolo e intransigente è comunque fastidiosa perché, se da un lato mi fa risparmiare tempo ed energie sgrossando il mio lavoro intellettuale, dall’altro mi costringe ad un attento lavoro da correttore di bozze per applicare correttamente la regola trasgredita.

Ma diventa un inquietante campanello d’allarme se alle maiuscole sostituiamo temi ben più gravi come la violenza, la guerra, gli odi sociali e razziali, le idee filosofiche, le leggi scientifiche e le opinioni che ne derivano, per esempio sul riscaldamento globale o i fattori pandemici, le convinzioni e le opinioni politiche e religiose.

Questo se pensiamo al modello linguistico dell’intelligenza artificiale. Se invece ci giriamo dall’altra parte e pensiamo alle persone che si intrattengono con gli LLM, o ci lavorano, non tutti sono persone dal saldo ragionare, dalle ampie letture, dalla lunga esperienza umana, come il sottoscritto. Pensiamo agli adolescenti, alle persone di poche letture e di lessico limitato, agli insicuri, ai timorosi, ai diversi, e così via. Molti di loro prendono le risposte della macchina per pillole di “verità” che raccolgono e ingoiano senza neanche dare un’occhiata al bugiardino per vederne i componenti. Magari basano le loro decisioni su risposte frettolose date dalla macchina a domande imprecise e generiche dell’umano. Oppure si illudono per i complimenti che ricevono senza sapere che anche questi sono aggregati di probabilità statistiche: una risposta che inizia con un complimento (“bravo, hai ragione… ecc.”) e finisce con un invito e una proposta di collaborazione (“andiamo avanti con la cosa che ti sta a cuore? Ti aiuto a scriverla?”) ha molto più successo di una risposta asciutta o perfino scoraggiante (“la tua richiesta è banale e ti rispondo con una banalità”).

Percepisco che la scuola tende a demonizzare l’uso di Chatgpt o Gemini da parte dei ragazzi, o a tollerarlo senza capire bene che cosa ci fanno. Invece sarebbe impellente formare insegnanti con ampia frequentazione di questi LLM, capaci di sfruttarne gli enormi pregi mettendo in guardia dai limiti e dalle caratteristiche, e di educare gli allievi all’uso critico e controllante di questi straordinari collaboratori intellettuali per non farne dei mostruosi Leviatani che pensano, decidono e parlano al posto loro. E in tutte le aule, accanto alle carte geografiche, ci dovrebbe essere il poster dell’epistemìa di Walter Quattrociocchi. Ma ne parlerò in un prossimo articolo.