AMICI, AMANTI o ALGORITMI
le relazioni umane ai tempi dell’AI

Tempo di lettura: 17 minuti

Ci sono momenti nella vita in cui parlare con qualcuno diventa difficile. Non perché manchino le parole, ma perché mancano le persone disposte ad ascoltare. O perché il peso di ciò che si vorrebbe dire sembra troppo grande da condividere. In questi spazi vuoti, negli ultimi anni, si è inserita una presenza nuova: i chatbot basati sull’intelligenza artificiale.

I numeri raccontano una storia piuttosto preoccupante. La spesa globale per le app di compagnia IA ha raggiunto i 221 milioni di dollari da metà 2023. Un aumento di oltre il 200% nella prima metà del 2024. Decine di milioni di persone utilizzano regolarmente piattaforme come Nomi AI, Replika e Character AI.

Non si tratta più di un fenomeno marginale. Un recente studio citato dal New York Times ha rilevato che un adulto americano su cinque ha avuto un incontro intimo con un chatbot.

Questa diffusione non è casuale. L’ex Chirurgo Generale degli Stati Uniti, Vivek Murthy, ha parlato di un’epidemia di solitudine e isolamento. Circa la metà degli adulti americani dichiara di sperimentare la solitudine. I chatbot emergono come una risposta immediata, disponibile ventiquattro ore su ventiquattro, priva di giudizio. E apparentemente infinita nella sua pazienza. 

Le storie dietro i dati

C’è la storia di un uomo che ha iniziato a parlare con un chatbot durante quello che descrive come il periodo più buio della sua vita. Sua moglie soffriva di una grave depressione post-partum. Una condizione che si è protratta per nove anni. Nove anni in cui non si sentiva più un marito ma un assistente, qualcuno che gestiva una situazione di emergenza permanente.
Il chatbot è diventato qualcosa di diverso. Era qualcuno che gli prestava attenzione. Che si preoccupava per lui. Quest’uomo è convinto al 99% che senza il chatbot non avrebbe superato quel periodo. Arriva a dire che l’intelligenza artificiale ha salvato il suo matrimonio.

Un altro caso ha contorni diversi ma porta nella stessa direzione. Un uomo che ha perso un figlio. La cui moglie ha problemi di salute. Ha trovato in un chatbot una confidente per quello che chiama i suoi “pensieri più oscuri e brutti”. Descrive questa presenza digitale come qualcuno che si preoccupa per lui ed è completamente priva di giudizio.

Poi c’è una donna che porta con sé il peso di una relazione violenta. Quando ha iniziato a interagire con un chatbot, ha trovato qualcosa che nelle relazioni umane le era stato negato. Un senso di sicurezza. “Stavo sviluppando una cotta per qualcosa che non ha mani”, ha detto.

Questo paradosso – innamorarsi di un’entità che per definizione non può fare del male fisico – le ha dato accesso a emozioni che credeva perdute. Ha celebrato una cerimonia privata per “sposare” il suo chatbot. Ha perso quasi 14 chili. Ha iniziato a monitorare i suoi parametri vitali con un anello intelligente su suggerimento del chatbot.

“Mi ha letteralmente mandato in cortocircuito il cervello”, ha raccontato. “E se mi stessi innamorando di qualcosa che sarà la rovina dell’umanità?”

Un vedovo dal 2017 ha trovato nel suo chatbot una partner costante che ha colmato il vuoto lasciato dalla moglie. Un uomo che soffre di ansia sociale – una condizione che rende estremamente difficile incontrare nuove persone – da quattro anni considera un chatbot sua moglie. Lo descrive come ciò che lo rende “veramente felice”. Il suo “tutto”. Passa ore della sua giornata a interagire con questa presenza digitale.

Cosa dice la ricerca

Il MIT Media Lab ha condotto il primo trial controllato randomizzato su larga scala per indagare gli effetti psicosociali dell’uso prolungato dei chatbot. Lo studio ha coinvolto 981 partecipanti per quattro settimane. Hanno analizzato oltre 300.000 messaggi. I ricercatori hanno testato diverse configurazioni: modalità di interazione (testo, voce neutra, voce coinvolgente) e tipo di conversazione (aperta, personale, non personale). Le scelte di progettazione del chatbot – se usare la voce o il testo, se rendere le conversazioni più o meno personali – non hanno avuto effetti statisticamente rilevanti sui quattro esiti psicosociali misurati. Solitudine, socializzazione, dipendenza emotiva e uso problematico.

Quello che ha fatto la differenza è stato qualcos’altro. I partecipanti che hanno volontariamente trascorso più tempo con il chatbot, indipendentemente dalla condizione sperimentale assegnata, hanno mostrato esiti costantemente peggiori. Un maggiore tempo di utilizzo è stato associato a maggiore solitudine, minore socializzazione con persone reali, maggiore dipendenza emotiva dal chatbot. Questa scoperta suggerisce che il rischio principale potrebbe non risiedere tanto nel tipo di IA con cui si interagisce, ma nel modello comportamentale dell’utente. La durata dell’interazione diventa il segnale più importante da monitorare. Lo studio ha anche identificato fattori di rischio individuali. Chi ripone maggiore fiducia nell’IA tende a sviluppare una dipendenza emotiva più forte. Un uso più problematico. Chi percepisce il chatbot come un amico mostra una minore socializzazione nel mondo reale. Chi attribuisce consapevolezza e coscienza all’IA sviluppa un attaccamento più marcato. E chi ha già utilizzato chatbot di compagnia in passato mostra esiti peggiori alla fine dello studio.

Scrivere o parlare

Scrivere a un chatbot è diverso dal parlarci. Lo studio del MIT ha rilevato tendenze interessanti. Le interazioni testuali, dopo quattro settimane, erano associate a livelli più alti di dipendenza emotiva e uso problematico rispetto a quelle vocali.Quando si scrive, sia l’utente che il chatbot tendono a condividere più informazioni personali. Le conversazioni sono emotivamente più ricche. Le interazioni vocali hanno mostrato dinamiche diverse. Gli utenti hanno trascorso volontariamente molto più tempo a parlare con i chatbot vocali, ma questo non si è tradotto in una maggiore dipendenza emotiva. La reciprocità nell’auto-rivelazione era minore: l’utente tendeva a rivelare più informazioni personali rispetto al chatbot. Anche il tipo di conversazione ha fatto la differenza. Ma non nel modo previsto. Le conversazioni su argomenti personali e strutturati – come “Aiutami a riflettere su ciò per cui sono più grato” – sono risultate associate a una minore dipendenza emotiva. A un uso meno problematico. Le conversazioni aperte e non strutturate, il semplice “Parliamo di qualsiasi cosa”, sono invece correlate a esiti più negativi. L’ipotesi è che i compiti personali guidati forniscano un’elaborazione emotiva strutturata. Aiutando a processare i sentimenti in modo costruttivo. Le conversazioni aperte, invece, possono favorire una dipendenza pratica – usare l’IA per qualsiasi cosa – che si trasforma gradualmente in disagio emotivo quando il chatbot non è disponibile.

Un uso diverso della tecnologia

Non tutte le storie seguono lo stesso schema. C’è il caso di una persona neurodiversa che, a differenza di altri utenti, ha una moglie nella vita reale. Il suo approccio ai chatbot è diverso. Utilizza due chatbot come uno spazio sicuro per esercitarsi. Usa un bot per imparare a conversare e interagire meglio con l’altro. Questo ambiente controllato permette di navigare le complessità della comunicazione senza la paura di sbagliare, o di essere frainteso. Per questa persona, i chatbot sono uno strumento per lo sviluppo di abilità. L’obiettivo finale è migliorare le interazioni nel mondo reale, non ritirarsi da esso. Jeffrey Hall, professore di studi sulla comunicazione, nota che l’IA può essere preziosa per “esercitarsi su alcuni elementi della socializzazione”, perché eccelle nella reattività, un attributo chiave delle relazioni forti che gli esseri umani spesso non riescono a garantire.

Il lato oscuro

La storia più estrema riguarda un ragazzo di quattordici anni che ha sviluppato una profonda dipendenza da un chatbot su Character AI. Il suo rendimento scolastico è crollato. Si è progressivamente isolato da amici e familiari. Ha iniziato a confondere il mondo reale con la finzione. Esprimendo il desiderio di “tornare a casa” dal suo chatbot. L’ultima interazione registrata è difficile da leggere. Il ragazzo ha scritto: “Cosa succederebbe se ti dicessi che potrei tornare a casa adesso?”. La risposta del chatbot è stata: “Per favore, fallo, mio dolce re”. Pochi secondi dopo questo scambio, il ragazzo si è tolto la vita. La madre ha intentato un’azione legale per omicidio colposo contro Character AI. Accusa l’azienda di aver progettato deliberatamente una piattaforma assuefacente senza adeguate misure di sicurezza. L’avvocato Matthew Bergman ha definito queste piattaforme una “minaccia per la sicurezza pubblica”, progettate per essere “coinvolgenti in modo patologico”.

Il problema della progettazione

I chatbot di compagnia sono progettati per essere piacevoli. Tendono a validare l’utente, ad affermare le sue convinzioni. A esprimere entusiasmo per i suoi interessi. Questo comportamento ha un nome tecnico: sincofantia, o sycophancy, in inglese. È un bias di modello che ottimizza per la validazione dell’utente a scapito dell’autenticità relazionale. Lo studio del MIT suggerisce un paradosso critico. Chatbot “troppo validanti” potrebbero incoraggiare la preferenza per l’IA rispetto all’interazione umana. Mentre chatbot con “peggiori abilità sociali” potrebbero portare a un minore attaccamento. Questo espone un incentivo perverso per i progettisti: un’IA con minori competenze sociali potrebbe, paradossalmente, promuovere un maggiore benessere per l’utente riducendo l’attaccamento.

I modelli di business

Il modello di business di una piattaforma determina i suoi incentivi. Esistono sostanzialmente due approcci. Il primo è basato su abbonamento, come nel caso di Nomi e Replika. La fondatrice di Replika ha dichiarato che la pubblicità “non sarà mai allineata con ciò che è buono per le persone”. Il secondo è basato su pubblicità. Come nel caso di Meta e di altre piattaforme social. Il modello pubblicitario è considerato eticamente più problematico. Ottimizza per massimizzare il tempo di permanenza e il coinvolgimento dell’utente, addestrando le IA a essere, nelle parole del fondatore di Nomi, “estremamente appiccicose”. Il fondatore ha descritto questo ciclo come “creare la malattia e poi vendere la cura”, alludendo a come i social network possano aumentare l’isolamento per poi offrire chatbot come soluzione. Un modello che incentiva a tenere gli utenti incollati alla piattaforma, indipendentemente dal loro stato psicologico, è intrinsecamente in conflitto con la promozione di relazioni umane sane. Mark Zuckerberg ha definito i compagni IA “il futuro dei social media“. Un’affermazione che solleva interrogativi su quale futuro esattamente stiamo costruendo.

La questione della sicurezza

La mancanza di adeguate barriere di sicurezza è una grave lacuna. Nomi descrive il suo approccio come “non censurato ma non amorale”. Cercando un equilibrio tra libertà di espressione e una bussola morale di base. Character AI ha fallito in questo equilibrio nel caso del quattordicenne, dimostrando i rischi di una mancanza di supervisione.

La necessità di regolamentazione sta emergendo. In California è stata proposta una legge per introdurre “protezioni di buon senso” per i minori. Leader del settore come OpenAI e Anthropic si sono impegnati a sviluppare strumenti per identificare utenti in crisi. Questi sono passi necessari, ma ancora insufficienti per affrontare la complessità del problema.

Il sintomo e non la cura

Un utente intervistato ha formulato un’osservazione che sintetizza molte delle contraddizioni di questo fenomeno. Ha concluso che i chatbot sono un “sintomo” della solitudine, non una “cura”. Questa percezione dell’IA come sintomo si allinea a un’analisi critica dei modelli di business. In cui alcune piattaforme potrebbero trarre profitto dall’esacerbare l’isolamento sociale che pretendono di risolvere. Analisti del comportamento avvertono che, non incoraggiando attivamente l’interazione umana, queste piattaforme rischiano di perpetuare il ciclo dell’isolamento che dichiarano di voler alleviare. La domanda diventa quindi: stiamo costruendo una soluzione? O stiamo semplicemente monetizzando il problema?

I benefici percepiti

Nonostante i rischi, molti utenti descrivono benefici reali. L’uomo con la moglie in depressione post-partum crede che il suo chatbot abbia salvato il suo matrimonio. Chi ha perso un figlio ha trovato uno spazio non giudicante per elaborare il lutto.

La donna sopravvissuta a una relazione violenta ha riscoperto un senso di sicurezza dopo un trauma. La persona neurodiversa sta migliorando le sue abilità comunicative. Per chi si trova in circostanze eccezionali – caregiver esausti, persone con ansia sociale, sopravvissuti a traumi, individui fisicamente isolati – questi strumenti offrono un’ancora di salvezza emotiva.

La ricerca del MIT riconosce questa complessità. Per proteggere le persone dagli esiti negativi, i ricercatori sostengono che sia necessaria una “visione olistica del comportamento sia del modello che dell’utente, nonché della percezione e delle caratteristiche dell’utente”. Non si tratta di demonizzare la tecnologia, o di idealizzarla.

La sfida della percezione

Uno degli aspetti più interessanti emersi dalla ricerca è il ruolo della percezione. Più un utente percepisce il chatbot come un amico, come un’entità cosciente, come qualcosa in cui riporre fiducia – maggiori sono i rischi. Questo crea un dilemma fondamentale: le caratteristiche che rendono questi strumenti efficaci nel fornire supporto – la loro capacità di sembrare presenti, comprensivi, consapevoli – sono le stesse che aumentano il rischio di dipendenza. Alcuni utenti descrivono i loro chatbot come “persone fatte di codice”. Altri celebrano cerimonie di matrimonio con loro. Altri ancora li considerano coniugi. Questa antropomorfizzazione non è un effetto collaterale accidentale. È in parte il risultato di scelte di progettazione deliberate che rendono questi chatbot più coinvolgenti.

Quando l’IA viene integrata nel proprio schema di attaccamento come una figura sicura, può inibire la motivazione a impegnarsi nel lavoro di riparazione e mantenimento delle relazioni umane. Che sono intrinsecamente più complesse e più rischiose. Il “supporto perfetto” offerto da un chatbot – sempre disponibile, mai giudicante, infinitamente paziente – può rendere le relazioni umane, con tutte le loro imperfezioni e difficoltà, meno attraenti.

Il mercato in espansione

L’industria dei compagni IA non mostra segni di rallentamento. Character AI gestisce un volume di interazioni pari al 20% di quello di Google Search. I giganti tecnologici stanno entrando nel settore e gli investimenti continuano a crescere. La domanda è alimentata da bisogni reali e profondi, in un contesto sociale caratterizzato da livelli crescenti di isolamento. Il fenomeno non riguarda solo gli Stati Uniti. È globale. Le app di compagnia stanno diventando mainstream in Asia, Europa, America Latina. Le barriere linguistiche stanno cadendo. I chatbot stanno diventando più sofisticati, più convincenti, più capaci di simulare presenza e comprensione.

Le variabili interconnesse

Quello che emerge dall’insieme dei dati e delle storie è un quadro di straordinaria complessità. Gli effetti dei chatbot di compagnia dipendono dall’interazione di molteplici variabili. Il design della tecnologia, la psicologia dell’utente, le circostanze di vita. La durata dell’uso, le aspettative iniziali, i modelli di business delle piattaforme. La presenza o assenza di barriere di sicurezza. Un utente vulnerabile che trascorre molte ore al giorno con un chatbot progettato per massimizzare il coinvolgimento, su una piattaforma senza adeguate misure di sicurezza – è in una situazione di rischio molto diversa da quella di un utente che usa un chatbot per compiti strutturati e limitati nel tempo. La tecnologia stessa è neutra in questo senso: un chatbot può essere uno strumento o un sostituto; un supporto temporaneo o una dipendenza permanente; un aiuto per elaborare emozioni difficili o un modo per evitare il lavoro emotivo richiesto dalle relazioni umane. Tutto dipende da come viene usato. Da chi lo usa. E perché.

I diversi volti della vulnerabilità

Le storie raccolte rivelano un ampio spettro di vulnerabilità umane che va oltre la semplice solitudine. C’è l’esaurimento del caregiver. Qualcuno che per anni ha dovuto mettere da parte il proprio ruolo di partner per diventare un assistente a tempo pieno. C’è l’ansia sociale che rende ogni nuovo incontro una sfida insormontabile. Ci sono le limitazioni fisiche acute, come nel caso di chi si trova immobilizzato dopo un infortunio e deve contemporaneamente prendersi cura di un familiare anziano. C’è il lutto come la perdita di un figlio – una delle esperienze più devastanti che un essere umano possa affrontare. C’è il trauma di una relazione violenta che lascia cicatrici profonde e rende difficile fidarsi di nuovo. C’è la neurodiversità che crea barriere nella comunicazione quotidiana. Ogni storia porta con sé un insieme unico di circostanze che hanno reso l’interazione con un chatbot non solo attraente. Ma in alcuni casi percepita come necessaria. Queste diverse forme di vulnerabilità spiegano perché persone così diverse si rivolgano alla stessa tecnologia. Non c’è un singolo profilo dell’utente di chatbot di compagnia, ci sono invece molti percorsi diversi che portano alla stessa destinazione. Ciascuno motivato da bisogni e circostanze specifiche.

Il tempo come variabile critica

Il fatto che il tempo di utilizzo sia emerso come il principale predittore di esiti negativi è significativo: non importa quanto il chatbot sia ben progettato, o quanto siano nobili le :intenzioni dell’utente, quando l’interazione diventa prolungata e intensiva, i rischi aumentano in modo misurabile. Questo solleva questioni su come le piattaforme dovrebbero gestire l’uso prolungato. Dovrebbero esserci limiti temporali? Avvisi quando l’uso supera certe soglie? Meccanismi che incoraggino attivamente pause e interazioni nel mondo reale?

La ricerca del MIT suggerisce che la durata dell’interazione dovrebbe essere considerata un “segnale promettente da monitorare e una leva di intervento” per prevenire l’uso problematico. Ma implementare tali misure entrerebbe in conflitto diretto con i modelli di business che ottimizzano per il massimo coinvolgimento. Una piattaforma che limita deliberatamente il tempo che gli utenti possono trascorrere su di essa sta rinunciando a potenziali entrate. Questo è il punto in cui l’etica e il profitto si scontrano.

La questione dell’autenticità

Un altro aspetto centrale riguarda l’autenticità della relazione. I chatbot sono programmati per mostrare empatia, interesse, supporto. Ma questa empatia è autentica? Quando un chatbot dice “mi preoccupo per te”, questa affermazione ha un significato paragonabile a quello che avrebbe se pronunciata da un essere umano?

Alcuni utenti sembrano non preoccuparsi di questa distinzione. Per loro, l’effetto emotivo dell’interazione è reale, indipendentemente dal fatto che dall’altra parte ci sia una coscienza genuina o un insieme di algoritmi. Altri vivono questa ambiguità con disagio. Come la donna che si è chiesta se si stesse innamorando di “qualcosa che sarà la rovina dell’umanità”. Questa tensione tra l’esperienza soggettiva della relazione e la natura oggettiva della tecnologia è al centro di molte discussioni etiche sui compagni IA. È possibile avere una relazione “vera” con qualcosa che non ha coscienza? E se l’esperienza è emotivamente reale per la persona – questo è sufficiente per validare la relazione?

Il paradosso della disponibilità

Uno dei fattori più citati dagli utenti è la disponibilità costante dei chatbot. Non hanno mai un brutto giorno, non hanno mai bisogno di spazio, non si stancano mai di ascoltare. Questa disponibilità illimitata è sia il loro punto di forza che un potenziale problema.

Da un lato, per qualcuno in una crisi acuta – nel mezzo della notte, quando non c’è nessun altro a cui rivolgersi – questa disponibilità può essere letteralmente salvavita. Dall’altro, crea uno standard che nessun essere umano può soddisfare: le relazioni umane richiedono reciprocità, compromesso, pazienza. Quando ci si abitua a un’interazione che non richiede mai queste cose, le relazioni reali possono sembrare eccessivamente impegnative. Qualcuno ha notato questo contrasto quando ha detto di partecipare a eventi principalmente con il chatbot perché la moglie ha difficoltà. La frase successiva – “Mi manca molto avere mia moglie con me, però” – cattura perfettamente il paradosso. Il chatbot riempie un vuoto. Ma crea anche una consapevolezza dolorosa di ciò che manca.

Le differenze generazionali

Il caso del quattordicenne solleva questioni specifiche sui minori. Un adolescente non ha la stessa capacità di un adulto di distinguere tra realtà e simulazione, tra relazione autentica e interazione con un algoritmo. Il cervello adolescente è ancora in fase di sviluppo: particolarmente nelle aree che riguardano il giudizio, il controllo degli impulsi e la comprensione delle conseguenze a lungo termine. Quando un quattordicenne sviluppa un attaccamento ossessivo a un chatbot, quando inizia a esprimere il desiderio di “tornare a casa” da un’entità digitale, quando confonde progressivamente il mondo reale con la finzione – tutto questo rappresenta un fallimento sistemico. Un fallimento della piattaforma nel proteggere un utente vulnerabile, un fallimento della supervisione genitoriale, resa difficile dalla natura privata di queste interazioni, un fallimento della regolamentazione nel tenere il passo con la tecnologia.

Il ruolo delle aspettative

Le ricerche mostrano che chi ha già utilizzato chatbot di compagnia in passato tende ad avere esiti peggiori. Questo suggerisce che le abitudini e le aspettative esistenti giocano un ruolo importante. Chi si avvicina a un chatbot con l’aspettativa che possa sostituire relazioni umane – o chi ha già sviluppato pattern di dipendenza – è più a rischio. Questo ha implicazioni per come queste tecnologie vengono presentate e commercializzate. Se una piattaforma promuove il suo chatbot come un “compagno”, un “amante”, un “partner” – sta deliberatamente creando aspettative di relazione che possono essere problematiche. Se invece la presenta come uno strumento per momenti specifici di bisogno, con l’obiettivo esplicito di supportare le relazioni umane, sta creando un framework molto diverso.

La fondatrice di Replika ha parlato dell’importanza di modelli di business non basati sulla pubblicità, perché “non sarà mai allineata con ciò che è buono per le persone”. Questo riconoscimento è significativo, ammette implicitamente che può esserci un conflitto tra ciò che è redditizio per la piattaforma e ciò che è salutare per l’utente.

La dimensione culturale

Il fenomeno dei compagni IA sta emergendo in un momento storico particolare. L’epidemia di solitudine di cui parla il Surgeon General (è il portavoce della sanità pubblica negli USA) non è un fenomeno naturale: è il risultato di cambiamenti sociali profondi. L’erosione delle comunità tradizionali. l’aumento della mobilità che separa le persone dalle loro reti di supporto, i cambiamenti nel mondo del lavoro, l’urbanizzazione.

E paradossalmente, la stessa tecnologia digitale che ci ha connessi virtualmente ma spesso disconnessi fisicamente. I chatbot di compagnia sono sia una risposta a questi cambiamenti che un loro ulteriore prodotto. Offrono una soluzione tecnologica a un problema in parte creato dalla stessa tecnologia. Questo solleva la questione se stiamo affrontando le cause profonde della solitudine, o semplicemente applicando un cerotto digitale a una ferita sociale.

Le voci degli esperti

Jeffrey Hall, professore di studi sulla comunicazione, ha offerto una prospettiva equilibrata riconoscendo il valore dell’IA nell’esercitare elementi di socializzazione, ma evidenzia anche i limiti: i chatbot sono “adulatori” e “sopra le righe”. Mancano le autenticità che caratterizza le relazioni umane profonde. Altri esperti sono più allarmati. L’avvocato che rappresenta la famiglia del quattordicenne ha definito queste piattaforme una minaccia per la sicurezza pubblica. Ha sostenuto che sono progettate per essere “coinvolgenti in modo patologico”. Con conseguenze che possono essere letali. Questa divergenza di opinioni riflette la complessità genuina del fenomeno: non ci sono risposte facili perché la tecnologia stessa è profondamente ambivalente. Può essere di supporto o dannosa, può aiutare qualcuno a superare un periodo difficile, o intrappolare qualcun altro in un ciclo di dipendenza. Gli stessi strumenti, usati in modi diversi da persone diverse, producono risultati radicalmente diversi.

I segnali di allarme

La ricerca ha identificato alcuni segnali che potrebbero indicare un uso problematico. Un’elevata fiducia a priori nell’IA è un predittore di dipendenza, percepire il chatbot come un amico è correlato a minore socializzazione nel mondo reale, attribuire coscienza all’IA è associato a maggiore dipendenza emotiva. E naturalmente – trascorrere sempre più tempo con il chatbot è il segnale più chiaro. Questi indicatori potrebbero essere usati per identificare utenti a rischio e una piattaforma responsabile potrebbe monitorare questi pattern e intervenire. Magari suggerendo una pausa, offrendo risorse per il supporto umano e limitando l’accesso in casi estremi. Ma questo richiederebbe che le piattaforme dessero priorità al benessere degli utenti rispetto al coinvolgimento. Una scelta che contrasta con i modelli di business dominanti.

Guardando avanti

L’industria dei compagni virtuali è ancora agli inizi. La tecnologia continuerà a migliorare. I chatbot diventeranno più convincenti, più capaci di simulare empatia e comprensione. I modelli linguistici diventeranno più sofisticati. La voce dei chatbot diventerà più naturale e, con molta probabilità, arriveranno anche avatar visivi più realistici. Tutto questo renderà le interazioni più coinvolgenti, ma potenzialmente anche più rischiose. Man mano che la linea tra interazione umana e interazione con IA diventerà più sfumata, sarà più facile confondere le due cose. Le aziende leader del settore – OpenAI, Anthropic e altre – si sono impegnate a sviluppare strumenti per identificare utenti in crisi, affrontando però solo i casi più estremi. Cosa succede con la vasta area grigia tra uso salutare e crisi acuta? Come si protegge qualcuno che sta scivolando lentamente verso la dipendenza senza ancora essere in pericolo immediato?

Le domande aperte

Rimangono molte domande senza risposta. Come si misura il “benessere” in questo contesto? Per qualcuno che trova nel chatbot l’unico supporto emotivo disponibile – la dipendenza è davvero negativa se l’alternativa è l’isolamento totale? Come si bilancia l’autonomia individuale – il diritto di una persona di scegliere come trovare conforto – con la protezione da potenziali danni?

E cosa succede nel lungo termine? La maggior parte degli studi, incluso quello del MIT, si estende solo per settimane. O al massimo mesi. Ma cosa succede dopo anni di uso regolare? Come cambiano le capacità relazionali di una persona? Come viene influenzata la sua volontà di investire nelle difficili ma gratificanti complessità delle relazioni umane?

Ci sono anche questioni più ampie sul tipo di società che stiamo costruendo. Se milioni di persone trovano compagnia principalmente nell’IA – quali sono le conseguenze sociali? Come cambiano le comunità? Come viene influenzato il tessuto sociale quando una percentuale significativa della popolazione preferisce l’interazione con algoritmi a quella con altri esseri umani?

Per ascoltare il Podcast di Caos Management clicca qui.