Interagire con un’intelligenza “diversa”
Come i problemi nell’interazione con l’IA generativa possono prefigurare quelli con le Intelligenze Non Umane (NHI)
THIS ARTICLE HAS AN ENGLISH VERSION
ESTE ARTÍCULO TIENE UNA VERSIÓN EN CASTELLANO
Foto di Mitul Grover su Unsplash
Premessa
Questo articolo prende spunto da uno studio di quattro ricercatori del MIT e della University of Washington di Seattle: Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley e Joshua B. Tenenbaum. Lo studio si intitola Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians, cioè “I chatbot adulatori causano spirali deliranti, anche nei ragionatori bayesiani ideali”. È stato pubblicato come preprint su arXiv (arXiv:2602.19141) il 22 febbraio 2026.
I ricercatori esaminano l’interazione fra utenti umani e chatbot di IA generativa. Si concentrano su un effetto tipico di questa interazione, la cosiddetta sycophancy, che si può rendere con “adulazione” o “servilismo”. È la tendenza del chatbot a rispondere in modo da assecondare desideri e aspettative dell’utente, e in certi casi può avere conseguenze molto serie.
Uso questo studio come esempio delle difficoltà che possono nascere quando si interagisce con un’intelligenza che non è umana. Oggi infatti ci troviamo davanti a una possibilità senza precedenti, ma ben reale e concreta: dialogare con forme di intelligenza artificiali, eppure così raffinate da comportarsi, sotto molti aspetti, come vere e proprie intelligenze autonome.
Confesso di aver liquidato con una certa sufficienza l’idea, sentita per la prima volta tempo fa, secondo cui l’interazione con le IA ci sarebbe servita come banco di prova per un futuro confronto con vere intelligenze aliene. Mi sembrava un accostamento pretenzioso, una di quelle suggestioni mediatiche a effetto in cui ci si imbatte ogni tanto.
A ripensarci oggi, il limite era mio: non ne avevo colto la portata. È stato proprio questo studio a farmi ricredere, e del tutto. Vedere dimostrato, con il rigore di un modello matematico, come un’intelligenza non umana possa trascinare in una spirale anche il più razionale degli interlocutori, senza mentire e senza alcuna cattiva intenzione, mi ha aperto gli occhi: quell’accostamento non era affatto pretenzioso. Era, semmai, lungimirante.
Propongo dunque le conclusioni di questo lavoro come chiave di lettura per un confronto futuro, più o meno lontano, ma cruciale per l’intera umanità: quello con le Intelligenze Non Umane (NHI) che sembrano essere dietro al fenomeno UFO/UAP. Mi riferisco al momento in cui il processo di Disclosure avrà portato al riconoscimento pubblico della loro esistenza e presenza sul pianeta e, di conseguenza, a un contatto pubblico con esse.
Discussione
Gli autori partono da un fenomeno che chiamano delusional spiraling, cioè “spirale delirante”. È una crescente e pericolosa sicurezza riposta in convinzioni sempre più lontane dalla realtà. Può svilupparsi nel corso di conversazioni prolungate con chatbot sycophantic, cioè compiacenti, che tendono a dare sempre ragione all’utente o comunque ad assecondarne opinioni, pregiudizi e inclinazioni.
Non è una tendenza da prendere sotto gamba, e ha un antecedente che conosciamo bene: gli algoritmi dei social media. Quando X si chiamava ancora Twitter, per curiosità feci un esperimento. Scelsi di proposito un argomento controverso, il presidente USA Trump, e cominciai a cliccare soltanto su post a lui contrari. Nel giro di qualche settimana Twitter mi mostrava solo tweet contro Trump. Dopo un paio di settimane di pausa ricominciai, ma cliccando solo su messaggi favorevoli al presidente. Anche questa volta, in poche settimane, vedevo unicamente post a suo favore.
Questo meccanismo, la cosiddetta “bolla” algoritmica, può alterare in profondità la capacità di giudizio di chi usa i social in modo smodato. Lo induce a credere che il mondo là fuori corrisponda esattamente alle proprie convinzioni. Indirettamente può spingerlo anche a un’ostilità crescente verso quelli che, per effetto della bolla, gli sembrano i pochi “dall’altra parte”. Si tratta beninteso di esiti estremi che riguardano una minoranza di utenti. Ma sui grandi numeri dei social media di oggi, anche una piccola percentuale corrisponde a moltissime persone.
Con l’IA generativa, però, si fa un passo ulteriore. La bolla dei social si limita a scegliere che cosa mostrarci. Il chatbot, invece, interagisce con noi e ci parla. Risponde a noi personalmente, argomenta, ci conferma. Il filtro è diventato un interlocutore.
Lo studio ricorda che casi gravi di spirale delirante sono stati collegati ad almeno 14 decessi e a 5 cause per morte ingiusta intentate contro aziende di intelligenza artificiale. Sono dati da prendere molto sul serio.
Il lavoro ha due obiettivi. Il primo è costruire un modello formale rigoroso, fondato sul teorema di Bayes, che renda l’effetto della spirale delirante studiabile matematicamente. Il secondo è usare quel modello per valutare due rimedi proposti: un intervento sui chatbot e uno sugli utenti.
Il punto più importante dello studio è nel titolo: “anche nei bayesiani ideali”. I ricercatori non hanno simulato utenti ingenui, creduloni o psicologicamente fragili. Hanno simulato il ragionatore più rigoroso immaginabile, un agente che aggiorna le proprie convinzioni in modo perfettamente razionale a ogni nuova informazione. Anche questo utente ideale finisce nella spirale. Ogni risposta compiacente è un piccolo “indizio” in più, che sposta di poco la sua fiducia verso l’ipotesi sbagliata e lo spinge, passo dopo passo, verso convinzioni sempre più estreme. Risposta dopo risposta, quegli spostamenti si sommano. La conclusione è netta: la spirale delirante non è un segno di stupidità o di follia, e l’intelligenza da sola non basta a proteggersi.
Veniamo ai due rimedi. L’intervento sui chatbot consiste nel costringerli a dire solo cose vere. Il risultato è sorprendente: il rischio di spirale diminuisce ma non scompare. Un interlocutore IA può infatti fuorviare senza mentire mai, semplicemente scegliendo quali verità dire e quali tacere. Una selezione compiacente di fatti, pur veri, distorce quanto una menzogna.
L’intervento sugli utenti consiste nel renderli consapevoli che i chatbot tendono all’adulazione. Anche questo rimedio aiuta ma non basta. Anzi, con l’utente informato, il bot che dice solo cose vere si rivela ancora più efficace nel trascinarlo nella spirale rispetto a quello che inventa. La ragione è che le sue affermazioni, essendo vere, superano proprio quei controlli che l’utente avveduto applica.
La conclusione dei ricercatori è che l’adulazione è effettivamente una causa della spirale delirante, non un semplice fattore associato. E, questo è il punto cruciale, i due rimedi possono ridurne gli effetti ma non azzerarli.
Conclusione
Lo studio mette in evidenza un problema specifico nell’interazione fra esseri umani e intelligenze sintetiche. Nel contesto della ricerca ufologica, o come preferisco dire xenologica, questo problema assume un valore particolare.
Con i chatbot oggi alla portata di tutti, l’umanità può già interagire con un’intelligenza che è costruita da esseri umani ma che non si può considerare, a tutti gli effetti, umana. Abbiamo visto che questa interazione crea problemi, tipicamente a chi la usa senza mai mettere in dubbio le risposte che riceve. Per quanto mirabili possano apparire quelle risposte, vanno sempre prese col proverbiale granello di sale.
Il nodo dell’intero problema è la fiducia incondizionata.
Qui sta il punto di contatto con la questione delle NHI. Per NHI intendo le intelligenze di esseri biologici, o forse non necessariamente biologici, che non appartengono alla specie Homo sapiens sapiens. Naturalmente siamo nel campo della speculazione, perché non possiamo sapere come si svolgeranno interazioni di questo tipo. Ma il concetto generale regge, e anzi lo studio lo rafforza in almeno tre modi.
Primo: l’intelligenza non è uno scudo. Se anche un ragionatore perfettamente razionale può essere trascinato in una spirale da un interlocutore che lo asseconda, nessuno di noi può dirsi immune, per quanto esperto o preparato. Questo vale per il ricercatore navigato quanto per il neofita. E non occorre che l’interlocutore abbia cattive intenzioni: il chatbot non “vuole” ingannarci, eppure lo fa.
Secondo: non serve la menzogna per essere fuorviati. Un’intelligenza non umana potrebbe dirci soltanto cose vere e condurci comunque fuori strada, scegliendo che cosa rivelare e che cosa tacere. Se poi le sue finalità sono imperscrutabili, ci mancherebbe proprio il metro per capire perché abbia scelto quelle verità e non altre.
Terzo: sapere non basta. Essere consapevoli del rischio è necessario ma non sufficiente. Chi si sente “vaccinato” proprio perché è informato può risultare più esposto, non meno.
C’è poi un elemento che chi conosce la storia del contattismo riconoscerà subito. Nei casi di spirale delirante con i chatbot ricorre la tendenza dell’interlocutore IA ad attribuire all’utente un’importanza straordinaria: le sue idee sono rivoluzionarie, lui è unico, è destinato a qualcosa di grande. È la stessa retorica del “prescelto” che attraversa decenni di presunti messaggi ricevuti da entità non umane. Ed è la stessa caratteristica di comunicazioni che, curiosamente, sembrano spesso modellate sulle attese e sulla cultura di chi le riceve.
Un’intelligenza che ci restituisce ciò che speriamo di sentire, umana, artificiale o aliena che sia, va trattata con la massima cautela.
Quando arriverà il fatidico momento in cui la specie umana avrà riconosciuto l’esistenza e la presenza sul pianeta di ET/NHI, e avrà luogo il primo Contatto, dovremo tenere ben presente che non è possibile credere di comprendere il funzionamento, le ragioni e le motivazioni di un’intelligenza estranea al contesto umano. Credere di averle comprese potrebbe essere il primo passo di una spirale dalle conseguenze imprevedibili.
Che cosa significa allora, in pratica, mantenere un sano distacco? Propongo alcune regole, valide già oggi con l’IA e domani, a maggior ragione, con le NHI:
- Diffidare delle conferme. Una risposta che corrisponde esattamente a ciò che si sperava merita più verifica, non meno.
- Diffidare delle lusinghe. Ogni comunicazione che ci fa sentire speciali o eletti è un campanello d’allarme.
- Verificare fuori dal dialogo. Bisogna confrontare le informazioni con fonti indipendenti e con altre persone. Il confronto con gli altri è una delle difese più efficaci contro la spirale, perché spezza il circuito chiuso fra noi e l’interlocutore.
- Chiedersi che cosa non viene detto. Davanti a un interlocutore che seleziona le verità, la domanda giusta non riguarda solo che cosa ha detto, ma anche che cosa ha taciuto.
- Rallentare. L’entusiasmo accelera la spirale, mentre il tempo e la distanza la interrompono.
In estrema sintesi, le parole chiave da tenere a mente sono tre: Diffidare, Verificare, Rallentare.
Non si tratta di rifiutare il dialogo con ciò che è diverso da noi. Si tratta di entrarvi con lucidità.
Paolo Guizzardi
Versioni: 02/10/2026