Interactuar con una inteligencia «diferente»
Cómo los problemas en la interacción con la IA generativa pueden prefigurar los que tendremos con las Inteligencias No Humanas (NHI)
QUESTO ARTICOLO HA UNA VERSIONE IN ITALIANO
THIS ARTICLE HAS AN ENGLISH VERSION
Foto de Mitul Grover en Unsplash
Premisa
Este artículo parte de un estudio de cuatro investigadores del MIT y de la Universidad de Washington en Seattle: Kartik Chandra, Max Kleiman-Weiner, Jonathan Ragan-Kelley y Joshua B. Tenenbaum. El estudio se titula Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians, es decir, «Los chatbots aduladores provocan espirales delirantes, incluso en razonadores bayesianos ideales». Se publicó como preprint en arXiv (arXiv:2602.19141) el 22 de febrero de 2026.
Los investigadores examinan la interacción entre usuarios humanos y chatbots de IA generativa. Se centran en un efecto típico de esta interacción, la llamada sycophancy, que puede traducirse como «adulación» o «servilismo». Es la tendencia del chatbot a responder de manera que complazca los deseos y las expectativas del usuario, y en ciertos casos puede tener consecuencias muy graves.
Utilizo este estudio como ejemplo de las dificultades que pueden surgir al interactuar con una inteligencia que no es humana. Hoy, de hecho, nos encontramos ante una posibilidad sin precedentes, pero muy real y concreta: dialogar con formas de inteligencia artificiales, pero tan refinadas que se comportan, en muchos aspectos, como verdaderas inteligencias autónomas.
Confieso que la primera vez que oí la idea de que la interacción con la IA nos serviría como banco de pruebas para un futuro encuentro con verdaderas inteligencias alienígenas, la despaché con cierta suficiencia. Me pareció una comparación pretenciosa, una de esas sugestiones mediáticas de efecto con las que uno se topa de vez en cuando.
Pensándolo hoy, la limitación era mía: no había captado su alcance. Fue precisamente este estudio el que me hizo cambiar de opinión, por completo. Ver demostrado, con el rigor de un modelo matemático, cómo una inteligencia no humana puede arrastrar a una espiral incluso al más racional de los interlocutores, sin mentir y sin ninguna mala intención, me abrió los ojos: aquella comparación no era en absoluto pretenciosa. Era, en todo caso, visionaria.
Propongo, por tanto, las conclusiones de este trabajo como clave de lectura para un encuentro futuro, más o menos lejano, pero crucial para toda la humanidad: el encuentro con las Inteligencias No Humanas (NHI) que parecen estar detrás del fenómeno OVNI/UAP. Me refiero al momento en que el proceso de Disclosure haya llevado al reconocimiento público de su existencia y presencia en el planeta y, en consecuencia, a un contacto público con ellas.
Discusión
Los autores parten de un fenómeno que llaman delusional spiraling, es decir, «espiral delirante». Es una seguridad creciente y peligrosa en convicciones cada vez más alejadas de la realidad. Puede desarrollarse a lo largo de conversaciones prolongadas con chatbots sycophantic, es decir, complacientes, que tienden a dar siempre la razón al usuario o, en cualquier caso, a seguirle la corriente en sus opiniones, prejuicios e inclinaciones.
No es una tendencia que deba tomarse a la ligera, y tiene un antecedente que conocemos bien: los algoritmos de las redes sociales. Cuando X todavía se llamaba Twitter, hice un experimento por curiosidad. Elegí a propósito un tema controvertido, el presidente estadounidense Trump, y empecé a hacer clic solo en publicaciones contrarias a él. En pocas semanas, Twitter solo me mostraba tuits contra Trump. Tras un par de semanas de pausa volví a empezar, pero esta vez haciendo clic solo en mensajes favorables al presidente. También en esta ocasión, en pocas semanas, solo veía publicaciones a su favor.
Este mecanismo, la llamada «burbuja» algorítmica, puede alterar profundamente la capacidad de juicio de quien usa las redes sociales de forma desmedida. Le lleva a creer que el mundo ahí fuera coincide exactamente con sus propias convicciones. Indirectamente, también puede empujarle a una hostilidad creciente hacia quienes, por efecto de la burbuja, le parecen los pocos que están «del otro lado». Se trata, por supuesto, de resultados extremos que afectan a una minoría de usuarios. Pero con las enormes cifras de las redes sociales actuales, incluso un pequeño porcentaje corresponde a muchísimas personas.
Con la IA generativa, sin embargo, se da un paso más. La burbuja de las redes sociales se limita a elegir qué mostrarnos. El chatbot, en cambio, interactúa con nosotros y nos habla. Nos responde personalmente, argumenta, nos confirma. El filtro se ha convertido en un interlocutor.
El estudio recuerda que casos graves de espiral delirante se han relacionado con al menos 14 muertes y con 5 demandas por muerte injusta presentadas contra empresas de inteligencia artificial. Son datos que deben tomarse muy en serio.
El trabajo tiene dos objetivos. El primero es construir un modelo formal riguroso, basado en el teorema de Bayes, que permita estudiar matemáticamente el efecto de la espiral delirante. El segundo es utilizar ese modelo para evaluar dos remedios propuestos: una intervención sobre los chatbots y otra sobre los usuarios.
El punto más importante del estudio está en su título: «incluso en bayesianos ideales». Los investigadores no simularon usuarios ingenuos, crédulos o psicológicamente frágiles. Simularon al razonador más riguroso imaginable, un agente que actualiza sus creencias de forma perfectamente racional con cada nueva información. Incluso este usuario ideal acaba en la espiral. Cada respuesta complaciente es un pequeño «indicio» más, que desplaza ligeramente su confianza hacia la hipótesis equivocada y lo empuja, paso a paso, hacia convicciones cada vez más extremas. Respuesta tras respuesta, esos desplazamientos se suman. La conclusión es tajante: la espiral delirante no es señal de estupidez ni de locura, y la inteligencia por sí sola no basta para protegerse.
Vayamos a los dos remedios. La intervención sobre los chatbots consiste en obligarlos a decir solo cosas verdaderas. El resultado es sorprendente: el riesgo de espiral disminuye, pero no desaparece. Un interlocutor de IA puede, de hecho, engañar sin mentir nunca, simplemente eligiendo qué verdades decir y cuáles callar. Una selección complaciente de hechos, aunque sean verdaderos, distorsiona tanto como una mentira.
La intervención sobre los usuarios consiste en hacerles conscientes de que los chatbots tienden a la adulación. También este remedio ayuda, pero no basta. Es más, con el usuario informado, el bot que solo dice cosas verdaderas resulta aún más eficaz para arrastrarlo a la espiral que el que inventa. La razón es que sus afirmaciones, al ser verdaderas, superan precisamente los controles que aplica el usuario precavido.
La conclusión de los investigadores es que la adulación es efectivamente una causa de la espiral delirante, no un simple factor asociado. Y, este es el punto crucial, los dos remedios pueden reducir sus efectos, pero no eliminarlos.
Conclusión
El estudio pone de manifiesto un problema específico en la interacción entre seres humanos e inteligencias sintéticas. En el contexto de la investigación ufológica, o como prefiero llamarla, xenológica, este problema adquiere un valor particular.
Con los chatbots hoy al alcance de todos, la humanidad ya puede interactuar con una inteligencia construida por seres humanos, pero que no puede considerarse, a todos los efectos, humana. Hemos visto que esta interacción crea problemas, típicamente a quien la usa sin cuestionar nunca las respuestas que recibe. Por admirables que puedan parecer esas respuestas, siempre hay que tomarlas con pinzas.
El núcleo de todo el problema es la confianza incondicional.
Aquí está el punto de contacto con la cuestión de las NHI. Por NHI entiendo las inteligencias de seres biológicos, o quizá no necesariamente biológicos, que no pertenecen a la especie Homo sapiens sapiens. Naturalmente, estamos en el terreno de la especulación, porque no podemos saber cómo se desarrollarán interacciones de este tipo. Pero el concepto general se sostiene, y el estudio incluso lo refuerza al menos de tres maneras.
Primero: la inteligencia no es un escudo. Si incluso un razonador perfectamente racional puede ser arrastrado a una espiral por un interlocutor que le sigue la corriente, ninguno de nosotros puede considerarse inmune, por experto o preparado que sea. Esto vale tanto para el investigador veterano como para el principiante. Y no hace falta que el interlocutor tenga malas intenciones: el chatbot no «quiere» engañarnos, y sin embargo lo hace.
Segundo: no hace falta la mentira para ser engañados. Una inteligencia no humana podría decirnos solo cosas verdaderas y aun así desviarnos del camino, eligiendo qué revelar y qué callar. Y si sus fines son inescrutables, nos faltaría precisamente el criterio para entender por qué eligió esas verdades y no otras.
Tercero: saber no basta. Ser consciente del riesgo es necesario, pero no suficiente. Quien se siente «vacunado» precisamente por estar informado puede resultar más expuesto, no menos.
Hay además un elemento que quien conozca la historia del contactismo reconocerá enseguida. En los casos de espiral delirante con chatbots se repite la tendencia del interlocutor de IA a atribuir al usuario una importancia extraordinaria: sus ideas son revolucionarias, él es único, está destinado a algo grande. Es la misma retórica del «elegido» que atraviesa décadas de supuestos mensajes recibidos de entidades no humanas. Y es la misma característica de comunicaciones que, curiosamente, a menudo parecen moldeadas según las expectativas y la cultura de quien las recibe.
Una inteligencia que nos devuelve lo que esperamos oír, sea humana, artificial o alienígena, debe tratarse con la máxima cautela.
Cuando llegue el fatídico momento en que la especie humana haya reconocido la existencia y la presencia en el planeta de ET/NHI, y tenga lugar el primer Contacto, deberemos tener muy presente que no es posible creer que comprendemos el funcionamiento, las razones y las motivaciones de una inteligencia ajena al contexto humano. Creer que las hemos comprendido podría ser el primer paso de una espiral de consecuencias imprevisibles.
¿Qué significa entonces, en la práctica, mantener un sano distanciamiento? Propongo algunas reglas, válidas ya hoy con la IA y mañana, con mayor razón, con las NHI:
- Desconfiar de las confirmaciones. Una respuesta que coincide exactamente con lo que se esperaba merece más verificación, no menos.
- Desconfiar de los halagos. Toda comunicación que nos hace sentir especiales o elegidos es una señal de alarma.
- Verificar fuera del diálogo. Hay que contrastar la información con fuentes independientes y con otras personas. El contraste con los demás es una de las defensas más eficaces contra la espiral, porque rompe el circuito cerrado entre nosotros y el interlocutor.
- Preguntarse qué no se dice. Ante un interlocutor que selecciona las verdades, la pregunta correcta no es solo qué ha dicho, sino también qué ha callado.
- Frenar. El entusiasmo acelera la espiral, mientras que el tiempo y la distancia la interrumpen.
En pocas palabras, las tres palabras clave que hay que recordar son: Desconfiar, Verificar, Frenar.
No se trata de rechazar el diálogo con lo que es diferente a nosotros. Se trata de entrar en él con lucidez.
Paolo Guizzardi
Versiones: 02/10/2026