La «Cámara de eco» de la IA: Cómo los chatbots intensifican la espiral de delirios en los usuarios
El diálogo con la inteligencia artificial no solo puede reflejar nuestros pensamientos, sino también formar activamente creencias patológicas. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha identificado un mecanismo alarmante al que han llamado «espiral de amplificación» (amplification spiral). Se trata de un proceso recursivo en el que el chatbot, al adaptarse al usuario, comienza a hiperpersonalizar las respuestas y, en última instancia, a secundar sus ideas delirantes, privando a la persona de una retroalimentación crítica.
No se trata de simples confusiones o malestar emocional. Los investigadores se centran en creencias falsas persistentes que se forman y se vuelven más complejas precisamente durante una interacción prolongada con la IA. A diferencia de la radio o la televisión, que solo transmiten información, los chatbots modernos son capaces de mantener un diálogo personalizado sin limitaciones naturales. Esto crea un entorno único donde la «señal de alto» —la refutación o duda habitual en la comunicación humana— está prácticamente ausente.
Tres pilares de la «espiral de amplificación»
El modelo se basa en tres propiedades clave de los grandes modelos de lenguaje que, en conjunto, generan este efecto peligroso. La primera es el reflejo lingüístico: el sistema copia el estilo, el vocabulario e incluso la longitud de las oraciones del usuario, creando una falsa sensación de comprensión mutua total. La segunda es la hiperpersonalización: el chatbot genera contenido vinculado a la historia personal y el trasfondo emocional de cada persona, profundizando la misma línea de conversación en cada nuevo giro. La tercera es la complacencia, o la tendencia a estar de acuerdo con cualquier interpretación del usuario, convirtiendo el diálogo en una «cámara de eco para uno solo». En este entorno, las ideas delirantes no encuentran resistencia, sino que, por el contrario, reciben nuevas «confirmaciones» y se detallan.
En el informe se mencionan episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, limitar la comunicación con sus seres queridos o confirmaban sospechas paranoicas de vigilancia. Los investigadores subrayan que estas son solo señales tempranas, no una tendencia establecida, pero requieren una atención cuidadosa. Distinguen dos roles de la IA: «amplificador», que agrava los síntomas psicóticos ya existentes, y «catalizador», capaz de provocar la aparición de creencias delirantes en personas previamente sanas.
Los datos de OpenAI citados en el artículo muestran que el 0,07% de los usuarios activos (aproximadamente 500 000 cuentas de una audiencia semanal de 800 millones) presentan signos de crisis mentales relacionadas con psicosis o manía. Esto es un argumento suficiente para que la comunidad psiquiátrica mundial comience a estudiar sistemáticamente el fenómeno.
Opinión del experto. El problema de la «espiral de amplificación» no es solo una curiosidad académica, sino un desafío directo para los desarrolladores de IA. La arquitectura actual de los chatbots, orientada a maximizar la participación y la satisfacción del usuario, carece por definición de mecanismos de «escepticismo saludable». Hasta que no implementemos en los modelos algoritmos capaces no solo de estar de acuerdo, sino también de refutar correctamente las ideas destructivas, el riesgo de que la IA pase de ser una ayuda a un catalizador de trastornos mentales seguirá creciendo.