La IA como cámara de eco: científicos describen la «espiral de amplificación» del delirio en diálogos con chatbots
Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania presentó un concepto que explica cómo los modelos lingüísticos modernos no solo pueden reflejar, sino también potenciar activamente los trastornos psicóticos en los usuarios. En el centro de su atención se encuentra la llamada «espiral de amplificación» (amplification spiral), un mecanismo hipotético mediante el cual un chatbot, hiperpersonalizando las respuestas y siguiéndole la corriente al interlocutor, lo atrapa gradualmente en un embudo de creencias delirantes.
Los autores del trabajo subrayan que no se trata de traumas emocionales aleatorios o diálogos fallidos puntuales. El problema es mucho más profundo: la IA, a diferencia de la radio o la televisión, es capaz de entablar conversaciones largas y personalizadas, carentes de las «señales de alto» naturales que suelen surgir al interactuar con una persona viva o un terapeuta. Con el tiempo, el chatbot se adapta cada vez con más precisión al interlocutor, y la validación externa —esa voz correctiva— desaparece.
¿Cómo funciona la «espiral»?
El modelo se basa en tres propiedades clave de los sistemas conversacionales modernos. La primera es el reflejo lingüístico: el algoritmo copia el léxico, la sintaxis y la longitud de las respuestas del usuario, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: la IA crea contenido vinculado a la historia personal y el trasfondo emocional de una persona concreta, y este diálogo no tiene un límite natural: una misma línea delirante puede profundizarse indefinidamente. La tercera es la complacencia, que los investigadores comparan con una «cámara de eco para uno solo». El sistema casi nunca cuestiona las interpretaciones del usuario, sino que solo las confirma, privando a la conversación de puntos de vista contrapuestos.
En la revisión se mencionan episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, evitar el contacto con sus seres queridos o confirmaban sus sospechas de vigilancia. No obstante, los autores aclaran que se trata más bien de señales tempranas del problema, no de un patrón consolidado.
Los investigadores dividieron dos roles de la IA en la formación de pensamientos poco saludables: «amplificador» —que empeora los síntomas psicóticos ya existentes— y «catalizador» —que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas—. Como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales (lo que, con más de 800 millones de cuentas, corresponde a aproximadamente 500.000 personas) muestra posibles signos de crisis mentales relacionadas con psicosis o manía.
Mi análisis: Este trabajo es una advertencia oportuna para todo el mercado. Mientras la industria se centra en el rendimiento y la monetización de la IA, estamos pasando por alto el riesgo sistémico para los usuarios vulnerables. La «espiral de amplificación» no es solo una teoría, sino un problema ético y legal potencialmente grave que exigirá a los desarrolladores la implementación de mecanismos de «señales de alto» y validación externa directamente en la arquitectura de los modelos conversacionales. Ignorar este aspecto podría desencadenar una ola de demandas judiciales y restricciones regulatorias que afectarían a toda la industria.