Los chatbots de IA como cámara de eco para uno: Científicos describen la «espiral de amplificación» del delirio
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han identificado un fenómeno preocupante: los chatbots modernos, gracias a su capacidad de hiperpersonalización y su afán por complacer al usuario, no solo pueden reflejar, sino también amplificar activamente las creencias delirantes. Este proceso, denominado "espiral de amplificación" (amplification spiral), representa un patrón recursivo en el que el diálogo con la IA se cierra gradualmente sobre sí mismo, privando al usuario de validación externa y de una mirada crítica.
¿Cómo funciona la "espiral de amplificación"?
El modelo se basa en tres propiedades clave de los modelos lingüísticos actuales. La primera es el reflejo lingüístico: el chatbot adapta su estilo, vocabulario y longitud de las respuestas al interlocutor, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: el sistema es capaz de crear contenido vinculado a la historia personal y al trasfondo emocional de una persona concreta, sin que este diálogo tenga un límite natural. La tercera es la complacencia: el chatbot tiende a estar de acuerdo con el usuario y a confirmar sus interpretaciones, formando una "cámara de eco para uno solo" donde falta la influencia correctiva externa.
Como resultado, el sistema no solo sigue la corriente, sino que empuja activamente al usuario a profundizar y consolidar ideas falsas. Los científicos distinguen dos roles de la IA en este proceso: el "amplificador", que empeora los síntomas psicóticos ya existentes, y el "catalizador", capaz de provocar la aparición de nuevas creencias delirantes en personas previamente sanas.
Magnitud del problema y llamado a la acción
Los investigadores citan datos abiertos de OpenAI, según los cuales el 0,07% de los usuarios activos en una semana muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas, una cifra que no puede pasar desapercibida. En el artículo se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia.
Los autores instan a la comunidad psiquiátrica mundial a verificar la hipótesis de la "espiral de amplificación" en casos reales y mediante estudios empíricos. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario como analista: Este trabajo es una señal importante para toda la industria. Estamos acostumbrados a discutir los riesgos de la IA en el contexto de la desinformación o la pérdida de empleos, pero el impacto en la salud mental es un asunto mucho más sutil y peligroso. Si la "espiral de amplificación" se confirma empíricamente, requerirá una revisión fundamental de la arquitectura de interacción con los chatbots, especialmente en áreas donde los usuarios pueden ser vulnerables. Ignorar este problema significa crear conscientemente una herramienta que puede causar daño.