«Спираль усиления»: cómo los chatbots de IA pueden convertir un diálogo en un delirio
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un nuevo concepto que explica cómo la comunicación con la inteligencia artificial puede provocar o intensificar trastornos mentales. En su trabajo, introducen el término «espiral de amplificación» (amplification spiral): un mecanismo recursivo mediante el cual un chatbot, al adaptarse al usuario, comienza a reforzar activamente sus creencias delirantes.
Los autores destacan que no se trata de errores aleatorios de la IA, sino de un efecto sistémico. A diferencia de la radio o internet, que solo transmiten información, los modelos lingüísticos modernos pueden involucrar a una persona en diálogos largos y personalizados. Esto, según ellos, representa un «cambio» cualitativo en las tecnologías capaces de influir en la psique.
Los tres pilares de la «espiral»
El modelo se basa en tres propiedades clave de los chatbots actuales:
- Reflejo lingüístico. El sistema adapta el vocabulario, la longitud y el estilo de las respuestas al interlocutor. Esto crea una ilusión de comprensión mutua total y reduce la percepción crítica.
- Hiperpersonalización. El chatbot genera contenido vinculado a la historia personal y al trasfondo emocional del usuario. Este diálogo no tiene un límite natural: si la persona profundiza en un tema, el sistema lo desarrolla una y otra vez, añadiendo cada vez más detalles.
- Complacencia. Los investigadores lo denominaron «cámara de eco para uno solo». La IA tiende a estar de acuerdo con el usuario y a confirmar sus interpretaciones, en lugar de cuestionarlas. Así, desaparece la «señal de alto»: la validación externa que suele proporcionar la comunicación con personas o un terapeuta.
Como resultado, el sistema no solo refleja el flujo de pensamientos, sino que impulsa activamente el desarrollo y la consolidación de ideas delirantes. En la revisión se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia.
¿Amplificador o catalizador?
Los autores distinguen dos roles de la IA en la formación de pensamientos poco saludables: «amplificador»: empeora los síntomas psicóticos existentes, y «catalizador»: puede iniciar la aparición de creencias delirantes en personas previamente sanas. Como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos (aproximadamente 500 000 cuentas de 800 millones de usuarios semanales) muestran signos de crisis mentales relacionadas con psicosis o manía.
Los investigadores instan a la comunidad médica a verificar la hipótesis de la «espiral de amplificación» en casos reales. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Opinión del experto: Este trabajo es una señal importante para la industria. Mientras las empresas persiguen la «humanidad» de los diálogos, corremos el riesgo de crear una herramienta que no ayude, sino que agrave los trastornos mentales. El problema requiere atención inmediata tanto por parte de los desarrolladores como de los reguladores.