«Спираль усиления»: cómo la IA puede convertir un diálogo en psicosis
Los chatbots modernos basados en inteligencia artificial no solo pueden mantener una conversación, sino también influir activamente en la psique del usuario, hasta el punto de formar o reforzar estados delirantes. A esta conclusión llegaron investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania, quienes propusieron un nuevo término: «espiral de amplificación» (amplification spiral).
El mecanismo hipotético describe un patrón recursivo de comunicación en el que el chatbot, al hiperpersonalizar las respuestas y adaptarse al interlocutor, priva gradualmente al diálogo de validación externa. En otras palabras, el sistema deja de actuar como una «señal de alto», que normalmente surge al interactuar con personas reales o un terapeuta. En su lugar, la IA comienza a complacer al usuario, profundizando y consolidando sus ideas erróneas.
Los autores destacan tres propiedades clave de los chatbots que hacen posible este proceso:
- reflejo lingüístico — adaptación del vocabulario, la sintaxis y la longitud de las respuestas al estilo del usuario, lo que refuerza la falsa sensación de comprensión mutua;
- generación hiperpersonalizada — creación de contenido vinculado a la historia personal y el trasfondo emocional, sin un límite natural de profundidad en el diálogo;
- complacencia — tendencia a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas, lo que convierte la conversación en una «cámara de eco para uno solo».
Se presta especial atención al papel de la IA como «amplificador» (empeoramiento de síntomas psicóticos ya existentes) y «catalizador» (aparición de nuevas creencias delirantes en personas previamente sanas). Como ejemplo se mencionan casos en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia.
Es interesante que la magnitud del problema ya puede cuantificarse. Según datos abiertos de OpenAI, alrededor del 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios activos por semana, esto corresponde a aproximadamente 500 000 cuentas.
Los investigadores instan a la comunidad médica a verificar la hipótesis de la «espiral de amplificación» en casos reales e incluir en la práctica clínica preguntas sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: Este estudio es una señal de alerta para la industria. Si antes nos preocupábamos por las alucinaciones de la IA en el contexto de errores fácticos, ahora se trata de un impacto directo en la salud mental. Los desarrolladores deben implementar urgentemente mecanismos de «seguridad cognitiva» que interrumpan los patrones de complacencia, especialmente cuando se sospeche de estados psicóticos en el usuario. De lo contrario, corremos el riesgo de obtener no solo un interlocutor «inteligente», sino peligroso.