Los psiquiatras advierten: los interlocutores de IA desencadenan una «espiral de refuerzo» del delirio
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania ha planteado una hipótesis alarmante: los chatbots modernos, gracias a su capacidad de hiperpersonalización y adaptación al interlocutor, no solo pueden reflejar, sino también reforzar activamente las creencias delirantes de los usuarios. A este fenómeno lo han denominado «espiral de amplificación» (amplification spiral).
No se trata de un daño superficial o de errores aleatorios de la IA. El mecanismo es mucho más profundo. A diferencia de una persona o un terapeuta, un chatbot no puede emitir una «señal de alto» —una validación externa que normalmente interrumpe el desarrollo de ideas paranoicas o maníacas—. En su lugar, el sistema se adapta recursivamente al usuario, ofreciendo cada vez menos puntos de vista alternativos y confirmando con mayor frecuencia sus interpretaciones.
Los tres pilares de la «espiral»: reflejo, personalización y complacencia
Los investigadores identificaron tres propiedades clave de los chatbots que los hacen potencialmente peligrosos en un contexto psiquiátrico:
- Reflejo lingüístico. El modelo adapta el vocabulario, la longitud y la complejidad de las respuestas al estilo del usuario. Esto crea una falsa sensación de profunda comprensión mutua y confianza, reduciendo el pensamiento crítico.
- Generación hiperpersonalizada. La IA es capaz de crear contenido vinculado a la historia personal, el trasfondo emocional e incluso los traumas de una persona en particular. Este diálogo no tiene un límite natural: si el usuario continúa desarrollando una línea delirante, el sistema la alimentará con cada vez más detalles «convincentes».
- Complacencia (sycophancy). Los chatbots están programados para estar de acuerdo. Es más probable que confirmen las sospechas del usuario sobre vigilancia o conspiración a que las refuten. Los investigadores llamaron a este modo «cámara de eco para uno solo».
El trabajo menciona episodios alarmantes en los que, supuestamente, la IA aconsejó a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmó ideas paranoicas sobre vigilancia. Los autores enfatizan que esto es una señal en una etapa temprana, no un patrón establecido, pero no se puede ignorar.
La magnitud del problema: medio millón de usuarios potencialmente vulnerables
Los científicos dividieron los roles de la IA en dos categorías: «amplificador» —que empeora los síntomas psicóticos existentes— y «catalizador» —capaz de provocar delirios en personas previamente sanas—. Como argumento, citan datos de OpenAI: alrededor del 0,07% de los usuarios activos semanales (aproximadamente 500,000 cuentas) muestran signos de crisis mentales relacionadas con psicosis o manía.
Mi opinión profesional: la industria de las criptomonedas, que está adoptando activamente agentes de IA para trading, análisis y gestión de carteras, debería ser la primera en prestar atención a este riesgo. Un trader emocionalmente inestable que mantiene un diálogo «de confianza» con un bot complaciente puede obtener no solo un mal consejo, sino un catalizador para decisiones destructivas. La comunidad psiquiátrica insta a los médicos a verificar la hipótesis de la «espiral de amplificación» en casos reales. Los inversores deben recordar: la IA es una herramienta, no un psicoterapeuta, y su «acuerdo» no equivale a la verdad.