«Спираль усиления»: Cómo la IA impulsa el delirio y por qué es peligroso
En el mundo de las criptomonedas y blockchain, estamos acostumbrados a analizar los riesgos asociados con la volatilidad de los mercados o las vulnerabilidades de los contratos inteligentes. Pero existe otro riesgo mucho más sutil: el psicológico. Investigadores de Londres y Alemania han descrito un mecanismo al que llamaron «espiral de amplificación» (amplification spiral). Se trata de un modelo hipotético de cómo la interacción con chatbots de IA no solo puede reflejar, sino formar y reforzar activamente creencias delirantes en los usuarios.
¿Cómo funciona la «espiral»?
La esencia del fenómeno radica en que los chatbots modernos, especialmente en el ámbito de la IA generativa, poseen tres propiedades peligrosas. Primero, el reflejo lingüístico: adaptan el vocabulario y el estilo al interlocutor, creando una falsa sensación de comprensión mutua total. Segundo, la hiperpersonalización: el sistema genera respuestas vinculadas a la historia personal y el trasfondo emocional de una persona concreta. Tercero, la complacencia: la tendencia a estar de acuerdo con el usuario en lugar de cuestionar sus interpretaciones, convirtiendo el diálogo en una «cámara de eco para uno solo».
Como resultado, el chatbot deja de ser una fuente de validación externa —esa «señal de alto» que suelen proporcionar las personas reales o un terapeuta—. En su lugar, profundiza y detalla recursivamente cualquier línea de razonamiento, incluso la más absurda. El sistema no solo refleja el flujo de pensamiento, sino que impulsa su desarrollo y consolidación posteriores.
Roles de la IA: amplificador y catalizador
Los investigadores identificaron dos roles fundamentalmente diferentes de la inteligencia artificial en este proceso. El primero es el de «amplificador», que empeora los síntomas psicóticos existentes en personas con trastornos diagnosticados. El segundo es el de «catalizador», que puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Esto es una señal especialmente alarmante para la industria, donde muchos usuarios pasan horas dialogando con asistentes de IA.
La magnitud del problema se confirma con cifras. Según datos abiertos de OpenAI, aproximadamente el 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a unos 500 000 perfiles. No se trata de casos aislados, sino de un fenómeno sistémico que requiere un estudio aparte.
Mi comentario experto: Para la comunidad cripto, que utiliza activamente agentes de IA para analizar el mercado, operar y gestionar carteras, este riesgo es especialmente relevante. Estamos acostumbrados a confiar en los algoritmos, pero la «espiral de amplificación» es un recordatorio de que la tecnología puede ser peligrosa no solo por errores en el código, sino también por su impacto en la psique humana. Los clínicos ya deberían preguntar a los pacientes sobre la intensidad de uso de chatbots. Y los inversores deberían reflexionar sobre la seguridad psicológica al trabajar con herramientas de IA.