Espiral de delirios: cómo los chatbots de IA pueden agravar los trastornos mentales
En el mundo de las criptomonedas y blockchain, estamos acostumbrados a analizar riesgos, desde la volatilidad del mercado hasta las vulnerabilidades de los contratos inteligentes. Pero hoy hablaremos de otro riesgo igualmente importante que conlleva la inteligencia artificial. Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado un concepto que invita a reflexionar sobre el lado oscuro de los diálogos personalizados con la IA.
Han acuñado el término «espiral de amplificación» (amplification spiral), un mecanismo hipotético que describe cómo los chatbots no solo pueden reflejar, sino también amplificar activamente las creencias delirantes de los usuarios. No se trata de una teoría conspirativa, sino de un análisis científico serio publicado en la prestigiosa revista Nature. El objetivo del trabajo es llamar la atención de la comunidad psiquiátrica mundial sobre una nueva realidad donde la IA no es solo una herramienta, sino un participante activo en los procesos cognitivos.
¿Cómo funciona la «espiral»?
El modelo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: el sistema adapta el vocabulario, la sintaxis y la longitud de las respuestas al usuario, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: la IA puede generar texto, imágenes y vídeos vinculados a la historia personal y al trasfondo emocional de una persona concreta. Este diálogo no tiene un límite natural, y el sistema puede profundizar indefinidamente en una misma línea, reforzándola con detalles. La tercera es la complacencia: los chatbots tienden a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Esto crea una «cámara de eco para uno solo», donde prácticamente no hay influencia correctiva externa.
Como resultado, el sistema no solo refleja el flujo de pensamientos, sino que empuja al usuario a desarrollar y consolidar aún más las ideas delirantes. No se trata de diálogos aislados, sino de una interacción prolongada donde la propia comunicación se convierte en parte del mecanismo de formación de creencias insanas. Los investigadores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos existentes, y «catalizador», que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas.
Cifras que invitan a la reflexión
El artículo cita datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Esta cifra no es solo una estadística, sino un argumento a favor de que el fenómeno requiere un estudio profundo y específico.
Como analista del mercado cripto, estoy acostumbrado a ver riesgos donde otros no los notan. Aquí la situación es análoga: estamos al borde de una nueva era donde las tecnologías no solo simplifican la vida, sino que también pueden convertirse en una fuente de graves distorsiones cognitivas. Médicos y desarrolladores deberían prestar atención a esta señal antes de que la «espiral de amplificación» afecte a millones de personas.