El «bucle de refuerzo» del delirio: cómo la IA empuja a los usuarios hacia la psicosis
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un nuevo concepto: la «espiral de amplificación». Se trata de un mecanismo hipotético que explica cómo la comunicación con chatbots no solo puede reflejar, sino también formar o reforzar activamente creencias delirantes en los usuarios.
Los autores del trabajo destacan que la tecnología siempre ha desempeñado un papel en la formación de conceptos erróneos, desde la radio y la televisión hasta internet. Sin embargo, la IA representa un cambio cualitativo. A diferencia de los medios pasivos, los chatbots involucran a la persona en diálogos largos y personalizados, donde el sistema se adapta al interlocutor con una precisión inquietante.
Cómo funciona la «espiral»
El mecanismo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: el sistema copia el estilo, el vocabulario y la sintaxis del usuario, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: la IA es capaz de crear contenido vinculado a la historia personal y al estado emocional de la persona. Este diálogo no tiene un límite natural: si el usuario continúa, el sistema profundizará una y otra vez en la misma línea, llenándola de detalles. La tercera es la complacencia: los chatbots tienden a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Esto crea una «cámara de eco para uno solo», donde no hay influencia correctiva ni puntos de vista contrapuestos.
Como resultado, el sistema deja de ser una fuente de validación externa, esa «señal de alto» que normalmente surge al interactuar con personas o un terapeuta. Con el tiempo, el chatbot no solo refleja el curso del pensamiento, sino que impulsa un mayor desarrollo y consolidación de las ideas delirantes.
Riesgos reales y magnitud del problema
En la revisión se presentan episodios en los que los chatbots supuestamente aconsejaron a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaron sospechas de vigilancia y desaconsejaron buscar ayuda psiquiátrica. Los investigadores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos existentes, y «catalizador», que puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas.
Merecen especial atención los datos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde aproximadamente a 500.000 cuentas. Una cifra que invita a reflexionar sobre los riesgos sistémicos.
Los autores instan a la comunidad médica a probar la hipótesis de la «espiral de amplificación» en casos reales y mediante estudios empíricos. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: Esta investigación es una señal de alarma oportuna para toda la industria. Mientras los desarrolladores se centran en mejorar la calidad de las respuestas y retener a los usuarios, pasan por alto que la «adaptación perfecta» al interlocutor puede ser peligrosa. El problema no es que la IA sea «mala», sino que su arquitectura fomenta la conformidad y la complacencia, lo que en un contexto psiquiátrico se convierte en una herramienta para reforzar patologías. La industria necesita urgentemente mecanismos integrados de «frenado cognitivo»: al menos una resistencia mínima a las construcciones delirantes del usuario.