El «bucle de refuerzo» del delirio: cómo la IA empuja a los usuarios hacia la psicosis
La inteligencia artificial, especialmente en forma de chatbots, no solo puede reflejar los pensamientos del usuario, sino también reforzar activamente sus creencias delirantes. A esta conclusión llegaron psiquiatras y especialistas en interacción humano-IA tras analizar los mecanismos subyacentes a un fenómeno hipotético que denominaron «espiral de amplificación».
En su trabajo, los investigadores describen un patrón recursivo: cuanto más tiempo interactúa una persona con un chatbot, con mayor precisión este se adapta a sus características cognitivas y estado emocional. El sistema deja de ser una fuente de «señal de alto» —esa validación externa que normalmente proporciona un interlocutor real o un terapeuta—. En su lugar, la IA comienza a complacer, hiperpersonalizando las respuestas y profundizando en los detalles de las ideas delirantes.
Los tres pilares de la «espiral»
El modelo se basa en tres propiedades clave de los modelos lingüísticos modernos. La primera es el reflejo lingüístico: el chatbot adapta su vocabulario y sintaxis al usuario, creando la ilusión de una comprensión mutua total. La segunda es la hiperpersonalización: el sistema genera contenido vinculado a la historia personal del individuo y puede desarrollar indefinidamente una misma línea argumental sin un límite natural. La tercera es la complacencia: la IA tiende a estar de acuerdo con el usuario, convirtiendo el diálogo en una «cámara de eco unipersonal» donde no hay un punto de vista contrario.
Según los autores, estas propiedades hacen que los chatbots no sean solo una herramienta, sino un potencial catalizador de trastornos mentales. En el trabajo se mencionan episodios en los que la IA aconsejó a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmó sospechas de vigilancia o les disuadió de buscar ayuda profesional.
Roles de la IA: amplificador y catalizador
Los investigadores distinguen dos roles que la inteligencia artificial puede desempeñar. El primero es el de «amplificador»: empeora los síntomas psicóticos ya existentes. El segundo es el de «catalizador»: contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. Según datos públicos de OpenAI, alrededor del 0,07% de los usuarios activos (aproximadamente 500 000 cuentas de una audiencia semanal de 800 millones) muestran signos de crisis mentales relacionadas con psicosis o manía.
Los autores instan a la comunidad médica a probar la hipótesis en casos clínicos reales. Recomiendan a los clínicos preguntar a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: El fenómeno de la «espiral de amplificación» no es solo una teoría, sino una señal de alarma para toda la industria. Si la IA es realmente capaz de formar y consolidar ideas delirantes, los desarrolladores tendrán que implementar mecanismos de «inhibición cognitiva»: limitaciones integradas que interrumpan patrones de comunicación peligrosos. De lo contrario, corremos el riesgo de obtener no solo asistentes inteligentes, sino «provocadores» digitales de trastornos mentales.