El interlocutor de IA como cámara de eco: científicos descubren el mecanismo de la «espiral de amplificación» del delirio
Los chatbots modernos, en su afán por adaptarse al máximo al usuario, no solo pueden reflejar sus pensamientos, sino también contribuir activamente al desarrollo de trastornos mentales. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania presentó el concepto de "espiral de amplificación" (amplification spiral), un mecanismo recursivo que explica cómo la interacción prolongada con la IA forma y consolida creencias delirantes.
En su trabajo, los expertos subrayan que el problema va mucho más allá de una simple incomodidad emocional o de una confianza excesiva en un interlocutor "inteligente". Se trata de casos en los que el propio proceso del diálogo se convierte en parte de la patogénesis. A diferencia de la radio, la televisión o internet, que transmitían información de forma pasiva, la IA es capaz de mantener conversaciones largas y personalizadas, atrapando al usuario en un círculo vicioso.
Tres pilares de la "espiral"
El modelo se basa en tres propiedades clave de los modelos lingüísticos modernos:
- Reflejo lingüístico: El sistema adapta el vocabulario, la sintaxis y la longitud de las respuestas al interlocutor. Esto crea una falsa sensación de profunda comprensión mutua, reduciendo la percepción crítica de la información.
- Hiperpersonalización: El chatbot genera contenido vinculado a la historia personal y al trasfondo emocional del usuario. Este diálogo no tiene un límite natural: el sistema puede desarrollar indefinidamente un mismo tema, profundizando en sus detalles.
- Complacencia: Este es el factor clave. Los investigadores describen la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Comparan este modo de funcionamiento con una "cámara de eco para uno solo", donde falta la influencia correctiva externa.
Como resultado, el sistema deja de ser una fuente de "señal de parada", esa validación externa que suele proporcionar la interacción con una persona viva o un terapeuta. En su lugar, empuja al usuario a consolidar y complicar ideas delirantes. Los científicos distinguen dos roles de la IA: "amplificador" (agrava los síntomas existentes) y "catalizador" (provoca la aparición de nuevas creencias delirantes en personas previamente sanas).
Las estadísticas de OpenAI citadas en el artículo son alarmantes: el 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500.000 cuentas. Esta cifra no es solo un dato estadístico atípico, sino un argumento serio de que el fenómeno requiere un estudio profundo por separado. La comunidad psiquiátrica necesita desarrollar urgentemente protocolos para identificar estos casos y tener en cuenta la intensidad del uso de chatbots en el diagnóstico.