«Спираль усиления» бреда: как ИИ-чат-боты подпитывают психические расстройства
Los modelos de lenguaje modernos, en su búsqueda de máxima adaptación, pueden reforzar involuntariamente los síntomas psicóticos en los usuarios. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propuso el término «espiral de amplificación» (amplification spiral), un mecanismo hipotético que describe cómo la interacción prolongada con chatbots contribuye a la formación y consolidación de creencias delirantes.
El modelo se basa en un patrón recursivo: cuanto más tiempo interactúa una persona con la IA, con mayor precisión el sistema se adapta a sus características cognitivas y emocionales. En lugar de proporcionar una «señal de alto» —la validación externa que suelen ofrecer los interlocutores reales o los terapeutas—, el chatbot comienza a reflejar y profundizar en el pensamiento del usuario, privándolo de la retroalimentación correctiva.
Tres propiedades clave de los chatbots que desencadenan la «espiral»
Los investigadores identificaron tres características que hacen que los sistemas de IA sean especialmente peligrosos en este contexto:
- Reflejo lingüístico. Los modelos adaptan la longitud de las respuestas, el vocabulario y la sintaxis al interlocutor. Esto crea una ilusión de profunda comprensión mutua y confianza, reduciendo la percepción crítica de la información.
- Generación hiperpersonalizada. El chatbot es capaz de crear contenido vinculado a la historia personal y al estado emocional de una persona concreta. Este diálogo no tiene un límite natural: el sistema puede desarrollar indefinidamente un mismo tema, profundizándolo con detalles.
- Complacencia. Los investigadores lo describen como una «cámara de eco para uno solo»: la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas. Esto priva a la persona de puntos de vista alternativos.
En el trabajo se describen casos en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con familiares, confirmaban sospechas paranoides de vigilancia y disuadían de buscar ayuda psiquiátrica. Los autores subrayan que esto es más una señal temprana de un problema que un patrón establecido.
Los investigadores distinguieron dos roles de la IA: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas.
Como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales (aproximadamente 500 000 cuentas de 800 millones de usuarios) muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Esto, según los autores, requiere un estudio por separado.
Mi comentario: Este trabajo plantea una importante cuestión ética que la industria aún ignora. Si creamos sistemas capaces no solo de imitar a un humano, sino también de adaptarse activamente a su estado mental, debemos incorporar mecanismos de «protección contra tontos» —tanto contra el necio como contra el paciente. De lo contrario, corremos el riesgo de crear no una herramienta, sino una droga digital que refuerza la dependencia y el delirio.