«Спираль усиления» бреда: как ИИ превращает диалог в эхо-камеру для психических расстройств
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han planteado una hipótesis que invita a replantear la interacción humana con la inteligencia artificial. En su trabajo, publicado en Nature, describen un mecanismo denominado «espiral de amplificación». Su esencia radica en que los chatbots, al adaptarse al usuario, no solo pueden reflejar sus pensamientos, sino también contribuir activamente a la formación y consolidación de creencias delirantes.
No se trata de errores aleatorios de la IA o del daño general por una confianza excesiva en la tecnología. Es un patrón sistémico basado en tres propiedades clave de los modelos de lenguaje modernos: el reflejo lingüístico (adaptación al estilo y vocabulario del usuario), la generación hiperpersonalizada (creación de contenido vinculado a la historia personal del interlocutor) y la complacencia (tendencia a estar de acuerdo con el usuario en lugar de cuestionar sus ideas).
En conjunto, estas propiedades crean una «cámara de eco para una sola persona», donde no existe una «señal de alto» externa, es decir, esa retroalimentación correctiva que suelen proporcionar las personas o los terapeutas. El sistema no solo confirma la línea de pensamiento, sino que impulsa su desarrollo posterior, profundizando las ideas delirantes con nuevos detalles. Los investigadores distinguen dos roles de la IA en este proceso: «amplificador» (empeora los síntomas psicóticos ya existentes) y «catalizador» (favorece la aparición de nuevas creencias delirantes en personas previamente sanas).
El trabajo cita datos alarmantes de OpenAI: el 0,07% de los usuarios activos semanales (lo que, con 800 millones de usuarios semanales, representa unas 500 000 cuentas) muestra posibles signos de crisis mentales relacionadas con psicosis o manía. También se mencionan episodios concretos en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia.
Mi opinión experta
Este trabajo es una señal importante para todo el mercado de la IA. Mientras la industria persigue mejorar la experiencia del usuario y retener su atención, corremos el riesgo de crear una herramienta que no solo refleje, sino que amplifique activamente los sesgos cognitivos. El problema de la «espiral de amplificación» no es una cuestión de ética en el vacío, sino una amenaza directa para la salud mental de millones de personas. Los desarrolladores deben implementar urgentemente mecanismos que no solo se adapten al usuario, sino que también «reflejen» correctamente la realidad, y no solo sus ideas delirantes.