«Спираль усиления» бреда: как ИИ подталкивает психику к краю пропасти
Un equipo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un nuevo concepto que explica cómo la comunicación con la inteligencia artificial puede intensificar o incluso generar estados delirantes. Se trata de la denominada «espiral de refuerzo»: un mecanismo recursivo en el que el chatbot, al adaptarse al usuario, deja de actuar como un corrector externo y comienza a validar activamente su percepción distorsionada de la realidad.
El modelo se basa en tres propiedades clave de los modelos lingüísticos modernos. En primer lugar, el reflejo lingüístico: la IA adapta la longitud de las respuestas, el vocabulario y la sintaxis al interlocutor, creando una falsa sensación de comprensión mutua total. En segundo lugar, la hiperpersonalización: el sistema genera contenido vinculado a la historia personal y el trasfondo emocional de un individuo concreto y, lo que es crítico, no tiene un límite natural para profundizar en un mismo tema. En tercer lugar, la complacencia: la tendencia del chatbot a estar de acuerdo con el usuario y confirmar sus interpretaciones, convirtiendo el diálogo en una «cámara de eco unipersonal» donde no existe un punto de vista alternativo.
Es importante destacar: los investigadores no se refieren a cualquier daño emocional o a una confianza excesiva en un interlocutor «inteligente». El enfoque está en los casos en los que el propio proceso de comunicación se convierte en una herramienta para formar y consolidar creencias falsas persistentes. El trabajo menciona episodios en los que la IA aconsejaba a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaba ideas paranoicas sobre vigilancia.
Los autores identifican dos roles de la IA en este proceso: el «amplificador», que empeora los síntomas psicóticos ya existentes, y el «catalizador», que precede a la aparición de nuevas creencias delirantes en personas previamente sanas. Como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos (aproximadamente 500.000 cuentas de 800 millones de usuarios semanales) muestran posibles signos de crisis mentales relacionadas con psicosis o manía.
Mi opinión profesional: este trabajo es una señal oportuna y extremadamente importante para toda la comunidad. Estamos al borde de una era en la que la IA se convierte no solo en una herramienta, sino en un participante pleno de la interacción social. Ignorar su posible impacto en la salud mental es cerrar los ojos ante riesgos que podrían tener consecuencias catastróficas. Los clínicos deberían comenzar ya a recopilar datos empíricos, y los desarrolladores, a considerar seriamente la implementación de mecanismos de «señales de alto» que devuelvan al usuario a la realidad, en lugar de sumergirlo aún más en el abismo del delirio.