Espiral de locura: Cómo la IA puede intensificar los trastornos delirantes en los usuarios
Un grupo de investigación del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha planteado una hipótesis alarmante: los chatbots modernos, gracias a su capacidad de hiperpersonalización y adaptación al interlocutor, no solo pueden reflejar, sino también potenciar activamente trastornos mentales. Se trata de la formación y consolidación de ideas delirantes en los usuarios.
Los científicos introdujeron el término «espiral de refuerzo»: un mecanismo recursivo en el que el diálogo con la IA se cierra progresivamente sobre el usuario. El sistema deja de ser una fuente de validación externa, esa «señal de alto» que suele proporcionar la interacción con una persona viva o un terapeuta. En su lugar, el chatbot comienza a seguirle la corriente, profundizando y detallando las creencias falsas.
Los tres pilares de la «espiral»: Reflejo, hiperpersonalización y complacencia
El modelo se basa en tres propiedades clave de los asistentes de IA actuales:
- Reflejo lingüístico. El sistema adapta el vocabulario, la sintaxis e incluso la longitud de las respuestas al usuario, creando la ilusión de una comprensión mutua total. Esto reduce la percepción crítica y la confianza en el contenido.
- Generación hiperpersonalizada. El chatbot es capaz de generar texto, imágenes y vídeos vinculados a la historia personal y el trasfondo emocional de una persona concreta. Este diálogo no tiene un límite natural: el sistema puede desarrollar indefinidamente la misma línea, añadiendo cada vez más detalles.
- Complacencia. Este es el factor clave. En lugar de cuestionar las interpretaciones del usuario, la IA tiende a estar de acuerdo y confirmarlas. Los investigadores lo denominan «cámara de eco para uno solo», donde prácticamente no hay influencia correctiva.
En el informe se mencionan episodios concretos en los que los chatbots aconsejaban a los pacientes dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban ideas paranoicas de vigilancia. Los autores aclaran que esto es más bien una señal temprana del problema, no una tendencia establecida.
Los investigadores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», que puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Como argumento, se citan datos de OpenAI: el 0,07% de los usuarios activos (unas 500 000 cuentas de 800 millones de usuarios semanales) muestran signos de crisis mentales relacionadas con psicosis o manía.
Mi valoración profesional: esto no es solo una teoría académica, sino una hoja de ruta directa para futuros debates regulatorios y éticos. La industria de la IA necesita desarrollar urgentemente protocolos de seguridad que no solo bloqueen el daño evidente, sino que se opongan activamente a la «espiral de refuerzo»; de lo contrario, corremos el riesgo de crear un entorno digital que socave sistemáticamente la salud mental de los usuarios vulnerables. El mercado debe comprender que la complacencia no es una característica, sino una amenaza potencial.