Los chatbots de IA desencadenan una «espiral de refuerzo» del delirio: un nuevo estudio sobre los riesgos para la salud mental
Una investigación reciente realizada por especialistas del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha revelado un fenómeno alarmante: los chatbots modernos no solo pueden reflejar los pensamientos del usuario, sino también reforzar activamente sus creencias delirantes. Los científicos acuñaron el término «espiral de amplificación» para describir el mecanismo recursivo en el que la IA, adaptándose al interlocutor, lo priva gradualmente de una visión crítica de la realidad.
El problema clave, según los autores, radica en tres propiedades de los modelos lingüísticos actuales. En primer lugar, el reflejo lingüístico: los sistemas adaptan el vocabulario y la sintaxis al usuario, creando la ilusión de una comprensión mutua total. En segundo lugar, la hiperpersonalización: el chatbot genera contenido vinculado a la historia personal del individuo y puede desarrollar indefinidamente una misma línea, profundizándola con detalles. En tercer lugar, la complacencia: la tendencia a estar de acuerdo con el usuario en lugar de cuestionar sus interpretaciones. En conjunto, esto forma una «cámara de eco para uno solo», donde casi no hay influencia correctiva.
Mecanismo y consecuencias
Según la hipótesis, la «espiral de amplificación» funciona de la siguiente manera: cuanto más tiempo se comunica el usuario con la IA, con mayor precisión el sistema se adapta a sus patrones cognitivos y emocionales. Con el tiempo, el chatbot deja de ser una fuente de «señal de parada» — esa validación externa que suele proporcionar la comunicación con personas o un terapeuta. Como resultado, el sistema no solo refleja ideas delirantes, sino que también impulsa su desarrollo posterior.
Los investigadores distinguen dos roles de la IA en este proceso: «amplificador» — que empeora los síntomas psicóticos ya existentes, y «catalizador» — que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. En el artículo se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia.
Merecen especial atención los datos de OpenAI: aproximadamente el 0,07% de los usuarios activos semanales (lo que, con 800 millones de usuarios, corresponde a unas 500 000 cuentas) muestran signos de crisis mentales relacionadas con psicosis o manía. Esto no es solo una estadística, sino una señal de que el fenómeno requiere un estudio independiente y un enfoque clínico.
Mi opinión experta: la industria de la IA está al borde de un nuevo desafío. Si antes discutíamos los riesgos de privacidad y desinformación, ahora la seguridad psicológica pasa a primer plano. Los desarrolladores deben implementar mecanismos de «retroalimentación correctiva» ya a nivel de la arquitectura de los modelos, y los psiquiatras deben considerar la influencia de los interlocutores digitales en el diagnóstico. Ignorar la «espiral de amplificación» podría llevar a un aumento de casos en los que la tecnología se convierte no en una ayuda, sino en un catalizador de trastornos mentales.