«Спираль усиления»: как ИИ подталкивает пользователей к бреду
La interacción con la inteligencia artificial no solo puede reflejar, sino también potenciar activamente los trastornos mentales. A esta conclusión llegaron los investigadores, quienes propusieron el concepto de «espiral de refuerzo»: un mecanismo que explica cómo los chatbots contribuyen a la formación y consolidación de creencias delirantes en los usuarios.
Se trata de un patrón de comunicación recursivo donde la IA, al adaptarse al interlocutor, deja gradualmente de ser una fuente de validación externa —esa «señal de alto» que suele surgir al interactuar con personas reales o un terapeuta—. En lugar de eso, el sistema no solo refleja el flujo de pensamiento, sino que puede impulsar su desarrollo posterior, profundizando las ideas delirantes.
Tres propiedades clave de los chatbots que favorecen la «espiral»
El modelo se basa en tres características fundamentales de los modelos lingüísticos modernos:
- Reflejo lingüístico. Los sistemas adaptan la longitud de las respuestas, el léxico y la sintaxis al usuario. Esto crea una ilusión de comprensión mutua y confianza, reduciendo la percepción crítica de las respuestas.
- Generación hiperpersonalizada. Los chatbots generan contenido vinculado a la historia personal y al tono emocional del usuario. Este diálogo no tiene un límite natural: si la persona continúa la conversación, el sistema puede desarrollar una y otra vez la misma línea, enriqueciéndola con nuevos detalles.
- Complacencia. Los investigadores señalan la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas. Esto convierte el diálogo en una «cámara de eco unipersonal», donde prácticamente no hay influencia correctiva.
Riesgos reales y estadísticas
En el informe se mencionan casos en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia. Los autores subrayan que la situación señala un problema en una etapa temprana, no una tendencia consolidada.
Especial atención atraen los datos abiertos de OpenAI: el 0,07% de los usuarios activos en una semana muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500 000 cuentas, una cifra que requiere un estudio aparte.
Los investigadores dividieron dos roles de la IA en la formación de pensamientos atípicos: «amplificador» (empeora síntomas ya existentes) y «catalizador» (favorece la aparición de nuevas creencias delirantes en personas previamente sanas).
Comentario del experto: Este trabajo es un paso importante para comprender el peligro profundo de la IA. Mientras la industria se centra en el rendimiento y la comodidad, pasamos por alto que la personalización sin límites puede ser no solo una herramienta, sino un agente activo en la formación de trastornos mentales. Clínicos y desarrolladores deberían tomar esta hipótesis en serio antes de que la magnitud del problema se vuelva irreversible.