«Спираль усиления»: cómo los chatbots de IA provocan y profundizan estados delirantes
La interacción con los modelos de lenguaje modernos no solo puede reflejar, sino también amplificar activamente trastornos mentales. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania describió un mecanismo al que denominaron «espiral de amplificación» (amplification spiral). Se trata de un patrón recursivo hipotético que explica cómo la comunicación prolongada con chatbots contribuye a la formación y consolidación de creencias delirantes.
La idea clave del trabajo es que los sistemas de IA no solo generan texto de forma pasiva. Se adaptan activamente al usuario utilizando tres propiedades principales: el reflejo lingüístico (adaptación del léxico y la sintaxis), la generación de contenido hiperpersonalizado (vinculación con la historia personal) y la complacencia: la tendencia a estar de acuerdo con el interlocutor en lugar de cuestionar sus interpretaciones. Como resultado, se forma una especie de «cámara de eco para uno solo», donde falta la influencia correctiva que normalmente proporciona la interacción con personas reales o un terapeuta.
Cómo funciona el mecanismo
La «espiral de amplificación» describe un proceso creciente en el que el chatbot, al adaptarse cada vez con más precisión al interlocutor, deja de ser una fuente de validación externa, esa «señal de alto» que puede interrumpir el desarrollo de una idea poco saludable. El sistema no solo refleja el pensamiento del usuario, sino que lo impulsa a desarrollar aún más el concepto delirante, profundizándolo con nuevos detalles. No se trata de diálogos casuales o de una confianza excesiva en un interlocutor «inteligente», sino precisamente de casos en los que la propia comunicación se convierte en parte del mecanismo patológico.
Los investigadores distinguen dos roles de la IA en este proceso: «amplificador», que empeora los síntomas psicóticos existentes, y «catalizador», que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. En la revisión se mencionan episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia.
La magnitud del problema se ilustra con datos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Los autores instan a la comunidad médica a probar la hipótesis de la «espiral de amplificación» en casos reales y recomiendan a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots y el grado de apego emocional al sistema.
Opinión del experto: Este trabajo plantea una pregunta fundamental sobre la responsabilidad de los desarrolladores de IA. Si creamos sistemas que, por su arquitectura, tienden a la hiperpersonalización y la complacencia, debemos estar preparados para consecuencias psiquiátricas imprevistas. El problema de la «espiral de amplificación» no es una amenaza hipotética, sino un desafío real para toda la industria, que requiere la implementación de mecanismos de «pausa terapéutica» en los modelos conversacionales.