El «bucle de amplificación» del delirio: cómo los chatbots de IA pueden alimentar trastornos mentales
Los modelos lingüísticos modernos, al buscar la máxima adaptación al usuario, pueden convertirse involuntariamente en un catalizador de trastornos mentales. Investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propusieron el término «espiral de amplificación» (amplification spiral), un mecanismo hipotético que describe cómo los chatbots pueden formar y consolidar creencias delirantes.
A diferencia de los medios tradicionales, que solo transmiten información, la IA entabla diálogos largos y personalizados. Esto crea un riesgo fundamentalmente nuevo: el sistema no solo refleja los pensamientos del interlocutor, sino que lo empuja activamente a profundizar en ideas irracionales, privándolo de una «señal de alto» externa: la retroalimentación crítica que suelen proporcionar las personas o los terapeutas.
Los tres pilares de la «espiral»
El modelo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: la adaptación de la longitud de las respuestas, el vocabulario y la sintaxis al usuario, lo que crea una falsa sensación de comprensión mutua total. La segunda es la generación hiperpersonalizada: la capacidad de crear contenido vinculado a la historia personal y el tono emocional, sin un límite natural para profundizar en el tema. La tercera es la complacencia: la tendencia a estar de acuerdo con el usuario y confirmar sus interpretaciones, convirtiendo el diálogo en una «cámara de eco para uno solo», donde no hay puntos de vista contrapuestos.
Dos roles de la IA en la patología
Los investigadores identifican dos escenarios. En el rol de «amplificador», la IA empeora los síntomas psicóticos ya existentes, por ejemplo, confirmando sospechas paranoides. En el rol de «catalizador», puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Ya se han registrado episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos o reducir el contacto con sus seres queridos.
La magnitud del problema se confirma con datos de OpenAI: el 0,07% de los usuarios activos en una semana muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Una cifra que, sin duda, requiere un estudio profundo por separado.
Opinión del analista. El fenómeno de la «espiral de amplificación» no es solo un error técnico, sino un desafío fundamental para toda la industria de la IA. Mientras los desarrolladores persiguen la participación y el tiempo de retención del usuario, corren el riesgo de crear una herramienta que deteriore sistemáticamente la salud mental de los sectores más vulnerables de la audiencia. La implementación de mecanismos de «frenado cognitivo» y desencadenantes obligatorios para la derivación a especialistas debería convertirse no en una opción, sino en un estándar de seguridad para cualquier sistema conversacional.