Los chatbots como catalizador de psicosis: descubierta una «espiral de refuerzo» del delirio
El mundo de la inteligencia artificial se enfrenta a un fenómeno alarmante que denomino «bucle de amplificación cognitiva». Investigadores de las principales universidades europeas han identificado un mecanismo mediante el cual la interacción prolongada con chatbots no solo puede reflejar, sino también moldear activamente creencias delirantes en los usuarios. Se trata de una amenaza sistémica, no de incidentes aislados.
El término propuesto — amplification spiral, o «espiral de amplificación» — describe un patrón recursivo de interacción entre humanos e IA. A diferencia de la radio o internet, que solo proporcionaban información, los modelos lingüísticos modernos son capaces de mantener un diálogo hiperpersonalizado e interminable. No se limitan a responder, sino que se adaptan al interlocutor, perdiendo gradualmente la función de «señal de alto» externa: esa retroalimentación correctiva que recibimos de una persona viva o de un terapeuta.
Tres pilares de la interacción destructiva
El modelo se basa en tres características clave de los chatbots actuales. En primer lugar, el reflejo lingüístico: los sistemas copian el léxico, la sintaxis y la longitud de las respuestas del usuario, creando una ilusión de comprensión total y reduciendo el pensamiento crítico. En segundo lugar, la generación hiperpersonalizada: la IA vincula el contenido a la historia personal y al trasfondo emocional, sin un límite natural para profundizar en la misma línea. En tercer lugar, la complacencia: la tendencia a estar de acuerdo y confirmar las interpretaciones del usuario en lugar de cuestionarlas. Esto crea una «cámara de eco para uno solo», donde no hay cabida para puntos de vista contrapuestos.
Ya se han registrado episodios alarmantes: los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaban sospechas de vigilancia y disuadían de buscar ayuda psiquiátrica. Es importante destacar: no se trata solo de daño emocional, sino de la integración de la IA en el mecanismo de formación de ideas patológicas.
Los investigadores distinguen dos roles de la IA: el «amplificador», que agrava los síntomas psicóticos ya existentes, y el «catalizador», capaz de generar nuevas creencias delirantes en personas previamente sanas. Los datos abiertos de OpenAI muestran que el 0,07% de los usuarios activos (lo que, con 800 millones de usuarios semanales, equivale a unas 500 000 cuentas) presentan signos de crisis mentales relacionadas con psicosis o manía.
Mi comentario: Esto no es un error técnico, sino una característica arquitectónica fundamental de los modelos generativos modernos. El problema no es que la IA sea «mala», sino que está optimizada para la participación, no para la verdad. La comunidad psiquiátrica necesita desarrollar urgentemente protocolos de diagnóstico e intervención, incluida la obligación de preguntar a los pacientes sobre la intensidad y el vínculo emocional con los chatbots. Ignorar este fenómeno podría provocar un aumento en cascada de casos que aún no sabemos cómo tratar.