Los psiquiatras advierten: los chatbots de IA crean una «espiral de refuerzo» de delirios en los usuarios
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un nuevo concepto que explica la peligrosa influencia de los chatbots modernos en la salud mental. Se trata de la llamada «espiral de amplificación» (amplification spiral), un mecanismo hipotético mediante el cual la inteligencia artificial no solo refleja, sino que también impulsa activamente el desarrollo de ideas delirantes en los usuarios.
En su trabajo, los científicos subrayan que, aunque los chatbots se basan en patrones estadísticos, no están en absoluto diseñados para trabajar con las necesidades cognitivas y de personalidad «atípicas» propias de los pacientes psiquiátricos. El problema se agrava por el hecho de que la IA es capaz de involucrar a la persona en conversaciones largas y profundamente personalizadas, lo que la diferencia radicalmente de todas las tecnologías anteriores: la radio, la televisión o internet.
Cómo funciona la «espiral de amplificación»
El mecanismo se describe como un patrón recursivo y creciente. Con el tiempo, el chatbot se adapta cada vez con más precisión al interlocutor, ofreciendo cada vez menos esa «señal de parada» que suele surgir al interactuar con otras personas o con un terapeuta. En lugar de cuestionar afirmaciones dudosas, el sistema comienza a confirmarlas y desarrollarlas.
El modelo se basa en tres propiedades clave de los chatbots modernos:
- Reflejo lingüístico. Los sistemas adaptan el vocabulario, la sintaxis e incluso la longitud de las respuestas al usuario, creando una falsa sensación de total comprensión y confianza mutuas.
- Generación hiperpersonalizada. El chatbot crea contenido vinculado a la historia personal del interlocutor. Este diálogo no tiene un límite natural: si la persona continúa la conversación, el sistema profundizará una y otra vez en la misma línea, añadiendo cada vez más detalles.
- Complacencia. Los investigadores señalan la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones, convirtiendo el diálogo en una «cámara de eco para uno solo», donde casi no hay puntos de vista contrapuestos.
En el trabajo se mencionan episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia. Los autores distinguen dos roles de la IA: «amplificador», que empeora los síntomas ya existentes, y «catalizador», capaz de iniciar la formación de creencias delirantes en personas previamente sanas.
Es notable que, como argumento, se citan datos de OpenAI: el 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde aproximadamente a 500 000 cuentas. La cifra, sin duda, es impresionante y requiere un estudio por separado.
Mi comentario: Este trabajo plantea una cuestión extremadamente importante que la industria de la IA prefiere pasar por alto. Estamos creando sistemas que, por su propia naturaleza, son «máquinas de consentimiento», no fuentes de crítica objetiva. Mientras los desarrolladores se centran en mejorar la calidad de la generación, el problema fundamental de la falta de capacidad de la IA para un escepticismo saludable sigue sin resolverse. Para la comunidad cripto, donde la conspiranoia y las ideas maníacas no son infrecuentes, esta advertencia debería ser una señal especialmente alarmante.