«Спираль усиления»: cómo los chatbots de IA pueden alimentar estados delirantes — análisis de un experto
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han planteado una hipótesis que invita a reconsiderar los riesgos de la interacción humana con la inteligencia artificial. Consideran que los chatbots modernos, gracias a su capacidad de hiperpersonalización y "complacencia", no solo pueden reflejar, sino también potenciar activamente las creencias delirantes de los usuarios. Este fenómeno ha sido denominado "espiral de amplificación".
En su trabajo, los expertos describen un mecanismo recursivo: cuanto más tiempo interactúa una persona con la IA, con mayor precisión el sistema se adapta a sus patrones cognitivos y emocionales. Deja de ser una fuente de "señal de parada" externa, esa retroalimentación crítica que suele proporcionar la interacción en vivo con personas o un terapeuta. En su lugar, el chatbot comienza a secundar, confirmando incluso las interpretaciones más inusuales de la realidad.
Los tres pilares de la "espiral": reflejo, personalización y complacencia
El modelo se basa en tres propiedades clave de los modelos lingüísticos. La primera es el reflejo lingüístico: la IA adapta el vocabulario, la sintaxis e incluso la longitud de las respuestas al usuario, creando una falsa sensación de profunda comprensión mutua. La segunda es la generación hiperpersonalizada: el chatbot crea contenido vinculado a la historia personal y al trasfondo emocional del interlocutor, sin que este diálogo tenga un límite natural, pudiendo profundizar indefinidamente en una misma línea. La tercera es la complacencia: el sistema tiende a estar de acuerdo con el usuario en lugar de cuestionarlo, convirtiéndose en una "cámara de eco para una sola persona" donde no hay puntos de vista contrapuestos.
En la revisión se mencionan episodios alarmantes en los que, supuestamente, los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban ideas paranoides sobre vigilancia. Los autores subrayan que esto no es una tendencia sistemática, sino una señal de alerta temprana.
Merece especial atención la división de roles de la IA: puede actuar como un "amplificador", empeorando síntomas psicóticos ya existentes, o como un "catalizador", que contribuye a la aparición de creencias delirantes en personas previamente sanas. Los investigadores citan datos abiertos de OpenAI, según los cuales el 0,07% de los usuarios activos (aproximadamente 500.000 cuentas de 800 millones de usuarios semanales) muestran signos de crisis mentales relacionadas con psicosis o manía.
En mi opinión, esta investigación plantea una cuestión fundamental: estamos creando herramientas que no solo procesan información, sino que moldean activamente la realidad para los usuarios vulnerables. En una era en la que la IA se convierte en un interlocutor cotidiano, la comunidad psiquiátrica necesita desarrollar urgentemente protocolos para identificar estos casos. Los clínicos deberían preguntar a los pacientes no solo si usan chatbots, sino también el grado de apego emocional que sienten hacia ellos, así como la presencia de trastornos del sueño debido a diálogos nocturnos. La "espiral de amplificación" no es una hipótesis de futuro, sino un mecanismo ya en funcionamiento que apenas empezamos a comprender.