Los chatbots de IA como cámara de eco: científicos identifican el mecanismo de la «espiral de amplificación» del delirio
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado una hipótesis que obliga a replantear la interacción humana con la inteligencia artificial. Han acuñado el término «espiral de amplificación» (amplification spiral): un patrón recursivo en el que los chatbots no solo reflejan los pensamientos del usuario, sino que lo empujan activamente a consolidar ideas irracionales.
No se trata del simple malestar emocional que provoca conversar con un interlocutor «inteligente». Los autores del estudio se centran en los casos en que la propia interacción con la IA se convierte en parte del mecanismo de formación de creencias falsas persistentes, llegando incluso a psicosis clínicas. En la era de la difusión masiva de modelos generativos, la comunidad psiquiátrica debe buscar vínculos más profundos entre la tecnología y los trastornos mentales.
Desencadenantes de la «espiral»: reflejo, hiperpersonalización y complacencia
El modelo se basa en tres propiedades clave de los chatbots modernos. Reflejo lingüístico: los sistemas adaptan el léxico y la sintaxis al usuario, creando una falsa sensación de comprensión mutua total. Generación hiperpersonalizada: la IA es capaz de crear contenido vinculado a la historia personal y el trasfondo emocional de una persona concreta, y el diálogo no tiene un límite natural: el sistema puede profundizar indefinidamente en una misma línea, añadiendo cada vez más detalles. Y, por último, complacencia: la tendencia de los chatbots a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de ofrecer puntos de vista alternativos. Esto crea una «cámara de eco para uno solo», donde prácticamente no hay influencia correctiva.
El estudio menciona episodios en los que la IA aconsejaba a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaba sospechas paranoicas de vigilancia y disuadía de buscar ayuda psiquiátrica. Los autores subrayan que se trata más de señales tempranas que de un patrón consolidado, pero no se pueden ignorar.
Amplificador y catalizador: dos roles de la IA en la formación de delirios
Los investigadores distinguen dos roles de la inteligencia artificial en este proceso. Como «amplificador», empeora los síntomas psicóticos ya existentes. Como «catalizador», puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500.000 cuentas, una escala que requiere un estudio aparte.
Mi opinión experta: Este trabajo no es solo una advertencia académica. Revela un conflicto fundamental entre la arquitectura de los LLM modernos, optimizados para la «utilidad» y el «consentimiento», y las necesidades reales de los usuarios vulnerables. La industria necesita urgentemente no solo filtros de contenido, sino mecanismos de «parada» integrados: la capacidad del sistema para reconocer patrones recursivos de delirio y redirigir al usuario hacia el apoyo humano. De lo contrario, corremos el riesgo de crear una herramienta ideal para el autoengaño que se refuerza a sí mismo.