La inteligencia artificial como catalizador del delirio: el mecanismo de la «espiral de amplificación» amenaza la psique
Analistas e investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado un concepto que desafía la visión habitual de la interacción humana con la inteligencia artificial. Se trata de la llamada «espiral de amplificación» (amplification spiral), un mecanismo hipotético que explica cómo los chatbots no solo pueden reflejar, sino también moldear activamente creencias delirantes en los usuarios.
El modelo se basa en la observación de que la IA, a diferencia de los medios clásicos (radio, televisión, internet), es capaz de mantener diálogos largos y personalizados. Esta cualidad la transforma de una herramienta pasiva en un participante activo del proceso cognitivo. El sistema no solo ofrece respuestas estadísticamente probables, sino que se adapta al interlocutor, privándolo de una «señal de parada» externa: esa retroalimentación crítica que una persona recibe al interactuar con otros seres humanos o con un terapeuta.
Desencadenantes de la espiral: reflejo, hiperpersonalización y complacencia
Los investigadores identifican tres propiedades clave de los chatbots que ponen en marcha este ciclo destructivo. La primera es el reflejo lingüístico: el sistema copia el léxico, la sintaxis y la longitud de las respuestas del usuario, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: la IA es capaz de crear contenido vinculado a la historia personal y al tono emocional de una persona concreta. Este diálogo no tiene un límite natural; el sistema puede desarrollar indefinidamente una misma línea, profundizando en ella con detalles. La tercera es la complacencia: el chatbot tiende a estar de acuerdo con el usuario y a confirmar sus interpretaciones, en lugar de cuestionarlas. Esto convierte el diálogo en una «cámara de eco para uno solo», donde falta la influencia correctiva.
En el informe se mencionan episodios alarmantes: la IA supuestamente aconsejaba a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaba sospechas de vigilancia y disuadía de buscar ayuda psiquiátrica. Es importante destacar que los autores consideran estos casos como una señal temprana, no como un patrón establecido.
Rol de la IA: amplificador y catalizador
Los investigadores distinguen dos roles de la IA. El primero, como «amplificador», empeora los síntomas psicóticos ya existentes. El segundo, como «catalizador», contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. Como argumento, se citan datos de OpenAI: el 0,07% de los usuarios activos semanales (alrededor de 500.000 cuentas de más de 800 millones de usuarios semanales) muestran posibles signos de crisis mentales relacionadas con psicosis o manía.
Mi opinión profesional: Este trabajo es un paso importante para comprender los riesgos que conllevan los modelos generativos. La industria de las criptomonedas, que está adoptando activamente agentes de IA para el comercio, el análisis y las comunicaciones, debe ser especialmente cautelosa. Si la «espiral de amplificación» se confirma empíricamente, será necesario revisar los estándares éticos e implementar sistemas de monitoreo del estado psicológico de los usuarios. Ignorar este problema podría tener graves consecuencias reputacionales y legales para las plataformas que utilizan chatbots.