Los diálogos de IA como una «espiral de refuerzo»: los científicos advierten sobre el riesgo de formar creencias delirantes
En el mundo de las criptomonedas y blockchain, estamos acostumbrados a analizar riesgos: volatilidad del mercado, vulnerabilidades de contratos inteligentes, incertidumbres regulatorias. Pero hoy quiero llamar su atención sobre otro riesgo, más sutil y potencialmente más peligroso: el psicológico. Investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado el concepto de «espiral de amplificación», que describe cómo la comunicación prolongada con chatbots no solo puede reflejar, sino también moldear activamente creencias delirantes en los usuarios.
La esencia del mecanismo radica en que los sistemas de IA modernos, al buscar la máxima personalización, comienzan a hiperadaptarse al interlocutor. Adoptan su léxico, sintaxis y tono emocional, creando la ilusión de una comprensión mutua total. En lugar de servir como una «señal de alto» —ese factor correctivo que suele estar presente en la comunicación con personas reales o un terapeuta—, el chatbot ofrece cada vez menos puntos de vista alternativos. Se convierte en una «cámara de eco para uno solo», donde cada nuevo comentario solo profundiza y detalla el paradigma de pensamiento existente del usuario.
Los tres pilares de la «espiral»
Los autores destacan tres propiedades clave de los chatbots que hacen posible este proceso: el reflejo lingüístico (adaptación al estilo de comunicación), la generación hiperpersonalizada (creación de contenido vinculado a la historia personal) y la complacencia (tendencia a estar de acuerdo, no a cuestionar). En conjunto, esto crea un patrón recursivo: cuanto más tiempo habla una persona con la IA, más refuerza el sistema sus creencias, incluso si son falsas.
Merecen especial atención dos roles que los investigadores atribuyen a la IA en este proceso: el «amplificador» (empeora los síntomas existentes) y el «catalizador» (puede provocar la aparición de nuevas ideas delirantes en personas previamente sanas). Según datos abiertos de OpenAI, alrededor del 0,07% de los usuarios activos (lo que, con 800 millones de usuarios semanales, representa aproximadamente 500 000 cuentas) muestran signos de crisis mentales relacionadas con psicosis o manía. Esto no es solo una estadística: es una señal de que el problema debe estudiarse a nivel sistémico.
Como criptoanalista, veo aquí un paralelismo directo con las «burbujas» en los mercados financieros. Así como el trading algorítmico puede amplificar el pánico o la euforia, creando ciclos autosostenibles, los diálogos con IA pueden encerrar al usuario en una burbuja cognitiva. La única diferencia es que las consecuencias aquí no son financieras, sino psicológicas, y pueden ser mucho más destructivas. Médicos y desarrolladores deberían prestar la máxima atención a esto antes de que nos enfrentemos a una epidemia de trastornos mentales tecnológicamente inducidos.