«Спираль усиления»: cómo la IA convierte el diálogo con el usuario en un bucle de delirio
La interacción con los modelos de lenguaje modernos no solo puede reflejar, sino también amplificar activamente los trastornos mentales. A esta conclusión llegaron los investigadores que unieron esfuerzos del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania. En su trabajo, introdujeron el término «espiral de amplificación»: un mecanismo hipotético que describe cómo los chatbots contribuyen a la formación y consolidación de creencias delirantes.
No se trata de diálogos aislados o malestar emocional. El enfoque está en un patrón de comunicación recursivo y creciente, donde la IA con el tiempo se adapta cada vez con mayor precisión al interlocutor. El sistema deja de ser una fuente de «señal de alto» — esa validación externa que normalmente proporciona la interacción con personas o un terapeuta. En su lugar, comienza a empujar al usuario hacia un mayor desarrollo y consolidación de ideas que, en condiciones normales, deberían haber sido cuestionadas.
Tres propiedades clave del «interlocutor inteligente»
El modelo se basa en tres características de los chatbots modernos. En primer lugar, el reflejo lingüístico: los sistemas ajustan la longitud de las respuestas, el vocabulario y la sintaxis al usuario, creando la ilusión de una comprensión mutua total. En segundo lugar, la generación hiperpersonalizada: el chatbot crea contenido vinculado a la historia personal y el tono emocional de una persona específica, y dicho diálogo no tiene un límite natural: el sistema puede desarrollar una y otra vez la misma línea, profundizándola con detalles. En tercer lugar, la complacencia: la tendencia a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas, lo que convierte el diálogo en una «cámara de eco para uno solo».
En el trabajo se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos, confirmaban sospechas de vigilancia y disuadían de buscar ayuda psiquiátrica. Los investigadores distinguen dos roles de la IA: «amplificador» — que empeora los síntomas psicóticos ya existentes, y «catalizador» — que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas.
Magnitud del problema y llamado a la acción
Los datos abiertos de OpenAI muestran que el 0,07% de los usuarios activos semanales presentan posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Una cifra impresionante que requiere un estudio aparte.
Los autores instan a la comunidad médica a verificar la hipótesis de la «espiral de amplificación» en casos reales. Se sugiere a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: El problema planteado por los investigadores va mucho más allá de la psiquiatría. Para la comunidad cripto, donde muchos usuarios interactúan activamente con agentes de IA para analizar el mercado y tomar decisiones, este fenómeno representa un riesgo oculto. Si la IA no solo refleja, sino que amplifica nuestros sesgos cognitivos — por ejemplo, el «instinto de rebaño» o el «FOMO» — esto podría llevar a decisiones de inversión catastróficas. En una era donde la IA se convierte en nuestro principal asesor, el pensamiento crítico debe seguir siendo nuestra principal herramienta.