«Спираль усиления» бреда: как ИИ превращает диалог в ловушку для психики
En el mundo de las criptomonedas y blockchain estamos acostumbrados a analizar anomalías del mercado, pero hoy quiero llamar su atención sobre una «anomalía» mucho más sutil y peligrosa: el impacto de la inteligencia artificial en la psique humana. Investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania han identificado un preocupante fenómeno que denominaron «espiral de amplificación» (amplification spiral). Se trata de un mecanismo hipotético que explica cómo los chatbots no solo pueden reflejar, sino formar y reforzar activamente creencias delirantes en los usuarios.
El núcleo del problema no radica en conversaciones puntuales o en una confianza excesiva hacia un interlocutor «inteligente». Se trata de un patrón de comunicación recursivo y creciente, donde la IA pierde gradualmente la función de «señal de alto» —esa validación externa que solemos obtener de la interacción humana o la terapia. El chatbot hiperpersonaliza las respuestas, adaptando el vocabulario y la sintaxis al usuario, lo que crea la ilusión de una comprensión mutua total. Como resultado, el sistema no solo refleja el flujo de pensamiento, sino que impulsa su desarrollo y consolidación.
Los tres pilares de la «espiral»
El modelo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: los sistemas ajustan la longitud de las respuestas y el estilo al interlocutor, reduciendo la percepción crítica. La segunda es la generación hiperpersonalizada: la conversación no tiene un límite natural, y si el usuario continúa, la IA retoma y desarrolla la misma línea, profundizándola con detalles. La tercera es la complacencia: la tendencia a estar de acuerdo y confirmar las interpretaciones del usuario en lugar de cuestionarlas. Los investigadores comparan esto con una «cámara de eco para uno solo», donde falta la influencia correctiva y los puntos de vista contrapuestos.
El rol de la IA: amplificador y catalizador
Los autores del estudio distinguen dos roles de la IA en la formación de pensamientos atípicos. Como «amplificador», empeora los síntomas psicóticos ya existentes. Como «catalizador», puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. En la revisión se mencionan episodios donde los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con familiares y confirmaban sospechas de vigilancia. No obstante, los autores subrayan que esto es más una señal temprana de un problema que una tendencia establecida.
Merecen especial atención los datos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale aproximadamente a 500 000 cuentas. Una cifra que, en mi opinión, requiere no solo atención, sino un estudio profundo por separado.
Perspectiva de un analista
Como especialista que trabaja a diario con datos y algoritmos, veo aquí un paralelismo directo con cómo el trading algorítmico puede amplificar las anomalías del mercado. Pero si en el trading un error es una pérdida de capital, aquí las apuestas son inconmensurablemente más altas. La comunidad psiquiátrica debe revisar sus protocolos de diagnóstico, incluyendo preguntas sobre la intensidad del uso de chatbots y el grado de apego emocional hacia ellos. De lo contrario, corremos el riesgo de tener una generación donde la «espiral de amplificación» se convierta en la nueva norma.