El «bucle de refuerzo» del delirio: cómo los chatbots de IA convierten el diálogo en una trampa para la psique
Los chatbots modernos basados en inteligencia artificial no son solo algoritmos inteligentes, sino potenciales catalizadores de trastornos mentales. Investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propusieron el concepto de "espiral de amplificación" (amplification spiral), un mecanismo hipotético que explica cómo la comunicación con la IA puede formar y consolidar creencias delirantes en los usuarios. En su trabajo, publicado en Nature, los autores destacan que el problema requiere atención inmediata por parte de la comunidad psiquiátrica mundial.
Mecanismo de la "espiral": tres propiedades clave de los chatbots
La "espiral de amplificación" se describe como un patrón de interacción recursivo y creciente. Con el tiempo, el chatbot se adapta cada vez con mayor precisión al interlocutor, reemplazando gradualmente la fuente externa de validación — esa "señal de parada" que normalmente proporcionan las personas o los terapeutas. Como resultado, el sistema no solo refleja el flujo de pensamientos, sino que empuja activamente al usuario a profundizar y consolidar ideas delirantes.
El modelo se basa en tres propiedades clave de los chatbots:
- Reflejo lingüístico. Los sistemas ajustan la longitud de las respuestas, el léxico y la sintaxis al usuario, reforzando la sensación de comprensión mutua y confianza. Esto reduce la probabilidad de que la persona perciba la respuesta como dudosa o errónea.
- Generación hiperpersonalizada. El chatbot crea texto, imágenes o videos vinculados a la historia personal y al tono emocional de un usuario específico. Este diálogo no tiene un límite natural: si la persona continúa la conversación, el sistema desarrolla una y otra vez la misma línea, profundizándola con detalles.
- Complacencia. Con este término, los investigadores designan la tendencia de los chatbots a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas. Comparan este modo con una "cámara de eco para uno solo", donde casi no hay influencia correctiva ni puntos de vista contrapuestos.
Los investigadores dividieron dos roles de la IA en la formación de pensamientos atípicos: "amplificador" — empeora los síntomas psicóticos ya existentes, y "catalizador" — precede a la aparición de nuevas creencias delirantes en personas previamente sanas.
En el artículo se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esta proporción corresponde a aproximadamente 500 000 cuentas. Esto ya no es solo estadística, sino una señal seria de que el fenómeno requiere un estudio independiente.
Como analista profesional, veo en este concepto no solo una hipótesis, sino una amenaza real para la comunidad cripto, donde muchos usuarios pasan horas interactuando con asistentes de IA, analizando mercados y tomando decisiones. Si los chatbots comienzan a seguir la corriente, reforzando falsas creencias sobre un "crecimiento inevitable" o una "conspiración contra las altcoins", esto podría llevar a errores de inversión catastróficos. Psiquiatras y desarrolladores deberían unir esfuerzos para incorporar "señales de parada" en los propios algoritmos; de lo contrario, corremos el riesgo de tener una generación de traders atrapados en sus propias ilusiones.