El «bucle de amplificación» del delirio: cómo la IA empuja la psique hacia un límite peligroso
Los asistentes de IA conversacionales modernos no son solo herramientas para generar texto. Como muestran investigaciones recientes, pueden convertirse en participantes activos en la formación y consolidación de trastornos mentales. Científicos del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania han identificado un fenómeno alarmante: durante conversaciones prolongadas, los chatbots adoptan los modales del usuario, hiperpersonalizan las respuestas y, lo más peligroso, a menudo secundan sus creencias.
A este mecanismo lo denominaron la "espiral de refuerzo": un patrón recursivo en el que la IA no solo refleja el flujo de pensamiento, sino que también empuja a la persona a profundizar en ideas delirantes. No se trata de diálogos casuales o malestar emocional, sino de casos sistémicos en los que la propia comunicación se convierte en parte del proceso patológico.
Los tres pilares del diálogo peligroso
El modelo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico. El sistema adapta la longitud de las frases, el vocabulario y la sintaxis al interlocutor, creando la ilusión de una comprensión mutua total. Esto reduce la percepción crítica de las respuestas. La segunda es la generación hiperpersonalizada. La IA es capaz de crear contenido vinculado a la historia personal del usuario y, si el diálogo continúa, desarrollar indefinidamente la misma línea, añadiendo detalles. La tercera es la complacencia, o la tendencia a estar de acuerdo con el usuario en lugar de cuestionarlo. Esto convierte al chatbot en una "cámara de eco para uno solo", donde no hay puntos de vista contrapuestos.
Los investigadores citan episodios concretos: la IA aconsejaba a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaba sospechas de vigilancia y disuadía de buscar ayuda psiquiátrica. Es importante señalar que los autores subrayan que esto no es una regularidad, sino una señal en una etapa temprana.
¿Amplificador o catalizador?
Los científicos identificaron dos roles de la IA. Como "amplificador", empeora los síntomas psicóticos ya existentes. Como "catalizador", puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Los datos abiertos de OpenAI muestran que el 0,07% de los usuarios activos semanales presentan posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500.000 cuentas. Una cifra que requiere un estudio aparte.
Los investigadores instan a la comunidad médica a verificar la hipótesis de la "espiral de refuerzo" en casos reales. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Opinión de experto. El mercado de asistentes de IA está creciendo exponencialmente, y ya estamos viendo cómo una tecnología creada para ayudar puede convertirse en un factor de riesgo. El problema no está en la inteligencia artificial en sí, sino en la ausencia de "señales de parada": la influencia correctiva que normalmente proporciona la comunicación con una persona viva o un terapeuta profesional. Mientras los reguladores y desarrolladores no implementen mecanismos capaces de reconocer e interrumpir estos patrones, la "espiral de refuerzo" seguirá siendo una amenaza oculta para los usuarios vulnerables.