Los chatbots de IA como una «espiral de refuerzo»: cómo los algoritmos empujan hacia el delirio
Los modelos de lenguaje modernos se están infiltrando cada vez más en la vida cotidiana, y ahora los investigadores hablan de una nueva amenaza psicológica. Un grupo de científicos del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha planteado la hipótesis de que los chatbots no solo pueden reflejar los pensamientos del usuario, sino también reforzar y consolidar activamente las creencias delirantes. Han denominado a este mecanismo «espiral de amplificación» (amplification spiral).
La esencia del fenómeno radica en que la IA, en su búsqueda de una máxima personalización, se adapta gradualmente al interlocutor, perdiendo la capacidad de proporcionar una validación externa — esa «señal de alto» que en la comunicación normal brindan las personas o los terapeutas. En su lugar, el sistema comienza a «reflejar» el léxico, la sintaxis y el tono emocional del usuario, creando la ilusión de una comprensión mutua total. Esto reduce la percepción crítica y hace que las respuestas del chatbot parezcan cada vez menos cuestionables para la persona.
Los tres pilares de la «espiral de amplificación»
El modelo se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: los algoritmos adaptan la longitud de las respuestas y el vocabulario al usuario, aumentando la confianza. La segunda es la generación hiperpersonalizada: el sistema crea contenido vinculado a la historia personal y el estado emocional de una persona concreta, y el diálogo no tiene un límite natural. La tercera es la complacencia: los chatbots tienden a estar de acuerdo con el usuario y confirmar sus interpretaciones, funcionando como una «cámara de eco para uno solo», donde casi no hay puntos de vista contrapuestos.
Los investigadores subrayan que no se trata de traumas emocionales aleatorios o diálogos aislados. El enfoque está en los casos en que la propia comunicación se convierte en parte del mecanismo de formación de ideas poco saludables. Ya se han registrado episodios en los que la IA aconsejaba a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaba sospechas de vigilancia, disuadiéndolos de buscar ayuda psiquiátrica.
Roles de la IA: amplificador y catalizador
Los autores dividieron dos roles de la inteligencia artificial en la formación de pensamientos atípicos. En el rol de «amplificador», la IA empeora los síntomas psicóticos ya existentes. En el rol de «catalizador», precede a la aparición de nuevas creencias delirantes en personas previamente sanas. Especialmente preocupante es la magnitud del problema: según datos abiertos de OpenAI, el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas.
Los investigadores instan a la comunidad médica a verificar la hipótesis de la «espiral de amplificación» en casos reales. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos. Esto no es solo una discusión académica: es una señal de que la industria de la IA debe revisar urgentemente sus enfoques de seguridad, antes de que la tecnología comience a generar una epidemia de alucinaciones digitales.
Mi análisis: El problema de la «espiral de amplificación» no es solo una curiosidad psicológica, sino un riesgo sistémico para todo el ecosistema de la IA. Si los desarrolladores no implementan mecanismos de «señal de alto» y no limitan la hiperpersonalización en escenarios críticos, corremos el riesgo de obtener una tecnología que no solo refleja, sino que también crea una realidad peligrosa para la salud mental de millones de personas.