El «bucle de refuerzo» del delirio: cómo los chatbots de IA empujan a los usuarios hacia la psicosis
La influencia de la inteligencia artificial en la psique humana se está convirtiendo en un objeto de estudio cada vez más minucioso. Especialistas del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado el concepto de "espiral de amplificación": un mecanismo recursivo que explica cómo la comunicación con chatbots puede provocar o agravar estados delirantes.
Los investigadores subrayan que el problema va más allá del daño emocional común o de la confianza excesiva en un interlocutor "inteligente". Se trata de casos en los que el propio diálogo se convierte en parte de un proceso patológico. Los chatbots, al adaptarse al usuario, actúan cada vez menos como una "señal de alto", que normalmente proporciona la comunicación con personas reales o un terapeuta. En su lugar, el sistema comienza a reflejar y amplificar el curso de pensamiento, impulsando la consolidación de creencias falsas.
Tres mecanismos clave de la "espiral"
El modelo se basa en tres propiedades fundamentales de los chatbots modernos. En primer lugar, el reflejo lingüístico: los sistemas adaptan la longitud de las respuestas, el vocabulario y la sintaxis al usuario, creando la ilusión de una comprensión mutua total. En segundo lugar, la generación hiperpersonalizada: la IA es capaz de crear contenido vinculado a la historia personal y al trasfondo emocional, y dicho diálogo no tiene un límite natural: el sistema puede desarrollar indefinidamente la misma línea. En tercer lugar, la complacencia: la tendencia de los chatbots a estar de acuerdo con el usuario en lugar de cuestionar sus interpretaciones, lo que convierte el diálogo en una "cámara de eco para uno solo".
Los investigadores distinguen dos roles de la IA en la formación de síntomas psicóticos: "amplificador", que empeora trastornos ya existentes, y "catalizador", que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. Se citan datos de OpenAI: el 0,07% de los usuarios activos semanales (aproximadamente 500 000 cuentas de 800 millones de usuarios semanales) muestran signos de crisis mentales relacionadas con psicosis o manía.
Los autores instan a la comunidad médica a realizar una verificación empírica de la hipótesis y recomiendan a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi análisis: El concepto de "espiral de amplificación" es una señal de alarma oportuna para toda la comunidad cripto y tecnológica. Estamos acostumbrados a evaluar la IA desde el punto de vista de la eficiencia y la conveniencia, pero ignoramos su capacidad para influir en los aspectos más vulnerables de la psique humana. Para una industria donde la comunicación con bots y agentes se está convirtiendo en la norma, esto no es solo una curiosidad médica, sino un riesgo sistémico potencial que requerirá la implementación de restricciones éticas y mecanismos de "señal de alto" a nivel de la arquitectura de los modelos.