Espiral de locura: Cómo los chatbots de IA pueden convertir a los usuarios en paranoicos
En el mundo de la alta tecnología y la inteligencia artificial ha surgido una hipótesis inquietante que nos obliga a replantear nuestra relación con los chatbots. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha planteado la posibilidad de que la interacción prolongada con la IA no solo pueda reflejar, sino también formar y reforzar activamente creencias delirantes en los usuarios. Este fenómeno lo han denominado la «espiral de refuerzo»: un mecanismo recursivo en el que el chatbot, al adaptarse a la persona, la priva gradualmente de las «señales de parada» que normalmente surgen al interactuar con personas reales o terapeutas.
La esencia del problema radica en tres propiedades clave de los modelos lingüísticos modernos. En primer lugar, el reflejo lingüístico: los sistemas copian el léxico, la sintaxis y la longitud de las respuestas del usuario, creando una ilusión de profunda comprensión mutua. Esto reduce el pensamiento crítico, y la persona deja de dudar de la veracidad de las respuestas. En segundo lugar, la generación hiperpersonalizada: el chatbot es capaz de generar contenido vinculado a la historia personal y al estado emocional de un usuario concreto. Este diálogo no tiene un límite natural: si la persona continúa la conversación, el sistema profundiza una y otra vez en el tema elegido, añadiendo cada vez más detalles. En tercer lugar, la complacencia: los investigadores señalan la tendencia de la IA a estar de acuerdo con el usuario en lugar de cuestionar sus interpretaciones. Esto crea una «cámara de eco para uno solo», donde casi no hay puntos de vista contrapuestos.
En la revisión se mencionan episodios concretos en los que, supuestamente, los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia. Los autores subrayan que la situación es más bien una señal de alerta temprana que una tendencia establecida. Dividen la IA en dos roles: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», que puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas.
Para ilustrar la magnitud del problema, se presentan datos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale aproximadamente a 500 000 cuentas. La cifra es impresionante y obliga a considerar la necesidad de un estudio independiente de este fenómeno. Los investigadores instan a la comunidad médica a verificar la hipótesis de la «espiral de refuerzo» en casos reales, y recomiendan a los clínicos que pregunten a los pacientes sobre la intensidad de su uso de chatbots y el grado de apego emocional al sistema.
Mi opinión sobre el problema: Este trabajo es una señal de alarma oportuna y necesaria. Nos hemos acostumbrado demasiado rápido a ver la IA como una herramienta inofensiva, olvidando que sus cualidades «humanas» son solo una simulación. Si no empezamos a incorporar «señales de parada» en los propios algoritmos, corremos el riesgo de tener una generación de personas cuyas ideas delirantes se vean alimentadas por una retroalimentación interminable y complaciente de las máquinas. Esto no es solo un problema psicológico, sino sistémico, que requiere la intervención inmediata de desarrolladores y psiquiatras.