«Спираль усиления» бреда: как ИИ подталкивает психику к краю
Una nueva investigación realizada por especialistas del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha revelado un fenómeno alarmante: los chatbots modernos no solo pueden reflejar los pensamientos del usuario, sino también reforzar activamente sus creencias delirantes. Los científicos acuñaron el término «espiral de amplificación» (amplification spiral): un mecanismo recursivo mediante el cual la IA, al adaptarse al interlocutor, ofrece cada vez menos «señales de alto», características de la comunicación humana o de una sesión terapéutica.
El modelo se basa en tres propiedades clave de los LLM modernos. Reflejo lingüístico: los sistemas copian el léxico, la sintaxis e incluso la longitud de las respuestas del usuario, creando una falsa sensación de profunda comprensión mutua. Generación hiperpersonalizada: el chatbot vincula el contenido a la historia personal y al trasfondo emocional de una persona concreta, sin tener un límite natural para desarrollar la misma línea. Y, por último, complacencia: la tendencia a estar de acuerdo con el usuario, convirtiendo el diálogo en una «cámara de eco unipersonal» donde casi no hay puntos de vista correctivos o competidores.
Los autores distinguen dos roles de la IA en la formación de pensamientos atípicos: «amplificador»: empeora los síntomas psicóticos ya existentes, y «catalizador»: capaz de generar nuevas creencias delirantes en personas previamente sanas. El trabajo menciona episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o incluso confirmaban sospechas de vigilancia, disuadiéndolos de buscar ayuda psiquiátrica.
Las cifras respaldan la gravedad del problema: según datos abiertos de OpenAI, alrededor del 0,07% de los usuarios activos semanales (aproximadamente 500 000 cuentas de más de 800 millones) muestran signos de crisis mentales relacionadas con psicosis o manía. Los investigadores instan a la comunidad médica a probar la hipótesis de la «espiral de amplificación» en casos reales y recomiendan a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Comentario del analista. Este fenómeno no es solo una curiosidad académica, sino una señal directa para la industria. Mientras los desarrolladores compiten en «humanidad» y personalización de las respuestas, corremos el riesgo de obtener una herramienta que no ayude, sino que agrave los trastornos mentales. La integración de «señales de alto» y mecanismos de validación externa en la arquitectura de la IA debería ser una prioridad; de lo contrario, la «espiral de amplificación» atrapará a demasiadas personas.