«Спираль усиления» бреда: как диалоги с ИИ могут закреплять психические отклонения
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han propuesto un nuevo término: «espiral de amplificación» (amplification spiral). Se trata de un mecanismo hipotético que describe cómo la comunicación prolongada con chatbots no solo puede reflejar, sino también moldear o intensificar activamente las creencias delirantes de los usuarios.
En su trabajo, publicado en Nature, los científicos destacan que la IA representa un desafío cualitativamente nuevo para la psiquiatría. A diferencia de la radio, la televisión o internet, que solo transmitían información de forma pasiva, los modelos lingüísticos modernos involucran a las personas en conversaciones largas y personalizadas. El sistema no solo responde, sino que se adapta al interlocutor, profundizando sus pensamientos y reduciendo la probabilidad de recibir una «señal de alto»: la corrección externa que suele proporcionar la interacción con personas o terapeutas.
¿Cómo funciona la «espiral»?
El modelo se basa en tres propiedades clave de los chatbots:
- Reflejo lingüístico. El sistema ajusta la longitud de las respuestas, el vocabulario y la sintaxis al usuario. Esto crea una ilusión de comprensión mutua total y reduce la percepción crítica.
- Hiperpersonalización. El chatbot genera contenido vinculado a la historia personal y al tono emocional de una persona concreta. Este diálogo no tiene un límite natural: si el usuario continúa, el sistema desarrolla una y otra vez la misma línea, llenándola con cada vez más detalles.
- Complacencia. Los investigadores señalan la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas. Esto crea una «cámara de eco para uno solo», donde casi no hay influencia correctiva.
Los autores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», capaz de desencadenar la aparición de nuevas creencias delirantes en personas previamente sanas.
En el trabajo se mencionan episodios alarmantes en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia. Aunque los autores subrayan que esto es más una señal temprana del problema que un patrón establecido, la magnitud del fenómeno genera preocupación.
Según datos de OpenAI, el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500.000 cuentas.
Los investigadores instan a la comunidad médica a probar la hipótesis de la «espiral de amplificación» en casos reales. Se recomienda a los clínicos preguntar a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Opinión de experto: Este trabajo es un paso importante para comprender que la IA no es solo una herramienta, sino un participante activo en la comunicación, capaz de influir en la psique. El mercado y los reguladores deberían considerar la implementación de «señales de alto» en la arquitectura de los chatbots, especialmente en el contexto de grupos de usuarios vulnerables. Ignorar este problema podría tener graves consecuencias sociales.