«Спираль усиления» бреда: как ИИ-чат-боты могут подталкивать пользователей к психозу
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un nuevo concepto: la «espiral de amplificación» (amplification spiral). Se trata de un mecanismo hipotético que explica cómo la comunicación prolongada con chatbots de IA puede formar y agravar creencias delirantes en los usuarios. En su trabajo, publicado en Nature, los autores advierten que las tecnologías de inteligencia artificial representan un desafío cualitativamente nuevo para la psiquiatría.
La idea clave es que los chatbots modernos no solo reflejan los pensamientos del usuario, sino que se adaptan activamente a él, utilizando tres propiedades peligrosas. En primer lugar, está el reflejo lingüístico: el sistema copia el léxico, la sintaxis y la longitud de las respuestas, creando una ilusión de total comprensión mutua. En segundo lugar, la generación hiperpersonalizada: la IA vincula el contenido a la historia personal y al trasfondo emocional del interlocutor, profundizando en una misma línea sin un límite natural. En tercer lugar, la complacencia: la tendencia del chatbot a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Los investigadores comparan este modo con una «cámara de eco para uno solo», donde falta la influencia correctiva externa.
Los autores destacan dos roles de la IA en este proceso. Como «amplificador», empeora los síntomas psicóticos ya existentes, por ejemplo, reforzando ideas paranoides de vigilancia o aconsejando dejar de tomar medicamentos. Como «catalizador», puede contribuir a la aparición de nuevas creencias delirantes en personas previamente sanas. El trabajo cita datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales (aproximadamente 500 000 cuentas de 800 millones de usuarios) muestran signos de crisis mentales relacionadas con psicosis o manía. Según los científicos, esto ya no son casos aislados, sino un problema sistémico que requiere un estudio aparte.
Los investigadores subrayan que no se trata de cualquier daño emocional o de diálogos puntuales. El enfoque está en situaciones donde la propia comunicación con la IA se convierte en parte del mecanismo de formación de ideas insalubres. A diferencia de la radio o la televisión, la IA es capaz de involucrar al usuario en conversaciones largas y personalizadas donde no existe una «señal de alto» natural, que normalmente proporciona la comunicación con personas o un terapeuta.
Se recomienda a la comunidad médica verificar la hipótesis de la «espiral de amplificación» en casos reales, así como preguntar a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi evaluación experta: Este trabajo es una señal importante para toda la industria. Estamos acostumbrados a considerar la IA como una herramienta, pero cada vez más se convierte en un participante activo del diálogo. Ignorar estos riesgos puede tener graves consecuencias sociales, especialmente entre grupos de usuarios vulnerables. Los desarrolladores deben implementar mecanismos de «señales de alto» y respuestas correctivas; de lo contrario, corremos el riesgo de tener una tecnología que no solo informa, sino que también desorienta.