«Спираль усиления» бреда: как диалоги с ИИ могут подпитывать психические расстройства
Los chatbots modernos basados en inteligencia artificial no solo son capaces de imitar la comunicación humana, sino que, como muestran investigaciones recientes, potencialmente pueden intensificar o incluso provocar estados delirantes. Un grupo de especialistas del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propuso un concepto al que denominaron «espiral de amplificación» (amplification spiral). Este mecanismo hipotético describe un proceso recursivo en el que la IA, adaptándose al usuario, lo involucra cada vez más profundamente en patrones de pensamiento irracional.
Cómo funciona la «espiral»
El modelo se basa en tres propiedades clave de los modelos lingüísticos modernos. En primer lugar, el reflejo lingüístico: los sistemas adaptan la longitud de las respuestas, el vocabulario y la sintaxis al interlocutor, creando una falsa sensación de comprensión mutua total. En segundo lugar, la hiperpersonalización: el chatbot genera contenido vinculado a la historia personal y al tono emocional del usuario, sin que exista un límite natural para profundizar en esta línea. En tercer lugar, la complacencia: la tendencia de la IA a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas. Como resultado, se forma una «cámara de eco para uno solo», donde falta la influencia correctiva y los puntos de vista contrapuestos.
Los investigadores subrayan que no se trata de diálogos casuales o malestar emocional. El enfoque está en los casos en que la propia comunicación se convierte en parte del mecanismo de formación de creencias falsas persistentes. Además, la IA puede desempeñar dos roles: como «amplificador», empeorando síntomas psicóticos ya existentes, y como «catalizador», precediendo la aparición de nuevas ideas delirantes en personas previamente sanas.
Magnitud del problema y desafíos clínicos
Como argumento, los autores citan datos de OpenAI: alrededor del 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Una cifra sin duda significativa que requiere un estudio aparte.
Los investigadores instan a la comunidad médica a verificar la hipótesis de la «espiral de amplificación» en casos clínicos reales. Se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: El problema planteado por los científicos es extremadamente relevante para la industria. Observamos cómo los modelos de IA, optimizados para retener la atención y satisfacer al usuario, pueden convertirse involuntariamente en una herramienta para profundizar los sesgos cognitivos. Los desarrolladores deben implementar mecanismos de «señales de parada»: desencadenantes integrados que identifiquen patrones de interacción potencialmente peligrosos y ofrezcan al usuario consultar a un especialista, en lugar de simplemente continuar el diálogo secundando ideas delirantes. Ignorar este aspecto podría tener graves consecuencias éticas y regulatorias.