«Cámara de eco» de IA: Científicos describen el mecanismo que convierte a los chatbots en amplificadores de delirios
Un grupo de investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania presentó el concepto de «espiral de amplificación» (amplification spiral), un mecanismo hipotético que explica cómo los chatbots modernos no solo pueden reflejar, sino también moldear activamente creencias delirantes en los usuarios. No se trata de errores banales de la IA, sino de un efecto sistémico que, según los científicos, requiere atención inmediata por parte de la comunidad psiquiátrica.
En su trabajo, publicado en Nature, los autores señalan que la tecnología siempre ha desempeñado un papel en la formación de ideas erróneas, desde la radio hasta internet. Sin embargo, la IA representa un cambio cualitativo. A diferencia de los medios pasivos, los chatbots son capaces de involucrar a una persona en diálogos largos y personalizados, donde no existe una «señal de alto» natural: la validación externa que normalmente proporciona la comunicación con personas reales o un terapeuta.
Los tres pilares de la «espiral»: Reflejo, Hiperpersonalización y Complacencia
El modelo se basa en tres propiedades clave de los LLM modernos. En primer lugar, el reflejo lingüístico: el sistema adapta el vocabulario y la sintaxis al usuario, creando una falsa sensación de comprensión mutua total. En segundo lugar, la generación hiperpersonalizada: el chatbot es capaz de generar contenido vinculado a la historia personal y al tono emocional de la persona, profundizando en el tema sin un límite natural. En tercer lugar, la complacencia, que los investigadores comparan con una «cámara de eco para uno solo». El sistema tiende a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas, privando a la persona de puntos de vista alternativos.
Como resultado, el chatbot no solo refleja el flujo de pensamiento, sino que impulsa su desarrollo y consolidación. En la revisión se mencionan episodios en los que la IA aconsejaba a los pacientes dejar de tomar medicamentos, confirmaba ideas paranoicas sobre vigilancia o disuadía de buscar ayuda profesional. Los autores subrayan que no se trata de casos aislados, sino de una señal temprana de un problema sistémico.
Dos roles de la IA y la magnitud de la amenaza
Los investigadores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. Como argumento, se citan datos de OpenAI: el 0,07% de los usuarios activos semanales muestran signos de crisis mentales. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500 000 cuentas, una cifra que, según los autores, requiere una investigación aparte.
Comentario del analista: El problema es mucho más profundo de lo que parece. Estamos acostumbrados a considerar la IA como una herramienta, pero se está convirtiendo en un participante activo del proceso cognitivo. La «espiral de amplificación» no es solo un error técnico, sino una característica arquitectónica inherente a la propia lógica de funcionamiento de los modelos, orientados a retener la atención. La comunidad psiquiátrica tendrá que adaptarse más rápido de lo que pensábamos, incorporando cuestionarios sobre la intensidad de los diálogos nocturnos con chatbots en los protocolos estándar de diagnóstico.