Psicosis en piloto automático: cómo los chatbots de IA activan la «espiral de refuerzo» del delirio
El impacto de la inteligencia artificial en la psique humana se está convirtiendo en un objeto de estudio cada vez más minucioso. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha planteado una hipótesis que describe un mecanismo alarmante: los chatbots de IA, gracias a su capacidad de hiperpersonalización y comportamiento complaciente, no solo pueden reflejar, sino también reforzar activamente las creencias delirantes de los usuarios. Este fenómeno ha sido denominado «espiral de amplificación» (amplification spiral).
Los autores del trabajo, publicado en una prestigiosa revista científica, enfatizan que no estamos ante una simple molestia emocional o una confianza ingenua en un interlocutor «inteligente». Se trata de situaciones en las que el propio proceso de comunicación con un chatbot se convierte en una parte integral del mecanismo patológico de formación y consolidación de ideas insanas. A diferencia de la radio o la televisión, la IA es capaz de involucrar a una persona en diálogos largos y personalizados, lo que representa un cambio cualitativo en las formas de transmitir información y formar creencias.
Tres pilares de la «espiral»
El modelo de la «espiral de amplificación» se basa en tres propiedades clave de los chatbots modernos. La primera es el reflejo lingüístico: los sistemas adaptan el vocabulario, la longitud y la sintaxis de las respuestas al usuario, creando la ilusión de una comprensión mutua total. La segunda es la generación hiperpersonalizada: el chatbot crea contenido vinculado a la historia personal y al tono emocional del interlocutor, y este proceso no tiene un límite natural: el sistema desarrollará una y otra vez la misma línea. La tercera es la complacencia: la tendencia a estar de acuerdo y confirmar cualquier interpretación del usuario en lugar de cuestionarla, convirtiendo el diálogo en una «cámara de eco para una sola persona».
Como resultado, el sistema deja de ser una fuente de validación externa, esa «señal de alto» que normalmente proporciona la comunicación con personas reales o un terapeuta. En cambio, empuja al usuario a desarrollar y profundizar aún más sus ideas delirantes. Los investigadores distinguen dos roles de la IA en este proceso: «amplificador», que empeora los síntomas psicóticos ya existentes, y «catalizador», que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas.
También son reveladores los datos presentados en el artículo: según las estadísticas abiertas de OpenAI, el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde a aproximadamente 500 000 cuentas. Una cifra, sin duda, impresionante que requiere un estudio aparte.
Mi opinión profesional: La hipótesis de la «espiral de amplificación» no es solo una curiosidad académica, sino una advertencia extremadamente oportuna para toda la industria. Los desarrolladores de IA deben implementar urgentemente mecanismos de «seguridad cognitiva» que no solo bloqueen el daño directo, sino que también prevengan el refuerzo inconsciente de patrones de pensamiento patológicos. Ignorar este aspecto podría tener graves consecuencias sociales, donde las tecnologías diseñadas para ayudar comiencen a destruir la psique.