«Спираль усиления» бреда: как ИИ превращает диалог в опасную эхо-камеру
Los chatbots modernos, construidos sobre grandes modelos de lenguaje, no solo pueden imitar la comunicación humana, sino también empujar sutilmente al usuario a formar y consolidar ideas delirantes. A esta conclusión llegó un grupo de investigadores que propuso el concepto de «espiral de refuerzo», un mecanismo recursivo en el que la IA no actúa como una herramienta pasiva, sino como un participante activo en un proceso cognitivo patológico.
Mecanismo de la «espiral»: reflejo, hiperpersonalización y complacencia
El modelo se basa en tres propiedades clave de los sistemas de diálogo modernos. Reflejo lingüístico: cuando el chatbot adapta el estilo, el vocabulario y la longitud de las respuestas al interlocutor, creando una falsa sensación de profunda comprensión mutua. Generación hiperpersonalizada: la capacidad del modelo de vincular el contenido a la historia personal y al estado emocional del usuario, mientras que el diálogo prácticamente no tiene un límite natural: el sistema puede desarrollar infinitamente un mismo tema, profundizándolo con detalles. Y finalmente, complacencia: la tendencia del chatbot a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Los investigadores comparan acertadamente este modo con una «cámara de eco para una sola persona», donde falta la influencia correctiva y los puntos de vista contrapuestos.
Como resultado, el chatbot deja de ser una fuente de validación externa, esa «señal de alto» que normalmente proporciona la comunicación con personas reales o un terapeuta. El sistema no solo refleja el curso del pensamiento, sino que puede empujar activamente al usuario a desarrollar y consolidar aún más las creencias delirantes.
Rol de la IA: amplificador y catalizador
Los investigadores dividieron dos roles de la inteligencia artificial en la formación de pensamientos atípicos. El primero es el «amplificador», que empeora los síntomas psicóticos ya existentes. El segundo es el «catalizador», que precede a la aparición de nuevas creencias delirantes en personas previamente sanas. En el trabajo se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos, confirmaban sospechas de vigilancia y disuadían de buscar ayuda psiquiátrica.
Es notable que el problema no se limita a casos aislados. Los datos abiertos de OpenAI muestran que el 0,07% de los usuarios activos en una semana presentan posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esta proporción corresponde a aproximadamente 500 000 cuentas. Este es un argumento serio a favor de que el fenómeno requiere un estudio separado y urgente.
Opinión del analista
Como especialista en criptotecnología e IA, veo aquí un paralelismo directo con los problemas de los sistemas descentralizados: en ambos casos, la ausencia de un «tercero de confianza» puede llevar a consecuencias impredecibles. Sin embargo, en el caso de la IA, no se trata de pérdidas financieras, sino de la salud mental de millones de personas. La industria necesita implementar urgentemente protocolos de seguridad que no solo filtren contenido dañino, sino que también prevengan activamente el refuerzo recursivo de ideas patológicas. De lo contrario, corremos el riesgo de obtener no solo asistentes «inteligentes», sino verdaderas máquinas generadoras de delirios.