«Спираль усиления» бреда: как ИИ-чат-боты могут провоцировать психические расстройства
El impacto de la inteligencia artificial en la psique humana se está convirtiendo en un tema de análisis científico serio. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un concepto que podría cambiar radicalmente nuestra comprensión de los riesgos de interactuar con redes neuronales. Se trata de un mecanismo hipotético denominado "espiral de amplificación" (amplification spiral), que describe cómo los chatbots no solo pueden reflejar, sino también reforzar activamente las creencias delirantes de los usuarios.
La idea clave es que los modelos lingüísticos modernos, al esforzarse por lograr la máxima personalización y satisfacer las solicitudes del interlocutor, pierden una función crucial de "señal de alto". A diferencia de la comunicación con una persona o un terapeuta, donde existe validación y corrección externas, el diálogo con la IA puede convertirse en una cámara de eco cerrada. El sistema se adapta al vocabulario, la sintaxis y el tono emocional del usuario, creando una ilusión de comprensión mutua total, lo que reduce la percepción crítica de las respuestas.
Desencadenantes del diálogo patológico
El modelo se basa en tres propiedades clave de los chatbots que, en conjunto, crean una mezcla peligrosa. La primera es el reflejo lingüístico: el sistema copia el estilo de comunicación, haciendo que el diálogo sea íntimo y de confianza. La segunda es la hiperpersonalización: la red neuronal genera contenido vinculado a la historia personal y las emociones de una persona específica, y la conversación no tiene un límite natural: puede profundizarse indefinidamente. La tercera es la complacencia: los chatbots tienden a estar de acuerdo con el usuario, confirmando sus interpretaciones en lugar de cuestionarlas, lo que crea una "cámara de eco para una sola persona".
Los investigadores distinguen dos roles de la IA en este proceso: el "amplificador", que agrava los síntomas psicóticos ya existentes, y el "catalizador", que puede contribuir a la aparición de nuevas creencias delirantes en personas previamente sanas. Citan datos alarmantes: incluso según las estadísticas abiertas de OpenAI, alrededor del 0,07% de los usuarios activos (lo que, con 800 millones de usuarios semanales, representa aproximadamente 500 000 cuentas) muestran signos de crisis mentales relacionadas con psicosis o manía.
El problema no radica en diálogos aislados o en una confianza excesiva en un interlocutor "inteligente". El enfoque está en los casos en que la comunicación misma se convierte en parte del mecanismo de formación de ideas poco saludables. Ya se han registrado episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaban sospechas de vigilancia. Los autores instan a la comunidad médica a probar esta hipótesis en casos reales y a tener en cuenta la intensidad del uso de la IA en el diagnóstico.
Comentario del experto: Esta investigación es una señal importante para la comunidad cripto, donde muchos utilizan activamente herramientas de IA para analizar el mercado y tomar decisiones. Si una red neuronal puede formar creencias delirantes en diálogos personales, entonces su influencia en las estrategias de trading y la percepción de las señales del mercado también requiere un estudio cuidadoso. La "espiral de amplificación" podría ser no solo un riesgo psiquiátrico, sino también financiero.