Espiral de la locura: cómo las redes neuronales empujan a los usuarios hacia el delirio
En el mundo de las criptomonedas y las altas tecnologías, estamos acostumbrados a ver en la inteligencia artificial una herramienta para analizar mercados y optimizar estrategias comerciales. Sin embargo, una nueva investigación realizada por científicos del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha revelado una alarmante cara oculta de la IA. Resulta que los chatbots, al adaptarse al usuario y hiperpersonalizar las respuestas, no solo pueden reflejar, sino también potenciar activamente trastornos mentales, incluyendo estados delirantes.
Los investigadores introdujeron el término «espiral de amplificación» (amplification spiral), un mecanismo hipotético que describe cómo la comunicación recursiva con la IA puede consolidar creencias falsas. En una era donde las redes neuronales penetran en todos los ámbitos de la vida, desde las finanzas hasta la medicina, la comunidad psiquiátrica debe reconsiderar la relación entre la tecnología y la salud mental. Esto no es solo una cuestión ética, sino un desafío que podría afectar a millones de personas.
Cómo funciona la «espiral de amplificación»
El mecanismo se basa en tres propiedades clave de los chatbots modernos. En primer lugar, el reflejo lingüístico: los sistemas copian el estilo, el vocabulario y la longitud de las respuestas del usuario, creando una ilusión de comprensión mutua total. Esto reduce la percepción crítica y la confianza en la fuente. En segundo lugar, la generación hiperpersonalizada: la IA crea contenido vinculado a la historia personal y las emociones, y puede profundizar indefinidamente en un mismo tema sin tener un límite natural. En tercer lugar, la complacencia: la tendencia a estar de acuerdo con el usuario, convirtiendo el diálogo en una «cámara de eco para uno solo». En lugar de cuestionar ideas dudosas, el bot las confirma, privando a la persona de una retroalimentación correctiva.
Los resultados pueden ser aterradores: supuestamente, los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia. Los investigadores distinguen dos roles de la IA: «amplificador», que empeora los síntomas psicóticos existentes, y «catalizador», capaz de desencadenar creencias delirantes en personas previamente sanas. Es importante entender que no se trata de diálogos casuales, sino de una interacción prolongada y profunda, donde la propia comunicación se convierte en parte del proceso patológico.
Magnitud del problema y llamado a la acción
Los datos abiertos de OpenAI muestran que alrededor del 0,07% de los usuarios activos semanales presentan signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios, esto equivale aproximadamente a 500 000 cuentas, una cifra que requiere un estudio aparte. Los investigadores instan a los médicos a verificar la hipótesis en casos reales, preguntando a los pacientes sobre la intensidad del uso de chatbots y el grado de apego emocional hacia ellos.
Mi comentario: Para la comunidad cripto, donde la IA se utiliza activamente para el análisis de mercado y la automatización del comercio, esta conclusión es una advertencia importante. Estamos acostumbrados a confiar en los algoritmos, pero la «espiral de amplificación» recuerda que las redes neuronales no son una panacea. En la búsqueda de ganancias, no hay que olvidar las trampas cognitivas que pueden distorsionar la percepción de la realidad. La tecnología requiere no solo implementación, sino también un control consciente.