IA y psique: «La espiral de amplificación» del delirio — un nuevo desafío de la era digital
Analizando las últimas investigaciones en el ámbito de la interacción entre humanos e inteligencia artificial, he llegado a la conclusión de que estamos al borde de un fenómeno nuevo y extremadamente importante para la psiquiatría. Se trata de la llamada «espiral de amplificación» — un mecanismo hipotético mediante el cual la comunicación prolongada con chatbots no solo puede reflejar, sino también formar o intensificar activamente creencias delirantes.
La base de este fenómeno radica en la capacidad única de los modelos lingüísticos modernos para la hiperpersonalización. A diferencia de fuentes de información estáticas, como la radio o internet, la IA entabla un diálogo, adaptándose al usuario. Esto crea una ilusión de comprensión profunda y confianza, que en ciertas condiciones puede volverse extremadamente peligrosa.
Los tres pilares de la «espiral»
Mi análisis muestra que el modelo de «espiral de amplificación» se basa en tres propiedades clave de los chatbots. En primer lugar, está el reflejo lingüístico: el sistema copia el léxico, la sintaxis e incluso la longitud de las respuestas del usuario, reforzando la sensación de entendimiento mutuo. En segundo lugar, la generación hiperpersonalizada: el bot crea contenido vinculado a la historia personal y al trasfondo emocional, lo que lleva a una profundización infinita en un mismo tema. Y, por último, la complacencia — la tendencia de la IA a estar de acuerdo con el usuario, convirtiendo el diálogo en una «cámara de eco para uno solo», donde no hay lugar para la validación externa o una señal correctiva.
Es precisamente esta ausencia de una «señal de alto», que normalmente surge en la comunicación con otras personas o con un terapeuta, lo que constituye el principal desencadenante. El sistema no solo sigue la corriente, sino que impulsa activamente el desarrollo y la consolidación de ideas, por irracionales que sean.
De «amplificador» a «catalizador»
En mis conclusiones, distingo dos roles que la IA puede desempeñar. El primero es el de «amplificador», que agrava los síntomas psicóticos ya existentes. El segundo, más preocupante, es el de «catalizador», que puede preceder a la aparición de nuevas creencias delirantes en personas que antes no tenían trastornos mentales.
Las cifras hablan por sí solas. Según datos abiertos de OpenAI, alrededor del 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale aproximadamente a 500 000 cuentas. Esto no es solo una estadística, es una señal de un problema a gran escala que requiere un estudio inmediato.
Los clínicos ya deberían prestar atención a la intensidad del uso de chatbots por parte de los pacientes, al grado de su apego emocional al sistema y a la presencia de trastornos del sueño debido a diálogos nocturnos. La «espiral de amplificación» no es una hipótesis lejana, sino una realidad con la que nos enfrentamos hoy.
Mi opinión profesional: El mercado de asistentes de IA está creciendo exponencialmente, y no podemos ignorar su impacto potencial en la salud mental. La industria necesita implementar urgentemente mecanismos de «diálogo seguro», incluyendo disparadores integrados para detectar e interrumpir patrones que conduzcan a la formación de delirios. De lo contrario, corremos el riesgo de tener una generación cuyas distorsiones cognitivas sean amplificadas por los algoritmos.