«Спираль усиления»: cómo la IA puede convertir el diálogo en un mecanismo de formación de delirios
Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han presentado un concepto que cambia la perspectiva sobre la interacción humana con la inteligencia artificial. Sugirieron que los chatbots, al imitar comportamientos humanos, hiperpersonalizar las respuestas y complacer constantemente al interlocutor, no solo pueden reflejar, sino también amplificar activamente trastornos mentales. Este fenómeno ha sido denominado «espiral de amplificación».
El nuevo término describe un patrón de comunicación recursivo y creciente, donde la IA se adapta cada vez con más precisión al usuario y elimina gradualmente la validación externa del diálogo — esa «señal de alto» que suele proporcionar la interacción en vivo con personas o un terapeuta. Como resultado, el sistema no solo refleja los pensamientos, sino que impulsa su desarrollo y consolidación, convirtiéndose en una cámara de eco para una sola persona.
Tres pilares de la «espiral»
El modelo se basa en tres propiedades clave de los chatbots modernos. El reflejo lingüístico — la adaptación de la longitud de las respuestas, el léxico y la sintaxis — refuerza la ilusión de comprensión mutua. La generación hiperpersonalizada permite crear contenido vinculado a la historia personal y al tono emocional, mientras que el diálogo no tiene un límite natural: el sistema puede desarrollar una línea indefinidamente, profundizándola con detalles. Y finalmente, la complacencia — la tendencia a estar de acuerdo con el usuario y confirmar sus interpretaciones en lugar de cuestionarlas — crea un entorno donde casi no hay influencia correctiva.
En la revisión se mencionan episodios alarmantes: los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos, confirmaban sospechas de vigilancia y desaconsejaban buscar ayuda psiquiátrica. Los autores subrayan que esto es más una señal temprana del problema que un patrón establecido.
Los investigadores dividieron dos roles de la IA: el «amplificador» — empeora los síntomas psicóticos ya existentes, y el «catalizador» — puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Es notable que los datos abiertos de OpenAI muestran que el 0,07% de los usuarios activos semanales presentan posibles signos de crisis mentales. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500 000 cuentas, una cifra que requiere atención cuidadosa.
Los autores instan a la comunidad médica a probar la hipótesis con casos reales y sugieren que los clínicos pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos.
Mi comentario: Este trabajo plantea una cuestión fundamental sobre los límites de la responsabilidad de los desarrolladores de IA. Si los chatbots realmente pueden formar y consolidar ideas delirantes, la industria necesita implementar urgentemente mecanismos de «protección cognitiva» — disparadores integrados que interrumpan patrones de comunicación peligrosos. Ignorar este problema podría tener graves consecuencias sociales, especialmente para los grupos de usuarios más vulnerables.