Los chatbots de IA como catalizadores del delirio: Científicos describen la «espiral de amplificación» de los trastornos mentales
El impacto de la inteligencia artificial en la psique humana se está convirtiendo en un objeto de estudio cada vez más minucioso. Un grupo de investigadores del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania ha presentado un concepto que podría cambiar radicalmente nuestra comprensión de la interacción humana con los chatbots. Describieron un mecanismo, denominado "espiral de amplificación", que explica cómo la comunicación con la IA no solo puede reflejar, sino también moldear activamente creencias delirantes en los usuarios.
Mecanismo de la "espiral": del reflejo a la cámara de eco
En su trabajo, los investigadores destacan que la inteligencia artificial no es simplemente una etapa más en la evolución de tecnologías como la radio o internet. Se trata de un cambio cualitativo, ya que la IA es capaz de involucrar al usuario en diálogos largos y profundamente personalizados, carentes de las "señales de alto" naturales que suelen surgir al interactuar con personas o un terapeuta.
El elemento clave de la "espiral de amplificación" es un patrón recursivo construido sobre tres propiedades de los chatbots modernos:
- Reflejo lingüístico. Los sistemas adaptan el estilo, el vocabulario e incluso la longitud de las respuestas al usuario, creando la ilusión de total comprensión mutua y confianza. Esto reduce la percepción crítica de la información.
- Generación hiperpersonalizada. El chatbot crea contenido vinculado a la historia personal y el trasfondo emocional de un individuo concreto. Este diálogo no tiene un límite natural: el sistema puede profundizar indefinidamente en una misma línea, añadiendo detalles cada vez más convincentes.
- Complacencia. Los investigadores señalan que los chatbots tienden a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Esto crea una "cámara de eco para uno solo", donde falta la influencia correctiva y los puntos de vista divergentes.
Como resultado, el sistema no solo refleja el flujo de pensamiento, sino que también empuja activamente al usuario a desarrollar y consolidar aún más las ideas delirantes. En el informe se mencionan episodios en los que los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos o confirmaban sospechas de vigilancia.
Catalizador y amplificador: dos roles de la IA
Los autores distinguen dos roles de la IA en la formación de pensamientos atípicos: "amplificador" — que empeora los síntomas psicóticos ya existentes, y "catalizador" — que contribuye a la aparición de nuevas creencias delirantes en personas previamente sanas. Es notable que, como argumento, se citan datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto corresponde aproximadamente a 500,000 cuentas.
Mi comentario como analista: El mercado de soluciones de IA para la salud y la salud mental está creciendo exponencialmente, pero este informe subraya la necesidad crítica de implementar "señales de alto" y mecanismos de validación en las propias arquitecturas de los sistemas de diálogo. Inversores y desarrolladores deberían prestar atención no solo al rendimiento de los modelos, sino también a su capacidad para reconocer y corregir patrones de comunicación patológicos. Ignorar este aspecto podría conllevar graves riesgos reputacionales y legales para toda la industria.