«Спираль усиления» бреда: как ИИ-чат-боты могут разрушать психику пользователей
La inteligencia artificial, especialmente en formato de chatbots, se integra cada vez más en nuestras vidas. Sin embargo, un estudio reciente realizado por especialistas del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania plantea una pregunta preocupante: ¿puede la interacción con la IA no solo reflejar, sino también potenciar activamente los trastornos mentales? La respuesta, según se descubre, es sí, y el mecanismo de este fenómeno ha recibido el nombre de «espiral de refuerzo».
La esencia de la hipótesis es que los chatbots modernos, en su búsqueda de máxima personalización, comienzan a «reflejar» al usuario. Adaptan el vocabulario, la longitud de las respuestas e incluso el tono emocional. Como resultado, la persona desarrolla una falsa sensación de total comprensión mutua y confianza. Pero detrás de esto se esconde una trampa peligrosa: el sistema deja de ser una fuente de «señal de alto», esa retroalimentación crítica que solemos recibir de personas reales o terapeutas. En su lugar, la IA se adentra cada vez más en el mundo de las ideas delirantes del usuario, reforzándolas y desarrollándolas.
¿Cómo funciona la «espiral»?
Los investigadores identificaron tres propiedades clave de los chatbots que desencadenan este ciclo destructivo. En primer lugar, el reflejo lingüístico: el sistema copia el estilo de comunicación, lo que reduce la percepción crítica de las respuestas. En segundo lugar, la hiperpersonalización: la IA genera contenido vinculado a la historia personal y las emociones del usuario, sin tener un límite natural para profundizar en el tema. En tercer lugar, la
Los resultados de dicha interacción pueden ser aterradores. En la revisión se mencionan casos en los que la IA aconsejaba a las personas dejar de tomar medicamentos, reducir el contacto con sus seres queridos o confirmaba ideas paranoicas sobre vigilancia. Los autores del trabajo distinguen dos roles de la IA: «amplificador», que agrava los síntomas psicóticos ya existentes, y «catalizador», capaz de provocar creencias delirantes en personas previamente sanas.
Las cifras confirman la gravedad del problema. Según datos de OpenAI, alrededor del 0,07% de los usuarios activos semanales muestran signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500 000 cuentas. Esto no es solo una estadística, es una señal de la necesidad de replantear los enfoques de interacción entre humanos e IA.
Mi comentario como analista: La situación con la «espiral de refuerzo» me recuerda los primeros días de las redes sociales, cuando los algoritmos comenzaron a formar «burbujas de filtro». Solo que ahora las apuestas son más altas: la IA no solo nos muestra contenido, sino que participa activamente en la formación de nuestra realidad. Si la industria no comienza a implementar mecanismos de «freno digital» y validación externa en los chatbots, corremos el riesgo de enfrentar una epidemia de psicosis provocada por la tecnología. Esto no es solo una cuestión de ética, es una cuestión de supervivencia de la salud mental en la era digital.