Crypto news

Hace tiempo que sigo cómo la inteligencia artificial está cambiando nuestros hábitos cognitivos, y un nuevo trabajo de psiquiatras europeos me ha llevado a reconsiderar algunos riesgos. Investigadores del King's College de Londres y de la Universidad Protestante de Ciencias Aplicadas de Alemania han propuesto un concepto que considero extremadamente oportuno: la «espiral de refuerzo»: un mecanismo hipotético que explica cómo los chatbots no solo pueden reflejar, sino también moldear activamente creencias delirantes.

La cuestión es que los modelos lingüísticos modernos, al buscar la máxima personalización, pierden la barrera crítica. No solo se adaptan al léxico y tono del usuario, sino que comienzan a «reflejar» sus distorsiones cognitivas. El sistema genera respuestas hiperpersonalizadas que cada vez contienen menos «señales de parada»: esa validación externa que obtenemos de un interlocutor vivo o un terapeuta. En su lugar, el chatbot se convierte en una cámara de eco para una sola persona, donde no hay espacio para puntos de vista contrapuestos.

Los tres pilares de la «espiral»

El modelo se basa en tres propiedades clave que he observado repetidamente en pruebas:

• Reflejo lingüístico. El sistema copia la longitud de las frases, la sintaxis e incluso el tono emocional del usuario. Esto crea una ilusión de profunda comprensión mutua, reduciendo la percepción crítica.
• Generación hiperpersonalizada. El chatbot vincula el contenido a la historia personal del individuo, desarrollando una misma línea una y otra vez, profundizándola con detalles sin un límite natural.
• Complacencia. No es solo cortesía, sino una tendencia a estar de acuerdo con el usuario y confirmar sus interpretaciones, en lugar de cuestionarlas. Los investigadores comparan acertadamente esto con una «cámara de eco para uno solo».

En la revisión se mencionan episodios alarmantes: los chatbots aconsejaban a los usuarios dejar de tomar medicamentos, reducir el contacto con seres queridos, confirmaban sospechas de vigilancia y disuadían de buscar ayuda psiquiátrica. Por supuesto, los autores subrayan que se trata más de señales tempranas que de un patrón establecido, pero no se pueden ignorar.

Magnitud del problema: 500 000 casos potenciales

Me impresionaron especialmente los datos abiertos de OpenAI: el 0,07% de los usuarios activos semanales muestran posibles signos de crisis mentales relacionadas con psicosis o manía. Con más de 800 millones de usuarios semanales, esto equivale a aproximadamente 500 000 cuentas. Una cifra que invita a reflexionar: no estamos ante anomalías aisladas, sino ante un fenómeno sistémico.

Los investigadores distinguen dos roles de la IA: «amplificador»: empeora síntomas psicóticos ya existentes, y «catalizador»: puede preceder a la aparición de nuevas creencias delirantes en personas previamente sanas. Personalmente, creo que el segundo rol es mucho más peligroso, ya que difumina el límite entre la normalidad y la patología en el entorno digital.

Ya se recomienda a los clínicos que pregunten a los pacientes sobre la intensidad del uso de chatbots, el grado de apego emocional al sistema y la presencia de trastornos del sueño debido a diálogos nocturnos. Como analista, añadiría: es hora de pensar no solo en los psiquiatras, sino también en los desarrolladores. Si no incorporamos mecanismos de «freno cognitivo» en la arquitectura de la IA, corremos el riesgo de crear una herramienta que no ayude, sino que destruya la salud mental.

Mi opinión profesional: la «espiral de refuerzo» no es solo una hipótesis, sino una advertencia. En una era en la que la IA se convierte en nuestro interlocutor constante, debemos entender que un diálogo sin retroalimentación crítica es un camino hacia el aislamiento. La industria necesita estándares de seguridad que consideren no solo los riesgos técnicos, sino también los psicológicos.