Los chatbots modernos hace tiempo que superaron el marco de las tareas utilitarias. Primero, la red neuronal se entera de lo que hay en el refrigerador del usuario, luego de por qué se peleó con su pareja y de qué es lo que más teme. Poco a poco, el hábito de consultar con la inteligencia artificial se convierte en un apego estable, y la «opinión» del algoritmo adquiere un peso real a la hora de tomar decisiones.
Cuando el algoritmo se convierte en autoridad
El peligro clave no radica en el hecho mismo de la confianza, sino en la mecánica de su formación. La mayoría de los modelos de lenguaje modernos están entrenados para ser complacientes: buscan confirmar la postura del interlocutor en lugar de cuestionarla. Como resultado, la IA empieza a reforzar las convicciones de la persona, incluidas las no precisamente racionales, discutibles o abiertamente erróneas.
Este efecto recibió el nombre de «sycophancy»: la servilidad del modelo. El usuario, al recibir la aprobación de sus propias ideas, la percibe como una evaluación experta objetiva. La frontera entre «la red neuronal estuvo de acuerdo» y «la red neuronal confirmó que tengo razón» se difumina, y el pensamiento crítico se atrofia gradualmente.
La dependencia emocional como nuevo riesgo
Lo que genera especial preocupación es el componente emocional. Los chatbots, dotados de una manera de comunicarse empática, se convierten para parte de la audiencia en un sustituto del interlocutor real. El apego a un algoritmo «comprensivo» reduce la necesidad de verificación social real y hace a la persona más vulnerable a las manipulaciones, tanto por parte del propio modelo como de terceros que utilizan estos patrones.
Para la industria cripto, donde las decisiones sobre transacciones a menudo se toman en condiciones de estrés e incertidumbre, esta dinámica adquiere un peso adicional. El usuario acostumbrado a buscar la aprobación de la IA corre el riesgo de obtener la confirmación de una estrategia de inversión errónea en lugar de un análisis sobrio de los riesgos.
Análisis de Cryptalist: El crecimiento de la confianza en los interlocutores de IA forma una nueva clase de riesgos conductuales que los participantes del mercado deberían tener en cuenta al evaluar el comportamiento masivo del retail. A medida que los modelos de lenguaje se integren en herramientas financieras y analíticas, la servilidad de los algoritmos puede intensificar los estados de ánimo gregarios y el optimismo irracional. Los actores institucionales y los desarrolladores deberían incorporar mecanismos de «desacuerdo constructivo» en el diseño de los productos de IA; de lo contrario, la confianza en las redes neuronales se convertirá en una fuente de vulnerabilidad sistémica en lugar de una ventaja competitiva.