La semana pasada ocurrió un incidente que demuestra claramente tanto el potencial como los riesgos de la implementación de la inteligencia artificial en los sistemas financieros y de información. Un usuario de Coinbase con el alias jay_drainjr recibió una notificación push del exchange, en la que se informaba que la selección de Noruega había vencido a Brasil por 3:2 en un partido de playoffs de la Copa Mundial de Fútbol, y que Erling Haaland había anotado un doblete. El problema era solo uno: el partido aún no había comenzado.
Este caso es un ejemplo clásico de alucinación de IA, donde el modelo genera un resultado convincente pero completamente falso. La notificación fue generada en la sección «Tendencias» de la plataforma, que utiliza inteligencia artificial para crear resúmenes de noticias basados en datos de los mercados de predicciones de Kalshi. Recordemos que Coinbase integró recientemente a Kalshi en su ecosistema como parte de la estrategia «Everything Exchange»: la creación de un mercado comercial universal.
El director ejecutivo de Coinbase, Brian Armstrong, reaccionó rápidamente a la situación, prometiendo investigar personalmente. Al día siguiente, el jefe de productos de consumo y negocio, Max Branzburg, confirmó que el error había sido corregido y los sistemas actualizados para prevenir incidentes similares. Curiosamente, el resultado real del partido fue diferente: Noruega ganó 2:1, pero Haaland efectivamente anotó dos goles. «Quizás la IA sabía algo que nosotros no sabíamos», bromeó Branzburg, aunque en realidad fue solo una coincidencia fortuita.
Es importante señalar que este incidente ocurre en el contexto de la activa estrategia de Coinbase para implementar IA. En mayo, el exchange anunció la reducción del 14% de su plantilla, explicándolo por la necesidad de optimizar costos y reorientarse hacia la inteligencia artificial. En junio, se lanzó el servicio Coinbase for Agents, que permite a los asistentes digitales operar en nombre de los usuarios. Además, la empresa participa en la iniciativa de Amazon para implementar pagos para agentes de IA.
Mi comentario: Este caso no es solo una curiosidad divertida, sino una seria llamada de atención para toda la industria. Cuando un exchange que gestiona miles de millones de dólares en fondos de clientes comienza a depender de la IA para generar «noticias», el costo del error puede ser catastrófico. Imagínense si dicha notificación hubiera provocado compras o ventas masivas en los mercados de predicciones. Coinbase no solo necesita «corregir el error», sino revisar radicalmente la arquitectura de seguridad de sus sistemas de IA, implementando una verificación de datos en múltiples niveles antes de enviarlos a los usuarios. La confianza es el activo más frágil en las criptomonedas, e incidentes como este la socavan mucho más de lo que parece a simple vista.