El mayor exchange de criptomonedas estadounidense, Coinbase, se enfrentó a un incómodo incidente que demuestra claramente los riesgos de implementar apresuradamente inteligencia artificial en servicios para usuarios. La plataforma envió a millones de clientes una "noticia urgente" sobre que la selección de Noruega había vencido a Brasil 3:2 en un partido de playoffs de la Copa Mundial de Fútbol, con Erling Haaland anotando un doblete. El problema es uno: el partido ni siquiera había comenzado en ese momento.
El incidente llamó la atención del usuario bajo el apodo jay_drainjr, quien publicó una captura de pantalla de la notificación en la red social X. En su publicación, señaló acertadamente que estas "alucinaciones" de la IA son una práctica peligrosa e irresponsable para una empresa que gestiona las finanzas de millones de personas. El CEO de Coinbase, Brian Armstrong, reaccionó rápidamente, prometiendo investigar la situación junto con su equipo.
Error en "Tendencias" y reacción de la dirección
Según se descubrió, el mensaje falso apareció en la sección "Tendencias" (Trends), donde la IA genera automáticamente resúmenes de noticias basados en datos de la plataforma de mercados de predicción Kalshi. Coinbase integró recientemente Kalshi como parte de su ambiciosa estrategia "Everything Exchange" — convertir el exchange en una plataforma financiera universal. Al día siguiente, el jefe de productos de consumo y negocio, Max Branzburg, informó que el error se había corregido y los sistemas se habían actualizado para evitar imprecisiones similares.
Cabe destacar que el resultado real del partido fue diferente: Noruega realmente ganó, pero con un marcador de 2:1. Haaland, como "predijo" la IA, anotó dos goles. Branzburg comentó con humor esta coincidencia, sugiriendo que "la IA quizás sabía algo que nosotros no sabíamos". Sin embargo, detrás de la broma se esconde un problema grave: los algoritmos entrenados con datos históricos pueden generar información convincente pero completamente falsa, que se presenta como un hecho.
Contexto: rumbo a la IA y recortes
Este incidente ocurre en medio de una reestructuración activa del negocio de Coinbase. En mayo, el exchange anunció el recorte del 14% de su personal, explicándolo por la necesidad de optimizar gastos y reforzar el enfoque en la implementación de IA. Ya en junio, la empresa lanzó el servicio Coinbase for Agents, que permite conectar asistentes digitales a las cuentas de los usuarios para automatizar el comercio. Además, Coinbase participa en la iniciativa de Amazon para implementar pagos para agentes de IA.
Opinión del analista. Esta historia es un ejemplo clásico de cómo la prisa por implementar IA generativa sin un control de calidad adecuado puede socavar la confianza de los usuarios. Para un exchange de criptomonedas, donde la precisión de los datos es crítica, estas "alucinaciones" son inaceptables. Coinbase sin duda avanza en la dirección correcta al automatizar procesos rutinarios, pero antes de lanzar la IA al público, es necesario establecer un sistema de verificación de hechos de múltiples niveles. De lo contrario, la próxima "predicción" podría no referirse a un partido de fútbol, sino al precio de bitcoin o al estado de su billetera.