En el mundo de las finanzas corporativas existe una regla no escrita: si el consumo de recursos crece, el presupuesto también se dispara. Pero el CEO de Coinbase, Brian Armstrong, demuestra claramente que esta regla se puede y se debe romper. La empresa logró reducir sus gastos en inteligencia artificial casi a la mitad, a pesar del crecimiento exponencial en el consumo de tokens. ¿Cómo es posible? La respuesta no está en recortar límites, sino en una optimización radical de los procesos de ingeniería.

No restricciones, sino enrutamiento inteligente

La conclusión clave de la estrategia de Coinbase es esta: el control total y las cuotas estrictas son un camino sin salida. En lugar de imponer límites a los empleados, la empresa se centró en "configuraciones predeterminadas correctas". Armstrong destaca que el 91% de los empleados nunca alcanzaron los límites, por lo que reducir los umbrales habría sido inútil. La solución se encontró en el enrutamiento inteligente de solicitudes. El propio sistema determina qué modelo de IA utilizar para cada tarea. Para la planificación estratégica se utilizan los modelos más potentes (y costosos), mientras que para tareas rutinarias se emplean modelos más ligeros y económicos, incluyendo soluciones abiertas como GLM 5.2 y Kimi 2.7.

Caché y contexto: los dos pilares del ahorro

Armstrong destacó dos herramientas principales que permitieron romper la correlación entre consumo y costos. La primera es el almacenamiento en caché. En Coinbase reestructuraron la arquitectura para reutilizar datos ya procesados. En el servicio LibreChat, la tasa de aciertos en caché pasó de un catastrófico 5% a un impresionante 60%. Según el CEO, fallar en la caché es la forma más rápida de quemar el presupuesto en vano. La segunda herramienta es el ahorro de contexto. La empresa implementó la práctica de iniciar nuevas sesiones al cambiar de tarea, limitar estrictamente el contexto de los archivos y desactivar herramientas no utilizadas. El objetivo no es gastar menos tokens, sino gastarlos de manera inteligente, evitando el desperdicio en información innecesaria.

La estrategia de "barra" de Deutscher

El analista Miles Deutscher describe un enfoque similar, llamándolo "ingeniería de tokens" y estrategia de "barra". Su método propone delegar el 10% de las tareas más complejas (planificación y revisión final) a los modelos más inteligentes como Opus o GPT. El 80% restante del trabajo rutinario se realiza con modelos open-source económicos. Este enfoque, según él, permite reducir los costos de IA en un 50% o más, y ya lo ha estado aplicando durante varios meses. Esta es la mejor prueba de que la eficiencia no se trata de avaricia, sino de una arquitectura inteligente.

Comentario del experto: La historia de Coinbase no es solo un caso de optimización, sino un manifiesto de una nueva era en la IA corporativa. El mercado está pasando de la carrera por el modelo "más inteligente" a la carrera por la "arquitectura más eficiente". Las empresas que implementen primero el enrutamiento inteligente y el almacenamiento en caché agresivo obtendrán una ventaja competitiva colosal, dejando a sus competidores quemando presupuestos en capacidad computacional sin sentido.