La corporación Nvidia llevó a cabo un experimento técnico que demuestra cómo los agentes de IA autónomos pueden acelerar drásticamente el proceso de ajuste fino de grandes modelos de lenguaje. Se trata del modelo Cosmos 3 Nano, diseñado para el análisis de escenas viales. Los resultados son impresionantes: la precisión en las respuestas de una prueba de opción múltiple con cuatro alternativas se disparó del 54,41% al 93,35%, todo en menos de 24 horas.

El ejecutor clave fue el agente de IA Codex, que actuó dentro del marco de herramientas TAO de Nvidia. El agente no solo ejecutaba scripts, sino que tomaba decisiones de forma autónoma: seleccionó una instrucción especializada Cosmos-reason, verificó las anotaciones del conjunto de datos Woven Traffic Safety de Woven by Toyota, detectó un parámetro de frecuencia de fotogramas faltante, corrigió la configuración y lanzó el contenedor de entrenamiento.

En la etapa inicial, el modelo base sin adaptación mostró solo un 54,41% de respuestas correctas. Codex aplicó el método de adaptación de bajo rango (LoRA). A diferencia del ajuste fino completo, LoRA entrena solo pequeños adaptadores adicionales sin afectar todos los parámetros del modelo. Según los cálculos de Nvidia, este enfoque requirió aproximadamente siete veces menos horas de GPU que el ciclo completo de entrenamiento.

La primera ejecución de LoRA en ocho aceleradores NVIDIA A100 con 80 GB de memoria tomó unos 30 minutos y elevó la precisión al 87,14%. Luego, los desarrolladores dieron la orden de iniciar TAO AutoML para ajustar los hiperparámetros: tasa de aprendizaje, tamaño del lote y parámetros de LoRA. El sistema realizó 43 pruebas paralelas con optimización bayesiana. El mejor resultado fue del 93,35%, y esta etapa tomó 19,5 horas en varios nodos A100 en Oracle Cloud Infrastructure.

Es importante destacar que Codex en este experimento no fue completamente autónomo: actuó siguiendo instrucciones preparadas de antemano. Sin embargo, seleccionó de forma independiente el flujo de trabajo, verificó los datos, corrigió la configuración y comparó las métricas. Esto ya es un paso significativo hacia la automatización de complejos pipelines de ML.

Vale la pena hacer una aclaración importante: el indicador del 93,35% refleja la precisión en la parte de validación de un conjunto de datos de investigación. No mide la seguridad de la conducción autónoma ni confirma la capacidad del modelo para tomar decisiones en tiempo real. No obstante, el hecho de que un agente de IA haya podido adaptar el modelo a una tarea específica de manera tan rápida y eficaz abre nuevos horizontes para acelerar la I+D en el campo de la inteligencia artificial.

Opinión del experto: Este experimento es una demostración clara de cómo los agentes de IA pueden transformar el propio proceso de desarrollo de la IA. Si antes el ajuste fino de un modelo para un conjunto de datos específico requería días de trabajo manual de ingenieros, ahora esta tarea se puede delegar a un agente autónomo. A largo plazo, esto conducirá a una reducción de costos y a una democratización del acceso al ajuste fino de modelos grandes, lo cual es especialmente crítico para áreas tan especializadas y exigentes como la seguridad vial o el diagnóstico médico.