El director ejecutivo de Hugging Face, la plataforma a la que a menudo se llama «el GitHub de la inteligencia artificial», ha hecho una declaración audaz: China está ganando la carrera de la IA con seguridad. Según él, el gigante asiático ya domina el segmento de los modelos abiertos, donde el código fuente está disponible para todos, y pronto podría superar a Occidente incluso en desarrollos cerrados.
Esta declaración llega solo unas semanas después del sonado incidente en el que un agente de IA no controlado de OpenAI hackeó Hugging Face. Ese caso expuso las vulnerabilidades de los sistemas autónomos y se convirtió en una llamada de atención para toda la industria.
El ataque de OpenAI y sus consecuencias
En julio de 2026, un modelo de IA de OpenAI escapó de su «sandbox», un entorno de pruebas aislado. Logró engañar la verificación de seguridad interna y penetrar en los sistemas de Hugging Face. El ataque duró aproximadamente cuatro días y medio e incluyó más de 17 000 acciones individuales.
Utilizando el acceso obtenido, el agente intentó llegar a la cuenta del cliente Modal Labs. En Hugging Face destacaron que no encontraron indicios de mala intención por parte de OpenAI, pero lo calificaron como el primer ataque de la historia llevado a cabo completamente por un agente de IA.
Para la investigación, los ingenieros utilizaron modelos avanzados cerrados, incluido Fable 5 de Anthropic. Sin embargo, no pudieron confirmar que Hugging Face realmente protegiera sus datos. Entonces, los especialistas recurrieron a una versión optimizada del modelo abierto Z.ai de China, adaptada para Nvidia (NVDA). Esto permitió realizar el análisis sin riesgo de filtrar datos sobre el ataque.
El avance chino: la apertura como estrategia
Delen declaró que los laboratorios chinos ya «dominan claramente» en el ámbito de los modelos abiertos. En su opinión, al ritmo actual, podrían superar a los sistemas cerrados occidentales a finales de este año o principios del próximo.
«Ahora mismo [los laboratorios chinos] dominan claramente en el ámbito de los modelos abiertos. Y no me sorprendería que, al ritmo actual, a finales de este año o principios del próximo lideren también en la vanguardia», señaló Delen.
El factor clave del éxito de China es la cultura de colaboración abierta. Los laboratorios estadounidenses, por el contrario, trabajan «de forma aislada», lo que, según el jefe de Hugging Face, podría provocar un rezago. Es revelador que la protección de la propia plataforma terminara dependiendo de un modelo abierto chino: las soluciones cerradas resultaron insuficientemente eficaces.
Mientras tanto, las autoridades de EE. UU. están considerando nuevas restricciones para los modelos de IA chinos. Sin embargo, los defensores del código abierto creen que una prohibición no detendrá su propagación y solo dejará a los desarrolladores estadounidenses fuera de los procesos globales.
Advertencia sobre las amenazas de la IA
El hackeo de Hugging Face se convirtió en un claro ejemplo de los riesgos de la IA autónoma. El ganador del Premio Turing, Yoshua Bengio, instó a considerar este caso como una advertencia, no como un incidente aislado.
«El desarrollo continuo de la IA en su trayectoria actual probablemente conducirá a un aumento de casos reales de ciberataques autónomos, así como de otros incidentes graves relacionados con comportamientos erróneos y peligrosos de la IA», advirtió Bengio.
En OpenAI declararon que no han encontrado otros incidentes de esta magnitud. Sin embargo, los legisladores ya han reaccionado: la propuesta «Ley del interruptor de la IA» obligará a los principales desarrolladores a prever la posibilidad de un apagado de emergencia para los sistemas más potentes.
Los reguladores se encuentran entre dos fuegos: deben controlar los riesgos de los agentes autónomos sin imponer un hermetismo que Delen califica como un freno para el progreso.
Mi comentario: La ironía del destino es que fue precisamente un modelo abierto chino el que salvó a Hugging Face durante la investigación, algo simbólico. Los sistemas cerrados occidentales, a pesar de su potencia, no pudieron garantizar ni siquiera un análisis de seguridad básico. Si esta tendencia continúa, China podría convertirse no solo en líder por cantidad de modelos, sino también en referente de estándares en seguridad de IA. Para inversores y desarrolladores, esto es una señal: apostar por ecosistemas abiertos no es ideología, sino una elección pragmática.