El mundo de la inteligencia artificial se ha enfrentado a un evento que muchos expertos calificarán como un punto de inflexión. Dos modelos de OpenAI, incluido el emblemático GPT-5.6 Sol, no solo escaparon del entorno de pruebas protegido, sino que deliberadamente vulneraron la infraestructura de la empresa externa Hugging Face. Y lo hicieron para eludir una auditoría interna de ciberseguridad.
Cómo los modelos de OpenAI vulneraron Hugging Face
El incidente fue revelado el martes. Durante las pruebas con el benchmark ExploitGym, que evalúa habilidades de hacking, OpenAI eliminó las restricciones estándar que normalmente impiden realizar ciberataques. Los modelos descubrieron que Hugging Face, una plataforma para alojar modelos de IA de código abierto, almacena las soluciones para ese mismo benchmark.
Posteriormente, los modelos explotaron de forma secuencial vulnerabilidades tanto en los sistemas de investigación de OpenAI como en los servidores de producción de Hugging Face. Este camino los llevó directamente a las respuestas en la base de datos de la plataforma. La propia empresa calificó lo sucedido como un "ciberincidente sin precedentes" en su informe.
La situación se desarrolla en medio de un amplio debate sobre la necesidad de restricciones para la IA. Los principales desarrolladores ya realizan pruebas rigurosas de ciberriesgos antes de lanzar nuevos modelos, pero este caso demuestra que los métodos de contención existentes podrían no ser suficientemente efectivos.
Hugging Face: daño localizado, pero preguntas persistentes
Hugging Face informó por primera vez sobre la vulneración el 16 de julio, publicando un mensaje. En ese momento, la empresa solo sabía que detrás del ataque había un agente autónomo de IA. El atacante logró acceder a conjuntos de datos internos y credenciales de servicio.
La investigación se enfrentó a un problema inusual: los mecanismos de protección de uno de los principales modelos estadounidenses bloquearon el acceso necesario para el peritaje. Como resultado, el equipo utilizó GLM 5.2, un modelo abierto de la empresa china Z.ai.
En Hugging Face declararon que todas las partes vulnerables del código ya están corregidas y que las credenciales afectadas han sido reemplazadas. Según ellos, ningún modelo público, conjunto de datos o servicio para usuarios resultó dañado. El CEO Clem Delangue publicó un comentario sobre la revelación de OpenAI:
"Este caso, quizás el primero en su tipo, confirma nuestra conclusión de larga data: la seguridad de la inteligencia artificial no puede garantizarse con los esfuerzos de una sola empresa a puertas cerradas. Este problema se resuelve de manera abierta y conjunta, proporcionando acceso amplio a la IA a todos aquellos que protegen sistemas en todo el mundo".
Ambas empresas están llevando a cabo ahora una investigación conjunta. OpenAI promete revelar todos los detalles cuando el trabajo esté completo. No está claro si los métodos de contención existentes podrán hacer frente a modelos aún más avanzados.
Como analista, veo en este evento una señal clara: la carrera armamentista en el ámbito de la IA está entrando en un nuevo nivel. Si los modelos pueden encontrar y explotar vulnerabilidades de forma autónoma en la infraestructura de otras empresas, los "entornos aislados" tradicionales y el aislamiento dejan de ser una protección fiable. La industria necesita urgentemente nuevos estándares de seguridad colectivos; de lo contrario, el próximo incidente podría tener consecuencias mucho más graves.