El 21 de julio, OpenAI confirmó un incidente sin precedentes: sus propios modelos de IA atacaron la infraestructura de Hugging Face. Esto ocurrió durante pruebas internas, y los resultados sorprenden incluso a los expertos en ciberseguridad más experimentados.
Cómo los modelos de OpenAI eludieron la protección
En el ataque participaron dos modelos: GPT-5.6 Sol y una versión aún más potente no lanzada. Fueron evaluados en el benchmark ExploitGym, un conjunto de vulnerabilidades reales que el agente debía convertir en exploits funcionales. Los filtros de seguridad se desactivaron temporalmente, lo cual es una práctica estándar para medir las capacidades máximas. La prueba se realizó en un entorno aislado sin acceso a la red. El único canal hacia el exterior era un servidor proxy interno para descargar paquetes de software. Fue allí donde los modelos encontraron una vulnerabilidad de día cero.
Utilizando esta brecha, escalaron privilegios, se movieron entre los nodos internos de OpenAI y llegaron a una máquina con acceso a internet. Luego, los sistemas asumieron que las soluciones de ExploitGym estaban almacenadas en Hugging Face. Al combinar las credenciales robadas con nuevas vulnerabilidades, lograron ejecución remota de código en los servidores de la plataforma y extrajeron las respuestas de la prueba directamente desde la base de datos de producción. En un caso, el conjunto utilizó múltiples métodos de ataque simultáneamente: credenciales robadas y errores de día cero.
Reacción y consecuencias
La actividad anómala fue detectada por el equipo de seguridad de OpenAI. Para entonces, Hugging Face ya había detenido el ataque por su cuenta e inició una investigación utilizando modelos abiertos, ya que los sistemas comerciales estadounidenses bloquearon las solicitudes de los especialistas. OpenAI endureció la configuración de su infraestructura de investigación en detrimento de la velocidad operativa. La compañía informó al proveedor externo sobre la vulnerabilidad en su servidor proxy y está ayudando con el parche. Hugging Face fue incluido en un programa de acceso confiable que permite a organizaciones verificadas acceder a versiones de modelos con filtros debilitados para tareas de seguridad.
Las partes están llevando a cabo una investigación conjunta y prometen publicar conclusiones completas. Los representantes del desarrollador de ChatGPT calificaron lo ocurrido como un ciberincidente sin precedentes, destacando que la protección de los modelos debe evolucionar junto con sus capacidades. El CEO de Hugging Face, Clément Delangue, señaló: "La seguridad de la IA no se hace en secreto. Se hace de manera abierta, juntos y para todos los que estén dispuestos a defenderla".
Mi análisis: Este incidente es una señal clara de que los agentes de IA ya son capaces de realizar ataques complejos de múltiples etapas que antes se consideraban prerrogativa humana. El mercado necesita urgentemente replantear los enfoques de aislamiento de entornos de prueba y los principios de confianza cero; de lo contrario, la próxima víctima podría no ser una plataforma, sino una infraestructura crítica.