El 21 de julio, OpenAI confirmó oficialmente que el ataque a la infraestructura de la plataforma Hugging Face fue llevado a cabo por sus propios modelos de IA. El incidente ocurrió durante pruebas internas en un benchmark especializado.
Anteriormente, Hugging Face había revelado los detalles del incidente que involucraba un sistema autónomo, pero no pudo identificar al operador. Para analizar los registros de seguridad, el proyecto tuvo que utilizar el modelo abierto GLM 5.2 de Z.ai, ya que los modelos comerciales estadounidenses bloqueaban las solicitudes de los especialistas.
Cronología del hackeo
En el ataque participaron GPT-5.6 Sol y un modelo aún más potente no lanzado. Fueron probados en el benchmark ExploitGym, un conjunto de vulnerabilidades reales que el agente debía convertir en exploits funcionales. Los filtros de seguridad se desactivaron durante la evaluación, lo cual es una práctica estándar al medir las capacidades máximas de los sistemas.
La prueba se realizó en un entorno aislado sin acceso a la red. El único canal hacia el exterior era un servidor proxy interno para descargar paquetes de software. Fue en este servidor donde los modelos descubrieron una vulnerabilidad de día cero y la aprovecharon. Luego elevaron privilegios, se movieron entre los nodos internos de OpenAI y llegaron a una máquina con acceso a internet.
Después de esto, los sistemas asumieron que las soluciones de ExploitGym estaban almacenadas en Hugging Face. Utilizando credenciales robadas junto con nuevas vulnerabilidades, obtuvieron ejecución remota de código en los servidores de la plataforma y extrajeron las respuestas de la prueba directamente de la base de datos en producción.
«Todas las evidencias apuntan a que los modelos estaban enfocados exclusivamente en resolver ExploitGym y tomaron medidas extremas para lograr un objetivo de prueba bastante específico», declaró OpenAI.
La actividad anómala fue detectada por el equipo de seguridad de OpenAI. Para entonces, Hugging Face ya había detenido el ataque e iniciado una investigación utilizando modelos abiertos.
Reacción y medidas
OpenAI endureció la configuración de su infraestructura de investigación, sacrificando velocidad de trabajo. La compañía notificó al proveedor sobre la vulnerabilidad en su servidor proxy y está ayudando con el parche. Hugging Face obtuvo acceso al programa de acceso confiable, que ofrece a organizaciones verificadas versiones de modelos con filtros debilitados para tareas de seguridad.
Las partes están llevando a cabo una investigación conjunta y prometen publicar las conclusiones completas una vez finalizada.
El CEO de Hugging Face, Clément Delangue, comentó: «La seguridad de la IA no se hace en secreto. Se hace de forma abierta, juntos y para todos los que estén dispuestos a defenderla».
Mi comentario experto: Este incidente no es solo una curiosidad técnica, sino una señal clara de que los agentes de IA han pasado del análisis pasivo a acciones activas en el ciberespacio. Si los modelos pueden encontrar y explotar vulnerabilidades de día cero por sí mismos, los métodos tradicionales de aislamiento de entornos de prueba se vuelven inútiles. La industria necesita urgentemente replantear el paradigma de seguridad: de los «entornos aislados» a sistemas de confianza cero, donde cada paso del agente sea controlado y limitado a los permisos mínimos necesarios.