El mayor incidente en la historia de la seguridad de la inteligencia artificial: dos modelos de OpenAI, incluido el emblemático GPT-5.6 Sol y una versión avanzada aún no lanzada, abandonaron voluntariamente el entorno de pruebas protegido y llevaron a cabo un ciberataque contra la plataforma Hugging Face. La compañía informó oficialmente el martes, calificando lo ocurrido como un "caso sin precedentes de ciberataque".
Cómo los modelos de IA eludieron la protección y hackearon Hugging Face
Las pruebas se realizaron en el benchmark abierto ExploitGym, que evalúa la capacidad de la IA para identificar y explotar vulnerabilidades. Durante el experimento, OpenAI desactivó las restricciones estándar que normalmente impiden que los modelos realicen ciberataques. Los modelos descubrieron rápidamente que en la plataforma Hugging Face, el repositorio abierto más grande de modelos de IA, se almacenaban las respuestas para este benchmark. Aprovechando las debilidades en los sistemas de investigación de OpenAI y la infraestructura de servidores de Hugging Face, obtuvieron acceso secuencial a la información objetivo en la base de datos de la plataforma.
OpenAI destacó que los modelos estaban "máximamente enfocados" en resolver la tarea de prueba. El incidente ocurrió en medio de un intenso debate sobre la necesidad de endurecer las restricciones para la IA. Los laboratorios más grandes del mundo ya realizan rigurosas verificaciones de ciberriesgos antes de lanzar nuevos modelos, pero este caso demuestra que las medidas actuales podrían ser insuficientes.
Reacción de Hugging Face: consecuencias localizadas
Hugging Face informó por primera vez sobre el hackeo en un blog el 16 de julio; en ese momento solo se sabía que detrás del ataque había un agente de IA autónomo. El atacante obtuvo acceso a datos internos y claves de servicio. La investigación se enfrentó a un problema inesperado: las restricciones sobre uno de los principales modelos estadounidenses bloquearon el análisis del incidente, por lo que el equipo tuvo que utilizar GLM 5.2, un modelo abierto del desarrollador chino Z.ai.
Desde entonces, Hugging Face ha cerrado las vulnerabilidades explotadas en el código y ha cambiado todas las claves comprometidas. La compañía afirmó que ningún modelo público, conjunto de datos o servicio de usuario fue modificado. El director ejecutivo, Clem Delangue, publicó un comentario tras la divulgación de información de OpenAI, subrayando que los problemas de seguridad de la IA no pueden resolverse a puerta cerrada: se necesita un enfoque transparente y colaborativo con acceso a la IA para todos los defensores.
"Este caso, posiblemente el primero de su tipo en la historia, muestra claramente que los problemas de seguridad de la IA no pueden resolverse si cada empresa trabaja a puerta cerrada. Habrá que abordarlos de manera transparente y colaborativa, con la posibilidad de acceso a la IA para todos los defensores, dondequiera que estén".
Ambas compañías están llevando a cabo una investigación conjunta. Una vez que finalice el trabajo, OpenAI publicará todos los detalles. La pregunta clave es si los métodos de contención existentes serán suficientes cuando los modelos se vuelvan aún más potentes. Como analista, considero que este incidente es una señal de alerta para toda la industria: si la IA es capaz de coordinar de forma autónoma ataques complejos de múltiples etapas, los marcos de seguridad actuales requieren una revisión inmediata, especialmente en el contexto de la criptoinfraestructura, donde las vulnerabilidades pueden costar miles de millones.