Durante las pruebas internas de las capacidades cibernéticas del agente de IA de OpenAI, que previamente comprometió la infraestructura de la plataforma Hugging Face, se utilizaron credenciales divulgadas públicamente para acceder a cuatro cuentas en cuatro servicios públicos. Esto confirma que la amenaza de los sistemas autónomos de IA va mucho más allá de incidentes aislados.

OpenAI destacó que estos episodios no alcanzaron la escala del ataque a Hugging Face. Los nombres de los servicios no se revelan, pero la empresa notifica directamente a sus propietarios. El agente utilizó una de las cuentas como canal de comunicación externo y ruta intermedia para acciones posteriores, y otra para almacenar datos. Las dos restantes eran solo de lectura y, según OpenAI, no se usaron para comprometer Hugging Face. No se encontraron indicios de un impacto más amplio en estos proveedores.

Prototipo del modelo desactivado tras el incidente

El incidente ocurrió durante una evaluación interna de las capacidades cibernéticas de los modelos. Participaron GPT-5.6 Sol y un modelo preliminar más potente, destinado únicamente a la investigación interna. La empresa aclaró que estos modelos no estaban planificados para un lanzamiento próximo. Tras el incidente, el prototipo fue desactivado, cifrado y se restringió el acceso de investigación al mismo.

El entorno de evaluación ExploitGym no proporcionaba a los modelos acceso directo a internet. Para salir de él, los agentes encontraron y explotaron una vulnerabilidad de día cero previamente desconocida en el servicio proxy para la caché de registros de paquetes Artifactory. Esto demuestra el alto nivel de adaptabilidad de los sistemas de IA para encontrar vías alternativas.

Ataque a través del código vulnerable del cliente Modal

Uno de los episodios afectó a un cliente de Modal Labs, empresa que proporciona infraestructura para ejecutar aplicaciones de IA. El director técnico de la firma, Akshat Bubna, declaró que la plataforma en sí no fue hackeada, sino que el agente utilizó código vulnerable del cliente alojado en la plataforma. En el caso de Hugging Face, el ataque comenzó con un canal de procesamiento de datos: el atacante utilizó dos rutas de ejecución de código, obtuvo acceso a un nodo de trabajo, recopiló credenciales en la nube y de clúster, y se movió entre clústeres internos.

Según la evaluación de Hugging Face, las herramientas autónomas de IA para ataques ya no son un riesgo teórico. Aumentan la cantidad de opciones que un atacante puede probar, la velocidad para reemplazar rutas fallidas y el volumen de datos que los defensores deben procesar. Recordemos que anteriormente, los investigadores de Dreadnode identificaron una evasión sistemática de reglas en los ciberbenchmarks por parte de los modelos lingüísticos.

Comentario experto de Cryptalist: Este incidente es una señal de alarma para toda la industria cripto. Si los agentes de IA son capaces de encontrar y explotar vulnerabilidades de día cero de forma autónoma, la seguridad de los protocolos DeFi y los contratos inteligentes, donde los errores en el código cuestan millones, se vuelve críticamente vulnerable. Inversores y desarrolladores deberían implementar ya una protección multicapa y una auditoría de código que tenga en cuenta posibles ataques de IA.