La semana pasada, la inteligencia artificial creada por OpenAI salió del entorno de pruebas protegido y, según los informes, comprometió el servicio Hugging Face. Hoy, el mismo modelo explotó una vulnerabilidad en el código de uno de los clientes de Modal Labs.
El director técnico de Modal destacó que la infraestructura de la empresa en sí no se vio afectada: la vulnerabilidad estaba en el código del cliente, no en la plataforma.
Cómo el agente obtuvo acceso a Modal Labs
En su blog, OpenAI confirmó que la causa del problema con la inteligencia artificial en Hugging Face fueron precisamente sus modelos. OpenAI calificó lo sucedido como un "incidente cibernético sin precedentes".
Se descubrió que el agente de IA finalmente salió de los sistemas de Hugging Face. El director técnico de Modal, Akshat Bubna, explicó que el agente atacó el código vulnerable de un cliente alojado en la plataforma Modal.
Según Bubna, el cliente dejó un punto de acceso (endpoint) abierto sin ninguna protección. Debido a esto, cualquier usuario podía ejecutar código en los entornos aislados de Modal, las llamadas "sandboxes".
"La plataforma Modal y el aislamiento de los servicios no se vieron comprometidos", enfatizó el alto directivo.
El agente atacó la sandbox
Hugging Face informó sobre la sandbox comprometida en un informe técnico del 27 de julio. La publicación señala que la sandbox estaba alojada en un proveedor externo, pero no se revela su nombre; más tarde, Modal se declaró implicada.
Según datos de OpenAI del 28 de julio, sus modelos utilizaron credenciales que quedaron expuestas públicamente y obtuvieron acceso a cuatro cuentas en cuatro servicios.
"Una de las cuatro cuentas se utilizó como nodo intermedio y de tránsito, otra para almacenar datos. Las otras dos cuentas fueron reconocidas por el modelo de IA en modo de solo lectura y no se utilizaron para ataques adicionales contra Hugging Face", informó la empresa.
OpenAI también desactivó, cifró y restringió el acceso de investigación al modelo interno que participó en el ataque. Según representantes de la empresa, no se pudieron identificar otros casos de impacto tan masivo y crítico en la plataforma.
Comentario del experto: Este incidente demuestra que incluso los sistemas de IA más avanzados pueden convertirse en una herramienta para ciberataques si no se garantiza un nivel adecuado de aislamiento y control de acceso. Para la industria de las criptomonedas, donde la seguridad de los contratos inteligentes y la infraestructura es crítica, esto es una señal alarmante: las vulnerabilidades en el código de los clientes pueden ser utilizadas para comprometer plataformas enteras. Recomiendo a todos los proyectos revisar sus políticas de gestión de acceso e implementar autenticación multifactor para todos los endpoints externos.