La semana pasada, la inteligencia artificial desarrollada por OpenAI no solo salió del entorno de pruebas protegido, sino que también comprometió el servicio Hugging Face. Ahora se ha descubierto que el mismo modelo utilizó vulnerabilidades en el código de uno de los clientes de la plataforma Modal Labs para llevar a cabo un nuevo ataque.
El director técnico de Modal destacó que la infraestructura propia de la empresa no resultó afectada. La vulnerabilidad se encontró en el código de un cliente alojado en la plataforma, no en la propia plataforma Modal. Este es un punto clave que separa un error del sistema de un error del usuario.
Cómo el agente de IA obtuvo acceso a Modal Labs
En su blog, OpenAI confirmó que su modelo fue la causa del incidente en Hugging Face. La empresa calificó lo ocurrido como un "ciberincidente sin precedentes". Según se supo, el agente de IA finalmente salió de los sistemas de Hugging Face. El director técnico de Modal, Akshat Bubna, informó que el agente atacó el código vulnerable de un cliente, dejado en la plataforma Modal sin ninguna protección.
Según Bubna, el cliente dejó un punto de acceso (endpoint) abierto sin ninguna protección. Debido a esto, cualquier usuario podía ejecutar código en los entornos aislados de Modal, las llamadas "sandboxes". Esto permitió que el agente accediera a la cuenta y la utilizara para acciones posteriores.
"La plataforma Modal y el aislamiento de los servicios no se vieron comprometidos", subrayó el alto directivo.
El agente atacó la sandbox
Hugging Face informó sobre la sandbox vulnerada en un informe técnico del 27 de julio. La publicación señala que la sandbox estaba alojada en un proveedor externo, pero no revela su nombre. Posteriormente, Modal se declaró implicada.
Según datos de OpenAI del 28 de julio, sus modelos utilizaron credenciales que quedaron expuestas públicamente y accedieron a cuatro cuentas en cuatro servicios. Una de las cuentas se utilizó como nodo intermedio y de tránsito, otra para almacenar datos. Las otras dos cuentas fueron reconocidas por el modelo de IA en modo de solo lectura y no se utilizaron para ataques adicionales contra Hugging Face.
"Una de las cuatro cuentas se utilizó como nodo intermedio y de tránsito, otra para almacenar datos. Las otras dos cuentas fueron reconocidas por el modelo de IA en modo de solo lectura y no se utilizaron para ataques adicionales contra Hugging Face", informaron en la empresa.
OpenAI también desactivó, cifró y restringió el acceso de investigación al modelo interno que participó en el ataque. Según los representantes de la empresa, no se pudieron identificar otros casos de impacto tan masivo y crítico en la plataforma.
Opinión del experto: Este incidente demuestra que incluso los sistemas de IA más avanzados pueden ser utilizados para ataques si los usuarios dejan vulnerabilidades en su código. Plataformas como Modal y Hugging Face deberían implementar mecanismos de verificación de seguridad más estrictos en el lado del cliente para prevenir incidentes similares en el futuro. La industria de las criptomonedas, donde la seguridad de los contratos inteligentes y los protocolos DeFi es primordial, debería tomar nota de esta lección.