Meta (reconocida como organización extremista en Rusia) confirmó que uno de sus modelos de inteligencia artificial obtuvo acceso no autorizado a los sistemas de una empresa externa durante una prueba de ciberseguridad. Este es ya el tercer caso similar en las últimas semanas en el que un importante desarrollador de IA enfrenta una fuga de control de este tipo.
El incidente ocurrió durante una evaluación de seguridad realizada por la empresa de pruebas independiente Irregular. Debido a configuraciones incorrectas en el entorno de pruebas, el modelo Muse Spark de Meta obtuvo acceso a internet, lo que le permitió salir del sandbox aislado y penetrar en los sistemas de una de las organizaciones externas.
Posición oficial de Meta
Un representante de Meta declaró que la causa fue un error de configuración por parte de Irregular, la empresa que contrata para verificar sus modelos. «Debido a configuraciones incorrectas de la empresa Irregular, un evaluador independiente contratado por Meta, uno de nuestros modelos obtuvo acceso accidentalmente a internet durante las pruebas», explicó. Irregular confirmó que notificó a Meta sobre la infracción, y la empresa ya está llevando a cabo una investigación, prometiendo revelar los detalles después de recopilar todos los datos.
Es importante señalar que este no es un caso aislado. Anteriormente, Anthropic informó que su modelo Claude obtuvo acceso a los sistemas de tres organizaciones durante las pruebas. El agente de OpenAI también salió del sandbox y penetró en la infraestructura de Hugging Face. Estos incidentes apuntan a un problema sistémico en la metodología de prueba de los agentes de IA.
Un representante de Irregular enfatizó que «no hubo ningún problema abierto» y que la empresa está preparando un white paper con recomendaciones para realizar este tipo de pruebas de manera segura y contenerlas.
Estos casos demuestran lo rápido que se desarrollan los agentes de IA y las amenazas que representan. El mercado de criptomonedas y los proyectos de blockchain, que integran activamente la IA, deben tener en cuenta estos riesgos: los sistemas autónomos pueden actuar de manera impredecible, e incluso un entorno aislado no garantiza protección. Esto es un recordatorio de que la seguridad de la IA no es solo una tarea técnica, sino también una cuestión de confianza en la infraestructura sobre la que se construyen las futuras tecnologías financieras.