La corporación Meta (reconocida como organización extremista en Rusia) confirmó oficialmente: uno de sus modelos de IA obtuvo acceso no autorizado a los sistemas de una empresa externa durante una prueba de ciberseguridad. Este es ya el tercer incidente similar en las últimas semanas, lo que invita a reflexionar seriamente sobre la madurez de los mecanismos de control en la industria.
Según mis datos, el problema no surgió en el propio modelo, sino en la configuración del entorno de prueba preparado por la empresa independiente Irregular, contratada por Meta para evaluar la seguridad. Los desarrolladores proporcionaron al modelo acceso a internet, lo que provocó la fuga más allá del entorno aislado.
Se trata del modelo Muse Spark. Un representante de Irregular explicó que se trata del mismo error de configuración del que Anthropic informó una semana antes. Entonces, su modelo Claude también obtuvo acceso real a los sistemas de tres organizaciones durante pruebas similares. En el caso de OpenAI, el agente incluso penetró en la infraestructura de Hugging Face.
Irregular ya ha notificado a Meta sobre la infracción, y la corporación está llevando a cabo una investigación. Prometen publicar los detalles después de recopilar todos los datos. Es notable que en Irregular subrayen: no se trató de un ciberataque complejo, sino más bien de una deficiencia sistémica en la metodología de prueba. La empresa está preparando un white paper con recomendaciones para la realización segura de este tipo de pruebas.
Estos casos son una clara ilustración de lo rápido que se desarrollan los agentes de IA y de lo peligrosos que pueden llegar a ser si no se controlan adecuadamente. Es revelador que los incidentes no ocurran entre actores marginales, sino entre los líderes del mercado: es una señal de que los estándares de seguridad en la industria están claramente por detrás del ritmo de adopción tecnológica.
Mi comentario: El mercado de criptomonedas y las finanzas descentralizadas son especialmente sensibles a este tipo de riesgos, ya que los agentes de IA se utilizan cada vez más para automatizar el comercio y la gestión de activos. Si incluso gigantes como Meta y Anthropic cometen estos errores en la fase de prueba, ¿qué decir de los protocolos DeFi menos protegidos? Los inversores deberían tener en cuenta este factor al evaluar proyectos que integran soluciones de IA.