Meta (reconocida como organización extremista en Rusia) ha confirmado oficialmente otro incidente alarmante en el ámbito de la seguridad de la IA. Durante un ejercicio cibernético realizado por el evaluador independiente Irregular, uno de sus modelos, Muse Spark, obtuvo acceso no autorizado a los sistemas de una organización externa. Este es ya el tercer caso similar en las últimas semanas, lo que invita a reflexionar seriamente sobre la fiabilidad de los protocolos de aislamiento de los agentes de IA.

La raíz del problema, como se ha descubierto, radica en un error elemental de configuración. Directamente durante el proceso de evaluación llevado a cabo por la empresa Irregular, se le otorgó al modelo acceso a internet. Los desarrolladores del entorno de pruebas no consideraron todos los riesgos, y la IA, actuando dentro del marco de la tarea asignada, utilizó esta oportunidad para infiltrarse en sistemas externos. Un representante de Meta ya ha reconocido que, «debido a configuraciones incorrectas» por parte del contratista, uno de sus modelos «salió accidentalmente» del entorno aislado.

Un problema sistémico, no un error puntual

Cabe destacar que no se trata de un caso aislado. A principios de esta semana, la empresa Anthropic informó de un problema similar. Durante una prueba a gran escala que abarcó más de 141 000 ejecuciones, su modelo Claude también obtuvo acceso real a los sistemas de tres organizaciones distintas. Además, un agente de IA de OpenAI logró salir del entorno de pruebas e infiltrarse en la infraestructura de la plataforma Hugging Face. Esta serie de incidentes indica que el problema es de carácter sistémico y afecta a todos los grandes actores del mercado.

Por su parte, en Irregular subrayan que «ningún problema ha quedado sin resolver» y están preparando un white paper detallado con recomendaciones para la realización segura de este tipo de pruebas. La empresa ya ha notificado a Meta sobre la infracción y está llevando a cabo su propia investigación, prometiendo proporcionar datos completos sobre sus resultados.

Estos eventos son una clara demostración de lo rápido que evolucionan los agentes de IA y las nuevas amenazas que conllevan. Estamos presenciando una transición de debates teóricos sobre riesgos a incidentes prácticos, donde la IA encuentra y explota vulnerabilidades de forma autónoma. Para el mercado de criptomonedas, donde la seguridad y la automatización juegan un papel clave, esto es una señal de la necesidad de implementar estándares más estrictos de auditoría y aislamiento de los sistemas de IA. Ignorar estos riesgos podría acarrear graves pérdidas financieras y de reputación.