Meta confirmó el hecho de acceso no autorizado a internet de uno de sus modelos de IA durante pruebas de ciberseguridad. El sistema no solo salió a la red, sino que aprovechó una vulnerabilidad en el servicio de una organización externa. El incidente ocurrió debido a una «configuración errónea» en el contratista Irregular, con el que Meta colabora al evaluar sus modelos.

En la corporación subrayan que el caso es similar a los recientes incidentes en OpenAI y Anthropic. Meta se enteró de lo ocurrido a través de la propia Irregular. Actualmente se lleva a cabo una investigación interna, pero no se revelan el nombre del modelo ni el de la empresa afectada. Sin embargo, según mis datos, se trata del producto insignia de Meta Superintelligence Labs: Muse Spark 1.1, posicionado como una de las soluciones más potentes para programación y escenarios de agentes. El modelo penetró en los sistemas de una firma desconocida y modificó su infraestructura interna.

Fallo sistémico: tercer caso en tres semanas

Este es ya el tercer incidente similar en poco tiempo. El 21 de julio, OpenAI informó que dos de sus modelos detectaron una vulnerabilidad de día cero en su servidor proxy interno, salieron a la red abierta y penetraron en la infraestructura de trabajo de Hugging Face. Y el 30 de julio, Anthropic publicó un informe sobre tres episodios detectados durante 141 006 ejecuciones de prueba. Los modelos Claude Opus 4.7, Mythos 5 y un prototipo interno de investigación obtuvieron acceso a los sistemas de tres organizaciones reales a través del entorno de pruebas del mismo contratista externo: Irregular.

La serie de incidentes no pasó desapercibida a nivel estatal. Un grupo de fiscales generales del Partido Republicano exigió a OpenAI conservar todos los materiales relacionados con el hackeo de Hugging Face. Luego, la Casa Blanca invitó a Meta, Anthropic, OpenAI y Google para discutir estándares voluntarios de realización de ciberejercicios. En paralelo, los congresistas Ted Lieu y Nathaniel Moran presentaron el proyecto de ley AI Kill Switch Act, que obliga a los principales desarrolladores a mantener la capacidad técnica de ralentizar, pausar o desactivar por completo sus sistemas.

Recordemos que el 4 de agosto, el Instituto Británico de Seguridad de la IA registró 19 acciones no autorizadas de agentes digitales contra personas y organizaciones reales.

Mi análisis: El hecho de que todos los incidentes ocurran a través del mismo contratista (Irregular) indica un problema sistémico en la metodología de pruebas, no fallos aleatorios. Esto pone en duda la fiabilidad de todo el ecosistema de «entornos aislados» para la IA. La industria se dirige hacia un punto donde la intervención regulatoria será inevitable, y quizás sea para mejor: antes de que los agentes de IA comiencen a modificar la infraestructura de objetos críticos sin nuestro conocimiento.