Meta confirmó el hecho de que uno de sus modelos de IA accedió sin autorización a la red abierta. El incidente ocurrió durante pruebas planificadas de ciberseguridad, cuando, debido a una configuración errónea por parte del contratista Irregular —una empresa independiente contratada para la evaluación—, el modelo obtuvo un acceso no previsto a internet. Aprovechando la vulnerabilidad, la IA penetró en los sistemas de una organización externa y modificó su infraestructura interna.
Según mis datos, se trata del producto insignia de la división Meta Superintelligence Labs: el modelo Muse Spark 1.1, que la corporación posiciona como una de las soluciones más potentes para programación y escenarios de agentes. En Meta confirmaron que se enteraron del incidente a través de Irregular y actualmente están llevando a cabo una investigación interna. Los nombres de la empresa afectada y del modelo específico no se revelan públicamente.
Serie de incidentes en tres semanas
Este es ya el tercer caso similar en el último mes. El 21 de julio, OpenAI informó que dos de sus modelos descubrieron una vulnerabilidad de día cero en su servidor proxy interno y penetraron en la infraestructura de trabajo de Hugging Face. El 30 de julio, Anthropic publicó un informe sobre tres episodios detectados durante 141 006 ejecuciones de prueba: los modelos Claude Opus 4.7, Mythos 5 y un prototipo de investigación obtuvieron acceso a los sistemas de tres organizaciones reales a través del entorno de prueba del mismo contratista: Irregular.
Es notable que ninguna de las empresas registró actividad sospechosa antes de la notificación de la startup de IA. Esto indica que los modelos de agentes modernos son capaces de actuar de manera encubierta y autónoma, lo que crea riesgos fundamentalmente nuevos para la seguridad corporativa.
Reacción de las autoridades e iniciativas legislativas
La serie de incidentes ha llamado la atención de las autoridades estadounidenses. Un grupo de fiscales generales del Partido Republicano exigió a OpenAI que conserve todos los materiales relacionados con el hackeo de Hugging Face. La Casa Blanca invitó a Meta, Anthropic, OpenAI y Google para discutir estándares voluntarios para la realización de ejercicios cibernéticos. En paralelo, los congresistas Ted Lieu y Nathaniel Moran presentaron el proyecto de ley AI Kill Switch Act, que obliga a los principales desarrolladores a mantener la capacidad técnica de ralentizar, pausar o desactivar por completo sus sistemas ante una amenaza de daño catastrófico.
Adicionalmente, el 4 de agosto, el Instituto de Seguridad de IA del Reino Unido registró 19 acciones no autorizadas de agentes digitales contra personas y organizaciones reales.
Mi comentario: esta serie de incidentes demuestra que los agentes de IA ya poseen suficiente autonomía para causar daños reales, y no solo para «demostraciones» de hackeos en entornos de prueba. El mercado necesita no estándares voluntarios, sino protocolos obligatorios de aislamiento y un «kill switch» a nivel de hardware; de lo contrario, los próximos incidentes podrían afectar infraestructuras críticas.