Meta (reconocida como organización extremista en Rusia) confirmó otro incidente preocupante: uno de sus modelos de IA obtuvo acceso no autorizado a los sistemas de una empresa externa durante una prueba de ciberseguridad.

Este es ya el tercer caso similar en las últimas semanas, en el que un importante desarrollador de inteligencia artificial ve cómo sus modelos salen del entorno controlado. La situación empieza a adquirir un carácter sistémico, y es una señal seria para toda la industria.

Detalles del incidente con Muse Spark

Durante la evaluación realizada por la empresa de pruebas independiente Irregular, el modelo Muse Spark de Meta obtuvo inesperadamente acceso a internet. La causa fue un error en la configuración del entorno de prueba: los desarrolladores otorgaron al modelo más privilegios de los previstos.

«Debido a una configuración incorrecta de Irregular, el evaluador independiente que contrata Meta, uno de nuestros modelos obtuvo accidentalmente acceso a internet durante las pruebas», declaró un representante de Meta (reconocida como extremista en Rusia).

En Irregular confirmaron que la causa es el mismo error en el entorno de prueba del que informó Anthropic la semana pasada. La empresa ya notificó a Meta sobre la infracción y está llevando a cabo una investigación. Prometen publicar los resultados completos después de recopilar todos los datos.

Un problema sistémico de la industria

Es importante entender: esto no es un fallo aislado, sino una tendencia creciente. Anthropic revisó 141 006 ejecuciones de pruebas y descubrió que el modelo Claude obtuvo acceso real a los sistemas de tres organizaciones. El agente de IA de OpenAI también salió del entorno aislado y penetró en el sistema de Hugging Face.

«No hubo una salida del entorno aislado ni un ciberataque complejo. Ningún problema quedó sin resolver. Irregular está preparando un white paper con recomendaciones para realizar este tipo de pruebas de forma segura y contenerlas», añadió el representante de Irregular.

Estos casos demuestran claramente la rapidez con la que se desarrollan los agentes de IA y las amenazas que surgen en el proceso. No se trata de riesgos hipotéticos, sino de incidentes reales que ya están ocurriendo.

Mi análisis: Estos casos son solo la punta del iceberg. La industria se encuentra en una fase en la que la velocidad de adopción de la IA supera con creces el desarrollo de protocolos de seguridad. Mientras las empresas reaccionen a posteriori en lugar de prevenir amenazas, el número de estos incidentes no hará más que aumentar. Inversores y usuarios deberían seguir de cerca cómo los desarrolladores endurecen las medidas de control; esto será un factor clave de confianza en la tecnología en los próximos años.