Evaluación espiritual para la IA: Rusia introduce una verificación obligatoria de los modelos según los valores tradicionales
El mercado ruso de inteligencia artificial está al borde de cambios tectónicos. Los desarrolladores que aspiren al estatus de modelo «soberano» o «nacional» estarán obligados a confirmar que sus productos cumplen no solo con la legislación, sino también con ciertos «valores espirituales y morales tradicionales». Este procedimiento, debatido activamente a finales de julio y principios de agosto en la plataforma de la ANO «Economía Digital», cambia radicalmente las reglas del juego para todos los grandes actores del sector.
Formalmente, la ley de IA entró en vigor el 26 de julio, pero tiene un carácter marco. Los mecanismos clave, incluida la famosa verificación de «espiritualidad», se detallarán en reglamentos secundarios que actualmente se encuentran en su fase final de aprobación.
¿Cómo funcionará el nuevo sistema?
Mi análisis muestra que el regulador avanza hacia la creación de un sistema de certificación de dos niveles. La ley introduce dos estatus especiales para los grandes modelos fundamentales: «soberano» y «nacional». Para obtener uno de ellos, el desarrollador deberá demostrar que su IA no contradice los valores tradicionales.
Es notable que no se planea redactar un acto separado con la lista de valores, ya que esta ya está fijada en el decreto presidencial n.º 809. En su lugar, se desarrollarán conjuntamente con las empresas puntos de referencia especiales (benchmarks): conjuntos de pruebas para evaluar los modelos.
El procedimiento será el siguiente: el desarrollador presenta a un laboratorio acreditado una solicitud, la descripción de la arquitectura y los datos sobre los mecanismos de filtrado de consultas. Luego, los expertos verifican las respuestas del modelo en los benchmarks y lo prueban para evaluar su resistencia a las inyecciones de prompt, los llamados «hackeos de IA», cuando una instrucción maliciosa se oculta en los datos de entrada.
Un dictamen positivo de los expertos se convertirá en un pase a las preferencias estatales, incluido el acceso prioritario a las contrataciones públicas. Sin embargo, no se evaluarán todos los modelos del mercado, solo aquellos que aspiren al alto estatus. Según mis datos, los primeros ámbitos de implementación serán la educación y los servicios públicos.
¿Quién emitirá el veredicto?
La cuestión clave es quién tendrá derecho a realizar la evaluación. Las empresas de TI han acordado que no será una única organización designada, sino varios laboratorios que hayan superado la verificación del organismo estatal. El esquema se estructura en dos pasos: primero, el desarrollador prueba el modelo de forma independiente según una metodología general basada en riesgos, y luego un laboratorio acreditado evalúa estas conclusiones y puede verificar selectivamente la resistencia del modelo.
La decisión final sobre el estatus recaerá en el Ministerio de Digitalización. Los requisitos de seguridad para los sistemas estatales serán verificados por el FSB y el FSTEC. El Instituto de Programación de Sistemas de la Academia de Ciencias de Rusia también podría aspirar al rol de evaluador.
Sin embargo, esta iniciativa tiene serias piedras en el camino. El arquitecto empresarial de proyectos de IA del ecosistema «Avandok», Alexéi Borshchov, señala con razón que categorías tan abstractas como civismo, justicia y memoria histórica no pueden traducirse directamente en especificaciones técnicas. El único denominador posible es procesal: un formato de informe unificado, un conjunto de consultas provocativas y la reproducibilidad del resultado.
El socio gerente del bufete de abogados «Propositum», Dmitri Galántsev, advierte sobre el principal riesgo: la «subjetividad» de los criterios, lo que abre la puerta a una aplicación selectiva. Propone un esquema más sólido: una estructura acreditadora, varios laboratorios competidores y un colegio de apelación fuera del sector, además de un registro público de dictámenes y plazos de validez de los certificados.
Mi veredicto: esta iniciativa es un claro ejemplo de cómo la regulación intenta domar la tecnología. Por un lado, crear un sistema transparente de certificación de IA es un paso en la dirección correcta para la seguridad. Por otro, intentar medir la «espiritualidad» de un algoritmo mediante benchmarks parece un oxímoron burocrático que podría llevar a un enfoque formal o a la creación de una nueva herramienta de presión sobre el mercado. Inversores y desarrolladores deberían seguir de cerca la redacción final de los reglamentos secundarios: ahí se decidirá si este sistema se convierte en un mecanismo funcional o en otra decoración más.