Los modelos de IA en Rusia estarán obligados a pasar una verificación de «espiritualidad» para poder acceder a las contrataciones públicas.
El mercado ruso de inteligencia artificial está al borde de cambios tectónicos. No se trata solo de un reglamento técnico, sino de la introducción de un filtro fundamentalmente nuevo: los desarrolladores que aspiren al estatus de modelo «soberano» o «nacional» deberán demostrar que sus algoritmos cumplen no solo con la letra de la ley, sino también con ciertos «valores espirituales y morales tradicionales». La discusión de este esquema tuvo lugar a finales de julio y principios de agosto en la plataforma de la ANO «Economía Digital».
Formalmente, la ley marco sobre IA entró en vigor el 26 de julio, pero solo establece los contornos. Las reglas clave del juego se definirán mediante actos sublegales, y es en torno a ellos donde se desarrolla ahora la lucha principal. Mi análisis muestra: estamos presenciando un intento del Estado de crear un precedente en el que la conformidad con los lineamientos ideológicos se convierte en una condición obligatoria para acceder a fondos presupuestarios significativos y apoyo estatal.
Cómo funcionará el examen de los algoritmos
La mecánica de verificación es la siguiente. El desarrollador presenta una solicitud a un laboratorio de pruebas acreditado, proporcionando una descripción de la arquitectura e información sobre los mecanismos de filtrado de consultas. El laboratorio, a su vez, realiza la evaluación: somete el modelo a conjuntos de pruebas (benchmarks) y verifica su resistencia a inyecciones de prompt — intentos de eludir las restricciones internas mediante instrucciones maliciosas en los datos de entrada.
Después, la conclusión se envía a la comisión gubernamental de digitalización. Un veredicto positivo abre el acceso a preferencias en las contrataciones públicas. Es notable que no se planea verificar todos los modelos, sino solo aquellos que aspiran a un estatus elevado. Los primeros sectores de implementación serán la educación y los servicios públicos.
Quién emitirá el veredicto
Aquí reside la principal intriga. En lugar de un regulador único designado, varios laboratorios que hayan pasado la verificación del organismo estatal podrán realizar la evaluación. El esquema es de dos etapas: primero, el desarrollador prueba el modelo según una metodología general basada en riesgos, y luego un laboratorio acreditado evalúa estas conclusiones y puede verificar selectivamente la resistencia del sistema. La palabra final recaerá en el Ministerio de Digitalización, mientras que las cuestiones de seguridad para los sistemas estatales serán controladas por el FSB y el FSTEC.
Los participantes del mercado que consulté coinciden en que el principal riesgo es la «subjetividad» de los criterios, lo que crea terreno para una aplicación selectiva. El arquitecto empresarial del ecosistema «Avandok», Alexéi Borshchov, señala acertadamente: categorías como la civismo o la memoria histórica no se traducen directamente en una especificación técnica. El único denominador común posible es procedimental: un formato unificado de informes, un conjunto de consultas provocativas y la reproducibilidad del resultado.
Como posible operador de las verificaciones se considera al Instituto de Programación de Sistemas de la Academia de Ciencias de Rusia. Sin embargo, el paquete de actos sublegales aún está en proceso de coordinación interministerial, y hablar de la estructura final es prematuro.
Mi evaluación experta: La introducción de una «censura espiritual» para la IA es una señal ambivalente para el mercado. Por un lado, la formalización del procedimiento y la acreditación de laboratorios es un paso hacia la madurez de la industria. Por otro lado, las formulaciones vagas crean el riesgo de convertir la certificación en una herramienta de presión administrativa. Inversores y desarrolladores deben seguir de cerca la redacción final del decreto: de cuán transparentes sean los benchmarks y los mecanismos de apelación dependerá si este sistema se convierte en un estímulo para el desarrollo o en una nueva barrera para la innovación.