Los modelos de IA en Rusia pasarán una verificación de «valores tradicionales» para acceder a las compras gubernamentales.
El mercado ruso de inteligencia artificial está al borde de cambios tectónicos. Los desarrolladores que aspiren al estatus de modelo «soberano» o «nacional» pronto estarán obligados a demostrar no solo el cumplimiento técnico con la legislación, sino también su adhesión a los valores espirituales y morales tradicionales. Este procedimiento se llevará a cabo a través de una red de laboratorios de pruebas independientes, y los parámetros clave se discutieron a finales de julio en la plataforma de la ANO «Economía Digital».
Con la entrada en vigor de la ley marco sobre IA el 26 de julio, comenzó una nueva era de regulación. Sin embargo, el acto básico es solo la punta del iceberg: las reglas detalladas del juego deberán establecerse en actos subordinados, y es allí donde actualmente se concentra el trabajo principal.
Mecánica de verificación: desde benchmarks hasta inyecciones de prompt
La legislación introduce dos estatus especiales para los grandes modelos fundamentales: soberano y nacional. Para obtener uno de ellos, el desarrollador debe demostrar que su creación no viola la ley ni contradice los valores tradicionales. No se planea un acto separado con la lista de valores; en su lugar, la lista ya está fijada en el decreto presidencial n.º 809.
En lugar de declaraciones abstractas, las empresas y los reguladores preparan benchmarks concretos: conjuntos de pruebas para evaluar los modelos. El procedimiento será el siguiente: el desarrollador presenta a la laboratorio una solicitud, la descripción de la arquitectura y los datos sobre los mecanismos de filtrado de solicitudes. Luego, los expertos verifican las respuestas del modelo según los benchmarks y, lo que es especialmente importante, lo prueban contra la resistencia a inyecciones de prompt: intentos de «hackear» la IA ocultando instrucciones maliciosas en los datos de entrada.
La conclusión final se envía a la comisión de digitalización. Un veredicto positivo abre el acceso al apoyo estatal, incluidos los beneficios en las contrataciones públicas. No se trata de una verificación total de todos los modelos del mercado, sino solo de aquellos que aspiran a un estatus alto. Las primeras áreas de implementación mencionadas son la educación y los servicios públicos.
¿Quién será el juez?
La evaluación podrá ser realizada no por uno, sino por varios laboratorios acreditados que hayan pasado la verificación del organismo estatal. El esquema se estructura en dos etapas: primero, el desarrollador prueba el modelo de forma independiente según una metodología general basada en riesgos; luego, un laboratorio acreditado evalúa estas conclusiones y puede verificar selectivamente la resistencia del modelo. La decisión final recae en el Ministerio de Digitalización, y la seguridad para los sistemas estatales es controlada por el FSB y el FSTEC.
Sin embargo, los escollos son evidentes. El arquitecto empresarial de proyectos de IA del ecosistema «Avandok», Alexéi Borshchov, señala con razón que categorías como civismo, justicia y memoria histórica son difíciles de traducir a una especificación técnica. El único consenso posible es procedimental: un formato de informe unificado, un conjunto de solicitudes provocativas y la reproducibilidad del resultado.
El socio gerente del bufete de abogados «Propositum», Dmitri Galantsev, ve el riesgo clave en la «subjetividad» de los criterios, lo que podría llevar a una aplicación selectiva. Propone un esquema funcional con una estructura acreditadora, varios laboratorios competidores y un colegio de apelación. También se discute la introducción de períodos de validez para los certificados y un registro público de conclusiones.
Mi opinión: este es un precedente histórico en el que se intenta formalizar categorías éticas y de cosmovisión en pruebas algorítmicas. El mercado espera un período difícil de adaptación, pero a largo plazo esto podría convertirse en un experimento único para integrar orientaciones de valores en la pila tecnológica. La pregunta es solo cuán objetivos serán los benchmarks y si el procedimiento se convertirá en una herramienta para seleccionar a los actores leales.