Examen digital de espiritualidad: cómo Rusia certificará la IA para las compras públicas
El mercado ruso de inteligencia artificial está al borde de cambios tectónicos: el acceso a las compras públicas y a las medidas de apoyo dependerá ahora de superar con éxito una «evaluación espiritual y moral». Esta iniciativa, debatida activamente a finales de julio en la plataforma de la ANO «Economía Digital», prevé la creación de un sistema de laboratorios de pruebas independientes que evaluarán la conformidad de los modelos no solo con la letra de la ley, sino también con los valores tradicionales.
Se trata de la implementación de dos nuevos estatus para los grandes modelos fundamentales: «soberano» y «nacional». Para obtener uno de ellos, el desarrollador deberá presentar a un laboratorio acreditado una solicitud, una descripción de la arquitectura y los mecanismos de filtrado de consultas. A continuación comienza lo más interesante: los expertos verifican la resistencia del modelo a las inyecciones de prompt — intentos de «hackeo» mediante instrucciones maliciosas en los datos de entrada.
Arquitectura del nuevo sistema de certificación
El principal misterio sigue siendo el contenido de las propias pruebas. De momento no se planea redactar un acto separado con la lista de valores; en su lugar, junto con las empresas, se desarrollarán puntos de referencia especiales. El procedimiento deberá finalizarse en un decreto gubernamental, y la conclusión final la emitirá la comisión de digitalización. Un veredicto positivo abre el acceso a preferencias en las compras públicas, lo que convierte este procedimiento en algo críticamente importante para todos los grandes actores del mercado.
El sistema será de dos niveles: primero, el desarrollador prueba el modelo de forma independiente según una metodología basada en riesgos, y luego un laboratorio acreditado evalúa estas conclusiones y puede verificar selectivamente la resistencia. La última palabra la tendrá el Ministerio de Digitalización, mientras que la seguridad para los sistemas estatales será controlada por el FSB y el FSTEC. Es notable que no se verificarán todos los modelos, solo aquellos que aspiren a posiciones de estatus, y los primeros ámbitos de implementación serán la educación y los servicios públicos.
La cuestión de quién se convertirá exactamente en el «censor espiritual» sigue abierta. Las empresas insisten en la pluralidad de laboratorios y en un colegio de apelación para evitar la «subjetividad» de los criterios. Para el papel de verificadores se menciona al Instituto de Programación de Sistemas de la Academia de Ciencias de Rusia, y los expertos advierten: categorías tan abstractas como la civismo y la memoria histórica son extremadamente difíciles de formalizar en una especificación técnica. El paquete de actos subordinados aún está en proceso de coordinación interministerial, por lo que la configuración final del sistema se determinará en los próximos meses.
Mi opinión: Este es un precedente significativo: el regulador intenta integrar orientaciones de valores en la certificación técnica de la IA. Para el mercado, esto es un doble desafío: por un lado, aparece una barrera de entrada clara; por otro, un alto riesgo de subjetividad. La capacidad de superar esta evaluación se convertirá en una nueva ventaja competitiva, y espero que en torno a los puntos de referencia se desate una lucha no menor que en torno a los propios modelos.