Los modelos de IA se someterán a una verificación de espiritualidad: el acceso a las contrataciones públicas se convertirá en un privilegio.
Los desarrolladores rusos de inteligencia artificial se enfrentarán a una nueva barrera: sus modelos deberán confirmar su conformidad no solo con la legislación, sino también con los valores espirituales y morales tradicionales. Se prevé que el procedimiento se lleve a cabo en laboratorios de pruebas independientes. Esta iniciativa se debatió activamente a finales de julio y principios de agosto en la plataforma de la ANO «Economía Digital».
Cómo se realizará la verificación
La ley federal sobre IA, que entró en vigor el 26 de julio, tiene un carácter marco. Las reglas clave, como había previsto, se establecerán mediante actos sublegales. La ley introduce dos estatus especiales para los grandes modelos fundamentales: «soberano» y «nacional». Para obtener uno de ellos, el desarrollador está obligado a demostrar que su producto cumple con las normas del derecho y los valores tradicionales.
Por ahora no se planea un documento separado con la lista de valores: el listado ya está fijado en el decreto presidencial n.º 809. En su lugar, las empresas junto con los reguladores desarrollarán puntos de referencia especiales (benchmarks): conjuntos de pruebas para evaluar los modelos. El procedimiento será el siguiente: el desarrollador presenta una solicitud al laboratorio, adjuntando la descripción de la arquitectura y los datos sobre los mecanismos de filtrado de solicitudes. Luego, los expertos verifican las respuestas del modelo según los benchmarks y lo prueban para evaluar su resistencia a las inyecciones de prompt, el llamado hackeo de IA, cuando una instrucción maliciosa se oculta en los datos de entrada.
El dictamen de conformidad se envía a la comisión gubernamental de digitalización. Un veredicto positivo abre el acceso al apoyo estatal, incluidos los beneficios en las contrataciones públicas.
Es importante destacar: nadie pretende verificar todos los modelos del mercado. Se trata únicamente de los desarrollos que aspiran al estatus de soberanos o nacionales. Los primeros ámbitos de implementación serán la educación y los servicios públicos.
Quién emitirá el veredicto
El esquema prevé un sistema de dos niveles. Primero, el desarrollador prueba el modelo de forma independiente según una metodología general basada en riesgos. Luego, un laboratorio acreditado evalúa sus conclusiones y puede verificar selectivamente la resistencia del modelo. La decisión final sobre el estatus corresponde al Ministerio de Digitalización. Los requisitos de seguridad para los sistemas de información estatales serán controlados por el FSB y el FSTEC. Los principales desarrolladores ya cuentan con herramientas para bloquear solicitudes prohibidas, por lo que el ministerio espera apoyarse en la experiencia del mercado.
Los expertos del sector coinciden en que la interpretación sustantiva de los valores tradicionales es una tarea nada trivial. La civismo, la justicia y la memoria histórica no se traducen directamente en un pliego de condiciones técnicas. Solo es realista un enfoque procedimental: un formato de informe unificado, un conjunto de solicitudes provocadoras y la reproducibilidad del resultado. El riesgo clave es la «subjetividad» de los criterios, lo que podría llevar a una aplicación selectiva. Parece viable un esquema con una estructura acreditadora, varios laboratorios competidores y un tribunal de apelación externo al sector. También se propone introducir plazos de validez de los certificados y un registro público de dictámenes.
Mi análisis: Este es un paso significativo que transforma la regulación de la IA de formal a sustantiva. Sin embargo, sin métricas claras y medibles de «espiritualidad», el sistema corre el riesgo de convertirse en un instrumento de negociación burocrática. El mercado necesita benchmarks transparentes y laboratorios independientes; de lo contrario, la innovación se ocultará y los estatus solo los obtendrán los actores leales. El tiempo dirá si esta iniciativa puede convertirse en un modelo para otras jurisdicciones o si seguirá siendo un experimento único.