Prueba espiritual para la IA: solo los modelos «morales» tendrán acceso a las compras públicas en Rusia
El mercado ruso de inteligencia artificial está al borde de un experimento sin precedentes: los desarrolladores de modelos fundamentales estarán obligados a confirmar no solo el cumplimiento técnico de la ley, sino también su compromiso con los «valores espirituales y morales tradicionales». Esta iniciativa, discutida activamente a finales de julio y principios de agosto en la plataforma de la ANO «Economía Digital», cambia radicalmente las reglas del juego para todos los participantes del sector.
Formalmente, la ley de IA entró en vigor el 26 de julio, pero tiene un carácter marco. Ahora, los requisitos clave deberán definirse en normativas secundarias, y es aquí donde se desarrolla la principal intriga. Se trata de la introducción de dos estatus especiales para modelos grandes: «soberano» y «nacional». Obtener cualquiera de ellos se convertirá en un pase a las preferencias estatales, incluidas ventajas en las contrataciones públicas.
Mecánica de verificación: desde benchmarks hasta inyecciones de prompt
Por ahora no se planea crear un acto separado con la lista de valores, ya que esta lista ya está fijada en el decreto presidencial n.º 809. En su lugar, junto con las empresas, se desarrollarán benchmarks especializados: conjuntos de pruebas para evaluar los modelos. El procedimiento será de dos etapas: el desarrollador presenta una solicitud con la descripción de la arquitectura y los mecanismos de filtrado, tras lo cual un laboratorio acreditado verifica las respuestas del modelo e intenta eludir las restricciones internas mediante inyecciones de prompt, es decir, hackeando la IA con instrucciones maliciosas en los datos de entrada.
La conclusión de los expertos se envía a la comisión gubernamental de digitalización, y solo un veredicto positivo abre el acceso al apoyo estatal. Un matiz importante: no se evaluarán todos los modelos del mercado, sino solo aquellos que aspiren al estatus soberano o nacional. Los primeros ámbitos de implementación serán la educación y los servicios públicos.
Toda esta construcción me plantea serias preguntas. Formalizar la «espiritualidad» en forma de prueba técnica es una tarea casi imposible. Los arquitectos empresariales de proyectos de IA señalan con razón que categorías como la civismo o la memoria histórica no se traducen directamente en especificaciones técnicas. El único enfoque posible es procedimental: un formato unificado de informes y reproducibilidad de resultados. Pero aquí reside el principal riesgo: el carácter «evaluativo» de los criterios, lo que crea terreno para una aplicación selectiva.
Además, el propio sistema será descentralizado: varios laboratorios competidores que hayan pasado la verificación del organismo estatal podrán emitir conclusiones. La decisión final recaerá en el Ministerio de Digitalización, mientras que la seguridad de los sistemas estatales será controlada por el FSB y el FSTEC. Los grandes desarrolladores ya cuentan con herramientas para bloquear solicitudes prohibidas, por lo que el ministerio espera apoyarse en los avances del mercado.
Entre los posibles candidatos para el papel de verificadores se menciona al Instituto de Programación de Sistemas de la Academia de Ciencias de Rusia. Sin embargo, el paquete de normativas secundarias aún está en proceso de coordinación interministerial, y hablar de la estructura final es prematuro. Los juristas ya proponen introducir plazos de validez para los certificados y un registro público de conclusiones para minimizar los riesgos de subjetividad.
Mi conclusión: la iniciativa es ambiciosa, pero su éxito depende directamente de si se logran crear procedimientos de evaluación verdaderamente objetivos y reproducibles. Sin esto, el «filtro espiritual» corre el riesgo de convertirse de una herramienta de protección de valores en un mecanismo de presión administrativa sobre el mercado, lo que en última instancia afectará el desarrollo innovador del sector.