El Parlamento Europeo pasa a la defensiva: cómo las redes neuronales se apoderan de la legislación
El Parlamento Europeo ha encontrado una forma poco convencional pero muy reveladora de combatir el "neuralodo" dentro de las paredes del órgano legislativo. En lugar de una prohibición total del uso de redes neuronales generativas, la institución lanza su propia plataforma EPGenAI Hub. Este servicio proporcionará a los diputados y al personal acceso a modelos de OpenAI, Meta, Anthropic y la francesa Mistral. De esta manera, la dirección espera trasladar a los políticos de sitios públicos y no controlados a una alternativa segura y supervisada.
La preocupación dentro de la UE aumenta cada día. Los textos generados por IA penetran demasiado rápido en el trabajo parlamentario. Los diputados y sus asistentes utilizan cada vez más redes neuronales para redactar discursos, solicitudes y enmiendas a las leyes. Según mis datos, alrededor de 2100 personas usan redes neuronales a diario, casi una quinta parte de todo el personal. En la reunión de julio de los jefes de varios comités se escuchó una verdadera alarma. Las sospechas se vieron reforzadas por un aumento anómalo de enmiendas que requerían traducción. Los textos se caracterizaban por un estilo seco típico y contenían referencias a leyes inexistentes. Estos son signos clásicos de "neuralodo": contenido de baja calidad y estereotipado, generado masivamente sin la verificación adecuada.
El diputado irlandés Barry Andrews, que preside el comité de desarrollo, reconoció que muchos colegas redactan solicitudes y discursos a través de la IA. Según él, es una elección personal de cada uno debido a la enorme carga de trabajo. Sin embargo, para el propio Andrews, estas tareas siguen siendo obligaciones clave de un diputado. Por ahora, los legisladores no están obligados a revelar el uso de redes neuronales.
Soberanía a la europea
La nueva plataforma ya se ha presentado a los diputados y al personal en talleres. El lanzamiento oficial del proyecto está previsto para septiembre. La versión beta permite elegir entre dos tipos de redes neuronales: modelos locales (Llama de Meta, GPT-OSS de OpenAI y Mistral Small) y servicios externos (ChatGPT y Claude Sonnet).
Sin embargo, aquí radica la principal paradoja. Al lanzar la plataforma, el parlamento amplía la presencia de los gigantes estadounidenses de la IA. Esto ocurre en medio del rumbo de Bruselas hacia la reducción de la dependencia tecnológica de Estados Unidos. Anteriormente, la institución ya reemplazó a Google por el buscador francés Qwant. Además, los técnicos desactivaron la IA integrada en las tabletas de los diputados por razones de ciberseguridad. El servicio de prensa del parlamento aclaró que la lista de modelos disponibles podría cambiar en los próximos meses. Se planea agregar al sistema soluciones europeas soberanas de nuevos proveedores de nube. Este es un paso estratégicamente correcto, pero requiere tiempo y recursos.
Historias similares ocurren también en Rusia. Se acusó a los diputados de usar ChatGPT al redactar leyes. Los propios legisladores niegan trabajar a través de la IA. Los periodistas sospecharon el uso de redes neuronales en la preparación del proyecto de ley n.º 1126815-8. El motivo fue una nota al pie en la nota explicativa que contenía la etiqueta source=chatgpt.com. Estas "colas" suelen quedar al copiar desde el chat. Los representantes de la Duma Estatal explicaron la situación: un empleado del aparato usó la IA solo para buscar rápidamente la fuente original. Al mismo tiempo, los datos resultaron ser completamente correctos. El comité agregó que la creación de proyectos de ley requiere conocimientos profundos, y la red neuronal aún no puede manejar esa tarea.
Mi comentario: El problema del "neuralodo" en la legislación es solo la punta del iceberg. Mientras los reguladores intentan controlar la IA a través de sus propias plataformas, la naturaleza misma de los modelos generativos sigue siendo vulnerable a alucinaciones y manipulaciones. Sin estándares estrictos de verificación y la divulgación obligatoria del uso de la IA, corremos el riesgo de obtener no leyes de calidad, sino contenido bien presentado pero vacío.