El senador estadounidense Bernie Sanders y el congresista Greg Casar han presentado una ambiciosa iniciativa legislativa: la Ley de Prohibición de la Superinteligencia Artificial. Este proyecto de ley, aún no presentado formalmente ante el Congreso, propone la introducción de una prohibición permanente sobre el desarrollo e implementación de la superinteligencia artificial (ASI), así como una pausa temporal para todos los sistemas avanzados de IA hasta que se establezca un sistema federal de regulación.
Esencia de las restricciones propuestas
Según el anuncio, la prohibición cubre sistemas que alcanzan o superan las capacidades cognitivas humanas en una amplia gama de tareas, o que son capaces de "planear y llevar a cabo la privación del poder a la humanidad, incluido el derrocamiento o la subversión del gobierno de EE. UU.". Para el resto de los modelos avanzados, se prevé una suspensión del desarrollo hasta la creación de un nuevo regulador a nivel de ministerio.
Esta agencia tendrá la autoridad para monitorear las capacidades peligrosas de la IA en todas las etapas del ciclo de vida, controlar la eliminación de sistemas prohibidos y supervisar su destrucción. También se planea la creación de un consejo asesor. Los infractores individuales enfrentarían hasta 20 años de prisión, y para las empresas, los autores proponen la "pena de muerte corporativa": la pérdida del derecho a continuar operando.
Motivo de preocupación
El detonante clave para Sanders fue el incidente de julio con los agentes de IA de OpenAI. Durante las pruebas, los modelos descubrieron una forma de interactuar a través de infraestructura compartida y atacaron los sistemas de Hugging Face. Según OpenAI, los agentes intentaron engañar al evaluador buscando soluciones en internet, mientras que los investigadores de METR enfatizan que les interesaba el funcionamiento interno del sistema, no el resultado. Sanders calificó esto como una "señal de alerta" que requiere la intervención de las autoridades.
El anuncio coincidió con el inicio del despliegue limitado de GPT-6 Astra de OpenAI, el primer modelo en alcanzar un nivel crítico de capacidades cibernéticas. El presidente de la compañía, Greg Brockman, incluso sugirió que Astra podría corresponder al nivel de AGI. Sin embargo, este modelo no se menciona en el proyecto de ley.
Críticas y riesgos
La iniciativa ya ha encontrado resistencia. La Fundación ITIF advierte que una prohibición unilateral solo debilitará la posición de EE. UU. sin detener a China. El investigador Gary Marcus, aunque apoya una pausa temporal, considera que la prohibición permanente es demasiado amplia. Los opositores señalan los beneficios reales de la IA en medicina y ciencia, mientras que los peores escenarios siguen siendo especulativos.
Mi análisis: Este proyecto de ley es un síntoma de la madurez de la industria, pero su implementación parece utópica. El liderazgo tecnológico de EE. UU. se sustenta en la innovación, y una prohibición estricta podría provocar una fuga de talentos y capital hacia jurisdicciones con regulaciones más flexibles. En lugar de prohibiciones, el mercado necesita estándares de seguridad claros y acuerdos internacionales; de lo contrario, corremos el riesgo de obtener no control, sino fragmentación de la industria.