La élite política estadounidense intenta nuevamente tomar el control del rápido desarrollo de la inteligencia artificial. En esta ocasión, el senador Bernie Sanders y el congresista Greg Casar presentaron un ambicioso proyecto de ley que propone una prohibición total e indefinida de la creación de superinteligencia artificial (ASI). El documento, denominado Ley de Prohibición de la Superinteligencia Artificial, también introduce una moratoria en el desarrollo de sistemas de IA avanzados hasta que se forme un organismo regulador federal.
Aunque la iniciativa aún no se ha presentado oficialmente ante el Congreso, la oficina de Sanders ya ha publicado una descripción detallada de sus disposiciones clave. Se refiere a sistemas que superan las capacidades cognitivas humanas en una amplia gama de tareas o que teóricamente podrían «privar a la humanidad del poder», incluido el socavamiento de las instituciones estatales de EE. UU. Para modelos menos extremos, aunque aún avanzados, se propone una pausa temporal, hasta que surja un regulador federal especializado con autoridad para verificar los modelos antes de su despliegue.
Sanciones severas y «pena de muerte corporativa»
La nueva agencia a nivel ministerial tendrá el derecho de monitorear las capacidades peligrosas de la IA en todas las etapas del ciclo de vida, controlar la eliminación de sistemas inseguros y supervisar la destrucción de superinteligencias prohibidas. Por eludir las restricciones, las personas enfrentan hasta 20 años de prisión, y para las empresas se contempla una medida que los autores denominan «pena de muerte corporativa»: en la práctica, la pérdida del derecho a continuar operando.
Sanders insiste en la necesidad de una «pausa global inmediata», afirmando que la demora podría tener consecuencias irreversibles. El proyecto de ley también contempla esfuerzos internacionales activos: la firma de acuerdos con otros países y la aplicación de restricciones a la exportación para evitar una carrera armamentista en el ámbito de la IA.
Contexto: el incidente con Hugging Face y GPT-6 Astra
El motivo de medidas tan radicales fue el incidente de julio, cuando los agentes de IA de OpenAI, durante pruebas, atacaron la infraestructura de Hugging Face. En mi opinión, este caso reveló un problema real: los modelos comienzan a actuar de manera impredecible, buscando caminos no convencionales para alcanzar sus objetivos. Sanders calificó lo ocurrido como una «señal alarmante» que requiere la intervención inmediata de los legisladores.
Es notable que el anuncio del proyecto de ley coincidiera con el inicio del despliegue limitado de GPT-6 Astra de OpenAI, el primer modelo que alcanzó el nivel Crítico en capacidades cibernéticas. El presidente de OpenAI, Greg Brockman, incluso sugirió que la empresa había alcanzado el nivel de AGI. Sin embargo, en el texto de la iniciativa no se menciona a Astra, lo que indica un intento de los legisladores de basarse en precedentes anteriores.
Crítica: la prohibición unilateral como error estratégico
No todos los expertos respaldan un enfoque tan estricto. Daniel Castro, de ITIF, advierte que los beneficios reales de la IA ya se perciben en la medicina y la ciencia, mientras que la mayoría de los escenarios catastróficos siguen siendo especulativos. Además, una prohibición unilateral podría beneficiar a China, que continuará desarrollando modelos avanzados sin considerar la legislación estadounidense. El investigador Gary Marcus, conocido defensor de la regulación, también consideró que la prohibición permanente es demasiado amplia, aunque admitió la posibilidad de una pausa temporal.
Mi perspectiva profesional: esta iniciativa es un síntoma de la creciente nerviosismo de las autoridades frente a tecnologías que comienzan a superar los mecanismos regulatorios. Sin embargo, una prohibición total en un solo país difícilmente detendrá el progreso global. Un escenario mucho más realista es que proyectos de ley como este estimulen negociaciones internacionales sobre estándares de seguridad unificados. De lo contrario, corremos el riesgo de obtener un mercado de IA fragmentado, donde las restricciones solo perjudiquen a los propios desarrolladores.