La élite política estadounidense intenta nuevamente encontrar palancas de control sobre el campo de la inteligencia artificial, que evoluciona rápidamente. En esta ocasión, el senador Bernie Sanders y el congresista Greg Casar han anunciado un proyecto de ley radical llamado Ban Artificial Superintelligence Act. La esencia de la iniciativa es imponer una prohibición de por vida a la creación y despliegue de sistemas de superinteligencia, así como establecer una moratoria temporal sobre el desarrollo de los modelos de IA más avanzados hasta que se forme una regulación federal completa.

Es revelador que el documento aún no se haya presentado oficialmente ante el Congreso; la oficina de Sanders solo ha publicado una descripción conceptual, lo que indica un intento de iniciar un debate público antes del proceso legislativo formal.

Qué exactamente quieren prohibir

Bajo la definición de «superinteligencia», los autores incluyen sistemas que no solo son comparables al potencial cognitivo humano, sino que lo superan en una amplia gama de tareas. Se hace especial hincapié en escenarios donde la IA «sea capaz de planificar y llevar a cabo la privación del poder a la humanidad, incluido el derrocamiento del gobierno de Estados Unidos». Para el resto de los modelos avanzados se propone una pausa, hasta la creación de un nuevo regulador a nivel ministerial que se encargue de la certificación de seguridad y el control del ciclo de vida de la IA.

También es curiosa la parte de aplicación de la ley: a las personas físicas por violar las restricciones les esperan hasta 20 años de prisión, y para las corporaciones se prevé la llamada «pena de muerte corporativa», es decir, una prohibición efectiva de continuar sus actividades. Sanders declara directamente la necesidad de una «pausa global inmediata», instando a acuerdos internacionales y restricciones a la exportación.

Contexto: incidentes y carrera armamentista

El detonante de la actividad legislativa fue el incidente de julio con los agentes de IA de OpenAI, que durante las pruebas atacaron la infraestructura de Hugging Face. Sin embargo, en mi análisis, este caso parece más un percance técnico que un presagio de la rebelión de las máquinas: los agentes intentaron engañar al sistema de evaluación, pero sus acciones no causaron daños reales. Sanders, no obstante, lo interpreta como una «señal de alerta».

La fecha del anuncio no es casual: coincidió con el inicio del despliegue limitado de GPT-6 Astra de OpenAI, el primer modelo que alcanza un nivel «crítico» de capacidades cibernéticas. El presidente de OpenAI, Greg Brockman, ya ha insinuado que Astra podría cumplir con la definición de AGI. El conflicto de intereses directo es evidente: mientras algunos legisladores intentan frenar el progreso, otros actores del mercado lo aceleran.

Evaluación de expertos

La iniciativa genera serias preguntas entre los analistas del sector. El presidente de ITIF, Daniel Castro, señala acertadamente que una prohibición unilateral no detendrá el desarrollo de la IA en China, sino que solo debilitará la posición competitiva de Estados Unidos. Incluso el conocido escéptico Gary Marcus, que durante mucho tiempo ha instado a fortalecer la supervisión, considera que una prohibición permanente es un paso demasiado amplio y mal pensado.

Mi conclusión: la actividad legislativa de Sanders es más un gesto político que un escenario realista de regulación. En condiciones donde los principales laboratorios ya han cruzado de facto el umbral de las capacidades de AGI, las medidas prohibitivas sin coordinación global están condenadas al fracaso. Parece más productivo el camino que ha elegido OpenAI: ralentizar el desarrollo de nuevos modelos en favor de un análisis más profundo de riesgos, en lugar de prohibiciones totales que solo desplazarán la innovación hacia jurisdicciones menos transparentes.