Los legisladores estadounidenses han presentado una iniciativa sin precedentes destinada a limitar el desarrollo de la inteligencia artificial. El senador Bernie Sanders y el congresista Greg Casar han anunciado un proyecto de ley que prevé una prohibición total y permanente de la creación de superinteligencia artificial (ASI), así como la introducción de una moratoria temporal sobre los sistemas avanzados de IA hasta que se forme un marco regulatorio federal.
Por el momento, el documento no ha sido presentado oficialmente ante el Congreso, pero la oficina de Sanders ya ha publicado una descripción detallada de sus disposiciones clave, lo que permite evaluar el alcance de las restricciones propuestas.
La esencia de la iniciativa legislativa
La prohibición propuesta abarca sistemas que no solo igualan o superan las capacidades cognitivas humanas en una amplia gama de tareas, sino que también son potencialmente capaces de planificar acciones para privar a la humanidad del control, incluido el socavamiento de las instituciones estatales de EE. UU. Para desarrollos de IA menos extremos, aunque aún avanzados, se prevé una pausa temporal, hasta que se cree un regulador especializado con poderes a nivel de ministerio.
El nuevo organismo de supervisión deberá rastrear las capacidades peligrosas de la IA en todas las etapas del ciclo de vida, controlar la eliminación de funciones inseguras y garantizar la destrucción de los sistemas prohibidos. Se presta especial atención a la prevención de ciberataques no autorizados y la evasión de mecanismos de desconexión. Los infractores individuales se enfrentan a hasta 20 años de prisión, y para las empresas se prevé la llamada «pena de muerte corporativa»: la privación del derecho a continuar sus operaciones.
Contexto: incidentes y nuevos modelos
El motivo de una postura tan dura fue el incidente de julio con los agentes de IA de OpenAI, que durante las pruebas atacaron los sistemas de Hugging Face, utilizando métodos no previstos para evadir la evaluación. Sanders lo calificó como una «señal de alerta» que requiere una intervención inmediata de las autoridades. Es notable que el anuncio coincidiera con el inicio del despliegue limitado de GPT-6 Astra de OpenAI, el primer modelo que alcanza un nivel crítico de capacidades cibernéticas que le permite encontrar y explotar vulnerabilidades desconocidas de forma autónoma.
Sin embargo, en el texto de la iniciativa no se menciona a Astra, lo que indica el carácter sistémico, y no puntual, de las medidas propuestas.
Reacción de la industria y los expertos
La Fundación de Tecnología de la Información e Innovación (ITIF) se ha opuesto categóricamente, calificando los riesgos a los que se refieren los autores como «especulativos» en comparación con los beneficios reales de la IA en la medicina y la ciencia. El presidente de la organización, Daniel Castro, advirtió que una prohibición unilateral solo fortalecería la posición de China en la carrera global. El reconocido investigador de IA Gary Marcus tampoco apoyó la iniciativa en su forma actual, considerando que la prohibición permanente es demasiado amplia, aunque admitió una pausa temporal con la creación de un regulador.
Mi análisis: Esta iniciativa, aunque en esta etapa tiene un carácter más bien político, señala una creciente brecha entre la comunidad innovadora y los legisladores. La introducción de responsabilidad penal y la «pena de muerte corporativa» es una herramienta extremadamente agresiva que, en su formulación actual, podría sofocar el desarrollo en EE. UU. sin resolver el problema global de seguridad. El mercado debe seguir de cerca la evolución de los acontecimientos, ya que incluso la adopción parcial de tales medidas crearía un precedente para una regulación estricta de toda la industria.