La ONU da la voz de alarma: Guterres exige una regulación global inmediata de la IA y la prohibición de los «robots asesinos».
El Secretario General de la ONU, António Guterres, intervino en el Diálogo Global sobre Gobernanza de la IA con una serie de advertencias contundentes y propuestas concretas. En su opinión, el mundo ya se enfrenta a un "experimento sobre las sociedades sin plan ni consentimiento", y el ritmo actual de adopción tecnológica exige una revisión inmediata de los enfoques regulatorios.
El punto clave de su discurso: la velocidad de propagación de la IA no tiene precedentes. Si internet tardó 15 años en atraer a su primer billón de usuarios, ChatGPT alcanzó los 100 millones en solo dos meses. Además, los sistemas actuales ya no solo responden a comandos: escriben código, actúan de forma autónoma y toman decisiones con una participación humana mínima. Guterres subrayó: "Nuestras instituciones fueron creadas para gestionar máquinas que ejecutan órdenes. No están preparadas para máquinas que toman decisiones".
"Vibe coding" y protección infantil
El Secretario General prestó especial atención a la protección de menores. Instó a todas las empresas de IA a adoptar el AI Child Safety Pledge, un compromiso de seguridad para los sistemas accesibles a niños. La iniciativa se basa en tres principios: pruebas obligatorias y supervisión independiente antes del lanzamiento, tolerancia cero hacia la generación de material sexualizado y conexión inmediata con apoyo humano real al detectar un estado de crisis en un menor. "Ningún niño debe ser un conejillo de indias para una IA no regulada", declaró Guterres.
Como metáfora de la gestión pasiva, utilizó el término "vibe coding", cuando se permite que un sistema funcione sin comprender sus mecanismos ni consecuencias. "No podemos hacer vibe coding de la verdad. No podemos hacer vibe coding del futuro de la humanidad", resumió.
Prohibición de sistemas autónomos letales
Un bloque aparte de su intervención abordó el uso militar de la IA. Guterres instó a prohibir mediante el derecho internacional los sistemas de armas autónomos letales: máquinas capaces de seleccionar y atacar objetivos sin intervención humana. Los calificó directamente como "robots asesinos", subrayando que estos sistemas son "moralmente repugnantes" y "políticamente inaceptables". Según sus palabras, los estados no deben esperar una tragedia para actuar.
Fondo global y transparencia
Para superar la brecha digital, el Secretario General anunció la creación de una red global de intercambio de competencias en IA y recomendó establecer un fondo especial. También señaló que los centros de datos ya consumen más electricidad que la mayoría de los países, y para 2030 podrían superar en consumo energético a todos los estados excepto cinco. "Si la IA debe ser poderosa, debe ser gobernada. Si la IA debe generar confianza, quienes la crean deben asumir responsabilidades", concluyó Guterres.
Mi análisis: Las iniciativas de la ONU son una señal importante, pero sin mecanismos de cumplimiento concretos, corren el riesgo de quedar en meras declaraciones. La verdadera lucha por la regulación de la IA se desarrollará a nivel nacional, donde los intereses de las grandes corporaciones tecnológicas y los estados a menudo contradicen la agenda global.