El Secretario General de la ONU, António Guterres, hizo una declaración contundente en el Diálogo Global sobre Gobernanza de la IA. Su mensaje es claro: el desarrollo de la inteligencia artificial se está saliendo de control, y la comunidad mundial debe adoptar de inmediato reglas comunes. No se trata solo de progreso tecnológico, sino de riesgos fundamentales para la humanidad.
Guterres destacó que la IA se está expandiendo a una velocidad sin precedentes. Si internet tardó 15 años en alcanzar mil millones de usuarios, ChatGPT conquistó 100 millones en solo dos meses. Los sistemas actuales ya no esperan órdenes: escriben código, actúan en línea y toman decisiones con una participación humana mínima. "Nuestras instituciones fueron creadas para máquinas que ejecutan comandos", afirmó. "No están preparadas para máquinas que toman decisiones".
"Vibe-coding" y el futuro de la humanidad
El Secretario General prestó especial atención al concepto de "vibe-coding": un enfoque pasivo en el que permitimos que la IA funcione sin una comprensión profunda de sus mecanismos y consecuencias. "No podemos hacer vibe-coding de la verdad", advirtió Guterres. "No podemos hacer vibe-coding del futuro de la humanidad". En su opinión, no enfrentamos una elección entre el miedo y la fe en la IA, sino entre una gestión consciente y una deriva pasiva.
Protección infantil: tres principios
Guterres calificó la seguridad de los menores como una de las prioridades clave. La IA ya ha penetrado en la educación y la comunicación personal de los niños, pero la sociedad no ha evaluado sus consecuencias. "Ningún niño debería ser un conejillo de indias para una IA no regulada", subrayó. La ONU propuso tres principios:
1. No implementar sistemas para niños sin pruebas especializadas y supervisión independiente.
2. Tolerancia cero hacia la generación de imágenes sexualizadas de menores.
3. En situaciones de crisis, los chatbots deben detenerse y conectar con apoyo humano real.
"Robots asesinos" y un fondo global
Guterres también instó al derecho internacional a prohibir los sistemas de armas autónomos letales: máquinas capaces de seleccionar y atacar objetivos sin control humano. "Llamémoslos por lo que son: robots asesinos", declaró. "Son moralmente repugnantes y políticamente inaceptables". Además, anunció la creación de un fondo global para la IA que ayudará a los países en desarrollo a acceder a recursos computacionales y conocimientos. Según sus palabras, los centros de datos ya consumen más energía que la mayoría de los países, y para 2030 podrían superar a todos los estados excepto cinco.
Mi análisis: La declaración de Guterres es una señal clara de que la regulación de la IA está pasando del plano del debate al práctico. Es especialmente importante su atención a la concentración de datos y poder computacional en manos de un pequeño grupo de corporaciones. Si esta tendencia continúa, corremos el riesgo de no solo tener desigualdad tecnológica, sino una nueva forma de colonialismo digital. La cuestión no es si regular la IA, sino si podemos hacerlo lo suficientemente rápido para evitar consecuencias irreversibles.