El Secretario General de la ONU, António Guterres, emitió una declaración contundente, instando a la comunidad mundial a tomar medidas inmediatas para regular los sistemas avanzados de inteligencia artificial. En su discurso durante el Diálogo Global sobre Gobernanza de la IA, destacó que la tecnología avanza a una "velocidad incontrolable", convirtiéndose en un experimento descontrolado sobre la sociedad.
Guterres señaló tres riesgos clave: la rápida propagación de la IA, la concentración de poder computacional y datos en manos de un puñado de empresas y países, y la degradación del entorno informativo. Para ilustrarlo, citó estadísticas: a internet le tomó 15 años alcanzar mil millones de usuarios, mientras que ChatGPT solo necesitó dos meses para llegar a 100 millones. "Nuestras instituciones fueron creadas para máquinas que ejecutan órdenes. No están preparadas para máquinas que toman decisiones", afirmó, subrayando que los sistemas actuales ya escriben código y actúan en línea con un control humano mínimo.
"Vibe-coding" como amenaza para el futuro
Guterres introdujo en el discurso el término "vibe-coding", una metáfora de la gestión pasiva en la que permitimos que la IA funcione sin considerar las consecuencias. "No podemos hacer vibe-coding de la verdad. No podemos hacer vibe-coding del futuro de la humanidad", enfatizó, instando a una gobernanza consciente en lugar de una deriva pasiva. Esta es una señal poderosa para la industria: la innovación sin responsabilidad es un camino hacia el desastre.
Protección infantil: tres principios inquebrantables
Uno de los puntos centrales fue la propuesta para proteger a los menores. Guterres instó a las empresas a adoptar el AI Child Safety Pledge, basado en tres principios: ningún servicio de IA para niños debe lanzarse sin pruebas independientes; tolerancia cero hacia la generación de contenido sexualizado; y, crucialmente, los chatbots no deben dejar a un niño en una situación de crisis solo: el sistema debe detenerse y conectar a un humano.
Prohibición de "robots asesinos" y fondo global
Por separado, Guterres abordó el uso militar de la IA, calificando los sistemas de armas autónomos letales como "moralmente repugnantes" y "políticamente inaceptables". Insiste en su prohibición total por el derecho internacional. Además, anunció la creación de un fondo global para superar la brecha digital, que, según él, amenaza con convertirse en una brecha de desarrollo y soberanía. Más de 20 países ya han nominado centros para la red de intercambio de capacidades de IA.
Mi comentario: El discurso de Guterres no es solo retórica política, sino una hoja de ruta clara para los reguladores. Inversores y desarrolladores deben seguir de cerca estas iniciativas: las reglas globales ya están en el horizonte, y quienes no se adapten corren el riesgo de quedar fuera del juego. Especialmente notable es el énfasis en el consumo energético de los centros de datos: una señal directa para mineros y operadores de que los estándares "verdes" se volverán obligatorios.