El Secretario General de la ONU, António Guterres, emitió una declaración contundente en el Diálogo Global sobre Gobernanza de la IA. Su mensaje es extremadamente claro: la velocidad actual del desarrollo de la inteligencia artificial se ha convertido en un «experimento sobre sociedades» incontrolable, que se lleva a cabo sin un plan y sin el consentimiento de la humanidad. Guterres instó a la implementación inmediata de reglas comunes para los sistemas de IA avanzados, la protección de los niños frente a los riesgos de los chatbots y la prohibición de las armas autónomas letales.
La tesis clave del Secretario General es que las instituciones creadas para gestionar máquinas que ejecutan órdenes no están absolutamente preparadas para máquinas que toman decisiones. Destacó que internet necesitó 15 años para alcanzar mil millones de usuarios, mientras que la IA logró esta tarea en solo dos años. En confirmación de esto, en el informe preliminar del panel científico de la ONU se indica que ChatGPT alcanzó los 100 millones de usuarios en dos meses. Los sistemas modernos, según sus palabras, ya no esperan órdenes: escriben código, actúan en línea y toman decisiones con un control humano cada vez menor.
«Vibe-coding» y el futuro de la humanidad
Guterres introdujo en el discurso el término «vibe-coding» como una metáfora de la gestión pasiva: permitir que el sistema haga el trabajo sin profundizar en el mecanismo y las consecuencias. «No podemos hacer vibe-coding de la verdad. No podemos hacer vibe-coding del futuro de la humanidad», declaró, advirtiendo que los países no tienen una elección entre creer en la IA y temerle, sino entre una gestión consciente y una deriva pasiva.
Protección infantil: tres principios
Guterres nombró la protección de los niños como una de las principales prioridades. Instó a las empresas a asumir un compromiso de seguridad para los sistemas de IA accesibles a menores (AI Child Safety Pledge). La tecnología, según sus palabras, ya ha penetrado en el aprendizaje, la amistad y los asuntos personales de los niños, pero las consecuencias de su implementación no han sido verificadas por la sociedad. «Ningún niño debe ser un conejillo de indias para una IA no regulada», subrayó. La propuesta incluye tres principios: no lanzar sistemas sin pruebas especiales, tolerancia cero a la generación de imágenes sexualizadas de menores y la conexión obligatoria de apoyo humano real si el sistema detecta signos de crisis en un niño.
«Robots asesinos»: moralmente repugnantes y políticamente inaceptables
Un bloque aparte del discurso se refirió a la aplicación militar de la IA. Guterres instó a prohibir mediante el derecho internacional los sistemas de armas autónomas letales: máquinas que pueden seleccionar y atacar un objetivo sin control humano. «Llamémoslos por lo que son: robots asesinos», declaró, añadiendo que tales sistemas son «moralmente repugnantes» y «políticamente inaceptables». Advirtió que los estados no deben esperar una tragedia para actuar, especialmente considerando que los mismos modelos y chips ya se utilizan en el campo de batalla.
Países en desarrollo y transparencia
Guterres también afirmó que la brecha digital no debe convertirse en una brecha en el ámbito de la IA, y luego en una brecha de desarrollo, seguridad y soberanía. Anunció recomendaciones para la creación de un fondo global para la IA, que ayudará a los países en desarrollo a acceder a recursos computacionales, datos abiertos y modelos. Otro ámbito importante mencionado fue la transparencia: los centros de datos ya consumen más electricidad que la mayoría de los países, y para 2030 podrían superar en consumo energético a todos los estados excepto cinco. «Si la IA debe ser poderosa, debe ser gestionada. Si la IA debe inspirar confianza, quienes la crean deben asumir la responsabilidad», resumió el Secretario General.
Mi análisis: La declaración de Guterres no es solo retórica diplomática, sino una señal clara para el mercado. Espero que en los próximos 12-18 meses veamos un endurecimiento de la regulación a nivel nacional, especialmente en el ámbito de la protección infantil y las armas autónomas. Inversores y desarrolladores deben prepararse para nuevos requisitos de cumplimiento normativo que podrían afectar significativamente los modelos de negocio de las empresas de IA.