El Secretario General de la ONU lanzó una severa advertencia: la inteligencia artificial se ha salido de control, y las instituciones de gestión existentes no están preparadas para ello. Instó a la implementación inmediata de reglas globales para los sistemas avanzados de IA, destacando especialmente la necesidad de proteger a los niños y prohibir las armas letales autónomas.

«La IA se desarrolla a una velocidad incontrolable», declaró el jefe de la ONU, calificando lo que ocurre como «un experimento sobre sociedades sin plan ni consentimiento». Según su evaluación, si internet necesitó 15 años para atraer a mil millones de usuarios, la IA lo logró en dos años. ChatGPT, por su parte, alcanzó los 100 millones de usuarios en solo dos meses, un ritmo sin precedentes.

El problema clave, según el experto, radica en que los sistemas actuales ya no solo ejecutan órdenes: escriben código, toman decisiones y actúan en la red con un control humano mínimo. «Nuestras instituciones fueron creadas para gestionar máquinas que ejecutan órdenes. No están preparadas para máquinas que toman decisiones», subrayó.

«Vibe-coding» como amenaza para el futuro

Se puso especial énfasis en la metáfora del «vibe-coding»: un enfoque pasivo en el que el sistema funciona sin comprender los mecanismos ni las consecuencias. «No podemos hacer vibe-coding de la verdad. No podemos hacer vibe-coding del futuro de la humanidad», declaró Guterres, ofreciendo a los países la elección entre una gestión consciente y una deriva pasiva.

Protección infantil: tres principios

Uno de los principales objetivos mencionados fue la protección de los niños frente a la IA no regulada. Se propusieron tres principios clave:

  1. Prohibición del lanzamiento de sistemas de IA accesibles para niños sin pruebas especiales y supervisión independiente.
  2. Tolerancia cero hacia la generación de imágenes sexualizadas de menores, con la obligación de detectar, eliminar y reportar dicho material.
  3. Inadmisibilidad de dejar a un niño en crisis a solas con un chatbot: al detectar signos de un estado grave, el sistema debe detenerse y conectar apoyo humano real.
«Ningún niño debe ser un conejillo de indias para la IA no regulada», resumió el jefe de la ONU.

Prohibición de los «robots asesinos»

El uso militar de la IA también estuvo en el centro de atención. Guterres instó a prohibir mediante el derecho internacional los sistemas de armas letales autónomos: máquinas capaces de seleccionar y atacar objetivos sin control humano. «Llamémoslos por lo que son: robots asesinos», declaró, calificando estos sistemas de «moralmente repugnantes» y «políticamente inaceptables».

Brecha digital y consumo energético

Por separado, se abordó el problema de la desigualdad digital. El jefe de la ONU anunció recomendaciones para crear un fondo global para la IA, que debería ayudar a los países en desarrollo a acceder a computación de alto rendimiento, datos abiertos y modelos. También señaló que los centros de datos ya consumen más electricidad que la mayoría de los países, y para 2030 podrían superar en consumo energético a todos los estados excepto cinco.

Mi comentario: Los llamamientos de la ONU son una señal que no se puede ignorar, pero la realidad es que la regulación global de la IA enfrenta enormes obstáculos políticos y económicos. Mientras las principales potencias discuten sobre estándares, la tecnología sigue acelerándose, y cada día de demora aumenta los riesgos, especialmente para los sectores más vulnerables de la población. El mercado de criptomonedas y blockchain, por su parte, podría convertirse en un campo de pruebas para modelos descentralizados de gestión de la IA, pero esto requeriría un nivel de coordinación completamente diferente.