Un grupo de analistas, que anteriormente predijo la extinción de la humanidad debido a la inteligencia artificial descontrolada, ha presentado un escenario de rescate inesperado. El documento, titulado «AI 2040: Plan A», ha sido publicado por el proyecto AI Futures Project, fundado por el ex investigador de OpenAI, Daniel Kokotajlo.

Kokotajlo dejó OpenAI en abril de 2024 debido a diferencias fundamentales en cuestiones de seguridad de la IA. Ya en 2025, lanzó su propio centro de análisis. Su informe anterior, «AI 2027», pintaba un panorama sombrío: una carrera armamentista entre Estados Unidos y China en el ámbito de la superinteligencia con una probabilidad de extinción del 10% al 30%. Ahora, los expertos proponen un conjunto concreto de pasos que, en su opinión, podrían reducir drásticamente estos riesgos.

Cómo debería funcionar

La idea clave del «Plan A» es un acuerdo internacional entre Washington y Pekín que debería firmarse ya en 2029. Sin él, se afirma, la automatización completa del desarrollo de la IA ocurriría ya en 2030. En su lugar, los países acuerdan desarrollar las redes neuronales gradualmente, solo hasta el nivel de los mejores expertos humanos. Para 2035, se introduce una pausa obligatoria en la carrera para mantener el control humano sobre los sistemas. Y solo para 2040 se levantan las restricciones y la IA alcanza el nivel de superinteligencia.

El plan se basa en cuatro principios:

  • Ganar tiempo para la investigación en seguridad;
  • Transparencia total de todos los desarrollos de IA;
  • Distribución de la capacidad computacional entre diferentes empresas y países;
  • Mantener la reversibilidad del proceso.

Para garantizar la confianza, se propone utilizar la verificación desde el espacio: los grandes centros de datos son visibles desde los satélites. El primer paso son las declaraciones públicas sobre la compra de chips. Luego se introduce una pausa temporal en el entrenamiento, controlada por sensores. Después de confirmar la confianza, se levantan las restricciones, pero la transparencia total permanece.

La parte más radical del plan es un mecanismo de disuasión que recuerda la lógica de la paridad nuclear. Se propone construir nuevos centros de datos de China en Canadá, y las instalaciones de EE. UU. en Mongolia. En caso de ruptura del acuerdo, el país anfitrión intentaría apoderarse de las capacidades, y el propietario las destruiría para que no caigan en manos del enemigo.

Economía y consecuencias sociales

Según los cálculos, la capacidad computacional mundial crecerá de 20 millones de equivalentes H100 en 2026 a 60 mil millones para 2034. El crecimiento real del PIB de EE. UU. en ciertos períodos de la década de 2030 podría alcanzar el 50% anual. Sin embargo, la automatización conducirá a una caída catastrófica del empleo: del 62% en 2027 al 12% en 2040. Se propone compensar esto con «dividendos civiles»: pagos de los ingresos estatales por la concesión de licencias de computación y robots. Los pronósticos son impresionantes: $45,000 por persona en 2032, $1 millón para 2035 y $10 millones para 2039.

Escenarios alternativos

Los expertos también modelaron otras cuatro vías de desarrollo de los acontecimientos:

  • Plan B: EE. UU. crea una coalición y presiona a China, incluso con ciberataques. El final: pérdida de control o guerra.
  • Plan C: Intento de llegar a un acuerdo, pero bajo la presión de las empresas, la pausa se levanta rápidamente. Riesgo: oligarquía eterna de los propietarios de la superinteligencia.
  • Plan D: Regulación mínima y carrera. Riesgos: pérdida de control, concentración de poder y una tercera guerra mundial.
  • Plan S: Detención total e indefinida. El principal peligro: el inevitable fracaso del acuerdo y la reanudación de la carrera en el caos.

Mi análisis: El «Plan A» es, sin duda, un intento ambicioso de un enfoque sistémico para un problema que muchos prefieren ignorar. Sin embargo, su implementación requiere un nivel sin precedentes de confianza y coordinación global, lo que en el panorama geopolítico actual parece extremadamente improbable. El mecanismo de «destrucción mutuamente asegurada de la capacidad computacional» es una analogía interesante pero aterradora con las armas nucleares, que más bien subraya la fragilidad del equilibrio en lugar de ofrecer una solución confiable. El mercado probablemente ignorará estos pronósticos, pero para los inversores y reguladores serios, esta es una señal importante sobre la profundidad de los riesgos potenciales.