El exinvestigador de OpenAI, Daniel Kokotailo, quien abandonó la empresa en abril de 2024 debido a desacuerdos en materia de seguridad, presentó un nuevo y ambicioso escenario para salvar al mundo de la amenaza de la superinteligencia. El documento, titulado AI 2040: Plan A, propone un acuerdo internacional que debería frenar la carrera por la inteligencia artificial hasta 2040, reduciendo los riesgos de un desenlace catastrófico.
La esencia del plan: una pausa hasta 2040
La idea clave es la firma de un acuerdo entre Estados Unidos y China en 2029 para renunciar al desarrollo acelerado de la superinteligencia. En su lugar, los países desarrollarán redes neuronales de forma gradual, hasta el nivel de los mejores expertos humanos. Para 2035, el desarrollo se detendrá por completo para mantener el control humano sobre los sistemas. Y solo en 2040 se levantará la pausa, y la IA alcanzará el nivel de superinteligencia. Esto da tiempo para la investigación en seguridad y previene la automatización del desarrollo, que, según los cálculos, ocurriría ya en 2030.
Cuatro principios y un mecanismo de verificación
El plan se sustenta en cuatro pilares: ganar tiempo para la seguridad, transparencia total en el desarrollo, distribución de la IA entre diferentes países y empresas, y la preservación de la reversibilidad del proceso. Para garantizar la confianza, se propone utilizar verificación satelital: los grandes centros de datos son visibles desde el espacio. El primer paso: los países declaran públicamente las compras de chips, luego se introduce una pausa temporal en el entrenamiento de modelos, confirmada por sensores. Una vez confirmada la confianza, se levantan las restricciones, pero la investigación sigue siendo completamente transparente.
La ruptura del acuerdo se previene mediante la «destrucción mutuamente asegurada de la capacidad computacional», por analogía con la disuasión nuclear. Se propone construir los nuevos centros de datos de China en Canadá, y las instalaciones de EE. UU. en Mongolia, para que, en caso de conflicto, sea más fácil destruirlos que entregarlos al enemigo.
Consecuencias económicas: crecimiento del PIB y dividendos ciudadanos
Los cálculos muestran que la capacidad computacional mundial crecerá de 20 millones de equivalentes H100 en 2026 a 60 mil millones para 2034. El crecimiento real del PIB de EE. UU. en ciertos períodos de la década de 2030 podría alcanzar el 50% anual, pero el empleo caería del 62% en 2027 al 12% para 2040. Para compensar, se propone introducir «dividendos ciudadanos»: pagos con cargo a los ingresos del Estado por la concesión de licencias de computación y robots. Los pronósticos son impresionantes: para 2032, el dividendo sería de $45 000 por persona; para 2035, de $1 millón; y para 2039, de $10 millones.
Escenarios alternativos: desde la guerra hasta la oligarquía
Los autores contrastaron el Plan A con otras cuatro vías de desarrollo. Plan B: EE. UU. crea una coalición y presiona a China, incluso con ciberataques, lo que lleva a la guerra. Plan C: un intento de negociar, pero bajo la presión de las empresas se levanta la pausa, lo que amenaza con una oligarquía permanente. Plan D: regulación mínima y una carrera que conduce a la pérdida de control y a una tercera guerra mundial. Plan S: una parada total e indefinida que corre el riesgo de desmoronarse y reanudar la carrera en el caos.
Mi comentario como analista: El escenario propuesto parece utópico, especialmente en lo que respecta a la «destrucción mutuamente asegurada» y la construcción de centros de datos en territorio de aliados. Sin embargo, plantea una cuestión críticamente importante: ¿podrá la humanidad renunciar voluntariamente a la carrera por la superinteligencia cuando las apuestas son tan altas? La viabilidad del plan genera dudas, pero el planteamiento del problema en sí mismo es una señal que no se puede ignorar.