Бутерин против диктатуры ИИ: почему мечты о «мировом господстве» опасны для человечества
El cofundador de Ethereum, Vitalik Buterin, ha irrumpido nuevamente en el debate sobre el futuro de la inteligencia artificial, esta vez con duras críticas a los gigantes de la industria. Su tesis principal: la humanidad está atrapada entre dos escenarios "ingenuos", y ninguno ofrece un plan real para gestionar la transición hacia la superinteligencia artificial (ASI).
El motivo de su declaración fue una controversia en torno al escenario "IA 2040", que plantea la aparición inevitable de la ASI para esa fecha bajo casi cualquier circunstancia, a menos que la humanidad realice esfuerzos titánicos para detenerlo. Según Buterin, los críticos califican esta predicción de ingenua, sobreestimando la capacidad humana para coordinarse. Sin embargo, él mismo señala que estos críticos caen en el extremo opuesto, creyendo ingenuamente que la transición hacia la superinteligencia será fluida y sin dolor.
Señales de alerta del creador de Ethereum
Lo que especialmente preocupa a Buterin es la retórica de algunas grandes empresas de IA. Le inquieta la postura de que "el código abierto es malo, y un buen resultado es que nuestros muchachos obtengan el control mundial". Según el analista, en cualquier mundo "normal", declaraciones como estas deberían activar todas las alarmas políticas a la vez. Él considera que la propia superinteligencia representa un riesgo colosal de concentración de poder.
Por eso, Buterin promueve el concepto de d/acc: una plataforma que combina verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros, tanto con una llegada rápida de la ASI como sin ella.
En busca de un compromiso: desencadenantes para la humanidad
Buterin considera que la solución clave es encontrar un acuerdo aceptable para ambas partes. Propone acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo", como una superpandemia, un desempleo superior al 25% o la aparición de armas autónomas. Si se activan suficientes de estos desencadenantes, las partes se comprometerían a considerar seriamente una desaceleración o una pausa en el desarrollo de la IA.
Vitalik incluso se dirigió a los líderes de los gigantes tecnológicos: si él estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como estos. Sin embargo, él mismo admite que esta idea también podría ser ingenua.
Opinión de experto: La postura de Buterin no es solo una crítica, sino un intento de tender puentes entre dos bandos polares. El mercado de criptomonedas, que se basa en gran medida en principios de descentralización y apertura, es especialmente sensible a los riesgos de centralización del poder en manos de monopolios de IA. Los "desencadenantes" que propone son, en esencia, un intento de crear un contrato inteligente para toda la humanidad, lo que parece a la vez brillante y utópico. Sin embargo, en un mundo donde los gigantes tecnológicos ya controlan enormes cantidades de datos, sin mecanismos como estos corremos el riesgo de obtener no una superinteligencia, sino una superdictadura.