Vitalik Buterin en contra del "dominio mundial" de la IA: crítica a los gigantes y búsqueda de un compromiso
El cofundador de Ethereum, Vitalik Buterin, ha vuelto a entrar en el debate sobre el futuro de la inteligencia artificial, esta vez con duras críticas hacia las grandes empresas de IA. Su mensaje principal: la humanidad está atrapada entre dos escenarios de desarrollo extremadamente ingenuos, y ninguno de ellos ofrece un plan real para gestionar la transición hacia la superinteligencia artificial (ASI).
El motivo de sus declaraciones fue la discusión en torno al escenario predictivo «IA 2040», que sugiere la aparición de la ASI para 2040 prácticamente en cualquier situación, excepto si se realizan esfuerzos titánicos para detenerla por completo. Buterin señala que los críticos de este escenario, a su vez, muestran una ingenuidad no menor al creer que la transición hacia la superinteligencia será fluida y sin dolor. En su opinión, ambas partes están «atrapadas en visiones del mundo mutuamente incompatibles»: unos creen en la inevitabilidad de un progreso rápido, otros en la capacidad de la humanidad para controlarlo de manera coordinada. El propio Vitalik reconoce la incertidumbre: no entiende en cuál de estos mundos vivimos realmente.
La concentración de poder como principal amenaza
La retórica de algunos gigantes de la IA, que califica de «ingenuidad al cuadrado», causa especial preocupación a Buterin. Le inquieta la postura según la cual «el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el dominio mundial». Según el cofundador de Ethereum, en un mundo «normal», declaraciones como estas deberían activar todas las alarmas políticas. Él mismo considera la superinteligencia como un riesgo colosal de concentración de poder.
Por eso, Buterin promueve el concepto de la plataforma d/acc, que apuesta por el desarrollo de la verificación formal, la criptografía, el hardware abierto seguro, la resiliencia frente a pandemias y la epistemología pública. El valor de este enfoque radica en que es útil en cualquier escenario futuro, tanto en un desarrollo rápido como lento de la ASI.
En busca de un acuerdo mutuamente beneficioso
La idea clave de Buterin es encontrar un compromiso aceptable para ambas partes. Propone acordar de antemano un conjunto de desencadenantes que indiquen que «algo grave está ocurriendo». Como ejemplos, menciona superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes se comprometen a considerar seriamente una desaceleración o una pausa en el desarrollo.
«Un acuerdo ganador será aquel que ambas partes acepten basándose en sus convicciones actuales, aunque sea por razones diferentes», subraya Buterin.
También se dirigió directamente a los líderes de los gigantes tecnológicos, afirmando que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar este tipo de acuerdos mutuamente beneficiosos. Sin embargo, reconoció de inmediato que esta idea también podría ser ingenua.
Opinión de experto: La postura de Buterin es un caso poco común de visión racional sobre el problema de la ASI en un entorno dominado por el tecno-optimismo o el pesimismo pánico. Su propuesta de los desencadenantes es un intento de crear una «red de seguridad» para la humanidad que podría funcionar independientemente de la velocidad a la que nos movamos hacia la superinteligencia. La cuestión es si los gigantes de la IA están dispuestos a limitar voluntariamente sus ambiciones por el bien común.