Buterin vs. los gigantes de la IA: sueños de dominación mundial y la ingenuidad de los escenarios
El cofundador de Ethereum, Vitalik Buterin, ha criticado duramente a los principales actores de la industria de la inteligencia artificial. En su opinión, la humanidad está atrapada entre dos escenarios extremadamente ingenuos, y ninguno de ellos ofrece un plan real para gestionar la transición hacia la superinteligencia (ASI).
El detonante del debate fue el escenario predictivo "IA 2040" y sus oponentes. Buterin señala que ambas partes están "atrapadas en visiones del mundo mutuamente incompatibles" respecto a la velocidad del desarrollo de la IA. Según su análisis, el escenario "IA 2040" supone la aparición de la superinteligencia para 2040 en casi cualquier circunstancia, salvo esfuerzos titánicos para detenerla por completo. Los críticos, observa el desarrollador, califican esta predicción de ingenua al evaluar la capacidad humana para la coordinación, pero no notan la ingenuidad de asumir que la transición hacia la ASI será fluida por defecto.
Buterin subraya: la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". En un mundo donde la superinteligencia es posible ya para 2030, afirma, no resiste el escrutinio. El propio Vitalik admite su incertidumbre y no sabe en cuál de los dos mundos vive la humanidad.
Preocupaciones sobre la concentración de poder
Buterin siente especial incomodidad ante la retórica de algunas grandes empresas de IA. Le preocupa la postura de que "el código abierto es malo, y un buen resultado es que nuestros chicos obtengan el dominio mundial". En su opinión, en un mundo "normal", declaraciones así deberían activar todas las alarmas políticas. Él mismo considera la superinteligencia como un enorme riesgo de concentración de poder.
Por eso, Buterin promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros. Además, valora positivamente que el plan "IA 2040" se haya vuelto más amigable con el código abierto e incluso lo exija.
Cómo encontrar un compromiso
El desarrollador de Ethereum considera clave buscar un acuerdo aceptable para ambas partes. "Un acuerdo ganador será aquel que ambas partes acepten basándose en sus convicciones actuales, aunque por razones diferentes", señaló Vitalik.
Propuso acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo", como superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa. Según su idea, los críticos aceptarían esto esperando que los desencadenantes no se activen, mientras que los preocupados esperarían lo contrario.
Buterin también se dirigió a los líderes de los gigantes tecnológicos. Según dijo, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, rediseñaría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como estos. No obstante, reconoció que esta idea también es ingenua.
Comentario analítico de Cryptalist: La postura de Buterin no es solo una crítica, sino un intento de proponer un marco descentralizado para gestionar los riesgos de la ASI. En un mundo donde blockchain y la criptografía se convierten en herramientas de coordinación, sus ideas sobre desencadenantes y d/acc podrían resultar más pragmáticas de lo que parecen a primera vista. Sin embargo, la ingenuidad que él mismo admite es un desafío que requerirá madurez tanto técnica como política por parte de ambas partes.