Buterin contra el "dominio mundial" de la IA: análisis de la postura del creador de Ethereum
El cofundador de Ethereum, Vitalik Buterin, ha criticado duramente a los mayores actores de la industria de la inteligencia artificial. En su opinión, muchos de ellos sueñan con el "dominio mundial" y no ofrecen un plan claro para gestionar la transición hacia la superinteligencia artificial (ASI). Buterin señala que la humanidad se enfrenta a una elección entre dos escenarios extremadamente ingenuos.
El detonante del debate fue el escenario predictivo "IA 2040", que sugiere la aparición de una superinteligencia para el año 2040 en prácticamente cualquier escenario. La única excepción, según Buterin, serían esfuerzos titánicos dirigidos a detener por completo el desarrollo de la IA. Los críticos de este escenario, a su vez, lo califican de ingenuo al evaluar la capacidad humana para la coordinación. Sin embargo, como subraya el propio Buterin, estos críticos son igualmente ingenuos al creer que la transición hacia la ASI se producirá sin problemas por defecto.
El problema clave, según el analista, es la retórica de algunos gigantes de la IA, que promueven la narrativa de que "el código abierto es malo, y un buen resultado es que nuestros muchachos obtengan el dominio mundial". Buterin considera este enfoque no solo peligroso, sino políticamente alarmante. Él mismo ve la superinteligencia como un riesgo colosal de concentración de poder.
Como contrapunto, Buterin promueve el concepto de d/acc (aceleración descentralizada). Este incluye el desarrollo de la verificación formal, la criptografía, el hardware abierto seguro y la epistemología pública. El valor de este concepto radica en que es útil independientemente del escenario futuro que se materialice, ya sea con un desarrollo rápido o lento de la IA.
Como compromiso, Buterin propone acordar de antemano un conjunto de desencadenantes que señalen la ocurrencia de "eventos graves": por ejemplo, una tasa de desempleo superior al 25%, la aparición de armas autónomas o una superpandemia. Si un número suficiente de estos desencadenantes se activa dentro del plazo acordado, las partes deberían considerar seriamente una desaceleración o una pausa en el desarrollo de la IA. Según su idea, esto permitiría que escépticos y optimistas llegaran a un consenso: los primeros esperarían que los desencadenantes no se activen, los segundos que sí lo hagan, y ambas partes estarían interesadas en cumplir los acuerdos.
Opinión del experto: La postura de Buterin no es solo un debate filosófico. Es una visión pragmática del riesgo de concentración de poder en la era de la IA. Su propuesta sobre los desencadenantes es un intento de crear un mecanismo de gestión de riesgos que podría unir tanto a los ultraoptimistas de Silicon Valley como a sus críticos. Sin embargo, como el propio Buterin reconoce, la idea de que Elon Musk o Mark Zuckerberg reestructuren voluntariamente sus plataformas para buscar acuerdos mutuamente beneficiosos quizás también sea ingenua. No obstante, el mero hecho de plantear la necesidad de mecanismos formales para gestionar la ASI es un paso importante para toda la industria.