Buterin contra el «dominio mundial» de la IA: crítica a los gigantes y búsqueda de un compromiso
El cofundador de Ethereum, Vitalik Buterin, ha criticado duramente a los principales actores de la industria de la inteligencia artificial. En su opinión, la retórica proveniente de algunos gigantes de la IA roza los sueños descarados de "dominación mundial" y no ofrece ningún plan coherente para gestionar de forma segura la transición hacia la superinteligencia artificial (ASI).
El motivo de la declaración de Buterin fue el debate en torno al escenario predictivo "IA 2040" y sus críticos. Según analizo la situación, el creador de Ethereum ve un problema fundamental: ambas partes del debate están atrapadas en "visiones del mundo mutuamente incompatibles" sobre el ritmo de desarrollo de la inteligencia artificial.
Ingenuidad al cuadrado: dos escenarios de futuro
Buterin señala que el escenario "IA 2040" presupone la aparición de una superinteligencia para el año 2040 prácticamente en cualquier curso de los acontecimientos, excepto si se realizan esfuerzos titánicos para detenerla por completo. Los críticos, según observa, califican tal pronóstico de ingenuo al evaluar la capacidad de la humanidad para coordinarse. Sin embargo, como subraya el analista, ellos mismos no notan su propia ingenuidad al asumir que la transición hacia la ASI se desarrollará sin problemas y por defecto.
En esencia, según Buterin, la humanidad está atrapada entre la elección de escenarios "ingenuo" e "ingenuo al cuadrado". La postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Pero en un mundo donde la superinteligencia es posible ya para 2030, en su opinión, no resiste las críticas. El propio Vitalik admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente.
La concentración de poder como principal riesgo
Merece especial atención la crítica de Buterin a la retórica de las propias empresas de IA. Le preocupa la postura del tipo: "el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el control del dominio mundial". Considero que esto es una señal extremadamente peligrosa. En un mundo normal, tales declaraciones deberían activar todas las alarmas políticas simultáneamente. El propio Buterin considera la superinteligencia como un colosal riesgo de concentración de poder.
Precisamente por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia a pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios de futuro. Es notable que Buterin valorara positivamente que el plan "IA 2040" se haya vuelto más amigable con el código abierto e incluso lo prescriba.
Búsqueda de compromiso: desencadenantes para una pausa
Buterin considera que el elemento clave de su postura es la búsqueda de un acuerdo aceptable para ambas partes. Propone acordar de antemano un conjunto de desencadenantes que señalen que "está ocurriendo algo grave". Como ejemplos, menciona superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas.
Si un número suficiente de estos desencadenantes se activa en el plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa. Los críticos, según su idea, aceptarían esto esperando que los desencadenantes no se activen, mientras que los preocupados esperarían lo contrario.
Dirigiéndose a los líderes de los gigantes tecnológicos, Buterin sugirió que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos similares. Sin embargo, él mismo admite que incluso esta idea es ingenua.
Opinión de experto: La postura de Buterin es un raro ejemplo de enfoque racional ante los riesgos existenciales de la IA. Su propuesta de "desencadenantes" no es una solución técnica, sino un mecanismo político que podría convertirse en la base para un consenso global. La comunidad cripto debería prestar atención a esta lógica, ya que la descentralización y la verificación formal son precisamente las herramientas que pueden garantizar la transparencia y fiabilidad de dichos acuerdos.