El cofundador de Ethereum, Vitalik Buterin, ha irrumpido nuevamente en el debate público, pero esta vez sus críticas no apuntan a la industria blockchain, sino a las ambiciones de los gigantes de la inteligencia artificial. En su opinión, la humanidad está atrapada en un callejón sin salida entre dos escenarios ingenuos de desarrollo, y ninguno de ellos ofrece un plan real para gestionar la transición hacia la superinteligencia artificial (ASI).
El motivo de su declaración fue una discusión en torno al pronóstico «IA 2040», que sugiere la aparición de una superinteligencia para el año 2040 prácticamente en cualquier escenario, a menos que se realicen esfuerzos titánicos para detenerla por completo. Según Buterin, los críticos de este escenario lo califican de ingenuo al evaluar la capacidad humana para la coordinación. Sin embargo, el propio desarrollador señala su propia ingenuidad: asumen que la transición hacia la ASI se desarrollará sin problemas por defecto.
Buterin destaca que la postura de los escépticos solo tiene sentido en un mundo donde la IA sigue siendo una «tecnología común». Pero en un mundo donde la superinteligencia podría ser posible ya en 2030, esa postura no resiste el análisis. Admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Pero por ahora no entiende en cuál de los mundos vivimos.
La retórica de «el código abierto es malo» genera alarma
Merece especial atención la crítica de Buterin hacia la retórica de las grandes empresas de IA. Le preocupa la postura que se reduce a «el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el dominio mundial controlador». En su opinión, declaraciones como estas, en un mundo «normal», deberían activar todas las alarmas políticas simultáneamente.
Buterin considera que la propia superinteligencia representa un riesgo colosal de concentración de poder. Por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros.
Compromiso: disparadores para una pausa
Buterin considera que el elemento clave de su postura es buscar un acuerdo aceptable para ambas partes. Propone acordar de antemano un conjunto de disparadores que señalen que «algo grave está ocurriendo»: superpandemias, desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos disparadores se activa dentro del plazo acordado, las partes se comprometen a considerar seriamente una desaceleración o una pausa.
Según su planteamiento, los críticos aceptarían esto esperando que los disparadores no se activen, mientras que los preocupados esperarían lo contrario. Dirigiéndose a los líderes de los gigantes tecnológicos, Buterin reconoce que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como este. Pero añade de inmediato que incluso esta idea es ingenua.
Mi análisis: La postura de Buterin es un raro ejemplo de humanismo pragmático en un mundo donde las corporaciones tecnológicas sueñan con el control total. Su idea de los disparadores es un intento de implementar mecanismos de «interruptor de apagado» a nivel global, lo que podría convertirse en el único compromiso razonable entre la aceleración y la catástrofe. Sin embargo, como el propio Vitalik reconoce, la ingenuidad de este enfoque solo subraya la profundidad del problema.