El cofundador de Ethereum, Vitalik Buterin, ha entrado en un intenso debate sobre el futuro de la inteligencia artificial, afirmando que no ve ningún escenario claro de transición hacia la superinteligencia (ASI). En su opinión, la humanidad está atrapada entre opciones de desarrollo «ingenuas» y «doblemente ingenuas».

El motivo de su declaración fue la controversia en torno al escenario predictivo «IA 2040» y sus críticos. Buterin subraya que ambas partes del conflicto están «encerradas en visiones del mundo mutuamente incompatibles» respecto a la velocidad del desarrollo de la IA.

El núcleo del debate: velocidad vs. control

El escenario «IA 2040» supone la aparición de la superinteligencia para el año 2040 prácticamente en cualquier curso de los acontecimientos, excepto mediante esfuerzos titánicos para detenerla por completo. Los críticos, según observa el desarrollador, califican esta predicción de ingenua al evaluar la capacidad humana para la coordinación. Sin embargo, como señala Buterin, ellos mismos no notan la ingenuidad de asumir que la transición hacia la ASI se desarrollará sin problemas por defecto.

La postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una «tecnología común». En un mundo donde la superinteligencia es posible ya para 2030, según él, no resiste el análisis. El propio Buterin admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Sin embargo, por ahora no comprende en qué mundo vive la humanidad.

Preocupaciones sobre la concentración de poder

Buterin siente especial incomodidad con la retórica de las grandes empresas de IA. Le preocupa la postura que dice: «el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el dominio mundial de control». En su opinión, en un mundo «normal», declaraciones como esta deberían activar todas las alarmas políticas simultáneamente.

El propio Vitalik considera la superinteligencia como un enorme riesgo de concentración de poder. Por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros.

En busca de un compromiso

El desarrollador de Ethereum considera clave encontrar un acuerdo aceptable para ambas partes. «Un acuerdo será ganador si ambas partes lo aceptan basándose en sus convicciones actuales, aunque sea por razones diferentes», señala Buterin.

Propuso acordar de antemano un conjunto de desencadenantes que indiquen que «algo grave está ocurriendo», como superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa.

Según el planteamiento de Buterin, los críticos aceptarían esto esperando que los desencadenantes no se activen, mientras que los preocupados esperarían lo contrario. Por separado, se dirigió a los líderes de los gigantes tecnológicos, afirmando que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como este. No obstante, reconoció que incluso esta idea es ingenua.

Opinión de experto: La postura de Buterin es un raro ejemplo de una visión racional sobre la carrera de la IA en una industria dominada por el tecnooptimismo o el alarmismo. Su propuesta de los desencadenantes es un intento de incorporar elementos de la lógica de los contratos inteligentes en la gestión de riesgos de la ASI. Sin embargo, como en el caso de DeFi, la cuestión clave es quién controlará los oráculos y garantizará el cumplimiento del acuerdo cuando las apuestas sean realmente altas.