El cofundador de Ethereum, Vitalik Buterin, vuelve a estar en el centro del debate sobre el futuro de la inteligencia artificial. En esta ocasión, sus críticas se dirigen a los gigantes de la industria de la IA, cuyas ambiciones, en su opinión, rozan los sueños de «dominio mundial». Buterin afirmó que no ve ningún plan claro y realista para gestionar la transición hacia la superinteligencia artificial (ASI). La humanidad, según sus palabras, está atrapada entre dos escenarios: «ingenuo» e «ingenuo al cuadrado».
El motivo de sus declaraciones fue el debate en torno al escenario predictivo «IA 2040», que supone la aparición de la superinteligencia para el año 2040 casi independientemente de cómo se desarrollen los acontecimientos. Los críticos de este escenario, según Buterin, creen ingenuamente que las personas podrán coordinarse y detener este proceso. Sin embargo, ellos mismos, como subraya el desarrollador, no notan su propia ingenuidad al asumir que la transición hacia la ASI será fluida y sin contratiempos.
Buterin señala que la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una «tecnología común». Pero en un mundo donde la superinteligencia es posible ya para 2030, no resiste ninguna crítica. Él mismo admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Por ahora, no entiende en qué mundo vive la humanidad.
Preocupaciones sobre la concentración de poder
Por separado, Buterin expresó su incomodidad con la retórica de algunas grandes empresas de IA. Le preocupa la postura del tipo: «el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el control del dominio mundial». En su opinión, en un mundo «normal», declaraciones como estas deberían activar todas las alarmas políticas a la vez.
Buterin considera que la propia superinteligencia es un enorme riesgo de concentración de poder. Por eso promueve una plataforma llamada d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia a pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros.
Cómo encontrar un compromiso
El desarrollador clave de Ethereum considera que la búsqueda de un acuerdo aceptable para ambas partes es fundamental. «Un acuerdo será ganador si ambas partes lo aceptan basándose en sus convicciones actuales, aunque sea por razones diferentes», señaló Buterin.
Propuso acordar de antemano un conjunto de desencadenantes que indiquen que «está sucediendo algo grave». Como ejemplos, mencionó superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes se comprometen de antemano a considerar más seriamente una desaceleración o una pausa.
Buterin también se dirigió a los líderes de los gigantes tecnológicos, sugiriendo que si él estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como estos. Sin embargo, reconoció que esta idea también es ingenua.
Opinión del analista: La postura de Buterin es un raro ejemplo de enfoque racional en el debate sobre la IA. En lugar de tomar partido, propone un mecanismo que podría funcionar en cualquier escenario. Para la comunidad cripto, esto es especialmente valioso: los principios de descentralización y código abierto que defiende Buterin podrían convertirse en la base para construir un futuro seguro, independientemente de si la singularidad llega mañana o dentro de 20 años.