Buterin advierte: los gigantes de la IA sueñan con el "dominio mundial", y la humanidad está atrapada entre dos ingenuidades.
El cofundador de Ethereum, Vitalik Buterin, ha irrumpido nuevamente en el debate sobre el futuro de la inteligencia artificial, y sus palabras no son solo una crítica, sino una profunda evaluación analítica del actual punto muerto. Afirmó que no ve ningún plan realista para gestionar la transición hacia la superinteligencia artificial (ASI). En su opinión, la humanidad se enfrenta a una elección entre dos escenarios: "ingenuo" e "ingenuo al cuadrado".
El motivo de esta declaración fue una controversia en torno al escenario predictivo "IA 2040" y sus críticos. Buterin señala que ambas partes están "atrapadas en visiones del mundo mutuamente incompatibles" respecto al ritmo de desarrollo de la IA. El escenario "IA 2040" supone la aparición de una superinteligencia para 2040 prácticamente en cualquier curso de los acontecimientos, excepto con esfuerzos titánicos para detenerla por completo. Los críticos, según observa el desarrollador, califican tal pronóstico de ingenuo, sobreestimando la capacidad humana para la coordinación. Al mismo tiempo, ellos mismos, en opinión de Buterin, muestran ingenuidad al asumir que la transición hacia la superinteligencia se desarrollará sin problemas y sin conflictos por defecto.
Buterin subraya que la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Sin embargo, en un mundo donde la superinteligencia es posible ya para 2030, afirma, no resiste el análisis. El propio Vitalik admite una profunda incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Pero por ahora no comprende en qué mundo vive la humanidad.
Preocupaciones sobre la concentración de poder
Por separado, Buterin expresó su incomodidad ante la retórica de algunas grandes empresas de IA. Le preocupa la postura del tipo: "el código abierto es malo, y el resultado bueno es aquel en el que nuestros muchachos obtienen el dominio mundial de control". Considera que, en un mundo "normal", declaraciones así deberían activar todas las alarmas políticas simultáneamente.
El propio Buterin ve la superinteligencia como un enorme riesgo de concentración de poder. Por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros.
Cómo encontrar un compromiso
El desarrollador clave de Ethereum considera que la búsqueda de un acuerdo aceptable para ambas partes es fundamental. "Un acuerdo ganador será aquel que ambas partes acepten basándose en sus convicciones actuales, aunque sea por razones diferentes", señaló.
Buterin propone acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo". Como ejemplos mencionó superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa. Según su idea, los críticos aceptarían esto esperando que los desencadenantes no se activen, y los preocupados esperando lo contrario.
Dirigiéndose a los líderes de los gigantes tecnológicos, Buterin reconoció que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos similares. Sin embargo, añadió de inmediato que incluso esta idea es ingenua.
Comentario analítico de Cryptalist: La postura de Buterin es un raro ejemplo de pensamiento sistémico en el caos de la carrera de la IA. Su propuesta sobre los desencadenantes es, en esencia, un intento de aplicar los principios de los contratos inteligentes a la gestión global de riesgos. Por ahora, el mercado y los desarrolladores están obsesionados con la velocidad, olvidando que en una carrera sin reglas, el ganador podría terminar en un mundo vacío y radiactivo.