Виталик Бутерин: гиганты ИИ мечтают о «мировом господстве», а человечество застряло между двумя «наивностями»
El cofundador de Ethereum, Vitalik Buterin, ha criticado duramente a los principales actores de la industria de la inteligencia artificial. En su opinión, el debate en torno a la transición hacia la superinteligencia artificial (ASI) ha llegado a un punto muerto: la humanidad se enfrenta a una elección entre escenarios de desarrollo "ingenuo" e "ingenuo al cuadrado".
El núcleo del debate: velocidad vs. control
El motivo de la declaración de Buterin fue un debate en torno al escenario predictivo "IA 2040", que supone la aparición de la superinteligencia para el año 2040 prácticamente en cualquier circunstancia, excepto con esfuerzos titánicos para detenerla por completo. Según las observaciones del desarrollador, los críticos de este escenario lo califican de ingenuo al evaluar la capacidad de la humanidad para coordinarse. Sin embargo, Buterin afirma que ellos mismos muestran una ingenuidad no menor al creer que la transición a la ASI se desarrollará sin problemas y por defecto.
Buterin subraya: la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Pero en un mundo donde la superinteligencia es posible ya en 2030, dice, no resiste las críticas. El propio Buterin admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Por ahora, no entiende en qué mundo vive la humanidad.
Preocupaciones sobre la concentración de poder
Por separado, Buterin expresó su incomodidad con la retórica de algunas grandes empresas de IA. Le preocupa la actitud del tipo: "el código abierto es malo, y un buen resultado es aquel en el que nuestros muchachos obtienen el dominio mundial de control". En un mundo "normal", cree, tales declaraciones deberían activar todas las alarmas políticas a la vez. El propio Buterin considera la superinteligencia como un enorme riesgo de concentración de poder.
Por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia a pandemias y epistemología pública. El valor de estas áreas es que son útiles en ambos escenarios futuros. Al mismo tiempo, Buterin valoró positivamente que el plan "IA 2040" se haya vuelto más amigable con el código abierto e incluso lo prescriba.
Cómo encontrar un compromiso
El desarrollador clave de Ethereum considera que la búsqueda de un acuerdo aceptable para ambas partes es fundamental. "Un acuerdo ganador será aquel que ambas partes acepten basándose en sus convicciones actuales, aunque sea por diferentes razones", señaló.
Buterin propuso acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está sucediendo". Como ejemplos, mencionó superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa en un plazo acordado, las partes acuerdan de antemano considerar seriamente una desaceleración o una pausa. Según su idea, los críticos aceptarán esto esperando que los desencadenantes no se activen, y los preocupados, esperando lo contrario.
Por separado, Buterin se dirigió a los líderes de los gigantes tecnológicos. Según sus palabras, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos similares. Sin embargo, reconoció que esta idea también es ingenua.
Comentario del analista: La postura de Buterin es un caso raro en el que uno de los arquitectos clave de la industria cripto sale de su ecosistema y propone un marco global para gestionar los riesgos de la ASI. Su idea de los desencadenantes es, en esencia, un intento de aplicar los principios de los contratos inteligentes a la regulación de la IA. Sin embargo, como en el caso de DeFi, la cuestión clave no es la implementación técnica, sino la capacidad de las partes enfrentadas para sentarse a la mesa de negociaciones.