Виталик Бутерин против «наивных» сценариев ИИ: критика гигантов и поиск компромисса
El cofundador de Ethereum, Vitalik Buterin, ha vuelto a atraer la atención de la comunidad cripto al criticar duramente a los grandes actores de la industria de la inteligencia artificial. Su mensaje principal: la humanidad está atrapada entre dos escenarios igualmente ingenuos: el "ingenuo" y el "ingenuo al cuadrado". Y ninguno de ellos ofrece un plan realista para gestionar la transición hacia la superinteligencia artificial (ASI).
El debate en torno a "IA 2040"
El detonante de la discusión fue un escenario predictivo llamado "IA 2040", que sugiere la aparición de una superinteligencia para el año 2040 en casi cualquier circunstancia, excepto si se realizan esfuerzos titánicos para bloquearla por completo. Según Buterin, los críticos de este escenario lo califican de ingenuo al evaluar la capacidad humana para coordinarse. Sin embargo, el propio desarrollador de Ethereum ve aquí una paradoja: los oponentes no notan su propia ingenuidad al asumir que la transición hacia la ASI será fluida y sin conflictos.
Buterin subraya que la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Pero en un mundo donde la superinteligencia podría ser posible ya en 2030, afirma que no resiste ninguna crítica. El propio Vitalik admite su incertidumbre: si estuviera seguro de al menos uno de los escenarios, se uniría al bando correspondiente. Por ahora, no sabe en qué mundo vive la humanidad.
Preocupaciones sobre la concentración de poder
Una inquietud particular de Buterin es la retórica de algunos gigantes de la IA. Le preocupa la postura del tipo: "el código abierto es malo, y un buen resultado es aquel en el que nuestros chicos obtienen el dominio mundial". En su opinión, en un mundo "normal", declaraciones como esta deberían activar todas las alarmas políticas al mismo tiempo.
Buterin considera que la superinteligencia en sí misma representa un enorme riesgo de concentración de poder. Por eso promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros, tanto en el desarrollo rápido como en el lento de la IA.
Búsqueda de un compromiso
Para el desarrollador de Ethereum, la clave está en encontrar un acuerdo aceptable para ambas partes. "Un acuerdo ganador será aquel que ambas partes acepten basándose en sus creencias actuales, aunque sea por razones diferentes", señala Buterin.
Propone acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo". Como ejemplos, menciona superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa dentro de un plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa. Según su idea, los críticos aceptarían esto esperando que los desencadenantes no se activen, mientras que los preocupados esperarían lo contrario.
Buterin también se dirigió a los líderes de los gigantes tecnológicos, afirmando que, si estuviera en el lugar de Elon Musk o Mark Zuckerberg, rediseñaría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como este. Sin embargo, reconoció que incluso esta idea es ingenua.
Análisis de Cryptalist: La postura de Buterin es un ejemplo poco común en la industria cripto de una visión pragmática sobre el futuro de la IA. No cae ni en la utopía de la descentralización ni en el pánico ante la "rebelión de las máquinas", sino que propone un mecanismo concreto para gestionar los riesgos: un sistema de desencadenantes que podría servir como base para un consenso global. Si los gigantes de la IA ignoran este enfoque, la humanidad corre el riesgo de quedar atrapada en su optimismo "ingenuo" o en un miedo igualmente ingenuo.