El cofundador de Ethereum, Vitalik Buterin, ha vuelto a definir su postura de principios sobre el desarrollo de la inteligencia artificial. En esta ocasión, sus críticas se dirigen a las grandes empresas de IA, cuyas ambiciones, en su opinión, rozan sueños descarados de "dominio mundial". En el centro del debate se encuentra el escenario "IA 2040", que, según Buterin, representa una elección entre un enfoque "ingenuo" y otro "ingenuo al cuadrado" para gestionar la transición hacia la superinteligencia artificial (ASI).
Según mi análisis, la esencia de la disputa se reduce a una brecha fundamental en la percepción del ritmo y los riesgos de la IA. El escenario "IA 2040" supone que la ASI se convertirá en realidad casi en cualquier escenario para 2040, a menos que la humanidad realice esfuerzos titánicos para detenerla por completo. Los críticos de este escenario, según observa Buterin, lo acusan de creer ingenuamente en la capacidad de coordinación de las personas. Pero el propio desarrollador replica: ellos son ingenuos al pensar que la transición hacia la ASI se desarrollará sin problemas y sin conflictos por defecto.
Buterin subraya que la postura de los críticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Sin embargo, en un mundo donde la ASI es posible ya para 2030, esta crítica simplemente no resiste el escrutinio. El propio Vitalik admite su incertidumbre: no puede decir con seguridad en cuál de estos mundos vivimos. Si estuviera seguro de al menos un escenario, se uniría al campo correspondiente. Este reconocimiento es una señal clave para el mercado: incluso las mentes más destacadas de la industria no tienen una visión unificada del futuro.
Preocupaciones sobre la concentración de poder
Una preocupación especial de Buterin es la retórica de gigantes como OpenAI y otros. Le inquieta la premisa de que "el código abierto es malo, y un buen resultado es que nuestros muchachos obtengan el control del dominio mundial". En su opinión, en un mundo "normal", declaraciones como estas deberían activar todas las alarmas políticas a la vez. Él mismo considera la superinteligencia como un riesgo colosal de concentración de poder.
Es por esto que Buterin promueve consistentemente la plataforma d/acc (aceleración defensiva). Este concepto incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia a pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros, tanto en el desarrollo rápido como en el lento de la IA. Es notable que Vitalik valoró positivamente que el plan "IA 2040" se haya vuelto más amigable con el código abierto e incluso prescriba su uso.
Búsqueda de un compromiso
Buterin ve como elemento clave de su estrategia la búsqueda de un acuerdo aceptable para ambas partes. Propone acordar de antemano un conjunto de desencadenantes que señalen que "algo grave está ocurriendo". Como ejemplos, menciona superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas.
Si un número suficiente de estos desencadenantes se activa dentro del plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa en el desarrollo. La idea es que los críticos acepten esto esperando que los desencadenantes no se activen, y los preocupados esperando lo contrario. Buterin incluso se dirigió a los líderes de los gigantes tecnológicos, afirmando que si estuviera en el lugar de Elon Musk o Mark Zuckerberg, reestructuraría las plataformas sociales para buscar acuerdos mutuamente beneficiosos similares. Sin embargo, él mismo reconoce que esta idea también es ingenua.
Mi análisis: La postura de Buterin es, en esencia, un llamado a la descentralización de la gestión de riesgos de la ASI. En un mundo donde las criptomonedas y la cadena de bloques ofrecen modelos de gestión alternativos, su crítica a los gigantes de la IA no es solo un debate filosófico, sino una defensa de los principios básicos del poder distribuido. El mercado debería seguir de cerca el desarrollo de d/acc, ya que estas tecnologías podrían ser el puente entre el mundo cripto y el desarrollo seguro de la IA.