El cofundador de Ethereum, Vitalik Buterin, ha vuelto a plantear una cuestión espinosa al afirmar que no ve ningún escenario sensato para la transición hacia la superinteligencia artificial (ASI). Según él, la humanidad está atrapada entre dos extremos: los enfoques "ingenuo" e "ingenuo al cuadrado" hacia el futuro de la IA.
El motivo fue el debate en torno al escenario "IA 2040", que predice la aparición de la superinteligencia para 2040 en prácticamente cualquier situación, excepto con esfuerzos titánicos para detenerla por completo. Los críticos de este escenario, según observa Buterin, lo califican de ingenuo al evaluar la capacidad humana para la coordinación. Sin embargo, el propio desarrollador de Ethereum señala un problema simétrico: los oponentes creen con igual ingenuidad que la transición hacia la ASI será fluida y sin contratiempos.
Poder, código abierto y señales de alarma
La retórica de algunas grandes empresas de IA causa especial preocupación a Buterin. Le inquieta la postura que se resume en la fórmula: "el código abierto es malo, y un buen resultado es que nuestros muchachos obtengan el control mundial dominante". Según el fundador de Ethereum, en un mundo "normal", declaraciones así deberían activar todas las alarmas políticas simultáneamente. Él considera la propia superinteligencia como un riesgo colosal de concentración de poder.
Por eso, Buterin promueve la plataforma d/acc, que se centra en el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia a pandemias y epistemología pública. El valor de este enfoque radica en que es útil en cualquier escenario de desarrollo, tanto si la llegada de la ASI es rápida como lenta. Es notable que él mismo valoró positivamente el escenario "IA 2040" por su afinidad con el código abierto.
Búsqueda de compromiso: desencadenantes y pausas
Como salida al callejón sin salida, Buterin propone acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo". Entre los ejemplos: superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa para una fecha acordada, las partes se comprometen a considerar seriamente una desaceleración o una pausa en el desarrollo. La idea es que los críticos lo acepten esperando que los desencadenantes no se activen, y los preocupados, por el contrario, también lo acepten.
Buterin también se dirigió a los líderes de los gigantes tecnológicos, sugiriendo que, si él estuviera en el lugar de Elon Musk o Mark Zuckerberg, rediseñaría las plataformas sociales para buscar acuerdos mutuamente beneficiosos como este. No obstante, él mismo reconoce la ingenuidad de esta idea.
Mi análisis: La postura de Buterin es un caso poco común en el que un líder de la industria cripto no solo ofrece críticas, sino un mecanismo concreto para la gestión de riesgos. La idea de los desencadenantes y las pausas es, en esencia, un intento de aplicar los principios de los contratos inteligentes y la gobernanza descentralizada al problema global de la IA. Esto podría convertirse en ese "acuerdo" que ambas partes acepten basándose en sus convicciones actuales, aunque por razones diferentes. Por ahora, vemos un callejón sin salida clásico: ninguna de las partes está dispuesta a ceder, y lo que está en juego aumenta cada día.