Виталик Бутерин против «мирового господства» ИИ: критика гигантов и поиск компромисса
El cofundador de Ethereum, Vitalik Buterin, vuelve a estar en el centro del debate sobre el futuro de la inteligencia artificial. En esta ocasión, sus críticas se dirigen contra la retórica de las grandes empresas de IA, cuyas ambiciones, según el desarrollador, rozan una peligrosa ingenuidad y un afán de concentración de poder.
Dos bandos de ingenuidad
El motivo de la declaración de Buterin fue el escenario «IA 2040», que predice la aparición de una inteligencia artificial general (AGI) para 2040 prácticamente en cualquier curso de los acontecimientos. Los críticos de este pronóstico, a su vez, lo califican de ingenuo, creyendo que la humanidad es capaz de coordinarse y detener este proceso.
Buterin, sin embargo, ve el problema en mayor profundidad. En su opinión, ambas partes están «atrapadas en visiones del mundo mutuamente incompatibles». Los críticos del escenario «IA 2040» no perciben su propia ingenuidad al creer que la transición a la superinteligencia será fluida y controlada. Los partidarios del desarrollo acelerado, en esencia, proponen un mundo donde «nuestros muchachos obtienen el dominio mundial de control», lo que, como señala Buterin, debería generar alarma política.
Riesgos de concentración de poder
Lo que especialmente preocupa al creador de Ethereum es la retórica de «el código abierto es malo, y un buen resultado es cuando nosotros controlamos el mundo». Destaca que la propia superinteligencia representa un colosal riesgo de concentración de poder. Es por ello que Buterin promueve constantemente la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro y resiliencia frente a pandemias.
El valor de estas áreas, según sus palabras, radica en que son útiles en cualquier escenario futuro, tanto en un desarrollo rápido como lento de la IA.
Búsqueda de un compromiso: desencadenantes y acuerdos
Buterin propone un enfoque pragmático: acordar de antemano un conjunto de desencadenantes que señalen problemas graves. Como ejemplos menciona superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa para la fecha acordada, las partes se comprometen a considerar seriamente una ralentización o una pausa en el desarrollo de la IA.
«Un acuerdo ganador será aquel que ambas partes acepten basándose en sus convicciones actuales, aunque sea por razones diferentes», señala Buterin. Los críticos de la aceleración lo aceptarán esperando que los desencadenantes no se activen, y los preocupados, por el contrario. También se dirigió a los líderes de los gigantes tecnológicos, proponiéndoles reestructurar las plataformas sociales para buscar acuerdos mutuamente beneficiosos de este tipo, aunque reconoce la ingenuidad de esta idea.
Opinión de experto: La postura de Buterin es un raro ejemplo de sentido común en la histérica carrera de la IA. Su propuesta de «desencadenantes» no es una solución técnica, sino una herramienta política. Sin embargo, dada la dinámica actual del mercado y las ambiciones corporativas, es poco probable que alguno de los gigantes acepte voluntariamente un «botón rojo». La comunidad cripto debería prestar atención a este debate: la descentralización y la verificación formal que promueve Buterin podrían convertirse en el único contrapeso real a la centralización de los poderes de la IA.