Buterin contra el «dominio mundial» de la IA: ¿ingenuidad o peligro?
El cofundador de Ethereum, Vitalik Buterin, ha criticado duramente a los grandes actores de la industria de la inteligencia artificial, acusándolos de ambiciones peligrosas y de carecer de un plan claro para gestionar la transición hacia la superinteligencia artificial (ASI). Según él, la humanidad se enfrenta a una elección entre dos escenarios "ingenuos", ninguno de los cuales resulta convincente.
El debate sobre la velocidad del desarrollo de la IA
El detonante de la discusión fue el escenario predictivo "IA 2040", que plantea la aparición de la superinteligencia para 2040 prácticamente en cualquier circunstancia. Buterin señala que los críticos de este escenario, por el contrario, lo consideran demasiado optimista en cuanto a la capacidad de coordinación humana. Sin embargo, el propio desarrollador de Ethereum apunta a su propia ingenuidad: creen que la transición hacia la ASI se producirá sin problemas por defecto.
Buterin subraya que la postura de los escépticos solo tiene sentido en un mundo donde la IA sigue siendo una "tecnología común". Pero si la superinteligencia se vuelve posible ya para 2030, sus argumentos, en su opinión, se desmoronan. El propio Vitalik admite su incertidumbre: no sabe en cuál de estos dos mundos vivimos y no está dispuesto a unirse incondicionalmente a ninguno de los bandos.
Preocupaciones sobre la concentración de poder
Una preocupación especial para Buterin es la retórica de algunos gigantes de la IA, que califica como "el código abierto es malo, y el buen resultado es que nuestros muchachos obtengan el dominio mundial". En su opinión, tales declaraciones deberían activar todas las alarmas políticas a la vez. Considera la superinteligencia como un riesgo colosal de concentración de poder.
Es por ello que Buterin promueve la plataforma d/acc, que incluye el desarrollo de verificación formal, criptografía, hardware abierto seguro, resiliencia ante pandemias y epistemología pública. El valor de estas áreas radica en que son útiles en ambos escenarios futuros.
En busca de un compromiso
Para el desarrollador de Ethereum, la clave está en encontrar un acuerdo aceptable para ambas partes. Buterin propone acordar de antemano un conjunto de desencadenantes que indiquen que "algo grave está ocurriendo", como superpandemias, una tasa de desempleo superior al 25% o la aparición de armas autónomas. Si un número suficiente de estos desencadenantes se activa dentro de un plazo acordado, las partes se comprometen de antemano a considerar seriamente una desaceleración o una pausa.
Dirigiéndose a los líderes de los gigantes tecnológicos, Buterin sugiere rediseñar las plataformas sociales para buscar soluciones mutuamente beneficiosas, aunque reconoce la ingenuidad de esta idea.
Opinión de experto: Buterin demuestra una vez más un pensamiento sistémico, llevando el debate más allá de las disputas puramente tecnológicas. Su propuesta sobre los desencadenantes es un intento de crear un mecanismo de gestión de riesgos que pueda ser aceptado por ambas partes. Sin embargo, la pregunta sigue abierta: ¿están los líderes de la industria de la IA dispuestos a sacrificar sus ambiciones por la seguridad?