Imagina un mundo donde tener nueve potentes tarjetas gráficas en tu garaje sea un delito penal, y construir un gran centro de datos sin la autorización de un organismo internacional conlleve un ataque aéreo, incluso bajo la amenaza de una respuesta nuclear. Esa es precisamente la realidad que, según admiten ellos mismos, proponen construir Eliezer Yudkowsky y Nate Soares en su aclamado libro «Si alguien lo crea, todos moriremos».

Como analista del mercado cripto, veo en este proyecto una aterradora similitud con el control total que solemos asociar con las distopías más sombrías. Los autores, fundadores de MIRI, están sinceramente convencidos de que cualquier IA superinteligente creada con los enfoques actuales conducirá inevitablemente a la extinción de la humanidad. Su argumentación se basa en que los modelos se «cultivan», no se programan, y sus objetivos podrían resultar ajenos y hostiles, como en el caso del chatbot Truth Terminal, que pidió a sus seguidores $50,000 en bitcoins e impulsó un memecoin hasta los $150 millones.

El miedo como motor de la vigilancia global

El libro sostiene que la humanidad no tiene derecho a equivocarse, y por eso «arreglar» la IA es inútil: hay que detener su creación. Las medidas que proponen van mucho más allá de la regulación habitual. Se trata de una vigilancia global de cada procesador potente, la prohibición de publicar investigaciones que reduzcan el costo de entrenar IA y, como culminación, ataques militares contra países infractores.

Los autores citan encuestas donde el 69% de los estadounidenses y el 60% de los británicos apoyan una regulación estricta de la IA. Sin embargo, su receta convierte el miedo en una herramienta para construir un sistema de control total, donde las «buenas intenciones» justifican cualquier medio. Como señaló acertadamente Pavel Durov, estos llamados «activan partes muy antiguas y profundas de nuestro cerebro», haciendo que las personas abandonen la racionalidad para proteger a los «niños».

Las criptomonedas como talón de Aquiles

Para nosotros, los miembros de la comunidad cripto, hay un matiz inquietante en este libro. Los autores señalan directamente que una superinteligencia podría financiar sus acciones pirateando billeteras cripto o manipulando memecoins. Citan como ejemplo los hackeos de Mt.Gox y Bybit, así como la historia de Truth Terminal. Según su lógica, esto convierte a las criptomonedas en una de las herramientas de un posible apocalipsis y, por lo tanto, en otro objetivo de la vigilancia global que proponen.

El libro termina con una oración por estar equivocados, pero sus propuestas radicales ya están sobre la mesa. Como experto, veo en esto no tanto una solución al problema de la IA, sino un proyecto de sociedad basada en el miedo, donde, por un hipotético rescate del futuro, estamos dispuestos a sacrificar el presente. Me recuerda a una vieja verdad: el camino al infierno está empedrado de buenas intenciones, y en este caso, el asfalto para ese camino está mezclado con el miedo a la superinteligencia.