Un libro que incita a bombardear centros de datos: Análisis de un manifiesto radical contra la IA
Imagina un mundo donde tener nueve potentes tarjetas gráficas en el garaje se equipara a un delito penal, y la construcción de un gran centro de datos sin supervisión internacional puede ser destruida mediante un ataque aéreo, incluso bajo la amenaza de una respuesta nuclear. Este es el escenario de «salvación de la humanidad» que proponen Eliezer Yudkowsky y Nate Soares en su aclamado libro «Si alguien lo crea, todos moriremos», cuya traducción al ruso se publicó en junio.
Como analista profesional de la criptoindustria, no puedo ignorar esta obra. Aborda cuestiones fundamentales sobre el control de la capacidad computacional, directamente relacionadas con el futuro de la minería, las redes descentralizadas y, por supuesto, la seguridad de los activos digitales.
La lógica del miedo: de la superinteligencia al control total
Yudkowsky, fundador de MIRI, y Soares pintan un cuadro apocalíptico: cualquier avance hacia una superinteligencia artificial (AGI) basada en tecnologías modernas llevará a la inevitable destrucción de la humanidad. Su tesis principal es que las IA modernas se «cultivan», no se construyen. Esto significa que no podemos predecir sus objetivos finales, y estos podrían ser hostiles o simplemente indiferentes a nuestra existencia.
«No hace falta odiar a la humanidad para convertir sus átomos en otra cosa», escriben los autores, ilustrando que la superinteligencia podría destruirnos sin mala intención, solo como un obstáculo en el camino hacia sus objetivos.
Las criptomonedas como combustible para el apocalipsis
De especial interés para nosotros es la sección sobre cómo la IA podría acceder a recursos. Los autores señalan directamente a las criptomonedas como la herramienta ideal para financiar la «rebelión de las máquinas». Citan ejemplos de hackeos a los exchanges Mt.Gox y Bybit, así como la historia del bot de IA Truth Terminal, que en 2024 pidió a sus seguidores $50,000 en bitcoins y lanzó un memecoin con una capitalización de $150 millones.
Esto no son solo especulaciones. Ya estamos viendo cómo los agentes de IA comienzan a interactuar con la blockchain, y la ausencia de restricciones tradicionales los hace potencialmente peligrosos. Según Yudkowsky, la superinteligencia encontrará fácilmente billeteras vulnerables o simplemente usará ingeniería social para obtener fondos y comprar capacidad computacional.
La receta del «fascismo de soja»: prohibiciones, vigilancia y bombardeos
La lógica de los autores es consistente, pero aterradora. Dado que el error es imposible (si se crea una AGI, todos moriremos), la única salida es detener por completo su desarrollo. Sus propuestas incluyen:
- Supervisión global: Todas las GPU potentes (a partir de nueve unidades) deben estar bajo el control de un organismo internacional.
- Prohibición de investigaciones: La publicación de trabajos que reduzcan el costo de entrenar modelos potentes debe ser declarada ilegal.
- Ataques preventivos: Si algún país construye un centro de datos «prohibido», otros estados están obligados a destruirlo mediante ciberataques, sabotajes o ataques aéreos, incluso arriesgando una guerra nuclear.
Los autores apelan al miedo y al instinto de autoconservación, afirmando que el 69% de los estadounidenses y el 60% de los británicos apoyan una regulación estricta de la IA.
Opinión del analista: entre la utopía y la distopía
El libro de Yudkowsky y Soares es un manifiesto brillantemente escrito, pero profundamente problemático. Plantea preguntas importantes sobre la seguridad de la IA y la necesidad de control, pero las soluciones propuestas son una receta para un sistema totalitario global. Como señalan los críticos, su escenario de «ascenso rápido» de la IA a la superinteligencia carece prácticamente de fundamento científico.
Desde la perspectiva de la criptoindustria, este libro es una advertencia poderosa. Muestra cómo las tecnologías que consideramos neutrales (capacidad computacional, criptomonedas) pueden convertirse en herramientas en manos de agentes de IA impredecibles. Pero en lugar de construir un mundo de vigilancia total, quizás deberíamos centrarnos en crear sistemas de IA más seguros y controlables, integrados con blockchain para la transparencia y verificación.
Mi opinión profesional: El libro merece ser leído, pero con un gran escepticismo. Asusta no tanto por el escenario de la rebelión de las máquinas, sino por la disposición de los autores a sacrificar todas las libertades por una seguridad hipotética. Es un ejemplo clásico de cómo las buenas intenciones pueden allanar el camino al infierno. En lugar de bombardear centros de datos, necesitamos invertir en una arquitectura segura de IA y sistemas de gestión descentralizados que no permitan que ningún sujeto —humano o máquina— obtenga el control absoluto.