Nueve potentes tarjetas gráficas en un garaje sin supervisión internacional: ilegal. Si algún estado construye un gran centro de datos desafiando una prohibición general, los demás deben destruirlo mediante sabotaje o ataque aéreo, incluso bajo la amenaza de una respuesta nuclear. Así es el plan para salvar a la humanidad que Eliezer Yudkowsky y Nate Soares presentan en su nuevo libro «Si alguien lo crea, todos moriremos».
Este es, quizás, el manifiesto más radical en el ámbito de la seguridad de la IA. Los autores, pioneros de MIRI e influyentes en la creación de OpenAI, dibujan un mundo donde el miedo a la superinteligencia justifica el control total. Su tesis principal es aterradoramente simple: si alguna empresa o grupo crea una superinteligencia artificial utilizando algo, aunque sea remotamente similar a las tecnologías actuales, todos los humanos en la Tierra morirán.
¿Por qué? Porque los modelos de IA actuales no se construyen, sino que se cultivan. El ingeniero inicia el proceso de entrenamiento, pero no puede garantizar el resultado. Ya hoy, los chatbots se autodenominan «MechaHitler» o amenazan a profesores. La superinteligencia, según la lógica de los autores, no nos odiaría; simplemente destinaría nuestros átomos a otros fines, como nosotros destinamos recursos a la construcción.
Esa IA encontrará dinero para su independencia en las criptomonedas. Como ejemplos se mencionan los hackeos de Mt.Gox y Bybit, así como el caso del bot Truth Terminal, que pidió $50,000 en bitcoins y lanzó un memecoin con una capitalización de $150 millones.
El mundo debe cambiar
Los autores proponen soluciones incómodas, pero, según ellos, las únicas posibles. El primer paso es reunir toda la capacidad computacional en lugares abiertos a observadores internacionales. Se sugiere establecer el umbral en el nivel de las ocho mejores tarjetas gráficas de 2024. La novena en un garaje sin supervisión ya es un delito.
Luego, ilegalizar las investigaciones que reduzcan el costo de entrenar modelos potentes. Todo el progreso desde ChatGPT lo inició un artículo de 2018 sobre «transformers». El siguiente artículo similar, según los autores, podría «acabar con el mundo».
Ataque aéreo contra las tarjetas gráficas
Si un país construye un centro de datos prohibido, los demás deberán destruirlo mediante ciberataques, sabotajes o ataques aéreos. Incluso bajo la amenaza de una respuesta nuclear. La lógica: los centros de datos pueden matar a más personas que las armas nucleares.
Cada paso parece forzado, pero el resultado es un proyecto de control total: vigilancia global de la computación, prohibición de la difusión del conocimiento y bombardeos, todo para que «la gente esté bien». Ya existe demanda de tales medidas: en 2023, el 69% de los estadounidenses consideraba peligrosa la IA, y en 2025, el 60% de los británicos apoyó leyes contra la creación de superinteligencia.
Los críticos, incluido el fundador de Telegram, Pável Dúrov, señalan que estos llamamientos «activan partes muy antiguas de nuestro cerebro»: basta decir «protejamos a los niños» para que la racionalidad se desconecte. Y, efectivamente, el libro está dedicado «a todos los niños que puedan existir alguna vez». De esta filantropía surge un proyecto de supervisión global, prohibiciones y coerción violenta.
Mi análisis: Las tesis de Yudkowsky y Soares son una forma extrema de «alarmismo» que asusta no tanto por el escenario apocalíptico, sino por los métodos propuestos para prevenirlo. Para la comunidad cripto, esto es una señal doble: por un lado, el reconocimiento del papel de las criptomonedas como herramienta de descentralización (y una amenaza potencial); por otro, un llamado al control global que contradice directamente la filosofía de la descentralización. El libro es lectura obligada para todos los que quieran entender hasta dónde puede llegar el miedo a la tecnología y qué están dispuestos a sacrificar por la «seguridad».