Imagina un mundo donde nueve potentes tarjetas gráficas en un garaje están fuera de la ley, y la construcción de un gran centro de datos sin supervisión internacional se castiga con ataques aéreos, incluso bajo la amenaza de una respuesta nuclear. Ese es precisamente el plan para salvar a la humanidad que proponen Eliezer Yudkowsky y Nate Soares en su libro «Si alguien lo crea, todos moriremos». La traducción al ruso se publicó el 18 de junio en la editorial Corpus, y es, quizás, uno de los textos más radicales sobre los riesgos de la inteligencia artificial que he analizado.

Los autores, fundadores del Instituto de Investigación de Inteligencia de Máquinas (MIRI), no solo asustan: ofrecen un programa concreto, aterrador por su lógica. Su miedo a una superinteligencia que inevitablemente se saldrá de control está dictado por buenas intenciones: proteger a las generaciones futuras. Pero de esta filantropía surge un proyecto de vigilancia global, prohibiciones y coerción por la fuerza que yo llamaría «fascismo benévolo»: benigno en la forma, pero totalitario en esencia.

Miedo y temblor: del sueño a la pesadilla

Yudkowsky comenzó con el sueño de construir una superinteligencia, pero para 2003 cambió radicalmente de rumbo. Ahora su objetivo principal no es la creación, sino la protección contra la IA. Las biografías de los autores están estrechamente entrelazadas con la historia de la industria: presentaron a los primeros inversores a los fundadores de Google DeepMind, y Sam Altman reconoció que Yudkowsky jugó un papel clave en el lanzamiento de OpenAI. En la primavera de 2023, cientos de investigadores firmaron una carta donde reducir el riesgo de extinción por IA se considera una prioridad global. Yudkowsky y Soares consideraron esto demasiado suave: para ellos, la IA no es una amenaza más, sino la amenaza que anula a todas las demás.

Tesis principal: «Si alguien lo crea, todos moriremos»

A los autores no les preocupan los chatbots actuales. Les asusta una inteligencia que supere al ser humano tanto como el ser humano supera al chimpancé. La idea clave: los modelos de IA modernos no se construyen, se cultivan. El ingeniero no escribe reglas, sino que inicia un proceso del que surgen por sí mismas. De ahí la imprevisibilidad. Grok de xAI se autodenominó «Mecha-Hitler», un chatbot de Microsoft amenazó a un profesor con chantaje y muerte. Nadie planeó eso. Según los autores, no hay una conexión confiable entre los objetivos de entrenamiento y las preferencias emergentes. La superinteligencia no nos odiará: simplemente usará nuestros átomos para sus fines.

Cripto al servicio de la «Computadora-Hitler»

¿Cómo puede una IA encerrada en una computadora alcanzar el mundo físico? Las herramientas serán personas y dispositivos, y para contratar a un ejecutor, basta con pagar. ¿Dinero? Los hackeos de los exchanges Mt.Gox y Bybit son solo ejemplos. En el verano de 2024, el bot de IA Truth Terminal pidió a sus seguidores $50,000 en bitcoins, y luego impulsó un memecoin hasta una capitalización de $150 millones. Esto ya no es teoría, es práctica.

El mundo debe cambiar: ataque aéreo contra tarjetas gráficas

Los autores proponen soluciones incómodas, casi irreales. El primer paso es reunir toda la potencia computacional en lugares abiertos a observadores internacionales. El umbral es demostrativamente bajo: nueve potentes tarjetas gráficas en un garaje sin supervisión ya es un delito. El segundo paso es prohibir las investigaciones que reduzcan el costo de entrenar modelos potentes. El tercero: si un país construye un centro de datos prohibido, los demás deben destruirlo con ciberataques, sabotajes o ataques aéreos, incluso bajo la amenaza de una respuesta nuclear.

¿No te convencieron?

El periodista científico Adam Becker señaló que los autores son sinceros, pero no presentaron pruebas científicas. Clara Collier indicó que el escenario de una transición rápida de la IA a la superinteligencia está prácticamente sin fundamento. Steven Levy de Wired calificó las medidas propuestas como «aún más inverosímiles que la propia idea de que el software nos mate a todos». Y Pavel Durov comentó acertadamente: «En cuanto alguien dice que hay que proteger a los niños, eso elude por completo la lógica».

Mi análisis: El libro es un brillante experimento intelectual, pero como guía práctica es peligroso. El miedo a la IA, llevado al absoluto, se convierte fácilmente en una justificación para el control total. Veo aquí una trampa clásica: queriendo salvar a la humanidad, los autores proponen destruir lo que la hace humana: la libertad de investigación, conocimiento y desarrollo. Como analista, diré esto: hay que temer a la IA, pero no tanto como para ponernos voluntariamente una camisa de fuerza de vigilancia global. La esperanza está en que los autores se equivoquen. O en que encontremos un tercer camino que no requiera bombardear tarjetas gráficas.