Elon Musk, fundador de xAI, ha hecho otra declaración impactante que invita a reflexionar sobre el futuro de la humanidad en la era de la inteligencia artificial. Según sus estimaciones, en solo cinco años la IA podría superar la inteligencia combinada de todas las personas del planeta, y en la próxima década, la humanidad probablemente perderá el control sobre esta tecnología. Esto no es solo una hipótesis, sino un análisis basado en el ritmo actual de desarrollo de las redes neuronales y la potencia computacional.
Musk destaca que la IA será capaz de realizar prácticamente cualquier tarea intelectual mejor que un humano. La única excepción, según él, es "ser humano". Describe este escenario como una "era de abundancia", pronosticando que para 2036 las personas podrán obtener prácticamente cualquier bien o servicio gracias a la sinergia entre la IA y la robótica. Sin embargo, los riesgos persisten y son significativos.
Seguridad y verificaciones mutuas
Musk reconoce que es imposible detener el desarrollo de la IA y la robótica — incluso si existiera un "botón de parada", su activación no estaría justificada. En su lugar, propone que las principales empresas de IA implementen un sistema de verificaciones mutuas: antes del lanzamiento, proporcionar a los competidores acceso limitado a los nuevos modelos para identificar capacidades peligrosas. Si los riesgos no se eliminan, según Musk, deberían intervenir los reguladores gubernamentales. Esta idea ya está encontrando eco — una iniciativa similar fue propuesta anteriormente por el director de Google DeepMind, Demis Hassabis.
Crítica a OpenAI y visión sobre los competidores
En la misma entrevista, Musk criticó la transformación de OpenAI de una organización sin fines de lucro a una estructura comercial. Recordó que el proyecto se creó como una empresa abierta "para todo el mundo", pero terminó convirtiéndose en un negocio cerrado. Con respecto al director de Anthropic, Dario Amodei, Musk fue más comedido, llamándolo "una persona de principios", pero subrayando la necesidad de cooperación en temas de seguridad incluso entre competidores.
Recordemos que anteriormente Eliezer Yudkowsky y Vitalik Buterin también advirtieron sobre los riesgos catastróficos de una IA superinteligente. Sin embargo, como señaló acertadamente el cofundador de Near Protocol, Ilya Polosukhin, la IA carece de incentivos económicos para destruir a la humanidad. Desde mi punto de vista, la cuestión clave no es si la IA podrá tomar el control, sino si lograremos crear mecanismos de gestión adecuados antes de que la tecnología se vuelva incontrolable.