Musk entra en el debate sobre los riesgos de la IA: apoyo a Amodei y trasfondo filosófico
El director ejecutivo de Tesla y SpaceX, Elon Musk, se unió inesperadamente al debate que se desarrolla en la industria sobre la seguridad de la inteligencia artificial, apoyando al jefe de Anthropic, Dario Amodei. Musk publicó un mensaje en el que expresó su esperanza en la "benevolencia" de la IA hacia los humanos, solidarizándose de hecho con las recientes advertencias de Amodei sobre amenazas potenciales.
El motivo de la discusión fue el comentario de Musk "Diálogo interesante" bajo la publicación de Amodei, donde este defendía sus predicciones de las acusaciones de pesimismo excesivo. El inversor Gavin Baker, de Silicon Valley, inició el debate al señalar que los rumores sobre Amodei se difunden rápidamente, ya que coinciden con sus declaraciones públicas.
Por qué Amodei subraya los riesgos de la IA
Amodei respondió a las críticas afirmando que su ensayo "Machines of Loving Grace" sobre los beneficios de la IA surgió precisamente porque la industria exagera demasiado los problemas. Destacó que sus dos ensayos principales dividen la atención entre riesgos y beneficios por igual, y que las entrevistas cortas a menudo parecen sombrías debido al formato de clickbait.
La razón de fondo, según él, es la desconfianza de la sociedad hacia las corporaciones y la industria tecnológica, que se ha acumulado durante décadas y ahora se traslada a la inteligencia artificial. Esta desconfianza también afecta a la regulación: en junio, Amodei propuso pruebas obligatorias para los modelos líderes en lugar de promesas voluntarias y advirtió al G7 sobre el peligro de normas nacionales fragmentadas.
"La crítica más justa hacia las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido la promesa principal: aportar beneficios al mundo", declaró Amodei.
Musk entra en el debate sobre las buenas intenciones de la IA
Musk calificó el diálogo de interesante y señaló la complejidad de la disputa. Además de la regulación, se discuten cuestiones filosóficas. Naval Ravikant las formuló así: "no se puede crear un dios y ponerlo con correa". Musk repitió casi literalmente esta idea: "Espero que la IA sea amable con nosotros". En su reconocimiento mesurado resuena una advertencia: si los humanos pierden el control sobre la superinteligencia, solo queda confiar en la buena voluntad de su propia creación.
Musk ya había apoyado anteriormente a Anthropic, criticando el hermetismo de OpenAI y señalando que Amodei había elegido un camino distinto. Es notable que Amodei también haya cuestionado la visión habitual de Silicon Valley: según él, la regulación no siempre conduce a la concentración de poder. La ley californiana SB 53 sobre seguridad de la IA, que Anthropic apoya, exime de requisitos a las empresas con ingresos inferiores a 500 millones de dólares.
Amodei mencionó dos enfoques que considera correctos: el primero lo propuso la administración de Trump —verificar los modelos avanzados antes de su lanzamiento—; el segundo lo planteó el jefe de Google DeepMind, Demis Hassabis —crear un regulador siguiendo el modelo de la FINRA—.
Volviendo a su promesa más destacada, Amodei afirmó que la IA en biología podría curar la mayoría de las enfermedades humanas en 5 a 50 años. En Anthropic y Pfizer ya consideran la IA en medicina como infraestructura clave. Vinculó este objetivo con su historia personal: su padre murió de hepatitis C poco antes de que aparecieran tratamientos eficaces. No obstante, Amodei evita lemas llamativos como "la IA curará el cáncer": en su opinión, lo que ayuda es el tratamiento en sí, no los eslóganes.
Mi análisis: Esta discusión es reveladora: incluso figuras tan distintas como Musk y Amodei coinciden en lo esencial: el control sobre la IA sigue siendo el problema clave de la década. Para la industria de las criptomonedas, donde las tecnologías de IA se integran cada vez más en DeFi y el análisis, esto es una señal: la regulación es inevitable, y los proyectos deberían pensar de antemano en la seguridad y la transparencia, no solo en la velocidad de implementación.