Esperanza en una IA benévola: Musk se unió a la discusión de Amodei sobre riesgos y regulación
El centro de atención de la comunidad tecnológica ha vuelto a centrarse en la cuestión de la seguridad de la inteligencia artificial. Elon Musk apoyó inesperadamente al director ejecutivo de Anthropic, Dario Amodei, en su reciente declaración pública sobre los riesgos asociados con el desarrollo de la IA. Musk publicó una respuesta casi de inmediato después de que Amodei dejara el comentario «Diálogo interesante» bajo una publicación, defendiendo sus predicciones contra las acusaciones de pesimismo excesivo.
¿Por qué Amodei insiste en los riesgos de la IA?
El debate fue provocado por el inversor Gavin Baker, quien señaló que los rumores sobre Amodei se difunden rápidamente, ya que sus declaraciones públicas rara vez se alejan de su posición real. El propio Amodei rechazó las acusaciones de que solo habla de los peligros. Según él, los dos ensayos principales de la empresa dividen la atención entre riesgos y beneficios por igual. Las entrevistas cortas, como explicó, a menudo parecen sombrías porque esos formatos generan más clics, pero no reflejan el panorama completo.
Amodei también mencionó la razón profunda de la desconfianza: la gente común no confía en las corporaciones, las instituciones gubernamentales ni la industria tecnológica. Esta desconfianza se transfiere automáticamente a la inteligencia artificial, acumulándose durante décadas. Por eso, en junio propuso pruebas obligatorias para los modelos líderes en lugar de promesas voluntarias, y unos días después se dirigió al G7 con una advertencia sobre el peligro de regulaciones nacionales fragmentadas.
«La crítica más justa hacia las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido la promesa principal: aportar beneficios al mundo», declaró Amodei.
Musk y la filosofía de la IA «benigna»
Musk calificó el diálogo de interesante y subrayó la complejidad del debate. Además de la regulación, la discusión abordó cuestiones filosóficas. Naval Ravikant las formuló así: no se puede crear un dios y ponerle una correa. Musk repitió casi literalmente esta idea: «Espero que la IA sea amable con nosotros». En su sobrio reconocimiento se escucha una advertencia: si los humanos pierden el control sobre la superinteligencia, a la sociedad solo le quedará confiar en la buena voluntad de su propia creación.
Anteriormente, Musk ya había criticado el hermetismo de OpenAI y señalado que Amodei había elegido un camino diferente. Es notable que el jefe de Anthropic también haya discutido con la visión habitual de Silicon Valley, señalando que la regulación no siempre conduce a la concentración de poder. La ley de seguridad de IA de California SB 53, que Anthropic apoya, exime de requisitos a las empresas con ingresos inferiores a 500 millones de dólares.
Amodei mencionó dos enfoques que considera correctos. El primero fue propuesto por la administración de Trump: verificar los modelos avanzados antes de su lanzamiento. El segundo lo planteó el jefe de Google DeepMind, Demis Hassabis: crear un regulador siguiendo el modelo de la FINRA. Al final, Amodei volvió a su promesa más destacada: la IA en biología podría curar la mayoría de las enfermedades humanas en cinco a diez años. En Anthropic y Pfizer ya consideran la IA una infraestructura clave en medicina, y el propio jefe vinculó este objetivo con su historia personal: su padre murió de hepatitis C poco antes de que aparecieran medicamentos efectivos.
Mi comentario: Es revelador que el debate sobre la seguridad de la IA pase cada vez más del plano tecnológico al plano de la confianza y la filosofía. Para el mercado, esta es una señal importante: la incertidumbre regulatoria sigue siendo el principal factor de riesgo para los proyectos relacionados con la IA, y los inversores deberían tener en cuenta no solo las métricas técnicas, sino también el contexto político en torno a los actores más grandes.