El director de Anthropic admitió: la industria de la IA no cumplió sus promesas, y esa es la raíz de la crisis de confianza.
La principal queja contra la industria de la inteligencia artificial no radica en los temores sobre la singularidad o la rebelión de las máquinas, sino en el simple incumplimiento de las grandes promesas. Así lo declaró el CEO de Anthropic, Dario Amodei, vinculando el enfriamiento de la sociedad hacia la tecnología con una profunda y sistémica crisis de confianza que se ha acumulado durante décadas.
El motivo del debate fue una publicación del inversor Gavin Baker, quien reprochó a Amodei su retórica excesivamente sombría. Según Baker, el líder de la startup, que se prepara para convertirse en una de las empresas públicas más importantes del mundo, debería adoptar un tono más positivo. Amodei respondió con una extensa serie de publicaciones en X, subrayando que los trucos de marketing ya no resolverán el problema.
La esencia del debate: ¿qué importa más, las palabras o los hechos?
Amodei insiste en que presta igual atención tanto a los riesgos como a los beneficios de la tecnología. Como ejemplo de una agenda positiva, recordó su ensayo Machines of Loving Grace, donde describe el potencial de una IA poderosa para la medicina y la economía. Sin embargo, la tesis principal de su respuesta es el reconocimiento de la propia culpa de la industria.
«Creo que en el fondo hay una crisis fundamental de confianza. La gente común no confía en las empresas, los gobiernos o la industria tecnológica y siempre sospecha que estamos inventando una nueva forma de engañarlos».
Según él, la crítica más justa hacia Anthropic y sus similares no son las conversaciones sobre seguridad, sino la falta de resultados reales. «Esto es completamente culpa nuestra. Por esto deberían criticarnos, no por los comunicados y el marketing», escribió Amodei.
«Solo funcionará una cosa: curar realmente el cáncer»
El líder de Anthropic considera que las promesas sobre la revolución de la IA en la atención médica se han convertido en un cliché y se perciben como un engaño. La situación solo puede corregirse con hechos. Anunció un refuerzo del trabajo en biología y medicina, prometiendo «resultados increíbles» en los próximos años, aunque sin precisar detalles.
Sin embargo, no todos están de acuerdo con esta visión. El reconocido investigador Yann LeCun respondió que lleva una década promoviendo el único camino correcto: tecnologías abiertas y accesibles. Según su analogía, la IA, como la imprenta o internet, amplifica la inteligencia humana, por lo que necesitamos diversidad de sistemas, no su concentración. También se refirió a la postura de Mark Zuckerberg, quien considera problemática la propia idea de una IA tan peligrosa que requiera una centralización extrema del poder.
Este enfoque contradice directamente la política de Anthropic, que, sin abogar por una prohibición total de los modelos abiertos, insiste en endurecer los requisitos de seguridad a medida que aumentan las capacidades de los sistemas.
Una opinión aparte la expresó la especialista en GTM de OpenAI, Angel Brodin. Recordó la industria farmacéutica: los avances reales en medicina no la salvan de un bajo nivel de confianza. En su opinión, la actitud hacia la IA dependerá no solo de la tecnología, sino también de los precios, la transparencia y la distribución de los beneficios económicos.
Mi análisis: Amodei tiene ciertamente razón en que la industria ha sobrecalentado las expectativas. Pero su tesis de que «basta con curar el cáncer» simplifica el problema. La confianza es un producto complejo que incluye no solo victorias científicas, sino también la ética de implementación, la responsabilidad social y la disposición a compartir el poder. Mientras los gigantes de la IA discuten sobre riesgos, la sociedad espera no palabras, sino reglas de juego claras que hagan la tecnología segura y útil para todos, no solo para los accionistas.