La queja más fundamentada contra las empresas de IA es la discrepancia entre las grandes promesas y los resultados reales. Así lo declaró el CEO de Anthropic, Dario Amodei, vinculando la percepción negativa de la tecnología por parte de la sociedad con una crisis de confianza profunda que se ha acumulado durante décadas.

El motivo del debate fue una publicación del inversor Gavin Baker, quien reprochó a Amodei su retórica excesivamente pesimista y le sugirió adoptar un tono más positivo. Según Baker, el jefe de Anthropic «perdió el debate» sobre la regulación de la IA y debería promover más activamente los beneficios de la tecnología, especialmente ante la inminente salida de la empresa al mercado público.

El núcleo del conflicto: marketing frente a realidad

Amodei respondió con una serie de publicaciones en X, subrayando que normalmente evita las redes sociales, pero que aquí se trata de una cuestión de principios. Señaló que presta igual atención tanto a los riesgos como a los beneficios de la IA, recordando su ensayo Machines of Loving Grace, dedicado al potencial de la tecnología en la medicina y la economía. Sin embargo, la tesis principal de su respuesta es el reconocimiento de un problema sistémico.

«En el fondo hay una crisis de confianza fundamental. La gente no confía ni en las empresas, ni en los gobiernos, ni en la industria tecnológica, sospechando que buscamos nuevas formas de engañarlos», afirmó Amodei. Al mismo tiempo, asumió la responsabilidad por esta situación: «Esto es completamente culpa nuestra. Se nos debe criticar precisamente por las promesas incumplidas, no por los trucos de marketing».

«Solo funcionará una cosa: curar realmente el cáncer»

El jefe de Anthropic subrayó que una nueva campaña publicitaria no cambiará la actitud de la sociedad. Las afirmaciones de que la IA vencerá el cáncer se han convertido en un cliché que se percibe como un engaño. La única forma de restaurar la confianza es demostrar logros medibles. Amodei anunció un refuerzo del trabajo en biología y medicina, prometiendo «resultados increíbles» en los próximos años, pero sin detalles concretos.

No todos estuvieron de acuerdo con su postura. El investigador de IA Yann LeCun lleva unos diez años insistiendo en que el único camino son las tecnologías abiertas y ampliamente accesibles. Según él, la IA, como la imprenta e internet, amplifica la inteligencia humana, ampliando el acceso al conocimiento. «Necesitamos diversas IA por la misma razón por la que necesitamos una prensa diversa», escribió, apoyando también la postura de Mark Zuckerberg de que la idea de una IA peligrosa que requiere concentración de poder es problemática.

Este enfoque difiere de la política de Anthropic, que no aboga por una prohibición total de los modelos abiertos, pero insiste en endurecer los requisitos de seguridad a medida que aumentan sus capacidades. Por su parte, la especialista en GTM de OpenAI, Angel Brodin, señaló la industria farmacéutica como un ejemplo de sector con logros reales que, sin embargo, sufre de baja confianza pública. En su opinión, la actitud hacia la IA dependerá no solo de los resultados, sino también de los precios, la transparencia y la distribución de los beneficios económicos.

Mi análisis: La declaración de Amodei es un caso raro de autocrítica honesta en una industria sobrecalentada por el hype. Sin embargo, apostar por «resultados reales» en medicina es un juego a largo plazo que puede no coincidir con las expectativas del mercado y los inversores. Mientras la IA no resuelva problemas concretos y tangibles para la gente común, la crisis de confianza solo empeorará — y aquí tienen razón los partidarios de la apertura: la transparencia y la accesibilidad pueden ser una herramienta más rápida y eficaz para restaurar la reputación que las promesas de futuros avances.