Apenas tres días después del lanzamiento estrepitoso de su nuevo modelo de generación de imágenes Muse Image, la corporación Meta se vio obligada a retirar una de sus funciones clave, que desató una ola de críticas. Se trata de la opción que permitía a la red neuronal usar fotos públicas de Instagram para crear nuevas imágenes a partir de una solicitud de texto.
¿Por qué fracasó la función?
Inicialmente, Muse Image, presentada el 7 de julio como el producto insignia de Meta Superintelligence Labs, ofrecía una oportunidad única: añadir el nombre de una cuenta pública de Instagram al prompt para que la IA analizara las imágenes abiertas del usuario y generara contenido nuevo basado en ellas. Sin embargo, ya el 10 de julio, la compañía eliminó silenciosamente la mención de esta función del anuncio oficial, reconociendo que «no cumplió con las expectativas de los usuarios en cuanto a privacidad».
El problema resultó ser más profundo que un simple fallo técnico. La opción estaba activada por defecto, lo que provocó indignación no solo entre los usuarios comunes, sino también entre los profesionales. La actriz Hannah Einbinder instó públicamente a desactivar esta funcionalidad de inmediato, y el influyente sindicato SAG-AFTRA emitió una declaración contundente. Según ellos, cualquier mecanismo que no requiera un consentimiento explícito y consciente para el uso de imágenes es un «error total» e ignora los riesgos evidentes relacionados con la identidad digital y los deepfakes.
¿Qué queda de Muse Image?
A pesar del escándalo, el modelo Muse Image en sí no ha desaparecido. Sigue funcionando como parte de Meta AI, permitiendo a los usuarios generar y editar imágenes a partir de descripciones de texto y fotos subidas. Además, la tecnología ya está integrada en más de 30 nuevos efectos de IA para Instagram Stories y se utiliza en chats de WhatsApp con Meta AI en varios países. Sin embargo, la lección que la comunidad ha impartido es clara: incluso los algoritmos más avanzados no deben operar en detrimento de la privacidad sin el consentimiento explícito del usuario.
Análisis de Cryptalist: Este incidente es un ejemplo clásico de cómo la búsqueda de innovaciones puede traducirse en pérdidas reputacionales. Meta se ha enfrentado una vez más al «efecto del valle inquietante» en cuestiones de ética de la IA. Al desactivar la función, reconocieron que el control del usuario sobre los datos no es una opción, sino un requisito fundamental. Para la industria, esto es una señal: cualquier producto que utilice datos públicos para el entrenamiento o la generación debe diseñarse desde el principio con el principio de «privacidad por diseño», y no corregirse a posteriori bajo la presión pública.