Apenas tres días después de su sonado lanzamiento, la empresa Meta se vio obligada a retirar una de las funciones clave de su nuevo modelo de IA, Muse Image. Como había anticipado, el intento de utilizar perfiles públicos de Instagram como fuente de datos para la generación de imágenes resultó ser un duro golpe para la reputación del gigante.
Recordemos que el 7 de julio, Meta presentó Muse Image, el primer modelo de generación de imágenes de Meta Superintelligence Labs, integrado en Meta AI. Entre las capacidades anunciadas se incluía una opción que permitía añadir el nombre de una cuenta pública de Instagram a la solicitud de texto (prompt). Luego, el algoritmo procesaba las fotos abiertas de ese usuario, creando nuevas imágenes a partir de ellas. Sonaba prometedor, pero en la práctica desató una oleada de críticas.
Ya el 10 de julio, la empresa actualizó el anuncio oficial, informando que dicha función ya no estaba disponible. La razón oficial es que la opción «no cumplió con las expectativas de los usuarios en cuanto a privacidad». Sin embargo, como muestran los acontecimientos, esto es quedarse corto. La explosión de indignación se debió a que la función se activó automáticamente, sin el consentimiento explícito de los propietarios de las cuentas. La actriz Hannah Einbinder pidió públicamente desactivar la opción, y el sindicato SAG-AFTRA emitió una declaración contundente.
En su comentario, SAG-AFTRA calificó cualquier mecanismo que no sea un consentimiento explícito y visible para el uso de imágenes como «inaceptable» y un «completo error de cálculo en la evaluación de la opinión pública». Destacaron los peligros y daños evidentes inherentes a dicho uso. Comparto plenamente esta postura: en la era de los deepfakes y las manipulaciones digitales, la activación automática de una función así no es un error, sino una gravísima violación de los derechos digitales.
Es importante señalar que el modelo Muse Image como producto no ha desaparecido. Sigue estando disponible en Meta AI para generar y editar imágenes a partir de solicitudes de texto normales y fotos subidas. Además, Meta informó que Muse Image se utiliza en más de 30 nuevos efectos de IA para Instagram Stories y en chats de WhatsApp con Meta AI en un número limitado de países.
Opinión del experto: Este incidente es un claro ejemplo de cómo la búsqueda de innovaciones puede tener consecuencias catastróficas si no se tienen en cuenta los principios básicos de confidencialidad. Meta ha demostrado una vez más que está dispuesta a sacrificar la privacidad de los usuarios para probar nuevos algoritmos. La decisión de desactivar la función es un paso correcto, pero tardío. El mercado necesita regulaciones claras que obliguen a las empresas a obtener un consentimiento explícito antes de utilizar datos personales para entrenar la IA, en lugar de basarse en el «estatus público» del perfil.