Meta ha retirado la controvertida función de su nuevo modelo Muse Image, que permitía generar imágenes utilizando perfiles públicos de Instagram como prompt. La empresa reaccionó rápidamente ante la ola de críticas y eliminó esta opción apenas tres días después de su lanzamiento.
El 7 de julio, Muse Image se presentó como el primer modelo de generación de imágenes de Meta Superintelligence Labs, integrado en Meta AI. La característica clave era la posibilidad de indicar en la solicitud una cuenta pública de Instagram: la red neuronal extraía automáticamente las fotos abiertas del usuario para crear nuevo contenido. Sin embargo, ya el 10 de julio, Meta lanzó una actualización en la que reconoció que la función «no cumplió con las expectativas de los usuarios en cuanto a privacidad».
El problema radicaba en que la opción estaba activada por defecto, lo que generaba graves riesgos para la confidencialidad. La actriz Hannah Einbinder instó públicamente a desactivar esta posibilidad, y el sindicato SAG-AFTRA calificó la situación como inaceptable. Según su declaración, cualquier mecanismo que no implique un consentimiento explícito y visible para el uso de imágenes es «un completo error de cálculo en la evaluación de la opinión pública» y conlleva peligros y daños evidentes.
Tras la desactivación de la función, el sindicato respaldó la decisión de Meta, subrayando que el uso de fotos públicas sin permiso directo fue un grave error. Es importante señalar que el propio modelo Muse Image como producto sigue estando disponible en Meta AI para generar y editar imágenes a partir de solicitudes de texto y fotos cargadas. Además, Muse Image ya se utiliza en más de 30 nuevos efectos de IA para Instagram Stories y en chats de WhatsApp con Meta AI en un número limitado de países.
Recordemos que el 9 de junio, Meta también presentó el modelo multimodal Muse Spark 1.1, orientado a tareas de agente y codificación. Sin embargo, este incidente con Muse Image demuestra que incluso los gigantes de la industria pueden cometer errores graves al evaluar los límites de la privacidad, especialmente cuando se trata de IA generativa que trabaja con datos reales de usuarios.
Mi conclusión experta: Este caso es un claro ejemplo de cómo la búsqueda de innovación puede chocar con las estrictas exigencias de confidencialidad. Meta claramente subestimó la reacción de la comunidad, y aunque la reversión de la función fue rápida, el daño reputacional ya está hecho. En la era de la regulación de la IA, estos errores de cálculo se vuelven cada vez más arriesgados: los usuarios y los reguladores no perdonarán el uso de datos personales sin consentimiento explícito.