Meta ha desactivado una de las funciones clave de su nuevo modelo de IA Muse Image, que permitía generar imágenes basadas en perfiles públicos de Instagram. La función, que desató una ola de críticas, fue deshabilitada solo tres días después de su lanzamiento.
El 7 de julio, la compañía presentó Muse Image como el primer modelo de generación de imágenes de Meta Superintelligence Labs, integrado en Meta AI. La principal "novedad" era una opción: el usuario podía indicar en el prompt una cuenta pública de Instagram, y la red neuronal utilizaba sus fotos abiertas para crear nuevo contenido. Sin embargo, ya el 10 de julio, Meta actualizó oficialmente el anuncio, afirmando que la función "no cumplió con las expectativas de los usuarios en cuanto a privacidad".
El problema radicaba en la activación automática de esta opción: los usuarios no daban su consentimiento explícito para el uso de sus imágenes en la generación o el entrenamiento. La actriz Hannah Einbinder pidió públicamente que se desactivara la función, y el sindicato SAG-AFTRA (Sindicato de Actores de Cine de EE. UU.) calificó este enfoque como "un completo error de cálculo en la evaluación de la opinión pública". En su comunicado, la organización subrayó: "Cualquier mecanismo que no sea un consentimiento explícito y visible para este tipo de usos de las imágenes de los usuarios de Instagram es inaceptable". Tras la desactivación de la función, SAG-AFTRA expresó su apoyo a la decisión de Meta.
A pesar de este sonado incidente, el modelo Muse Image como producto sigue estando disponible en Meta AI. Ahora se utiliza exclusivamente para generar y editar imágenes a partir de solicitudes de texto y fotos subidas por el usuario. Además, Meta ya ha integrado Muse Image en más de 30 nuevos efectos de IA para Instagram Stories y en los chats de WhatsApp con Meta AI en un número limitado de países.
Este caso es un claro ejemplo de cómo la prisa en el lanzamiento de productos de IA puede traducirse en pérdidas reputacionales. Meta claramente subestimó la sensibilidad del público ante el uso de datos personales, incluso cuando se trata de cuentas públicas. En la era de la conciencia digital total, cualquier opción automática que afecte la privacidad está condenada al fracaso sin el consentimiento explícito del usuario.