La empresa Meta desactivó apresuradamente una de las funciones clave de su nuevo modelo de generación de imágenes Muse Image: la capacidad de crear contenido haciendo referencia a cuentas públicas de Instagram. La decisión se tomó solo tres días después del lanzamiento, lo que evidencia graves errores de cálculo en la evaluación de las expectativas de los usuarios.
Muse Image, presentada el 7 de julio como el primer modelo de generación de imágenes de Meta Superintelligence Labs, integrado en Meta AI, inicialmente permitía a los usuarios añadir el nombre de un perfil público de Instagram en el prompt. El sistema utilizaba entonces las fotos abiertas de esa cuenta para crear una nueva imagen. Sin embargo, ya el 10 de julio, la empresa actualizó el anuncio, informando que la función «no cumplió con las expectativas» de los usuarios en cuanto a privacidad.
La privacidad como principal escollo
Las críticas hacia Muse Image fueron feroces. Las principales quejas se referían a la activación automática de la función por defecto, lo que generaba graves riesgos para la confidencialidad. La actriz Hannah Einbinder instó públicamente a los usuarios a desactivar esta opción. El Sindicato de Actores de Cine de EE. UU. (SAG-AFTRA) también emitió una declaración contundente, calificando de inaceptable cualquier mecanismo de uso de imágenes que no contara con el consentimiento explícito y visible del usuario.
Tras la desactivación de la función, el sindicato apoyó la decisión de Meta, señalando que cualquier otro uso, excepto el consentimiento explícito, es «un error de cálculo total en la evaluación de la opinión pública sobre los peligros y daños evidentes inherentes a dicho uso».
Qué queda en Muse Image
A pesar de la eliminación de la controvertida función, el modelo Muse Image como producto sigue estando disponible en Meta AI. Los usuarios aún pueden generar y editar imágenes basadas en consultas de texto y fotografías. Además, Meta confirmó que Muse Image ya se utiliza en más de 30 nuevos efectos de IA para Instagram Stories y en chats de WhatsApp con Meta AI en un número limitado de países.
Recordemos que el 9 de junio Meta también presentó el modelo multimodal Muse Spark 1.1, orientado a tareas de agente y codificación.
Comentario del experto: Este incidente demuestra claramente lo fina que es la línea entre la innovación y la violación de la privacidad en la era de la IA generativa. Meta, al poseer una enorme cantidad de datos de usuarios, subestimó claramente la repercusión pública. Aunque la empresa reaccionó rápidamente, este caso se convertirá en un precedente importante para la regulación del uso de datos públicos en el entrenamiento y funcionamiento de modelos de IA. En el futuro, probablemente veremos requisitos más estrictos para el consentimiento explícito de los usuarios, y esto beneficiará a todo el ecosistema.