La empresa Meta se apresuró a eliminar una controvertida funcionalidad en su nuevo modelo de IA Muse Image, que permitía generar imágenes utilizando perfiles públicos de Instagram como referencia. La función, anunciada el 7 de julio, fue desactivada solo tres días después de su lanzamiento, el 10 de julio.
Inicialmente, Muse Image se presentó como el primer modelo de generación de imágenes de Meta Superintelligence Labs, integrado en Meta AI. La característica clave era la opción de añadir al prompt el nombre de una cuenta pública de Instagram, tras lo cual la red neuronal analizaba las fotos abiertas del usuario y creaba nuevos materiales visuales basados en ellas. Sin embargo, en una actualización del anuncio oficial, la empresa reconoció que esta función «no cumplió con las expectativas de los usuarios en materia de privacidad».
El problema generó un amplio revuelo. La actriz Hannah Einbinder instó públicamente a Meta a desactivar la opción, y el sindicato SAG-AFTRA emitió duras críticas. La organización subrayó que cualquier mecanismo que utilice imágenes de usuarios sin un consentimiento explícito y visible «es un error de cálculo total en la evaluación de la opinión pública sobre los peligros y daños evidentes». Especial indignación causó el hecho de que la función estuviera activada por defecto, lo que creaba riesgos para la privacidad de millones de usuarios.
A pesar de la retirada de la función, el modelo Muse Image sigue estando disponible en Meta AI. Los usuarios aún pueden generar y editar imágenes mediante solicitudes de texto y fotos subidas. Además, Meta ya ha integrado Muse Image en más de 30 nuevos efectos de IA para Instagram Stories y en chats de WhatsApp con Meta AI en varios países.
Opinión de experto: Este incidente es un claro ejemplo de cómo los gigantes tecnológicos, en su afán por innovar, olvidan los principios básicos de la ética digital. El uso de datos públicos sin consentimiento explícito no es un error técnico, sino un error fundamental en el diseño del producto. Meta tendrá que revisar seriamente su enfoque hacia la privacidad si quiere que los usuarios confíen en sus herramientas de IA. De lo contrario, estos escándalos se repetirán una y otra vez.