TikTok lanza pruebas de búsqueda de copias de IA de rostros de blogueros: una nueva herramienta de protección contra deepfakes
La plataforma de videos cortos TikTok ha comenzado a probar una nueva herramienta llamada Likeness Detection, diseñada para identificar contenido creado con inteligencia artificial que utiliza los rostros de los creadores de la plataforma. Por el momento, la función está disponible para un grupo limitado de creadores en Estados Unidos.
El mecanismo de funcionamiento de la herramienta se basa en la búsqueda de videos generados por IA en los que se utiliza la apariencia de un blogger específico. Al detectar dicho contenido, el creador tiene la posibilidad de denunciar el deepfake o la cuenta falsa. Para activar la función, es necesario pasar por un proceso de verificación de identidad a través del servicio Jumio, que incluye una selfie en vivo y el escaneo de un documento de identificación.
Es importante destacar que la empresa subraya que las copias de los documentos no se almacenan en los servidores, y los datos biométricos se utilizan exclusivamente para buscar coincidencias con el fin de identificar contenido falso. Este es un paso que, en mi opinión, demuestra la creciente conciencia de las plataformas sobre las amenazas relacionadas con las tecnologías deepfake.
Desde el punto de vista del mercado, medidas como estas se vuelven críticamente importantes en el contexto de la rápida propagación de modelos generativos. TikTok, como una de las plataformas sociales más grandes, se ve obligada a responder a los riesgos de pérdidas reputacionales y financieras para sus creadores. Sin embargo, la efectividad de Likeness Detection dependerá de la precisión de los algoritmos y de su capacidad para adaptarse a nuevos métodos de generación de contenido.
Opinión de expertos: La implementación de herramientas como esta es solo el primer paso en la lucha contra las copias generadas por IA. En los próximos años, veremos cómo las plataformas se verán obligadas a pasar de medidas reactivas a sistemas proactivos, integrando marcas de agua digitales y verificación mediante blockchain para garantizar la autenticidad del contenido. TikTok actúa aquí como pionero, pero el mercado necesitará un estándar unificado de protección contra deepfake.