La plataforma social TikTok lanza una prueba piloto de la herramienta Likeness Detection, diseñada para identificar deepfakes y cuentas falsas que utilizan la apariencia de los creadores de contenido. Por ahora, la función está disponible para un grupo limitado de autores en Estados Unidos como herramienta opcional.
Cómo funciona el sistema de protección
La herramienta analiza contenido generado por inteligencia artificial que contenga el rostro de un blogger específico y permite presentar una queja de manera inmediata sobre un deepfake o una cuenta fraudulenta. Para activar la función, es necesario pasar una verificación de identidad a través del servicio Jumio, que incluye dos etapas: una selfie en tiempo real y el escaneo de un documento de identidad.
En la empresa destacan que no guardan copias de los documentos de los usuarios, y que los datos biométricos se utilizan exclusivamente para buscar coincidencias. Este es un paso importante hacia el equilibrio entre la protección de derechos de autor y la privacidad.
Evaluación experta de la situación
Desde mi punto de vista, la iniciativa de TikTok es una respuesta oportuna a la creciente amenaza de las falsificaciones digitales. El mercado ya se ha enfrentado a una ola de fraudes donde clones de bloggers creados por IA se utilizan para promocionar estafas y robar datos personales. Sin embargo, la efectividad de Likeness Detection dependerá directamente de la precisión de los algoritmos y la velocidad de procesamiento de las quejas. Si el sistema logra funcionar en tiempo real, podría sentar un precedente para toda la industria de las plataformas sociales.
Este paso también resalta una tendencia clave de 2024: las plataformas están pasando de una moderación pasiva a una protección activa de la identidad digital de los creadores. La cuestión es cuán amplia será la implementación de estas herramientas y si llevarán a una centralización excesiva del control sobre el contenido.