La plataforma de videos cortos TikTok está probando una nueva herramienta llamada Likeness Detection entre un grupo limitado de creadores estadounidenses. Esta función está diseñada para detectar contenido generado por inteligencia artificial que utiliza el rostro de un creador específico. El sistema permite a los usuarios encontrar deepfakes o cuentas falsas y presentar quejas directamente a través de la interfaz de la plataforma.
Para activar la herramienta, los creadores deben completar una verificación de identidad obligatoria a través del servicio externo Jumio. El proceso incluye tomarse una selfie en tiempo real y escanear un documento de identidad. Es importante destacar que TikTok afirma tener una política de no almacenar copias de los documentos: los datos biométricos se utilizan exclusivamente para buscar coincidencias con posibles deepfakes, no para su almacenamiento a largo plazo en la base de datos de la plataforma.
¿Cómo funciona?
El mecanismo de Likeness Detection analiza las características visuales y de comportamiento del rostro del creador, comparándolas con el contenido subido a la plataforma. Al detectar coincidencias con materiales generados por IA, el sistema etiqueta automáticamente dichos videos y brinda al creador la posibilidad de presentar una queja. Esto es especialmente relevante ante el creciente número de deepfakes, que pueden causar daños reputacionales o ser utilizados para fraudes.
Desde mi punto de vista, este paso de TikTok es oportuno, pero plantea preguntas sobre la escala de su implementación. Las pruebas en un pequeño grupo de creadores de EE. UU. son solo la primera etapa. El problema de los deepfakes se está volviendo crítico para una industria donde el contenido visual es el activo principal. Sin embargo, la efectividad del sistema dependerá de la precisión de los algoritmos y la rapidez en la respuesta a las quejas. Además, el uso del verificador externo Jumio podría convertirse en un punto vulnerable para la privacidad de los datos, a pesar de las promesas de la plataforma.
Comentario analítico: La implementación de Likeness Detection no solo es una herramienta de protección para los creadores, sino también un precedente para toda la industria de las redes sociales. En los próximos años, veremos soluciones similares de otras plataformas, ya que la regulación del contenido generado por IA se vuelve inevitable. Sin embargo, el principal desafío es el equilibrio entre la protección de la privacidad y la eficacia en la lucha contra los deepfakes.