La plataforma de videos cortos TikTok da un paso importante en la lucha contra los deepfakes. Actualmente, la empresa está probando una nueva herramienta llamada Likeness Detection, disponible para un grupo limitado de creadores en Estados Unidos. Este servicio opcional está diseñado para detectar automáticamente contenido generado por inteligencia artificial que utiliza el rostro de un creador específico.
El mecanismo de funcionamiento es el siguiente. Si el algoritmo encuentra un video o imagen generado por IA que contenga rasgos faciales del autor, la plataforma le ofrece la posibilidad de presentar una queja por deepfake o cuenta falsa. Sin embargo, para activar esta función, es necesario pasar una estricta verificación de identidad a través del servicio externo Jumio. El procedimiento incluye una selfie en tiempo real y el escaneo de un documento de identidad.
Es importante destacar la política de privacidad declarada por la empresa. TikTok afirma que no almacena copias de los documentos cargados, y que los datos biométricos se utilizan exclusivamente para buscar coincidencias con el contenido en la plataforma. Esto es crítico en el contexto de las crecientes preocupaciones sobre filtraciones de datos personales.
Opinión analítica de un experto
Este paso es una evolución lógica de la política de moderación en la era de la IA generativa. Sin embargo, en mi opinión, la eficacia de Likeness Detection dependerá directamente de la calidad de los algoritmos de reconocimiento y de la disposición de los creadores a someterse al complejo proceso de verificación. Por ahora, es solo una prueba puntual, y escalar la solución a millones de usuarios requerirá enormes recursos computacionales. No obstante, es el primer precedente significativo en el que una plataforma de redes sociales implementa una herramienta dirigida específicamente a proteger contra el robo de rostros, y no solo a etiquetar contenido generado por IA.