La plataforma social de videos cortos TikTok ha lanzado una prueba piloto de una nueva herramienta llamada Likeness Detection. Por ahora, la función está disponible para un grupo limitado de creadores en Estados Unidos. Según mi análisis del mercado, este es un paso en la dirección correcta para una plataforma que durante mucho tiempo ha sido vulnerable a ataques que utilizan rostros sintetizados.

¿Cómo funciona la protección contra deepfakes?

La herramienta está diseñada para detectar automáticamente contenido creado con inteligencia artificial que utiliza el rostro de un blogger específico. El sistema escanea la plataforma en busca de deepfakes sospechosos y cuentas falsas. Cuando se detecta una coincidencia, el creador tiene la opción de presentar una queja por infracción.

La etapa clave de activación es la verificación obligatoria de identidad a través del servicio externo Jumio. El procedimiento incluye dos pasos: una selfie en tiempo real y el escaneo de un documento de identidad. La empresa garantiza que no almacena copias de los documentos y que los datos biométricos se utilizan exclusivamente para buscar coincidencias en la plataforma.

Evaluación de expertos

Desde un punto de vista técnico, la implementación a través de Jumio es un compromiso razonable entre seguridad y privacidad. Sin embargo, cabe señalar que la efectividad de Likeness Detection dependerá directamente de la calidad de los datos de entrenamiento y de la capacidad del algoritmo para distinguir contenido legítimo de deepfakes maliciosos. En su configuración actual, la herramienta solo funciona a partir de solicitudes de los creadores, lo que deja lagunas para los creadores profesionales de falsificaciones. En mi opinión, este es solo el primer paso en una larga carrera armamentista entre las plataformas y los generadores de contenido de IA.