La plataforma de videos cortos TikTok ha comenzado a probar de forma limitada una nueva herramienta llamada Likeness Detection. Por ahora, la función solo está disponible para un pequeño grupo de creadores en Estados Unidos.

El objetivo de esta herramienta es buscar automáticamente contenido generado por inteligencia artificial que utilice el rostro de un creador específico. Si el sistema detecta un deepfake o una cuenta falsa, el blogger puede presentar una queja de inmediato. Este es un paso en la lucha contra la creciente amenaza de las falsificaciones digitales y el fraude que utiliza rostros conocidos.

Para activar la herramienta, es necesario pasar por un proceso de verificación de identidad en dos pasos a través del servicio Jumio. El procedimiento incluye una selfie en tiempo real y el escaneo de un documento de identidad. La empresa enfatiza que no almacena copias de los documentos y que los datos biométricos se utilizan exclusivamente para buscar coincidencias con videos en la plataforma.

Este es un precedente importante para toda la industria. Con el aumento de la calidad de los modelos generativos, distinguir un video real de uno sintético se vuelve cada vez más difícil. Medidas como esta, aunque sean voluntarias, sientan un precedente para la implementación de una verificación obligatoria de los creadores cuyos rostros podrían ser utilizados sin su consentimiento.

En mi opinión, el éxito de Likeness Detection dependerá de la velocidad de los algoritmos y de su capacidad para diferenciar las parodias legítimas de las falsificaciones malintencionadas. Si el sistema demuestra su eficacia, es probable que veamos soluciones similares en otras grandes plataformas en los próximos trimestres.