TikTok prueba un detector de deepfakes: cómo la plataforma protegerá a los creadores de contenido de las copias generadas por IA
La plataforma social TikTok está lanzando pruebas de una nueva herramienta de seguridad: Likeness Detection. Este mecanismo opcional está diseñado para detectar contenido generado por inteligencia artificial que utiliza el rostro del creador sin su consentimiento. Por el momento, la función está disponible para un grupo limitado de autores en Estados Unidos.
La herramienta funciona de la siguiente manera: el sistema escanea automáticamente la plataforma en busca de videos e imágenes creados con IA donde aparezca el rostro de un bloguero específico. Al detectar dicho contenido, el autor recibe una notificación y puede presentar una queja contra el deepfake o la cuenta falsa.
Procedimiento de verificación
Para activar la función, es necesario pasar una estricta verificación de identidad a través del servicio Jumio. El proceso incluye dos etapas: una selfie en tiempo real y el escaneo de un documento de identidad. Esto es necesario para que el sistema pueda cotejar con precisión los datos biométricos del creador con el contenido distribuido en la red.
Es importante destacar la política de privacidad: la empresa afirma que no almacena copias de los documentos de los usuarios. Los datos biométricos se utilizan exclusivamente para buscar coincidencias y no se comparten con terceros. Esto reduce los riesgos de filtración de información sensible, aunque plantea preguntas sobre el almacenamiento a largo plazo de las plantillas biométricas.
Opinión de expertos: Este paso de TikTok es una reacción oportuna al crecimiento exponencial de los deepfakes en las redes sociales. Sin embargo, la efectividad de la herramienta dependerá de la velocidad de procesamiento de las quejas y la precisión de los algoritmos de reconocimiento. En un contexto donde la generación con IA es cada vez más realista, la detección pasiva podría no seguir el ritmo de la actividad de los atacantes. La plataforma necesitará implementar medidas proactivas, incluido el etiquetado de todo el contenido sintético en la etapa de carga.