La plataforma de videos cortos TikTok lanza un proyecto piloto para proteger la apariencia de sus creadores. La nueva función, denominada Likeness Detection, se está probando en un grupo limitado de autores de Estados Unidos. Esta herramienta está diseñada para buscar automáticamente contenido generado por inteligencia artificial que utilice el rostro de un blogger específico.
El mecanismo de funcionamiento se basa en el escaneo preventivo de los videos subidos. Tan pronto como el sistema detecta un deepfake o una cuenta falsa que crea la ilusión de la presencia de una persona real, notifica inmediatamente al propietario del rostro original. Después de esto, el autor puede presentar una queja por infracción, lo que simplifica significativamente el proceso de lucha contra esquemas fraudulentos y el robo de identidad.
Para activar la función, se requiere pasar una verificación estricta a través del servicio externo Jumio. El procedimiento incluye dos etapas: una selfie en tiempo real y el escaneo de un documento de identidad. Es importante destacar que, según las declaraciones de la empresa, TikTok no almacena copias de los documentos proporcionados. Los datos biométricos se utilizan exclusivamente para crear una huella digital que permita al sistema identificar posteriormente coincidencias en cientos de miles de videos.
Por qué esto es críticamente importante para el mercado
El mercado de deepfakes y clones de IA está creciendo exponencialmente, y las plataformas se ven obligadas a adaptarse. TikTok, siendo una de las plataformas de contenido más grandes, se convierte en el principal objetivo para los estafadores que crean cuentas falsas en nombre de bloggers populares. Likeness Detection no es solo una herramienta de seguridad, sino una amenaza directa para la industria del contenido falso. Si el sistema demuestra su eficacia, seremos testigos de un estándar para todas las redes sociales.
Mi comentario profesional: Por ahora, esto es solo una prueba en una muestra pequeña, lo que significa una protección incompleta para la mayoría de los usuarios. Sin embargo, el mero hecho de implementar un detector algorítmico de rostros es una señal poderosa para los reguladores e inversores. En los próximos 12 meses, veremos cómo soluciones similares se convierten en un requisito obligatorio para la cotización de tokens de proyectos relacionados con la síntesis de video y audio. Las plataformas que no implementen protección contra deepfakes corren el riesgo de perder la confianza de la audiencia y enfrentar demandas por parte de los creadores.