O 'Deep Fake Detection Challenge' do Facebook retorna dados preocupantes

Como o Facebook está lidando com os deepfakes?

Após o rescaldo de dois casos de alto perfil em sua plataforma - a difamação do presidente democrata Nancy Pelosi e o senhor Zuckerberg ele próprio - o Facebook convocou os usuários no final de 2019 para ajudar a reforçar seus esforços de detecção de falsificação por meio de um 'desafio' público.

Os participantes receberam 100,000 clipes curtos contendo filmagens de 3000 atores contratados pelo Facebook. Desse grupo, os participantes foram encarregados de identificar quais amostras foram adulteradas pelo Facebook usando seus próprios algoritmos de detecção automática personalizados.

Quase um ano depois, finalmente temos o resultados desses testes registrados. 2000 participantes testaram seus algoritmos (a maioria dos candidatos era da indústria de tecnologia ou tinha formação acadêmica), e a amostra mais bem-sucedida obteve uma taxa de detecção impressionante de 82%. Considerando a infinidade de explorações digitais que chegam a falsificações profundas hoje; borrões, modificações no rácio de fotogramas, sobreposições, só para citar alguns… teria que dizer que este é um retorno realmente promissor.

O vencedor do desafio, Selim Seferbekov, recebeu US $ 500,000 e foi então encarregado de comparar seu algoritmo vencedor com um conjunto de dados de 'caixa preta' preenchido com as formas mais intrincadas de engano falso conhecido dos especialistas em IA. Depois que a pontuação foi finalizada e combinada com os resultados anteriores, uma média geral saiu em apenas por 65%.

Esses resultados devem ser uma preocupação para o Facebook?

Este estudo destaca o quão difícil é realmente detectar um deepfake na natureza. Afinal, a natureza adaptativa da IA ​​significa que, assim que os exploits existentes são encerrados, novos exploits podem surgir rapidamente e voltar à estaca zero. É um jogo frustrante e sem fim de gato e rato.

No entanto, os pesquisadores do Facebook estão confiantes de que os dados coletados neste teste serão inestimáveis ​​para reforçar seu próprio software preventivo que está atualmente em desenvolvimento. O Facebook também planeja lançar o código-fonte dos algoritmos de maior sucesso - incluindo o de Seferbekov - para ajudar outros pesquisadores a detectar vídeos falsos antes que se tornem virais.

Por enquanto, o Facebook está agindo de forma inteligente e está mantendo seu próprio software de detecção em segredo para evitar que qualquer forma de engenharia reversa apareça em 2020. Diretor de tecnologia Mike Schroepfer afirma que, a partir de agora, os deepfakes 'não são um grande problema' com o Facebook, mas que ele e sua equipe estão trabalhando incansavelmente para evitar serem 'pegos de surpresa' nos preparativos para as eleições nos Estados Unidos em novembro.

Da forma como está, resta saber se estamos realmente equipados para lidar com a próxima onda de falsificações profundas. Mas você pode garantir uma coisa, is chegando.