Menu Menu

Como detectar manipulação de IA e deepfakes

Neste ponto, todos sabemos que a manipulação de IA e os deepfakes são em toda parte. Identificar com segurança os casos de seu uso, no entanto, nem sempre é simples.

A IA está presente em todas as mídias sociais e os dias em que o conteúdo era levado imediatamente ao valor nominal estão morrendo.

Existem exemplos óbvios e em grande parte inofensivos de manipulação de IA – utilizados principalmente para fins de meme – mas ocasionalmente damos por nós a olhar de forma suspeita para uma imagem ou vídeo para confirmar a sua legitimidade.

A maioria de nós provavelmente não será enganada por um Mikel Arteta mal renderizado imposto a Lil Yachty saltando no palco, mas existem tecnologias capazes de criar uma mídia incrivelmente realista.

Apenas nas últimas semanas, a IA gerou imagens do Met Gala de Katy Perry e Rihanna se tornou viral, levando muitos a acreditar que ambos os artistas compareceram ao evento – nenhum dos dois. Em outros lugares, um programa de imitação de áudio foi usado para imitar WPPs Marcar como lido e enganar a força de trabalho da empresa.

A taxa vertiginosa com que a tecnologia está melhorando é mais rápida do que somos capazes de efetivamente regular, e salvo esclarecimentos estranhos de notas da comunidade no Twitter, basicamente cabe a nós decidir se algo é real ou falso.

Se você estiver enfrentando uma pontada repentina de paranóia, permita-nos fornecer algumas dicas úteis sobre o que observar ao examinar o conteúdo em busca de evidências de IA. Em breve, teremos que apontar para sua tela como aquele gif de Leonardo DiCaprio sempre que a IA surgir.

 


Dicas para detectar deepfakes

 

  • Procure irregularidades físicas óbvias:

Embora a IA esteja constantemente se ajustando para ter um melhor desempenho, a grande maioria dos deepfakes existentes terá algumas irregularidades se você souber o que está procurando.

Os sinais reveladores incluem movimentos não naturais dos olhos, padrões estranhos de piscar ou não piscar e áreas borradas ou pixeladas ao redor da boca, olhos e cabelos.

Procure deformações nas bordas do rosto, especialmente quando a cabeça gira, e se a qualidade do vídeo for alta, uma falsificação provavelmente perderá coisas como cabelos soltos ou imperfeições da pele.

Muitas vezes, um deepfake apresentará movimentos desajeitados e mecânicos e você pode até detectar casos de uma mão cortando uma manga ou movimento anormal na gola e no pescoço.

 

  • Fundo e iluminação duvidosos:

Verifique se a direção da iluminação é consistente ao longo do vídeo. Exemplos manipulados artificialmente geralmente apresentam manchas estranhas de sombra e luz que não necessariamente se correlacionam com fontes de luz ou objetos no fundo.

Quando o assunto se move, fique atento ao fundo para ver se aparece alguma distorção. Se possível, vá quadro a quadro e aplique zoom.

 

  • Incompatibilidade audiovisual

Considere o ambiente apresentado e se a fala do sujeito corresponde ou não à acústica do espaço. A qualidade do áudio também deve corresponder adequadamente à resolução do vídeo, se for legítima. Ambos são big sorteio para o seu deepfake comum.

Parece óbvio, mas fique de olho nos movimentos dos lábios da pessoa. Os Deepfakes lutam para obter a sincronização completa e você certamente detectará um sinal notável se o vídeo ou clipe durar mais de alguns segundos.

 

  • Verifique as informações e use a IA a seu favor

O contexto é sempre fundamental. Verifique online se fontes confiáveis ​​ratificaram o que você viu nas redes sociais. Se o vídeo mostra uma figura pública fazendo algo interessante, choque, ele aparecerá quando você pesquisar notícias.

Por segurança, você pode sempre fazer uma captura de tela e usar as lentes do Google para ver se o vídeo apareceu em algum outro lugar da Internet.

Por último, existem muitas plataformas de detecção de IA, como o Video Authenticator da Microsoft, o Deepware Scanner ou o DeepFaceLab, que podem revelar coisas que você não percebeu.


Dicas para detectar imagens manipuladas por IA

 

  • Vale misterioso

Há algo aparentemente estranho nas pessoas ou objetos dentro do quadro? Gerações mal executadas podem ter mãos e dedos desonestos, e a pele humana muitas vezes parece excessivamente lisa. Os dentes podem não ter separação completa.

Cabelo, pele ou outros detalhes finos podem parecer anormalmente desajeitados ou desfocados em imagens manipuladas por IA. As criações no meio da jornada, por exemplo, tendem a ter um efeito de hachura cruzada nas partes de uma imagem com textura densa. Depois de vê-lo, você percebe isso em todos os lugares.

Observe as bordas de objetos ou pessoas. Bordas borradas, irregulares ou pixeladas geralmente significam interferência da IA. Lembra-se do segmento que faltava na manga da misteriosa foto de família de Kate Middleton?

Objetos aleatórios – e às vezes inexistentes – tendem a surgir também nas gerações de IA. Se, digamos, um quarto foi gerado, provavelmente haverá objetos estranhos e deformados em uma mesa ou prateleira.

 

  • Problemas de simetria, padrões repetidos e reflexos

Ao tentar cumprir instruções de natureza “ultra-realista”, notamos que a IA tem dificuldade em criar uma simetria facial realista. Parece adorar recursos definidos e excessivamente perfeitos – pelo menos para as pessoas em foco.

Para aqueles que estão em segundo plano, os recursos provavelmente ficarão desfocados. Se houver uma multidão, verifique também se há expressões faciais que não correspondem ao contexto da imagem.

Em imagens densamente compactadas, você pode criar padrões repetidos. Se você estiver olhando para uma cidade, muitas das janelas, portas ou outros elementos arquitetônicos provavelmente serão quase idênticos. É parte integrante da geração rápida de conteúdo para prompts.

Isso se aplicará a nuvens, tijolos, pedras, veículos e praticamente qualquer coisa que apareça em múltiplos.

Algumas técnicas de IA geram imagens juntando fragmentos de outros conteúdos. A mistura imperfeita muitas vezes pode deixar costuras visíveis. Use a ferramenta de zoom para encontrá-los.

Finalmente, a IA realmente luta para acertar os reflexos. Verifique a água em uma imagem para ver se há algo ligeiramente estranho no reflexo e observe os olhos da pessoa para ver se há algum reflexo presente. Se não, provavelmente é falso. Óculos de sol podem ser uma revelação inoperante.

 

  • Ferramentas de inspeção visual

Se você deseja verificar rapidamente a credibilidade de uma imagem, a busca reversa de imagens no Google é sua melhor amiga. Se não aparecer em nenhum lugar além das redes sociais, provavelmente é falso.

Melhor ainda, coloque a imagem em uma ferramenta de detecção de IA. Nossa preferência pessoal é o Deepware Scanner. Forensically e FotoForensics também são bons em mostrar especificamente onde ocorrem padrões repetidos quando o olho nu não está à altura.

É isso de nós, pessoal. Esperamos que agora você esteja um pouco melhor equipado para navegar na tempestade incessante de conteúdo on-line sem ser pego de surpresa ou mal informado. Dito isto, quem sabe se alguma dessas dicas será suficiente daqui a cinco anos?

Acessibilidade