Onde mais a tecnologia deepfake está sendo usada?
O conteúdo deepfake percorreu um longo caminho e está se tornando parte do conteúdo online convencional, para melhor ou para pior. Um exemplo é a conta Deepfake do TikTok de Tom Cruise, que cria vídeos curtos mostrando de forma convincente o ator em todos os tipos de situações.
Os usuários muitas vezes são enganados, acreditando ser o reais Tom, quando na verdade é um ator sósia com o rosto de Cruise imposto digitalmente na pós-produção.
Embora este exemplo seja amplamente inofensivo e não tenha a intenção de causar problemas, a tecnologia deepfake semelhante está sendo usada de maneiras mais maliciosas.
A pornografia Deepfake AI é uma preocupação particular. Existe um potencial significativo para que material explícito seja criado e compartilhado sem consentimento, pois muitos sites adultos não são devidamente regulamentados e raramente seguem diretrizes rígidas.
O material deepfake também foi criado para confundir e desinformar o público sobre a guerra ucraniana. O conteúdo foi compartilhado on-line que mostra líderes de ambos os países 'dizendo' coisas que não disseram. A consequência disso pode ser de longo alcance – e provavelmente veremos mais disso avançando.
Não são apenas os visuais que podem ser manipulados. Deepfakes de áudio estão ganhando força e são muito mais acessíveis. Um serviço com o qual tentamos mexer no escritório da Thred é o UberDuck, que nos permitiu criar todas as músicas antigas do Eminem do princípio.
Outra ferramenta é capaz de criar rostos automatizados apenas de áudio, também, o que significa que em breve poderemos ver pessoas digitais inteiras construídas do zero que nunca existiu. A plataforma Réplica está experimentando isso usando bots de bate-papo, criando personagens de conversação digital para os humanos se envolverem. Pense no enredo para ELA e você não está longe.
https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz
Por que isso poderia ser preocupante?
O uso moral de deepfakes é atualmente um saco misto.
No momento, estamos vendo um monte de implementações novas ou enigmáticas de sua tecnologia, mas isso pode facilmente se tornar mais comum e mais difícil de identificar muito em breve.
Isso traz uma série de problemas, como mencionado acima, de conteúdo explícito a conteúdo político enganoso. Imagine as possíveis ramificações se um líder mundial desequilibrado (dos quais parece haver muitos) vê um vídeo deepfake ameaçando uma guerra nuclear.
Não estou dizendo que o vídeo de Kendrick é um sinal de que estamos indo para um caminho condenado, mas o vídeo parece demonstram que as falsificações profundas estão se tornando mais fáceis de criar e são muito eficazes. Se ver o rosto de Kanye imposto ao corpo de Kendricks não for suficiente para lhe dar combustível de pesadelo por semanas, não sei o que será.
Por enquanto, traga o álbum de Kendrick – sem dúvida será um clássico, certo?
3
energia
comentários 0
