Olhando para o vídeo de uma falsa falsa Emma Watson acima, você pode ver como a tecnologia é realista.
Sério, eu fui ao concerto holográfico do ABBA aclamado pela crítica em Londres recentemente e os movimentos realistas naquele clipe são surpreendentemente semelhantes em qualidade.
Mas é difícil não perceber a natureza sugestiva do vídeo, que ilustra perfeitamente as intenções obscuras dos usuários – e talvez dos próprios programadores. Para tornar as coisas mais problemáticas, esse clipe é usado como publicidade.
Retuitar a gravação de tela do anúncio, disse um usuário do Twitter: 'Esta é apenas uma nova maneira de assediar sexualmente as mulheres. É tirar sua autonomia corporal e forçá-lo a material sexual não consensual, que pode ser usado para humilhá-lo e discriminá-lo. Sem falar nos efeitos psicológicos.
Incentivar o uso de IA deepfake para esse fim é obviamente sinistro. No entanto, não deveria ser surpreendente, já que os usos mais famosos da tecnologia deep fake até agora foram pornográficos ou ligados à política.
Em 2019 – apenas dois anos após a criação da tecnologia – foi relatado que pelo menos 96% de todos os vídeos deepfake encontrados online eram pornográficos, de acordo com pesquisa realizada pela Deeptrace.
Alimentando a criação desses vídeos estão vários sites que hospedam exclusivamente pornografia deepfake. Muitos clipes falsificados enviados para essas plataformas foram criados por ex-namorados vingativos ou pessoas que procuram manchar a imagem de seus inimigos.
Como resultado, governos de todo o mundo começaram a criar estruturas legais mais fortes que limitam as formas como a tecnologia deepfake pode ser usada. Reconhecidamente, eles tiveram que ser informados por casos existentes, e é por isso que os especialistas em tecnologia alertaram que não estávamos preparados para seus perigos.
Em novembro de 2022, o governo do Reino Unido fez pornografia deepfake um crime passível de prisão. No entanto, os tribunais só podem processar indivíduos caso circulem essas imagens ou vídeos online.
Alguns estados dos EUA também colocaram leis semelhantes no lugar. Realisticamente, porém, essas políticas não podem proteger ninguém de ser inserido em vídeos explícitos para visualização de outro indivíduo a portas fechadas.
Esse pensamento, para a grande maioria das mulheres, será suficiente para incitar nojo e raiva, senão um arrepio e uma reação de arrepios.
Como mencionado, os deepfakes também foram usados para incitar alvoroço político.
Barak Obama foi retratado insultando Donald Trump. Mark Zuckerberg tem foi preparado dizer que o único objetivo do Facebook é controlar e explorar os usuários da plataforma.
Tudo isso se tornou viral, revelando o nível de interesse, admiração e, em alguns casos, os truques da tecnologia deepfake.
Usado em outros contextos, as consequências podem ser muito mais perigosas. Durante os primeiros meses da invasão da Ucrânia pela Rússia, vídeos do presidente Zelensky surgiu no qual ele disse aos soldados ucranianos para se renderem aos soldados russos.
Felizmente, o reais O presidente Zelensky acessou suas contas pessoais nas redes sociais para confirmar que o vídeo havia sido adulterado pelas forças da oposição. Ele lembrou a seu povo que a luta por seu país ainda não havia terminado e os exortou a permanecerem unidos.
Parece que os deepfakes, mesmo quando usados para fazer uma versão digna de risos do tradicional discurso da rainha Elizabeth II discurso de natal, tendem a fazer surgir um sentimento inquietante dentro de nós.
Talvez nós sabemos no fundo, é muito mais provável que a tecnologia seja usada com intenções maliciosas. Então, o que acontecerá quando se tornar tão avançado que não possamos distinguir entre o que é fato e ficção?
Com aplicativos gratuitos para download como o Facemega, devemos nos preocupar com o fato de a tecnologia deepfake estar se tornando amplamente disponível em nossos smartphones?
Eu diria que, infelizmente, deveríamos estar.
5
energia
comentários 0
