Le dernier single de Kendrick utilise une technologie avancée de deepfake

Où d'autre la technologie deepfake est-elle utilisée ?

Le contenu Deepfake a parcouru un long chemin et fait progressivement partie du contenu en ligne grand public, pour le meilleur ou pour le pire. Un exemple est le compte Deepfake TikTok de Tom Cruise, qui crée des vidéos courtes montrant de manière convaincante l'acteur dans toutes sortes de situations.

Les utilisateurs sont souvent trompés, croyant que c'est le réal Tom, alors qu'il s'agit en fait d'un acteur sosie avec le visage de Cruise imposé numériquement en post-production.

Bien que cet exemple soit en grande partie inoffensif et ne soit pas destiné à causer des problèmes, une technologie deepfake similaire est utilisée de manière plus malveillante.

La pornographie Deepfake AI est particulièrement préoccupante. Il existe un potentiel important de création et de partage de matériel explicite sans consentement, car de nombreux sites Web pour adultes ne sont pas correctement réglementés et suivent rarement des directives strictes.

Du matériel Deepfake a également été créé pour confondre et désinformer le public sur la guerre d'Ukraine. Du contenu a été partagé en ligne qui montre les dirigeants des deux pays "dire" des choses qu'ils n'ont pas dites. Les conséquences de cela pourraient être considérables – et nous en verrons probablement davantage à l'avenir.

Ce ne sont pas seulement les visuels qui peuvent être manipulés non plus. Les deepfakes audio gagnent du terrain et sont beaucoup plus accessibles. Un service avec lequel nous avons essayé de jouer dans le bureau de Thred est UberDuck, qui nous a permis de créer toutes les chansons d'Eminem de la vieille école à partir de rien.

Un autre outil est capable de créer des visages automatisés de l'audio seul, aussi, ce qui signifie que nous pourrions bientôt voir des personnes numériques entières construites à partir de zéro qui n'ont même jamais existait. La plateforme Replika expérimente cela en utilisant des chatbots, créant des personnages de conversation numériques avec lesquels les humains peuvent s'engager. Pensez à l'intrigue pour Son et tu n'es pas loin.

https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz

Pourquoi cela pourrait-il être préoccupant ?

L'utilisation morale des deepfakes est actuellement quelque peu mitigée.

À l'heure actuelle, nous voyons un tas d'implémentations nouvelles ou fantaisistes de sa technologie, mais elle pourrait facilement devenir plus courante et plus difficile à identifier très bientôt.

Cela pose une foule de problèmes, comme mentionné ci-dessus, du contenu explicite au contenu politique trompeur. Imaginez les ramifications potentielles si un dirigeant mondial déséquilibré (dont il semble y en avoir beaucoup) voit une vidéo falsifiée menaçant une guerre nucléaire.

Je ne dis pas que la vidéo de Kendrick est un signe que nous nous dirigeons vers une voie condamnée, mais la vidéo démontrer que les deep fakes sont de plus en plus faciles à créer et sont très efficaces. Si voir le visage de Kanye imposé au corps de Kendricks ne suffit pas à vous donner du carburant pour des cauchemars pendant des semaines, je ne sais pas ce qui le fera.

Pour l'instant, amenez l'album de Kendrick – ce sera sans aucun doute un classique, n'est-ce pas ?