Menu Menu

Snapchat et TikTok investissent dans la deep fake tech

Snapchat et TikTok ont ​​tous deux progressé dans leurs propres recherches de technologie de contrefaçon profonde, pour le meilleur ou pour le pire.

Il semble que la technologie deep fake pourrait bientôt devenir bien plus qu'une simple pratique obscure pour les nerds de l'informatique.

Selon SocialMediaToday, Snapchat a acheté la start-up AI Factory pour 166 millions de dollars cette semaine, tandis que TikTok travaillerait sur un faux filtre profond qui vous permettra de mettre votre propre image sur des images préexistantes dans l'application. C'est évidemment un développement passionnant, mais c'est aussi légèrement préoccupant étant donné tous les dangers potentiels qui entourent les contrefaçons profondes.

Nous avons déjà parlé des problèmes qui pourraient survenir en manipulant des images de politiciens pour les faire paraître dire quelque chose ils n'ont jamais fait. Déterminer ce qui est réellement réel deviendra probablement plus difficile à l'avenir et si TikTok et Snapchat commencent également à utiliser la technologie, cela pourrait même s'étendre aux images partagées entre amis.

Pour l'instant, cependant, il ne sera vraiment utilisé que pour planter votre propre visage sur un chien de compagnie, ou sur la Statue de la Liberté, ou toute autre chose dans ce sens. Ce sera probablement une fonctionnalité amusante et non une descente dystopique dans la désinformation numérique. Au moins pour l'instant.

Devrions-nous craindre que la technologie ne touche le grand public ?

Les politiciens, les célébrités et même vos relations proches pourraient tous être affectés si des normes ne sont pas mises en place pour surveiller ce qui est authentique et ce qui ne l'est pas. À l'heure actuelle, il n'y a pas grand-chose à craindre étant donné qu'il est encore assez évident de savoir quand le visage d'une personne est déformé, mais, comme pour tout ce qui concerne la technologie, ce ne sera pas toujours le cas.

L'acquisition d'AI Factory par Snapchat suggère que l'entreprise cherche à poursuivre les fonctionnalités qui animent vos selfies dans différentes vidéos, malgré toutes les craintes qui entourent les contrefaçons profondes.

AI Factory a déjà travaillé avec Snapchat pour créer la nouvelle fonctionnalité de l'application appelée Cameos qui fait exactement cela, et ce n'est pas loin des fausses vidéos un peu effrayantes d'Obama et de Mark Zuckerberg qui sont partout sur YouTube. Ou celui-ci qui fond parfaitement le visage de Tom Cruise dans celui de Bill Hader.

TikTok a fabriqué ses propres fausses fonctionnalités au plus bas aussi. Sa société mère ByteDance a créé un outil qui vous permettra de mettre votre visage sur celui de quelqu'un d'autre. Il n'a pas encore été publié – ce qui n'est pas surprenant compte tenu du tourbillon de rumeurs et d'inquiétudes concernant sa propriété chinoise et son utilisation des données – mais il est presque garanti de devenir un succès s'il est rendu public.

Nous devrions probablement avoir quelques conscience des dangers que ce genre de fonctionnalité pourrait apporter à notre communication les uns avec les autres. Imaginez que vous fassiez un simulacre profond du partenaire ou d'un collègue de quelqu'un et des ramifications d'une mauvaise utilisation de cette technologie. Brouiller les frontières entre la manipulation d'images et l'identité personnelle est un sujet délicat et il est facile de se tromper.

Tout est amusant et léger alors que la technologie n'en est qu'à ses balbutiements, mais alors que les grandes entreprises commencent à normaliser les contrefaçons profondes, nous devons également nous rappeler pourquoi tous les experts nous avertissent d'être vigilants et de l'utiliser en toute sécurité.

Accessibilité