Menu Menu

Créer du porno deepfake est sur le point de devenir illégal

Une nouvelle loi servira à protéger l’écrasante majorité des femmes basées au Royaume-Uni qui pensent que la technologie deepfake constitue une menace sérieuse pour leur sécurité.

À mesure que les capacités de l’intelligence artificielle (IA) progressent, les gens du monde entier s’inquiètent de l’impact de cette technologie sur la sécurité de l’emploi, l’éducation et notre vie quotidienne.

Cependant, les femmes sont devenues extrêmement préoccupées par l’impact que le contenu généré par l’IA pourrait avoir sur leur sécurité.

Une enquête réalisée par Glamour en collaboration avec l'organisation Refuge and Rape Crisis England & Wales, a constaté que 91 pourcentage de personnes pensent que la technologie deepfake constitue une menace pour la sécurité personnelle des femmes.

La technologie Deepfake utilise l'IA pour superposer le visage d'une personne sur n'importe quelle image ou vidéo du choix du créateur. Bien qu'il ait été utilisé pour réaliser des vidéos parodiques inoffensives de Barack Obama et la fin Reine Elizabeth II, il a également été utilisé pour des raisons plus sinistres, comme propagande de guerre.

Mais la plupart du temps, il a été utilisé pour créer porno deepfake. Dans 2023, 98 pour cent de tous les contenus vidéo deepfake trouvés sur Internet étaient pornographiques. Éminent célébrités et de les politiciens ont été victimes de voir leur visage gravé sur des vidéos à caractère sexuel, tout comme les gens ordinaires.

Bien que diverses lois soient entrées en vigueur pour protéger le public britannique dans les espaces en ligne – notamment la criminalisation des vengeance porno et de cyberflash – les lois visant à améliorer rapidement les logiciels d’IA ont mis du temps à émerger.

Enfin, une nouvelle loi qui criminalise l’utilisation de l’IA pour créer du contenu pornographique deepfake a été adoptée. entrer en vigueur au Royaume-Uni. Ça vient après presque un an de campagne par le magazine GLAMOUR, des organisations de sécurité en ligne et la Law Commission of England and Wales.

Comment la loi va-t-elle sévir contre les deepfakes ?

L'année dernière, le Royaume-Uni a introduit un « leader mondial » Loi sur la sécurité en ligne et a affirmé que cela rendrait les enfants et les adultes plus sûrs en ligne.

Pourtant, cela n’est allé que jusqu’à criminaliser la distribution ou le partage de pornographie deepfake.

Cela a créé une faille permettant aux individus de continuer à créer du porno deepfake mettant en vedette d’autres personnes sans leur consentement. Pour éviter tout recours juridique, les créateurs pourraient simplement prétendre qu'ils n'avaient pas l'intention de distribuer ou de partager le contenu avec qui que ce soit.

En vertu de la nouvelle loi, présentée par la députée conservatrice Laura Farris et le ministère de la Justice, la création de deepfake pornographie est illégale – arrêt complet.  

Quiconque le fera sera passible d’une amende illimitée ainsi que d’un casier judiciaire. Si la personne continue à partager l’image ou la vidéo, elle risque une peine plus lourde ainsi qu’une peine de prison.

Le magazine GLAMOUR et les membres d'organisations œuvrant pour aider les victimes d'abus en ligne ont salué la nouvelle législation, qualifiant les deepfakes de « menace invisible qui envahit la vie de toutes les femmes et de toutes les filles ».

Pourquoi il est important que les deepfakes soient pris au sérieux

La nouvelle législation constitue un énorme pas en avant non seulement pour la sécurité en ligne, mais aussi pour la protection des droits des femmes à l'autonomie corporelle.

Lorsqu’un contenu à caractère sexuel peut être créé sur n’importe qui sans son consentement, cela constitue une violation de ses droits humains. Que les images ou les vidéos soient distribuées par le créateur n'a pratiquement aucune importance, d'autant plus que cela n'est pas garanti - les fichiers risquent toujours d'être divulgués accidentellement ou d'être consultés par des pirates.

Cela va également sans mentionner l’impact social que les deepfakes peuvent avoir sur l’image publique et personnelle d’une personne. Devenir victime de deepfake pornographie n'est pas seulement un inconvénient, c'est une atteinte à la vie privée, à la dignité et à l'identité des femmes.

Après avoir découvert une vidéo deepfake à caractère sexuel d'elle-même sur Internet, une députée américaine Alexandria Ocasio Cortez a dit que ce contenu « met en parallèle la même intention de viol physique et d'agression sexuelle, qui concerne le pouvoir, la domination et l'humiliation ». Les deepfakes sont absolument un moyen de numériser les humiliations violentes contre d'autres personnes.

Grâce aux efforts collaboratifs des militants, des journalistes et des politiciens, la nouvelle législation sur les deepfakes offrira un niveau supplémentaire de protection aux femmes à travers le Royaume-Uni. Ce sera certainement l’une des nombreuses lois liées à l’IA que nous verrons émerger au cours de la prochaine décennie.

Accessibilité