Créer du porno deepfake est sur le point de devenir illégal

Comment la loi va-t-elle sévir contre les deepfakes ?

L'année dernière, le Royaume-Uni a introduit un « leader mondial » Loi sur la sécurité en ligne et a affirmé que cela rendrait les enfants et les adultes plus sûrs en ligne.

Pourtant, cela n’est allé que jusqu’à criminaliser la distribution ou le partage de pornographie deepfake.

Cela a créé une faille permettant aux individus de continuer à créer du porno deepfake mettant en vedette d’autres personnes sans leur consentement. Pour éviter tout recours juridique, les créateurs pourraient simplement prétendre qu'ils n'avaient pas l'intention de distribuer ou de partager le contenu avec qui que ce soit.

En vertu de la nouvelle loi, présentée par la députée conservatrice Laura Farris et le ministère de la Justice, la création de deepfake pornographie est illégale – arrêt complet.  

Quiconque le fera sera passible d’une amende illimitée ainsi que d’un casier judiciaire. Si la personne continue à partager l’image ou la vidéo, elle risque une peine plus lourde ainsi qu’une peine de prison.

Le magazine GLAMOUR et les membres d'organisations œuvrant pour aider les victimes d'abus en ligne ont salué la nouvelle législation, qualifiant les deepfakes de « menace invisible qui envahit la vie de toutes les femmes et de toutes les filles ».

Le fait que la première chose que font les hommes lorsqu’ils reçoivent une nouvelle forme de technologie est de nuire aux femmes est incroyablement effrayant et réaliste. À elle seule, Amnesty International a fait reculer les droits et la sécurité des femmes de plusieurs décennies. Je vous déteste tous. https://t.co/uX1kV4gwiv

- s (@yoongienthusias) 16 avril 2024

Pourquoi il est important que les deepfakes soient pris au sérieux

La nouvelle législation constitue un énorme pas en avant non seulement pour la sécurité en ligne, mais aussi pour la protection des droits des femmes à l'autonomie corporelle.

Lorsqu’un contenu à caractère sexuel peut être créé sur n’importe qui sans son consentement, cela constitue une violation de ses droits humains. Que les images ou les vidéos soient distribuées par le créateur n'a pratiquement aucune importance, d'autant plus que cela n'est pas garanti - les fichiers risquent toujours d'être divulgués accidentellement ou d'être consultés par des pirates.

Cela va également sans mentionner l’impact social que les deepfakes peuvent avoir sur l’image publique et personnelle d’une personne. Devenir victime de deepfake pornographie n'est pas seulement un inconvénient, c'est une atteinte à la vie privée, à la dignité et à l'identité des femmes.

Après avoir découvert une vidéo deepfake à caractère sexuel d'elle-même sur Internet, une députée américaine Alexandria Ocasio Cortez a dit que ce contenu « met en parallèle la même intention de viol physique et d'agression sexuelle, qui concerne le pouvoir, la domination et l'humiliation ». Les deepfakes sont absolument un moyen de numériser les humiliations violentes contre d'autres personnes.

Grâce aux efforts collaboratifs des militants, des journalistes et des politiciens, la nouvelle législation sur les deepfakes offrira un niveau supplémentaire de protection aux femmes à travers le Royaume-Uni. Ce sera certainement l’une des nombreuses lois liées à l’IA que nous verrons émerger au cours de la prochaine décennie.