Menu Menu

Comment repérer le falsification de l'IA et les deepfakes

À ce stade, nous sommes tous conscients que la falsification de l’IA et les deepfakes sont partout. Cependant, il n’est pas toujours simple d’identifier avec certitude les cas d’utilisation de ces éléments.

L’IA a ses mitaines partout sur les réseaux sociaux et l’époque où l’on prenait le contenu immédiatement à sa valeur nominale est en passe de disparaître.

Il existe des exemples évidents et largement inoffensifs de manipulation de l’IA – principalement utilisés à des fins de mèmes – mais nous nous retrouvons parfois à plisser les yeux avec méfiance sur une image ou une vidéo pour confirmer sa légitimité.

La majorité d'entre nous ne risque pas d'être dupé par un Mikel Arteta mal rendu imposé à Lil Yachty rebondissant sur scène, mais il existe des technologies capables de créer des médias d'un réalisme impressionnant.

Au cours des dernières semaines, l'IA a généré des images du Met Gala Katy Perry et Rihanna est devenu viral, ce qui a amené beaucoup à croire que les deux artistes étaient présents à l'événement – ​​ni l'un ni l'autre. Ailleurs, un programme d'imitation audio a été utilisé pour imiter les WPP Marquer comme lu et arnaquer le personnel de l'entreprise.

La vitesse vertigineuse à laquelle la technologie s'améliore est plus rapide que ce que nous pouvons effectivement faire. réglementer, et à moins d'éclaircissements étranges de notes de la communauté sur Twitter, nous devons essentiellement décider nous-mêmes si quelque chose est réel ou faux.

Si vous ressentez un soudain pincement de paranoïa, permettez-nous de vous fournir quelques conseils utiles sur ce qu'il faut surveiller lors de l'examen du contenu à la recherche de preuves d'IA. Bientôt, nous devrons pointer votre écran comme ce gif de Leonardo DiCaprio chaque fois que l'IA relève la tête.

 


Conseils pour détecter les deepfakes

 

  • Recherchez des irrégularités physiques évidentes :

Alors que l'IA s'ajuste constamment pour mieux fonctionner, la grande majorité des deepfakes existants présenteront quelques irrégularités si vous savez ce que vous recherchez.

Les signes révélateurs incluent des mouvements oculaires non naturels, des schémas de clignement étranges ou aucun clignement du tout, ainsi que des zones floues ou pixellisées autour de la bouche, des yeux et des cheveux.

Recherchez les déformations sur les bords du visage, en particulier lorsque la tête tourne, et si la qualité de la vidéo est élevée, un faux manquera probablement des éléments tels que des poils égarés ou des imperfections cutanées.

Souvent, un deepfake comporte des mouvements maladroits et mécaniques et vous pouvez même repérer des cas de main passant à travers une manche ou de mouvement anormal du col et du cou.

 

  • Fond et éclairage douteux :

Vérifiez si la direction de l’éclairage est cohérente tout au long de la vidéo. Les exemples artificiellement falsifiés présentent souvent d'étranges zones d'ombre et de lumière qui ne correspondent pas nécessairement aux sources de lumière ou aux objets en arrière-plan.

Lorsque le sujet bouge, gardez un œil attentif sur l’arrière-plan pour voir si des distorsions apparaissent. Si possible, allez image par image et zoomez.

 

  • Inadéquation audiovisuelle

Tenez compte de l'environnement présenté et de la question de savoir si le discours du sujet correspond ou non à l'acoustique de l'espace. La qualité audio doit également correspondre de manière appropriée à la résolution vidéo si elle est légitime. Les deux sont big cadeau pour votre deepfake moyen.

Cela semble évident, mais surveillez de près les mouvements des lèvres de la personne. Les Deepfakes ont du mal à atteindre une synchronisation complète et vous êtes sûr de repérer un incident notable si la vidéo ou le clip dure plus de quelques secondes.

 

  • Vérifiez les informations et utilisez l’IA à votre avantage

Le contexte est toujours essentiel. Vérifiez en ligne si des sources fiables ont ratifié ce que vous avez vu sur les réseaux sociaux. Si la vidéo présente une personnalité publique faisant quelque chose d'intéressant, choquant, elle apparaîtra lorsque vous recherchez des informations.

Pour être sûr, vous pouvez toujours faire une capture d'écran et utiliser l'objectif Google pour voir si la vidéo est apparue ailleurs sur Internet.

Enfin, il existe de nombreuses plates-formes de détection d'IA telles que Video Authenticator de Microsoft, Deepware Scanner ou DeepFaceLab qui peuvent découvrir des choses que vous n'avez pas remarquées.


Conseils pour détecter les images retouchées par l’IA

 

  • Vallée étrange

Y a-t-il quelque chose qui semble bizarre chez les personnes ou les objets dans le cadre ? Les générations mal exécutées peuvent avoir des mains et des doigts douteux, et la peau humaine semble souvent trop lisse. Les dents peuvent manquer complètement de séparation.

Les cheveux, la fourrure ou d’autres détails fins peuvent paraître anormalement grumeleux ou flous dans les images retouchées par l’IA. Les créations à mi-parcours, par exemple, ont tendance à avoir un effet de hachures croisées dans les parties d'une image à texture dense. Une fois que vous le voyez, vous le remarquez partout.

Regardez les bords des objets ou des personnes. Des bords flous, inégaux ou pixélisés signifient généralement une ingérence de l’IA. Vous vous souvenez du segment manquant d'une manche sur la photo de famille étrange de Kate Middleton ?

Des objets aléatoires – et parfois inexistants – ont également tendance à apparaître dans les générations d’IA. Si, par exemple, une chambre a été générée, il y aura probablement des objets étranges et déformés sur un bureau ou une étagère.

 

  • Problèmes de symétrie, motifs répétitifs et réflexions

En essayant de répondre à des invites de nature « ultra-réaliste », nous avons remarqué que l’IA avait du mal à créer une symétrie faciale réaliste. Il semble simplement aimer les fonctionnalités trop parfaites et définies – pour les personnes ciblées, en tout cas.

Pour ceux qui se trouvent en arrière-plan, les fonctionnalités seront probablement floues. S'il y a beaucoup de monde, vérifiez également les expressions faciales qui ne correspondent pas au contexte de l'image.

Dans des images denses, vous pouvez créer des motifs répétitifs. Si vous regardez une ville, de nombreuses fenêtres, portes ou autres éléments architecturaux seront probablement presque identiques. Cela fait partie intégrante de la génération rapide de contenu pour les invites.

Cela s'appliquera aux nuages, aux briques, aux pierres, aux véhicules et à presque tout ce qui apparaît en multiples.

Certaines techniques d'IA génèrent des images en assemblant des correctifs provenant d'autres contenus. Un mélange imparfait peut souvent laisser des coutures visibles. Obtenez l’outil de zoom pour les trouver.

Enfin, l’IA a vraiment du mal à obtenir de bonnes réflexions. Vérifiez l'eau dans une image pour voir s'il y a quelque chose de légèrement anormal dans le reflet, et regardez les yeux d'un sujet pour voir si un reflet est présent. Sinon, c'est probablement un faux. Les lunettes de soleil peuvent être un révélateur mortel.

 

  • Outils d'inspection visuelle

Si vous souhaitez vérifier rapidement la crédibilité d’une image, la recherche inversée d’images sur Google est votre meilleure amie. S’il n’apparaît nulle part au-delà des réseaux sociaux, c’est probablement un faux.

Mieux encore, insérez l'image dans un outil de détection d'IA. Notre référence personnelle est Deepware Scanner. Forensically et FotoForensics sont également efficaces pour montrer spécifiquement où des motifs répétés se produisent lorsque l'œil nu n'est pas à la hauteur.

C'est tout pour nous, les amis. Nous espérons que vous êtes désormais un peu mieux équipés pour naviguer dans la tempête incessante de contenu en ligne sans être surpris ou mal informé. Cela étant dit, qui sait si l’un de ces conseils suffira dans cinq ans ?

Accessibilité