Menú Menú

Cómo detectar la manipulación de IA y los deepfakes

En este punto, todos somos conscientes de que la manipulación de la IA y los deepfakes son everywhere. Sin embargo, identificar con confianza casos de su uso no siempre es sencillo.

La IA tiene sus manos en todas las redes sociales y los días en los que se tomaba el contenido inmediatamente al pie de la letra están desapareciendo.

Hay ejemplos obvios y en gran medida inofensivos de manipulación de la IA (utilizados principalmente con fines de memes), pero en ocasiones nos encontramos entrecerrando los ojos sospechosamente ante una imagen o un vídeo para confirmar su legitimidad.

No es probable que la mayoría de nosotros nos dejemos engañar por un Mikel Arteta mal interpretado impuesto sobre Lil Yachty saltando en el escenario, pero existen tecnologías capaces de crear medios increíblemente realistas.

Tan solo en las últimas semanas, la IA generó imágenes de la Met Gala de Katy Perry y Rihanna se volvió viral, lo que llevó a muchos a creer que ambos artistas asistieron al evento, pero ninguno de los dos lo hizo. En otros lugares, se utilizó un programa de imitación de audio para imitar WPP Marcar como leído y estafar a la fuerza laboral de la empresa.

El ritmo vertiginoso al que la tecnología está mejorando es más rápido de lo que podemos hacerlo de manera efectiva. regular, y salvo alguna que otra aclaración por parte de notas de la comunidad En Twitter, básicamente debemos decidir por nosotros mismos si algo es real o falso.

Si está experimentando una repentina punzada de paranoia, permítanos brindarle algunos consejos útiles sobre qué buscar al examinar el contenido en busca de evidencia de IA. Muy pronto, tendremos que apuntar a tu pantalla como ese gif de Leonardo DiCaprio cada vez que la IA asoma la cabeza.

 


Consejos para detectar deepfakes

 

  • Busque irregularidades físicas obvias:

Si bien la IA se ajusta constantemente para funcionar mejor, la gran mayoría de los deepfakes existentes tendrán algunas irregularidades si sabes lo que estás buscando.

Los signos reveladores incluyen movimientos oculares antinaturales, patrones de parpadeo extraños o ningún parpadeo y áreas borrosas o pixeladas alrededor de la boca, los ojos y el cabello.

Busque deformaciones alrededor de los bordes de la cara, especialmente cuando la cabeza gira, y si la calidad del video es alta, es probable que una falsificación pase por alto cosas como pelos sueltos o imperfecciones de la piel.

A menudo, un deepfake presentará movimientos mecánicos y torpes e incluso puedes detectar casos de una mano atravesando una manga o un movimiento anormal en el cuello.

 

  • Fondo e iluminación poco fiables:

Compruebe si la dirección de la iluminación es constante a lo largo del vídeo. Los ejemplos manipulados artificialmente a menudo tienen extrañas manchas de sombra y luz que no necesariamente se correlacionan con fuentes de luz u objetos en el fondo.

Cuando el sujeto se mueve, esté atento al fondo para ver si aparece alguna distorsión. Si es posible, vaya cuadro por cuadro y haga zoom.

 

  • Desajuste audiovisual

Considere el entorno presentado y si el discurso del sujeto coincide o no con la acústica del espacio. La calidad del audio también debe coincidir adecuadamente con la resolución del video, si es legítima. Ambos son a lo grande sorteo de tu deepfake promedio.

Suena obvio, pero hay que estar atento a los movimientos de los labios de la persona. Los deepfakes luchan por lograr una sincronización completa y seguramente detectarás un problema notable si el video o clip dura más de unos pocos segundos.

 

  • Verifique la información y utilice la IA a su favor

El contexto siempre es clave. Consulta en línea para ver si fuentes acreditadas han ratificado lo que has visto en las redes sociales. Si el video muestra a una figura pública haciendo algo de interés periodístico, sorpresa, aparecerá cuando busques noticias.

Para estar seguro, siempre puedes hacer una captura de pantalla y usar Google Lens para ver si el video apareció en algún otro lugar de Internet.

Por último, existen muchas plataformas de detección de IA, como Video Authenticator, Deepware Scanner o DeepFaceLab de Microsoft, que pueden descubrir cosas que usted no notó.


Consejos para detectar imágenes manipuladas por IA

 

  • Valle inquietante

¿Hay algo aparentemente extraño en las personas u objetos dentro del marco? Las generaciones mal ejecutadas pueden tener manos y dedos poco fiables, y la piel humana a menudo parece demasiado suave. Los dientes pueden carecer completamente de separación.

El cabello, el pelaje u otros detalles finos pueden verse anormalmente grumosos o borrosos en imágenes manipuladas por IA. Las creaciones a mitad de viaje, por ejemplo, tienden a tener un efecto de trama cruzada dentro de las partes de una imagen con textura densa. Una vez que lo ves, lo notas en todas partes.

Mira los bordes de objetos o personas. Los bordes borrosos, desiguales o pixelados suelen indicar una intromisión de la IA. ¿Recuerdas el segmento que falta en la portada de la espeluznante foto familiar de Kate Middleton?

Los objetos aleatorios (y a veces inexistentes) también tienden a aparecer en las generaciones de IA. Si, por ejemplo, se ha generado un dormitorio, es probable que haya objetos extraños y de aspecto deformado en un escritorio o estante.

 

  • Problemas de simetría, patrones repetidos y reflejos.

Al intentar cumplir indicaciones de naturaleza "ultrarrealista", hemos notado que la IA tiene dificultades para crear una simetría facial realista. Simplemente parece amar los rasgos definidos y demasiado perfectos, al menos para las personas en foco.

Para aquellos que están en segundo plano, las características probablemente aparecerán borrosas. Si hay una multitud, compruebe también si hay expresiones faciales que no coincidan con el contexto de la imagen.

En imágenes muy densas se pueden observar patrones repetidos. Si estás mirando una ciudad, muchas de las ventanas, puertas u otros elementos arquitectónicos probablemente serán casi idénticos. Es parte integrante de la generación rápida de contenido para indicaciones.

Esto se aplicará a nubes, ladrillos, piedras, vehículos y casi cualquier cosa que aparezca en múltiplos.

Algunas técnicas de IA generan imágenes uniendo parches de otro contenido. Una combinación imperfecta a menudo puede dejar costuras visibles. Saca la herramienta de zoom para encontrarlos.

Finalmente, a la IA realmente le cuesta lograr que los reflejos sean correctos. Compruebe el agua dentro de una imagen para ver si hay algo ligeramente extraño en el reflejo y observe los ojos del sujeto para ver si hay algún reflejo presente. Si no, probablemente sea falso. Las gafas de sol pueden ser un claro indicio.

 

  • Herramientas de inspección visual

Si quieres comprobar rápidamente la credibilidad de una imagen, la búsqueda inversa de imágenes en Google es tu mejor amiga. Si no aparece en ningún lugar más allá de las redes sociales, probablemente sea falso.

Mejor aún, introduzca la imagen en una herramienta de detección de IA. Nuestro recurso personal es Deepware Scanner. Forense y FotoForensics también son buenos para mostrar específicamente dónde ocurren patrones repetidos cuando el ojo desnudo no está a la altura.

Eso es todo por nuestra parte, amigos. Esperamos que ahora esté un poco mejor equipado para navegar la incesante tormenta de contenido en línea sin que lo sorprendan ni lo desinformen. Dicho esto, ¿quién sabe si alguno de estos consejos será suficiente dentro de cinco años?

Accesibilidad