El último sencillo de Kendrick utiliza tecnología avanzada de falsificación profunda

¿Dónde más se utiliza la tecnología deepfake?

El contenido deepfake ha recorrido un largo camino y se está convirtiendo constantemente en parte del contenido en línea convencional, para bien o para mal. Un ejemplo es la cuenta de TikTok deepfake de Tom Cruise, que crea videos cortos que muestran de manera convincente al actor en todo tipo de situaciones.

Los usuarios a menudo son engañados, creyendo que es el real Tom, cuando en realidad es un actor parecido con la cara de Cruise impuesta digitalmente en la postproducción.

Si bien este ejemplo es en gran medida inofensivo y no tiene la intención de causar problemas, una tecnología similar de falsificación profunda se está utilizando de formas más maliciosas.

La pornografía de IA Deepfake es de particular preocupación. Existe un potencial significativo para que se cree y comparta material explícito sin consentimiento, ya que muchos sitios web para adultos no están debidamente regulados y rara vez siguen pautas estrictas.

También se ha creado material deepfake para confundir y desinformar el público sobre la guerra de Ucrania. Se ha compartido contenido en línea que muestra a los líderes de ambos países 'diciendo' cosas que no dijeron. La consecuencia de esto podría ser de gran alcance, y es probable que veamos más avances.

Tampoco son solo las imágenes las que se pueden manipular. Las falsificaciones profundas de audio están ganando terreno y son mucho más accesibles. Un servicio con el que hemos intentado jugar en la oficina de Thred es UberDuck, que nos permitió crear Canciones enteras de Eminem de la vieja escuela. desde cero.

Otra herramienta es capaz de crear caras automatizadas. solo de audio, también, lo que significa que pronto podremos ver personas completamente digitales construidas desde cero que ni siquiera existía. La plataforma Réplica está experimentando con esto usando bots de chat, creando personajes conversacionales digitales para que los humanos interactúen. Piensa en la trama para Sus libros introductorios a las enseñanzas y no estás lejos.

https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz

¿Por qué podría ser esto preocupante?

El uso moral de las falsificaciones profundas es actualmente algo mixto.

En este momento estamos viendo un montón de implementaciones novedosas o ingeniosas de su tecnología, pero muy pronto podría volverse más común y más difícil de identificar.

Esto trae una serie de problemas como se mencionó anteriormente, desde contenido explícito hasta contenido político engañoso. Imagine las ramificaciones potenciales si un líder mundial desquiciado (de los cuales parece haber muchos) ve un video falso que amenaza con una guerra nuclear.

No digo que el video de Kendrick sea una señal de que vamos por un camino condenado, pero el video sí demostrar que las falsificaciones profundas son cada vez más fáciles de crear y son muy efectivas. Si ver la cara de Kanye impuesta sobre el cuerpo de Kendricks no es suficiente para darte combustible de pesadilla durante semanas, no sé qué lo hará.

Por ahora, trae el álbum de Kendrick, sin duda será un clásico, ¿verdad?