Menú Menú

¿Son los deepfakes lo suficientemente convincentes como para crear recuerdos falsos?

Un nuevo estudio descubrió que mirar videos falsos y leer descripciones breves de texto de remakes inventados puede hacer que las personas recuerden falsamente haber visto películas inexistentes.

El mes pasado, investigadores del University College Cork en Irlanda publicaron los resultados de su investigación sobre los recuerdos falsos, un estudio que indica que los impactos de los programas de IA generativa pueden ser más complicados de lo que inicialmente se temía.

La tecnología deepfake ya ha demostrado ser un medio peligrosamente eficaz para difundir información errónea, pero según el reporte, falsificación profunda videos puede alterar los recuerdos del pasado, así como la percepción de las personas de los acontecimientos.

Para probar su teoría, los investigadores pidieron a casi 440 personas que miraran videos falsos de remakes falsificados de películas que incluyen a Brad Pitt y Angelina Jolie en El resplandor, Chris Pratt como Indiana Jonesy Will Smith en La matriz.

No les dijeron de inmediato a los participantes que las películas no eran auténticas, para comprender mejor el impacto de las falsificaciones profundas en la memoria de una persona y agregaron remakes de películas reales a la mezcla con fines comparativos.

Después de ver cuatro películas reales y dos películas falsas en un orden aleatorio, se les preguntó a los participantes si habían visto u oído hablar de las versiones falsas antes.

Cualquiera de los que afirmó haber visto previamente la película completa, un tráiler de la misma, o incluso si estuvo de acuerdo en que simplemente había oído hablar de ella, fue categorizado como tener una memoria falsa.

Como dice el documento, el 75 por ciento de los participantes que vieron un video falso de Charlize Theron protagonizando Capitán Marvel recordaba falsamente su existencia.

El 40 por ciento de los espectadores recordaba falsamente los otros tres remakes de películas de El resplandorLa matrizIndiana Jones.

Curiosamente, algunos llegaron a clasificar las películas que nunca se produjeron como mejores que las originales, lo que subraya el poder alarmante de la tecnología deepfake para distorsionar los recuerdos de la realidad.

Sin embargo, hay una advertencia importante, porque por más desconcertantes que puedan ser los resultados, el uso de deepfakes para tergiversar el pasado no pareció ser más efectivo que leer descripciones de texto de películas imaginarias.

Como autor principal Gillian murphy explica, los hallazgos, en consecuencia, no indican una "amenaza excepcionalmente poderosa" planteada por deepfakes en comparación con las formas existentes de desinformación.

"La evidencia actual sugiere que no son únicamente poderosos en términos de distorsionar la memoria, pero son tan efectivos como la palabra escrita, que es un vehículo poderoso para la desinformación como sabemos", dijo. The Daily Beast.

"Entonces, nuestro estudio no afirma que los deepfakes no puedan distorsionar nuestros recuerdos, solo que no son más efectivos que los métodos existentes".

Además, un componente clave del éxito potencial de las falsificaciones profundas es lo que se conoce como 'razonamiento motivado': la tendencia de las personas a permitir sin querer que nociones preconcebidas y sesgos manipulen su memoria.

En otras palabras, si bien es posible que los humanos no se dejen influir necesariamente por las falsificaciones profundas o las noticias falsas, es posible que estén más inclinados a buscar artículos y opiniones que afirmen su visión del mundo.

Tomar evidencia al pie de la letra sin mucho escrutinio de esta manera es lo que está detrás del 'Efecto Mandela', donde grandes grupos de personas comparten colectivamente una memoria falsa.

Esto es lo que Murphy considera que está en juego.

“Nuestras memorias no funcionan como cámaras de video; no han evolucionado para conservar perfectamente los recuerdos de lo que sucedió exactamente”, concluye.

'En cambio, nuestros recuerdos son lo que llamamos 'reconstructivos', donde cada vez que recordamos algo construimos la memoria en nuestras mentes. En este proceso de construcción, a veces cometemos errores al olvidar una pieza o el evento o agregar algo que no estaba allí originalmente.'

"Si bien esto puede significar que nuestros recuerdos a veces son inexactos, a menudo nos sirve muy bien, ya que podemos actualizar nuestros recuerdos para reflejar las cosas que hemos aprendido".

Accesibilidad