menu menu

Apakah deepfake cukup meyakinkan untuk menciptakan kenangan palsu?

Sebuah studi baru menemukan bahwa menonton video deepfake dan membaca deskripsi teks pendek dari remake buatan dapat menyebabkan orang salah mengingat menonton film yang tidak ada.

Bulan lalu, para peneliti di University College Cork di Irlandia menerbitkan temuan dari penelitian mereka tentang ingatan palsu, sebuah studi yang menunjukkan bahwa dampak program AI generatif mungkin lebih rumit daripada yang ditakuti sebelumnya.

Teknologi deepfake telah membuktikan dirinya sebagai cara efektif yang berbahaya untuk menyebarkan informasi yang salah, tetapi menurut melaporkan, palsu dalam video dapat mengubah ingatan masa lalu, serta persepsi orang tentang peristiwa.

Untuk menguji teori mereka, para peneliti meminta hampir 440 orang untuk menonton klip deepfaked dari remake palsu film termasuk Brad Pitt dan Angelina Jolie di Shining, Chris Pratt sebagai Indiana Jones, dan Will Smith masuk Matriks.

Mereka tidak segera memberi tahu peserta bahwa film tersebut tidak asli, untuk lebih memahami dampak deepfake pada ingatan seseorang dan menambahkan remake film asli ke dalam campuran untuk tujuan perbandingan.

Setelah menonton empat film asli dan dua film palsu secara acak, peserta ditanya apakah mereka pernah melihat atau mendengar versi deepfake sebelumnya.

Siapa pun dari mereka yang mengaku pernah melihat keseluruhan film, trailernya, atau bahkan jika mereka setuju bahwa mereka hanya mendengarnya, dikategorikan memiliki ingatan yang salah.

Seperti yang dinyatakan surat kabar itu, 75 persen peserta yang melihat video deepfake Charlize Theron dibintangi Kapten Marvel salah mengingat keberadaannya.

40 persen pemirsa salah mengingat tiga remake film lainnya ShiningMatrix, dan Indiana Jones.

Menariknya, beberapa bahkan menilai film yang tidak pernah benar-benar diproduksi lebih baik dari aslinya – menggarisbawahi kekuatan yang mengkhawatirkan dari teknologi deepfake dalam mendistorsi ingatan akan kenyataan.

Namun, ada peringatan penting, karena meskipun hasilnya membingungkan, menggunakan deepfake untuk menggambarkan masa lalu secara keliru tampaknya tidak lebih efektif daripada membaca deskripsi teks film imajiner.

Sebagai penulis utama Gillian Murphy menjelaskan, temuan tersebut akibatnya tidak menunjukkan 'ancaman kuat yang unik' yang ditimbulkan oleh deepfake dibandingkan dengan bentuk misinformasi yang ada.

"Bukti saat ini menunjukkan bahwa mereka tidak secara unik kuat dalam hal memori yang terdistorsi, tetapi sama efektifnya dengan kata-kata tertulis, yang merupakan sarana yang kuat untuk informasi yang salah seperti yang kita ketahui," katanya. The Daily Beast.

'Jadi penelitian kami tidak mengklaim bahwa deepfake tidak dapat mengubah ingatan kita, hanya saja itu tidak lebih efektif daripada metode yang ada.'

Selain itu, komponen kunci dari potensi keberhasilan deepfake adalah apa yang dikenal sebagai 'termotivasi penalaran' – kecenderungan orang untuk secara tidak sengaja membiarkan prasangka dan bias memanipulasi ingatan mereka.

Dengan kata lain, meskipun manusia belum tentu terpengaruh oleh deepfake atau berita palsu, mereka mungkin lebih cenderung mencari artikel dan opini yang menegaskan pandangan dunia mereka.

Mengambil bukti begitu saja tanpa banyak pemeriksaan dengan cara ini adalah apa yang ada di balik 'Efek Mandela,' di mana sekelompok besar orang secara kolektif berbagi memori palsu.

Inilah yang menurut Murphy sedang dimainkan.

"Kenangan kita tidak berfungsi seperti kamera video - mereka tidak berevolusi untuk menyimpan ingatan dengan sempurna tentang apa yang sebenarnya terjadi," dia mengakhiri.

'Sebaliknya, ingatan kita adalah apa yang kita sebut 'rekonstruktif', di mana setiap kali kita mengingat sesuatu, kita membangun ingatan itu di dalam pikiran kita. Dalam proses pembangunan ini, kami terkadang membuat kesalahan dengan melupakan bagian atau peristiwa atau menambahkan sesuatu yang tidak ada pada awalnya.'

'Meskipun ini bisa berarti ingatan kita kadang-kadang tidak akurat, itu sering membantu kita dengan sangat baik karena kita dapat memperbarui ingatan kita untuk mencerminkan hal-hal yang telah kita pelajari.'

Aksesibilitas