Melihat video Emma Watson palsu yang dalam di atas, Anda dapat melihat betapa realistisnya teknologi ini.
Serius, saya pergi ke konser holografik ABBA yang diakui secara kritis di London baru-baru ini dan gerakan seperti aslinya dalam klip itu memiliki kualitas yang sangat mirip.
Tapi sulit untuk melewatkan sifat sugestif dari video tersebut, yang dengan sempurna menggambarkan niat gelap pengguna – dan mungkin para pemrogram itu sendiri. Yang lebih mempermasalahkan adalah klip ini digunakan sebagai iklan.
Retweet rekaman layar iklan, kata seorang pengguna Twitter: 'Ini hanyalah cara baru untuk melecehkan wanita secara seksual. Itu menghilangkan otonomi tubuh Anda dan memaksa Anda ke dalam materi seksual non-konsensual, yang kemudian dapat digunakan untuk mempermalukan dan mendiskriminasi Anda. Belum lagi efek psikologisnya.'
Mendorong penggunaan AI deepfake untuk tujuan ini jelas menyeramkan. Namun, tidak mengherankan, karena penggunaan teknologi pemalsuan dalam yang paling terkenal sejauh ini adalah pornografi atau terkait dengan politik.
Pada tahun 2019 – hanya dua tahun setelah teknologi dibuat – dilaporkan bahwa setidaknya 96 persen dari semua video deepfake yang ditemukan online adalah pornografi, menurut penelitian yang dilakukan oleh Deeptrace.
Memicu pembuatan video ini adalah banyak situs web yang secara eksklusif menghosting pornografi deepfake. Banyak klip palsu yang diunggah ke platform ini dibuat oleh mantan pendendam atau orang yang ingin menodai citra musuh mereka.
Akibatnya, pemerintah di seluruh dunia mulai membangun kerangka hukum yang lebih kuat yang membatasi cara penggunaan teknologi deepfake. Memang, ini harus diinformasikan oleh kasus yang ada, itulah sebabnya para pakar teknologi memperingatkan bahwa kami tidak siap menghadapi bahayanya.
Kembali pada November 2022, pemerintah Inggris membuat pornografi deepfake suatu tindak pidana yang dapat dipenjarakan. Namun, pengadilan hanya dapat menuntut individu jika mereka mengedarkan gambar atau video ini secara online.
Beberapa negara bagian AS juga telah menempatkan hukum serupa di tempat. Namun, secara realistis, kebijakan ini tidak dapat melindungi siapa pun agar tidak dimasukkan ke dalam video grafis untuk dilihat oleh orang lain secara tertutup.
Pikiran ini, bagi sebagian besar wanita, akan cukup untuk memicu rasa jijik dan amarah, jika bukan reaksi gemetar dan merinding.
Seperti yang disebutkan, deepfake juga telah digunakan untuk memicu kegemparan politik.
Barak Obama telah digambarkan menghina Donald Trump. Mark Zuckenberg punya telah siap untuk mengatakan bahwa satu-satunya tujuan Facebook adalah untuk mengontrol dan mengeksploitasi pengguna platform.
Ini semua menjadi viral, mengungkapkan tingkat ketertarikan, kekaguman, dan dalam beberapa kasus, tipu daya teknologi deepfake.
Digunakan dalam konteks lain, konsekuensinya bisa jauh lebih berbahaya. Selama bulan-bulan awal invasi Rusia ke Ukraina, video Presiden Zelensky muncul di mana dia menyuruh tentara Ukraina untuk menyerah kepada tentara Rusia.
Untungnya, itu nyata Presiden Zelensky melalui akun media sosial pribadinya mengkonfirmasi bahwa video tersebut telah direkayasa oleh kekuatan oposisi. Dia mengingatkan rakyatnya bahwa perjuangan untuk negara mereka belum berakhir dan mendesak mereka untuk tetap bersatu.
Tampaknya seolah-olah deepfake, bahkan ketika digunakan untuk membuat versi tradisional Ratu Elizabeth II yang layak ditertawakan Pidato Natal, cenderung timbul perasaan tidak tenang dalam diri kita.
Mungkin kita tahu jauh di lubuk hati bahwa teknologi jauh lebih mungkin digunakan dengan niat jahat. Jadi, apa yang akan terjadi jika sudah begitu maju sehingga kita tidak bisa membedakan antara fakta dan fiksi?
Dengan aplikasi unduhan gratis seperti Facemega, haruskah kita khawatir bahwa teknologi deepfake tersedia secara luas melalui smartphone kita?
Saya akan mengatakan bahwa, sayangnya, kita seharusnya begitu.
5
energi
komentar 0
