Di mana lagi teknologi deepfake digunakan?
Konten deepfake telah berkembang pesat dan terus menjadi bagian dari konten online arus utama, baik atau buruk. Salah satu contohnya adalah akun TikTok deepfake Tom Cruise, yang membuat video pendek yang secara meyakinkan menampilkan aktor dalam segala situasi.
Pengguna sering tertipu, percaya itu adalah nyata Tom, ketika itu sebenarnya adalah aktor yang mirip dengan wajah Cruise yang dipaksakan secara digital di pasca-produksi.
Meskipun contoh ini sebagian besar tidak berbahaya dan tidak dimaksudkan untuk menimbulkan masalah, teknologi deepfake serupa digunakan dengan cara yang lebih berbahaya.
Pornografi AI Deepfake menjadi perhatian khusus. Ada potensi signifikan untuk materi eksplisit dibuat dan dibagikan tanpa persetujuan, karena banyak situs web dewasa tidak diatur dengan benar dan jarang mengikuti pedoman yang ketat.
Materi deepfake juga telah dibuat untuk membingungkan dan memberi informasi yang salah publik tentang perang Ukraina. Konten telah dibagikan secara online yang menunjukkan para pemimpin kedua negara 'mengatakan' hal-hal yang tidak mereka lakukan. Konsekuensi dari ini bisa jauh jangkauannya – dan kita mungkin akan melihat lebih banyak dari itu bergerak maju.
Bukan hanya visual yang bisa dimanipulasi. Audio deepfake mendapatkan daya tarik dan jauh lebih mudah diakses. Salah satu layanan yang kami coba mainkan di kantor Thred adalah UberDuck, yang memungkinkan kami untuk membuat seluruh lagu Eminem jadul dari awal.
Alat lain mampu membuat wajah otomatis dari audio saja, juga, yang berarti kita akan segera melihat seluruh orang digital yang dibangun dari awal yang bahkan tidak pernah ada. Platform Replika sedang bereksperimen dengan ini menggunakan bot obrolan, menciptakan karakter percakapan digital untuk digunakan manusia. Pikirkan plot untuk Buku dan Anda tidak jauh.
https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz
Mengapa ini bisa mengkhawatirkan?
Penggunaan moral deepfake saat ini agak beragam.
Saat ini kami melihat banyak implementasi baru atau untuk menarik perhatian dari teknologinya, tetapi dapat dengan mudah menjadi lebih umum dan lebih sulit untuk diidentifikasi segera.
Ini membawa sejumlah masalah seperti yang disebutkan di atas, dari konten eksplisit hingga konten politik yang menyesatkan. Bayangkan potensi konsekuensi jika seorang pemimpin dunia yang tidak terpengaruh (yang tampaknya ada banyak) melihat video palsu yang mengancam perang nuklir.
Saya tidak mengatakan video Kendrick adalah tanda bahwa kita sedang menuju jalan yang terkutuk, tetapi video tidak menunjukkan bahwa deep fakes menjadi lebih mudah dibuat dan sangat efektif. Jika melihat wajah Kanye yang dikenakan pada tubuh Kendricks tidak cukup untuk memberi Anda bahan bakar mimpi buruk selama berminggu-minggu, saya tidak tahu apa yang akan terjadi.
Untuk saat ini, bawalah album Kendrick – tidak diragukan lagi akan menjadi klasik, bukan?
3
energi
komentar 0
