Menjelang pemilihan presiden AS 2020, situs media sosial harus bersiap menghadapi serangan gencar wacana politik, dan mendeteksi konten yang memfitnah menjadi agenda utama.
Jika Anda tetap up to date dengan Thred, maka ini pasti tidak akan jadilah pertama kalinya Anda mendengar tentang deepfake. Teknologi manipulasi wajah AI ini dimulai dengan meme tidak berbahaya dari Nicholas Cage beberapa tahun yang lalu, tetapi perlahan-lahan berkembang menjadi senjata online serius yang dapat mengancam integritas demokrasi modern.
Awalnya digunakan untuk mengisi subreddit dengan tiruan selebritas yang lucu. Dengan cepat teknologi mulai diimplementasikan ke dalam pidato kepresidenan, rapat umum kampanye, dan propaganda politik yang menjadi viral daring. Tiba-tiba, deepfake dapat digunakan untuk menyebarkan informasi yang salah dalam skala global, menampilkan tokoh-tokoh dunia nyata yang mengumumkan hal-hal yang mereka tidak pernah benar-benar mengatakan. Bukti video yang andal dengan cepat menjadi sesuatu dari masa lalu – dan media sosial harus mengikutinya.
Baik kita membicarakan aplikasi baru di ponsel atau perangkat lunak rahasia lainnya, deepfake menjadi lebih mudah dibuat dan lebih sulit dideteksi. Situs yang kemungkinan besar menampung konten seperti itu, seperti Facebook, sekarang memiliki tanggung jawab untuk mengikuti kemajuan baru dalam deepfake untuk memastikan mereka tidak terus online.
Menyusul setelah dua kasus profil tinggi di platformnya – pencemaran nama baik pembicara Demokrat Nancy Pelosi dan Bp Zuckerberg dirinya sendiri – Facebook meminta pengguna pada akhir 2019 untuk membantu meningkatkan upaya deteksi palsu yang mendalam melalui 'tantangan' publik.
Mereka yang ambil bagian diberi 100,000 klip pendek berisi cuplikan dari 3000 aktor yang disewa oleh Facebook. Dari kumpulan ini, peserta ditugaskan untuk mengidentifikasi sampel mana yang telah dirusak oleh Facebook menggunakan algoritme deteksi otomatis buatan mereka sendiri.
Hampir satu tahun kami akhirnya memiliki hasil dari tes ini pada catatan. 2000 peserta menguji algoritme mereka (pelamar sebagian besar berasal dari industri teknologi atau memiliki latar belakang akademisi), dan sampel yang paling berhasil memperoleh tingkat deteksi yang mengesankan sebesar 82%. Mempertimbangkan banyaknya eksploitasi digital yang masuk ke dalam pemalsuan yang mendalam hari ini; mengaburkan, modifikasi kecepatan bingkai, overlay, hanya untuk beberapa nama ... Anda harus mengatakan bahwa ini adalah pengembalian yang sangat menjanjikan.
Pemenang tantangan, Selim Seferbekov, dianugerahi $500,000 dan kemudian ditugaskan untuk mengadu algoritme kemenangannya dengan kumpulan data 'kotak hitam' yang diisi dengan bentuk penipuan palsu yang paling rumit yang diketahui oleh para ahli AI. Setelah skor diselesaikan dan digabungkan dengan hasil sebelumnya, rata-rata keseluruhan keluar pada hanya 65%.
Haruskah hasil ini menjadi perhatian Facebook?
Studi ini menyoroti betapa sulitnya menemukan deepfake di alam liar. Lagi pula, sifat adaptif AI berarti bahwa segera setelah eksploitasi yang ada ditutup, yang baru dapat muncul dengan cepat dan kembali ke titik awal. Ini adalah permainan kucing dan tikus yang membuat frustrasi dan tidak pernah berakhir.
Namun, peneliti Facebook yakin bahwa data yang dikumpulkan dari tes ini akan terbukti sangat berharga dalam memperkuat perangkat lunak pencegahan mereka sendiri yang saat ini sedang dalam pengerjaan. Facebook juga berencana merilis kode sumber untuk algoritme paling sukses – termasuk Seferbekov – untuk membantu peneliti lain dalam mendeteksi video palsu sebelum menjadi viral.
Untuk saat ini, Facebook memainkannya dengan cerdas dan merahasiakan perangkat lunak pendeteksinya sendiri untuk mencegah segala bentuk rekayasa balik muncul pada tahun 2020. Chief technology officer Mike Schroepfer menyatakan bahwa sampai sekarang deepfake 'bukan masalah besar' dengan Facebook, tetapi dia dan timnya bekerja tanpa lelah untuk menghindari 'terperangkap datar' menjelang pemilihan AS November ini.
Seperti yang terjadi, masih harus dilihat apakah kita benar-benar siap untuk menghadapi gelombang pemalsuan mendalam berikutnya. Tapi kamu bisa menjamin satu hal, itu is kedatangan.
Saya Jamie (Dia/Dia), Wakil Editor dan Penulis Senior di Thred. Mengikuti pembaruan media sosial dan teknologi revolusioner adalah keahlian saya, tetapi saat jauh dari keyboard saya, Anda mungkin akan menemukan saya terbungkus semburan es Tango besar di film horor terbaru yang biasa-biasa saja. Ikuti saya di Twitter, LinkedIn dan berikan saya beberapa ide/umpan balik melalui email.
Delapan kali lebih besar dari rekor sebelumnya, Microsoft baru saja membeli energi terbarukan terbanyak dalam sejarah untuk satu entitas perusahaan dalam satu kesepakatan. Hal ini akan memastikan rencana negatif karbonnya tidak digagalkan oleh peningkatan proyek AI. Ada beberapa hal yang konstan dalam kehidupan: kematian, pajak, dan Microsoft melakukan upaya besar dengan melakukan akuisisi finansial yang memecahkan rekor. Setidaknya, hal terbaru ini membawa dampak positif bagi planet ini...
Lagu baru berjudul 'The Hardest Part' oleh artis Washed Out dibuat seluruhnya menggunakan Sora OpenAI, yang mengubah perintah teks menjadi video realistis. Yang pertama dari jenisnya, mengesankan sekaligus menakutkan, tergantung di mana Anda berdiri. Sepertinya setiap minggu kami menulis tentang AI. Penggunaan perintah teks untuk membuat konten yang dibuat secara otomatis semakin populer dalam dua tahun terakhir. Dimana dulunya tampak seperti...
Dalam upaya untuk lebih memadukan tren AI yang muncul dengan kenyataan, sebuah kontes kecantikan baru telah diumumkan untuk para influencer AI. Terlepas dari kegembiraan para pembuat acara, para kritikus telah memperingatkan bahwa kita harus melakukan pendekatan dengan hati-hati. Apakah dunia influencer AI sangat aneh? Hmm.. pikirkan lagi.
Fanvue, sebuah platform yang membantu pembuat konten digital meningkatkan keterlibatan menggunakan pesan AI, catatan suara, dan analitik, baru saja mengumumkan...
Kemarin, dalam serangkaian tweetnya, aktivis lingkungan hidup Generasi Z ini mencap keyakinan akan 'solusi jitu dan cemerlang' terhadap krisis ini sebagai bentuk penolakan iklim yang paling berbahaya. Hal ini mendapat reaksi keras tidak hanya dari pengguna, tetapi juga CEO Tesla dan X sendiri, Elon Musk. Kemarin, aktivis lingkungan hidup Gen Z, Clover Hogan, terkenal dengan gerakan pendidikan nirlabanya Angkatan Alam...
Kami menggunakan cookie untuk memastikan bahwa kami memberikan Anda pengalaman terbaik di situs web kami. Jika Anda setuju untuk menggunakan situs ini, kami akan menganggap Anda senang dengannya! Kebijakan privasiSetuju