'Tantangan Deteksi Palsu Mendalam' Facebook mengembalikan data yang mengkhawatirkan

Bagaimana cara Facebook mengatasi deepfake?

Menyusul setelah dua kasus profil tinggi di platformnya – pencemaran nama baik pembicara Demokrat Nancy Pelosi dan Bp Zuckerberg dirinya sendiri – Facebook meminta pengguna pada akhir 2019 untuk membantu meningkatkan upaya deteksi palsu yang mendalam melalui 'tantangan' publik.

Mereka yang ambil bagian diberi 100,000 klip pendek berisi cuplikan dari 3000 aktor yang disewa oleh Facebook. Dari kumpulan ini, peserta ditugaskan untuk mengidentifikasi sampel mana yang telah dirusak oleh Facebook menggunakan algoritme deteksi otomatis buatan mereka sendiri.

Hampir satu tahun kami akhirnya memiliki hasil dari tes ini pada catatan. 2000 peserta menguji algoritme mereka (pelamar sebagian besar berasal dari industri teknologi atau memiliki latar belakang akademisi), dan sampel yang paling berhasil memperoleh tingkat deteksi yang mengesankan sebesar 82%. Mempertimbangkan banyaknya eksploitasi digital yang masuk ke dalam pemalsuan yang mendalam hari ini; mengaburkan, modifikasi kecepatan bingkai, overlay, hanya untuk beberapa nama ... Anda harus mengatakan bahwa ini adalah pengembalian yang sangat menjanjikan.

Pemenang tantangan, Selim Seferbekov, dianugerahi $500,000 dan kemudian ditugaskan untuk mengadu algoritme kemenangannya dengan kumpulan data 'kotak hitam' yang diisi dengan bentuk penipuan palsu yang paling rumit yang diketahui oleh para ahli AI. Setelah skor diselesaikan dan digabungkan dengan hasil sebelumnya, rata-rata keseluruhan keluar pada hanya 65%.

Haruskah hasil ini menjadi perhatian Facebook?

Studi ini menyoroti betapa sulitnya menemukan deepfake di alam liar. Lagi pula, sifat adaptif AI berarti bahwa segera setelah eksploitasi yang ada ditutup, yang baru dapat muncul dengan cepat dan kembali ke titik awal. Ini adalah permainan kucing dan tikus yang membuat frustrasi dan tidak pernah berakhir.

Namun, peneliti Facebook yakin bahwa data yang dikumpulkan dari tes ini akan terbukti sangat berharga dalam memperkuat perangkat lunak pencegahan mereka sendiri yang saat ini sedang dalam pengerjaan. Facebook juga berencana merilis kode sumber untuk algoritme paling sukses – termasuk Seferbekov – untuk membantu peneliti lain dalam mendeteksi video palsu sebelum menjadi viral.

Untuk saat ini, Facebook memainkannya dengan cerdas dan merahasiakan perangkat lunak pendeteksinya sendiri untuk mencegah segala bentuk rekayasa balik muncul pada tahun 2020. Chief technology officer Mike Schroepfer menyatakan bahwa sampai sekarang deepfake 'bukan masalah besar' dengan Facebook, tetapi dia dan timnya bekerja tanpa lelah untuk menghindari 'terperangkap datar' menjelang pemilihan AS November ini.

Seperti yang terjadi, masih harus dilihat apakah kita benar-benar siap untuk menghadapi gelombang pemalsuan mendalam berikutnya. Tapi kamu bisa menjamin satu hal, itu is kedatangan.