Facebook'un 'Derin Sahte Algılama Mücadelesi' endişe verici veriler getiriyor

Facebook derin sahtekarlıklarla nasıl mücadele ediyor?

Platformunda iki yüksek profilli vakanın ardından - Demokrat konuşmacının karalanması Nancy Pelosi ve bay Zuckerberg Facebook, 2019'un sonlarında kullanıcıları halka açık bir 'meydan okuma' yoluyla derin sahte tespit çabalarını desteklemeye çağırdı.

Katılanlara, Facebook tarafından kiralanan 100,000 aktörün görüntülerini içeren 3000 kısa klip verildi. Bu havuzdan katılımcılara, kendi özel otomatik algılama algoritmalarını kullanarak Facebook tarafından hangi örneklerin değiştirildiğini belirleme görevi verildi.

Neredeyse bir yıl sonra nihayet Sonuçlar kayıtlardaki bu testlerden. 2000 katılımcı algoritmalarını test etti (başvuru sahipleri çoğunlukla teknoloji endüstrisindendi veya akademi geçmişine sahipti) ve en başarılı örnek %82'lik etkileyici bir tespit oranı sağladı. Günümüzde derin sahtekarlıklara dönüşen çok sayıda dijital istismar göz önüne alındığında; bulanıklıklar, kare hızı değişiklikleri, bindirmeler, sadece birkaçını saymak gerekirse… Bunun gerçekten umut verici bir geri dönüş olduğunu söylemelisiniz.

Yarışmanın galibi Selim Seferbekov, 500,000 $ kazandı ve ardından, kazanan algoritmasını, AI uzmanları tarafından bilinen en karmaşık derin sahte aldatma biçimleriyle dolu bir "kara kutu" veri kümesine karşı koymakla görevlendirildi. Skor kesinleştiğinde ve önceki sonuçlarla birleştirildiğinde, genel bir ortalama ortaya çıktı. sadece 65%.

Bu sonuçlar Facebook için bir endişe kaynağı olmalı mı?

Bu çalışma, vahşi doğada bir derin sahtekarlığı tespit etmenin gerçekten ne kadar zor olduğunu vurgulamaktadır. Sonuçta, AI'nın uyarlanabilir doğası, mevcut istismarlar kapanır kapanmaz yenilerinin hızla ortaya çıkabileceği ve ilk kareye geri dönebileceği anlamına gelir. Bu sinir bozucu, hiç bitmeyen bir kedi ve fare oyunu.

Ancak, Facebook araştırmacıları, bu testten toplanan verilerin şu anda çalışmakta olan kendi önleyici yazılımlarını güçlendirmede çok değerli olacağından eminler. Facebook ayrıca, diğer araştırmacıların sahte videoları viral hale gelmeden önce tespit etmelerine yardımcı olmak için en başarılı algoritmaların (Seferbekov'unki dahil) kaynak kodunu yayınlamayı planlıyor.

Şimdilik, Facebook akıllı oynuyor ve 2020'de herhangi bir tersine mühendislik türünün ortaya çıkmasını önlemek için kendi algılama yazılımını gizli tutuyor. Baş teknoloji sorumlusu Mike Schröpfer Deepfake'lerin şu an itibariyle Facebook için 'büyük bir sorun' olmadığını, ancak kendisinin ve ekibinin bu Kasım ayında yapılacak ABD seçimlerine 'düz ayaklı yakalanmaktan' kaçınmak için yorulmadan çalıştığını belirtiyor.

Mevcut haliyle, bir sonraki derin sahtekarlık dalgasıyla başa çıkmak için gerçekten donanımlı olup olmadığımızı göreceğiz. Ama bir şeyi garanti edebilirsin, o is geliyor.