Menü Menü

Facemega deepfake uygulaması neden kaygan bir eğimdir?

Deepfake teknolojisine erişim kolaylaşıyor. İnsanların çoğu onu uğursuz nedenlerle kullanmayı seçerken, yeni teknolojinin olumsuz sonuçlarının faydalarından daha ağır basabileceğini göz ardı etmek zor.

Deepfake'lerin olumsuz ve tehlikeli sonuçları, AI teknolojisinin 2017'de ana akım haline gelmesinden bu yana hararetle tartışılıyor.

Uzmanlar uyardı sürekli gelişen AI öğrenme sistemleriyle birleştiğinde yaygın kullanımlarının "toplumu mahvedeceğini" ve serpinti ile başa çıkmak için "hazır olmadığımızı".

Yayınlanan acayip gerçek kliplerin yanı sıra @deepTomCruise TikTok hesabı, çoğu derin sahtekarlığın, onları uydurma içerik olarak algılamamıza izin veren ince kusurları göstermesi uzun sürmez.

Birinin aslında söylemediği bir şeyi söylediği veya yapmadığı eylemleri yaptığı kusursuz bir video oluşturmak, birincisi için olağanüstü düzenleme becerileri gerektirir. Ayrıca, yapay zekanın kişinin tavırlarını ve konuşma alışkanlıklarını ikna edici olacak kadar iyi öğrenmesi için birçok multimedya referans noktası gerektirir.

Ancak elbette, böyle bir teknolojinin ilerlemesi ve sıradan insanların elinde çalışmak üzere uyarlanması yalnızca bir an meselesiydi.

Son günlerde, fotoğraf düzenleme uygulamaları ve Facebook kullanıcıları, Facemega adlı bir uygulamanın reklamlarını gördüklerini bildirdiler. Ücretsiz akıllı telefon yazılımı, kullanıcıların sanal olarak bir portre yüklemesine ve birleştirmesine olanak tanır. kimsenin yüz yüze herhangi seçtikleri video.

Yukarıdaki deep fake' Emma Watson videosuna baktığınızda teknolojinin ne kadar gerçekçi olduğunu görebilirsiniz.

Cidden, geçenlerde Londra'da çok beğenilen ABBA holografik konserine gittim ve o klipteki gerçeğe yakın hareketlerin kalitesi çarpıcı biçimde benzer.

Ancak videonun, kullanıcıların ve belki de programcıların karanlık niyetlerini mükemmel bir şekilde gösteren müstehcen doğasını gözden kaçırmak zor. Bu klibin reklam amaçlı kullanılması ise işleri daha da sorunlu hale getiriyor.

Reklamın ekran kaydını retweetlemek, bir Twitter kullanıcısı dedi ki: 'Bu, kadınları cinsel tacizde bulunmanın yeni bir yolu. Bedensel özerkliğinizi elinizden alıyor ve sizi, daha sonra sizi aşağılamak ve size karşı ayrımcılık yapmak için kullanılabilecek, rıza dışı cinsel malzemeye zorluyor. Psikolojik etkilerden bahsetmiyorum bile.'

Deepfake AI'nın bu amaç için kullanılmasını teşvik etmek, açıkça uğursuzdur. Bununla birlikte, derin sahte teknolojinin şimdiye kadarki en ünlü kullanımları ya pornografik ya da siyasete bağlı olduğundan, bu şaşırtıcı olmamalı.

 

2019'da - teknolojinin yaratılmasından sadece iki yıl sonra - Deeptrace tarafından yürütülen araştırmaya göre, çevrimiçi bulunan tüm derin sahte videoların en az yüzde 96'sının pornografik olduğu bildirildi.

Bu videoların yaratılmasını sağlayan şey, yalnızca derin sahte pornografi barındıran çok sayıda web sitesidir. Bu platformlara yüklenen birçok sahte klip, intikam peşindeki eski sevgililer veya düşmanlarının imajını lekelemek isteyen kişiler tarafından oluşturulmuştur.

Sonuç olarak, dünyanın dört bir yanındaki hükümetler, derin sahte teknolojinin kullanılma yollarını sınırlayan daha güçlü yasal çerçeveler oluşturmaya başladı. Kuşkusuz, bunların mevcut vakalardan haberdar edilmesi gerekiyordu, bu nedenle teknoloji uzmanları tehlikelerine karşı hazırlıksız olduğumuz konusunda uyardı.

Kasım 2022'de Birleşik Krallık hükümeti derin sahte pornografi yaptı hapis cezası gerektiren bir suç. Ancak mahkemeler, yalnızca bu görüntüleri veya videoları internette dolaştırmaları durumunda kişileri yargılayabilir.

Bazı ABD eyaletleri de koydu benzer kanunlar yerinde. Ancak gerçekçi olmak gerekirse, bu politikalar kimseyi kapalı kapılar ardında başka bir kişinin kendi izlemesi için grafik videolara yerleştirilmekten koruyamaz.

Bu düşünce, kadınların büyük çoğunluğu için, ürperme ve tüyler ürpertici bir tepki olmasa bile, tiksinti ve öfkeyi kışkırtmaya yeterli olacaktır.

@kennaacting

Şununla yüz değiştirme mücadelesi: #facemega #facemegaapp #yüz nakli #yüz büyüsü #video düzenleme #komik #oyunculuk

♬ Happy Upbeat Fun Rock Enerjik – StockSounds

Belirtildiği gibi, derin sahtekarlıklar da siyasi kargaşayı kışkırtmak için kullanıldı.

Barak Obama oldu tasvir Donald Trump'a hakaret. Mark Zuckerberg'in sahip olduğu dengelendi Facebook'un tek amacının platformun kullanıcılarını kontrol etmek ve istismar etmek olduğunu söylemek.

Bunların hepsi viral oldu, ilgi düzeyini, hayranlığı ve bazı durumlarda derin sahte teknolojinin hilekarlığını ortaya çıkardı.

Başka bağlamlarda kullanıldığında sonuçları çok daha tehlikeli olabilir. Rusya'nın Ukrayna'yı işgalinin ilk aylarında, Başkan Zelensky'nin videoları Ukrayna askerlerine Rus askerlerine teslim olmalarını söylediği ortaya çıktı.

Neyse ki, gerçek Başkan Zelensky, videonun muhalif güçler tarafından oynandığını kişisel sosyal medya hesaplarından doğruladı. Halkına ülkeleri için verilen mücadelenin henüz bitmediğini hatırlattı ve onları birlik olmaya çağırdı.

Kraliçe II. Elizabeth'in geleneksel tarzının kıkırdamaya değer bir versiyonunu yapmak için kullanıldığında bile derin sahtekarlıklar gibi görünüyor. Noel konuşması, içimizde rahatsız edici bir his uyandırma eğilimindedir.

belki biz bilmek derinlerde, teknolojinin kötü niyetle kullanılması çok daha olasıdır. Peki, gerçek ile kurgu arasındaki farkı ayırt edemeyecek kadar ilerlediğinde ne olacak?

Facemega gibi ücretsiz indirilebilen uygulamalarla, deepfake teknolojisinin akıllı telefonlarımız aracılığıyla geniş çapta kullanılabilir hale gelmesinden endişelenmeli miyiz?

Ne yazık ki öyle olmamız gerektiğini söyleyebilirim.

Engellilerin kullanımları için uygunluk