Yukarıdaki deep fake' Emma Watson videosuna baktığınızda teknolojinin ne kadar gerçekçi olduğunu görebilirsiniz.
Cidden, geçenlerde Londra'da çok beğenilen ABBA holografik konserine gittim ve o klipteki gerçeğe yakın hareketlerin kalitesi çarpıcı biçimde benzer.
Ancak videonun, kullanıcıların ve belki de programcıların karanlık niyetlerini mükemmel bir şekilde gösteren müstehcen doğasını gözden kaçırmak zor. Bu klibin reklam amaçlı kullanılması ise işleri daha da sorunlu hale getiriyor.
Reklamın ekran kaydını retweetlemek, bir Twitter kullanıcısı dedi ki: 'Bu, kadınları cinsel tacizde bulunmanın yeni bir yolu. Bedensel özerkliğinizi elinizden alıyor ve sizi, daha sonra sizi aşağılamak ve size karşı ayrımcılık yapmak için kullanılabilecek, rıza dışı cinsel malzemeye zorluyor. Psikolojik etkilerden bahsetmiyorum bile.'
Deepfake AI'nın bu amaç için kullanılmasını teşvik etmek, açıkça uğursuzdur. Bununla birlikte, derin sahte teknolojinin şimdiye kadarki en ünlü kullanımları ya pornografik ya da siyasete bağlı olduğundan, bu şaşırtıcı olmamalı.
2019'da - teknolojinin yaratılmasından sadece iki yıl sonra - Deeptrace tarafından yürütülen araştırmaya göre, çevrimiçi bulunan tüm derin sahte videoların en az yüzde 96'sının pornografik olduğu bildirildi.
Bu videoların yaratılmasını sağlayan şey, yalnızca derin sahte pornografi barındıran çok sayıda web sitesidir. Bu platformlara yüklenen birçok sahte klip, intikam peşindeki eski sevgililer veya düşmanlarının imajını lekelemek isteyen kişiler tarafından oluşturulmuştur.
Sonuç olarak, dünyanın dört bir yanındaki hükümetler, derin sahte teknolojinin kullanılma yollarını sınırlayan daha güçlü yasal çerçeveler oluşturmaya başladı. Kuşkusuz, bunların mevcut vakalardan haberdar edilmesi gerekiyordu, bu nedenle teknoloji uzmanları tehlikelerine karşı hazırlıksız olduğumuz konusunda uyardı.
Kasım 2022'de Birleşik Krallık hükümeti derin sahte pornografi yaptı hapis cezası gerektiren bir suç. Ancak mahkemeler, yalnızca bu görüntüleri veya videoları internette dolaştırmaları durumunda kişileri yargılayabilir.
Bazı ABD eyaletleri de koydu benzer kanunlar yerinde. Ancak gerçekçi olmak gerekirse, bu politikalar kimseyi kapalı kapılar ardında başka bir kişinin kendi izlemesi için grafik videolara yerleştirilmekten koruyamaz.
Bu düşünce, kadınların büyük çoğunluğu için, ürperme ve tüyler ürpertici bir tepki olmasa bile, tiksinti ve öfkeyi kışkırtmaya yeterli olacaktır.
Belirtildiği gibi, derin sahtekarlıklar da siyasi kargaşayı kışkırtmak için kullanıldı.
Barak Obama oldu tasvir Donald Trump'a hakaret. Mark Zuckerberg'in sahip olduğu dengelendi Facebook'un tek amacının platformun kullanıcılarını kontrol etmek ve istismar etmek olduğunu söylemek.
Bunların hepsi viral oldu, ilgi düzeyini, hayranlığı ve bazı durumlarda derin sahte teknolojinin hilekarlığını ortaya çıkardı.
Başka bağlamlarda kullanıldığında sonuçları çok daha tehlikeli olabilir. Rusya'nın Ukrayna'yı işgalinin ilk aylarında, Başkan Zelensky'nin videoları Ukrayna askerlerine Rus askerlerine teslim olmalarını söylediği ortaya çıktı.
Neyse ki, gerçek Başkan Zelensky, videonun muhalif güçler tarafından oynandığını kişisel sosyal medya hesaplarından doğruladı. Halkına ülkeleri için verilen mücadelenin henüz bitmediğini hatırlattı ve onları birlik olmaya çağırdı.
Kraliçe II. Elizabeth'in geleneksel tarzının kıkırdamaya değer bir versiyonunu yapmak için kullanıldığında bile derin sahtekarlıklar gibi görünüyor. Noel konuşması, içimizde rahatsız edici bir his uyandırma eğilimindedir.
belki biz bilmek derinlerde, teknolojinin kötü niyetle kullanılması çok daha olasıdır. Peki, gerçek ile kurgu arasındaki farkı ayırt edemeyecek kadar ilerlediğinde ne olacak?
Facemega gibi ücretsiz indirilebilen uygulamalarla, deepfake teknolojisinin akıllı telefonlarımız aracılığıyla geniş çapta kullanılabilir hale gelmesinden endişelenmeli miyiz?
Ne yazık ki öyle olmamız gerektiğini söyleyebilirim.