Menü Menü

Açık Taylor Swift AI görüntüleri yasal paniğe neden oldu

Geçtiğimiz hafta Taylor Swift'in yapay zeka kullanılarak oluşturulan açık görselleri Twitter (X) üzerinden paylaşıldı ve bazı gönderiler milyonlarca görüntüleme aldı. Ortaya çıkan yasal panik, ünlülerin benzerlerinin ve genel olarak yapay zeka görsellerinin kullanımı açısından sonuçlar doğurabilir.

Taylor Swift geçen hafta yapay zeka görüntü üretiminin kurbanı oldu. Açık, pornografik görüntüler onun izni olmadan oluşturuldu ve X'te (resmi olarak Twitter) binlerce kullanıcı tarafından paylaşıldı.

Gönderiler kaldırılıp platformdan kaldırılmadan önce on milyonlarca kez görüntülendi.

X'in hafta sonu sansür filtrelerinde ince ayar yaparak görüntülerden herhangi bir şekilde bahsetmesiyle, bunun ardından gelen etkiler hızlı oldu. ABD'li politikacılar yeni kanunlar talep ediyorum Deepfake'leri doğrudan bir sonuç olarak suç saymak ve Microsoft taahhüt etti Gelecekteki olayları önlemek için Designer IP uygulamasına daha fazla korkuluk eklemeyi planlıyor.

Deepfake tartışmasındaki bu son gelişmeler, uzun yıllar süren çevrimiçi etik olmayan pornografik içeriğin ardından geliyor ve bunların çoğu kurbanların özerkliğini kendi benzerliklerinden mahrum bırakıyor. Yapay zeka araçları daha yaygın hale geldikçe ve herkes için erişilebilir hale geldikçe, bu hem ünlüleri hem de sıradan insanları ilgilendiren bir sorundur.

Taylor'ın yüksek profilli statüsü ve sadık hayran kitlesi, bu konunun güncel haberlerde ön sıralara taşınmasına yardımcı oldu ve hiç şüphesiz politika yapıcıları, sosyal medya platformlarını ve teknoloji şirketlerini şimdiye kadar görmediğimiz bir şekilde uyaracaktır.

Değişimin ve daha katı yasaların uzun zaman önce yürürlüğe konması gerekirken, önümüzdeki haftalarda ve aylarda çok ihtiyaç duyulan ilerlemeyi muhtemelen göreceğiz. Sonuçlar geniş kapsamlı olabilir ve yalnızca ünlülerin benzerlikleri veya müstehcen içerikleri değil, genel olarak AI görüntü oluşumunu etkileyebilir.


Yasal sonuçlar gelecekte yapay zeka görüntü üretimini nasıl etkileyebilir?

Peki, özellikle Taylor'ın derin sahte yapay zeka içeriğiyle mücadele yasal olarak mı yapılıyor?

Salı günü, iki partiden oluşan bir grup ABD senatörü bir fatura tanıtladı Bu, yapay zeka tarafından oluşturulan rıza dışı, cinselleştirilmiş görüntülerin yayılmasını suç sayacaktır. Bu, mağdurların 'sahtekarlığı dağıtmak amacıyla üreten veya bulunduran kişilere' karşı hukuki ceza talep etmelerine olanak tanıyacak.

Ayrıca, rıza ile oluşturulmadığını bilen görsel veya materyal alan herkes de bundan etkilenecektir.

Tasarının arkasında ABD Senatosu çoğunluk görevlisi Dick Durbin ve senatörler Lindsey Graham, Amy Klobuchar ve Josh Hawley yer alıyor. Buna '2024 Açık Sahte Görüntüleri ve Rıza Dışı Düzenlemeleri Engelleme Yasası' adı veriliyor veya 'Meydan Okuma Yasası' kısaca.

Taylor'ın müstehcen fotoğrafları Beyaz Saray'a da ulaştı. Basın Sekreteri Karine Jean-Pierre Cuma günü ABC News'e hükümetin "dolaşan görüntülerle ilgili raporlardan alarma geçtiğini" söyledi.

Bütün bunlar şundan devam ediyor: bir diğeri 10 Ocak'ta tanıtılan Yapay Zeka Dolandırıcılığına Hayır Yasası adlı yasa tasarısıth, 2024.

Bu, 'Yapay Zekanın kötüye kullanılmasına karşı federal, temel bir koruma' oluşturmayı ve İlk Değişiklik haklarını çevrimiçi olarak desteklemeyi amaçlamaktadır. Yapay zeka sahteciliğine karşı bireyin kendi benzerliği ve söz hakkı haklarına özellikle vurgu yapılıyor. Geçildiği takdirde, AI SAHTEKARLIĞINA Hayır Yasası 'herkesin benzerliğinin ve sesinin korunduğunu yeniden teyit edecek ve bireylere, tanımlayıcı özelliklerinin kullanımını kontrol etme hakkı verecektir'.

Elbette yasal koruma bir şeydir aslında zorlama ağ çapında bakıldığında ise başka bir şeydir. Ayrıca birde şu var İfade özgürlüğü konusundaki tartışmalı konu ve ifade – ve cezanın nerede yattığını belirlemek.

Yapay zeka görüntülerini mümkün kılan aracılık eden yazılım platformları kısıtlanmalı mı yoksa cezalandırılmalı mı? Örneğin Photoshop, yanıltıcı görüntüler oluşturmak için öne çıkan bir araç olmasına rağmen sınırlamıyoruz. Yapay zeka şirketleri burada yasal olarak nerede durmalı? Şu anda belirsiz.


Rıza dışı yapay zeka görüntü üretimi konusunda neden endişelenmeliyiz? 

Yapay zekayla görüntü oluşturma ve rıza dışı derin sahtecilikle birlikte gelen ve çoğu muhtemelen bariz olan tonlarca sorun var.

Yapay zeka tarafından üretilen pornografinin çoğu kadınlara yöneliktir ve deneğin rızası olmadan yapılır. Bir 2019 çalışması Deepfake videoların %96'sının müstehcen olduğunu, kadınların yer aldığını ve onay alınmadan yapıldığını tespit etti. Bu bir Kocaman çoğunluktadır ve yapay zeka tarafından oluşturulan içeriğin büyük ölçüde açık kadın düşmanlığından kaynaklanıyor ve cinsel taciz.

Açıkça söylemek gerekirse, yasal çerçeveler yapay zeka içeriğine ve bununla ilişkili risklere ayak uydurmakta başarısız oldu. İster Taylor Swift gibi üst düzey ünlüler olsun, ister halkın mütevazı üyeleri olsun, kadınlar giderek daha fazla tehdit altında. Yazılımın kullanımı kolaylaştıkça ve kullanıma hazır hale geldikçe bu potansiyel risk de sürekli artmaktadır.

Çoğu zaman 4chan, Telegram ve Discord gibi forumlar aracılığıyla, ünlü kadınların pornografik içeriğini izinsiz olarak üreten ve dağıtan birçok çevrimiçi topluluğun bulunduğunu zaten biliyoruz. Herhangi bir iyi niyetli ABD Kongresi yasa tasarısı ne olursa olsun, düzenlemeye tabi değildir ve tamamen çökertilmesi neredeyse imkansızdır.

Tüm bunlar, yanlış bilginin muhtemelen olduğundan daha da yaygın hale geleceği siyasi alanlarımızdaki derin sahte görüntü ve videoların sonuçlarını hesaba katmadan yapılıyor. Çevrimiçi kimlik hırsızlığına ilişkin uygun bir yasal sorumluluk bulunmadığından, herhangi bir ünlünün herhangi bir şey söylemesini veya yapmasını nasıl engelleyebiliriz?

Büyükanne ve büyükbabalarımızın internette neyin gerçek olup neyin olmadığını ayırmasını sağlamak yeterince zor. Artık yapay zeka ses, video ve hatta metin yazarlığı alanında patlama yaşadığına göre, insan içeriğini ve bot içeriğini anlamak artık çok önemli. neredeyse anlaşılmaz bir mayın tarlası. Kadınları hayal kırıklığına uğratıyor, kendi benzerliğimiz üzerindeki sahiplenmeyi aşındırıyor ve sonuçta çevrimiçi iletişim yeteneğimize zarar veriyor.

Taylor Swift şimdilik bu soruna öncülük ediyor olabilir, ancak gerçek şu ki derin sahte içerik ve yapay zeka pornografisi uzun süredir internette dolaşıyor, forumların köhne köşelerinde iltihaplanıyor ve kontrolsüz kalmasına izin veriliyor. Bu, tek bir yasa tasarısı veya önergeyle çözülemeyecek kadar büyük ve önemli bir sorundur.

Korumak için daha fazlasının yapılması gerekiyor herkessadece ultra ünlüler değil.

Engellilerin kullanımları için uygunluk