Minggu lalu, gambar eksplisit Taylor Swift yang dibuat menggunakan AI dibagikan di Twitter (X), dengan beberapa postingan memperoleh jutaan penayangan. Kepanikan hukum yang terjadi dapat berdampak pada penggunaan gambar selebriti dan gambar AI secara umum.
Taylor Swift adalah korban pembuatan gambar AI minggu lalu. Gambar-gambar porno yang eksplisit dibuat tanpa persetujuannya dan dibagikan di X (secara resmi Twitter) oleh ribuan pengguna.
Postingan tersebut dilihat puluhan juta kali sebelum dihapus dan dihapus dari platform.
Dampak yang ditimbulkan sangat cepat, dengan X mengubah filter sensornya selama akhir pekan untuk menghapus penyebutan gambar tersebut. Politisi AS memang demikian menyerukan undang-undang baru untuk mengkriminalisasi deepfake sebagai akibat langsungnya, dan Microsoft telah berkomitmen untuk mendorong lebih banyak batasan pada aplikasi IP Desainernya untuk mencegah insiden di masa mendatang.
Memposting gambar Ketelanjangan Non-Konsensual (NCN) dilarang keras di X dan kami tidak memiliki kebijakan toleransi terhadap konten tersebut. Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya. Kami dekatโฆ
โ Keamanan (@Keselamatan) Januari 26, 2024
Perkembangan terbaru dalam kontroversi deepfake ini terjadi setelah bertahun-tahun konten pornografi online yang tidak etis, yang sebagian besar menghilangkan otonomi korban atas kemiripannya. Ini adalah masalah yang menjadi perhatian baik selebriti maupun orang biasa, karena alat AI menjadi lebih umum dan dapat diakses oleh siapa saja dan semua orang.
Status Taylor yang terkenal dan basis penggemar setianya telah membantu mendorong isu ini ke garis depan berita terkini, dan tidak diragukan lagi akan mengingatkan para pembuat kebijakan, platform media sosial, dan perusahaan teknologi dengan cara yang belum pernah kita lihat hingga saat ini.
Meskipun perubahan dan undang-undang yang lebih ketat seharusnya sudah diberlakukan sejak lama, kita mungkin akan melihat kemajuan yang sangat dibutuhkan dalam beberapa minggu dan bulan mendatang. Dampaknya bisa berdampak luas dan memengaruhi pembuatan gambar AI secara umum โ tidak hanya kemiripan dengan selebriti atau konten eksplisit.
Bagaimana dampak hukum terhadap pembuatan gambar AI di masa depan?
Jadi, apa yang Secara khusus apakah ini terjadi secara legal untuk memerangi konten AI deepfake milik Taylor?
Pada hari Selasa, sekelompok senator AS bipartisan memperkenalkan sebuah tagihan yang akan mengkriminalisasi penyebaran gambar-gambar seksual non-konsensual yang dihasilkan oleh AI. Hal ini akan memungkinkan para korban untuk meminta hukuman perdata terhadap 'individu yang memproduksi atau memiliki barang palsu dengan maksud untuk mendistribusikannya'.
Selain itu, siapa pun yang menerima gambar atau materi yang mengetahui bahwa gambar atau materi tersebut tidak dibuat dengan izin juga akan terpengaruh.
Dick Durbin, anggota mayoritas Senat AS, dan senator Lindsey Graham, Amy Klobuchar, dan Josh Hawley berada di balik RUU tersebut. Ini disebut 'Undang-Undang Gangguan Gambar Palsu dan Pengeditan Tanpa Konsensual tahun 2024', atau 'Tindakan Pembangkangan' Singkatnya.
Foto-foto eksplisit Taylor juga sampai ke Gedung Putih. Sekretaris Pers Karine Jean-Pierre mengatakan kepada ABC News pada hari Jumat bahwa pemerintah 'terkejut dengan laporan beredarnya gambar'.
Semua ini merupakan lanjutan dari lain RUU yang disebut UU No AI FRAUD yang diperkenalkan pada 10 Januarith, 2024.
Hal ini bertujuan untuk menciptakan 'perlindungan dasar federal terhadap penyalahgunaan AI', dan menegakkan hak Amandemen Pertama secara online. Hal ini memberikan penekanan khusus pada hak individu atas kemiripan dan suara mereka terhadap pemalsuan AI. Jika disahkan, UU No AI FRAUD akan 'menegaskan kembali bahwa kemiripan dan suara setiap orang dilindungi dan memberikan hak kepada individu untuk mengontrol penggunaan karakteristik identifikasi mereka'.
Tentu saja, perlindungan hukum sebenarnya adalah satu hal Menegakkan itu secara net-wide adalah hal lain. Ada juga isu kontroversial mengenai kebebasan berpendapat dan ekspresi โ dan menentukan di mana letak hukuman.
Haruskah platform perangkat lunak yang memediasi pembuatan gambar AI dibatasi atau dihukum? Kami tidak membatasi Photoshop, misalnya, meskipun Photoshop merupakan alat yang menonjol untuk membuat gambar yang menyesatkan. Di mana seharusnya perusahaan AI berdiri secara legal di sini? Saat ini tidak jelas.
Anggota parlemen mengusulkan RUU pornografi AI anti-nonkonsensual setelah kontroversi Taylor Swift https://t.co/3PS8h0ULxO
- The Verge (@verge) Januari 31, 2024