menu menu

Gambar AI Taylor Swift yang eksplisit menyebabkan kepanikan hukum

Minggu lalu, gambar eksplisit Taylor Swift yang dibuat menggunakan AI dibagikan di Twitter (X), dengan beberapa postingan memperoleh jutaan penayangan. Kepanikan hukum yang terjadi dapat berdampak pada penggunaan gambar selebriti dan gambar AI secara umum.

Taylor Swift adalah korban pembuatan gambar AI minggu lalu. Gambar-gambar porno yang eksplisit dibuat tanpa persetujuannya dan dibagikan di X (secara resmi Twitter) oleh ribuan pengguna.

Postingan tersebut dilihat puluhan juta kali sebelum dihapus dan dihapus dari platform.

Dampak yang ditimbulkan sangat cepat, dengan X mengubah filter sensornya selama akhir pekan untuk menghapus penyebutan gambar tersebut. Politisi AS memang demikian menyerukan undang-undang baru untuk mengkriminalisasi deepfake sebagai akibat langsungnya, dan Microsoft telah berkomitmen untuk mendorong lebih banyak batasan pada aplikasi IP Desainernya untuk mencegah insiden di masa mendatang.

Perkembangan terbaru dalam kontroversi deepfake ini terjadi setelah bertahun-tahun konten pornografi online yang tidak etis, yang sebagian besar menghilangkan otonomi korban atas kemiripannya. Ini adalah masalah yang menjadi perhatian baik selebriti maupun orang biasa, karena alat AI menjadi lebih umum dan dapat diakses oleh siapa saja dan semua orang.

Status Taylor yang terkenal dan basis penggemar setianya telah membantu mendorong isu ini ke garis depan berita terkini, dan tidak diragukan lagi akan mengingatkan para pembuat kebijakan, platform media sosial, dan perusahaan teknologi dengan cara yang belum pernah kita lihat hingga saat ini.

Meskipun perubahan dan undang-undang yang lebih ketat seharusnya sudah diberlakukan sejak lama, kita mungkin akan melihat kemajuan yang sangat dibutuhkan dalam beberapa minggu dan bulan mendatang. Dampaknya bisa berdampak luas dan memengaruhi pembuatan gambar AI secara umum – tidak hanya kemiripan dengan selebriti atau konten eksplisit.


Bagaimana dampak hukum terhadap pembuatan gambar AI di masa depan?

Jadi, apa yang Secara khusus apakah ini terjadi secara legal untuk memerangi konten AI deepfake milik Taylor?

Pada hari Selasa, sekelompok senator AS bipartisan memperkenalkan sebuah tagihan yang akan mengkriminalisasi penyebaran gambar-gambar seksual non-konsensual yang dihasilkan oleh AI. Hal ini akan memungkinkan para korban untuk meminta hukuman perdata terhadap 'individu yang memproduksi atau memiliki barang palsu dengan maksud untuk mendistribusikannya'.

Selain itu, siapa pun yang menerima gambar atau materi yang mengetahui bahwa gambar atau materi tersebut tidak dibuat dengan izin juga akan terpengaruh.

Dick Durbin, anggota mayoritas Senat AS, dan senator Lindsey Graham, Amy Klobuchar, dan Josh Hawley berada di balik RUU tersebut. Ini disebut 'Undang-Undang Gangguan Gambar Palsu dan Pengeditan Tanpa Konsensual tahun 2024', atau 'Tindakan Pembangkangan' Singkatnya.

Foto-foto eksplisit Taylor juga sampai ke Gedung Putih. Sekretaris Pers Karine Jean-Pierre mengatakan kepada ABC News pada hari Jumat bahwa pemerintah 'terkejut dengan laporan beredarnya gambar'.

Semua ini merupakan lanjutan dari lain RUU yang disebut UU No AI FRAUD yang diperkenalkan pada 10 Januarith, 2024.

Hal ini bertujuan untuk menciptakan 'perlindungan dasar federal terhadap penyalahgunaan AI', dan menegakkan hak Amandemen Pertama secara online. Hal ini memberikan penekanan khusus pada hak individu atas kemiripan dan suara mereka terhadap pemalsuan AI. Jika disahkan, UU No AI FRAUD akan 'menegaskan kembali bahwa kemiripan dan suara setiap orang dilindungi dan memberikan hak kepada individu untuk mengontrol penggunaan karakteristik identifikasi mereka'.

Tentu saja, perlindungan hukum sebenarnya adalah satu hal Menegakkan itu secara net-wide adalah hal lain. Ada juga isu kontroversial mengenai kebebasan berpendapat dan ekspresi – dan menentukan di mana letak hukuman.

Haruskah platform perangkat lunak yang memediasi pembuatan gambar AI dibatasi atau dihukum? Kami tidak membatasi Photoshop, misalnya, meskipun Photoshop merupakan alat yang menonjol untuk membuat gambar yang menyesatkan. Di mana seharusnya perusahaan AI berdiri secara legal di sini? Saat ini tidak jelas.


Mengapa kita harus khawatir dengan pembuatan gambar AI non-konsensual? 

Ada banyak sekali masalah yang muncul terkait pembuatan gambar AI dan pemalsuan mendalam tanpa persetujuan, yang sebagian besar mungkin sudah jelas.

Sebagian besar pornografi yang dihasilkan oleh AI adalah pornografi perempuan dan dilakukan tanpa persetujuan subjek. Sebuah studi 2019 menemukan bahwa 96% dari semua video deepfake bersifat eksplisit, menampilkan wanita, dan dibuat tanpa persetujuan. Itu adalah besar mayoritas dan menunjukkan bahwa konten yang dihasilkan AI adalah sebagian besar berakar pada misogini yang terang-terangan dan pelecehan seksual.

Sederhananya, kerangka hukum telah gagal mengimbangi konten AI dan risiko yang terkait dengannya. Perempuan semakin mendapat ancaman, baik itu selebriti papan atas seperti Taylor Swift atau anggota masyarakat yang sederhana. Potensi risiko ini juga terus meningkat, karena perangkat lunak menjadi lebih mudah digunakan dan tersedia.

Kita sudah tahu bahwa ada banyak komunitas online, sering kali melalui forum seperti 4chan, Telegram, dan Discord, yang membuat dan mengedarkan konten pornografi wanita terkenal tanpa izin. Hal ini tidak diatur dan hampir tidak mungkin untuk ditindak sepenuhnya, terlepas dari rancangan undang-undang Kongres AS yang bermaksud baik.

Semua ini terjadi tanpa mempertimbangkan konsekuensi dari gambar dan video palsu di dunia politik, di mana misinformasi kemungkinan besar akan semakin merajalela dibandingkan sebelumnya. Tanpa tanggung jawab hukum yang tepat atas pencurian identitas secara online, bagaimana kita dapat menghentikan selebriti mana pun untuk mengatakan atau melakukan sesuatu?

Cukup sulit untuk membuat kakek-nenek kita membedah mana yang nyata dan mana yang tidak. Sekarang AI telah meledak dalam audio, video, dan bahkan copywriting, memahami konten manusia dan konten bot adalah hal yang penting hampir merupakan ladang ranjau yang tidak bisa dipahami. Hal ini merugikan perempuan, mengikis rasa memiliki terhadap diri kita sendiri, dan pada akhirnya merusak kemampuan kita untuk berkomunikasi secara online.

Taylor Swift mungkin menjadi ujung tombak masalah ini untuk saat ini, namun kenyataannya konten deepfake dan pornografi AI telah beredar di internet sejak lama, membusuk di sudut-sudut forum yang kumuh dan dibiarkan begitu saja. Ini adalah masalah yang sangat besar dan substansial, yang tidak dapat diselesaikan hanya dengan satu rancangan undang-undang atau mosi.

Lebih banyak yang perlu dilakukan untuk melindungi semua orang, bukan hanya yang sangat terkenal.

Aksesibilitas