Hình ảnh AI rõ ràng của Taylor Swift gây hoảng loạn pháp lý

Tuần trước, những hình ảnh phản cảm về Taylor Swift được tạo bằng AI đã được chia sẻ trên Twitter (X), với một số bài đăng thu hút hàng triệu lượt xem. Sự hoảng loạn pháp lý sau đó có thể gây ra hậu quả cho việc sử dụng hình ảnh người nổi tiếng và hình ảnh AI nói chung.

Taylor Swift là nạn nhân của việc tạo hình ảnh AI vào tuần trước. Những hình ảnh khiêu dâm, rõ ràng đã được tạo ra mà không có sự đồng ý của cô ấy và được hàng nghìn người dùng chia sẻ trên X (chính thức là Twitter).

Các bài đăng đã được xem hàng chục triệu lần trước khi chúng bị xóa và xóa khỏi nền tảng.

Hậu quả tiếp theo diễn ra nhanh chóng, với việc X điều chỉnh các bộ lọc kiểm duyệt vào cuối tuần để loại bỏ bất kỳ đề cập nào đến hình ảnh. Các chính trị gia Mỹ đang kêu gọi luật mới để hình sự hóa các hành vi deepfake là kết quả trực tiếp và Microsoft đã cam kết đẩy thêm nhiều rào chắn hơn trên ứng dụng Designer IP của mình để ngăn chặn các sự cố trong tương lai.

Việc đăng hình ảnh Khoả thân không có sự đồng thuận (NCN) bị nghiêm cấm trên X và chúng tôi có chính sách không khoan nhượng đối với nội dung đó. Nhóm của chúng tôi đang tích cực xóa tất cả các hình ảnh đã được xác định và thực hiện các hành động thích hợp đối với các tài khoản chịu trách nhiệm đăng chúng. Chúng tôi đang ở rất gần…

- An toàn (@An toàn) 26 Tháng một, 2024

Những diễn biến mới nhất trong cuộc tranh cãi về deepfake diễn ra sau nhiều năm nội dung khiêu dâm phi đạo đức trực tuyến, hầu hết đều tước bỏ quyền tự chủ của nạn nhân đối với hình ảnh của họ. Đó là một vấn đề liên quan đến cả những người nổi tiếng cũng như những người bình thường, vì các công cụ AI trở nên phổ biến hơn và dễ tiếp cận hơn đối với bất kỳ ai và mọi người.

Địa vị nổi tiếng và lượng người hâm mộ tận tụy của Taylor đã giúp đẩy vấn đề này lên hàng đầu trong các tin tức thời sự và chắc chắn sẽ cảnh báo các nhà hoạch định chính sách, nền tảng truyền thông xã hội và các công ty công nghệ theo cách mà chúng ta chưa từng thấy cho đến nay.

Mặc dù những thay đổi và luật chặt chẽ hơn đáng lẽ phải được áp dụng từ lâu, nhưng chúng ta có thể sẽ thấy những tiến bộ rất cần thiết trong những tuần và tháng tới. Sự phân nhánh có thể có phạm vi rộng và ảnh hưởng đến việc tạo hình ảnh AI nói chung – không chỉ những hình ảnh giống người nổi tiếng hay nội dung tục tĩu.

Hậu quả pháp lý có thể ảnh hưởng đến việc tạo hình ảnh AI trong tương lai như thế nào?

Vậy thì sao đặc biệt đang diễn ra một cách hợp pháp để chống lại nội dung AI deepfake của Taylor?

Hôm thứ Ba, một nhóm lưỡng đảng gồm các thượng nghị sĩ Hoa Kỳ giới thiệu một hóa đơn điều đó sẽ hình sự hóa việc lan truyền những hình ảnh vô căn cứ, khiêu dâm do AI tạo ra. Điều này sẽ cho phép nạn nhân tìm kiếm một hình phạt dân sự đối với 'các cá nhân sản xuất hoặc sở hữu hàng giả với ý định phân phối nó'.

Ngoài ra, bất kỳ ai nhận được hình ảnh hoặc tài liệu mà biết rằng chúng không được tạo ra với sự đồng ý cũng sẽ bị ảnh hưởng.

Dick Durbin, người đứng đầu đa số tại Thượng viện Hoa Kỳ, và các thượng nghị sĩ Lindsey Graham, Amy Klobuchar và Josh Hawley đứng đằng sau dự luật. Nó được gọi là 'Đạo luật phá vỡ hình ảnh giả mạo và chỉnh sửa không có sự đồng thuận năm 2024', hoặc 'Đạo luật thách thức' cho ngắn gọn

Những bức ảnh khiêu dâm của Taylor cũng lọt vào Nhà Trắng. Thư ký báo chí Karine Jean-Pierre nói với ABC News hôm thứ Sáu rằng chính phủ đã “báo động trước những báo cáo về những hình ảnh được lan truyền”.

Tất cả điều này tiếp theo từ khác dự luật có tên là Đạo luật Không gian lận AI được đưa ra vào ngày 10 tháng XNUMX^th, 2024.

Điều này nhằm mục đích tạo ra 'sự bảo vệ cơ bản, liên bang chống lại việc lạm dụng AI' và duy trì các quyền của Tu chính án thứ nhất trực tuyến. Nó đặc biệt nhấn mạnh vào quyền của một cá nhân đối với chân dung và tiếng nói của họ chống lại sự giả mạo của AI. Nếu được thông qua, Đạo luật Không gian lận AI sẽ ‘khẳng định lại rằng hình ảnh và giọng nói của mọi người đều được bảo vệ và trao cho các cá nhân quyền kiểm soát việc sử dụng các đặc điểm nhận dạng của họ’.

Tất nhiên, sự bảo vệ về mặt pháp lý là một chuyện, thực ra thực thi nó trên cơ sở toàn mạng là một chuyện khác. Ngoài ra còn có vấn đề gây tranh cãi về tự do ngôn luận và biểu hiện - và xác định hình phạt nằm ở đâu.

Nền tảng phần mềm trung gian tạo ra hình ảnh AI có nên bị hạn chế hoặc trừng phạt? Ví dụ: chúng tôi không giới hạn Photoshop, mặc dù đây là công cụ nổi bật để tạo ra những hình ảnh gây hiểu lầm. Các công ty AI nên đứng ở đâu về mặt pháp lý ở đây? Hiện tại vẫn chưa rõ ràng.

Các nhà lập pháp đề xuất dự luật khiêu dâm AI chống lại sự đồng thuận sau tranh cãi của Taylor Swift https://t.co/3PS8h0ULxO

- Verge (@verge) 31 Tháng một, 2024