Menu Menu

Facebook tung ra thử thách giả mạo sâu sắc

Hợp tác với Microsoft và một số trường đại học, 'thử thách phát hiện' nhằm cải thiện khả năng phát hiện nội dung giả sâu của AI.

Bạn có thể đã thấy 'tin giả' trên khắp internet trong vài năm qua. Được Trump đặt ra trong chiến dịch tranh cử năm 2016 của ông, thuật ngữ này đã trở nên phổ biến khi thảo luận về nội dung trực tuyến - và bác bỏ những lời chỉ trích.

Mặc dù việc Trump sử dụng cụm từ này luôn mang tính đảng phái (nói một cách nhẹ nhàng), nó có thể được sử dụng một cách dân chủ hơn để đề cập đến nhận thức chung về sự thiên vị truyền thông. Các chuyên gia liên tục đưa ra lời khuyên rằng chúng ta nên cảnh giác khi nói đến tin tức và tuyên truyền trực tuyến, đặc biệt là do lo ngại về các chương trình và công ty của Nga như Cambridge Analytica lạm dụng dữ liệu cá nhân.

Đó không chỉ giới hạn ở tin tức và tiêu đề. Hiện tượng giả mạo sâu sắc đã phát triển đáng kể trong những năm gần đây khi công nghệ cần thiết để loại bỏ nó trở nên rẻ hơn và sẵn có hơn. Chúng tôi đã viết về sự phát triển của nó trước đây - và bây giờ Facebook đang kêu gọi công chúng giúp hiểu rõ hơn về nó.

Sáng kiến ​​này được gọi là 'Thử thách phát hiện giả mạo sâu sắc' và là nỗ lực tổng hợp của Facebook, Microsoft, liên minh Đối tác về AI và bảy trường đại học. Về cơ bản, rất nhiều quyền lực lớn của bộ não đứng đằng sau việc này.

Những người tham gia thử thách sẽ được sàng lọc và được cấp quyền truy cập vào cơ sở dữ liệu về hàng giả sâu, tất cả đều có các diễn viên chuyên nghiệp, đồng ý và sẽ cần phải tạo ra phần mềm có thể phân biệt chính xác chúng với các video bình thường.

Facebook đã phát hành một bài đăng trên blog vào tuần trước thông báo rằng họ đã dành 10 triệu đô la cho dự án, với các khoản tài trợ và giải thưởng được trao cho các chương trình hiệu quả nhất. Nếu bạn là một lập trình viên mới bắt đầu tìm cách ném chiếc mũ của mình vào sàn đấu, bạn sẽ phải đợi một chút - theo trang web Câu hỏi thường gặp chính thức, thử thách sẽ không bắt đầu cho đến cuối năm nay.

'Thách thức' này làm dấy lên một số lo ngại, đặc biệt là khi Facebook đã được thúc đẩy có lập trường cứng rắn hơn chống lại nội dung giả mạo sâu sắc vào đầu năm nay. Bill Posters đã tạo ra một video thuyết phục về việc Mark Zuckerberg tuyên bố một cách nham hiểm về quyền kiểm soát 'hàng tỷ dữ liệu của mọi người', điều này đã lan truyền mạnh mẽ. Mặc dù tuyên bố của Facebook về mong muốn giải quyết vấn đề giả mạo sâu là điều đáng ngưỡng mộ - hiện không có cách nào để phát hiện các phương pháp làm giả sâu trong video - chúng ta có lẽ nên cảnh giác với việc cung cấp cho Facebook thậm chí chi tiết cấp quyền cho công nghệ này là công nghệ chưa được thử nghiệm.

Thêm vào đó, việc khuyến khích công chúng chú ý đến cách tạo ra, phân phối và phát hiện những hành vi giả mạo sâu sắc có thể mở ra một ổ sâu và đẩy nhanh sự gia tăng của vấn đề hơn là làm chậm lại nó. Nếu nội dung video sâu sắc hơn đi vào diễn ngôn chính trị trên web, thì khả năng kể sự thật từ tiểu thuyết và tường thuật lịch sử nói chung, sẽ bị đe dọa sâu sắc.

Chúng ta sẽ phải chờ xem điều gì đến từ thách thức này, nhưng một điều tích cực là Facebook ít nhất là không sử dụng dữ liệu người dùng của mình. Việc sử dụng sự đồng ý của các diễn viên cho video là một bước đi đúng hướng của công ty và hy vọng chúng ta sẽ tôn trọng dữ liệu của mình hơn trong tương lai. Những hình ảnh đáng xấu hổ năm 2012 của tôi nên ở lại với tôi và tôi chỉ.

Khả Năng Tiếp Cận