'Thử thách phát hiện giả mạo sâu' của Facebook trả về dữ liệu đáng lo ngại

Facebook giải quyết deepfakes như thế nào?

Sau hậu quả của hai vụ việc nổi tiếng trên nền tảng của nó - việc bôi nhọ diễn giả của đảng Dân chủ Nancy Pelosi và Mr Zuckerberg Facebook đã kêu gọi người dùng vào cuối năm 2019 để giúp tăng cường các nỗ lực phát hiện giả mạo sâu sắc của mình thông qua một 'thử thách' công khai.

Những người tham gia được tặng 100,000 clip ngắn có cảnh quay của 3000 diễn viên do Facebook thuê. Từ nhóm này, những người tham gia được giao nhiệm vụ xác định những mẫu nào đã bị Facebook giả mạo bằng cách sử dụng các thuật toán phát hiện tự động tùy chỉnh của riêng họ.

Gần một năm trôi qua, chúng tôi cuối cùng đã có các kết quả từ các bài kiểm tra này được ghi lại. 2000 người tham gia đã đưa các thuật toán của họ vào thử nghiệm (những người đăng ký hầu hết đến từ ngành công nghệ hoặc có nền tảng học thuật) và mẫu thành công nhất đảm bảo tỷ lệ phát hiện ấn tượng là 82%. Xem xét vô số các khai thác kỹ thuật số ngày nay trở thành giả mạo sâu sắc; làm mờ, sửa đổi tốc độ khung hình, lớp phủ, chỉ để kể tên một vài ... bạn phải nói rằng đây là một sự trở lại thực sự đầy hứa hẹn.

Người chiến thắng trong thử thách, Selim Seferbekov, được thưởng 500,000 đô la và sau đó được giao nhiệm vụ phân tích thuật toán chiến thắng của mình với tập dữ liệu 'hộp đen' chứa đầy các hình thức lừa dối giả sâu sắc phức tạp nhất mà các chuyên gia AI biết. Sau khi điểm số được tổng kết và kết hợp với các kết quả trước đó, điểm trung bình tổng thể được đưa ra ở chỉ 65%.

Những kết quả này có phải là mối quan tâm đối với Facebook?

Nghiên cứu này nhấn mạnh mức độ khó thực sự để phát hiện một con sâu trong tự nhiên. Xét cho cùng, bản chất thích ứng của AI có nghĩa là ngay sau khi các hoạt động khai thác hiện có bị đóng lại, các khai thác mới có thể xuất hiện nhanh chóng và nó trở lại bình thường. Đó là một trò chơi mèo và chuột không bao giờ kết thúc.

Tuy nhiên, các nhà nghiên cứu của Facebook tự tin rằng dữ liệu thu thập được từ thử nghiệm này sẽ chứng minh vô giá trong việc củng cố phần mềm phòng ngừa của riêng họ hiện đang được phát triển. Facebook cũng đang có kế hoạch phát hành mã nguồn cho các thuật toán thành công nhất - bao gồm cả của Seferbekov - để hỗ trợ các nhà nghiên cứu khác phát hiện các video giả trước khi chúng lan truyền.

Hiện tại, Facebook đang chơi nó một cách thông minh và đang giữ bí mật phần mềm phát hiện của riêng mình để ngăn chặn bất kỳ hình thức kỹ thuật đảo ngược nào bị cắt xén vào năm 2020. Giám đốc công nghệ mike schroepfer tuyên bố rằng hiện tại deepfakes 'không phải là vấn đề lớn' với Facebook, nhưng anh ấy và nhóm của mình đang làm việc không mệt mỏi để tránh bị 'bó chân' trong quá trình chuẩn bị cho cuộc bầu cử Mỹ vào tháng XNUMX này.

Hiện tại, vẫn còn phải xem liệu chúng ta có thực sự được trang bị để đối phó với làn sóng giả mạo sâu sắc tiếp theo hay không. Nhưng bạn có thể đảm bảo một điều, nó is sắp tới.