Khi cuộc bầu cử tổng thống Hoa Kỳ năm 2020 sắp kết thúc, các trang mạng xã hội đang phải chuẩn bị cho cuộc tấn công không thể tránh khỏi của diễn ngôn chính trị và việc phát hiện nội dung phỉ báng là rất cao trong chương trình nghị sự.
Nếu bạn luôn cập nhật Thred, thì điều này chắc chắn sẽ không là lần đầu tiên bạn nghe nói về deepfakes. Công nghệ thao túng khuôn mặt AI này bắt đầu từ các meme vô hại của Nicholas Cage vài năm trước, nhưng đã dần phát triển thành một vũ khí trực tuyến nghiêm trọng có thể đe dọa sự toàn vẹn của nền dân chủ hiện đại.
Ban đầu, nó được sử dụng để đưa vào các subreddits với những trò bắt chước người nổi tiếng gây cười. Nhanh chóng công nghệ bắt đầu được triển khai vào các bài phát biểu của tổng thống, các cuộc vận động tranh cử và tuyên truyền chính trị trở thành lan truyền trực tuyến. Đột nhiên, deepfakes có thể được sử dụng để truyền bá thông tin sai lệch trên quy mô toàn cầu, hiển thị các số liệu thực tế công bố những điều họ chưa bao giờ thực sự nói. Bằng chứng video đáng tin cậy nhanh chóng trở thành dĩ vãng - và mạng xã hội đã phải theo kịp.
Cho dù chúng ta đang nói về các ứng dụng mới trên điện thoại hay nhiều phần mềm bí mật hơn, thì deepfakes ngày càng trở nên dễ tạo và khó bị phát hiện hơn. Các trang web có nhiều khả năng chứa nội dung như vậy, chẳng hạn như Facebook, giờ đây có trách nhiệm cập nhật những tiến bộ mới trong deepfakes để đảm bảo họ không trực tuyến.
Sau hậu quả của hai vụ việc nổi tiếng trên nền tảng của nó - việc bôi nhọ diễn giả của đảng Dân chủ Nancy Pelosi và Mr Zuckerberg Facebook đã kêu gọi người dùng vào cuối năm 2019 để giúp tăng cường các nỗ lực phát hiện giả mạo sâu sắc của mình thông qua một 'thử thách' công khai.
Những người tham gia được tặng 100,000 clip ngắn có cảnh quay của 3000 diễn viên do Facebook thuê. Từ nhóm này, những người tham gia được giao nhiệm vụ xác định những mẫu nào đã bị Facebook giả mạo bằng cách sử dụng các thuật toán phát hiện tự động tùy chỉnh của riêng họ.
Gần một năm trôi qua, chúng tôi cuối cùng đã có các kết quả từ các bài kiểm tra này được ghi lại. 2000 người tham gia đã đưa các thuật toán của họ vào thử nghiệm (những người đăng ký hầu hết đến từ ngành công nghệ hoặc có nền tảng học thuật) và mẫu thành công nhất đảm bảo tỷ lệ phát hiện ấn tượng là 82%. Xem xét vô số các khai thác kỹ thuật số ngày nay trở thành giả mạo sâu sắc; làm mờ, sửa đổi tốc độ khung hình, lớp phủ, chỉ để kể tên một vài ... bạn phải nói rằng đây là một sự trở lại thực sự đầy hứa hẹn.
Người chiến thắng trong thử thách, Selim Seferbekov, được thưởng 500,000 đô la và sau đó được giao nhiệm vụ phân tích thuật toán chiến thắng của mình với tập dữ liệu 'hộp đen' chứa đầy các hình thức lừa dối giả sâu sắc phức tạp nhất mà các chuyên gia AI biết. Sau khi điểm số được tổng kết và kết hợp với các kết quả trước đó, điểm trung bình tổng thể được đưa ra ở chỉ 65%.
Những kết quả này có phải là mối quan tâm đối với Facebook?
Nghiên cứu này nhấn mạnh mức độ khó thực sự để phát hiện một con sâu trong tự nhiên. Xét cho cùng, bản chất thích ứng của AI có nghĩa là ngay sau khi các hoạt động khai thác hiện có bị đóng lại, các khai thác mới có thể xuất hiện nhanh chóng và nó trở lại bình thường. Đó là một trò chơi mèo và chuột không bao giờ kết thúc.
Tuy nhiên, các nhà nghiên cứu của Facebook tự tin rằng dữ liệu thu thập được từ thử nghiệm này sẽ chứng minh vô giá trong việc củng cố phần mềm phòng ngừa của riêng họ hiện đang được phát triển. Facebook cũng đang có kế hoạch phát hành mã nguồn cho các thuật toán thành công nhất - bao gồm cả của Seferbekov - để hỗ trợ các nhà nghiên cứu khác phát hiện các video giả trước khi chúng lan truyền.
Hiện tại, Facebook đang chơi nó một cách thông minh và đang giữ bí mật phần mềm phát hiện của riêng mình để ngăn chặn bất kỳ hình thức kỹ thuật đảo ngược nào bị cắt xén vào năm 2020. Giám đốc công nghệ mike schroepfer tuyên bố rằng hiện tại deepfakes 'không phải là vấn đề lớn' với Facebook, nhưng anh ấy và nhóm của mình đang làm việc không mệt mỏi để tránh bị 'bó chân' trong quá trình chuẩn bị cho cuộc bầu cử Mỹ vào tháng XNUMX này.
Hiện tại, vẫn còn phải xem liệu chúng ta có thực sự được trang bị để đối phó với làn sóng giả mạo sâu sắc tiếp theo hay không. Nhưng bạn có thể đảm bảo một điều, nó is sắp tới.
Tôi là Jamie (Anh ấy / Anh ấy), Phó Tổng biên tập và Nhà văn cấp cao tại Thred. Cập nhật thông tin cập nhật trên mạng xã hội và công nghệ mang tính cách mạng là sở trường của tôi, nhưng khi rời khỏi bàn phím, bạn có thể sẽ thấy tôi bị cuốn vào một vụ nổ băng Tango lớn trong bộ phim kinh dị tầm thường mới nhất. theo tôi trên Twitter, LinkedIn và gửi cho tôi một số ý tưởng / phản hồi qua e-mail.
Lớn hơn tám lần so với kỷ lục trước đó, Microsoft vừa mua lượng năng lượng tái tạo lớn nhất trong lịch sử cho một thực thể doanh nghiệp trong một thương vụ. Điều này sẽ đảm bảo các kế hoạch tiêu cực carbon của nó không bị chệch hướng bởi các dự án AI nâng cấp quy mô. Có một vài hằng số trong cuộc sống: cái chết, thuế và Microsoft đang giảm bớt sức nặng của mình bằng cách thực hiện các thương vụ mua lại tài chính kỷ lục. Ít nhất, thông tin mới nhất là một tín hiệu tích cực cho hành tinh này...
Một bài hát mới có tên 'Phần khó nhất' của nghệ sĩ Washed Out được tạo hoàn toàn bằng Sora của OpenAI, giúp chuyển đổi lời nhắc văn bản thành video thực tế. Lần đầu tiên thuộc loại này, nó vừa ấn tượng vừa đáng sợ, tùy thuộc vào vị trí bạn đứng. Có vẻ như mỗi tuần chúng tôi đều viết về AI. Việc sử dụng lời nhắc bằng văn bản để tạo nội dung được tạo tự động đã trở nên phổ biến trong hai năm qua. Nơi từng có vẻ như...
Trong nỗ lực kết hợp hơn nữa các xu hướng AI mới nổi với thực tế, một cuộc thi sắc đẹp mới đã được công bố dành cho những người có ảnh hưởng về AI. Bất chấp sự phấn khích của những người tổ chức sự kiện, các nhà phê bình vẫn cảnh báo chúng ta nên tiếp cận một cách thận trọng. Nghĩ rằng thế giới của những người có ảnh hưởng AI không thể kỳ lạ hơn? Hmm.. hãy nghĩ lại.
fanvue, một nền tảng giúp người sáng tạo kỹ thuật số tăng cường mức độ tương tác bằng cách sử dụng tin nhắn AI, ghi chú thoại và phân tích, vừa công bố...
Hôm qua, trong một loạt tweet, nhà hoạt động môi trường Thế hệ Z đã coi niềm tin vào 'các giải pháp viên đạn bạc, sáng bóng' cho cuộc khủng hoảng là hình thức phủ nhận khí hậu ngấm ngầm nhất. Điều này đã vấp phải phản ứng dữ dội không chỉ từ người dùng mà còn cả CEO của Tesla và chính X, Elon Musk. Hôm qua, nhà hoạt động môi trường Gen Z Clover Hogan, được biết đến với phong trào giáo dục phi lợi nhuận Force of Nature, ...
Chúng tôi sử dụng cookie để đảm bảo rằng chúng tôi mang đến cho bạn trải nghiệm tốt nhất trên trang web của chúng tôi. Nếu bạn đồng ý sử dụng trang web này, chúng tôi sẽ cho rằng bạn hài lòng với nó! CHÍNH SÁCH BẢO MẬT
Đồng ý