Công nghệ deepfake đang được sử dụng ở đâu khác?
Nội dung Deepfake đã đi một chặng đường dài và đang dần trở thành một phần của nội dung trực tuyến chính thống, dù tốt hơn hay xấu hơn. Một ví dụ là tài khoản Deepfake TikTok của Tom Cruise, tài khoản này tạo ra các video dạng ngắn thể hiện nam diễn viên trong mọi tình huống một cách thuyết phục.
Người dùng thường bị lừa, tin rằng đó là thực Tom, khi đó thực sự là một nam diễn viên trông giống với khuôn mặt của Cruise được kỹ thuật số hóa trong quá trình hậu sản xuất.
Mặc dù ví dụ này phần lớn là vô hại và không nhằm mục đích gây ra vấn đề, nhưng công nghệ deepfake tương tự đang được sử dụng theo những cách độc hại hơn.
Nội dung khiêu dâm Deepfake AI đang được quan tâm đặc biệt. Có nhiều khả năng tài liệu khiêu dâm được tạo và chia sẻ mà không có sự đồng ý, vì nhiều trang web người lớn không được quản lý thích hợp và hiếm khi tuân theo các nguyên tắc nghiêm ngặt.
Tài liệu Deepfake cũng đã được tạo ra để gây nhầm lẫn và thông tin sai công chúng về cuộc chiến Ukraine. Nội dung đã được chia sẻ trực tuyến cho thấy các nhà lãnh đạo của cả hai quốc gia 'nói' những điều họ không làm. Hệ quả của điều này có thể đạt đến tầm xa - và chúng ta có thể sẽ thấy nhiều điều về nó trong tương lai.
Nó không chỉ là hình ảnh có thể được điều khiển. Âm thanh sâu lắng đang đạt được sức hút và dễ tiếp cận hơn. Một dịch vụ mà chúng tôi đã thử gây rối trong văn phòng Thred là UberDuck, cho phép chúng tôi tạo toàn bộ bài hát Eminem trường cũ từ đầu.
Một công cụ khác có thể tạo khuôn mặt tự động chỉ từ âm thanh, điều đó có nghĩa là chúng ta có thể sớm thấy toàn bộ những người kỹ thuật số được xây dựng từ đầu, những người thậm chí không bao giờ tồn tại. Nền tảng Trả lời đang thử nghiệm điều này bằng cách sử dụng bot trò chuyện, tạo ra các ký tự trò chuyện kỹ thuật số để con người tương tác. Nghĩ về âm mưu để Cô và bạn không còn xa nữa.
https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz
Tại sao điều này có thể được liên quan?
Việc sử dụng deepfakes về mặt đạo đức hiện đang có phần hỗn tạp.
Hiện tại, chúng ta đang thấy một loạt các triển khai mới lạ hoặc phô trương về công nghệ của nó, nhưng nó có thể dễ dàng trở nên phổ biến hơn và khó xác định hơn rất sớm.
Điều này mang đến một loạt các vấn đề như đã đề cập ở trên, từ nội dung rõ ràng đến nội dung chính trị gây hiểu lầm. Hãy tưởng tượng những phân nhánh tiềm tàng nếu một nhà lãnh đạo thế giới không có gì nổi bật (trong số đó dường như có nhiều người) nhìn thấy một đoạn video giả mạo đe dọa chiến tranh hạt nhân.
Tôi không nói video của Kendrick là dấu hiệu cho thấy chúng ta đang đi trên con đường diệt vong, nhưng video làm chứng minh rằng những trò giả mạo sâu sắc đang trở nên dễ tạo hơn và rất hiệu quả. Nếu việc nhìn khuôn mặt của Kanye trên cơ thể Kendricks không đủ để bạn tiếp thêm nhiên liệu cho cơn ác mộng trong nhiều tuần, tôi không biết sẽ thế nào.
Bây giờ, hãy mang theo album của Kendrick - chắc chắn nó sẽ là một tác phẩm kinh điển, đúng không?