केंड्रिक का नवीनतम एकल उन्नत डीपफेक तकनीक का उपयोग करता है

और कहाँ डीपफेक तकनीक का इस्तेमाल किया जा रहा है?

डीपफेक सामग्री एक लंबा सफर तय कर चुकी है और बेहतर या बदतर के लिए लगातार मुख्यधारा की ऑनलाइन सामग्री का हिस्सा बन रही है। एक उदाहरण टॉम क्रूज़ डीपफेक टिकटॉक अकाउंट है, जो हर तरह की परिस्थितियों में अभिनेता को दिखाते हुए शॉर्ट-फॉर्म वीडियो बनाता है।

उपयोगकर्ताओं को अक्सर मूर्ख बनाया जाता है, यह विश्वास करते हुए कि वास्तविक टॉम, जब यह वास्तव में क्रूज़ का चेहरा डिजिटल रूप से पोस्ट-प्रोडक्शन में लगाया गया एक समान दिखने वाला अभिनेता है।

हालांकि यह उदाहरण काफी हद तक हानिरहित है और समस्या पैदा करने का इरादा नहीं है, इसी तरह की डीपफेक तकनीक का उपयोग अधिक दुर्भावनापूर्ण तरीकों से किया जा रहा है।

डीपफेक एआई पोर्नोग्राफी विशेष चिंता का विषय है। सहमति के बिना स्पष्ट सामग्री बनाने और साझा करने की महत्वपूर्ण संभावना है, क्योंकि कई वयस्क वेबसाइटें ठीक से विनियमित नहीं होती हैं और शायद ही कभी सख्त दिशानिर्देशों का पालन करती हैं।

भ्रमित करने और गलत सूचना देने के लिए डीपफेक सामग्री भी बनाई गई है यूक्रेनी युद्ध पर जनता. सामग्री को ऑनलाइन साझा किया गया है जो दोनों देशों के नेताओं को 'ऐसी बातें' कहते हुए दिखाती है जो उन्होंने नहीं की। इसका परिणाम दूरगामी हो सकता है - और हम इसे और आगे बढ़ते हुए देख सकते हैं।

यह केवल दृश्य नहीं हैं जिन्हें या तो हेरफेर किया जा सकता है। ऑडियो डीपफेक कर्षण प्राप्त कर रहे हैं और कहीं अधिक सुलभ हैं। एक सेवा जिसे हमने थ्रेड ऑफिस में गड़बड़ करने की कोशिश की है, वह है UberDuck, जिसने हमें बनाने की अनुमति दी पूरे पुराने स्कूल एमिनेम गाने शुरुवात से।

एक अन्य उपकरण स्वचालित चेहरे बनाने में सक्षम है अकेले ऑडियो से, भी, जिसका अर्थ है कि हम जल्द ही पूरे डिजिटल लोगों को खरोंच से निर्मित देख सकते हैं जो कभी भी नहीं अस्तित्व में। मंच Replika चैट बॉट्स का उपयोग करके इसके साथ प्रयोग कर रहा है, जिससे मनुष्यों के साथ जुड़ने के लिए डिजिटल संवादी पात्र तैयार किए जा रहे हैं। साजिश के बारे में सोचो उसके और तुम दूर नहीं हो।

https://www.youtube.com/watch?v=QhBWRh-h71g&ab_channel=40Hertz

यह चिंता का विषय क्यों हो सकता है?

डीपफेक का नैतिक उपयोग वर्तमान में कुछ हद तक मिश्रित बैग है।

अभी हम इसकी तकनीक के नए या बनावटी कार्यान्वयन देख रहे हैं, लेकिन यह आसानी से अधिक सामान्य और बहुत जल्द पहचानना कठिन हो सकता है।

यह स्पष्ट सामग्री से लेकर भ्रामक राजनीतिक सामग्री तक, जैसा कि ऊपर उल्लेख किया गया है, कई समस्याएं लाता है। संभावित परिणामों की कल्पना करें यदि एक अविचलित विश्व नेता (जिनमें से कई प्रतीत होते हैं) परमाणु युद्ध की धमकी देने वाला एक डीपफेक वीडियो देखता है।

मैं यह नहीं कह रहा हूं कि केंड्रिक का वीडियो एक संकेत है कि हम एक बर्बाद रास्ते पर जा रहे हैं, लेकिन वीडियो कर देता है प्रदर्शित करता है कि गहरे नकली बनाना आसान होता जा रहा है और बहुत प्रभावी हैं। अगर केंड्रिक के शरीर पर कान्ये का चेहरा थोपना आपको हफ्तों तक दुःस्वप्न देने के लिए पर्याप्त नहीं है, तो मुझे नहीं पता कि क्या होगा।

अभी के लिए, केंड्रिक का एल्बम लाएँ - इसमें कोई संदेह नहीं है कि यह एक क्लासिक होगा, है ना?