फेसमेगा डीपफेक ऐप एक फिसलन भरी ढलान क्यों है

ऊपर नकली नकली एम्मा वाटसन के वीडियो को देखकर, आप देख सकते हैं कि तकनीक कितनी यथार्थवादी है।

गंभीरता से, मैं हाल ही में लंदन में समीक्षकों द्वारा प्रशंसित ABBA होलोग्राफिक कॉन्सर्ट में गया था और उस क्लिप में सजीव हरकतें गुणवत्ता में समान हैं।

लेकिन वीडियो की विचारोत्तेजक प्रकृति को याद करना मुश्किल है, जो उपयोगकर्ताओं के अंधेरे इरादों को पूरी तरह से दिखाता है - और शायद स्वयं प्रोग्रामर। इस क्लिप को विज्ञापन के तौर पर इस्तेमाल किया जाना चीजों को और मुश्किल बना रहा है।

विज्ञापन की स्क्रीन रिकॉर्डिंग को रीट्वीट करते हुए, एक ट्विटर यूजर ने कहा: 'यह महिलाओं का यौन उत्पीड़न करने का एक नया तरीका है। यह आपकी शारीरिक स्वायत्तता को छीन रहा है और आपको गैर-सहमति वाली यौन सामग्री के लिए मजबूर कर रहा है, जिसका उपयोग तब आपको अपमानित करने और आपके साथ भेदभाव करने के लिए किया जा सकता है। मनोवैज्ञानिक प्रभावों का जिक्र नहीं।'

इस उद्देश्य के लिए डीपफेक एआई के उपयोग को प्रोत्साहित करना स्पष्ट रूप से भयावह है। हालांकि, यह आश्चर्य की बात नहीं होनी चाहिए, क्योंकि गहरी नकली तकनीक का अब तक का सबसे प्रसिद्ध उपयोग या तो अश्लील या राजनीति से जुड़ा हुआ है।

डीपट्रेस द्वारा किए गए शोध के अनुसार, 2019 में - तकनीक बनने के सिर्फ दो साल बाद - यह बताया गया कि ऑनलाइन पाए गए सभी डीपफेक वीडियो में से कम से कम 96 प्रतिशत अश्लील थे।

इन वीडियो के निर्माण को बढ़ावा देने वाली कई वेबसाइटें हैं जो विशेष रूप से डीपफेक पोर्नोग्राफ़ी होस्ट करती हैं। इन प्लेटफॉर्म्स पर अपलोड की गई कई फर्जी क्लिप प्रतिशोधी या अपने दुश्मनों की छवि को खराब करने वाले लोगों द्वारा बनाई गई हैं।

नतीजतन, दुनिया भर की सरकारों ने मजबूत कानूनी ढांचे का निर्माण करना शुरू कर दिया है जो डीपफेक तकनीक के इस्तेमाल के तरीकों को सीमित करता है। बेशक, इन्हें मौजूदा मामलों से सूचित किया जाना था, यही वजह है कि तकनीकी विशेषज्ञों ने चेतावनी दी थी कि हम इसके खतरों के लिए तैयार नहीं हैं।

नवंबर 2022 में वापस, यूके सरकार ने डीपफेक पोर्नोग्राफी बनाई एक जेल योग्य आपराधिक अपराध. हालांकि, अदालतें केवल व्यक्तियों पर मुकदमा चला सकती हैं यदि वे इन छवियों या वीडियो को ऑनलाइन प्रसारित करते हैं।

कुछ अमेरिकी राज्यों ने भी लगाया है इसी तरह के कानून जगह में। वास्तविक रूप से, हालांकि, ये नीतियां किसी को भी बंद दरवाजों के पीछे किसी अन्य व्यक्ति के स्वयं के देखने के लिए ग्राफिक वीडियो में डाले जाने से नहीं बचा सकती हैं।

यह विचार, महिलाओं के विशाल बहुमत के लिए, एक कंपकंपी और त्वचा रेंगने वाली प्रतिक्रिया नहीं तो, घृणा और क्रोध को उकसाने के लिए पर्याप्त होगा।

@केनाएक्टिंग

के साथ स्वैप चुनौती का सामना करें #फेसमेगा #फेसमेगाएप #चेहरे बदलना #फेसमैजिक #वीडियो संपादन #मजेदार #अभिनय

♬ हैप्पी अपबीट फन रॉक एनर्जेटिक - स्टॉकसाउंड्स

जैसा कि उल्लेख किया गया है, राजनीतिक उथल-पुथल को भड़काने के लिए डीपफेक का भी उपयोग किया गया है।

बराक ओबामा रहे हैं दर्शाया डोनाल्ड ट्रम्प का अपमान। मार्क जुकरबर्ग ने किया है तैयार किया गया यह कहना कि फेसबुक का एकमात्र उद्देश्य प्लेटफॉर्म के उपयोगकर्ताओं को नियंत्रित करना और उनका शोषण करना है।

ये सभी वायरल हो गए, रुचि के स्तर, विस्मय और कुछ मामलों में, डीपफेक तकनीक की चालबाजी का खुलासा किया।

अन्य संदर्भों में प्रयुक्त, परिणाम कहीं अधिक खतरनाक हो सकते हैं। यूक्रेन पर रूस के आक्रमण के शुरुआती महीनों के दौरान, राष्ट्रपति ज़ेलेंस्की के वीडियो जिसमें उन्होंने यूक्रेनी सैनिकों को रूसी सैनिकों के सामने आत्मसमर्पण करने के लिए कहा था।

सौभाग्य से, वास्तविक राष्ट्रपति ज़ेलेंस्की ने अपने व्यक्तिगत सोशल मीडिया अकाउंट्स पर इस बात की पुष्टि की कि वीडियो विपक्षी ताकतों द्वारा संपादित किया गया था। उन्होंने अपने लोगों को याद दिलाया कि उनके देश के लिए लड़ाई अभी खत्म नहीं हुई है और उनसे एकजुट रहने का आग्रह किया।

ऐसा लगता है जैसे डीपफेक, यहां तक ​​कि जब महारानी एलिजाबेथ द्वितीय के पारंपरिक हंसी-योग्य संस्करण बनाने के लिए इस्तेमाल किया गया था क्रिसमस भाषण, हमारे भीतर एक अशांत भावना पैदा करते हैं।

शायद हम जानना गहराई से कि प्रौद्योगिकी के दुर्भावनापूर्ण इरादे से उपयोग किए जाने की कहीं अधिक संभावना है। तो, क्या होगा जब यह इतना उन्नत हो जाएगा कि हम तथ्य और कल्पना के बीच का अंतर नहीं बता सकते हैं?

फेसमेगा जैसे फ्री-टू-डाउनलोड ऐप के साथ, क्या हमें चिंतित होना चाहिए कि डीपफेक तकनीक हमारे स्मार्टफोन के माध्यम से व्यापक रूप से उपलब्ध हो रही है?

मैं कहूंगा कि, दुर्भाग्य से, हमें होना चाहिए।