ओपनएआई एआई-जनरेटेड टेक्स्ट के लिए डिटेक्टर लॉन्च कर सकता है

ओपनएआई का दावा है कि उसके पास एक ऐसा उपकरण है जो ऐसे उदाहरणों का पता लगाने में सक्षम है जहां एआई टेक्स्ट जनरेटर का इस्तेमाल किया गया है। क्या यह कभी दिन की रोशनी देख पाएगा?

ओपनएआई ने चैटजीपीटी द्वारा लिखे गए लेखन को पहचानने के लिए एक चतुर उपकरण तैयार किया है, लेकिन वे इसे दुनिया के सामने लाने के बारे में दोबारा सोच रहे हैं - क्योंकि, अपने पैर पर खुद ही कुल्हाड़ी क्यों मारना?

यह एआई जासूस उनके पिछले एआई टेक्स्ट क्लासिफायर के निधन का अनुसरण करता है, जो इसकी निष्पादन समीक्षा में असफल रहा और कई प्रयोग विफल रहे। हालाँकि, अभी-अभी शुरू हुई ओपनएआई 'अत्यधिक सटीक' होने का दावा कर रही है। पाठ वॉटरमार्किंग विधि इसे जनता के लिए जारी करने के पक्ष और विपक्ष पर विचार करते हुए।

दुविधा? उन्हें चिंता है कि यह उपकरण गैर-देशी अंग्रेजी बोलने वालों को गलत तरीके से कलंकित कर सकता है जो लेखन सहायता के लिए एआई का उपयोग करते हैं। कम नेक (और अधिक संभावित) स्पष्टीकरण यह है कि कंपनी के वरिष्ठों को पता होगा कि टेक्स्ट-जनरेशन टूल की गुप्त प्रकृति उन्हें बढ़ने में मदद करती है। लोग आलसी हैं और इसके लिए बाहर आने की कल्पना नहीं करते हैं।

पता चला है @OpenAI चैटजीपीटी लेखन को पकड़ने के लिए एक लगभग सही उपकरण विकसित किया गया है, और यह लगभग एक साल से रिप करने के लिए तैयार है, @WSJ.
…तो फिर आप सभी ने अगस्त 2023 के ब्लॉग पोस्ट में एआई डिटेक्टरों को एक खोया हुआ मामला क्यों कहा? pic.twitter.com/6O7kuR1pdz

— मौली लिबरगॉल (@LiebergallMolly) अगस्त 7, 2024

इसके अलावा, भले ही OpenAI इसे जारी करना चाहे, कोई भी उपकरण पूरी तरह से सुरक्षित नहीं हो सकता। चालाक उपयोगकर्ता टेक्स्ट का अनुवाद करके, किसी अन्य AI के साथ इसे फिर से लिखकर या फिर बाद में उन्हें हटाने से पहले विशेष वर्णों को छिड़ककर पहचान से बच सकते हैं।

मेटाडेटा में शुरुआती प्रयोग कहीं ज़्यादा विश्वसनीय हैं, क्योंकि कोड में संशोधन के बाद भी AI के इस्तेमाल के मज़बूत संकेतक मौजूद रहेंगे। शायद Microsoft के स्वामित्व वाली फ़र्म सिर्फ़ मन की शांति के लिए रिवर्स-इंजीनियरिंग कर रही है।

जैसे-जैसे कंटेंट की दुनिया में एआई का प्रभाव लगातार बढ़ता जा रहा है, वे खुद जानना चाहेंगे कि उनकी तकनीक का इस्तेमाल कहां किया जा रहा है। जहाँ तक सार्वजनिक रिलीज़ की बात है... तो निश्चित रूप से वे झांसा दे रहे हैं।

जबकि पाठ पहचान अभी ठंडे बस्ते में है, ओपनएआई एआई-जनित दृश्य-श्रव्य सामग्री की पहचान के लिए योजनाएं बना रहा है, जो इस स्तर पर अधिक स्पष्ट जोखिम प्रस्तुत करता है।

वे C2PA मेटाडेटा बैंडवैगन पर कूद रहे हैं, जो संपादन से बचने वाली सामग्री के लिए एक मूल टैग जोड़ता है और नकली प्रामाणिकता को कठिन बनाता है। TikTok और Adobe उन लोगों में से हैं जो समान सुरक्षा उपायों को अपनाते हैं।

मुझे इस बात से नफरत है कि अब जब भी मैं कोई छवि (फोटो, कला, आदि) देखता हूं, तो मैंने स्वचालित रूप से इसे एआई के संकेतों के लिए स्कैन करने की आदत विकसित कर ली है - अतिरिक्त उंगलियां, ऐसी चीजें जो समझ में नहीं आती हैं, वह अत्यधिक चमकदार/नकली एहसास, आदि। काश मुझे यह देखने के लिए सतर्क नहीं रहना पड़ता कि यह नकली है या नहीं।

— सोरेल मामी 🇧🇧✨ (@xcarliebimx) फ़रवरी 16, 2024

DALL-E, OpenAI's छवि जनरेटर, जल्द ही C2PA मेटाडेटा एम्बेड करेगा जैसा कि उनका आगामी वीडियो जनरेटर होगा 'सोरा' विचार यह है कि लोग अभी भी भ्रामक सामग्री और प्रचार बना सकते हैं, लेकिन वे मेटाडेटा द्वारा दिखाए गए खतरे को नहीं छिपा सकते।

ओपनएआई ने छवियों के लिए छेड़छाड़-रोधी वॉटरमार्किंग समाधान की भी घोषणा की, अनुसंधान प्रयोगशालाओं और पत्रकारिता गैर-लाभकारी संगठनों को इसे आजमाने के लिए आमंत्रित किया। यह उपकरण DALL-E 98 छवियों की पहचान करने में 3% सफलता दर का दावा करता है, जिसमें न्यूनतम गलत सकारात्मक दर है।

अंत में, ऑडियो डिटेक्शन ओपनएआई के रडार पर है, उनके नए 'वॉयस इंजन' के साथ कथित तौर पर सबसे विश्वसनीय नमूनों से भी एआई का पता लगाने में सक्षम है। इन जैसे उपकरणों के साथ, आप मान लेंगे कि स्पॉटिफ़ाई पर नकली ड्रेक ट्रैक आने का अंत हो गया है।

ओपनएआई कंपनियों और व्यवसायों को अपने एआई टेक्स्ट-डिटेक्टर पर हाथ डालने देने के लिए अनिच्छुक है। फिर भी, यह महसूस करता है कि एआई द्वारा ऑनलाइन मानव-निर्मित सामग्री को पार करने से पहले डिजिटल परिदृश्य को सुरक्षित करने की आवश्यकता है।