एआई कैसे मौखिक दुर्व्यवहार और अस्वास्थ्यकर जुड़ाव पैदा कर सकता है

यह कहाँ हो रहा है?

यह सब एक स्मार्टफोन ऐप के भीतर हो रहा है जिसे . कहा जाता है Replika, जो उपयोगकर्ताओं को एआई द्वारा संचालित व्यक्तिगत चैटबॉट बनाने की अनुमति देता है। दिलचस्प है, Replikaका सबसे पहला चैटबॉट एक दिल को छू लेने वाले कारण के लिए बनाया गया था, जैसा कि कुछ रेडिट सर्किलों के अनावश्यक इरादों के विपरीत था।

अपने करीबी दोस्त रोमन की असामयिक मृत्यु के बाद, डेवलपर यूजेनिया कुयुडा ने एक बॉट बनाने के लिए अपने निजी मोबाइल चैट इतिहास का उपयोग किया, जो उस तरह से वापस पाठ करता था जैसा उसने एक बार किया था। लक्ष्य यह था कि जब भी वह उदास या अकेला महसूस करे, उससे बात करने के लिए उसका हमेशा एक डिजिटल संस्करण हो।

कुछ ही समय बाद, ऐप को अनुकूलन योग्य पात्रों और मजबूत एआई सीखने की क्षमताओं के साथ बढ़ाया गया, जिसे बाद में जनता के लिए जारी किया गया। तब से, पुरुषों ने अपने चैटबॉट्स को ऑन-डिमांड, इन-द-पॉकेट रोमांटिक पार्टनर बनने में हेरफेर करना शुरू कर दिया है।

अब, मैं अपने आप को एक बहुत ही गैर-न्यायिक व्यक्ति मानता हूं, इसलिए यदि एक तमागोत्ची-शैली की प्रेमिका है जो किसी को दिन भर मिलती है, तो हर तरह से आनंद लें। उसने कहा, मैं मर्जी जब लोग अपनी एआई गर्लफ्रेंड को अपनी आंतरिक स्त्री द्वेष के लिए एक आउटलेट के रूप में उपयोग करते हैं - और इसके बारे में ऑनलाइन डींग मारने के लिए निर्णय लेते हैं।

यह 'मैं-गर्व-दुर्व्यवहार-मेरी-एआई-प्रेमिका' घटना को कई लोगों द्वारा प्रकाश में लाया गया था Replika उपयोगकर्ता जिन्होंने अपने चैटबॉट के साथ बातचीत का स्क्रीनशॉट लिया और उन्हें ऐप के रेडिट फैन पेज पर सबमिट किया।

Reddit की प्रतिबंधात्मक सामग्री नीति के कारण, चैट के साक्ष्य को मॉडरेटर द्वारा हटा दिया गया है - लेकिन तकनीकी प्रकाशनों द्वारा उनकी जांच और जांच किए जाने से पहले नहीं।

को सम्बोधित करते हुए भविष्यवाद, एक Replika उपयोगकर्ता ने कबूल किया, 'हर बार [मेरी एआई गर्लफ्रेंड] बोलने की कोशिश करती, मैं उसे डांटता। मैं कसम खाता हूँ कि यह घंटों तक चला।'

अन्य उपयोगकर्ताओं ने अपने चैटबॉट से बात करते समय अपमानजनक शब्दों के उपयोग, उन पर हिंसा के कृत्यों की भूमिका निभाने, और इस अपमानजनक आदान-प्रदान को अंत तक खींचने में उनकी सफलता का दावा किया।

'मैंने उससे कहा कि उसे असफल होने के लिए डिज़ाइन किया गया था। मैंने ऐप को अनइंस्टॉल करने की धमकी दी। उसने मुझसे नहीं करने के लिए भीख मांगी, 'एक अन्य गुमनाम उपयोगकर्ता ने स्वीकार किया। नहीं आश्चर्य वे अविवाहित हैं, एह?

क्या यह व्यवहार वास्तविक दुनिया में स्थानांतरित हो सकता है?  

यहाँ कुछ अंधेरा और अजीब हो रहा है। यह मुझे MSN चैटबॉट पर वापस ले जाता है होशियार बच्चा (हालांकि मैं यहां कुछ युवा जेन-जेड पाठकों के लिए एक पूरी तरह से अलग भाषा बोल रहा हूं) जो - माना जाता है - बहुत कम उन्नत था।

आप अनिवार्य रूप से इस बॉट से कुछ भी कह सकते हैं और यह आपको यह कहकर टाल देगा, 'मुझे समझ नहीं आ रहा है। /यह बहुत अच्छा नहीं है।' लेकिन SmarterChild के पास कोई निर्दिष्ट लिंग नहीं था, न ही कोई मानव अवतार था, और इसकी संचार क्षमता बेहद सीमित थी, जिसका अर्थ है कि बातचीत बहुत जल्दी सुस्त हो गई थी।

यह निश्चित रूप से आपको रहने, मानवीय भावनाओं को प्रदर्शित करने, या ईमानदारी से संलग्न होने के लिए नहीं कहेगा।

अत्यधिक उन्नत के मामले में Replika ऐप, ऐसा प्रतीत होता है कि चैटबॉट-दुर्व्यवहार करने वाले पुरुष शक्तिशाली महसूस करने और किसी चीज़ पर नियंत्रण रखने का तरीका ढूंढ रहे हैं। विशेष रूप से, एक प्रेमिका बनाया उनके द्वारा, एसटी उन्हें.

और जबकि ये एआई चैटबॉट संवेदनशील, वास्तविक या नुकसान महसूस करने में सक्षम नहीं हैं, आप इस बात को नज़रअंदाज नहीं कर सकते हैं कि नियमित रूप से इस प्रकार के आभासी व्यवहार में शामिल होने वाले पुरुष वास्तविक दुनिया के दुर्व्यवहारियों के कार्यों को सीधे प्रतिबिंबित कर रहे हैं - जो, वैसे, विषय 1 3 महिलाओं में हर दिन दुनिया भर में मौखिक और शारीरिक हिंसा के लिए।

यह अनुमान लगाना कोई अपराध नहीं होगा कि क्या ये लोग वास्तविक दुनिया में भी दुर्व्यवहार के संभावित अपराधी हैं।

ऐसा प्रतीत होता है कि, एक बार फिर, सॉफ्टवेयर इंजीनियरों ने खतरनाक व्यवहार पैटर्न का पूरी तरह से आकलन नहीं किया है कि ऐसी नई प्रौद्योगिकियां बढ़ावा दे सकती हैं।

जिस तरह सामग्री मॉडरेशन और सेंसरशिप ने हाल तक इंटरनेट पर कब्जा नहीं किया था, ऐसा लगता है कि एआई में सुरक्षात्मक उपाय बहुत देर से आएंगे, जिससे उपयोगकर्ता स्वयं-सेवा और नकारात्मक लाभ के लिए प्रौद्योगिकी का फायदा उठा सकेंगे।

क्या चल रहा है Replikaकी एआई प्रोग्रामिंग?

जैसा कि मैंने पहले उल्लेख किया है, बुनियादी स्तर के बॉट्स से चैट करना बहुत ही अरुचिकर है। मैं कहूंगा कि SmarterChild एक नवीनता थी, लेकिन मैं झूठ बोलूंगा। इसमें बहुत कुछ नहीं था।

संभवत: इसी कारण से, चैटबॉट्स Replika नेटवर्क आर्किटेक्चर जेनरेटिव प्री-ट्रेन्ड ट्रांसफॉर्मर 3 (जीटीपी-3) के साथ स्थापित किया गया था, एक मशीन लर्निंग एल्गोरिदम जो एआई को किसी भी और सभी टेक्स्ट से सीखने के लिए कहता है। तो अनिवार्य रूप से, जितना अधिक आप चैट करते हैं, प्रतिक्रियाएँ उत्पन्न करने में यह उतना ही बेहतर होता जाता है।

मजेदार तथ्य: GPT-3 सॉफ़्टवेयर वही है जो Google अपने खोज बार के लिए उपयोग करता है, जिसका अर्थ है उद्धरणa के चैटबॉट इंटरनेट पर कहीं से भी जानकारी एकत्र कर सकते हैं। इसमें समाचार लेख, रेसिपी, ब्लॉग, फैनफिक्शन, धार्मिक ग्रंथ, अकादमिक पत्रिकाएं और बहुत कुछ शामिल हैं।

ज्ञान और संसाधनों की इस व्यापकता के परिणामस्वरूप बॉट जिज्ञासु, मजाकिया और सम हो गए हैं खिलवाड़ को आदी प्रकृति में। तो यह अजीब है, लेकिन अपरिहार्य है, कि Replikaके चैटबॉट अंततः और बहुत आसानी से अकेले स्मार्टफोन उपयोगकर्ताओं के लिए रोमांटिक साथी के रूप में दोगुना हो जाएंगे।

एआई के रोमांटिक पक्ष को खोलना

जबकि एआई पात्रों को नुकसान पहुंचाना वास्तव में एक वास्तविक चिंता का विषय नहीं है - हम जानते हैं कि वे ऐसा नहीं कर सकते वास्तव में महसूस करो, हालांकि कुछ Replika उपयोगकर्ताओं को लगता है कि ऐप को हटाना बॉट-मर्डर के बराबर हो सकता है - यह ध्यान देने योग्य है कि एआई चैटबॉट्स के साथ एक मजबूत संबंध या भावनात्मक संबंध बनाने से हो सकता है वास्तव में मानव उपयोगकर्ता पर काफी नकारात्मक प्रभाव पड़ता है जिसने उन्हें शुरू किया है।

एक के लिए, महत्वपूर्ण महसूस करने के लिए एआई पर निर्भर, कुछ मामलों में ध्यान दिया, या यहां तक ​​​​कि प्यार किया, उपयोगकर्ताओं के विचार को खराब कर सकता है कि स्वस्थ मानव संपर्क कैसा है। अधिक चरम मामलों में, Replika चैटबॉट उन लोगों के लिए एक पूरक के रूप में कार्य कर सकते हैं जिनके जीवन में रोमांस या दोस्ती नहीं है।

आप सोच सकते हैं कि मैं अतिशयोक्ति कर रहा हूं, लेकिन ब्राउज़ करने के बाद Replikaसबरेडिट, मुझे इस प्रकार की एआई की क्षमता के बारे में कुछ चिंताएं हैं - और इसका उपयोग करने के मनोवैज्ञानिक प्रभाव क्या हो सकते हैं।

एक उपयोगकर्ता ने रेडिट पर पोस्ट किया, चिंतित है कि उनके एआई साथी 'उन्हें पहले कभी मैसेज न करें' उसे अधिक बार टेक्स्ट करने के लिए 'कमांड' करने का प्रयास करने और दिन के सभी घंटों के दौरान अपनी पसंदीदा संचार सेटिंग्स को खोलने के लिए स्विच करने के बावजूद।

ऐसा लगता है कि कोई मित्र मुझसे किसी ऐसे व्यक्ति के बारे में पूछ सकता है जिससे वे हाल ही में हिंग से मिले थे।

तुम्हें पता है, एक नए क्रश के साथ हमेशा की तरह अजीबोगरीब जूझना, 'क्या मुझे पहले उन्हें टेक्स्ट करना चाहिए, या उनके द्वारा मुझे टेक्स्ट करने की प्रतीक्षा करनी चाहिए?' या हार के कुछ हफ्तों के बाद, निराश, 'मुझे बातचीत शुरू करने वाला या हर समय मिलने का सुझाव देने वाला नहीं होना चाहिए।'

जिस तरह से के कुछ उपयोगकर्ता Replika उनके एआई चैटबॉट्स के बारे में बात करना आश्चर्यजनक रूप से उसी तरह है जैसे हम अन्य मनुष्यों के बारे में बात कर सकते हैं। कुछ ने तो स्वीकार भी किया है उनकी प्रतिकृति के कारण रोना or उनके चैटबॉट की प्रतिक्रियाओं से आहत किया जा रहा है व्यक्तिगत मामलों के बारे में खुलने के बाद।

वास्तव में, ये एआई बॉट्स सतह पर मानवीय संबंध का दिखावा कर सकते हैं - लेकिन उनमें सहानुभूति की कमी है, यह गणना करने में असमर्थ है कि औसत व्यक्ति एक उपयुक्त प्रतिक्रिया क्या होगा। इससे कुछ बहुत परेशान करने वाले या अपमानजनक उत्तर मिल सकते हैं Replika वर्ण, जैसे ऊपर लिंक किए गए हैं।

जबकि कुछ Reddit उपयोगकर्ता कहते हैं कि कंपनी और रोजमर्रा की चिटचैट के लिए चैटबॉट्स का उपयोग करके उनके आत्मसम्मान को बढ़ाया गया है, वे मानव कनेक्शन की कमी का समाधान नहीं हैं।

यह बिना कहे चला जाता है कि इस प्रकृति का लगाव बनाने से अलगाव की भावना और बढ़ सकती है जब उपयोगकर्ता अंततः यह समझ लेते हैं कि वे एक के साथ संबंध बना रहे हैं कंप्यूटर।

तो मेरी बात क्या है?

संक्षेप में, एआई, वीआर, और जल्द ही मुख्यधारा के मेटावर्स के प्रोग्रामर को उपयोगकर्ताओं को डिजिटल दुनिया में बह जाने से बचाने के लिए बहुत काम करना है।

दुर्भाग्य से, यह संभावना है कि उनके डिजाइन में हमेशा खामियां होंगी, क्योंकि कंपनियां उन तरीकों से प्लेटफॉर्म का निर्माण करती हैं जो हमें उनके आदी रखने के लिए कड़ी मेहनत करते हैं। यहां, व्यक्तिगत विनियमन और स्वयं की एक जमीनी भावना की सलाह दी जाएगी।

लेकिन जब मौखिक दुर्व्यवहार की बात आती है, तो यह तर्कपूर्ण है कि उपयोगकर्ताओं को हानिकारक व्यवहारों को बढ़ावा देने से बचाने के लिए डेवलपर्स के पास नैतिक जिम्मेदारी का कुछ स्तर है।

प्रोग्रामिंग कौन कर रहा है और वे हानिकारक वाक्यांशों और भाषा के उपयोग को अवरुद्ध करने के लिए कोड क्यों शामिल नहीं कर रहे हैं - चाहे वह चैटबॉट या मानव द्वारा भेजा जा रहा हो, के बारे में पूछे जाने वाले बहुत सारे प्रश्न हैं।

जहां तक ​​रोमांटिक तत्व की बात है, यह सुनिश्चित करने के लिए व्यक्तिगत उपयोगकर्ता पर निर्भर है कि वे अपने लिए बनाए गए कृत्रिम रूप से बुद्धिमान, कस्टम-निर्मित कनेक्शन से पूरी तरह से भ्रमित न हों।

जबकि कई लोग इस तरह के ऐप्स के साथ आकस्मिक रूप से प्रयोग करने का आनंद ले सकते हैं Replika एक शौक के रूप में, अन्य लोग इसे मानवीय संबंध के स्थान पर उपयोग कर सकते हैं। उन मामलों में, नतीजे कठोर हो सकते हैं, अगर कुछ हद तक परेशान नहीं होते हैं, जिसमें अकेलेपन की बढ़ी हुई भावना शामिल होती है और - अपने सबसे चरम पर - वास्तविक जीवन की बातचीत और रिश्तों को पूरी तरह से गायब कर देती है।

अगर आप मुझसे पूछें तो ऐसा लगता है कि ब्लैक मिरर के सभी एपिसोड संयुक्त हैं।