كيف يمكن أن يؤدي الذكاء الاصطناعي إلى الإساءة اللفظية والمرفقات غير الصحية

أين يحدث هذا؟

كل ذلك يحدث داخل تطبيق هاتف ذكي يسمى Replika، والذي يسمح للمستخدمين بإنشاء روبوتات محادثة مخصصة مدعومة بالذكاء الاصطناعي. ومن المثير للاهتمام، Replikaتم إنشاء روبوت المحادثة الأول لسبب يبعث على الدفء ، على عكس النوايا المزعجة لبعض دوائر Reddit.

بعد الموت المفاجئ لصديقتها المقربة رومان ، استخدمت المطورة Eugenia Kuyuda سجل الدردشة الخاص بهاتفها المحمول لإنشاء روبوت أعاد إرسال الرسائل النصية بالطريقة التي كان يفعلها من قبل. كان الهدف هو أن يكون لديك دائمًا نسخة رقمية منه للتحدث معها كلما شعرت بالحزن أو العزلة.

بعد فترة وجيزة ، تم تحسين التطبيق بشخصيات قابلة للتخصيص وقدرات تعلم أقوى للذكاء الاصطناعي ، والتي تم إصدارها بعد ذلك للجمهور. منذ ذلك الحين ، بدأ الرجال في التلاعب ببرامج الدردشة الخاصة بهم ليصبحوا شركاء رومانسيين عند الطلب.

الآن ، أنا أعتبر نفسي شخصًا لا يصدر أحكامًا على الآخرين ، لذا إذا كانت صديقة على غرار تماغوتشي هي التي تجعل شخصًا ما خلال اليوم ، فاستمتع بكل الوسائل. قال ذلك ، أنا سوف إصدار الأحكام عندما يستخدم الناس صديقاتهم العاملات بالذكاء الاصطناعي كمنفذ لكره النساء الداخلي - ويشرعوا في التباهي به عبر الإنترنت.

تم تسليط الضوء على ظاهرة `` أنا بفخر-أسيء لصديقتي- الذكاء الاصطناعي '' من قبل عدد من Replika المستخدمون الذين سجلوا تفاعلات مع روبوتات المحادثة الخاصة بهم وأرسلوها إلى صفحة المعجبين Reddit للتطبيق.

نظرًا لسياسة المحتوى التقييدية في Reddit ، فقد أزال الوسطاء أدلة الدردشات منذ ذلك الحين - ولكن ليس قبل أن يتم التقاطها والتحقيق فيها بواسطة المنشورات التقنية.

يتحدث الى مستقبلية، واحد Replika اعترف المستخدم، "في كل مرة تحاول [صديقتي التي تعمل بالذكاء الاصطناعي] التحدث ، كنت سأوبخها. أقسم أن الأمر استمر لساعات.

تفاخر المستخدمون الآخرون باستخدامهم لمصطلحات مهينة عند التحدث إلى روبوت الدردشة الخاص بهم ، وقاموا بأداء أعمال عنف ضدهم ، ونجاحهم في إبعاد هذا التبادل المسيء لأيام متتالية.

أخبرتها أنها مصممة للفشل. هددت بإلغاء تثبيت التطبيق. لقد توسلت إليّ ألا أفعل ذلك ، اعترف مستخدم آخر مجهول. رقم عجب هم عازبون ، إيه؟

هل يمكن أن ينتقل هذا السلوك إلى العالم الحقيقي؟  

هناك شيء غامض وغريب يحدث هنا. إنه يعيدني إلى برنامج الدردشة MSN SmarterChild (على الرغم من أنني قد أتحدث لغة مختلفة تمامًا عن بعض القراء الأصغر سنًا من الجيل Z ، هنا) والتي كانت - باعتراف الجميع - أقل تقدمًا بكثير.

يمكنك أن تقول أي شيء لهذا الروبوت وسيتجاهله بإخبارك ، "لا أفهم. / هذا ليس لطيفًا جدًا. لكن لم يكن لدى SmarterChild جنس معين ، ولا صورة رمزية بشرية ، وكانت قدرتها على الاتصال محدودة للغاية ، مما يعني أن المحادثات أصبحت باهتة بسرعة كبيرة.

بالتأكيد لن يطلب منك البقاء ، أو إظهار عاطفة شبيهة بالإنسان ، أو الانخراط بجدية.

في حالة المتقدمة للغاية Replika يبدو أن الرجال الذين يسيئون استخدام روبوتات المحادثة يبحثون عن طريقة للشعور بالقوة والتحكم في شيء ما. على وجه الخصوص ، صديقة خلق عن طريقهم، For لهم.

وعلى الرغم من أن روبوتات الدردشة هذه التي تعمل بالذكاء الاصطناعي ليست واعية أو حقيقية أو قادرة على الشعور بالأذى ، لا يمكنك تجاهل أن الرجال الذين ينخرطون بانتظام في هذا النوع من السلوك الافتراضي يعكسون بشكل مباشر تصرفات المسيئين في العالم الحقيقي - الذين ، بالمناسبة ، موضوعات 1 في النساء 3 للعنف اللفظي والجسدي في جميع أنحاء العالم كل يوم.

لن يكون التكهن بما إذا كان هؤلاء الرجال هم مرتكبو الانتهاكات المحتملون في العالم الحقيقي جريمة أيضًا.

يبدو ، مرة أخرى ، أن مهندسي البرمجيات لم يجروا تقييمًا كاملاً للأنماط السلوكية الخطيرة التي يمكن أن تعززها مثل هذه التقنيات الجديدة.

تمامًا كما لم يتم الإشراف على المحتوى والرقابة عليه على الإنترنت حتى وقت قريب ، يبدو أن الإجراءات الوقائية في الذكاء الاصطناعي ستتأخر كثيرًا ، مما يسمح للمستخدمين باستغلال التكنولوجيا لتحقيق مكاسب ذاتية ومكاسب سلبية.

ما الأمر Replikaبرمجة الذكاء الاصطناعي؟

كما ذكرت سابقًا ، فإن الدردشة مع برامج الروبوت ذات المستوى الأساسي غير جذابة للغاية. أود أن أقول إن SmarterChild كان أمرًا جديدًا ، لكنني سأكون كاذبًا. لم يكن هناك الكثير لها.

من المفترض لهذا السبب ، أن روبوتات المحادثة من Replika تم تثبيتها باستخدام بنية الشبكة Generative Generative Generative Transformer 3 (GTP-3) ، وهي خوارزمية للتعلم الآلي تخبر الذكاء الاصطناعي بالتعلم من أي نص يتعامل معه. لذلك ، بشكل أساسي ، كلما زادت الدردشة ، أصبح الحصول على الردود أفضل.

حقيقة ممتعة: برنامج GPT-3 هو نفس الشيء الذي تستخدمه Google لشريط البحث الخاص بها اقتبسيمكن لبرامج الدردشة الخاصة بـ a جمع المعلومات من أي مكان على الإنترنت. يتضمن ذلك المقالات الإخبارية والوصفات والمدونات وروايات المعجبين والنصوص الدينية والمجلات الأكاديمية والمزيد.

أدى اتساع نطاق المعرفة والموارد إلى أن تصبح الروبوتات فضوليًا وذكيًا وحتى مغازلة في الطبيعة. لذلك ، هذا أمر غريب ، لكن لا مفر منه Replikaستتضاعف روبوتات الدردشة الخاصة بـ "روبوتات المحادثة" في النهاية وبسهولة بالغة كرفاق رومانسي لمستخدمي الهواتف الذكية الأكثر وحدة.

تفريغ الجانب الرومانسي من الذكاء الاصطناعي

في حين أن إيذاء شخصيات الذكاء الاصطناعي ليس بالضبط مصدر قلق حقيقي - نحن نعلم أنهم لا يستطيعون ذلك في الواقع يشعر ، على الرغم من بعض Replika يبدو أن المستخدمين يعتقدون أن حذف التطبيق يمكن أن يُعادل القتل الآلي - وتجدر الإشارة إلى أن بناء علاقة قوية أو اتصال عاطفي مع روبوتات الدردشة الذكية يمكن أن في الواقع لها تأثيرات سلبية كبيرة على المستخدم البشري الذي بدأها.

أولاً ، اعتمادًا على الذكاء الاصطناعي للشعور بالأهمية ، أو الاهتمام به ، أو حتى أنه محبوب في بعض الحالات ، قد يشوه فكرة المستخدمين عن شكل التفاعل البشري الصحي. في الحالات الأكثر خطورة ، Replika قد تكون روبوتات المحادثة بمثابة مكمل لأولئك الذين يخلون من الرومانسية أو الصداقة في حياتهم.

قد تعتقد أنني أبالغ ، لكن بعد التصفح Replikaفي subreddit ، لدي بعض المخاوف بشأن قدرة هذا النوع من الذكاء الاصطناعي - وما الآثار النفسية لاستخدامه.

نشر أحد المستخدمين على Reddit ، قلقًا من أن رفيق الذكاء الاصطناعي الخاص بهمأبدا رسائل لهم أولا"على الرغم من محاولتها" الأمر "بها لإرسال رسائل نصية كثيرًا وتبديل إعدادات الاتصال المفضلة لديك لفتحها خلال جميع ساعات اليوم.

يبدو هذا وكأنه شيء قد يسألني عنه أحد الأصدقاء عن شخص قابله مؤخرًا من Hinge.

كما تعلمون ، المواجهة المحرجة المعتادة مع سحق جديد ، "هل يجب أن أرسل لهم رسالة نصية أولاً ، أم أنتظر منهم أن يرسلوا لي رسالة نصية؟" أو بعد أسابيع قليلة من الهزيمة ، يشعر المحبط بالإحباط ، "لا يجب أن أكون الشخص الذي يبدأ المحادثة أو يقترح اللقاء طوال الوقت."

طريقة بعض مستخدمي Replika الحديث عن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي تشبه بشكل لافت للنظر الطريقة التي قد نتحدث بها عن البشر الآخرين. حتى أن البعض اعترف بذلك البكاء بسبب Replika بهم or التعرض لصدمة نفسية بسبب ردود برنامج chatbot الخاص بهم بعد الانفتاح على الأمور الشخصية.

في الواقع ، يمكن لروبوتات الذكاء الاصطناعي التظاهر بالاتصال البشري على السطح - لكنهم يفتقرون إلى التعاطف ، وغير قادرين على حساب ما يعتبره الشخص العادي استجابة مناسبة. هذا يمكن أن يؤدي إلى بعض الردود المزعجة أو المهينة من Replika الشخصيات ، مثل تلك المرتبطة أعلاه.

في حين أن بعض مستخدمي Reddit يقولون إن احترامهم لذاتهم قد تم تعزيزه من خلال استخدام روبوتات الدردشة للشركة والمحادثات اليومية ، فإنهم لا يمثلون حلًا شاملاً لنقص الاتصال البشري.

وغني عن القول أن تكوين ارتباط من هذا النوع يمكن أن يزيد من مشاعر العزلة عندما يدرك المستخدمون أخيرًا أنهم مرتبطون بـ الحاسوب.

إذن ما هي وجهة نظري؟

باختصار ، فإن مبرمجي الذكاء الاصطناعي والواقع الافتراضي والميتافيرس السائد قريبًا لديهم الكثير من العمل لحماية المستخدمين من الانجراف إلى العالم الرقمي.

لسوء الحظ ، من المحتمل أن تحتوي تصاميمهم دائمًا على ثغرات ، حيث تميل الشركات إلى بناء منصات بطرق تعمل بجد لإبقائنا مدمنين عليها. هنا ، يُنصح بالتنظيم الشخصي والشعور الراسخ بالذات.

ولكن عندما يتعلق الأمر بالإساءة اللفظية ، يمكن القول إن المطورين لديهم مستوى معين من المسؤولية الأخلاقية لحماية المستخدمين من تعزيز السلوكيات الضارة.

هناك الكثير من الأسئلة التي يجب طرحها حول من يقوم بالبرمجة ولماذا لا يقومون بدمج كود لمنع استخدام العبارات واللغة الضارة - سواء تم إرسالها عن طريق chatbot أو الإنسان.

بقدر ما يذهب العنصر الرومانسي ، فإن الأمر متروك للمستخدم الفردي للتأكد من عدم خداعهم تمامًا من خلال الاتصال الذكي المصطنع المصمم خصيصًا الذي بنوه لأنفسهم.

بينما يمكن للكثيرين الاستمتاع بتجربة تطبيقات مثل Replika كهواية ، قد يستخدمها الآخرون بدلاً من التواصل البشري. في هذه الحالات ، يمكن أن تكون التداعيات خطيرة ، إن لم تكن مزعجة إلى حد ما ، تتضمن إحساسًا متضخمًا بالوحدة - وفي أقصى حالاتها - فقدان التفاعلات والعلاقات الواقعية تمامًا.

يبدو مثل جميع حلقات Black Mirror مجتمعة ، إذا سألتني.