القائمة القائمة

التزييف العميق: تهديد متزايد للديمقراطية

في عام 2019 ، تطورت تقنية التزييف العميق من التسلية المرحة نسبيًا إلى تهديد أخلاقي خطير ، والافتراء على المشاهير وتعطيل السياسة.

في حال لم تكن معتادًا على مصطلح "التزييف العميق" ، فإنه يشير أساسًا إلى التلاعب بالفيديو وتكرار الميزات البشرية باستخدام برامج تتمحور حول مبادئ الذكاء الاصطناعي وتتبع الوجه والتعلم العميق.

من منظور الشخص العادي ، إنها عملية محاكاة ملامح وجه الشخص و / أو صوته ليبدو / يبدو حقيقيًا.

الشبكات التي تتكون من عقد مترابطة تقوم بشكل مستقل بإجراء العمليات الحسابية على بيانات الإدخال. مع وجود "تدريب" كافٍ للمستخدم ، تبدأ هذه العقد في ترتيب نفسها لإكمال مهمة خاصة بالمستخدم. هذا هو التعلم العميق، ويتم استخدامه بشكل أساسي لمزاوجة طبيعة معينة من الفيديو بصور المشاهير ، لإظهار محتوى زائف بشكل مقنع أثناء التنقل.

في حين أن برامج من هذا النوع قد تكون قد بدأت باعتبارها تسلية غير ضارة على الصفحات الخلفية للإنترنت ، فقد تم الآن دفعها إلى الاتجاه السائد ؛ إعادة تصميمها على أنها ملف سلاح تشهيري لاستهداف المشاهير والشخصيات السياسية البارزة.


إذن من أين بدأ كل هذا؟

نشأ مصطلح `` deepfake '' من مستخدم Reddit لم يذكر اسمه بنفس الاسم المستعار الذي برز في عام 2017 بسبب سلسلة من مقاطع الفيديو الإباحية المزيفة للمشاهير. بصرف النظر عن العلبة الواضحة للديدان التي تم فتحها بواسطة هذا المحتوى الغازي والمزعج ، فإنها ستوفر لمحة عن تداعيات أوسع للتكنولوجيا - لا تزال قيد المعالجة حتى اليوم.

لقد كانت هذه هي المرة الأولى التي يتمكن فيها الفرد من إنشاء تقليد بشري عالي الجودة ومقنع بسرعة وببساطة الوسائل المتاحة بسهولة. من المؤكد أنه لم يكن أول محتوى "متراكب" يخترق الإنترنت ، ولكنه كان أول مثال يتم إنشاؤه بسرعة باستخدام رسومات من فئة المستهلك.

وضع "deepfake" تقليد المشاهير في إطار فرعي واحد أنشأه ، وبعد فترة وجيزة بدأ أعضاء تصوره بالمساهمة في تعديلاتهم الخاصة ، والتي اشتملت في الغالب على مقاطع أفلام مسلية. تم تخصيص قسم كامل لإظهار الممثل الدائم نيكولاس كيج في أفلام وبرامج تلفزيونية عشوائية.


التحول الخطير

As توقع الكثير أثناء الظهور الأولي لمصادر التزييف العميق ، سرعان ما ستستمر التكنولوجيا في التحريض على ممارسات مشكوك فيها أخلاقياً.

في يونيو 2018 ، أُطلق على برنامج كمبيوتر لإنشاء التزييف العميق ، أطلق عليه اسم تطبيق FakeApp، برز إلى الصدارة بعد إتاحته للتنزيل - فقد استخدم نفس البرنامج الذي روجته شركة Reddit's deepfake.

بعد فترة وجيزة ، ظهرت عدة مقاطع فيديو تتضمن سياسيين تهدف إلى خداع الناس لتصديق أحداث وتصريحات وهمية. والجدير بالذكر أن اسم الحزب الاشتراكي الفلمنكي منتجع صحي نشر مقطع فيديو على حسابهم على Twitter و Facebook يظهر فيه دونالد ترامب وهو يسخر من بلجيكا لبقائها في اتفاقية باريس للمناخ.

في حين تم استنشاق التزوير من قبل معظم المشاهدين ، فإن هؤلاء غير مدركين للتزوير العميق يعتقد أن الفيديو حقيقي. بعد هذا الكشف ، حظرت العديد من المنصات الاجتماعية ، بما في ذلك Twitter و Discord و Gfycat ، صراحة التزييف العميق وجميع المجتمعات المرتبطة بها ، مع اتباع Reddit الدعوى بعد فترة وجيزة ... ونادراً ما يقول Reddit "لا" لأي شيء.

في يوليو 2018 ، مقابلة منقحة مع ممثل الولايات المتحدة الليبرالية الإسكندرية اكاسيو كورتيز انتشرت بسرعة كبيرة ، حيث حصدت أكثر من 4 ملايين مشاهدة على YouTube. تم التلاعب بالمقابلة الأصلية لإدخال محاور مختلف ، مما يجعل الأمر يبدو أن أوكاسيو-كورتيز كانت تكافح للإجابة على الأسئلة الأساسية. بدا هذا أقل استخدامًا مسليًا للتكنولوجيا ، بل كان أشبه بحيلة لتشويه سمعة أوكاسيو-كورتيز.

هذا المثال الخاص - رغم أنه ليس مزيفًا تقليديًا - وضع إشارة مرجعية على نمو التكنولوجيا في أشكال أخرى من تعديل الفيديو ، مما يجعل كشف التزييف العميق أكثر صعوبة.

في أيار (مايو) 2019 ، ظهر على فيسبوك أكثر افتراءات رقمية فاعلية لمسؤول حكومي. فيديو تم تحريره يظهر فيه المتحدث الديمقراطي نانسي بيلوسي، حصد أكثر من 2 مليون مشاهدة. تباطأ حديثها بشكل كبير مما جعله يبدو مشوشًا ، مما دفع المشاهدين إلى التشكيك في حالة بيلوسي العقلية.

شارك المحامي الشخصي لترامب ، رودي جولياني ، مقطع الفيديو معتقدًا أنه حقيقي ، مما يؤكد أيضًا المخاطر المحتملة لبرامج التزييف العميق.

لإزعاج Guiliani ، وسطاء Facebook رفض إزالة المزيفة بسبب السياسات المتعلقة بحرية التعبير ، بدلاً من اختيار إدراج معلومات سياقية في الفيديو. ومن المفارقات أن مارك زوكربيرج ، العقل المدبر لفيسبوك ، سيصبح الضحية التالية للتزوير.

تم استخدام الملياردير الشاب للترويج لمعرض للتزييف العميق يُدعى Specter أنشأه الفنان Bill Poster ، مع رسم كاريكاتوري رقمي لـ Zuck يمتدح Specter ، مصيحًا أنه "مدين له بكل شيء [نجاحه]".

ليس من المستغرب ، الفيسبوك بسرعة غير موقفهم في عملية التصفية لمقاطع الفيديو المزيفة ، والإبلاغ عن المنشور ، والحد بشدة من توزيعه ومشاهدته على نظامهم الأساسي.


ما الذي يتم فعله؟

استمع أعضاء مجلس النواب الأمريكي هذا الشهر رسميًا شهادة المحيطة بالتدفق الأخير لملفات التزييف العميق ، وفحصت التهديدات المحتملة للأمن القومي التي يشكلها المحتوى المعدَّل بالذكاء الاصطناعي.

خبراء تقنيين مدعومين من وزارة الدفاع تم نشرها خصيصًا لتطوير وسائل لاكتشاف التزييف العميق والإبلاغ عنه ، ولكن النتائج كانت مختلطة. ثانيًا ، يتم الكشف عن أي إجراءات داخلية لتقنيات الكشف (تتبع الوجه بشكل أساسي) ، حيث يكتسب المزورون موطئ قدم آخر لتجنب الكشف. طبيعة الذكاء الاصطناعي هي المراجعة والتكيف بعد كل شيء.

تتمثل أكثر خطط الوقاية مقاومة للفشل اليوم في معالجة تشريعات وسياسات الشبكات المضيفة ، حيث يضغط المسؤولون الفيدراليون من أجل حركة على مستوى الدولة لحظر المعلومات الرقمية المضللة ، وخاصة التزييف العميق ، بحلول عام 2020.


انقسام الرأي

بينما يتم اتخاذ تدابير واضحة لمنع التزييف العميق ، فإن جزءًا كبيرًا من مجتمع الانترنت نشعر أن هذه الحملة القمعية تهدد حقنا في حرية التعبير. لم يتم تسخير التكنولوجيا حصريًا للأنشطة الشائنة ، وغالبًا ما تستخدم في السخرية والفن والنقد والكوميديا. ومع ذلك ، يؤكد المسؤولون الحكوميون أن التهديدات المحتملة تفوق بكثير تطبيقها الإبداعي.

إن موقف الحكومة الحازم وعدم وجود مساحة للقدرة على المناورة أمر مفهوم ، على الرغم من ذلك ، عند النظر في الآثار الخطيرة التي يمكن أن تؤثر التزييف العميق على إحساسنا بالديمقراطية.

بالنسبة للجيل الأكبر سنًا ، الذين لا يدركون إلى حد كبير هذه التقنيات ، يمكن أن تؤثر هذه التزييف العميق على قراراتهم في إنشاء ممثلي الحكومة. على سبيل المثال ، قد يظهر مقطع فيديو مزيف يظهر فيه جو بايدن ازدراءً للاجئين ، مما يردع المرشحين عن التصويت لصالحه. بمجرد أن تتغير الروايات السياسية ، من الصعب إعادتها.

علاوة على ذلك ، تستغرق مقاطع الفيديو المزورة التي تم الإبلاغ عنها وقتًا للتصفية من خلال أنظمة الأمان لمعظم منصات الوسائط الاجتماعية ، وتظل نشطة على الجداول الزمنية للأشخاص. من المتصور إذن أن يتمكن الانتهازيون من دفع أجنداتهم الشخصية بمقاطع فيديو مزيفة عشية الانتخابات المهمة ، وسنكون جميعًا غير مدركين للحقيقة إلى ما بعد التنصيب.

هناك تداعيات تتجاوز السياسة أيضًا. نظرًا لأن التكنولوجيا أصبحت أكثر تقدمًا ، وتتطلب صورًا أقل وأقل لتكرار ملامح الوجه ، فقد تصبح تقنية التزييف العميق طريقة الانتقال إلى الافتراء. فكر في الأمر: لدينا مئات الصور عبر قنوات التواصل الاجتماعي الخاصة بنا.

سواء كان الأمر يتعلق بإرسال تطبيق فيديو مزيف إلى وظيفة نيابة عن شخص آخر ، أو خطاب تشدق / كراهية مهين إلى YouTube ، أو حتى رسالة انتحار كاذبة ، فإن نطاق إتلاف المحتوى عبر الإنترنت سيزداد بمقدار عشرة أضعاف.

من المؤكد أن يتطور هذا اللغز عندما تتصارع المنصات مع قضايا الموافقة والتعبير الحر ومنع نشر المعلومات المضللة ، وسنكون هناك لإفشال التغييرات المستقبلية.

ما هو موقفك الشخصي من التزييف العميق؟ هل يجب إزالتها بالكامل أو تنظيمها بعناية أكبر؟ اسمحوا لنا أن نعرف في التعليقات.

إمكانية الوصول