تفرض السلطات الصينية ضوابط صارمة على مطوري التطبيقات ذكاء ومع ذلك ، فإن الذكاء الاصطناعي الذي يعطي خصائص إنتاج مقاطع فيديو مزيفة يسمح لهم بتشغيل وتنفيذ أنشطة في الخارج ، وخاصة في الولايات المتحدة.
دخلت لائحة الذكاء الاصطناعي في الصين حيز التنفيذ في يناير ، بهدف تنظيم التطبيقات التي لديها القدرة على إنشاء مقاطع فيديو مزيفة.
وبحسب تقرير نشرته الشبكة ،ان بي سي نيوز يركز المشرعون الأمريكيون على متابعة مخاطر استخدام تطبيق TikTok ، لكنهم لا يدركون أن هذه المخاطر تمتد إلى التطبيقات الصينية الأخرى مثل تطبيقي التسوق عبر الإنترنت “Shein” و “Timo”.
تشهد تقنيات الذكاء الاصطناعي طفرة ، حيث تمتلك القدرة على “التزييف العميق” من خلال إنشاء مقاطع فيديو بالصوت والصورة ، يتم فيها استخدام وجوه أشخاص حقيقيين في مقاطع غير واقعية ، ويتركز حوالي 96 بالمائة من هذا المحتوى الجديد في إنشاء مواد إباحية ، غالبًا للأشخاص الذين لم يوافقوا على إنشاء مقاطع الفيديو هذه.
التزييف العميق هو شكل من أشكال الذكاء الاصطناعي يعتمد على قاعدة بيانات للصور ومقاطع الفيديو بهدف إنشاء صور أو مقاطع “مقنعة خيالية” بالصوت والفيديو.
استعرضت NBC 17 تطبيقًا للهاتف المحمول متاحًا للتنزيل ، طورته شركات في روسيا وأوكرانيا وبريطانيا والولايات المتحدة وإيطاليا والصين.
وأظهرت المراجعة أن بعض التطبيقات التي طورتها الشركات الصينية تقول إنها “تسمح بإنتاج مقاطع فيديو إباحية غير حسية” ، لأنها تغير صورة الوجه باستخدام “مرشحات” محددة مسبقًا.
لكن أحد التطبيقات ، “Face Magic” ، الذي طورته شركة صينية ، يعرض إعلانات جنسية صريحة ، ويقول إنه “قادر على إنشاء محتوى إباحي مزيف للغاية في بضع ثوان.”
منذ مايو 2021 ، تم تنزيل هذا التطبيق أكثر من 2.4 مليون مرة ، وفقًا لبيانات “Atopia” المتخصصة في تحليل بيانات تطبيقات الهاتف المحمول.
يشير التقرير إلى أنه على الرغم من أن هذه التطبيقات تعارض “قواعد التزييف العميق الجديدة في الصين التي دخلت حيز التنفيذ في يناير” ، إلا أنها تعمل دون أي مشاكل في الصين.
حتى الآن ، لم تصدر الولايات المتحدة قوانين فيدرالية تعاقب إنشاء تقنية التزييف العميق الإباحية.
وبدأت بعض البلدان في اتخاذ خطوات لتنظيم مشكلة خصوصية البيانات وتقليل المخاوف بشأن انتشار التزييف العميق.
أخبرت كيت إيزاكس ، وهي مواطنة بريطانية تناضل من أجل إزالة المواد الإباحية التي تم إنتاجها دون موافقة من موقع Pornhub ، هيئة الإذاعة البريطانية في أكتوبر الماضي كيف “انهارت” عندما تم نشر مقطع فيديو إباحي “شديد الواقعية” باستخدام وجهها على تويتر. .
قد يتأثر كل من لديه صور على الإنترنت بمخاطر الذكاء الاصطناعي ، لكن المرأة قد تكون “كابوسا” بالنسبة للنساء مع هذه التكنولوجيا ، مما يجعلها أكثر عرضة للاستهداف ، بينما يشير الخبراء إلى أن المشاهير قد يكونون أكثر عرضة أن تكون مستهدفة بهذه التقنيات خاصة في ظل توافر العديد من الصور والمقاطع. عبر الإنترنت.
يمكن أن يؤدي انتشار تقنية التزييف العميق إلى ما وصفه يوروبول بأنه “حرب نهاية العالم المعلوماتية” ، وفقًا لسيناريو لا يستطيع فيه كثير من الناس التمييز بين الواقع والخيال ومعرفة مصادر الأخبار الموثوقة.
في فبراير الماضي ، حذر مفوض الأمم المتحدة السامي لحقوق الإنسان ، فولكر تورك ، من أن التطورات الأخيرة في الذكاء الاصطناعي تشكل تهديدًا خطيرًا لحقوق الإنسان ، داعيًا إلى “محاذير فعالة”.
وفي بيان في ذلك الوقت ، أعرب تورك عن “قلقه البالغ بشأن قدرة التطورات الأخيرة في مجال الذكاء الاصطناعي على إلحاق الضرر … بالكرامة الإنسانية وجميع حقوق الإنسان في خطر كبير”.
ووجه المسؤول الأممي “دعوة عاجلة للشركات والحكومات لوضع تحذيرات فعالة بسرعة”.
تعتزم العديد من الدول تطوير تشريعات لهذا القطاع ، ويحتل الاتحاد الأوروبي موقعًا مركزيًا في الجهود المبذولة لتنظيم هذه التقنيات الجديدة ، أثناء العمل على مشروع قانون يُعرف باسم “قانون الذكاء الاصطناعي” أو “قانون الذكاء الاصطناعي” ، والذي يمكن استكماله في نهاية هذا العام أو أوائل عام 2024 ، بشرط أن يدخل حيز التنفيذ بعد بضع سنوات.
في الولايات المتحدة ، يدعو العديد من أعضاء الكونجرس إلى تشكيل فرقة عمل لمراقبة هذا النوع من الاحتيال ، لكنهم يواجهون معارضة شرسة من نشطاء الحقوق الرقمية الذين يحذرون من أن مثل هذه الإجراءات يمكن أن تخنق الابتكار أو تحد من حرية التعبير.
أعلنت الحكومة البريطانية في نوفمبر أنها تعتزم حظر مشاركة مقاطع الفيديو الإباحية “المزيفة العميقة” التي يُعتقد أنها صُنعت دون موافقة الضحايا.
