“التزييف العميق”.. مستقبل القوانين المنظمة للبرمجيات الذكية
تناولنا في ورقة بحثية سابقة التزييف العميق في ملفات الفيديو والبرامج المستخدمة وآليات عمل هذه البرامج ومتطلباتها ومخاطر التزييف العميق.
حيث أصبحت التقنيات الرقمية الجديدة من الصعب التمييز بين الوسائط الحقيقية والمزيفة. أحد أحدث التطورات التي ساهمت في المشكلة هو ظهور مقاطع الفيديو المزيفة العميقة وهي مقاطع فيديو واقعية للغاية تستخدم الذكاء الاصطناعي (AI) لتصوير شخص يقدم محتوى مزيف لم يحدث أبدًا في الحقيقة، فإلى جانب انتشار وسائل التواصل الاجتماعي وسرعتها، يمكن أن يصل التزييف العميق المقنع بسرعة إلى ملايين الأشخاص ويكون له آثار سلبية على مجتمعنا. في حين أن البحث العلمي حول هذا الموضوع يعتبر ضئيلاً. إلا أن هذا لا يعني عدم فائدة التزييف العميق من نواحي إيجابية فيمكن استخدامه في صناعة السينما كأنتاج فلم حديث لجيمس بوند مثلاً أو محاكاة الوقائع التاريخية للعلماء والمفكرين الراحلين وغيرها من الأعمال الايجابية في التزييف العميق.
وهذا ما دعانا لتسليط الضوء على مستقبل هذه التقينة وهل يمكن وضع قوانين منظمة لها ومن يتحمل مسؤولية التزييف العميق. سنحاول أن نتطرق لهذا الموضوع وفق السيناريوهين التاليين ووضع تصور مستقبلي للنظام القانوني للتزييف العميق:
السيناريو الأول: ستستمر تقنيات التزييف العميق في التطور وسيتم استخدامها لأهداف سلبية في ظل غياب الرقابة القانونية.
السيناريو الثاني: ستستمر تقنيات التزييف العميق في التطور وسيتم استخدامها لأهداف إيجابية تحت رقابة قانونية.
سنستعرض هذه السيناريوهات السابقة وفق التحليل التالي:
السيناريو الأول: ستستمر تقنيات التزييف العميق في التطور وسيتم استخدامها لأهداف سلبية في ظل غياب الرقابة القانونية.
تحتوي الحرب النفسية المعاصرة على عدد من الأدوات، بما في ذلك تقنية التزييف العميق التي يتم فيها تخليق الصورة البشرية بناءً على خوارزميات الذكاء الاصطناعي، ظهر في البداية التزييف العميق كهدف للترفيه على يد مبرمجين هواة، حيث توفر البرامج الخاصة القائمة على الذكاء الاصطناعي الفرصة لإنشاء نسخ تبدو وتتحدث وتتصرف تمامًا مثل قوالبها.الأصلية ومن الملاحظ أن هناك تتزايد في إمكانية استخدام تقنية التزييف العميق بشكل ضار، حيث يخلق المرء نسخة من شخصية معروفة ويتلاعب بكلماته وتعابير الوجه باستخدام برمجيات خاصة لهذا الغرض.
وفقًا لـ CNBC في سبتمبر 2019، أكدت رائدة التزييف العميق هاو لي أن الصور ومقاطع الفيديو المزيفة التي تبدو “حقيقية تمامًا” ستكون متاحة للأشخاص العاديين في “نصف عام إلى عام”.
تعتبر تقنية Deepfakes مقلقة بشكل خاص في عام 2020، مع الأخذ في الاعتبار أنها سنة انتخابات في الولايات المتحدة. قال ألفين رودريغيز، كبير المديرين والاستراتيجيين الأمنيين لمنطقة آسيا والمحيط الهادئ في Forcepoint، لشبكة CNBC، “يمكننا أن نتوقع الاستفادة من التزييف العميق كأداة لتشويه سمعة المرشحين الانتخابيين ودفع الأكاذيب غير الدقيقة للناخبين عبر وسائل التواصل الاجتماعي.
ولكن في حين أن التزييف العميق يثير القلق على مستوى اجتماعي وسياسي أكبر، إلا أنه يجب أن يكون مصدر قلق لأصحاب الأعمال الذين قد تكون أصولهم المالية ومعلوماتهم الشخصية في خطر.
الأعمال الإلكترونية ومخاطر التزييف العميق:
ذكرت شركة تحليلات التأمين الإلكتروني CyberCube في تقريرها عن التزييف العميق أن مجرمي الإنترنت أصبحوا بارعين بشكل متزايد في إنشاء مقاطع صوت وفيديو واقعية باستخدام الذكاء الاصطناعي وتكنولوجيا التعلم الآلي في السنوات الأخيرة. تسارعت التطورات في هذا المجال بشكل أكبر نتيجة للتحول إلى العمل عن بُعد أثناء جائحة COVID-19، حيث أصبحت المنظمات أكثر اعتمادًا على طرق الاتصال القائمة على الفيديو والصوت.
وأشار التقرير إلى أن العدد المتزايد من عينات الفيديو والصوت لرجال الأعمال المتاحين عبر الإنترنت من خلال اجتماعاتهم وإدارتهم لأعمالهم عبر برامج الفيدو المنتشرة يوفر المزيد من الفرص لمحاكاة الأفراد من أجل التأثير والتلاعب بالآخرين. ويشمل ذلك بناء تمثيلات صور واقعية للأشخاص المؤثرين، واستخدام تقنية رسم خرائط الفم، والتي تمكن من محاكاة حركة الفم البشري أثناء الكلام بدقة عالية.
يمكن أن تعرض هذه الأساليب المنظمات لخطر التعرض لخسائر مالية فادحة. على سبيل المثال، سلط التقرير الضوء على حالة استخدم فيها مجرمو الإنترنت البرمجيات القائمة على الذكاء الاصطناعي لانتحال صوت الرئيس التنفيذي للمطالبة بتحويل احتيالي قدره 243 ألف دولار.
سلط التقرير الضوء أيضًا على كيفية تكثيف تقنيات الهندسة الاجتماعية التقليدية منذ بداية COVID-19. من خلال جمع المعلومات المتاحة عبر الإنترنت أو من السجلات المادية المسروقة لإنشاء هوية مزيفة لهدف معين، وهي ممارسة تُعرف باسم التنميط الاجتماعي. أصبحت أساليب مثل هذه أسهل على الأشرار السيبرانيين بسبب زيادة استخدام المنصات عبر الإنترنت بالإضافة إلى ضبابية أنظمة تكنولوجيا المعلومات المحلية والتجارية أثناء الوباء.
علق مؤلف التقرير دارين طومسون Darren Thomson، رئيس استراتيجية الأمن السيبراني في CyberCube، قائلاً: “مع زيادة توافر المعلومات الشخصية عبر الإنترنت، يستثمر المجرمون في التكنولوجيا لاستغلال هذا الاتجاه. ستعمل تقنيات الهندسة الاجتماعية الجديدة والناشئة مثل الفيديو والصوت عن طريق التزييف العميق على تغيير مشهد التهديدات الإلكترونية بشكل أساسي وستصبح مجدية تقنيًا وقابلة للحياة اقتصاديًا للمنظمات الإجرامية من جميع الأحجام”
ويقول دارين طومسون “تخيل سيناريو ينتشر فيه مقطع فيديو لإيلون ماسك يقدم نصائح تداول من الداخل – إنه ليس فقط إيلون ماسك الحقيقي. أو سياسي يعلن سياسة جديدة في مقطع فيديو، لكنها مرة أخرى ليست حقيقية. لقد رأينا بالفعل مقاطع الفيديو المزيفة هذه المستخدمة في الحملات السياسية ؛ إنها مسألة وقت فقط قبل أن يطبق المجرمون نفس الأسلوب على الشركات والأفراد الأثرياء. قد يكون الأمر بسيطًا مثل بريد صوتي مزيف من أحد كبار المديرين يوجه الموظفين لإجراء دفعة احتيالية أو تحويل الأموال إلى حساب أنشأه أحد المتطفلين”.
جودة التزييف:
تم استخدام تقنية Deepfake بعدة طرق لاستهداف الأشخاص في جميع مناحي الحياة. لم يقتصر استخدامها لإنشاء صور ومقاطع فيديو مزيفة للمشاهير والسياسيين فحسب، بل تم استخدام هذه التقنية أيضًا للاحتيال على الأعمال وسرقة أموالهم، على سبيل المثال: في أواخر عام 2019، تعرضت شركة ألمانية للطاقة للاحتيال بمبلغ 220 ألف دولار أمريكي بعد أن كان التزييف العميق قادرًا على تقليد الصوت لخلق صوت شخصية تنفيذية رفيعة المستوى يطالب الموظف بالدفع الفوري.
قال متحدث باسم شركة التأمين التابعة للشركة لصحيفة “واشنطن بوست “: “كان البرنامج قادرًا على تقليد الصوت، وليس الصوت فقط: النغمة، وعلامات الترقيم والتوقف الصوتية، واللهجة الألمانية” . لم يتم إعادة إنشاء الصوت بشكل مثالي فحسب، بل تمت مطابقة المكالمة الهاتفية جنبًا إلى جنب مع بريد إلكتروني مزيف عميق يحاكي المدير التنفيذي المستهدف، مما يضيف طبقة أخرى من الشرعية.
يدرك أصحاب الاهتمام في المجال التقني حجم وخطورة التزييف العميق، كما أنهم يعانون من انتشار هذه الظاهرة في ظل عدم توفر الأدوات التقنية لمكافحة هذا التزييف، ولكننا نرى أن هناك دعوات جادة نحو التحرك لكبح جماح هذه التقنيات التي قد تؤدي إلى خسائر كبيرة في جميع المجالات وهي تقنية سلبية غير مستحبة إذا ما استخدمت سلباً ضد المجتمعات.
السيناريو الثاني: ستستمر تقنيات التزييف العميق في التطور وسيتم استخدامها لأهداف إيجابية تحت رقابة قانونية.
التطورات في مجال الذكاء الاصطناعي تكشف عن فرص هائلة ليستفيد منها للمجتمع. في الوقت نفسه، تزداد أهمية معالجة التداعيات الناشئة جراء سوء استخدامه وبالتالي، غالبًا ما يتم التركيز على التصميم الأخلاقي والآمن لمنع الفشل المتعمد أو غير متعمد ومع ذلك فإن فالجهود الموجهة نحو الأمن السيبراني لسلامة الذكاء الاصطناعي تأخذ في الاعتبار أيضًا عمليات إنشاء التزييف المتعمد – بما في ذلك تصميم الذكاء الاصطناعي الخبيث غير الأخلاقي.
في الآونة الأخيرة، تم التعبير عن تركيز مماثل على الجهات الفاعلة السلبية فيما يتعلق بأمن وسلامة الواقع الافتراضي، في حين أن تقاطع الذكاء الاصطناعي والواقع الافتراضي يوفر مجموعة واسعة من إمكانيات التخصيب المتبادل المفيدة، فإنه مسؤول عن توقع التزييف العميق في المستقبل من البداية نظرًا للتأثيرات الاجتماعية والنفسية والتكنولوجية المحتملة.
يتم حالياً اعتماد التعلم العميق على نطاق واسع في مجال الأمن السيبراني لمعالجة مجموعة متنوعة من مخاوف الأمان والخصوصية. ففي السنوات الأخيرة تبنى المبرمجون التعلم العميق بشكل متزايد إما لتطوير هجمات أمنية جديدة اعتماداً على تقنية Deepfakes لنشر المعلومات الخاطئة على الشبكات الاجتماعية بالاعتماد على الخوارزمية الأكثر شيوعًا لإنشاء الصور المزيفة العميقة هي شبكات GAN فقد استهدفت دراسة تقينة في عام 2020 تعتمد على التعلم الذكي لمحاربة المعلومات الخاطئة الذكية و تقوم هذه الدراسة بتطوير مجموعة من العمليات العملية ودمجها في الأمن السيبراني بحيث يمكن تعليم المتخصصين في الأمن السيبراني في المستقبل، لاستخدام برامج الكشف والتعرف على التزييف العميق.
أجريت دراسة علمية في عام 2019 لتحليل 84 مقالة إخبارية على الإنترنت متاحة للجمهور لفحص ماهية التزييف العميق ومن ينتجها، وما هي فوائد وتهديدات تقنية التزييف العميق، وما هي أمثلة التزييف العميق، وكيفية مكافحة التزييف العميق . تشير نتائج الدراسات العلمية إلى أنه في حين أن تقنية التزييف العميق تشكل تهديدًا كبيرًا لمجتمعنا المتمثل في النظام السياسي والأعمال، إلا أنه يمكن مكافحتهم من خلال التشريعات والتنظيمات، وسياسات الشركات والعمل التطوعي، والتعليم والتدريب، وكذلك تطوير التكنولوجيا لاكتشاف التزييف العميق، ومصادقة المحتوى، ومنع التزييف العميق.
في مقابلة مع كاتبة العدل البريطالية كيلسي فاريش Kelsey Farish وهي محامية في الفضايا التجارية والتكنولوجية وقانون الخصوصية أجابت عن السؤالين التاليين:
ما هي الآثار القانونية للتلاعب السمعي البصري والتزييف العميق؟
يطرح التزييف العميق العديد من المخاطر الاجتماعية والسياسية النظامية المحتملة مثل التلاعب بالخطاب المدني، والتدخل في الانتخابات والأمن القومي، فضلاً عن تآكل الثقة في الصحافة والمؤسسات العامة بشكل عام لا تقل أهمية عن الضرر الذي يلحق بالأفراد والشركات، ويشمل التأييد الكاذب، والتقديمات الاحتيالية للأدلة الوثائقية، وفقدان السيطرة الإبداعية على المحتوى السمعي البصري، والابتزاز، والمضايقات، والإضرار بالسمعة.
كيف يتم إعداد قانون المملكة المتحدة حاليًا للتعامل مع التزييف العميق؟
تجيب أنه قد تؤدي عمليات التزييف العميق إلى إدعاء باطل، ولكن فقط بقدر ما تحتوي عملية التزييف على كلمات كاذبة تؤدي إلى خسارة مالية قابلة للقياس الكمي. الصور المنشورة التي تلحق الضرر بسمعة شخص محدد قد تشكل تشهيرًا، ولكن بعد الإصلاحات بموجب قانون التشهير 2013، يجب أن يتسبب هذا المنشور عادةً في “ضرر جسيم” للفرد المصوَر حتى يكون قابلاً للمقاضاة.
وتشير إلى أنه من غير المرجح أن تنطبق قوانين الخصوصية، بما في ذلك قانون حماية البيانات 2018 أو اللائحة العامة لحماية البيانات (الاتحاد الأوروبي) 2016/679 بالمعنى الدقيق للكلمة، حيث يتم غالبًا إنشاء التزييف العميق باستخدام الصور التي توفرها الضحية (على سبيل المثال من خلال مشاركة صور سيلفي على وسائل التواصل الاجتماعي). علاوة على ذلك، على الرغم من أنها قد تكون واقعية، إلا أن التزييف العميق يصور بطبيعته سيناريو خيالي افتراضي لن تكون الخصوصية فيه على هذا النحو. ومع ذلك، عندما تحتوي تقنية التزييف العميق على تفاصيل سرية (على سبيل المثال، إذا “ تحدث ” شخص مزيف عميقًا للكشف عن حقائق خاصة عن شخص آخر)، فقد يتم تطبيق الأضرار المتعلقة بخرق الثقة وإساءة استخدام المعلومات الخاصة.
وتذكر أنه قد يكون من الصعب أيضًا تأكيد حماية حقوق النشر، نظرًا لتعدد أصحاب الحقوق المحتملين المعنيين وإمكانية الحصول على إعفاءات من التعامل العادل. من المهم أيضًا ملاحظة أنه من المحتمل أن تنشأ التعقيدات حيث يجب الموازنة بين هذه الحقوق والحماية وحريات التعبير.
أما بالنسبة للإساءة الجنسية القائمة على الصور (المصطلح المفضل الذي يتضمن أضرارًا مثل “الانتقام الإباحي”) فتشير إلى أن لجنة القانون تجري حالياً مراجعة للقانون الجنائي الحالي فيما يتعلق بالتقاط الصور الحميمة وصنعها ومشاركتها دون موافقة. يتضمن هذا على وجه التحديد التنقيحات المحتملة للقسم 33 من قانون العدالة الجنائية والمحاكم لعام 2015، وجرائم استراق النظر بموجب المادة 67 من قانون الجرائم الجنسية لعام 2003 ( SOA 2003 )، وقانون استراق النظر (الجرائم) لعام 2019، والتعرض بموجب SOA 2003، ق 66، كما وكذلك جريمة انتهاك الآداب العامة في القانون العام.
إن تصحيح ومحاربة التزييف العميق أمر صعب، ومن أجل محاربة التزييف العميق، نحتاج إلى فهم التزييف العميق، وأسباب وجودها، والتكنولوجيا التي تقف وراءها. وهذا ما تناولناه في ورقتنا العلمية السابقة بعنوان (التزييف العميق آلياته ومتطلباته ومخاطره) المنشورة على موقع العين الإخباري ومع ذلك، لم يبدأ البحث العلمي إلا مؤخرًا في معالجة التضليل الرقمي في وسائل التواصل الاجتماعي نظرًا لأن تقنية التزييف العميق ظهرت على الإنترنت منذُ فترة قصيرة في عام 2017، فإن الأدبيات العلمية حول هذا الموضوع قليلة.
نظرة مستقبلية لقانون التزييف العميق:
بعد تحليل السيناريوهات السابقة نتوقع أن يستمر البحث والدراسة وخاصة في الجوانب التقنية والقانونية حول السيطرة على الانتشار السلبي لاستخدام تقنيات التزييف العميق. ونقترح في هذا الصدد مقترحين. المقترح الأول: إصدار رخص إلكترونية دولية للمبرمجين لمزاولة البرمجة وإنشاء البرمجيات المختلفة بحيث يصبح كل برنامج أو خوارزمية ذو هوية معروفة المصدر والمنشأ حول العالم، ونقر بصعوبة هذا الإجراء إلا أنه سيلعب دوراً بارزاً في تحجيم استخدام التقنية السلبية للتزييف العميق والحد من انتشارها تقنياً. المقترح الثاني: أن يلتزم المطورين لتطبيقات التزييف العميق بتسجيل هويات المبرمجين الذي سيستخدمون هذه التطبيقات في إنتاج محتوى تزييف عميق سلباً أم إيجاباً.
