تطالب Deepfake Porn بأدوات تقنية وتدعو إلى وضع لوائح تنظيمية
![](https://golan-gov.org/wp-content/uploads/2024/07/a-blue-toned-photo-illustration-of-a-woman-with-lines-of-light-coming-from-her-face-and-forming-a-webbed-version-of-her-face.jpg)
من السهل جدًا إنشاء مواد إباحية مزيفة لأي شخص بفضل أدوات الذكاء الاصطناعي الحديثة. وجد تقرير صدر عام 2023 من قبل Home Security Heroes (شركة تراجع خدمات حماية سرقة الهوية) أن الأمر يتطلب صورة واحدة واضحة للوجه وأقل من 25 دقيقة لإنشاء فيديو إباحي مزيف مدته 60 ثانية مجانًا.
وقد انتبه العالم لهذا الواقع الجديد في شهر يناير/كانون الثاني الماضي، عندما تم تداول صور إباحية مزيفة للغاية لتايلور سويفت على منصات التواصل الاجتماعي، حيث حصلت الصورة الواحدة على 47 مليون مشاهدة قبل إزالتها. كما شهد آخرون في صناعة الترفيه، وأبرزهم نجوم البوب الكوريون، صورهم تُلتقط ويُساء استخدامها، لكن الأمر كذلك بالنسبة لأشخاص بعيدين عن الأضواء العامة. ومع ذلك، هناك شيء واحد مشترك بين جميع الضحايا تقريبًا: وفقًا لتقرير عام 2023، فإن 99 بالمائة من الضحايا هم من النساء أو الفتيات.
ويحفز هذا الوضع المزري على التحرك، وخاصة من جانب النساء اللاتي سئمن. وعلى حد تعبير نادية لي، إحدى مؤسسي الشركات الناشئة: “إذا لم تتسارع تكنولوجيا السلامة بنفس وتيرة تطور الذكاء الاصطناعي، فإننا في وضع حرج”. على الرغم من وجود أبحاث كبيرة حول أجهزة كشف التزييف العميق، إلا أنها تكافح من أجل مواكبة أدوات إنشاء التزييف العميق. علاوة على ذلك، لا تساعد أجهزة الكشف إلا إذا كانت المنصة مهتمة بفحص التزييف العميق، ويتم استضافة معظم المواد الإباحية التزييفية العميقة على مواقع مخصصة لهذا النوع.
يقول لي، الرئيس التنفيذي لشركة That’sMyFace الناشئة في أستراليا: “يواجه جيلنا لحظة أوبنهايمر الخاصة به”. “لقد بنينا هذا الشيء” – أي الذكاء الاصطناعي التوليدي – “ويمكننا أن نسير في هذا الاتجاه أو ذاك به”. تقدم شركة Lee أولاً أدوات التعرف المرئي للعملاء من الشركات الذين يرغبون في التأكد من عدم ظهور شعاراتهم أو أزياءهم الرسمية أو منتجاتهم في المواد الإباحية (فكر، على سبيل المثال، في مضيفات الطيران). لكن هدفها على المدى الطويل هو إنشاء أداة يمكن لأي امرأة استخدامها لمسح الإنترنت بالكامل بحثًا عن المواد الإباحية المزيفة التي تحمل وجهها.
“إذا لم تتسارع تكنولوجيا السلامة بنفس وتيرة تطور الذكاء الاصطناعي، فسنكون في مأزق”. – نادية لي، هذا هو وجهي
كان لدى مؤسس شركة ناشئة أخرى سبب شخصي للمشاركة. كانت بريز ليو نفسها ضحية للمواد الإباحية المزيفة في عام 2020؛ وعثرت في النهاية على أكثر من 800 رابط يؤدي إلى الفيديو المزيف. تقول إنها شعرت بالإهانة، وشعرت بالرعب عندما وجدت أنه لم يكن أمامها سوى القليل من سبل الانتصاف: قالت الشرطة إنها لا تستطيع فعل أي شيء، وكان عليها بنفسها تحديد جميع المواقع التي ظهر فيها الفيديو وتقديم التماس لحذفه – مناشدات التي لم تكن ناجحة دائما. اعتقدت أنه لا بد من وجود طريقة أفضل. وتقول: “نحن بحاجة إلى استخدام الذكاء الاصطناعي لمكافحة الذكاء الاصطناعي”.
أسس ليو، الذي كان يعمل بالفعل في مجال التكنولوجيا، شركة Alecto AI، وهي شركة ناشئة تحمل اسم إلهة الانتقام اليونانية. يتيح التطبيق الذي تقوم بإنشائه للمستخدمين نشر ميزة التعرف على الوجه للتحقق من الاستخدام غير المشروع لصورتهم عبر منصات الوسائط الاجتماعية الرئيسية (وهي لا تفكر في الشراكة مع منصات إباحية). تهدف ليو إلى الشراكة مع منصات التواصل الاجتماعي حتى يتمكن تطبيقها أيضًا من تمكين الإزالة الفورية للمحتوى المسيء. وتقول: “إذا لم تتمكن من إزالة المحتوى، فإنك تعرض على الأشخاص صورًا مؤلمة حقًا وتخلق المزيد من التوتر”.
تقول ليو إنها تتفاوض حاليًا مع Meta حول برنامج تجريبي، والذي تقول إنه سيفيد المنصة من خلال توفير الإشراف الآلي على المحتوى. ومع ذلك، بالتفكير بشكل أكبر، تقول إن الأداة يمكن أن تصبح جزءًا من “البنية التحتية للهوية عبر الإنترنت”، مما يسمح للأشخاص بالتحقق أيضًا من أشياء مثل ملفات تعريف الوسائط الاجتماعية المزيفة أو ملفات تعريف مواقع المواعدة التي تم إعدادها باستخدام صورهم.
هل تستطيع اللوائح مكافحة الإباحية العميقة؟
تعد إزالة المواد الإباحية العميقة من منصات التواصل الاجتماعي أمرًا صعبًا بما فيه الكفاية، كما أن إزالتها من المنصات الإباحية أكثر صعوبة. للحصول على فرصة أفضل لفرض الإجراءات، يعتقد المدافعون عن الحماية من الاعتداء الجنسي على الصور أن هناك حاجة إلى لوائح تنظيمية، على الرغم من اختلافهم حول نوع اللوائح الأكثر فعالية.
بدأت سوزانا جيبسون منظمة MyOwn غير الربحيةبعد قصة الرعب الإباحية العميقة الخاصة بها. كانت تترشح لمقعد في مجلس مندوبي فرجينيا في عام 2023 عندما أرسل الحزب الجمهوري الرسمي في فرجينيا صورًا جنسية لها تم إنشاؤها ومشاركتها دون موافقتها، بما في ذلك، على حد قولها، لقطات شاشة لمقاطع إباحية مزيفة. وبعد أن خسرت الانتخابات بفارق ضئيل، كرست نفسها لقيادة المهمة التشريعية في ولاية فرجينيا ثم في جميع أنحاء البلاد للنضال ضد الاعتداء الجنسي على الصور.
“المشكلة هي أن كل ولاية تختلف عن الأخرى، لذا فهي عبارة عن خليط من القوانين. وبعضها أفضل بكثير من غيرها.” —سوزانا جيبسون، MyOwn
وكان أول فوز لها هو مشروع قانون وقعه حاكم فرجينيا في أبريل/نيسان الماضي لتوسيع نطاق قانون “الإباحية الانتقامية” الحالي في الولاية ليشمل المزيد من أنواع الصور. يقول جيبسون: “إنه ليس قريبًا مما أعتقد أنه ينبغي أن يكون، لكنه خطوة في الاتجاه الصحيح لحماية الناس”.
في حين تم تقديم العديد من مشاريع القوانين الفيدرالية لتجريم صراحة التوزيع غير التوافقي للصور الحميمة أو المواد الإباحية العميقة على وجه الخصوص، تقول جيبسون إنها ليس لديها آمال كبيرة في أن تصبح مشاريع القوانين هذه قانونًا للبلاد. وتقول إن هناك المزيد من الإجراءات على مستوى الولاية.
يقول جيبسون: “في الوقت الحالي، هناك 49 ولاية، بالإضافة إلى العاصمة، لديها تشريعات ضد التوزيع غير التوافقي للصور الحميمة”. “لكن المشكلة هي أن كل ولاية تختلف عن الأخرى، لذا فهي عبارة عن خليط من القوانين. وبعضها أفضل بكثير من غيرها.” يشير جيبسون إلى أن جميع القوانين تقريبًا تتطلب إثباتًا على أن مرتكب الجريمة تصرف بقصد مضايقة الضحية أو تخويفها، وهو ما قد يكون من الصعب جدًا إثباته.
من بين القوانين المختلفة، والمقترحات الخاصة بالقوانين الجديدة، هناك خلاف كبير حول ما إذا كان ينبغي اعتبار توزيع المواد الإباحية العميقة مسألة جنائية أو مدنية. وإذا كان الأمر مدنيًا، مما يعني أن للضحايا الحق في رفع دعوى للحصول على تعويضات، فهناك خلاف حول ما إذا كان ينبغي للضحايا أن يكونوا قادرين على مقاضاة الأفراد الذين وزعوا المواد الإباحية العميقة أو المنصات التي استضافتها.
وخارج الولايات المتحدة هناك خليط أكبر من السياسات. وفي المملكة المتحدة، جرم قانون السلامة على الإنترنت الذي صدر في عام 2023 توزيع المواد الإباحية المزيفة بعمق، وقد يجرم التعديل المقترح هذا العام إنتاجها أيضا. اعتمد الاتحاد الأوروبي مؤخرًا توجيهًا لمكافحة العنف والعنف السيبراني ضد المرأة، والذي يتضمن توزيع المواد الإباحية المزيفة، لكن الدول الأعضاء لديها حتى عام 2027 لتنفيذ القواعد الجديدة. في أستراليا، جعل قانون عام 2021 نشر صور حميمة دون موافقة جريمة مدنية، لكن القانون المقترح حديثًا يهدف إلى جعلها جريمة جنائية، ويهدف أيضًا إلى معالجة الصور المزيفة بشكل صريح. لدى كوريا الجنوبية قانون يتعامل بشكل مباشر مع المواد الإباحية العميقة، وعلى عكس العديد من القوانين الأخرى، لا يتطلب هذا القانون إثباتًا للنوايا الخبيثة. لدى الصين قانون شامل يقيد توزيع “المحتوى الاصطناعي”، ولكن لا يوجد دليل على أن الحكومة تستخدم هذه اللوائح للقضاء على المواد الإباحية العميقة.
وبينما تنتظر النساء اتخاذ إجراء تنظيمي، فإن الخدمات التي تقدمها شركات مثل Alecto AI وThat’sMyFace قد تسد الفجوات. لكن الوضع يذكرنا بصفارات الاغتصاب التي تحملها بعض النساء في المناطق الحضرية في حقائبهن حتى يكونن على استعداد لطلب المساعدة إذا تعرضن لهجوم في زقاق مظلم. من المفيد أن يكون لدينا مثل هذه الأداة، بالتأكيد، ولكن سيكون من الأفضل لو قام مجتمعنا باتخاذ إجراءات صارمة ضد الافتراس الجنسي بجميع أشكاله، وحاول التأكد من عدم حدوث الهجمات في المقام الأول.
من مقالات موقعك
مقالات ذات صلة حول الويب