يجب أن تحارب المنصات التقنية الارتفاع السريع في Deepfakes الصريحة و “Revenge Porn” باستخدام قاعدة بيانات من الصور لحماية النساء والفتيات عبر الإنترنت ، وفقًا للتوجيهات الجديدة التي يتم وضعها من قبل مراقبة الاتصالات في المملكة المتحدة.
هذه الخطوة جزء من مجموعة من التدابير التي اقترحها Ofcom لمعالجة كره النساء ، والمضايقة ومشاركة الصور الحميمة دون موافقة الموضوع – وغالبًا ما يشار إليها باسم “الانتقام الاباحية”.
يوصي المنظم باستخدام تقنية مطابقة التجزئة المزعومة ، والتي تسمح للمنصات بإنزال صورة كانت موضوع الشكوى.
ضمن النظام ، يتم الإشارة إلى صورة أو مقطع فيديو من قِبل المستخدم عبر قاعدة بيانات للصور غير المشروعة التي تم تحويلها إلى “تجزئة” أو بصمة رقمية. هذا يسمح للكشف عن الصور الضارة وإزالتها من الدورة الدموية.
ومن الأمثلة stopncii.org، الذي يسمح للناجين والضحايا بتوليد تجزئة من الصور الحميمة غير التوافقية ، والتي تتم مشاركة تفاصيلها عبر المنصات المشاركة.
وجدت Ofcom Research أن انتشار أدوات الذكاء الاصطناعى التوليدي ، والتي يمكن أن تخلق صورًا وصوتًا واقعية للغاية من مطالبات بسيطة من النوع يدويًا ، قد أدى إلى المزيد من إساءة استخدام الصور الحميمة في عام 2023 مما كانت عليه في جميع السنوات السابقة مجتمعة.
وقالت جيسيكا سميث من OFCOM ، التي قادت تطوير الإرشادات الجديدة: “من أجل إساءة استخدام الصور الحميمة ، نحن نقول أن شركات التكنولوجيا يجب أن تسجل في تقنية تسمى مطابقة التجزئة ، والتي هي أساسا قاعدة بيانات من الصور التي تمكن أي صورة لل يتم تحديدها على نطاق واسع أينما تتم مشاركتها على النظام الأساسي.
إنها تقنية مبتكرة حقًا. ما يعنيه ذلك هو أنه لا يجب الإبلاغ عنه في كل مرة يتم تحميلها. وهذا يعني أنه يتم الإبلاغ عنه مرة واحدة وأينما كان يتم تحديده. “
يتجاوز مشروع التوجيه ما هو مطلوب بموجب قانون السلامة عبر الإنترنت لعام 2023 ، من أجل تغطية الأضرار غير القانونية فحسب ، بل الأضرار “القانونية” التي لا تلبي عتبة جنائية ، مع وجود العديد من المنشورات الخاطئة غير القانونية من الناحية الفنية.
إنه يحدد كيف يمكن لمقدمي الخدمات – بما في ذلك تطبيقات المواعدة ، ووسائل التواصل الاجتماعي ، وألعاب ، ومواقع المواد الإباحية ، وخدمات البحث – معالجة المحتوى والنشاط الذي يؤثر بشكل غير متناسب على النساء والفتيات تقديراً للمخاطر المحددة التي يواجهونها.
وقال OFCOM أيضًا إنه يجب على المنصات أن تفكر في تقديم “مدافع” للسؤال عما إذا كان شخص ما متأكدًا من رغبته في نشر تعليق ضار يحتمل أن يكون – ميزة تبين أنها تؤدي إلى تغيير كبير في السلوك.
يوصي OFCOM بتقديم المنصات على إعدادات تجميع الافتراضية بحيث يمكن للنساء والفتيات بسهولة الحصول على الملامح الأكثر خصوصية دون الاضطرار إلى الذهاب إلى جميع الإعدادات لاختيار تلك التي تحميها أكثر.
في ورقة التشاور ، يبرز OFCOM:
-
النساء أكثر عرضة خمس مرات لتكون ضحايا إساءة استخدام الصور الحميمة.
-
ما يقرب من 70 ٪ من الأولاد الذين تتراوح أعمارهم بين 11 و 14 عامًا تعرضوا للمحتوى عبر الإنترنت الذي يعزز كره النساء وغيرها من الآراء الضارة.
-
ما يقرب من ربع الفتيات المراهقات (23 ٪) يرون بانتظام المحتوى الذي يعرض أو يمنح النساء.
-
تم الإبلاغ عن الإساءة المنزلية عبر الإنترنت-نصف الناجين (49 ٪) لم يخبروا أحد عن ذلك.
-
ما يقرب من ثلاثة أرباع المجيبين في دراسة استقصائية (73 ٪) قد شهدت تهديدات وإساءة معاملة عبر الإنترنت.
هناك رسالة رئيسية وراء قانون السلامة عبر الإنترنت هي السلامة حسب التصميم ، مما يعني أنه من المتوقع أن تبني المنصات في تدابير السلامة من مرحلة التصميم. تقول Ofcom إنها ستستخدم صلاحيات الشفافية الخاصة بها لتسليط الضوء على المنصات المتوافقة والتي ليست كذلك ، لإبلاغ المستخدمين.
يخرج مشروع التوجيه الآن للحصول على تعليقات ، مع نشر التوجيه النهائي في وقت لاحق من هذا العام.
وقالت ميلاني داوز ، الرئيس التنفيذي لشركة OFCom: “إن إرشاداتنا العملية هي دعوة للعمل للخدمات عبر الإنترنت ، ووضع معيار جديد وطموح للسلامة عبر الإنترنت للنساء والفتيات.
“لا يوجد فقط ضرورة أخلاقية لشركات التكنولوجيا لحماية مصالح المستخدمين ، ولكنها أيضًا منطقية تجارية سليمة ، مما يعزز المزيد من الثقة والمشاركة مع نسبة كبيرة من قاعدة عملائها.”
