أطراف المعارضة في إيطاليا وقد اشتكت إلى مراقبة الاتصالات حول سلسلة من الصور التي تم إنشاؤها من الذكاء الاصطناعى التي نشرت على وسائل التواصل الاجتماعي من قبل نائب رئيس الوزراء ماتيو سالفيني المتطرف ، واصفاهم بأنها “العنصرية ، الإسلاموفوبيك وكراهية الأجانب” ، علمت الجارديان.
قدم الحزب الديمقراطي في الوسط (PD) ، مع Greens and Left Alliance ، شكوى يوم الخميس مع AGCOM ، السلطة التنظيمية للاتصالات الإيطالية ، بزعم أن الصور المزيفة التي استخدمها الدوري تحتوي على “جميع فئات خطاب الكراهية تقريبًا”.
على مدار الشهر الماضي ، ظهرت عشرات الصور التي تم إنشاؤها على ما يبدو على القنوات الاجتماعية للدوري ، بما في ذلك على Facebook و Instagram و X. تصور الصور في كثير من الأحيان رجال ملونين ، وغالبًا ما تكون مسلحة بالسكاكين أو مهاجمة النساء أو ضباط الشرطة.
وقال أنطونيو نايتا ، عضو مجلس الشيوخ PD: “في الصور التي نشرها حزب سالفيني وتوليدها من الذكاء الاصطناعى ، هناك جميع فئات خطاب الكراهية تقريبًا ، من العنصرية وكراهية الأجانب إلى رهاب الإسلام.
“إنهم يستخدمون الذكاء الاصطناعي لاستهداف فئات محددة من الناس – المهاجرين والعرب – الذين يتم تصويرهم على أنهم مجرمون محتملين ولصوص ومغتصبين.
“هذه الصور ليست عنيفة فحسب ، بل هي أيضًا خادعة: من خلال عدم وضوح وجوه الضحايا ، يبدو الأمر كما لو كانوا يريدون حماية هوية الشخص الذي هُجمت ، ويضلل المستخدمون إلى الاعتقاد بأن الصورة حقيقية. هذه هي الصور التي تحرض على الكراهية.”
وقال فرانشيسكو إميليو بوريلي ، النائب عن الخضر والتحالف اليسرى: “هذا أمر خطير”. “تنشئ الذكاء الاصطناعى محتوى بناءً على تعليماتنا ، وفي هذه الحالة ، تم توجيه تعليمات بوضوح بإنشاء صور لأشخاص سود يسرقون امرأة مسنة أو امرأة خائفة. إنه جزء من استراتيجيتهم لخلق الخوف بين المواطنين.”
أكد متحدث باسم حزب سالفيني أن “بعض الصور” ظهرت على قنوات التواصل الاجتماعي الخاصة بهم “تم توليدها رقميًا”.
في بيان قال: “النقطة ليست هي الصورة. النقطة هي الحقيقة. كل منشور يعتمد على تقارير حقيقية من الصحف الإيطالية ، مع الأسماء والتواريخ والأماكن.
“إذا كان الواقع يبدو قاسياً للغاية ، فلا يلومون أولئك الذين يبلغون عنها ، لكن أولئك الذين يصنعون ذلك. إذا كان الأمر يتعلق بجريمة ، فمن الصعب مرافقة الأخبار بصور مبهجة أو مطمئنة.”
وقال سالفاتور رومانو ، رئيس الأبحاث في الطب الشرعي من الذكاء الاصطناعي غير الربحية ، إن صور الدوري تحملت “جميع السمات المميزة للذكاء الاصطناعي”.
“إنها صور خارج النص والتي يكون فيها الموضوع في المقدمة والباقي غير واضح تمامًا. ما يقلقني هو أن هذه الصور التي تم إنشاؤها من AI أصبحت أكثر واقعية”.
تشير الشكوى إلى AGCOM إلى العديد من الأمثلة على الصور التي يُعتقد أنها تم إنشاؤها رقميًا ، قائلة إنها ظهرت إلى جانب العلامة التجارية للوسائل الإعلامية السائدة ذات السمعة الطيبة التي أبلغت عن الجرائم المذكورة ولكن لم تستخدم صور الجناة المزعومين.
في إحدى الحالات ، يقول منشور الدوري: “يهاجم أجنبي موصل القطار” ويزحلق النص مع صورة رجل ملون مع رفع قبضته.
ال العنوان الأصلي في Il Resto del Carlino يقرأ: “يهاجم [female] قائد القطار وشرارات الذعر على متن الطائرة. ” لم يذكر المقال جنسية المشتبه فيه إلى ما هو أبعد من وصفه بأنه “أجنبي”.
تُظهر صورة أخرى واردة في الشكوى أمًا وأبًا في لباس إسلامي يبدو أنه يصرخ بغضب على فتاة ، “وبالتالي تغذي التحامل العنصري والخوف الإسلامي”.
لا تشير Il Giorno ، الصحيفة التي تم الاستشهاد بها ، في تقريرها إلى دين العائلة أو الفتاة التي يُزعم أنها تعرضت للإساءة من قبل والديها ، إلى جانب القول بأن الطفل التحق بمدرسة اللغة العربية. لم يكن هناك صورة للعائلة.
استخدام الصور التي تم إنشاؤها الدعاية من قبل الأحزاب البعيدة هي ظاهرة متنامية دخل ذلك إلى التيار الرئيسي حول الانتخابات الأوروبية في العام الماضي ، عندما بدأت الصور المصممة لتهدئة القادة أو شيطانيهم مثل إيمانويل ماكرون على وسائل التواصل الاجتماعي.
“ثم جاءت الانتخابات الأمريكية دونالد ترامب وإيلون موسك ، اللذان قاموا بتطبيع هذا الاتجاه بفعاليةقال رومانو.
“نرى اليوم أن الأطراف البعيدة لم تستمر فقط في توليد صور مزيفة للدعاية ولكنها زادت أيضًا من استخدامها في وقت تحسنت فيه أدوات الذكاء الاصطناعي جودة المحتوى ، مما يجعل هذه الظاهرة أكثر إثارة للقلق.”
على الرغم من أن المنصات الاجتماعية ملزمة باتخاذ خطوات لتوقع هذه المخاطر – على سبيل المثال عن طريق إضافة ملصق تحدد أن صورة تم إنشاؤها بواسطة AI – يقول رومانو ، في الممارسة العملية ، هذه الآلية غير فعالة تقريبًا.
وردا على سؤال حول ما إذا كان الدوري يدرك أن الصور يمكن أن تولد خطاب الكراهية ، قال متحدث باسم حزب سالفيني: “نحن آسفون ، لكن تضامننا يذهب إلى الضحايا ، وليس الجناة.
“إذا كان إدانة الجرائم التي ارتكبها الأجانب يعني” كراهية الأجانب “، فربما ليست المشكلة هي الكلمة ولكن أولئك الذين يستخدمونها في النقاش.
إذا اعتبرت AGCOM هجوم المحتوى الذي تم وضع علامة عليه ، في إطار قانون الخدمات الرقمية للاتحاد الأوروبي ، تم طلب منشورات لإلغاء ، وإزالة الحسابات وتغريم منصات الوسائط الاجتماعية لفشلها في سلوك مستخدم الشرطة.
في عام 2023 ، تغريم Agcom Meta 5.85 مليون يورو (5 ملايين جنيه إسترليني) وأمر بإزالة العشرات من الحسابات لخرق الحظر على إعلانات المقامرة.
تم الاتصال بـ Meta ، صاحب Facebook و Instagram للتعليق. قال متحدث باسم X: “نحن لسنا ملزمين من الناحية القانونية بتسمية كل صورة تم إنشاؤها من الذكاء الاصطناعى. من الواضح أن هذه المنشورات هي السياسة الواضحة.
“كن مطمئنًا ، نحن نعتقد أنه من الأهمية بمكان الحفاظ على صحة المحادثة على X ، ونحن نتأكد من أننا مجهزون جيدًا للقتال ضد أي وسائل الإعلام المعالجة – بما في ذلك الاتجاه الصاعد لـ” Deepfakes ” – ونضع ملصقات مرئية على أي محتوى من هذا القبيل تم فضحه بواسطة مصدر موثوق”.
