تقوم الجهات الفاعلة التهديدات ، التي من المحتمل أن تكون مقرها في الصين وإيران ، بصياغة طرق جديدة لاختطافها والاستفادة منها الأمريكية الذكاء الاصطناعي (AI) نماذج للنية الضارة ، بما في ذلك عمليات التأثير السرية ، وفقًا لتقرير جديد صادر عن Openai.
يتضمن تقرير فبراير اثنين من الاضطرابات التي تنطوي على فاعلات التهديد التي يبدو أنها نشأت من الصين. وفقًا للتقرير ، استخدمت هذه الجهات الفاعلة ، أو على الأقل حاولت استخدام النماذج التي صممتها Openai و Meta.
في أحد الأمثلة ، حظر Openai حساب ChatGpt الذي ولدت تعليقات تنتقد المنشق الصيني Cai Xia. تم نشر التعليقات على وسائل التواصل الاجتماعي من خلال الحسابات التي ادعت أنها أشخاص مقرهم في الهند والولايات المتحدة ، ومع ذلك ، لا يبدو أن هذه المنشورات تجذب مشاركة كبيرة عبر الإنترنت.
هذا الممثل نفسه استخدم أيضا خدمة chatgpt لتوليد مقالات إخبارية إسبانية طويلة الشكل “تشوه” الولايات المتحدة وتم نشرها لاحقًا من قبل وسائل الأخبار الرئيسية في أمريكا اللاتينية. نسبت خطوط هذه القصص إلى فرد ، وفي بعض الحالات ، شركة صينية.
أدان الصين وإيران وروسيا من قبل المنشقين في قمة جنيف الجانبية التابعة للأمم المتحدة
تجد الجهات الفاعلة للتهديدات في جميع أنحاء العالم ، بما في ذلك تلك التي تتخذ من الصين وإيران ، إيجاد طرق جديدة لاستخدام نماذج الذكاء الاصطناعى الأمريكيين للنية الخبيثة. (Bill Hinton/Philip Fong/AFP/Maksim Konstantinov/SOPA الصور/lightrocket عبر Getty Images)
خلال إحاطة صحفية حديثة تضمنت Fox News Digital ، قال بن نمو ، المحقق الرئيسي في فريق Openai’s Intelligence and Investigation ، إنه تم إدراج ترجمة كمحتوى برعاية في مناسبة واحدة على الأقل ، مما يشير إلى أن شخصًا ما قد دفع ثمنها.
يقول Openai إن هذه هي الحالة الأولى التي نجح فيها ممثل صيني في زرع مقالات طويلة الشكل في وسائل الإعلام الرئيسية لاستهداف جماهير أمريكا اللاتينية مع روايات مكافحة الولايات المتحدة.
وقال نمو: “من دون رؤية هذا الاستخدام من الذكاء الاصطناعي ، لم نتمكن من الاتصال بين التغريدات ومقالات الويب”.
وأضاف أن ممثلي التهديد يمنحون في بعض الأحيان Openai لمحة عما يفعلونه في أجزاء أخرى من الإنترنت بسبب كيفية استخدامهم للموديلات.
“هذه لمحة مقلقة إلى حد كبير في الطريقة التي حاول أحد الممثلين غير الديمقراطيين استخدام الذكاء الديمقراطي أو المقيمين في الولايات المتحدة لأغراض غير ديمقراطية ، وفقًا للمواد التي كانوا يولدونها”.
يتم نقل علم الصين خلف زوج من كاميرات المراقبة خارج مكاتب الحكومة المركزية في هونغ كونغ ، الصين ، يوم الثلاثاء ، 7 يوليو 2020. دافع زعيم هونغ كونغ كاري لام عن تشريع الأمن القومي الذي فرضته المدينة في الأسبوع الماضي ، ساعات ، ساعات بعد أن أكدت حكومتها صلاحيات الشرطة الجديدة الواسعة ، بما في ذلك عمليات البحث التي لا تقل عن الضمان والمراقبة عبر الإنترنت ومصادر الممتلكات. (روي ليو/بلومبرج عبر غيتي إيمس)
حظرت الشركة أيضًا حساب chatgpt الذي أنشأت تغريدات ومقالات تم نشرها بعد ذلك على أصول الطرف الثالث المرتبطة علنًا بنظام التشغيل iOS الإيراني المعروف (الإدخال/الإخراج). IO هي عملية نقل البيانات بين الكمبيوتر والعالم الخارجي ، بما في ذلك حركة الصوت والفيديو والبرامج والنص.
تم الإبلاغ عن هاتين العمليتين كجهود منفصلة.
“إن اكتشاف تداخل محتمل بين هذه العمليات – وإن كان صغيرًا ومعزولًا – يثير سؤالًا حول ما إذا كان هناك رابطة تعاون بين هذه iOS الإيرانية ، حيث قد يعمل أحد المشغلين نيابة عن ما يبدو أنه شبكات مميزة” ، The Threat الحالات التقرير.
في مثال آخر ، حظر Openai مجموعة من حسابات ChatGPT التي كانت تستخدم نماذج Openai لترجمة وتوليد تعليقات لشبكة الطعن الرومانسي ، المعروفة أيضًا باسم “ذبح الخنازير” ، عبر منصات مثل X و Facebook و Instagram. بعد الإبلاغ عن هذه النتائج ، أشار Meta إلى أن النشاط بدا أنه ينشأ من “مركب الاحتيال حديثًا في كمبوديا.
ما هي شركة Deepseek الصينية AI؟
يظهر شعار Openai ChatGpt على هاتف محمول في هذا الرسم التوضيحي في 30 مايو 2023 في وارسو ، بولندا. ((تصوير Jaap Arriens/Nurphoto عبر Getty Images))
في العام الماضي ، أصبح Openai أول مختبر أبحاث منظمة العفو الدولية ينشر تقارير حول الجهود المبذولة لمنع سوء المعاملة من قبل الخصوم وغيرهم من الجهات الفاعلة الضارة من خلال دعم الولايات المتحدة وحكومات الحلفاء وشركاء الصناعة وأصحاب المصلحة.
تقول Openai إنها وسعت بشكل كبير قدراتها الاستقصائية وفهم أنواع جديدة من سوء المعاملة منذ نشر تقريرها الأول وعطلت مجموعة واسعة من الاستخدامات الضارة.
تعتقد الشركة ، من بين تقنيات الاضطراب الأخرى ، أن شركات الذكاء الاصطناعى يمكنها جمع رؤى كبيرة حولها الجهات الفاعلة التهديد إذا تمت مشاركة المعلومات مع مقدمي الخدمات المنبع ، مثل مقدمي الاستضافة ومقدمي البرامج ، بالإضافة إلى منصات التوزيع المصب (شركات الوسائط الاجتماعية والباحثين مفتوح المصدر).
انقر هنا للحصول على تطبيق Fox News
يؤكد Openai على أن تحقيقاتهم تستفيد أيضًا بشكل كبير من العمل الذي يشاركه أقرانهم.
“نحن نعلم أن الجهات الفاعلة في التهديدات ستستمر في اختبار دفاعاتنا. نحن مصممون على الاستمرار في تحديد محاولاتنا ، ومنعها وتعطيلها وفضحها لإساءة استخدام نماذجنا من أجل النهايات الضارة” ، صرح أوبياي في التقرير.
