حذرت لجنة مستقلة تابعة للأمم المتحدة يوم الأربعاء من أن التطورات في مجال الذكاء الاصطناعي تتجاوز الفهم العلمي والسياسة الحكومية، مما يعني أنه لا توجد ضمانات بأن التكنولوجيا لن تسبب أضرارا كارثية.
قال تقرير أولي صادر عن اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي التابعة للأمم المتحدة إن صناع السياسات يواجهون معضلة متزايدة: فهم بحاجة إلى أدلة قوية لتنظيم منظمة العفو الدولية على نحو فعال، ومع ذلك فإن مثل هذه الأدلة تكافح من أجل مواكبة التطور السريع للتكنولوجيا.
وقال يوشوا بنجيو، الرئيس المشارك للجنة، المؤلفة من 40 خبيرا إقليميا، إن “قدرات الذكاء الاصطناعي تفوق الفهم العلمي وقدرة الحكومات على التكيف”.
“مع تزايد الأدلة على سلوك الذكاء الاصطناعي الخادع، لا يستطيع العلم حاليًا ضمان أنه مع استمرار زيادة القدرات، لن يسبب الذكاء الاصطناعي ضررًا كارثيًا، سواء بمفرده أو بسبب المستخدمين الضارين.”
ويهدف التقرير، الذي يوصف بأنه أول تقييم عالمي مستقل لمخاطر وفرص الذكاء الاصطناعي، إلى تقديم تقييمات حديثة للعلم للمساعدة في توجيه عملية صنع القرار في ظل تعامل الحكومات مع الأنظمة سريعة التطور.
من المتوقع أن يصبح وكيل الذكاء الاصطناعي أكثر قدرة
وعلى المدى القريب، تتوقع التحول نحو أنظمة الذكاء الاصطناعي القادرة على تنفيذ مهام العالم الحقيقي، على الرغم من أن النمو قد يكون مقيدًا بسبب نقص الطاقة والبيانات عالية الجودة. وبمرور الوقت، تتوقع أن يكون الذكاء الاصطناعي المتطور ذاتيًا مدمجًا بشكل أعمق في الاقتصاد ويتقارب مع تقنيات مثل الحوسبة الكمومية والتكنولوجيا الحيوية.
يُظهر الذكاء الاصطناعي بالفعل استدلالًا على مستوى الخبراء في الرياضيات و علوم ويعمل على تسريع تطوير الأدوية واللقاحات، ويتضاعف تعقيد مهمته كل أربعة إلى سبعة أشهر، مما قد يسمح للأنظمة بإكمال العمل الذي يستغرق من البشر أيامًا أو أسابيع، وفقًا للتقرير.
وفي حين أن هذا يمكن أن يحقق فوائد اقتصادية كبيرة، فإنه لا يزال من غير الواضح ما إذا كانت مكاسب الإنتاجية من استخدام الذكاء الاصطناعي ستترجم إلى نمو أوسع أو تؤثر على الوظائف.
تسلط اللجنة الضوء على مخاطر السلامة والحوكمة في مجال الذكاء الاصطناعي
كما حددت اللجنة أيضًا مجموعة من المخاوف المتعلقة بالسلامة، مثل خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي عندما تصبح مستقلة ومخادعة بشكل متزايد.
يتم استخدام الذكاء الاصطناعي بالفعل لتوليد معلومات مضللة ومحتويات ضارة أخرى ويمكن استغلاله في عمليات الاحتيال والهجمات الإلكترونية والتهديدات البيولوجية.
ولا تزال الحوكمة مجزأة، حيث تفتقر العديد من البلدان إلى القدرة على تقييم أو تشكيل أنظمة الذكاء الاصطناعي المتقدمة، مما يجعلها تعتمد على تكنولوجيات لا يمكنها فهمها أو السيطرة عليها بشكل كامل. وقال التقرير إن أدوات السلامة الحالية تعتمد في كثير من الأحيان على بيانات اختبار محدودة تكشف عنها الشركات.
وحث الأمين العام للأمم المتحدة أنطونيو غوتيريش الحكومات على التحرك بسرعة.
وقال غوتيريش في بيان: “لا يمكن للعالم أن يحكم ما لا يستطيع فهمه”.
وأضاف: “الإمكانات كبيرة، لكن المخاطر حقيقية، وتكلفة الانتظار آخذة في الارتفاع”.
لجنة عالمية جديدة للتركيز على الرقابة على الذكاء الاصطناعي
أعلن القادة السياسيون والتقنيون العالميون، إلى جانب وكالة التكنولوجيا الرقمية التابعة للأمم المتحدة، يوم الأربعاء، عن إنشاء لجنة جديدة لمعالجة تطوير الذكاء الاصطناعي وسط مخاوف متزايدة بشأن مخاطره المحتملة.
وسيشارك في رئاسة اللجنة العالمية للذكاء الاصطناعي من أجل الصالح العام رئيس رواندا بول كاغامي والرئيس التنفيذي لشركة Salesforce CRM.N مارك بينيوف، وفقًا لوثيقة نظرة عامة استراتيجية على موقع اللجنة الإلكتروني. وستكون الأمينة العامة للاتحاد الدولي للاتصالات، دورين بوجدان-مارتن، نائبة الرئيس الدائمة. آخر و ومن المتوقع أيضًا أن تشارك الوكالات.
