Home اقتصاد التمكين التدريجي؟ – ثورة هامشية

التمكين التدريجي؟ – ثورة هامشية

14
0

العنوان الفرعي هو “مخاطر الوجودية الجهازية من تطور الذكاء الاصطناعي الإضافي” ، والمؤلفين هم Jan Kulveit ، et.al. لقد طلب مني العديد منكم التعليقات على هذه الورقة. ها هو الملخص:

تبحث هذه الورقة في المخاطر النظامية التي تشكلها التطورات الإضافية في الذكاء الاصطناعي ، وتطوير مفهوم “عدم التمكين التدريجي” ، على عكس سيناريوهات الاستحواذ المفاجئة التي تمت مناقشتها عادة في سلامة الذكاء الاصطناعي. نحن نحلل كيف يمكن أن تحوّل التحسينات المتزايدة في قدرات الذكاء الاصطناعي التأثير الإنساني على الأنظمة الواسعة النطاق التي يعتمد عليها المجتمع ، بما في ذلك الاقتصاد والثقافة والدولة القومية. نظرًا لأن الذكاء الاصطناعي يحل محل العمل البشري والإدراك البشري بشكل متزايد في هذه المجالات ، يمكن أن يضعف كل من آليات التحكم البشرية الصريحة (مثل التصويت واختيار المستهلك) والمواءمة الضمنية مع المصالح الإنسانية التي تنشأ غالبًا من اعتماد النظم المجتمعية على المشاركة البشرية في الوظيفة. علاوة على ذلك ، إلى الحد الذي تحفز فيه هذه الأنظمة النتائج التي لا تصطف مع التفضيلات البشرية ، قد تعمل AIS على تحسين تلك النتائج بشكل أكثر عدوانية. قد تكون هذه الآثار تعززًا متبادلًا عبر المجالات المختلفة: تشكل القوة الاقتصادية الروايات الثقافية والقرارات السياسية ، في حين أن التحولات الثقافية تغير السلوك الاقتصادي والسياسي. نؤكد أن هذه الديناميكية يمكن أن تؤدي إلى فقدان لا رجعة فيه بشكل لا رجعة فيه للتأثير البشري على النظم المجتمعية الحاسمة ، مما يؤدي إلى كارثة وجودية من خلال عدم التمكين الدائم للإنسانية. هذا يشير إلى الحاجة إلى كل من أساليب البحث الفني والحوكمة التي تتناول على وجه التحديد خطر التآكل الإضافي للتأثير الإنساني عبر الأنظمة المجتمعية المترابطة.

هذه واحدة من الحجج الأكثر ذكاءً التي رأيتها ، لكنني بعيد جدًا عن مقتنع. متى كان البشر يسيطرون على الإطلاق لتبدأ؟ (أدرك روبن هانسون هذا قبل بضع سنوات وما زال قلقًا بشأنه ، كما أفترض أنه ينبغي أن يكون كذلك. لا توجد عملية تنافسية موثوقة للتطور الثقافي – بوو هوو!)

لاحظ أن الحجة هنا ليست أن بعض الأثرياء سيمتلكون كل الذكاء الاصطناعي. بدلا من ذلك ، يبدو أن البشر يفقدون السلطة تماما. لكن ألا يستنسخ الناس Deepseek لمبالغ صغيرة يبعث على السخرية من المال؟ لماذا لا يكون مستقبل الذكاء الاصطناعي غير مركزي إلى حد ما ، مع الكثير من الشيكات والتوازنات ، والكثير من ملكية الإنسان للتمهيد؟

بدلاً من التركيز على “البشر بشكل عام” ، أقول انظر إلى الإنسان الهامشي. هذا الفرد-إلى الأبد بقدر ما أستطيع أن أقول-لديه سلطة مساومة على مستوى الصفر ضد مجتمع تنسيق وكارتيلي محاذاة ضده. مع أو بدون الذكاء الاصطناعي. ومع ذلك ، فإن هذا بالكاد يحدث ، حيث يكون المجرمون المتطرفون استثناءً واحدًا. ببساطة لا يوجد تواطؤ كافٍ لاستخراج الكثير من الأفراد الوحيدين (غير المجرمين).

أنا لا في هذه الورقة أرى حجة حقيقية مفادها أن الكتلة الحرجة من AIS سوف تتوافق ضد البشر. يبدو بالفعل أنه من غير المرجح أن تتوافق “AIS in China” و “AIS in America” ​​مع بعضها البعض. وبالمثل ، فإن “الأثرياء الأشرار” لا يتواطأون مع بعضهم البعض أيضًا ، أقل بكثير عبر الحدود.

أشعر إذا قامت الورقة بمحاولة جادة لتصميم احتمال تواطؤ الذكاء الاصطناعي في جميع أنحاء العالم ، فستظهر النتائج في الاتجاه المعاكس. لذلك ، في عيني ، “الشيكات والتوازنات إلى الأبد” هي إلى حد بعيد التوازن الأكثر احتمالا.

Source Link