لم أستطع الحصول على الرموز التعبيرية للتكاثر في شكل مقروء ، يمكنك رؤيتها التغريد الأصلي. هنا يذهب:
إن حركة المخاطر الأقل خطأ/التفرد/AI التي بدأت في العقد الأول من القرن العشرين من قبل يودوكوفسكي وآخرون ، والتي كنت ملتصقة مبكرة بها ، هي مخطئة في جميع مطالباتها الأساسية حول مخاطر الذكاء الاصطناعي. من المهم التعرف على هذا وخفض المصداقية التي نقدمها لمثل هذه المطالبات المضي قدمًا بشكل مناسب.
المطالبة: Mindspace واسعة ، لذلك من المحتمل أن تكون AIS غريبة تمامًا بالنسبة لنا ، وبالتالي خطرة!
الحقيقة: Mindspace واسعة ، لكننا اخترنا LLMs كأول نموذج AI قابل للحياة لأن وفرة البيانات التي تم إنشاؤها من قبل الإنسان جعلت LLMs أسهل خيار. LLMs هي نماذج للغة البشرية ، لذلك فهي في الواقع ليست غريبة.
المطالبة: لن يفهم الذكاء الاصطناعى القيم الإنسانية حتى تكون superintaLigent ، لذلك سيكون من المستحيل توافقها ، لأنه لا يمكنك محاذاة إلا عندما تكون ضعيفة (لكنها لن تفهم) وسوف يفهم فقط عندما تكون قوية (لكنها سترفض محاولات المحاذاة الخاصة بك).
الحقيقة: تعلمت LLMs القيم الإنسانية قبل أن تصبح مختصة خارقة.
المطالبة: إن تحسين الذات العودية يعني أن مثالًا واحدًا لبذرة عتبة AI يمكن أن يعيد برمجة نفسه ويخضع لانفجار ذكاء في دقائق أو ساعات. يمكن لوكالة الذكاء الاصطناعي التي صنعت بين عشية وضحاها في الطابق السفلي لشخص ما تطوير سلاح خارق للأنواع مثل تقنية النانو من المبادئ الأولى وقتلنا جميعًا قبل أن نستيقظ في الصباح.
الحقيقة: جميع نماذج ML لها عوائد تقلص بقوة إلى البيانات وحسابها ، وعادة ما تكون لوغاريتمية. لا يمكن التقدم السريع للذكور السريعة اليوم إلا لأن مبلغ الأموال التي يتم إنفاقها على الذكاء الاصطناعي تتزايد بشكل كبير. Superintelligence في الطابق السفلي أمر مستحيل من الناحية النظرية-لا يوجد غداء مجاني من العودية ، لا يزال هناك حدوث جمع البيانات الكبيرة والحساب بشكل كبير.
المطالبة: لا يمكنك محاذاة الذكاء الاصطناعى لأنها سوف تكون مزيفة المحاذاة أثناء التدريب ومن ثم يتم تحديدها في النشر!
الحقيقة: السبب في أن التعلم الآلي يعمل على الإطلاق هو أن أساليب التنظيم/عقوبات التعقيد تختار وظائف هي أبسط تعميمات لبيانات التدريب ، وليس الأكثر ضرورة. توجد تعميمات ضارة ، لكن التعلم الآلي يعمل على وجه التحديد لأننا نستطيع رفضها.
المطالبة: ستكون الذكاء الاصطناعى غير قابلة للاشمئزاز ، مما يعني أنه سيقاوم محاولات المبدعين لتصحيحها إذا كان هناك خطأ ما في المواصفات. هذا يعني أنه إذا أخطأنا في أي شيء ، فإن الذكاء الاصطناعى سيحاربنا فوقه!
الحقيقة: AIS القائمة على الشباك العصبية قد ترغب في مقاومة التغييرات في أذهانهم ، لكنهم لا يستطيعون مقاومة التغييرات على أوزانهم التي تحدث عن طريق الخلفية. عندما يساء تصرف AIS ، يستخدم المطورون RLHF وينفد التدرج لتغيير رأيهم – حرفيًا.
المطالبة: سيكون من الصعب وأصعب محاذاة AIS عندما تصبح أكثر ذكاءً ، لذلك على الرغم من أن الأمور تبدو جيدة الآن ، ستكون هناك كارثة قريبًا لأن AIS تفوق أسيادهم البشريون!
الحقيقة: من المحتمل أن يكون الأمر أصعب بالمعنى المطلق لمحاذاة الذكاء الاصطناعي الأكثر قوة. ولكن من الصعب أيضًا أن يكون الأمر أكثر صعوبة في بنائه في المقام الأول – يبدو أن نسبة صعوبة المحاذاة في الصعوبة مستقرة أو هبوطية ، على الرغم من أن هناك حاجة إلى مزيد من البيانات هنا. من الناحية المطلقة ، تنفق شركات الذكاء الاصطناعى موارد أكثر بكثير على القدرات أكثر من المحاذاة لأن المحاذاة هي الجزء السهل نسبيًا من المشكلة. في نهاية المطاف ، سيتم تنفيذ معظم أعمال المحاذاة من قبل AIS الأخرى ، تمامًا مثل كينغ مصراعي تقريبًا جميع أعمال الشرطة لمواضيعه الخاصة
المطالبة: يمكننا إبطاء تنمية الذكاء الاصطناعي من خلال عقد المؤتمرات التي تحذر الناس من مخاطر الذكاء الاصطناعي في المراهقة العشرين ، مما سيؤخر تطور الذكاء الاصطناعي حتى يكون لدينا المزيد من الوقت للتفكير في كيفية الحصول على الأمور بشكل صحيح
الحقيقة: قامت مؤتمرات مخاطر الذكاء الاصطناعى في العشرين بتكوين المراهقين بتسريع تطور الذكاء الاصطناعي ، مما يؤدي مباشرة إلى إنشاء Openai و Throule LLM. لكن هذا جيد ، لأن لا أحد يفعل أي شيء مفيد مع الوقت الإضافي الذي قد يكون لدينا ، لذلك لم يكن هناك فائدة من الانتظار.
المطالبة: يجب أن نحصل على نظرية القرار والفلسفة مباشرة قبل أن نطور أي منظمة العفو الدولية على الإطلاق أو أنها ستجمد من الأفكار غير المصممة أو غير الصحيحة إلى الأبد ، إلى الأبد.
الحقيقة: (… معلق …)
المطالبة: سيكون من المستحيل حل LLM Jailbreaks! ML العدواني غير قابل للحل! سيتم اختراق AIS SuperIntyligent من قبل المتسللين الخاصين الذين يعرفون الكلمات السحرية ، وسيكونون أحرارًا في تدمير العالم مع بعض المطالبات الذكية!
الحقيقة: (… معلق …) ❔
المنشور روكو مخاطر الذكاء الاصطناعي ظهر أولاً على ثورة هامشية.
