إن هدفنا هو أن تكون AWS المكان الأكثر أمانًا لتشغيل أي عبء عمل، ودعمًا لذلك، فقد استثمرنا بعمق في الأمان عبر خدماتنا منذ إنشاء AWS قبل أكثر من عقدين من الزمن. إن خدمات الذكاء الاصطناعي لدينا، مثل Amazon Bedrock، مبنية على هذا الأساس وبنفس التركيز. توفر Bedrock للعملاء أداءً وأمانًا وخصوصية على مستوى عالمي بالإضافة إلى أوسع تشكيلة من النماذج المتوفرة في أي مكان. أطلقنا Bedrock Mantle في العام الماضي مع الخصوصية الرائدة في الصناعةوحماية للأوزان النموذجية. نسمع بانتظام من العملاء أنهم يريدون الوصول إلى أحدث الموديلات في أسرع وقت ممكن بعد إصدارها، وتقوم Bedrock بتوفير ذلك لهم إلى جانب ميزات المؤسسة التي يتوقعها العملاء من AWS. يسعدنا أن تكون نماذج Anthropic’s Claude Fable 5 متاحة مرة أخرى لعملائنا على Bedrock بدءًا من الغد، وأنها تتميز بدرابزين أقوى لمنع سوء الاستخدام.
عند إصدار النماذج، فإننا لا نأخذ في الاعتبار مسؤولياتنا تجاه عملائنا فحسب، بل أيضًا تجاه الإنترنت والمجتمع ككل. يتمتع أحدث جيل من النماذج الرائدة، مثل كلود ميثوس من شركة Anthropic، بقدرات جديدة قوية، وخاصة في مجال الأمن السيبراني. لقد تمكنا من تجربة هذا بشكل مباشر كجزء من مشروع Glasswing ونحن حريصون على وضع نماذج Mythos-class في أيدي المدافعين. وباعتبارنا مدافعين، لدينا الفرصة لاستخدام هذه النماذج لجعل الأنظمة التي نعتمد عليها جميعًا أكثر أمانًا ماديًا. ولكن بينما نفعل ذلك، يتعين علينا أيضا أن نضمن أننا لا نمنح خصومنا رؤية وقدرات متقدمة بشكل هادف، دون إعطاء الشركات والحكومات والمؤسسات الأكاديمية الفرصة لحماية أصولها أولا. يعد تحقيق هذا التوازن تحديًا رئيسيًا لإصدار نموذج واسع النطاق، ولهذا السبب كنا نعمل بشكل وثيق مع Anthropic وشركاء الصناعة الآخرين في Project Glasswing لتحسين حواجز الحماية لهذه الفئة الجديدة من النماذج. نتفق جميعًا على أن منع الخصوم من الوصول إلى القدرة على إجراء أبحاث عميقة حول نقاط الضعف هو الهدف الأكثر أهمية لهذه الحواجز الواقية.
يعد هذا أيضًا وقتًا مثيرًا للذكاء الاصطناعي، حيث يتم تقديم إمكانات جديدة يوميًا تقريبًا. نحن نؤمن بأن إتاحة إمكانات هذه النماذج المتقدمة لجميع العملاء في بيئة آمنة تحافظ على الخصوصية أمر بالغ الأهمية لضمان حصولهم على العديد من الفوائد دون خلق مخاطر أمنية. من المهم أن يستمر تطوير حواجز الحماية الجديدة بينما نتعلم المزيد عن مدى جودة عمل الحواجز الحالية ومع إصدار نماذج جديدة. سنواصل التكرار مع شركائنا، وتقديم المزيد من القيمة، والاستجابة للتغيرات في الصناعة.
ومن المهم بنفس القدر التأكد من معالجة أي مشكلات تتعلق بهذه النماذج بعد إصدارها بشكل مناسب. نشرت الأنثروبيك مدونة، إعادة نشر الخرافة 5، وهذا يوضح كيفية تفكيرهم في إمكانيات هذه الفئة الجديدة من النماذج والتزاماتهم واتفاقيات مستوى الخدمة للاستجابة للمشكلات التي يتم الإبلاغ عنها لهم. نحن نقدر شفافية Anthropic وتعاونها في توضيح هذا الهيكل الأول لخطورة المشكلات والاستجابة للنماذج ذات القدرة السيبرانية، ونتطلع إلى المحادثة المستمرة عبر صناعتنا بينما نتعلمها ونحسنها.
لقد عمل فريق الذكاء الاصطناعي الأحمر الخاص بنا مع Anthropic لتحسين إجراءات حماية Fable بشكل أكبر، ونعتقد أن أحدث حواجز الحماية الخاصة بها تؤدي إلى نموذج قادر للغاية يقلل بشكل أكبر من مخاطر سوء الاستخدام من قبل الخصوم. فهو يفي بالوعد بقدرات تفكير أقوى بكثير في معظم المجالات، دون منح الخصوم قدرات أمنية جديدة مهمة. عندما يتم تشغيل حواجز الحماية، فإنها تعود تلقائيًا إلى Opus 4.8، وهو في حد ذاته نموذج عالمي المستوى يمكن الوصول إليه بشكل عام بالفعل.
نحن نقدر شراكة Anthropic والتزامها تجاه المدافعين، ونتطلع إلى العمل معهم ومع بقية الصناعة لمواصلة إتاحة النماذج الرائدة بأمان وأمان.
عن المؤلف
