أطلقت ApexData RidgeScope، وهي منصة تشخيصية مدعومة بالذكاء الاصطناعي مصممة لتحديد مشكلات الأداء في عمليات التدريب على التعلم الآلي المستندة إلى وحدة معالجة الرسومات. النظام الأساسي متاح بشكل عام ويمكنه تحديد الخطأ الذي حدث وسبب حدوثه وما يمكن للفرق الهندسية فعله لمعالجة المشكلة.
يقوم RidgeScope بتحليل القياس عن بعد للنظام الذي تم إنشاؤه أثناء تشغيل التدريب بدلاً من مطالبة المطورين بتعديل تطبيقاتهم باستخدام كود مراقبة إضافي. وقالت ApexData إن المنصة يمكنها تقديم حكم تشخيصي أولي في غضون 30 دقيقة من التثبيت.
ويأتي هذا الإطلاق في الوقت الذي من المتوقع أن تنفق فيه شركات التكنولوجيا واسعة النطاق ما يقرب من 450 مليار دولار على البنية التحتية للذكاء الاصطناعي هذا العام، وفقًا لشركة ApexData. تجادل الشركة بأن جزءًا كبيرًا من سعة وحدة معالجة الرسومات المثبتة يفشل في أداء عمل مفيد للتدريب على النماذج بسبب اختناقات الأجهزة والبرامج والبنية التحتية.
القياس الرئيسي هو استخدام نموذج FLOPs، أو MFU، الذي يقدر مقدار قدرة الحوسبة النظرية لوحدة معالجة الرسومات التي تساهم فعليًا في تدريب النموذج. وقالت ApexData إن الاستخدام يتراوح عادة من 30% إلى 40%، في حين أفادت بعض دراسات الأسطول عن متوسطات أقرب إلى 20%.
يمكن أن ينجم الاستخدام المنخفض عن الرقائق البطيئة أو المعطلة، وعدم كفاية تسليم البيانات، وتأخير الاتصال بين وحدات معالجة الرسومات، ونقاط التفتيش المفرطة ومشاكل التكوين الأخرى. قد تظل مهمة التدريب مكتملة دون توليد أخطاء واضحة حتى عندما يؤدي عدم كفاءة البنية التحتية إلى تقليل إنتاجها بشكل كبير.
أوضحت ApexData التكلفة المحتملة باستخدام مجموعة 128-GPU H100 بسعر 3.26 دولارًا تقريبًا لكل ساعة GPU. وبهذا المعدل، قدرت الشركة أن تكلفة المجموعة ستبلغ حوالي 10000 دولار في اليوم، أو حوالي 3.65 مليون دولار سنويًا.
وفقًا لـ ApexData، فإن زيادة الاستخدام من 20% إلى 40% يمكن أن تضاعف تقريبًا مخرجات التدريب الإنتاجية لنفس الأجهزة. وقالت الشركة إن هذا قد يسمح للمؤسسات باستعادة سعة كبيرة دون شراء وحدات معالجة رسوميات إضافية.
يستخدم RidgeScope وكيلًا خفيف الوزن على كل خادم لجمع أكثر من 12000 إشارة من التدريب. تتضمن هذه الإشارات سلوك وحدة معالجة الرسومات وحركة مرور الاتصال البيني وسجلات الجدولة وسجلات المهام.
يقوم محرك الذكاء الاصطناعي الخاص بالمنصة بتقييم البيانات مقابل أكثر من 20 نمط فشل معروف. وينتج عن كل تحليل حكمًا يصف ما تشير إليه القياسات، وما هي الاستنتاجات التي يمكن استخلاصها بشكل معقول، وما لا يمكن للبيانات المتاحة تحديده.
وقالت ApexData إن RidgeScope مصمم لدعم التشخيصات الشفافة بدلاً من توليد استنتاجات غير مدعومة. وترتبط كل نتيجة بالقياسات الأساسية المستخدمة للوصول إلى الحكم.
بالنسبة لموفري الخدمات السحابية لوحدة معالجة الرسومات، يمكن للنظام الأساسي المساعدة في تحديد ما إذا كانت مشكلة أداء العميل تنشأ في رمز التطبيق الخاص به أو في البنية التحتية لمشغل السحابة. يمكن أن يؤدي هذا التمييز إلى تقليل الوقت اللازم للتحقيق في حالات الدعم التي تنطوي على وظائف تدريبية بطيئة أو غير فعالة.
يدعم RidgeScope أطر عمل ومكتبات التعلم الآلي شائعة الاستخدام، بما في ذلك Hugging Face Transformers وMegatron-LM وPyTorch Lightning وKeras/TensorFlow. يمكن تثبيته على البيئات المُدارة من خلال Slurm وKubernetes.
تقوم المنصة بمعالجة القياس عن بعد للنظام وجدولة البيانات الوصفية دون الوصول إلى مجموعات بيانات التدريب أو أوزان النماذج أو كود المصدر. قالت ApexData إن RidgeScope يمكن أن يعمل بالكامل داخل شبكة العميل، بما في ذلك البيئات المحلية والبيئات المعزولة بالهواء.
تشتمل ميزات المؤسسة الإضافية على دعم نماذج اللغات الكبيرة المستضافة محليًا وعزل المستأجر والتسجيل الموحد ومصادقة SAML. وقالت الشركة أيضًا إن النظام الأساسي يستخدم التشفير المصمم لدعم متطلبات الأمان المتعلقة بالـGDPR وPCI DSS.
نشرت ApexData كتالوج الفشل وفهرس الأدلة الذي يصف أوضاع الفشل التي يمكن لـ RidgeScope تحديدها والإشارات التي قد تشير إليها نتائجها. تقوم الشركة بوضع النظام الأساسي كطبقة مراقبة للمؤسسات التي تدير بنية تحتية للتدريب على الذكاء الاصطناعي مكلفة ومعقدة بشكل متزايد.
الاقتباسات الرئيسية:
“تمول الصناعة وحدات معالجة الرسومات كما لو كانت أصولًا إنتاجية بالكامل، ومع ذلك فإن معظم المجموعات تقدم أقل من نصف ما تعد به ورقة المواصفات. وهذه ليست مشكلة السحابة الجديدة فحسب. إنها تنطبق على كل مؤسسة تقوم بتدريب النماذج. لا يمكنك سد فجوة لا يمكنك رؤيتها، واليوم لا يراها أحد تقريبًا.”
إيفجيني بوتابوف، المؤسس المشارك والرئيس التنفيذي لشركة ApexData
“إن نفايات وحدة معالجة الرسومات هادئة. حيث تعمل شريحة واحدة بطيئة على سحب 127 شريحة سليمة، وتحفظ الوظيفة تقدمها في كثير من الأحيان لدرجة أنها تتوقف عن تحقيق أي شيء، وأخرى تجلس على أجهزة حوسبة باهظة الثمن لا شيء، وتبقى كل لوحة تحكم خضراء.”
“نحن نسمي الفشل ونعرض الأدلة ونقول تكلفة ذلك. وعندما لا تستطيع البيانات الإجابة على شيء ما، فإن الحكم يقول ذلك بدلاً من التخمين”.
أندري شاماخوف، المؤسس المشارك والرئيس التنفيذي للتكنولوجيا في ApexData
