كما رأينا عدة مرات من قبل، عادة ما تكون هناك طريقة ما لإضفاء المزيد من الحياة على ما يمكن اعتباره تقنية قديمة وعفا عليها الزمن. ربما يكون الشيء الوحيد الذي تجاوزته الجماهير قليلاً في وقت مبكر هو وحدات معالجة الرسومات القديمة في مراكز البيانات، وهو أمر مفهوم إلى حد ما بسبب معدل قيام NVIDIA بضخ وحدات معالجة رسومية جديدة، ولكن هذه البطاقات لديها الكثير من الحياة المفيدة للشخص العادي، مثل [Andrew] يوضح.
البطاقات [Andrew] يستخدم هي تسلا V100s لعام 2017 خمر. على الرغم من كونها أجهزة قديمة، إلا أنها تتمتع بذاكرة عالية السرعة تسمح لها بتشغيل برامج LLM الحديثة محليًا، بشكل تنافسي مع النماذج عبر الإنترنت. في هذا الاختبار، تم تشغيل Gemma 4 26B وQwen3 35B، حيث كانت Gemma أسرع قليلاً لأنها تتلاءم تمامًا مع ذاكرة وحدة معالجة الرسومات، وكان Qwen3 أكثر قدرة قليلاً ولكنه أكثر تعطشًا للموارد. [Andrew] صممت بطاقة PCI يمكنها استضافة جهازي V100، مما يسمح لهذه الطرازات الأكبر حجمًا بالتناسب تمامًا مع الذاكرة.
على الرغم من أن أداء هذه النماذج لا يكون بنفس مستوى أداء أحدث الموديلات عالية المستوى عبر الإنترنت، إلا أنها قادرة بشكل مدهش وتتمتع أيضًا بميزة التشغيل محليًا بالكامل. قد يكون هذا مثيرًا للقلق بالنسبة لأولئك الذين ينظرون إلى الاقتصاد العالمي الذي يتم دعمه من قبل الشركات التي ليس لديها أساسًا خندق للمستخدمين المتحمسين، خاصة مع توفر المزيد والمزيد من أجهزة مراكز البيانات في السوق المستعملة. في حين أن هذا البناء من قبل [Andrew] يخوض في التفاصيل حول كيفية إعداد البرنامج وتشغيله، لقد عرضنا مؤخرًا تصميمًا آخر يستخدم نفس وحدات معالجة الرسومات التي تركز بشكل أكبر على الأجهزة لأولئك الذين يتطلعون إلى البدء بالاستضافة المحلية.
