آخر تحديث: 2026-06-22

عدد وحدات معالجة الرسوميات للنموذج

على النموذج اللغوي الكبير أن يَسَع داخل ذاكرة المُسرِّع قبل أن يخدم رمزًا واحدًا. وحين يكون النموذج أكبر من وحدة معالجة رسوميات واحدة، يُقسَّم عبر عدة وحدات، ويكون أول سؤال تخطيطي هو ببساطة كم جهازًا يلزم. تجيب هذه الحاسبة عن ذلك من ثلاثة أرقام: إجمالي ذاكرة الفيديو التي يحتاجها النموذج، والذاكرة في كل وحدة معالجة رسوميات، ونسبة تلك الذاكرة التي يمكن لنشر واقعي استخدامها فعلًا.

لماذا يمتد النموذج عبر عدة وحدات معالجة رسوميات

يحمل المُسرِّع الحديث قدرًا ثابتًا من الذاكرة عالية النطاق — 80 GB في H100 و 141 GB في H200. والنموذج الذي تتجاوز أوزانه ومخازنه المؤقتة هذا الرقم لا يمكن أن يعيش على جهاز واحد، فيُشظّى. والتوازي الموتري هو الطريقة المعتادة: تُقسَّم كل طبقة عبر المجموعة، وتحمل كل وحدة معالجة رسوميات شريحة من الأوزان، وتُجمَع النتائج الجزئية بخطوة اتصال جماعي عند كل طبقة. عندها تتصرّف المجموعة كجهاز واحد أكبر. والعدد الذي تنتجه هذه الحاسبة يصف تلك المجموعة الواحدة وثيقة الاقتران، لا مجموعة من النسخ المستقلة.

الذاكرة القابلة للاستخدام أقل من الرقم الاسمي

لا تسلّم وحدة معالجة الرسوميات ذاكرتها المعلَنة كاملة للنموذج. فسياق CUDA ومُخصِّص إطار العمل المُخزِّن وموترات التنشيط والتجزؤ بين التخصيصات كلها تأخذ حصة، وأثناء الخدمة تنمو ذاكرة المفتاح-القيمة مع طول السياق وحجم الدفعة. واعتبار نحو 80 إلى 90 بالمئة من الرقم الاسمي قابلًا للاستخدام يترك هامشًا واقعيًا؛ أما الاقتراب من الرقم الكامل فيستدعي إخفاقات نفاد الذاكرة تحت الضغط.

الصيغة

بحاجة نموذج $M$ جيجابايت، وذاكرة لكل وحدة معالجة رسوميات $g$ جيجابايت، ونسبة قابلة للاستخدام $f$، يكون عدد الأجهزة وإجمالي الذاكرة

حيث $n$ عدد وحدات معالجة الرسوميات و $T$ ذاكرتها الاسمية المجمَّعة. ويقرّب التقريب لأعلى إلى الأعلى لأن النموذج لا يمكن أن يعمل على مُسرِّع كسري.

مثال محلول

لنأخذ نموذجًا يحتاج إلى 140 GB من ذاكرة الفيديو على وحدات معالجة رسوميات بسعة 80 GB لكل منها، مع 90 بالمئة من الذاكرة قابلة للاستخدام:

تكفي وحدتان، بذاكرة اسمية قدرها 160 GB مقابل حاجة 140 GB — هامش مريح لذاكرة المفتاح-القيمة. أما نموذج بحجم 350 GB على العتاد نفسه فيحتاج إلى $\lceil 350 / 72 \rceil = 5$ وحدات معالجة رسوميات.

ما بعد الحدّ الأدنى

العدد هنا يجيب عن مسألة الاحتواء وحدها. فإضافة مُسرِّعات بعد تلك النقطة تشتري هامش ذاكرة — ذاكرة مفتاح-قيمة أكبر، أو حجم دفعة أعلى، أو مجالًا لسياقات أطول — وترفع الإنتاجية لا أن تغيّر ما إذا كان النموذج يَسَع، بينما يُضعِف عبء الاتصال الناتج عن التشظية كفاءة كل وحدة تدريجيًا. والقياس من أجل الأداء تمرين منفصل. ولتقدير حاجة الذاكرة الأساسية التي تغذّي مُدخَل $M$، انظر حاسبة ذاكرة VRAM لاستدلال النماذج اللغوية الكبيرة، ولتحويل عدد الأجهزة إلى كلفة تشغيلية، انظر حاسبة تكلفة وحدات معالجة الرسوميات السحابية.