آخر تحديث: 2026-06-22

حجم النموذج من التكميم

يتحدّد حجم النموذج اللغوي الكبير على القرص شبه كليًا بعدد معاملاته وعدد البتات التي يُخزَّن بها كل معامل. فالوزن ما هو إلا رقم، والنموذج قائمة طويلة من هذه الأرقام، لذا فإن ضرب العدد في عرض البت لكل وزن ثم التحويل إلى بايتات يعطي تقديرًا قريبًا لحجم الملف — ولمقدار الذاكرة اللازمة لتحميله. تُحوِّل هذه الحاسبة عدد المعاملات وصيغة التكميم إلى رقمين: أحدهما بالجيجابايت العشري والآخر بالجيبيبايت الثنائي.

الصيغة

بعدد معاملات $N$ بالمليارات وعرض بت $b$ لكل معامل، يكون حجم الأوزان بالجيجابايت العشري:

تُحوِّل القسمة على ثمانية البتات إلى بايتات. ولأن مليار بايت يساوي بالضبط جيجابايت عشريًا واحدًا، فإن التعبير عن $N$ بالمليارات يجعل النتيجة تخرج مباشرة بالجيجابايت. والكمية نفسها بالجيبيبايت الثنائي — وهي الوحدة التي تعرضها معظم أنظمة التشغيل وأدوات وحدات معالجة الرسوميات — هي:

لأن الجيبيبايت الواحد يساوي $2^{30} = 1{,}073{,}741{,}824$ بايت.

مثال محلول

لنأخذ نموذجًا بسبعة مليارات معامل مخزَّنًا عند 16 بت لكل وزن، وهي صيغة نصف الدقة المعيارية التي تُشحَن بها معظم النماذج:

فتشغل الأوزان نحو 14 GB على القرص، وهو ما تعرضه أداة الذاكرة بنحو 13 GiB. وتكميم النموذج نفسه إلى 4 بتات يخزّن كل وزن في رُبع المساحة، فينخفض الملف إلى نحو 3.5 GB.

اختيار الدقة

تُستخدم الدقة الكاملة بـ 32 بت أساسًا أثناء التدريب. أما للنشر فإن 16 بت هي المرجع المعتاد، بينما يقايض التكميم بثمانية وأربعة بتات بعض الدقة مقابل نصف البصمة أو رُبعها. وصيغ البت المنخفض مثل INT4 هي ما يتيح لنموذج بعشرات المليارات من المعاملات أن يَسَع في وحدة معالجة رسوميات استهلاكية واحدة. ويغطي تقدير الحجم هنا الأوزان فقط؛ فتشغيل النموذج يحتاج أيضًا إلى مساحة للتنشيطات ولذاكرة المفتاح-القيمة، وهو ما تأخذه حاسبة ذاكرة VRAM لاستدلال النماذج اللغوية الكبيرة في الحسبان. ولتحويل الحجم إلى زمن نقل عبر اتصال معيّن، انظر حاسبة زمن تنزيل النموذج.