آخر تحديث: 2026-06-22

زمن تنزيل النموذج

قد يعني سحب نموذج لغوي كبير إلى جهاز نقلَ عشرات أو مئات الجيجابايت، ويتوقف الانتظار على أمرين: حجم ملف الأوزان وسرعة الاتصال. ينتج حجم الملف من عدد المعاملات وصيغة التكميم، بينما زمن النقل هو ذلك الحجم مقسومًا على عرض النطاق الشبكي. تربط هذه الحاسبة الأمرين معًا انطلاقًا من عدد المعاملات والدقة بدلًا من طلب حجم الملف مباشرةً.

من المعاملات إلى البايتات إلى الزمن

تشغل أوزان النموذج تقريبًا عددَ معاملاته مضروبًا في عرض البت لكل وزن، بالبايتات. بعدد معاملات $N$ بالمليارات و$b$ بت لكل وزن، يكون الحجم بالجيجابايت العشري:

ولتحويل ذلك إلى زمن نقل، يجب تحويل الحجم إلى بتات — لأن عرض النطاق يُقاس بالميجابت في الثانية — ثم قسمته على سرعة الوصلة. فالجيجابايت الواحد يساوي $8 \times 10^9$ بت، والميجابت في الثانية الواحد يساوي $10^6$ بت في الثانية، لذا فإن النقل عبر عرض نطاق $w$ بالـ Mbps يستغرق $S \cdot 8 \times 10^9 / (w \times 10^6) = S \cdot 8000 / w$ ثانية. ومعبَّرًا عنه بالدقائق والساعات:

مثال محلول

لنأخذ نموذجًا بسبعين مليار معامل عند 16 بت لكل وزن، يُنزَّل عبر اتصال سرعته 1,000 Mbps:

أي نحو 0.31 ساعة من النقل لأجل 140 GB من الأوزان، بافتراض بقاء الوصلة مشبعة. والنموذج نفسه مكمَّمًا إلى 4 بتات يبلغ 35 GB ويُنزَّل في رُبع الزمن تقريبًا.

فخّ الميجابت

أشيع الأخطاء هو نسيان أن سرعات الاتصال تُقاس بالميجابت بينما الملفات بالميجابايت. فالبايت الواحد ثمانية بتات، لذا فإن وصلة «1 Gbps» تنقل نحو 125 ميجابايت في الثانية فقط. ويعالج الحساب أعلاه هذا التحويل، ولهذا يطول الزمن بثمانية أضعاف عمّا قد توحي به قسمة الجيجابايت على الجيجابت. والتنزيلات الفعلية أبطأ من ذلك أيضًا، لأن قيود الخادم وعرض النطاق المشترك وأعباء البروتوكول تُبقي السرعة الفعلية دون الحد الأقصى المُعلَن. ويُتناول حجم الملف الأساسي، وكيف يتغير مع الدقة، في حاسبة حجم النموذج من التكميم، أما الذاكرة اللازمة لتشغيل الأوزان المُنزَّلة فعليًا فتتناولها حاسبة ذاكرة VRAM لاستدلال النماذج اللغوية الكبيرة.