حاسبة استغلال نموذج عمليات الفاصلة العائمة
المدخلات
| حِمل العمل | الاستدلال (2N لكل رمز) |
|---|---|
| المعاملات | 70 |
| إنتاجية الرموز | 2,000 |
| الإنتاجية القصوى | 989 |
حاسبة استغلال نموذج عمليات الفاصلة العائمة
حساب استغلال نموذج عمليات الفاصلة العائمة (MFU): نصيب المُسرِّع من الإنتاجية القصوى للفاصلة العائمة الذي يبلغه تشغيل النموذج فعليًا، انطلاقًا من عدد المعاملات، وإنتاجية الرموز، وذروة TFLOP/s.
المدخلات
حِمل العمل
العتاد
النتائج
أدخل قيمة لعرض النتائج.
تفاصيل
استغلال نموذج عمليات الفاصلة العائمة (MFU)
استغلال نموذج عمليات الفاصلة العائمة، أو MFU، يقيس مقدار ما يستعمله تشغيل النموذج فعليًا من حساب المُسرِّع النظري. فقد يختلف عنقودان بالعتاد نفسه عدة أضعاف في المُخرَج الواقعي، وهذا المقياس هو الرقم الوحيد الذي يلتقط تلك الفجوة: يقسم عمليات الفاصلة العائمة التي يؤدّيها حِمل العمل حقًا على الذروة التي يُعلنها العتاد. تقدّر هذه الحاسبة المقياس انطلاقًا من عدد المعاملات، وإنتاجية الرموز، وذروة TFLOP/s للمُسرِّع.
ماذا يخبرك المقياس
تذكر شركات العتاد معدّل ذروة — لمُسرِّع مركز بيانات حديث، من رتبة ألف TFLOP/s بدقة 16 بت — يفترض تدفقًا مثاليًا من عمليات الضرب-والجمع المدمجة والبيانات أصلًا في السجلات. ولا يديم أي حِمل عمل واقعي ذلك. ويُبلِّغ المقياس عن الكسر المُحقَّق، فاستغلال قدره 40% يعني أن التشغيل يستخرج أربعين سنتًا من الحساب من كل دولار من الذروة النظرية. وهو المعيار القياسي للحكم على مدى حُسن تحسين منظومة تدريب أو استدلال، ولتقرير ما إذا كان تغيير قد ساعد فعلًا.
الصيغة
تكلّف التمريرة الأمامية نحو عمليتي فاصلة عائمة لكل معامل لكل رمز؛ وتضيف خطوة التدريب تمريرة خلفية لنحو ست عمليات إجمالًا. وبمعامل حِمل العمل (اثنان للاستدلال، ستة للتدريب)، وعدد المعاملات بالمليارات، والإنتاجية بالرموز في الثانية، يكون المعدّل المُحقَّق والاستغلال
AU=1000k⋅N⋅v=PAحيث هي TFLOP/s المُحقَّقة، و هي TFLOP/s القصوى مجموعةً عبر كل مُسرِّع في التشغيل، و الاستغلال. والقسمة على 1000 تحوّل مليار معامل مضروبًا في الرموز في الثانية إلى TFLOP/s.
مثال محلول
لنأخذ نموذجًا بـ 70 مليار معامل يخدم الاستدلال عند 2,000 رمز في الثانية على مُسرِّع واحد مصنَّف عند 989 TFLOP/s من حساب 16 بت الكثيف:
AU=10002×70×2000=280 TFLOP/s=989280≈0.283=28.3%يستعمل التشغيل أكثر قليلًا من ربع ذروة الشريحة — وهو نموذجي لفكّ التشفير المحدود بالذاكرة، حيث يُقضى كثير من الوقت في قراءة الأوزان لا في الضرب. أما مهمة تدريب نموذج كبير مضبوطة جيدًا، وهي أكثر محدوديةً بالحساب، فتقع غالبًا بين 35% و55%.
لماذا لا يبلغ 100% أبدًا
تخسر التشغيلات الواقعية وقتًا في نقل الذاكرة، والتواصل بين المُسرِّعات، وفقاعات خط الأنابيب، وطبقات مثل الانتباه والتسوية التي ليست عمليات ضرب مصفوفات صرفة. والاستغلال المثالي يعني انعدام كل تلك النفقات. والاستعمال العملي للمقياس مقارن: قِسه قبل تحسين وبعده على حِمل العمل والعتاد نفسيهما، فيعني الرقم الأعلى أن مزيدًا من الحساب الذي تدفع ثمنه يؤدّي عملًا نافعًا. ويُستكشَف عددُ العمليات لكل رمز الذي يقود هذا التقدير في حاسبة عمليات الفاصلة العائمة لكل رمز، وجانبُ عرض نطاق الذاكرة من العتاد نفسه في حاسبة إنتاجية الاستدلال.
الأسئلة الشائعة (FAQ)
ما الذي يُعدّ استغلالًا جيدًا؟
في تدريب النماذج الكبيرة، تُبلِّغ الأنظمة المضبوطة جيدًا عادةً عن استغلال نموذج عمليات الفاصلة العائمة بين نحو 35% و55%؛ وقد أبلغ عمل PaLM الذي شاع المقياس عن نحو 46%.
ويكون استغلال الاستدلال أدنى عادةً أثناء فكّ التشفير المحدود بالذاكرة لأن المُسرِّع يقضي كثيرًا من وقته في قراءة الأوزان لا في الحساب. ولا هدف عالميًا — المقارنة المفيدة هي مع حِمل العمل نفسه على العتاد نفسه بعد تحسين، حيث يعني الرقم الأعلى أن مزيدًا من الحساب المدفوع ثمنه يؤدّي عملًا نافعًا.
لماذا يكون التدريب ست عمليات فاصلة عائمة لكل معامل والاستدلال اثنتين؟
تؤدّي التمريرة الأمامية نحو عمليتي فاصلة عائمة لكل معامل لكل رمز — ضرب واحد وجمع واحد في عمليات ضرب المصفوفات المهيمنة.
ويضيف التدريب تمريرة خلفية تحسب التدرّجات بالنسبة إلى التنشيطات والأوزان معًا، وتكلّف نحو ضِعفَي التمريرة الأمامية، فتعطي نحو ست عمليات لكل معامل لكل رمز إجمالًا. وهذه هي التقديرات القياسية من الدرجة الأولى؛ وهي تتجاهل الانتباه وحدودًا أخرى صغيرة بالنسبة للنماذج الكبيرة.
لماذا لا يبلغ الاستغلال 100%؟
الإنتاجية القصوى رقم نظري لعمليات ضرب-وجمع مدمجة متتالية والبيانات أصلًا في السجلات.
وتخسر التشغيلات الواقعية وقتًا في نقل الذاكرة، والتواصل بين المُسرِّعات، وفقاعات خط الأنابيب، وطبقات الانتباه والتسوية التي ليست عمليات ضرب مصفوفات صرفة، ونوى لا تستطيع ملء وحدات الحساب ملءًا تامًا. والاستغلال القريب من واحد يعني انعدام كل تلك النفقات، وهو ما لا يحدث عمليًا.
إخلاء المسؤولية
يستعمل استغلال نموذج عمليات الفاصلة العائمة تقديرات من الدرجة الأولى (2N للاستدلال، 6N للتدريب) تُهمِل الانتباه وحدودًا ثانوية أخرى، ويفترض أن قيمة الذروة تطابق دقة التشغيل وعدد مُسرِّعاته. عامِله مؤشرًا للكفاءة النسبية لا حسابًا دقيقًا لكل عملية.