آخر تحديث: 2026-06-22

إنتاجية الاستدلال المُجمَّع

الاستدلال المُجمَّع هو الطريقة التي تبلغ بها خوادم النماذج اللغوية الإنتاجية استغلالًا عاليًا: فبدلًا من فكّ تشفير طلب واحد في كل مرة، تعالج طلبات كثيرة معًا. ولأن أوزان النموذج تُقرأ مرة واحدة ويُعاد استعمالها للمجموعة بأكملها، يرتفع مُخرَج الخادم الكلي ارتفاعًا حادًا مع حجم الدفعة — لكن كل طلب منفرد ينتظر انتهاء الدفعة. تفصل هذه الحاسبة بين هاتين الرؤيتين، فتحوّل زمن إكمال دفعة مقيسًا إلى إنتاجية إجمالية، وسرعة لكل طلب، ومعدّل طلبات.

مقايضة التجميع

فكّ التشفير الذاتي الانحدار محدود بالذاكرة: تقرأ كل خطوة كل وزن لإنتاج رمز واحد. وحين يكون طلب واحد قيد التنفيذ، تخدم كل حركة الذاكرة تلك مستخدمًا واحدًا تقريبًا. وبتجميع عدة طلبات في دفعة تنتج قراءة الوزن نفسها رمزًا لكل طلب دفعة واحدة، فيرتفع معدّل الرموز الإجمالي مع حجم الدفعة بينما تكاد كلفة عرض النطاق لا تتغيّر. والمأخذ هو زمن الاستجابة — إذ لا يمكن لطلب أن يغادر حتى تكتمل خطوة الدفعة التي تحتويه، فلا تتحسّن السرعة لكل طلب وقد تنخفض قليلًا مع كبر الدفعات.

الصيغ

انطلاقًا من حجم الدفعة $B$، والرموز المُخرَجة لكل طلب $N_{out}$، وزمن إكمال الدفعة المقيس $t_b$:

حيث $v_{agg}$ الإنتاجية الإجمالية، و$v_{req}$ الإنتاجية لكل طلب، و$R$ الطلبات المكتملة في الثانية. والإجمالي هو ببساطة السرعة لكل طلب مضروبة في حجم الدفعة.

مثال محلول

يفكّ خادم تشفير دفعة من 32 طلبًا، ينتج كل منها 256 رمزًا، وتنتهي الدفعة في 5 ثوانٍ:

يرى المشغّل أكثر من 1,600 رمز في الثانية تتدفّق من الخادم، لكن كل مستخدم يقرأ بنحو 51 رمزًا في الثانية. ومضاعفة الدفعة إلى 64 — إن سمحت الذاكرة وبقي زمن الإكمال قريبًا من 5 ثوانٍ — تضاعف الإجمالي تقريبًا مع بقاء القيمة لكل طلب دون تغيير.

اختيار حجم الدفعة

تستمر الإنتاجية الإجمالية في الارتفاع مع حجم الدفعة ما دام العمل محدودًا بالذاكرة فحسب. ومتى أشبعت الدفعة الحساب أو استنفدت ذاكرة المفتاح-القيمة المؤقتة ذاكرة الجهاز، نما زمن الإكمال أسرع من الدفعة وتدهور زمن الاستجابة لكل طلب. والهدف العملي هو أكبر دفعة تُبقي زمن الاستجابة لكل طلب مقبولًا مع بقاء الذاكرة كافية، وتُكتشف بقياس زمن الإكمال عند عدة أحجام للدفعة. وتستعمل الخوادم الواقعية أيضًا التجميع المستمر، حيث تنضم الطلبات وتغادر في كل خطوة لا كمجموعة ثابتة، ما يرفع الإنتاجية المستدامة أكثر. وللاطّلاع على سقف التدفق الواحد الذي يحدّد $v_{req}$، انظر حاسبة إنتاجية الاستدلال؛ وللسعة على مستوى الأسطول عبر نُسَخ كثيرة، انظر حاسبة الرموز الفعلية في الثانية.