آخر تحديث: 2026-06-22

ما وفورات واجهة المعالجة على دفعات؟

وفورات واجهة المعالجة على دفعات هي خفض التكلفة الناتج عن تقديم عبء عمل لنموذج لغوي عبر نقطة نهاية الدفعات غير المتزامنة لدى المزوّد بدلًا من نقطة النهاية المتزامنة. تقبل واجهة الدفعات مجموعةً من الطلبات وتعالجها ضمن نافذة إتمام معلنة لا ضمن استجابة متزامنة، ولأن المزوّد يستطيع جدولة العمل بمرونة عبر سعته، يحتسب الإنتاجية بخصم ثابت. والوفورات هي الفرق بين التكلفة المتزامنة وتكلفة الدفعات المخفَّضة.

كيف تعمل

تجمع التكلفة المتزامنة توكنات الإدخال والإخراج بسعريهما لكل مليون. عند $n_{\text{in}}$ و$n_{\text{out}}$ توكن بسعر $p_{\text{in}}$ و$p_{\text{out}}$ لكل مليون:

وخصم الدفعات $d$ نسبةٌ ثابتة تُقتطع من تلك التكلفة كلها، تغطّي الإدخال والإخراج معًا:

ولأن الخصم ثابت، تتناسب الوفورات طرديًا مع حجم عبء العمل ومع نسبة الخصم.

مثال محلول

لنأخذ عبء عمل قدره 1,000,000 توكن إدخال و200,000 توكن إخراج، بسعر 3 دولارات لكل مليون إدخال و15 دولارًا لكل مليون إخراج، مع خصم دفعات قدره 50%. التكلفة المتزامنة هي:

وتكلفة الدفعات نصف ذلك:

فتكون الوفورات \6 - $3 = $3$، أي خفضٌ قدره 50%. وتتساوى مساهمتا الإدخال والإخراج هنا — 3 دولارات لكل منهما — لأن سعر الإخراج الأكبر يعوّض حجم الإخراج الأصغر.

تنويعات

ينطبق الخصم بانتظام، ولذلك تنمو الوفورات بالدولار تناسبًا مع الفاتورة: فعبء عمل أكبر بعشرة أضعاف يوفّر عشرة أضعاف عند الخصم نفسه. ولأن الإخراج يُحتسب أعلى من الإدخال، تحمل الدفعات الكثيفة الإخراج وفورات مطلقة أكبر للأعداد نفسها من التوكنات. والقيد الأساسي هو زمن الاستجابة. فالمعالجة على دفعات غير متزامنة — إذ تصل النتائج ضمن نافذة إتمام المزوّد لا بصورة متزامنة — ولذلك تلائم العمل الذي لا يحتاج إلى استجابة عاجلة: التصنيف بالجملة والتلخيص وتشغيلات التقييم وتوليد المحتوى دون اتصال. أما الطلبات التفاعلية المواجِهة للمستخدم فليست ملائمة.

التطبيق

وفورات الدفعات رافعةُ إنتاجية دون اتصال، تُطبَّق بعد معرفة حجم توكنات عبء العمل. وتغذّي التكلفتان المتزامنة وعلى دفعات التقديرات الأوسع في حاسبة تكلفة التوكنات وحاسبة التكلفة الشهرية للنموذج اللغوي الكبير. والدفعات والتخزين المؤقت خصمان مستقلان يمكن أن يتراكبا على المهمة نفسها؛ ولخصم الإدخال من البادئات المتكررة انظر حاسبة وفورات التخزين المؤقت للموجِّهات، ولقراءة سعر لكل مليون بوصفه توكنات لكل وحدة إنفاق انظر حاسبة التوكنات لكل وحدة عملة.