آخر تحديث: 2026-06-22

ما وفورات التخزين المؤقت للموجِّهات؟

وفورات التخزين المؤقت للموجِّهات هي خفض تكلفة الإدخال لاستدعاء النموذج اللغوي الناتج عن تقديم جزء من الموجِّه من الذاكرة المؤقتة. فحين تتكرر بادئةٌ ثابتة — موجِّه نظام أو تعريفات أدوات أو سياق مشترك — عبر الاستدعاءات، يخزّن المزوّد صورتها المعالَجة ويحتسب القراءات اللاحقة لتلك التوكنات بسعر مخفَّض. والوفورات هي الفجوة بين تكلفة الإدخال من دون تخزين مؤقت وتكلفة الإدخال بعد خصم الحصة المخزَّنة.

كيف تعمل

ليكن $n$ إجمالي توكنات الإدخال، و$f$ الحصة المقدَّمة من الذاكرة المؤقتة، و$p$ سعر الإدخال القياسي لكل مليون توكن، و$d$ خصم التخزين المؤقت — أي النسبة المقتطعة من السعر للقراءة المخزَّنة. تحتسب القاعدة غير المخزَّنة كل توكن بالسعر الكامل:

ومع التخزين المؤقت، تُحتسب الحصة غير المخزَّنة n(1-f) بالسعر الكامل والحصة المخزَّنة $nf$ بالسعر المخفَّض p(1-d):

والوفورات هي الفرق، ونسبة الوفورات هي ذلك الفرق منسوبًا إلى القاعدة:

مثال محلول

لنأخذ استدعاءً من 10,000 توكن إدخال، 70% منها مخزَّنة، بسعر إدخال قياسي قدره 3 دولارات لكل مليون، وخصم تخزين مؤقت قدره 90%. القاعدة غير المخزَّنة هي:

تكلّف 3,000 توكن غير المخزَّنة 0.003 \cdot 3 = \0.009$. وتُحتسب 7,000 توكن المخزَّنة بـ10$0.007 \cdot 3 \cdot 0.1 = $0.0021$، فتكون التكلفة المخزَّنة$$0.009 + $0.0021 = $0.0111$. والوفورات هي:

أي خفضٌ قدره $0.0189 / 0.03 = 63\%$ على تكلفة الإدخال. ورقم الاستدعاء الواحد صغير، لكنه يتوسّع مع حجم الاستدعاءات — فعبء عمل من مليون استدعاء كهذا يوفّر في حدود 18,900 دولار.

تنويعات

ترتفع الوفورات مع كلٍّ من الحصة المخزَّنة والخصم. فحصةٌ أعلى $f$ — مدفوعةٌ ببادئة ثابتة أكبر — تنقل توكنات أكثر إلى السعر المخفَّض، بينما يوسّع خصمٌ أحدّ $d$ الفجوة بين السعرين. وعند f = 1 وd = 0.9 تنخفض تكلفة الإدخال بكامل الـ90%. وحين يتكرر القليل من الموجِّه، أو يقع التكرار خارج نافذة الذاكرة المؤقتة، تصغر $f$ ويكون الخفض محدودًا. وينطبق التخزين المؤقت على توكنات الإدخال وحدها؛ أما توكنات الإخراج فتُحتسب بالسعر القياسي على كل حال.

التطبيق

يكون التخزين المؤقت للموجِّهات أكثر فاعليةً مع الوكلاء وأنظمة المحادثة التي تعيد إرسال سياق كبير وثابت في كل دور، حيث تهيمن البادئة المتكررة على الإدخال. وتغذّي التكلفة المخزَّنة تقديرات الاستدعاء الواحد والشهرية في حاسبة تكلفة التوكنات وحاسبة التكلفة الشهرية للنموذج اللغوي الكبير. والتخزين المؤقت والمعالجة على دفعات خصمان مستقلان يمكن أن ينطبقا على عبء العمل نفسه؛ وللبديل غير المتزامن انظر حاسبة وفورات واجهة المعالجة على دفعات، ولقراءة السعر الأساسي بوصفه قوةً شرائية انظر حاسبة التوكنات لكل وحدة عملة.