最終更新: 2026-06-22

プロンプトキャッシュの節約額とは

プロンプトキャッシュの節約額とは、プロンプトの一部をキャッシュから提供することで生じる、言語モデル呼び出しの入力コストの削減分です。安定した前半部分（システムプロンプト、ツール定義、共有コンテキストなど）が複数の呼び出しで繰り返されると、プロバイダーはその処理済みの形を保存し、以降のそれらのトークンの読み取りを割引単価で課金します。節約額は、キャッシュなしの入力コストと、キャッシュ分を割り引いた後の入力コストとの差です。

仕組み

合計入力トークン数を n、キャッシュから提供される割合を f、100万トークンあたりの標準入力単価を p、キャッシュ割引（キャッシュからの読み取りに対して単価から差し引かれる割合）を d とします。キャッシュなしの基準ではすべてのトークンを通常単価で課金します。

キャッシュを用いると、キャッシュされない分 n(1-f) は通常単価で、キャッシュされる分 $nf$ は割引単価 p(1-d) で課金されます。

節約額はその差であり、節約率はその差を基準で割ったものです。

計算例

入力10,000トークンの呼び出しで、70%がキャッシュされ、標準入力単価が$3毎100万トークン、キャッシュ割引が90%の場合を考えます。キャッシュなしの基準は次のとおりです。

キャッシュされない3,000トークンのコストは 0.003 \cdot 3 = \0.009 です。キャッシュされる7,000トークンは単価の10%で課金され、0.007 \cdot 3 \cdot 0.1 = $0.0021$となるため、キャッシュ適用後のコストは$$0.009 + $0.0021 = $0.0111$ です。節約額は次のとおりです。

入力コストに対して $0.0189 / 0.03 = 63\%$ の削減です。呼び出しあたりの数値は小さいものの、呼び出し量に比例して拡大し、このような呼び出しが100万件のワークロードではおよそ$18,900の節約になります。

変動要因

節約額はキャッシュ率と割引の両方が大きくなるほど増えます。安定した前半部分が大きいほど高くなる割合 f は、より多くのトークンを割引単価へ移し、より大きな割引 d は2つの単価の差を広げます。f = 1、d = 0.9 のとき、入力コストは90%全体だけ下がります。プロンプトの繰り返しが少ない場合や、繰り返しがキャッシュの有効期間を外れる場合は f が小さく、削減は小幅です。キャッシュは入力トークンにのみ適用され、出力トークンは常に標準単価で課金されます。

活用

プロンプトキャッシュは、毎ターン大きく固定的なコンテキストを再送するエージェントやチャットシステムで最も有効であり、そこでは繰り返される前半部分が入力を支配します。キャッシュ適用後のコストは、トークンコスト計算 と LLM月額コストの計算 における呼び出しあたりおよび月額の見積もりに反映されます。キャッシュとバッチ処理は同じワークロードに適用できる独立した割引です。非同期の代替手段については バッチAPIの節約額の計算 を、基礎となる単価を購買力として読み取るには 1ドルあたりトークン数の計算 を参照してください。