最終更新: 2026-06-22

関数呼び出しのトークンオーバーヘッド

関数呼び出しのトークンオーバーヘッドとは、大規模言語モデルにツールを使えるようにするための入力側のコストです。モデルがツールを呼び出すかどうか、どう呼び出すかを判断できるよう、プロバイダーは各ツールの定義、すなわち名前・自然言語の説明・パラメータのJSONスキーマを、モデルが読むプロンプトに直列化して埋め込みます。これらの定義はトークンで構成され、ツールが実際に使われるかどうかに関わらず毎回のリクエストで送られます。この計算では、その固定の呼び出しごとのオーバーヘッドと、呼び出し回数全体で生じる継続的なコストを切り出します。

なぜツールは毎回の呼び出しで課金されるのか

モデルはリクエスト間でステートレスです。ある呼び出しから次の呼び出しへ何も覚えていないため、使う可能性のあるツールは毎回あらためて記述する必要があります。ツールを一度登録して後から安価に参照する方法はなく、完全な定義が毎回の呼び出しの入力に運ばれます。モデルが何も呼び出さずに直接答えるリクエストでも、選択肢として供給された以上、定義分は課金されます。したがってコストは、提示するツールの数とそのスキーマの冗長さに比例し、モデルを呼び出す頻度を掛けたものになります。

計算式

$m$ 個のツールがそれぞれ $t_{tool}$ トークン、ツールブロックを囲むラッパートークンが $t_w$ のとき、1回あたりのオーバーヘッドは次のとおりです。

$n$ 回の呼び出しにわたる合計オーバーヘッドと、入力料金百万あたり $p$ でのコストは次のようになります。

$10^6$ で割ることで、100万あたりの提示料金がトークンあたりの料金に変換されます。ツール定義はモデルが読むため、入力料金で課金され、これは通常、公表されている2つの料金のうち低いほうです。

計算例

14 個のツールを提示し、その定義が平均 120 トークン、ブロックを囲むラッパートークンが 18 のエージェントを考えます。1回あたりのオーバーヘッドは次のとおりです。

入力料金100万トークンあたり $3 で 25,000 回呼び出すと、オーバーヘッドのコストは次のようになります。

この $127.35 は、利用者のメッセージやモデルの返信が数えられる前に費やされます。毎回のリクエストでツールを記述するためだけの代金です。14 個すべてではなく、各タスクに関係する少数のツールだけを提示するようエージェントをルーティングすれば、この数値を数分の一に抑えられます。

補足とバリエーション

ツールあたりの数値は、各ツールをどれだけ詳しく記述するかに大きく左右されます。詳細なパラメータの説明や多数の任意フィールドはスキーマを膨らませ、簡潔な定義はコンパクトに保たれます。ここで測るオーバーヘッドはツールブロックのみで、会話のトークンや、モデルが出力するツール呼び出しの引数は別物です。ツールブロックが呼び出し間で安定している場合は、プロンプトキャッシュが繰り返しのコストを下げられます。キャッシュからの読み取りは割引料金で課金されるためです。

活用

関数呼び出しのオーバーヘッドは請求の入力側に乗ります。出力側の対になるコスト、すなわちスキーマに沿うよう制約されたモデルが書き返すJSONの足場については、構造化出力のトークンオーバーヘッド が扱います。このオーバーヘッドの元になる呼び出しごとのトークン使用量を価格化するには、トークンコスト計算 を参照してください。