最終更新: 2026-06-22

構造化出力のオーバーヘッド

構造化出力のオーバーヘッドとは、LLMのレスポンスのうち、内容ではなく書式が占める割合を指す。スキーマに沿ったJSONを返すよう求められると、モデルは実際の値に加えて、すべてのキー名・引用符・コロン・カンマ・波かっこを出力しなければならない。これらの構造的なトークンは、ほかの出力トークンとまったく同じように生成され課金されるため、少数の短い値しか運ばないレスポンスでも、トークンの大きな割合を足場に費やすことがある。本ツールは、この固定のオーバーヘッドと、呼び出し回数を通じて生じる継続的なコストを切り分ける。

オーバーヘッドの発生源

返されるオブジェクトの各フィールドは、引用符付きのキー、キーと値を区切るコロン、次のフィールドの前に置くカンマを生む。shipping_status という名前のフィールドは、値が書かれる前に複数のトークンに分割される。フィールドごとのコストに加えて、すべてのレスポンスは固定の枠組み（オブジェクトの開閉の波かっこと、プロバイダーが挿入するスキーマの足場）を運び、これはフィールド数によらず1回数えられる。この枠組みとフィールドごとの構造は値に依存しないため、オーバーヘッドは特定のスキーマに対して一定であり、呼び出し回数に比例して線形に増える。

計算式

$f$ 個のフィールドが各 $t_f$ トークンの足場を持ち、ラッパートークンを $t_w$ とすると、1回あたりのオーバーヘッドは次のとおり。

$n$ 回の呼び出しを通じた構造的トークンの総数と、百万トークンあたりの出力料金 $p$ でのコストは次のとおり。

$10^6$ で割ることで、100万あたりの提示料金を1トークンあたりの単価に換算する。構造化出力はモデルによって生成されるため、オーバーヘッドは出力料金で課金され、これは通常、公表されている2つの料金のうち高いほうにあたる。

計算例

12フィールドのレコードを返す抽出タスクを考える。各フィールドの足場に約9トークンかかり、オブジェクトの枠組みが5ラッパートークンを加えるとする。1回あたりのオーバーヘッドは次のとおり。

100万トークンあたり $15 の出力料金で40,000回にわたって実行すると、構造的コストは次のとおり。

この $67.80 は情報を一切買っていない。抽出された値を包む波かっこ・キー・カンマだけに支払っている。この規模では、キー名を短くしたり使われないフィールドを落としたりすることが、そのまま継続的な節約につながる。

補足とバリエーション

フィールドあたりの値は平均であり、長く説明的なキー名は簡潔なものより高くつき、ネストしたオブジェクトはそれ自身の中間の波かっことキーを加える。モデルは値そのものも出力するが、本ツールはこれを除外し、スキーマが課す構造的な下限のみを測る。同じタスクをより簡潔な表現で扱えるなら、その下限はそれに応じて下がる。

活用

構造化出力のオーバーヘッドは請求の出力側にかかる。入力側の対応物（関数呼び出しのリクエストごとに送られるツール定義）は 関数呼び出しのトークンオーバーヘッド が扱う。これらのオーバーヘッドの元になる1回あたりのトークン使用量を価格付けするには、トークンコスト計算 を参照のこと。