首頁 ai 函式呼叫詞元額外負擔計算機 產生日期: 2026年7月20日 下午09:34 函式呼叫詞元額外負擔計算機 輸入 工具數量5每個工具詞元數80呼叫次數1,000輸入單價(每百萬詞元)3 $外框詞元16 AI & LLM 函式呼叫詞元額外負擔計算機 估算向 LLM 提供工具所花費的輸入詞元與成本。工具定義——名稱、描述與參數結構描述——會隨每次呼叫送出,無論是否使用到工具。 輸入 工具 工具數量 你向模型提供多少個工具或函式。每一個的完整定義都會隨每次呼叫送出。 每個工具詞元數 單一工具定義的平均詞元數——其名稱、描述,以及參數的 JSON 結構描述。簡單的工具約 80 個詞元;具有多個描述參數的工具可達數百個。 用量與計價 呼叫次數 在你所估算的期間內,有多少次請求帶有這些工具定義。 輸入單價(每百萬詞元) $ 供應商每一百萬個輸入詞元的收費。工具定義以輸入費率計價。 外框詞元 結果 輸入數值即可顯示計算結果。 每次呼叫額外負擔 工具定義為一次請求所增加的輸入詞元:5 個工具、每個 80 個詞元,再加上 16 個外框詞元。 額外負擔成本 $ ... 個額外負擔詞元以每百萬 3 $ 計算的成本——帳單中用於承載工具定義而非對話的部分。 詳細資料 額外負擔詞元總數 全部 1,000 次呼叫的工具額外負擔——每次呼叫 ... 個詞元乘以呼叫次數。 分享 列印報告 重設 嵌入 嵌入這個計算機 預覽 將這段程式碼貼到您的網頁中即可顯示計算機。 複製程式碼 分享這個計算 開啟此連結的人都會看到您填入的數值。 複製連結 分享至 XFacebookLINE 電子郵件 最後更新:2026-06-22 函式呼叫詞元額外負擔 函式呼叫詞元額外負擔,是把工具提供給大型語言模型所產生的輸入端成本。為了讓模型決定是否以及如何呼叫工具,供應商會把每個工具的定義——其名稱、自然語言描述,以及參數的 JSON 結構描述——序列化進模型讀取的提示中。這些定義由詞元構成,並在每次請求都送出,無論最終是否用到工具。本計算機把這項固定的每次呼叫額外負擔,以及它在一定呼叫量下所產生的經常性成本獨立出來。 為什麼每次呼叫都對工具計費 模型在請求之間是無狀態的:它不會記得上一次呼叫的任何東西,因此它可能用到的工具每次都得重新描述。沒有辦法把工具註冊一次、之後再以低廉方式引用——完整定義會隨每次呼叫的輸入一起送出。一個模型直接作答、未呼叫任何工具的請求,仍要為這些定義付費,因為它們已被送出以提供該選項。因此成本會隨所提供的工具數量與其結構描述的冗長程度,再乘以呼叫模型的頻率而增長。 公式 設有 mm 個工具、每個 ttoolt_{tool} 個詞元,以及包覆工具區塊的 twt_w 個外框詞元,則每次呼叫的額外負擔為 tcall=m⋅ttool+twt_{call} = m \cdot t_{tool} + t_wtcall=m⋅ttool+tw 在 nn 次呼叫中,總額外負擔以及以每百萬詞元輸入單價 pp 計算的成本為 T=tcall⋅nC=T106 p\begin{aligned} T &= t_{call} \cdot n \\ C &= \frac{T}{10^6}\, p \end{aligned}TC=tcall⋅n=106Tp 除以 10610^6 是把每百萬的報價換算為每詞元的費率。工具定義由模型讀取,因此以輸入費率計價,通常是兩個公開單價中較低的那一個。 範例計算 考慮一個代理人提供 14 個工具,其定義平均每個 120 個詞元,並以 18 個外框詞元包覆該區塊。每次呼叫的額外負擔為 tcall=14×120+18=1,698 tokenst_{call} = 14 \times 120 + 18 = 1{,}698 \text{ tokens}tcall=14×120+18=1,698 tokens 在 25,000 次呼叫中以每百萬詞元 $3 的輸入單價執行,額外負擔成本為 T=1698×25000=42,450,000 tokensC=42450000106×3=$127.35\begin{aligned} T &= 1698 \times 25000 = 42{,}450{,}000 \text{ tokens} \\ C &= \frac{42450000}{10^6} \times 3 = \$127.35 \end{aligned}TC=1698×25000=42,450,000 tokens=10642450000×3=$127.35 這 $127.35 在任何使用者訊息或模型回覆被計入之前就已花掉——它只用於在每次請求描述工具。把代理人路由成只提供與各任務相關的少數工具,而非全部 14 個,可將這個數字削減數倍。 注意事項與變化 每工具的數字高度取決於每個工具被描述得多詳盡:詳細的參數描述與眾多選用欄位會膨脹結構描述,而精簡的定義則保持緊湊。此處衡量的額外負擔純粹是工具區塊;對話詞元與模型產出的任何工具呼叫引數都另計。當工具區塊在呼叫間維持穩定時,提示快取能降低這項重複成本,因為快取讀取以較低費率計費。 應用 函式呼叫額外負擔落在帳單的輸入端。其輸出端的對應部分——模型在被約束為某結構描述時寫回的 JSON 鷹架——由 結構化輸出額外負擔計算機 處理。若要從這項額外負擔所衍生的基礎每次呼叫詞元用量定價,請參閱 詞元成本計算機。 常見問題(FAQ)為什麼工具會花費詞元?為了讓模型能呼叫工具,它必須知道該工具存在以及如何使用。供應商會把每個工具的名稱、自然語言描述與 JSON 參數結構描述序列化進模型讀取的提示中。那段序列化的區塊由詞元構成,並在每次請求的輸入端處理,因此你所提供的工具會在模型寫下任何一個字的回覆之前,就增加了輸入詞元數。 如何降低工具額外負擔?只提供與當前任務相關的工具,而非在每次呼叫都送出整份目錄——對工具集做路由或篩選是最大的槓桿。精簡冗長的參數描述、移除少用的選用參數,能縮小每個定義。由於額外負擔是按次計費,這些節省會在高用量工作負載中累積;而較精簡的工具集通常也能提升模型挑選工具的準確度。 工具定義會在每次呼叫都送出嗎?會。模型在請求之間是無狀態的,因此工具定義會包含在每次呼叫的輸入中,而非註冊一次即可。即使是模型直接作答、未呼叫任何工具的請求,仍要為這些定義付費,因為它們已被送出以提供該選項。當工具區塊在呼叫間維持穩定時,提示快取能降低這項重複成本,因為快取讀取以較低費率計費。 免責聲明 詞元數字為估算值,取決於模型的詞元化方式,以及供應商如何序列化工具定義。公開單價會隨時間調整,且可能不含快取或批次折扣。在以任何數字作為計費依據前,請向供應商確認當前費率與確切詞元數。 推薦的下一個 結構化輸出額外負擔計算機 估算要求 LLM 依照結構描述回傳 JSON 時,所多花費的輸出詞元與成本——也就是包覆在實際值外圍的欄位名稱、型別標記與標點符號。 深入了解詞元成本計算機 依輸入與輸出的詞元數量,以及模型每百萬詞元的價格,計算單次大型語言模型(LLM)API 呼叫的成本,其中輸入與輸出分別計費。 深入了解 200+ 計算機 · 10 種語言 · 完全免費 更多cost 文字轉語音成本計算機代理人成本計算機向量資料庫大小計算機向量資料庫成本計算機自架與 API 損益平衡計算機函式呼叫詞元額外負擔計算機 +20 more Show less 批次 API 節省計算機每元詞元數計算機系統提示攤提計算機音訊轉錄成本計算機訓練時間與成本計算訓練碳足跡計算情境成本增長計算機情境視窗容納計算機推論能源成本計算機嵌入成本計算機提示快取節省計算機結構化輸出額外負擔計算機詞元成本計算機詞元轉字數計算機微調成本計算影像生成成本計算機GPU 利用率成本計算器GPU 雲端成本計算機LLM 每月成本計算機LLM 速率限制規劃計算機 其他ai計算機 inference 多模態影像詞元計算器有效每秒標記數計算器批次推論吞吐量計算器每標記 FLOP 計算機推測解碼加速計算機推論吞吐量計算器推論延遲計算器模型 FLOP 使用率計算機training 有效批次大小計算訓練 FLOPs 計算梯度累積記憶體計算機資料平行擴展計算資料集詞元數計算算力最佳模型大小計算算力預算可訓練輪數計算管線平行氣泡計算學習率暖身計算Chinchilla 最佳詞元數計算LLM 訓練 VRAM 計算機LoRA 參數計算機infrastructure 注意力記憶體計算機專家混合活躍參數計算機量化模型大小計算器模型下載時間計算器GPU 數量需求計算機KV 快取大小計算機LLM 推論 VRAM 計算器Transformer 參數量計算機retrieval RAG 分塊計算器evaluation 困惑度計算器A/B 測試顯著性計算器LLM 評估樣本數計算器pass@k 計算器所有工具 餘弦相似度計算器 這個計算機對您有幫助嗎? 有幫助 需要改進 需要改進 我們可以如何改進這個計算機? 送出回饋 由 OneCalc 提供 ↗
最後更新:2026-06-22 函式呼叫詞元額外負擔 函式呼叫詞元額外負擔,是把工具提供給大型語言模型所產生的輸入端成本。為了讓模型決定是否以及如何呼叫工具,供應商會把每個工具的定義——其名稱、自然語言描述,以及參數的 JSON 結構描述——序列化進模型讀取的提示中。這些定義由詞元構成,並在每次請求都送出,無論最終是否用到工具。本計算機把這項固定的每次呼叫額外負擔,以及它在一定呼叫量下所產生的經常性成本獨立出來。 為什麼每次呼叫都對工具計費 模型在請求之間是無狀態的:它不會記得上一次呼叫的任何東西,因此它可能用到的工具每次都得重新描述。沒有辦法把工具註冊一次、之後再以低廉方式引用——完整定義會隨每次呼叫的輸入一起送出。一個模型直接作答、未呼叫任何工具的請求,仍要為這些定義付費,因為它們已被送出以提供該選項。因此成本會隨所提供的工具數量與其結構描述的冗長程度,再乘以呼叫模型的頻率而增長。 公式 設有 mm 個工具、每個 ttoolt_{tool} 個詞元,以及包覆工具區塊的 twt_w 個外框詞元,則每次呼叫的額外負擔為 tcall=m⋅ttool+twt_{call} = m \cdot t_{tool} + t_wtcall=m⋅ttool+tw 在 nn 次呼叫中,總額外負擔以及以每百萬詞元輸入單價 pp 計算的成本為 T=tcall⋅nC=T106 p\begin{aligned} T &= t_{call} \cdot n \\ C &= \frac{T}{10^6}\, p \end{aligned}TC=tcall⋅n=106Tp 除以 10610^6 是把每百萬的報價換算為每詞元的費率。工具定義由模型讀取,因此以輸入費率計價,通常是兩個公開單價中較低的那一個。 範例計算 考慮一個代理人提供 14 個工具,其定義平均每個 120 個詞元,並以 18 個外框詞元包覆該區塊。每次呼叫的額外負擔為 tcall=14×120+18=1,698 tokenst_{call} = 14 \times 120 + 18 = 1{,}698 \text{ tokens}tcall=14×120+18=1,698 tokens 在 25,000 次呼叫中以每百萬詞元 $3 的輸入單價執行,額外負擔成本為 T=1698×25000=42,450,000 tokensC=42450000106×3=$127.35\begin{aligned} T &= 1698 \times 25000 = 42{,}450{,}000 \text{ tokens} \\ C &= \frac{42450000}{10^6} \times 3 = \$127.35 \end{aligned}TC=1698×25000=42,450,000 tokens=10642450000×3=$127.35 這 $127.35 在任何使用者訊息或模型回覆被計入之前就已花掉——它只用於在每次請求描述工具。把代理人路由成只提供與各任務相關的少數工具,而非全部 14 個,可將這個數字削減數倍。 注意事項與變化 每工具的數字高度取決於每個工具被描述得多詳盡:詳細的參數描述與眾多選用欄位會膨脹結構描述,而精簡的定義則保持緊湊。此處衡量的額外負擔純粹是工具區塊;對話詞元與模型產出的任何工具呼叫引數都另計。當工具區塊在呼叫間維持穩定時,提示快取能降低這項重複成本,因為快取讀取以較低費率計費。 應用 函式呼叫額外負擔落在帳單的輸入端。其輸出端的對應部分——模型在被約束為某結構描述時寫回的 JSON 鷹架——由 結構化輸出額外負擔計算機 處理。若要從這項額外負擔所衍生的基礎每次呼叫詞元用量定價,請參閱 詞元成本計算機。 常見問題(FAQ)為什麼工具會花費詞元?為了讓模型能呼叫工具,它必須知道該工具存在以及如何使用。供應商會把每個工具的名稱、自然語言描述與 JSON 參數結構描述序列化進模型讀取的提示中。那段序列化的區塊由詞元構成,並在每次請求的輸入端處理,因此你所提供的工具會在模型寫下任何一個字的回覆之前,就增加了輸入詞元數。 如何降低工具額外負擔?只提供與當前任務相關的工具,而非在每次呼叫都送出整份目錄——對工具集做路由或篩選是最大的槓桿。精簡冗長的參數描述、移除少用的選用參數,能縮小每個定義。由於額外負擔是按次計費,這些節省會在高用量工作負載中累積;而較精簡的工具集通常也能提升模型挑選工具的準確度。 工具定義會在每次呼叫都送出嗎?會。模型在請求之間是無狀態的,因此工具定義會包含在每次呼叫的輸入中,而非註冊一次即可。即使是模型直接作答、未呼叫任何工具的請求,仍要為這些定義付費,因為它們已被送出以提供該選項。當工具區塊在呼叫間維持穩定時,提示快取能降低這項重複成本,因為快取讀取以較低費率計費。 免責聲明 詞元數字為估算值,取決於模型的詞元化方式,以及供應商如何序列化工具定義。公開單價會隨時間調整,且可能不含快取或批次折扣。在以任何數字作為計費依據前,請向供應商確認當前費率與確切詞元數。