最後更新：2026-06-22

什麼是 LLM 每月成本

大型語言模型（LLM）工作負載的每月成本，是在一個計費月份內以穩定的量發出 API 呼叫所產生的經常性支出。它將單次呼叫的價格（本身為輸入與輸出詞元數量及模型每百萬詞元費率的函數）依每日請求數與當月天數放大。同一個每日數字也可向前推算為年度總額。

單次呼叫價格如何放大

經常性成本由三次乘法構築而成。單次請求的成本為每次呼叫的詞元成本；乘以每日請求數可得每日支出；再乘以計費天數可得每月數字。由於每個因子皆為線性，將其中任一者（詞元使用量、請求量或費率）加倍，都會使推算的支出加倍。

公式

設每次呼叫平均有 $n_{in}$ 個輸入與 $n_{out}$ 個輸出詞元，每百萬價格為 $p_{in}$ 與 $p_{out}$，單次請求的成本為

每天 $N_d$ 次請求、跨越 $D$ 個計費天數，則每日、每月與每年成本為

年度數字是直接將每日成本乘以 365，而非乘以十二個月，因此不會繼承每月天數中的概估。

範例計算

取一個工作負載，每天 $N_d = 1000$ 次請求，每次平均 1500 個輸入與 500 個輸出詞元，價格為每百萬 $3 與 $15。每次請求成本為 C_r = \0.012$。每日支出為

在一個 30 天的月份中為 C_m = 12 \times 30 = \360$，整年則為$C_y = 12 \times 365 = $4{,}380$。請注意十二個 30 天的月份共 360 天，比一年少五天，這就是年度數字超過每月數字十二倍的原因。

註記與變化

推算假設平均用量與量維持穩定；實際流量會隨每日與季節而變動。實際費率也可能低於標稱數字：提示快取對重複的情境提供折扣，批次處理以延遲換取較低費率，而承諾用量協議則降低單價。天數是一個建模選擇：30 是一個整數概估，而 $365/12 \approx 30.44$ 為精確的平均月長度。

應用

每月成本將單次呼叫估計轉化為一條預算項目。它所放大的每次呼叫數字是 詞元成本計算機 的主題，而每個任務發出多次連續呼叫的工作負載則以 代理人成本計算機 估算。當推算的量逼近供應商的處理量上限時，LLM 速率限制規劃計算機 可檢查速率限制是否足以支撐。