最後更新：2026-06-22

什麼是自架與 API 損益平衡

自架與 API 損益平衡，是在租用或自有 GPU 容量上自架語言模型的固定成本，等於呼叫按詞元計價託管 API 之變動成本時的每月詞元量。自架以一筆龐大的固定每月成本與低廉的每詞元邊際成本，替代 API 純按詞元的定價。在損益平衡量以下，API 較便宜，因為固定成本未被充分利用；在其以上，固定成本分攤到足夠多的詞元，使自架勝出。

公式

設 $F$ 為固定的每月 GPU 成本，$p_a$ 為每百萬詞元的 API 價格，$p_v$ 為每百萬詞元的自架變動成本。當固定成本等於所處理量上的每詞元節省時，兩種選項成本相同。解出損益平衡詞元量 $T_b$：

唯有當 $p_a > p_v$ 時損益平衡點才存在；若 API 的每詞元價格未超過自架的邊際成本，自架永遠無法超越它。在實際每月量 $T$ 下，兩種每月成本為

而自架節省為 $S = C_a - C_s$，在損益平衡點以上為正，以下為負。

範例計算

取固定 GPU 成本 F = \1{,}500$每月、API 價格$p_a = $10$每百萬詞元，以及在已配置容量上可忽略的自架變動成本$p_v = $0$。損益平衡量為

在 1.5 億詞元以下 API 較便宜；以上則自架較便宜。在實際量 T = 500 百萬詞元下，API 成本為 C_a = 500 \times \10 = $5{,}000$，而自架成本為固定的$C_s = $1{,}500$，每月節省$S = $3{,}500$。隨量成長差距擴大，因為 API 成本呈線性放大，而自架成本在容量配置後維持固定。

變化與注意事項

單一 API 價格是輸入與輸出費率依其流量占比加權後的混合；自架變動成本涵蓋電力與頻寬，而 推論能源成本計算機 計算機可量化前者。此模型假設已配置的容量足以應付該量。若使用率偏低（閒置的 GPU 等待零星流量），則每詞元的實際固定成本上升，損益平衡點隨之提高；若單一執行個體無法承載尖峰負載，額外的執行個體會使部分「固定」成本表現得如同變動成本。自架也增加擴縮、運行時間、模型更新與安全等責任，而託管 API 已吸收這些。

應用

損益平衡量是一項基礎設施決策的成本門檻。將其與推算的每月用量（LLM 每月成本計算機 有助於估算）相比較，可指出今日何者較便宜，以及在答案翻轉前還有多少餘裕。由於公布的 API 價格與 GPU 費率會隨時間變動，且此模型略過一次性建置與閒置時間，此數字是一個基準，須對照目前的報價與實測使用率加以驗證。