최종 업데이트: 2026-06-22

자체 호스팅 대 API 손익분기란

자체 호스팅 대 API 손익분기는 임대 또는 보유 GPU 용량으로 언어 모델을 호스팅하는 고정 비용이 토큰당 과금하는 호스팅 API 호출의 변동 비용과 같아지는 월간 토큰량이다. 자체 호스팅은 API의 순수 토큰당 가격을, 큰 고정 월간 비용과 낮은 토큰당 한계 비용으로 대체한다. 손익분기 사용량 아래에서는 고정 비용이 충분히 활용되지 않아 API가 더 저렴하고, 그 위에서는 고정 비용이 충분한 토큰에 걸쳐 분산되어 자체 호스팅이 유리해진다.

계산식

고정 월간 GPU 비용을 $F, 100만 토큰당 API 가격을 p_a$, 100만 토큰당 자체 호스팅 변동 비용을 $p_v$라 한다. 두 방식은 고정 비용이 처리된 사용량에서의 토큰당 절감과 같아질 때 비용이 같아진다. 손익분기 토큰량 $T_b$에 대해 풀면 다음과 같다.

손익분기점은 $p_a > p_v$일 때만 존재한다. API의 토큰당 가격이 자체 호스팅 한계 비용을 초과하지 않으면 자체 호스팅은 결코 그것을 추월하지 못한다. 실제 월간 사용량 $T$에서 두 월간 비용은 다음과 같다.

자체 호스팅 절감액은 $S = C_a - C_s$이며, 손익분기점 위에서는 양수, 아래에서는 음수다.

계산 예시

월 고정 GPU 비용이 F = \1{,}500, 100만 토큰당 API 가격이 p_a = $10$, 이미 확보된 용량에서 무시할 만한 자체 호스팅 변동 비용이$p_v = $0$인 경우를 생각한다. 손익분기 사용량은 다음과 같다.

1억 5천만 토큰 아래에서는 API가 더 저렴하고, 그 위에서는 자체 호스팅이 더 저렴하다. 실제 사용량이 T = 500백만 토큰일 때, API 비용은 C_a = 500 \times \10 = $5{,}000$인 반면 자체 호스팅 비용은 일정한$C_s = $1{,}500$이므로 월$S = $3{,}500$을 절감한다. 용량이 확보된 뒤 자체 호스팅 비용은 일정한 반면 API 비용은 선형으로 늘어나므로, 사용량이 커질수록 격차가 벌어진다.

변동 요인과 유의점

단일 API 가격은 트래픽 비중으로 가중한 입력 단가와 출력 단가의 혼합이며, 자체 호스팅 변동 비용은 전기와 대역폭을 담는데 이는 추론 에너지 비용 계산기 계산기로 정량화할 수 있다. 이 모델은 확보된 용량이 사용량에 충분하다고 가정한다. 가동률이 낮아 GPU가 띄엄띄엄한 트래픽을 기다리며 놀고 있으면 토큰당 실효 고정 비용이 올라 손익분기점이 높아지고, 단일 인스턴스가 최대 부하를 감당하지 못하면 추가 인스턴스가 "고정" 비용의 일부를 변동 비용처럼 움직이게 한다. 또한 자체 호스팅은 관리형 API가 흡수하는 확장과 가동 시간, 모델 갱신, 보안에 대한 책임을 더한다.

활용

손익분기 사용량은 인프라 결정의 비용 기준점이다. 이를 LLM 월간 비용 계산기가 추정하도록 돕는 예상 월간 사용량과 비교하면 현재 어느 쪽이 더 저렴한지, 그리고 답이 뒤집히기까지 얼마나 여유가 있는지 알 수 있다. 공시된 API 가격과 GPU 요금은 시간이 지나면서 변하고 이 모델은 일회성 설치와 유휴 시간을 제외하므로, 이 수치는 현재 견적과 측정된 가동률에 대조해 검증할 기준선이다.