GPU 클라우드 비용 계산기
입력
| GPU당 시간당 가격 | 2.5 $ |
|---|---|
| GPU 수 | 8 |
| 실행 시간 | 24 |
GPU 클라우드 비용 계산기
시간당 가격, GPU 수, 실행 시간으로부터 정해진 길이의 작업에 클라우드 GPU를 빌리는 총비용과 GPU 한 대가 기여하는 비용을 추정합니다.
입력
작업
결과
값을 입력하면 계산 결과가 표시됩니다.
세부 정보
GPU 클라우드 비용
클라우드에서 GPU를 빌리면서 하드웨어를 소유하지 않고도 대규모 학습이나 배치 작업을 시작할 수 있게 되었지만, 수십 개의 가속기를 며칠씩 돌리면 청구액은 금세 불어납니다. 산술 자체는 단순합니다. 정해진 길이의 작업 비용은 GPU 한 대의 시간당 가격에, 사용하는 GPU 수를 곱하고, 실행 시간을 곱한 것입니다. 이 계산기는 그 값을 구하고 GPU 한 대가 기여하는 비용으로도 나눠 보여줍니다.
청구액은 가격, 수, 시간에 선형이다
클라우드 GPU 청구에는 단일 작업 내에서 규모의 경제가 없습니다. GPU 한 대든 백 대든 각 GPU는 전체 실행 시간 동안 동일한 시간당 요율로 과금됩니다. 그래서 총비용은 세 숫자의 깔끔한 곱이 됩니다.
C=c⋅n⋅h여기서 는 GPU당 시간당 가격, 은 GPU 수, 는 실행 길이(시간)입니다. GPU 한 대에 귀속되는 비용은 다음과 같습니다.
g=c⋅h따라서 총비용은 이기도 합니다. 관계가 선형이므로 GPU 수나 실행 시간을 두 배로 늘리면 청구액도 두 배가 되며, GPU 시간으로 측정한 고정된 작업량에 대해 둘은 서로 맞바꿀 수 있습니다.
예제 계산
어떤 학습 작업이 GPU 시간당 2.50달러인 GPU 8대를 사용하고 끝나는 데 24시간이 걸린다고 합니다.
gC=2.50×24=60=2.50×8×24=480GPU 한 대는 하루에 60달러이고, 8대를 합치면 480달러입니다. 같은 작업을 16대로 12시간 안에 끝낼 수 있다면 GPU 시간은, 따라서 비용도 480달러로 변하지 않습니다. 역시 480이기 때문입니다. 청구액을 바꾸는 것은 소비된 GPU 시간이지, 그것을 수와 시간으로 어떻게 나누느냐가 아닙니다.
온디맨드 대 스팟 가격
여기에 입력하는 시간당 가격은 매우 다른 두 시장에서 나올 수 있습니다. 온디맨드 인스턴스는 필요한 만큼 고정 요율로 예약되어 중단되지 않으므로, 한 번에 완료해야 하는 작업에 적합합니다. 스팟 또는 선점형 인스턴스는 동일한 하드웨어를 큰 할인가, 흔히 온디맨드 가격의 절반에서 3분의 1 수준으로 제공하지만, 제공업체가 짧은 통지로 회수할 수 있습니다. 회수 후 재개할 수 있는 체크포인트 기반 작업은 스팟 용량에서 훨씬 저렴하게 돌아가는 경우가 많고, 처음부터 다시 시작해야 하는 작업은 보통 온디맨드가 더 안전합니다. 작업이 실제로 사용할 인스턴스에 맞는 요율을 입력하시기 바랍니다.
추정치 활용하기
이 수치는 GPU 연산 요금만 다룹니다. 실제 청구서에는 스토리지, 데이터 전송, 네트워킹도 포함되며, 작업 전후로 인스턴스가 프로비저닝된 채 유휴 상태로 있는 시간에 대해서도 계속 과금됩니다. 예약 가속기에서 이 유휴 시간 낭비를 따져 보려면 GPU 활용도 비용 계산기를 참고하시기 바랍니다. 임대 자체가 하드웨어 구매나 호스팅 API 호출보다 저렴한지 판단하려면 자체 호스팅 대 API 손익분기 계산기를 참고하시기 바랍니다.
자주 묻는 질문 (FAQ)
스팟 가격과 온디맨드 가격의 차이는 무엇인가요?
온디맨드 가격은 필요한 만큼 GPU를 고정 시간당 요율로 예약하며 중단 위험이 없습니다. 스팟 또는 선점형 가격은 동일한 하드웨어를 큰 할인가, 흔히 온디맨드 요율의 절반에서 3분의 1 수준으로 제공하지만, 다른 곳에서 용량이 필요할 때 제공업체가 짧은 통지로 인스턴스를 회수할 수 있습니다. 스팟은 중단 후 재개할 수 있는 내결함성 또는 체크포인트 기반 작업에 적합하고, 온디맨드는 재시작 없이 완료해야 하는 작업에 적합합니다. 사용하는 인스턴스에 해당하는 요율을 입력하시기 바랍니다.
GPU 종류는 어떻게 선택해야 하나요?
적절한 GPU는 작업에 필요한 메모리와 활용할 수 있는 처리량에 따라 달라집니다. 더 작은 가속기에 들어가는 모델은, 바쁘게 가동할 수 없는 최상위 카드보다 그곳에서 실행하는 편이 더 저렴합니다. 대규모 학습 작업에서는 빠른 인터커넥트를 갖춘 고용량 데이터센터 GPU가 필요한 시간을 줄여, 시간당 요율이 더 높더라도 총비용을 낮추는 경우가 많습니다. 유의미한 비교는 표면적인 시간당 가격이 아니라 작업의 총비용입니다. 더 빠른 GPU가 더 적은 시간에 끝날 수 있기 때문입니다.
GPU 시간은 총비용과 어떤 관계인가요?
GPU 시간은 GPU 수에 실행 시간을 곱한 값으로, 대부분의 학습 보고서가 인용하는 소비 단위입니다. 총비용은 단순히 GPU 시간에 GPU당 시간당 가격을 곱한 것입니다. 작업이 알려진 GPU 시간만큼 걸릴 것으로 예상된다면, GPU 수로 나누면 실제 경과 시간이 나오고 시간당 요율을 곱하면 청구액이 나옵니다. 이 계산기는 가격, 수, 시간으로부터 동일한 산술을 수행합니다.
면책조항
이 값은 입력한 길이의 작업에 대한 GPU 연산 요금만 추정합니다. 스토리지, 데이터 전송, 네트워킹, 작업 전후의 유휴 시간, 스팟 용량의 중단은 제외합니다. 장기 작업을 확정하기 전에 결과를 예약 또는 서버리스 가격과 비교하시기 바랍니다.