Calculadora de Custo de GPU na Nuvem
Entradas
| Preço por hora por GPU | 2,5 $ |
|---|---|
| Número de GPUs | 8 |
| Duração | 24 |
Calculadora de Custo de GPU na Nuvem
Estime a conta total do aluguel de GPUs na nuvem para uma execução de duração fixa a partir do preço por hora, do número de GPUs e da duração, além do custo que cada GPU contribui.
Entradas
Execução
Resultados
Insira um valor para ver os resultados.
Detalhes
O custo de GPU na nuvem
Alugar GPUs na nuvem tornou possível iniciar um grande trabalho de treinamento ou de processamento em lote sem possuir nenhum hardware, mas a conta pode subir depressa quando dezenas de aceleradores rodam por dias. A aritmética em si é simples: o custo de uma execução de duração fixa é o preço por hora de uma GPU, multiplicado por quantas GPUs são usadas, multiplicado por quantas horas elas rodam. Esta calculadora resolve isso e também decompõe a conta no custo que cada GPU contribui.
A cobrança é linear no preço, na quantidade e no tempo
A cobrança de GPU na nuvem não tem economia de escala dentro de uma única execução — cada GPU é cobrada pela mesma tarifa por hora durante toda a duração, esteja rodando uma ou cem. Isso torna o custo total um produto limpo de três números:
C=c⋅n⋅honde é o preço por hora por GPU, é o número de GPUs e é a duração da execução em horas. O custo atribuível a uma única GPU é apenas
g=c⋅hde modo que o total também é . Como a relação é linear, dobrar a quantidade de GPUs ou a duração dobra a conta, e as duas são intercambiáveis para uma quantidade fixa de trabalho medida em GPU-horas.
Exemplo resolvido
Suponha que uma execução de treinamento use 8 GPUs com preço de $2,50 por GPU-hora e leve 24 horas para terminar:
gC=2,50×24=$60=2,50×8×24=$480Cada GPU custa $60 pelo dia, e as oito juntas custam $480. Se o mesmo trabalho pudesse ser concluído em 12 horas com 16 GPUs, as GPU-horas — e, portanto, o custo — permaneceriam inalteradas em $480, já que também é $480. O que muda a conta são as GPU-horas consumidas, não como elas são divididas entre quantidade e tempo.
Sob demanda versus preço spot
O preço por hora informado aqui pode vir de dois mercados muito diferentes. Instâncias sob demanda são reservadas pelo tempo necessário a uma tarifa fixa e nunca são interrompidas, o que serve a execuções que precisam concluir em uma única passada. Instâncias spot ou preemptíveis oferecem o mesmo hardware com um grande desconto — frequentemente de metade a um terço do preço sob demanda —, mas o provedor pode retomá-las com pouco aviso. Um trabalho com checkpoint, que pode retomar após a remoção, costuma rodar muito mais barato em capacidade spot, enquanto um trabalho que teria de reiniciar do zero costuma ser mais seguro sob demanda. Informe a tarifa que corresponde às instâncias que a execução vai de fato usar.
Usando a estimativa
Este número cobre apenas o custo de computação da GPU. Uma fatura real também inclui armazenamento, transferência de dados e rede, e continua cobrando por qualquer tempo em que as instâncias fiquem provisionadas mas ociosas antes ou depois da execução. Para avaliar esse desperdício de tempo ocioso em um acelerador reservado, veja a Calculadora de Custo de Utilização de GPU. Para decidir se alugar é mais barato do que comprar hardware ou chamar uma API hospedada, veja a Calculadora de Ponto de Equilíbrio: Hospedagem Própria vs. API.
Perguntas frequentes (FAQ)
Qual é a diferença entre preço spot e sob demanda?
O preço sob demanda reserva uma GPU pelo tempo necessário a uma tarifa fixa por hora, sem risco de interrupção. O preço spot ou preemptível oferece o mesmo hardware com um desconto acentuado — muitas vezes de metade a um terço da tarifa sob demanda —, mas o provedor pode retomar a instância com pouco aviso quando há necessidade de capacidade em outro lugar.
O spot é bem adequado a trabalhos tolerantes a falhas ou com checkpoint, que podem retomar após uma interrupção, enquanto o sob demanda serve a execuções que precisam concluir sem reinícios. Informe a tarifa que se aplica à instância em uso.
Como escolher um tipo de GPU?
A GPU certa depende da memória de que o trabalho precisa e da vazão que ele consegue aproveitar. Um modelo que cabe em um acelerador menor é mais barato de rodar ali do que em uma placa de ponta que ele não consegue manter ocupada.
Para grandes execuções de treinamento, GPUs de data center com muita memória e interconexão rápida reduzem as horas necessárias e, muitas vezes, baixam a conta total apesar de uma tarifa por hora mais alta. A comparação útil é o custo total da execução, não o preço por hora de destaque, já que uma GPU mais rápida pode terminar em menos horas.
Como as GPU-horas se relacionam com o custo total?
GPU-horas são o número de GPUs multiplicado pelas horas em que rodam — a unidade de consumo que a maioria dos relatórios de treinamento cita. O custo total é simplesmente GPU-horas vezes o preço por hora por GPU.
Se uma execução deve levar um número conhecido de GPU-horas, dividir pela quantidade de GPUs dá a duração em tempo de relógio, e multiplicar pela tarifa por hora dá a conta. Esta calculadora faz a mesma aritmética a partir do preço, da quantidade e da duração.
Aviso legal
Isto estima apenas o custo de computação da GPU para uma execução da duração informada. Exclui armazenamento, transferência de dados, rede, tempo ocioso antes e depois da execução e quaisquer interrupções em capacidade spot. Compare o resultado com o preço reservado ou serverless antes de se comprometer com uma execução longa.
Próximas sugestões
Calculadora de Custo de Utilização de GPU
Veja o custo real de um acelerador reservado uma vez que o tempo ocioso é contabilizado. Insira o preço por hora e a utilização para obter o custo efetivo por hora útil e o dinheiro gasto com capacidade ociosa.
Calculadora de Ponto de Equilíbrio: Hospedagem Própria vs. API
Determina o volume mensal de tokens em que um custo fixo de hospedagem própria (capacidade de GPU alugada ou própria, mais sobrecarga marginal) supera o preço por token de uma API, e mostra o custo mensal e a economia no volume real.