Última atualização: 2026-06-22

O custo energético de inferência explicado

O custo energético de inferência é a despesa de eletricidade, e as emissões de carbono associadas, de atender a um volume de requisições de inferência de um modelo de linguagem. Ele decorre de um valor de energia por consulta multiplicado pelo número de consultas, depois tarifado por uma taxa de eletricidade e convertido em carbono pela intensidade de emissão da rede local. Diferentemente do treinamento, que é um evento único, a energia de inferência recorre a cada requisição que um modelo em operação responde, de modo que, em escala, ela domina a pegada operacional de um modelo em serviço.

As fórmulas

Seja $N$ o número de consultas e $E_q$ a energia por consulta. A energia total é o produto deles; o custo de eletricidade multiplica a energia pelo preço $p_e$ por quilowatt-hora; e as emissões multiplicam a energia pela intensidade da rede $I_g$ em gramas de dióxido de carbono por quilowatt-hora, divididas por 1000 para resultar em quilogramas:

A energia por consulta é pequena — uma resposta curta em um acelerador bem utilizado costuma ser uma fração de watt-hora — então os valores são convertidos em quilowatt-hora antes de aplicar preço e emissões.

Exemplo resolvido

Considere N = 1,000,000 consultas a $E_q = 0.5$ watt-hora cada. A energia total é

A um preço de eletricidade de p_e = \0.15$ por quilowatt-hora, o custo é

A uma intensidade de rede de $I_g = 400$ gramas de dióxido de carbono por quilowatt-hora — uma rede mista de faixa intermediária — as emissões são

Um milhão de consultas atendidas custa, assim, cerca de $75 em eletricidade e libera aproximadamente 200 kg de dióxido de carbono, antes da sobrecarga de refrigeração e ociosidade além do que $E_q$ já inclui.

Variações e aplicação

Cada uma das três entradas desloca o resultado de forma independente. A energia por consulta depende do tamanho do modelo, do comprimento da sequência, do hardware e do agrupamento em lotes; uma geração longa de um modelo grande em hardware subutilizado consome muito mais do que uma curta. O preço da eletricidade varia por região e contrato, e a intensidade da rede vai de menos de cem gramas por quilowatt-hora em redes dominadas por hidrelétricas ou energia nuclear a mais de setecentos em redes dependentes de carvão, de modo que as emissões da mesma carga de trabalho podem diferir várias vezes conforme a localização da computação. A energia e o custo alimentam decisões de infraestrutura como a análise da Calculadora de Ponto de Equilíbrio: Hospedagem Própria vs. API, em que a eletricidade faz parte do custo variável da hospedagem própria. A energia de treinamento fica de fora: é um custo separado e único, amortizado por todas as consultas que o modelo vier a responder, de modo que um valor de ciclo de vida completo deve contabilizá-la à parte. O resultado é uma estimativa de ordem de grandeza, não uma medição.