Última atualização: 2026-06-22

Por que o custo de múltiplos turnos cresce

As chamadas de API de modelos de linguagem não têm estado: o modelo não retém memória entre chamadas, então o cliente precisa reenviar a conversa anterior como contexto em cada requisição para que o modelo mantenha a coerência. Esse histórico reenviado é faturado como tokens de entrada a cada vez. À medida que uma conversa se alonga, a entrada de cada turno carrega o histórico acumulado de todos os turnos anteriores, de modo que a entrada por turno cresce e a entrada cumulativa cresce mais rápido do que a contagem de turnos.

A fórmula

Seja $N$ o número de turnos, $n_{sys}$ o prompt de sistema reenviado a cada turno, $n_{turn}$ o novo histórico acrescentado por turno (a mensagem do usuário mais a resposta anterior) e $n_{out}$ a saída por turno. No turno $k$, a entrada é $n_{sys} + (k-1)\,n_{turn}$. Somando sobre todos os turnos:

O termo triangular $\tfrac{N(N-1)}{2}$ é quadrático em $N$, razão pela qual conversas longas custam muito mais do que um único turno sugeriria. Com os preços por milhão $p_{in}$ e $p_{out}$:

Exemplo resolvido

Tome N = 10 turnos, um prompt de sistema de 800 tokens, 600 novos tokens por turno, 400 tokens de saída por turno, a $3 por milhão de entrada e $15 por milhão de saída:

A conversa custa cerca de 16,5 centavos. O termo do histórico (27.000 tokens) supera amplamente os 8000 tokens do prompt de sistema repetido — a maior parte da conta de entrada vem do reenvio da transcrição crescente, não das instruções fixas.

O efeito quadrático

Como $T_{in}$ escala com $N^2$, dobrar o número de turnos aproximadamente quadruplica o custo de entrada em vez de dobrá-lo. Uma versão de 20 turnos do exemplo acima reenviaria $600 \cdot \tfrac{20 \cdot 19}{2} = 114\,000$ tokens de histórico — mais de quatro vezes os 27.000 de dez turnos. Esse efeito composto é uma propriedade do reenvio do histórico completo, independente do preço por token.

Mitigação

O crescimento é reduzido ao pagar pelo histórico acumulado menos vezes ou a uma tarifa menor: sumarizar ou truncar turnos antigos limita quanto histórico é reenviado, enquanto o cache de prompt permite que o provedor fature o contexto repetido a uma tarifa reduzida. A economia de armazenar em cache a parte estática do contexto pode ser estimada com Calculadora de Economia com Cache de Prompt. Para confirmar que uma transcrição crescente ainda cabe no modelo antes mesmo de o custo se tornar a preocupação, consulte Calculadora de Ajuste à Janela de Contexto.