Última actualización: 2026-06-22

Por qué crece el coste de varios turnos

Las llamadas a la interfaz de programación (API) de un modelo de lenguaje no guardan estado: el modelo no conserva memoria entre llamadas, de modo que el cliente debe reenviar la conversación previa como contexto en cada solicitud para que el modelo mantenga la coherencia. Ese historial reenviado se factura como tokens de entrada cada vez. A medida que una conversación se alarga, la entrada de cada turno carga el historial acumulado de todos los turnos anteriores, de modo que la entrada por turno crece y la entrada acumulada crece más rápido que el número de turnos.

La fórmula

Sea $N$ el número de turnos, $n_{sys}$ el mensaje de sistema reenviado en cada turno, $n_{turn}$ el nuevo historial añadido por turno (el mensaje del usuario más la respuesta previa) y $n_{out}$ la salida por turno. En el turno $k$ la entrada es $n_{sys} + (k-1)\,n_{turn}$. Sumando sobre todos los turnos:

El término triangular $\tfrac{N(N-1)}{2}$ es cuadrático en $N$, razón por la cual las conversaciones largas cuestan mucho más de lo que sugeriría un solo turno. Con precios por millón $p_{in}$ y $p_{out}$:

Ejemplo resuelto

Tómese N = 10 turnos, un mensaje de sistema de 800 tokens, 600 tokens nuevos por turno, 400 tokens de salida por turno, a $3 por millón de entrada y $15 por millón de salida:

La conversación cuesta unos 16,5 céntimos. El término del historial (27 000 tokens) eclipsa los 8000 tokens del mensaje de sistema repetido: la mayor parte de la factura de entrada proviene de reenviar la transcripción creciente, no de las instrucciones fijas.

El efecto cuadrático

Como $T_{in}$ escala con $N^2$, duplicar el número de turnos cuadruplica aproximadamente el coste de entrada en lugar de duplicarlo. Una versión de 20 turnos del ejemplo anterior reenviaría $600 \cdot \tfrac{20 \cdot 19}{2} = 114\,000$ tokens de historial, más de cuatro veces los 27 000 de diez turnos. Esta composición es una propiedad de reenviar el historial completo, independiente del precio por token.

Mitigación

El crecimiento se reduce al pagar por el historial acumulado menos veces o a una tarifa más baja: resumir o truncar los turnos antiguos limita cuánto historial se reenvía, mientras que la caché de mensajes permite al proveedor facturar el contexto repetido a una tarifa reducida. El ahorro de almacenar en caché la parte estática del contexto puede estimarse con Calculadora de ahorro por caché de mensajes. Para confirmar que una transcripción creciente aún cabe en el modelo antes de que el coste siquiera sea la preocupación, véase Calculadora de ajuste a la ventana de contexto.