Última actualización: 2026-06-22

Qué es el ahorro por caché de mensajes

El ahorro por caché de mensajes es la reducción del coste de entrada de una llamada a un modelo de lenguaje que se obtiene al servir parte del mensaje desde la caché. Cuando un prefijo estable (un mensaje de sistema, definiciones de herramientas o contexto compartido) se repite entre llamadas, el proveedor almacena su forma procesada y factura las lecturas posteriores de esos tokens a una tarifa reducida. El ahorro es la diferencia entre el coste de entrada sin caché y el coste de entrada una vez que la parte en caché recibe el descuento.

Cómo funciona

Sea $n$ el total de tokens de entrada, $f$ la fracción servida desde la caché, $p$ el precio de entrada estándar por millón de tokens, y $d$ el descuento de caché, la proporción que se descuenta de la tarifa en una lectura desde caché. La base sin caché factura cada token a la tarifa completa:

Con caché, la parte sin caché n(1-f) se factura a la tarifa completa y la parte en caché $nf$ a la tarifa con descuento p(1-d):

El ahorro es la diferencia, y la tasa de ahorro es esa diferencia sobre la base:

Ejemplo resuelto

Tómese una llamada de 10 000 tokens de entrada con un 70 % en caché, un precio de entrada estándar de $3 por millón y un descuento de caché del 90 %. La base sin caché es:

Los 3000 tokens sin caché cuestan 0.003 \cdot 3 = \0.009$. Los 7000 tokens en caché se facturan al 10$0.007 \cdot 3 \cdot 0.1 = $0.0021$, de modo que el coste con caché es$$0.009 + $0.0021 = $0.0111$. El ahorro es:

una reducción de $0.0189 / 0.03 = 63\%$ sobre el coste de entrada. La cifra por llamada es pequeña, pero escala con el volumen de llamadas: una carga de trabajo de un millón de llamadas de este tipo ahorra del orden de $18,900.

Variaciones

El ahorro aumenta tanto con la fracción en caché como con el descuento. Una fracción $f$ más alta, impulsada por un prefijo estable mayor, mueve más tokens a la tarifa con descuento, mientras que un descuento $d$ más pronunciado amplía la diferencia entre ambas tarifas. Con f = 1 y d = 0.9 el coste de entrada cae el 90 % completo. Cuando se repite poco del mensaje, o las repeticiones quedan fuera de la ventana de caché, $f$ es pequeña y la reducción es modesta. La caché se aplica solo a los tokens de entrada; los de salida se facturan a la tarifa estándar en cualquier caso.

Aplicación

La caché de mensajes es más eficaz para los agentes y los sistemas de chat que reenvían un contexto grande y fijo en cada turno, donde el prefijo repetido domina la entrada. El coste con caché alimenta las estimaciones por llamada y mensuales de Calculadora de coste de tokens y Calculadora de coste mensual de LLM. La caché y el procesamiento por lotes son descuentos independientes que pueden aplicarse a la misma carga de trabajo; para la alternativa asíncrona véase Calculadora de ahorro con la API por lotes, y para leer el precio subyacente como poder de compra véase Calculadora de tokens por unidad monetaria.