Última actualización: 2026-06-22

Sobrecoste de tokens por function calling

El sobrecoste de tokens por function calling es el coste, en el lado de la entrada, de poner herramientas a disposición de un modelo de lenguaje grande. Para que el modelo decida si invoca una herramienta y cómo hacerlo, el proveedor serializa la definición de cada herramienta — su nombre, una descripción en lenguaje natural y un esquema JSON de sus parámetros — dentro del prompt que el modelo lee. Esas definiciones están compuestas de tokens y se envían en cada solicitud, se acabe usando una herramienta o no. Esta calculadora aísla ese sobrecoste fijo por llamada y el coste recurrente que produce a lo largo de un volumen de llamadas.

Por qué las herramientas se facturan en cada llamada

Un modelo no conserva estado entre solicitudes: no recuerda nada de una llamada a la siguiente, por lo que las herramientas que puede usar deben describirse de nuevo cada vez. No existe forma de registrar una herramienta una sola vez y referirse a ella de manera económica más adelante — la definición completa viaja en la entrada de cada llamada. Una solicitud en la que el modelo responde directamente, sin invocar nada, paga igualmente por las definiciones, porque se suministraron para que la opción existiera. El coste, por tanto, escala con el número de herramientas expuestas y con la extensión de sus esquemas, multiplicado por la frecuencia con la que se llama al modelo.

La fórmula

Con $m$ herramientas a $t_{tool}$ tokens cada una y $t_w$ tokens de envoltorio que enmarcan el bloque de herramientas, el sobrecoste por llamada es

A lo largo de $n$ llamadas, el sobrecoste total y su coste a un precio de entrada $p$ por millón de tokens son

La división entre $10^6$ convierte la tarifa por millón en una tarifa por token. Las definiciones de herramientas las lee el modelo, así que se facturan a la tarifa de entrada, que suele ser el menor de los dos precios publicados.

Ejemplo resuelto

Considérese un agente que expone 14 herramientas cuyas definiciones promedian 120 tokens cada una, con 18 tokens de envoltorio que enmarcan el bloque. El sobrecoste por llamada es

Ejecutado en 25,000 llamadas a un precio de entrada de $3 por millón de tokens, el coste del sobrecoste es

Esos $127,35 se gastan antes de contar ningún mensaje del usuario ni respuesta del modelo — solo pagan por describir las herramientas en cada solicitud. Enrutar el agente para que exponga únicamente el puñado de herramientas pertinentes a cada tarea, en lugar de las 14, reduciría esta cifra varias veces.

Notas y variaciones

La cifra por herramienta depende en gran medida de la riqueza con que se describe cada una: las descripciones de parámetros detalladas y los muchos campos opcionales inflan el esquema, mientras que una definición escueta se mantiene compacta. El sobrecoste medido aquí es exclusivamente el bloque de herramientas; los tokens de la conversación y los argumentos de llamada que el modelo emite son algo aparte. El almacenamiento en caché de prompts puede reducir el coste repetido cuando el bloque de herramientas se mantiene estable entre llamadas, ya que una lectura en caché se factura a una tarifa reducida.

Aplicación

El sobrecoste por function calling recae en el lado de la entrada de la factura. Su contrapartida del lado de la salida — la estructura JSON que el modelo escribe de vuelta cuando se le restringe a un esquema — la trata la Calculadora de sobrecarga de salida estructurada (JSON). Para calcular el uso de tokens por llamada subyacente del que se extrae este sobrecoste, véase la Calculadora de coste de tokens.