Calculadora de coste de ajuste fino
Datos de entrada
| Tamaño del conjunto de datos | 10 |
|---|---|
| Épocas | 3 |
| Precio por millón de tokens | 8 $ |
Calculadora de coste de ajuste fino
Estima el coste de un trabajo gestionado de ajuste fino de un modelo de lenguaje a partir del tamaño del conjunto de datos en millones de tokens, el número de épocas y el precio del proveedor por millón de tokens de entrenamiento.
Datos de entrada
Trabajo de ajuste fino
Resultados
Introduce un valor para ver los resultados.
Detalles
Coste de ajuste fino
Las interfaces gestionadas de ajuste fino facturan según el trabajo realizado, que no es más que el número de tokens de entrenamiento que lee el modelo. Como ese número equivale al tamaño del conjunto de datos multiplicado por el número de pasadas sobre él, el coste de un trabajo de ajuste fino puede conocerse antes de iniciarlo. Esta calculadora lo estima a partir del tamaño del conjunto de datos en millones de tokens, el número de épocas y el precio del proveedor por millón de tokens de entrenamiento.
Cómo se factura el ajuste fino
En lugar de exponer el hardware subyacente, un servicio gestionado de ajuste fino cobra por los tokens procesados durante el entrenamiento. Una época lee cada token del conjunto de datos una vez; ejecutar varias épocas lee todo el conjunto otras tantas veces. Los tokens totales facturados son, por tanto, el tamaño del conjunto de datos por el número de épocas, y la factura es ese total por la tarifa por token que cobra el proveedor. Así el coste resulta previsible solo a partir del conjunto de datos, sin conocer el tipo de GPU, el tamaño de lote ni la duración del trabajo.
La fórmula
Con un conjunto de datos de millones de tokens, épocas y un precio por millón de tokens, los tokens totales procesados y el coste total son
MC=D⋅e=M⋅pTanto el tamaño del conjunto de datos como el precio se expresan por millón de tokens, porque es la unidad que cotiza la mayoría de los proveedores. El coste es lineal en cada entrada: duplicar el conjunto de datos, duplicar las épocas o duplicar la tarifa duplica la factura en cada caso.
Ejemplo resuelto
Tómese un conjunto de datos de 10 millones de tokens entrenado durante 3 épocas a una tarifa de 8,00 € por millón de tokens:
MC=10×3=30 millones de tokens=30×8.00=240.00El trabajo procesa 30 millones de tokens y cuesta 240 €. Recortar a dos épocas procesaría 20 millones de tokens y costaría 160 €, mientras que mantener tres épocas pero usar un modelo con una tarifa de 4,00 € reduciría la factura a la mitad, 120 €. Como el recuento de tokens es el mismo en todos los niveles de precio, la elección del modelo base y del método de entrenamiento se refleja por completo en la tarifa por millón.
Límites
La estimación cuenta solo los tokens de entrenamiento del conjunto de datos a lo largo de las épocas elegidas. Excluye los tokens de validación si el proveedor los factura por separado, el coste de preparar y limpiar los datos y cualquier cargo por alojar el modelo resultante. El ajuste fino completo, que actualiza cada peso, suele tener un precio superior al de los métodos con adaptadores, como la adaptación de rango bajo, de modo que la tarifa introducida debería corresponder al método realmente elegido. Para los trabajos ejecutados sobre hardware alquilado en lugar de una interfaz gestionada, la factura sigue las horas-GPU en vez de los tokens. La economía por token de usar el modelo resultante la cubre la calculadora de Calculadora de coste de tokens, y el lado de alquiler del entrenamiento autogestionado la calculadora de Calculadora de coste de GPU en la nube.
Preguntas frecuentes (FAQ)
¿Qué determina el coste de un trabajo de ajuste fino?
La factura es el número de tokens procesados por el precio por millón, y los tokens procesados son el tamaño del conjunto de datos multiplicado por el número de épocas. Tanto los conjuntos de datos mayores como un mayor número de pasadas elevan el recuento de forma lineal.
La tarifa por token depende del modelo base —los modelos mayores cuestan más por token— y del método de entrenamiento, ya que el ajuste fino completo, que actualiza cada peso, suele tener un precio superior al de los métodos con adaptadores, que entrenan una pequeña fracción de los parámetros. Los tokens de validación, si se facturan, se suman al total.
¿Por qué el ajuste fino se cobra por token y no por hora?
Las interfaces gestionadas de ajuste fino ocultan el hardware y cobran por el trabajo realizado, que es proporcional a los tokens que el modelo lee durante el entrenamiento. El precio por token hace que el coste sea previsible solo a partir del conjunto de datos, sin necesidad de conocer el tipo de GPU, el tamaño de lote o el tiempo real.
Si, en cambio, el trabajo se ejecuta sobre hardware alquilado, la factura sigue las horas-GPU y no los tokens, y las cifras relevantes son el tamaño del clúster y la duración de la ejecución.
¿Es el ajuste fino completo más caro que los métodos con adaptadores?
Por lo general, sí. El ajuste fino completo actualiza cada parámetro y exige almacenar el estado del optimizador para todos ellos, de modo que los proveedores lo cobran más por token que los métodos eficientes en parámetros, como los adaptadores de rango bajo, que entrenan un pequeño conjunto añadido de pesos y congelan el resto. Los métodos con adaptadores también producen artefactos mucho menores de alojar.
El recuento de tokens procesados es el mismo para un conjunto de datos y un presupuesto de épocas dados, por lo que la diferencia se refleja por completo en la tarifa por millón de tokens introducida aquí.
Aviso legal
Esta estimación supone una facturación por token del conjunto de datos a lo largo del número de épocas elegido y excluye los tokens de validación, la preparación de los datos y el alojamiento del modelo resultante, salvo que estén incluidos en la tarifa por millón. Los precios y el conteo de tokens varían según el proveedor; conviene confirmar las tarifas con el proveedor antes de presupuestar.
Recomendaciones
Calculadora de coste de tokens
Calcula el coste de una sola llamada a la interfaz de programación (API) de un modelo de lenguaje grande (LLM) a partir del número de tokens de entrada y de salida y de los precios del modelo por millón de tokens, con la entrada y la salida facturadas por separado.