Calculateur du seuil de rentabilité auto-hébergement contre API
Données
| Coût mensuel GPU (fixe) | 1 500 $ |
|---|---|
| Coût variable d'auto-hébergement (par 1M de jetons) | 0 $ |
| Prix de l'API (par 1M de jetons) | 10 $ |
| Volume mensuel de jetons | 500 000 000 |
Calculateur du seuil de rentabilité auto-hébergement contre API
Données
Auto-hébergement
$
$
API et volume
$
Résultats
Saisissez une valeur pour afficher les résultats.
Détails
$
$
$
À votre volume, l'API hébergée revient moins cher : vous êtes sous le seuil de rentabilité, de sorte que le coût GPU fixe l'emporte sur l'économie par jeton. L'auto-hébergement ne devient rentable qu'une fois le volume mensuel au-delà du seuil de rentabilité indiqué ci-dessus.
Recommandations
Calculateur de coût mensuel d'un LLM
Projette le coût récurrent d'une charge de travail sur interface de programmation (API) de grand modèle de langage (LLM) à partir des jetons consommés par appel, du volume de requêtes quotidien et des prix du modèle par million de jetons, l'entrée et la sortie étant facturées séparément.