Calcul du surcoût des sorties structurées
Données
| Nombre de champs | 8 |
|---|---|
| Tokens par champ | 8 |
| Nombre d'appels | 1 000 |
| Prix de sortie (par 1 M de tokens) | 3 $ |
| Tokens de structure | 4 |
Calcul du surcoût des sorties structurées
Estime les tokens de sortie et le coût supplémentaires liés à la demande faite à un LLM de renvoyer du JSON conforme à un schéma — les noms de champs, les marqueurs de type et la ponctuation qui entourent les valeurs réelles.
Données
Schéma
Volume et tarification
Tokens de structure
Résultats
Saisissez une valeur pour afficher les résultats.
Détails
Le surcoût des sorties structurées
Le surcoût des sorties structurées est la part d'une réponse de LLM constituée de mise en forme plutôt que de contenu. Lorsqu'un modèle doit renvoyer du JSON conforme à un schéma, il doit émettre chaque nom de clé, guillemet, deux-points, virgule et accolade en plus des valeurs réelles. Ces tokens structurels sont générés et facturés exactement comme n'importe quel autre token de sortie, si bien qu'une réponse portant quelques valeurs courtes peut consacrer une large fraction de ses tokens à l'échafaudage. Ce calculateur isole ce surcoût fixe et le coût récurrent qu'il produit sur un volume d'appels.
D'où vient le surcoût
Chaque champ de l'objet renvoyé apporte une clé entre guillemets, un deux-points
séparant la clé de la valeur et une virgule avant le champ suivant. Un champ
nommé shipping_status se découpe en plusieurs tokens avant qu'aucune valeur ne
soit écrite. À ce coût par champ s'ajoute, pour chaque réponse, un cadre fixe —
les accolades ouvrantes et fermantes de l'objet et tout échafaudage de schéma
injecté par le fournisseur — compté une seule fois quel que soit le nombre de
champs qui suivent. Comme ce cadre et la structure par champ ne dépendent pas
des valeurs, le surcoût est constant pour un schéma donné et croît linéairement
avec le nombre d'appels.
La formule
Avec champs à tokens d'échafaudage chacun et tokens de structure, le surcoût par appel est
tcall=f⋅tf+twSur appels, le nombre total de tokens structurels et son coût à un prix de sortie par million de tokens valent
TC=tcall⋅n=106TpLa division par convertit le prix coté par million en un tarif par token. La sortie structurée est générée par le modèle, le surcoût est donc facturé au tarif de sortie, généralement le plus élevé des deux prix publiés.
Exemple chiffré
Prenons une tâche d'extraction renvoyant un enregistrement de 12 champs, où chaque champ coûte environ 9 tokens d'échafaudage et où le cadre de l'objet ajoute 5 tokens de structure. Le surcoût par appel est
tcall=12×9+5=113 tokensExécuté sur 40 000 appels à un prix de sortie de $15 par million de tokens, le coût structurel est
TC=113×40000=4520000 tokens=1064520000×15=$67,80Ces $67,80 n'achètent aucune information — ils ne paient que les accolades, les clés et les virgules qui enveloppent les valeurs extraites. À ce volume, raccourcir les noms de clés ou supprimer les champs inutilisés se traduit directement par une économie récurrente.
Remarques et variantes
Le chiffre par champ est une moyenne ; les noms de clés longs et descriptifs coûtent plus que les noms concis, et les objets imbriqués ajoutent leurs propres accolades et clés intermédiaires. Le modèle émet aussi les valeurs elles-mêmes, que ce calculateur exclut — il ne mesure que le plancher structurel imposé par un schéma. Là où la même tâche peut être servie par une représentation plus compacte, ce plancher baisse en conséquence.
Application
Le surcoût des sorties structurées pèse du côté de la sortie de la facture. Son pendant côté entrée — les définitions d'outils envoyées avec chaque requête d'appel de fonction — est traité par le Calcul du surcoût en tokens des appels de fonction. Pour chiffrer l'usage de tokens par appel sous-jacent dont ces surcoûts sont tirés, voyez le Calculateur de coût en jetons.
Questions fréquentes (FAQ)
Qu'est-ce qu'une sortie structurée ?
Une sortie structurée est un mode dans lequel le modèle est contraint de renvoyer des données dans une forme fixe — le plus souvent du JSON conforme à un schéma fourni — au lieu d'une prose libre. On l'utilise lorsqu'un programme analyse directement la réponse, par exemple pour extraire des champs d'un document ou renvoyer un enregistrement typé.
La structure est commode pour le code qui la consomme, mais elle est elle-même faite de tokens : chaque nom de clé, guillemet, deux-points, virgule et accolade est généré et facturé au même titre que les valeurs.
Comment réduire le surcoût du schéma ?
Des noms de clés plus courts coûtent moins de tokens, un nom de champ compact réduit donc le chiffre par champ sur chaque appel. Ne renvoyer que les champs qu'une étape ultérieure utilise réellement évite de payer pour des données que personne ne lit. Aplatir des objets profondément imbriqués supprime les accolades et clés intermédiaires.
Comme le surcoût est fixe par réponse, il compte surtout pour les appels à fort volume et faible charge utile, où la structure peut rivaliser avec le contenu en taille.
Le mode JSON coûte-t-il autant que l'appel de fonction ?
Les deux imposent un surcoût en tokens, mais à des endroits différents. Le mode JSON ou sortie structurée ajoute des tokens à la réponse — l'objet que le modèle renvoie. L'appel de fonction envoie en plus les définitions d'outils dans l'entrée à chaque appel, son surcoût pèse donc surtout du côté de l'entrée.
Le calculateur du surcoût de l'appel de fonction couvre ce coût côté entrée ; ce calculateur couvre le coût côté sortie de l'objet renvoyé.
Mentions légales
Les chiffres de tokens sont des estimations qui dépendent du tokeniseur du modèle, des noms de clés exacts et de la façon dont le schéma s'imbrique. Les prix publiés évoluent dans le temps et peuvent exclure les remises de cache ou par lots. Vérifiez les tarifs actuels et le nombre exact de tokens auprès de votre fournisseur avant de vous appuyer sur un chiffre pour la facturation.