Dernière mise à jour : 2026-06-22

Pourquoi le coût multitours croît

Les appels aux API de modèle de langage sont sans état : le modèle ne conserve aucune mémoire entre les appels, de sorte que le client doit renvoyer la conversation antérieure comme contexte à chaque requête pour que le modèle reste cohérent. Cet historique renvoyé est facturé comme des jetons d'entrée à chaque fois. À mesure qu'une conversation s'allonge, l'entrée de chaque tour porte l'historique accumulé de tous les tours antérieurs, de sorte que l'entrée par tour croît et que l'entrée cumulée croît plus vite que le nombre de tours.

La formule

Soit $N$ le nombre de tours, $n_{sys}$ l'invite système renvoyée à chaque tour, $n_{turn}$ le nouvel historique ajouté par tour (le message de l'utilisateur plus la réponse précédente), et $n_{out}$ la sortie par tour. Au tour $k$ l'entrée est $n_{sys} + (k-1)\,n_{turn}$. En sommant sur tous les tours :

Le terme triangulaire $\tfrac{N(N-1)}{2}$ est quadratique en $N$, ce qui explique que les longues conversations coûtent bien plus qu'un seul tour ne le laisserait croire. Avec les prix par million $p_{in}$ et $p_{out}$ :

Exemple chiffré

Soit N = 10 tours, une invite système de 800 jetons, 600 nouveaux jetons par tour, 400 jetons de sortie par tour, à 3 $ par million en entrée et 15 $ par million en sortie :

La conversation coûte environ 16,5 cents. Le terme d'historique (27 000 jetons) éclipse les 8000 jetons d'invite système répétée — l'essentiel de la facture d'entrée provient du renvoi de la transcription qui grossit, non des consignes fixes.

L'effet quadratique

Comme $T_{in}$ croît avec $N^2$, doubler le nombre de tours quadruple à peu près le coût d'entrée plutôt que de le doubler. Une version de l'exemple ci-dessus à 20 tours renverrait $600 \cdot \tfrac{20 \cdot 19}{2} = 114\,000$ jetons d'historique — plus de quatre fois les 27 000 à dix tours. Cet effet de composition est une propriété du renvoi de l'historique complet, indépendante du prix par jeton.

Atténuation

La croissance se réduit en payant l'historique accumulé moins souvent ou à un tarif plus bas : résumer ou tronquer les tours anciens plafonne la quantité d'historique renvoyée, tandis que le cache d'invite permet au fournisseur de facturer le contexte répété à un tarif réduit. L'économie liée à la mise en cache de la portion statique du contexte peut s'estimer avec le Calculateur d'économies du cache d'invite. Pour confirmer qu'une transcription qui grossit tient encore dans le modèle avant même que le coût ne devienne le souci, voyez le Calculateur de tenue dans la fenêtre de contexte.