Dernière mise à jour : 2026-06-22

Le coût énergétique de l'inférence expliqué

Le coût énergétique de l'inférence est la dépense d'électricité, et les émissions de carbone associées, du traitement d'un volume de requêtes d'inférence de modèle de langage. Il se déduit d'une énergie par requête, multipliée par le nombre de requêtes, puis tarifée à un prix de l'électricité et convertie en carbone à l'aide de l'intensité d'émission du réseau local. Contrairement à l'entraînement, qui est un événement unique, l'énergie d'inférence se renouvelle à chaque requête à laquelle un modèle déployé répond, de sorte qu'à grande échelle elle domine l'empreinte d'exploitation d'un modèle servi.

Les formules

Soit $N$ le nombre de requêtes et $E_q$ l'énergie par requête. L'énergie totale est leur produit, le coût d'électricité multiplie l'énergie par le prix $p_e$ du kilowattheure, et les émissions multiplient l'énergie par l'intensité réseau $I_g$ en grammes de dioxyde de carbone par kilowattheure, divisée par 1000 pour obtenir des kilogrammes :

L'énergie par requête est faible — une réponse courte sur un accélérateur bien utilisé représente souvent une fraction de wattheure — de sorte que les chiffres sont convertis en kilowattheures avant d'appliquer le tarif et les émissions.

Exemple chiffré

Soit N = 1,000,000 requêtes à $E_q = 0.5$ wattheure chacune. L'énergie totale est

À un prix de l'électricité de p_e = \0.15$ par kilowattheure, le coût est

À une intensité réseau de $I_g = 400$ grammes de dioxyde de carbone par kilowattheure — un réseau mixte de gamme moyenne — les émissions sont

Un million de requêtes servies coûtent ainsi environ 75 $ d'électricité et libèrent à peu près 200 kg de dioxyde de carbone, avant le surcoût de refroidissement et de veille au-delà de ce que $E_q$ inclut déjà.

Variantes et application

Les trois entrées déplacent chacune le résultat de façon indépendante. L'énergie par requête dépend de la taille du modèle, de la longueur de la séquence, du matériel et du regroupement des requêtes ; une génération longue d'un grand modèle sur du matériel sous-utilisé consomme bien plus qu'une courte. Le prix de l'électricité varie selon la région et le contrat, et l'intensité du réseau s'étend de moins de cent grammes par kilowattheure sur des réseaux dominés par l'hydraulique ou le nucléaire à plus de sept cents sur des réseaux dominés par le charbon ; les émissions d'une même charge peuvent donc varier d'un facteur plusieurs selon le lieu du calcul. L'énergie et le coût alimentent des choix d'infrastructure tels que l'analyse du Calculateur du seuil de rentabilité auto-hébergement contre API, où l'électricité fait partie du coût variable de l'auto-hébergement. L'énergie d'entraînement est exclue : il s'agit d'un coût distinct, ponctuel, amorti sur l'ensemble des requêtes auxquelles le modèle répondra ; un chiffre sur tout le cycle de vie doit donc la comptabiliser à part. Le résultat est un ordre de grandeur, non une mesure relevée au compteur.