Dernière mise à jour : 2026-06-22

L'utilisation des FLOP du modèle (MFU)

L'utilisation des FLOP du modèle, ou MFU (model FLOPs utilization), mesure la part du calcul théorique d'un accélérateur qu'une exécution exploite réellement. Deux grappes dotées du même matériel peuvent différer d'un facteur plusieurs sur leur production réelle, et la MFU est le chiffre unique qui capture cet écart : elle divise les opérations en virgule flottante qu'une charge de travail effectue véritablement par le pic que le matériel annonce. Ce calculateur l'estime à partir du nombre de paramètres, du débit de jetons et du débit de pointe en TFLOP/s de l'accélérateur.

Ce que la MFU vous indique

Les fabricants de matériel annoncent un débit de pointe — pour un accélérateur de centre de données actuel, de l'ordre du millier de TFLOP/s en 16 bits — qui suppose un flux parfait de multiplications-additions fusionnées, données déjà en registres. Aucune charge de travail réelle ne soutient ce débit. La MFU rapporte la fraction atteinte : une MFU de 40 % signifie que l'exécution extrait quarante centimes de calcul de chaque euro de pic théorique. C'est l'étalon standard pour juger si une configuration d'entraînement ou d'inférence est bien optimisée, et pour décider si un changement a réellement aidé.

La formule

Une passe avant coûte environ deux opérations en virgule flottante par paramètre et par jeton ; une étape d'entraînement ajoute une passe arrière pour environ six au total. Avec le facteur de charge de travail $k$ (deux pour l'inférence, six pour l'entraînement), le nombre de paramètres $N$ en milliards et le débit $v$ en jetons par seconde, le débit atteint et l'utilisation valent

où $A$ est le débit atteint en TFLOP/s, $P$ le débit de pointe en TFLOP/s sommé sur chaque accélérateur de l'exécution, et $U$ l'utilisation. La division par 1000 convertit un milliard de paramètres multiplié par les jetons par seconde en TFLOP/s.

Exemple chiffré

Prenons un modèle de 70 milliards de paramètres servant de l'inférence à 2 000 jetons par seconde sur un accélérateur unique évalué à 989 TFLOP/s de calcul dense en 16 bits :

L'exécution exploite un peu plus du quart du pic de la puce — typique d'un décodage limité par la mémoire, où une grande partie du temps est passée à lire les poids plutôt qu'à multiplier. Une tâche d'entraînement de grand modèle bien réglée, davantage limitée par le calcul, se situerait plus souvent entre 35 % et 55 %.

Pourquoi elle n'atteint jamais 100 %

Les exécutions réelles perdent du temps en transferts mémoire, en communication entre accélérateurs, en bulles de pipeline et dans des couches comme l'attention et la normalisation qui ne sont pas de pures multiplications matricielles. Une utilisation parfaite signifierait l'absence totale de ce surcoût. L'usage pratique de la MFU est comparatif : mesurez-la avant et après une optimisation, sur la même charge de travail et le même matériel ; un chiffre plus élevé signifie qu'une plus grande part du calcul que vous payez fait un travail utile. Le nombre d'opérations par jeton qui sous-tend cette estimation est exploré dans le Calculateur de FLOP par jeton, et le versant bande passante mémoire du même matériel dans le Calculateur de débit d'inférence.