Dernière mise à jour : 2026-06-29

Taux de succès de cache et temps d'accès moyen (AMAT)

Un cache accélère l’accès aux données en conservant les éléments fréquemment utilisés dans une mémoire rapide, mais il n’aide que dans la mesure où les données y sont effectivement trouvées. Ce calculateur convertit le taux de succès d’un cache, son temps de succès et la pénalité associée à un défaut en temps d’accès moyen à la mémoire (AMAT) — l’indicateur unique qui résume la rapidité perçue du système en moyenne — ainsi qu’en taux d’échec.

La formule de l’AMAT

Chaque accès trouve sa donnée dans le cache (un succès) ou ne la trouve pas (un défaut). Un succès coûte le temps de succès ; un défaut coûte le temps de succès plus une pénalité pour charger la donnée depuis une mémoire plus lente. La moyenne sur de nombreux accès donne :

$\text{AMAT} = t_h + m \cdot t_m$

où $t_h$ est le temps de succès, $t_m$ la pénalité de défaut et $m$ le taux d’échec. Le taux d’échec est simplement un moins le taux de succès :

$m = 1 - h$

Comme chaque accès paie $t_h$ mais que seule la fraction $m$ paie $t_m$, un cache à fort taux de succès rapproche la moyenne du temps de succès rapide.

Exemple détaillé

Considérons un cache L1 avec un taux de succès de 95 %, un temps de succès de 1 ns et une pénalité de défaut de 100 ns pour atteindre le niveau suivant :

Même si 95 % des accès sont rapides, le temps d’accès moyen vaut six fois le temps de succès. Les 5 % d’accès en défaut représentent l’essentiel du coût, car la pénalité de défaut est cent fois le temps de succès.

Pourquoi le taux d’échec pèse plus qu’il n’y paraît

L’effet de levier du réglage d’un cache vient du grand écart entre le temps de succès et la pénalité de défaut. Faire passer le taux de succès de 95 % à 99 % dans l’exemple ci-dessus réduit l’AMAT de 6 ns à 2 ns, soit une amélioration d’environ un facteur trois pour un changement de quatre points du taux de succès. C’est pourquoi de petites améliorations de la localité, du préchargement ou de la taille du cache peuvent produire des gains disproportionnés, et pourquoi il vaut la peine de s’attaquer directement à la pénalité de défaut.

Extension à une hiérarchie

Les processeurs modernes empilent plusieurs caches (L1, L2, L3) devant la mémoire principale. La formule s’imbrique naturellement : la pénalité de défaut d’un niveau est l’AMAT du niveau situé en dessous. Pour analyser une hiérarchie, calculez d’abord le niveau le plus profond et reportez son résultat vers le haut comme pénalité de défaut du niveau supérieur. Pour une vue d’ensemble de la façon dont la latence d’accès se combine le long d’un chemin de requête, voir le Calculateur de budget de latence.

Ces valeurs supposent un schéma d’accès stable ; les charges réelles varient, aussi convient-il de considérer l’AMAT comme une moyenne représentative plutôt que comme une garantie pour un accès isolé.