Zuletzt aktualisiert: 2026-06-29

Cache-Trefferrate und AMAT

Ein Cache beschleunigt den Datenzugriff, indem er häufig genutzte Objekte in schnellem Speicher hält, doch er hilft nur in dem Maße, wie oft die Daten dort tatsächlich gefunden werden. Dieser Rechner wandelt die Trefferrate eines Caches, seine Trefferzeit und die Kosten eines Fehlzugriffs in die mittlere Speicherzugriffszeit (AMAT) um — die eine Zahl, die angibt, wie schnell sich das System im Mittel anfühlt — zusammen mit der Fehlzugriffsrate.

Die AMAT-Formel

Jeder Zugriff findet seine Daten entweder im Cache (ein Treffer) oder nicht (ein Fehlzugriff). Ein Treffer kostet die Trefferzeit; ein Fehlzugriff kostet die Trefferzeit plus eine Strafe, um die Daten aus langsamerem Speicher zu holen. Die Mittelung über viele Zugriffe ergibt:

$\text{AMAT} = t_h + m \cdot t_m$

wobei $t_h$ die Trefferzeit, $t_m$ die Fehlzugriffskosten und $m$ die Fehlzugriffsrate ist. Die Fehlzugriffsrate ist einfach eins minus der Trefferrate:

$m = 1 - h$

Da jeder Zugriff $t_h$ zahlt, aber nur der Anteil $m$ auch $t_m$ zahlt, drückt ein Cache mit hoher Trefferrate den Mittelwert nahe an die schnelle Trefferzeit.

Rechenbeispiel

Betrachten Sie einen L1-Cache mit einer Trefferrate von 95 %, einer Trefferzeit von 1 ns und Fehlzugriffskosten von 100 ns, um die nächste Ebene zu erreichen:

Obwohl 95 % der Zugriffe schnell sind, beträgt die mittlere Zugriffszeit das Sechsfache der Trefferzeit. Die 5 % der Zugriffe, die einen Fehlzugriff darstellen, tragen den größten Teil der Kosten, weil die Fehlzugriffskosten das Hundertfache der Trefferzeit betragen.

Warum die Fehlzugriffsrate mehr zählt, als sie scheint

Der Hebel beim Cache-Tuning liegt in der großen Lücke zwischen Trefferzeit und Fehlzugriffskosten. Eine Erhöhung der Trefferrate von 95 % auf 99 % im obigen Beispiel senkt die AMAT von 6 ns auf 2 ns — eine etwa dreifache Verbesserung durch eine Veränderung der Trefferrate um vier Punkte. Deshalb können kleine Verbesserungen bei Lokalität, Prefetching oder Cache-Größe überproportionale Gewinne bringen, und deshalb lohnt es sich, die Fehlzugriffskosten direkt anzugehen.

Erweiterung auf eine Hierarchie

Moderne Prozessoren stapeln mehrere Caches (L1, L2, L3) vor dem Hauptspeicher. Die Formel verschachtelt sich auf natürliche Weise: Die Fehlzugriffskosten einer Ebene sind die AMAT der darunterliegenden Ebene. Um eine Hierarchie zu analysieren, berechnen Sie die tiefste Ebene zuerst und reichen ihr Ergebnis als Fehlzugriffskosten der darüberliegenden Ebene nach oben weiter. Für das größere Bild, wie sich die Zugriffslatenz über einen Anfragepfad zusammensetzt, siehe den Latenzbudget-Rechner.

Diese Zahlen setzen ein gleichmäßiges Zugriffsmuster voraus; reale Arbeitslasten schwanken, daher sollte die AMAT als repräsentativer Mittelwert und nicht als Garantie für einen einzelnen Zugriff verstanden werden.