Zuletzt aktualisiert: 2026-07-02

AMAT (mittlere Speicherzugriffszeit)

Die mittlere Speicherzugriffszeit (AMAT) verdichtet das Verhalten eines Caches zu einer einzigen Latenzkennzahl: der mittleren Zeit, die der Prozessor auf einen Speicherzugriff wartet, wenn Treffer und Fehlzugriffe zusammen gewichtet werden. Sie ist die zentrale Kennzahl der Speicherhierarchie, eingeführt in den Architekturlehrbüchern von Hennessy und Patterson, und erlaubt es, Cache-Entwürfe zu vergleichen, ohne jeden Zugriff zu simulieren. Der Rechner nimmt Trefferzeit, Fehlrate und Fehlerstrafe entgegen und liefert die resultierende AMAT.

Die Formel

Jeder Zugriff prüft zuerst den Cache, daher wird die Trefferzeit $t_h$ unbedingt bezahlt. Ein Anteil $m$ dieser Zugriffe verfehlt den Cache und muss den Block aus der nächsten Ebene der Hierarchie holen, was die Fehlerstrafe $t_p$ hinzufügt. Gewichtet man die Strafe mit ihrer Häufigkeit, ergibt sich:

$\text{AMAT} = t_h + m \times t_p$

Die Trefferzeit setzt die Untergrenze, und der zweite Term ist der mittlere Aufwand für den Gang zum Speicher. Da $t_p$ üblicherweise ein bis zwei Größenordnungen über $t_h$ liegt, dominiert der Fehlerterm oft, selbst wenn die Fehlrate klein wirkt.

Warum eine kleine Fehlrate trotzdem schadet

Betrachten wir einen Cache mit 1 ns Trefferzeit und 100 ns Fehlerstrafe. Bei 1 % Fehlrate beträgt der Fehlerterm $0{,}01 \times 100 = 1$ ns – bereits gleich der Trefferzeit. Bei 5 % sind es 5 ns, das Fünffache der Trefferzeit. Die Lehre der Speicherhierarchie lautet, dass der seltene langsame Pfad die Leistung bestimmt; die Fehlrate oder die Strafe zu senken schlägt daher meist das Kürzen der Trefferzeit.

Rechenbeispiel

Angenommen, ein Level-1-Cache hat eine Trefferzeit von 1 ns, eine Fehlrate von 5 % und eine Fehlerstrafe von 100 ns. Die mittlere Speicherzugriffszeit ist:

Der mittlere Zugriff kostet also 6 ns – das Sechsfache der reinen Trefferzeit, fast vollständig getrieben durch die 5 % der Zugriffe, die verfehlen. Eine Halbierung der Fehlrate auf 2,5 % würde die AMAT auf 3,5 ns senken, eine größere Verbesserung, als jede realistische Änderung an der 1-ns-Trefferzeit liefern könnte.

Mehrstufige Caches

Reale Prozessoren stapeln mehrere Caches, und die AMAT erweitert sich auf natürliche Weise durch Verschachtelung der Formel. Die Fehlerstrafe einer Ebene ist die mittlere Zugriffszeit der darunterliegenden Ebene. Für eine zweistufige Hierarchie:

Dabei ist $m_1$ die L1-Fehlrate, $m_2$ die lokale L2-Fehlrate (Fehlzugriffe in L2 als Anteil der Zugriffe, die L2 erreichen) und $t_{\text{mem}}$ die Hauptspeicherzugriffszeit. Um diesen Rechner für einen mehrstufigen Entwurf zu nutzen, werten Sie zuerst die innere Klammer aus, um die effektive L1-Fehlerstrafe zu erhalten, und geben diesen Wert dann als Fehlerstrafe der äußeren Ebene ein. Eine schnelle Zwischenebene senkt die effektive Strafe, die L1 sieht, weshalb tiefe Hierarchien lohnend bleiben, obwohl die Hauptspeicherlatenz hoch bleibt.

Die AMAT ist ein Modell erster Ordnung: Sie unterstellt eine einzige mittlere Strafe und ignoriert Überlappungen durch Out-of-Order-Ausführung, Speicherparallelität und Schreibpuffer. Behandeln Sie das Ergebnis als Entwurfsleitfaden zum Vergleich von Hierarchien, nicht als exakte Vorhersage der Laufzeit. Für die ergänzende Trefferraten-Sicht derselben Hierarchie siehe den Rechner Cache-Trefferrate- & AMAT-Rechner.