最後更新：2026-07-02

AMAT（平均記憶體存取時間）

平均記憶體存取時間（AMAT）將快取的行為濃縮成單一延遲數值：在把命中與失誤一併加權後，處理器等待一次記憶體存取的平均時間。它是記憶體階層的核心指標，由 Hennessy 與 Patterson 的架構教材提出，能在不模擬每次存取的情況下比較快取設計。本計算器接收命中時間、失誤率與失誤懲罰，並回傳所得的 AMAT。

公式

每次存取都會先探查快取，因此命中時間 $t_h$ 無條件付出。其中比例為 $m$ 的存取會失誤，必須從階層下一層取回區塊，因而加上失誤懲罰 $t_p$。以發生頻率為懲罰加權後得到：

$\text{AMAT} = t_h + m \times t_p$

命中時間設下底線，第二項則是前往記憶體的平均成本。由於 $t_p$ 通常比 $t_h$ 大一到兩個數量級，即使失誤率看起來很小，失誤項也常居主導地位。

為何小失誤率仍有影響

考慮一個命中時間 1 ns、失誤懲罰 100 ns 的快取。在 1% 失誤率下，失誤項為 $0.01 \times 100 = 1$ ns，已與命中時間相同。在 5% 時為 5 ns，是命中時間的五倍。記憶體階層的教訓是：罕見的慢速路徑主宰效能，因此降低失誤率或縮短懲罰，通常勝過削減命中時間。

計算範例

假設某第一層快取的命中時間為 1 ns、失誤率為 5%、失誤懲罰為 100 ns。平均記憶體存取時間為：

因此平均存取為 6 ns，是純命中時間的六倍，幾乎完全來自失誤的那 5% 存取。將失誤率減半至 2.5% 會使 AMAT 降到 3.5 ns，比對 1 ns 命中時間做任何實際變更所能帶來的改善都更大。

多層快取

真實處理器堆疊多層快取，AMAT 透過巢狀套用公式自然延伸。某一層的失誤懲罰，就是其下層的平均存取時間。對兩層階層而言：

其中 $m_1$ 為 L1 失誤率，$m_2$ 為 區域 L2 失誤率（在到達 L2 的存取中，於 L2 失誤的比例），$t_{\text{mem}}$ 為主記憶體存取時間。若要以本計算器處理多層設計，請先計算內層括號，得到 L1 的有效失誤懲罰，再把該值當作外層的失誤懲罰輸入。加入一個快速的中間層會降低 L1 感受到的有效懲罰，這正是即使主記憶體延遲維持很高，深層階層仍值得採用的原因。

AMAT 是一階模型：它假設單一的平均懲罰，忽略亂序執行、記憶體層級平行性與寫入緩衝所帶來的重疊。請把結果視為比較階層的設計指引，而非對實際時間的精確預測。若要以命中率的角度檢視同一階層，請參考 快取命中率與 AMAT 計算機 計算器。