最終更新: 2026-07-02

平均メモリアクセス時間（AMAT）

平均メモリアクセス時間（AMAT）は、ヒットとミスをまとめて考えたときに、プロセッサがメモリアクセスを待つ平均時間を単一のレイテンシ値にまとめたものです。ヘネシー＆パターソンのアーキテクチャの教科書で導入された、メモリ階層の中心的な指標であり、すべてのアクセスをシミュレートせずにキャッシュ設計を比較できます。本ツールはヒット時間、ミス率、ミスペナルティを受け取り、AMAT を返します。

数式

すべてのアクセスはまずキャッシュを調べるため、ヒット時間 $t_h$ は無条件に発生します。そのうち割合 $m$ のアクセスがミスし、階層の下位からブロックを取得するためにミスペナルティ $t_p$ が上乗せされます。発生頻度でペナルティを重み付けすると次のようになります。

$\text{AMAT} = t_h + m \times t_p$

ヒット時間が下限を定め、第2項がメモリへ行く平均コストです。$t_p$ は通常 $t_h$ より1〜2桁大きいため、ミス率が小さく見えてもミスの項が支配的になりがちです。

ミス率が小さくても影響が大きい理由

ヒット時間 1 ns、ミスペナルティ 100 ns のキャッシュを考えます。ミス率 1% ではミスの項は $0.01 \times 100 = 1$ ns で、すでにヒット時間と同じです。5% では 5 ns、ヒット時間の5倍になります。まれな低速経路が性能を左右するというのがメモリ階層の教訓であり、ヒット時間を削るよりミス率やペナルティを下げるほうが効果的です。

計算例

L1 キャッシュのヒット時間が 1 ns、ミス率が 5%、ミスペナルティが 100 ns だとします。平均メモリアクセス時間は次のとおりです。

平均アクセスは 6 ns で、素のヒット時間の6倍です。これはほぼすべてミスする 5% のアクセスによるものです。ミス率を 2.5% に半減すれば AMAT は 3.5 ns まで下がり、1 ns のヒット時間に対する現実的な変更よりも大きな改善になります。

複数レベルのキャッシュ

実際のプロセッサは複数のキャッシュを重ねており、AMAT は式を入れ子にすることで自然に拡張できます。あるレベルのミスペナルティは、その下位レベルの平均アクセス時間になります。2レベル階層では次のとおりです。

ここで $m_1$ は L1 のミス率、$m_2$ は ローカル な L2 ミス率（L2 に到達したアクセスに対する L2 でのミスの割合）、$t_{\text{mem}}$ は主記憶のアクセス時間です。多レベル設計で本ツールを使うには、まず内側の括弧を計算して L1 の実効ミスペナルティを求め、それを外側のミスペナルティとして入力します。高速な中間レベルを追加すると L1 が感じる実効ペナルティが下がるため、主記憶のレイテンシが高いままでも深い階層が有効です。

AMAT は一次近似モデルです。単一の平均ペナルティを仮定し、アウトオブオーダー実行やメモリレベル並列性、書き込みバッファによる重なりを無視します。結果は壁時計時間の厳密な予測ではなく、階層を比較する設計の目安として扱ってください。同じ階層をヒット率の観点で見るには、キャッシュヒット率と実効アクセス時間（AMAT）の計算 をご覧ください。