Ultimo aggiornamento: 2026-06-29

Tasso di successo della cache e AMAT

Una cache accelera l'accesso ai dati mantenendo gli elementi usati di frequente in una memoria veloce, ma giova solo in proporzione a quanto spesso il dato vi viene effettivamente trovato. Questo calcolatore converte il tasso di successo di una cache, il suo tempo di successo e la penalità per un fallimento nel tempo medio di accesso alla memoria (AMAT) — la cifra unica che indica quanto il sistema risulti rapido in media — insieme al tasso di fallimento.

La formula dell'AMAT

Ogni accesso o trova il proprio dato nella cache (un successo) oppure no (un fallimento). Un successo costa il tempo di successo; un fallimento costa il tempo di successo più una penalità per recuperare il dato dalla memoria più lenta. La media su molti accessi dà:

$\text{AMAT} = t_h + m \cdot t_m$

dove $t_h$ è il tempo di successo, $t_m$ è la penalità di fallimento e $m$ è il tasso di fallimento. Il tasso di fallimento è semplicemente uno meno il tasso di successo:

$m = 1 - h$

Poiché ogni accesso paga $t_h$ ma solo la frazione $m$ paga $t_m$, una cache con un tasso di successo elevato porta la media vicino al rapido tempo di successo.

Esempio svolto

Si consideri una cache L1 con un tasso di successo del 95%, un tempo di successo di 1 ns e una penalità di fallimento di 100 ns per raggiungere il livello successivo:

Benché il 95% degli accessi sia rapido, il tempo medio di accesso è sei volte il tempo di successo. Il 5% degli accessi che falliscono contribuisce alla maggior parte del costo, perché la penalità di fallimento è cento volte il tempo di successo.

Perché il tasso di fallimento conta più di quanto sembri

La leva nell'ottimizzazione della cache deriva dall'ampio divario tra tempo di successo e penalità di fallimento. Innalzare il tasso di successo dal 95% al 99% nell'esempio precedente riduce l'AMAT da 6 ns a 2 ns — un miglioramento di circa tre volte a fronte di una variazione di quattro punti nel tasso di successo. Per questo piccoli miglioramenti in località, prefetching o dimensione della cache possono produrre guadagni sproporzionati, e per questo conviene aggredire direttamente la penalità di fallimento.

Estensione a una gerarchia

I processori moderni impilano diverse cache (L1, L2, L3) davanti alla memoria principale. La formula si annida in modo naturale: la penalità di fallimento di un livello è l'AMAT del livello sottostante. Per analizzare una gerarchia, si calcola prima il livello più profondo e si propaga il risultato verso l'alto come penalità di fallimento del livello superiore. Per il quadro complessivo di come la latenza di accesso si combina lungo un percorso di richiesta, si veda il Calcolatore del budget di latenza.

Questi valori presuppongono uno schema di accesso stabile; i carichi di lavoro reali variano, perciò l'AMAT va considerato una media rappresentativa anziché una garanzia per ogni singolo accesso.