高性能末級(jí)緩存管理策略研究.pdf

1、隨著技術(shù)的進(jìn)步，微處理器與存儲(chǔ)器之間的性能差距越來越大。為了減緩處理器與存儲(chǔ)器之間的性能差距，片上緩存被廣泛使用。緩存的工作基礎(chǔ)是程序數(shù)據(jù)訪問的局部性。然而，很多研究表明這些緩存在使用傳統(tǒng)的緩存管理策略時(shí)，利用效率低下，緩存中存儲(chǔ)的塊只有少部分在被最終替換出去之前會(huì)被再次訪問。本文對(duì)緩存訪問行為進(jìn)行分析，提出了兩種優(yōu)化緩存性能的管理策略。
　　近期很多研究提出在緩存缺失時(shí)，通過改變塊的插入位置可以有效地提高緩存的性能。與傳統(tǒng)的LR

2、U替換策略不同，這些策略能更準(zhǔn)確地預(yù)測(cè)缺失塊未來的重用行為，從而大大降低那些只被訪問一次的塊帶來的緩存污染。與此同時(shí)，這些插入策略間接地為具有良好局部性的塊提供更多留在緩存中的機(jī)會(huì)。然而，它們執(zhí)行相同的緩存命中提升策略，也就是在緩存命中時(shí)，將塊提升到鏈的首部。如果一個(gè)塊被訪問少數(shù)次后就不再被訪問，這種策略會(huì)降低緩存的性能。
　　針對(duì)這個(gè)問題，本文提出了基于位置信息的提升策略來進(jìn)一步改善緩存的性能。當(dāng)緩存塊被命中時(shí)，該策略將緩存塊提

3、升到當(dāng)前位置與隊(duì)首位置之間的一個(gè)合適位置上。這個(gè)合適的位置可以讓緩存塊在被淘汰出去以前有足夠的時(shí)間接受下一次命中，同時(shí)在此塊不會(huì)被再次命中的情況下，能讓該塊盡快被淘汰出去以減少緩存污染?；谖恢眯畔⒌奶嵘呗酝瑫r(shí)考慮了緩存塊的訪問頻率(Frequency)和新近性(Recency)信息，實(shí)驗(yàn)表明，系統(tǒng)整體性能相對(duì)于目前最高效的重用距離預(yù)測(cè)策略要高0.74％。
　　基于位置信息的緩存提升策略改進(jìn)了緩存的性能，但它是靜態(tài)的，不能自動(dòng)適

4、應(yīng)程序運(yùn)行時(shí)的變化。同時(shí)，由于被訪問的塊最終都要從鏈尾部被替換出去，當(dāng)緩存中存在大量只被訪問少數(shù)次的塊時(shí)，緩存性能還有改善空間。針對(duì)這兩個(gè)問題，本文提出了基于分組的緩存管理策略。我們將緩存塊分為重用組和非重用組，通過學(xué)習(xí)，可以確定程序運(yùn)行時(shí)緩存命中的塊分布，并由此決定重用組和非重用組的緩存數(shù)量分配。這樣，基于分組的緩存管理策略就可以動(dòng)態(tài)地適應(yīng)各不相同的程序以及同一程序運(yùn)行的不同階段。本文還通過計(jì)數(shù)器衰減以及抽樣技術(shù)來降低策略的硬件開銷。