高性能微處理器中自適應高速緩存管理策略研究.pdf

1、對主存儲器的訪問是制約高性能微處理器系統(tǒng)性能的主要因素之一。存儲器的訪問速度通常會比處理器速度慢兩個數(shù)量級，為了縮小這一差距，當代處理器設(shè)計已經(jīng)將一半以上的片上晶體管資源用于最后一級高速緩存。然而，針對小容量一級高速緩存的傳統(tǒng)管理策略并不能有效地管理大容量最后一級高速緩存，由此引發(fā)了大量的高速緩存缺失，從而導致頻繁的片外內(nèi)存訪問和處理器性能的嚴重下降。增加的訪存延遲、有限的片外帶寬、破壞性的線程間干擾、多樣化的負載特性、擴大化的新興應用

2、工作集規(guī)模，單一芯片內(nèi)所集成處理器核數(shù)目的增加，以及由此導致的每個處理器核所占有高速緩存空間的減少等諸多方面的因素都給高速緩存的設(shè)計帶來了極大的挑戰(zhàn)，也使得高速緩存管理策略的重要性變得越發(fā)關(guān)鍵。本文重點分析了高性能微處理器尤其是多核處理器中最后一級高速緩存管理的若干熱點問題，并提出相應的開銷合理的解決方案來提高系統(tǒng)性能。論文的主要研究內(nèi)容與創(chuàng)新之處包括：
　　 1.同時多線程處理器中高速緩存公平劃分技術(shù)研究。傳統(tǒng)的LRU替換策略

3、會根據(jù)線程的需要隱式地對共享高速緩存進行劃分，不同負載時間重用行為的差異導致它們對高速緩存資源的競爭能力存在差別，這會對并發(fā)調(diào)度線程的推進速度造成不一致的影響。不公平高速緩存共享問題使得操作系統(tǒng)線程調(diào)度的效率遭到喪失，線程餓死、優(yōu)先級反轉(zhuǎn)等問題呈現(xiàn)。針對這一情況本文實現(xiàn)了一種自適應、運行時劃分機制(ARP)來管理共享高速緩存，該機制以提高公平性為優(yōu)化目標，在每個周期內(nèi)使用基于動態(tài)組采樣的硬件監(jiān)控器電路來收集棧距離剖析信息，從而精確地估計

4、每個線程公平性度量的數(shù)值，并利用劃分與回滾相結(jié)合的貪心算法來確定最優(yōu)的劃分方案。實驗結(jié)果表明，相比于LRU策略，ARP可以將一個2.路同時多線程處理器的公平性提高2.26倍，同時將吞吐量平均提高14.75％。
　　 2.多核處理器中高速緩存顛簸避免技術(shù)研究。隨著最后一級高速緩存容量和相聯(lián)度的增長，LRU策略和理論最優(yōu)替換算法之間的性能差距日趨增大，引起這一問題的主要原因是LRU策略會導致大工作集訪存密集型負載發(fā)生高速緩存顛簸，并

5、且在選擇替換塊時僅僅考慮了高速緩存訪問的臨近信息而忽視了數(shù)據(jù)的訪問頻率。本文指出訪存密集型負載的性能可以通過無用數(shù)據(jù)的及早替換和改變低使用頻率數(shù)據(jù)的插入和提升位置而得到顯著提升，基于這一思想本文提出無用塊消除和低使用頻率塊過濾高速緩存管理策略，該策略利用活動時間預測器來預測數(shù)據(jù)塊的使用頻率，根據(jù)預測結(jié)果將無用數(shù)據(jù)提早替換，將低使用頻率數(shù)據(jù)插入到低優(yōu)先級位置以降低其駐留在緩存空間的時間，從而成功地避免工作集規(guī)模大于共享高速緩存容量的訪存密

6、集型負載發(fā)生顛簸，并考慮了程序中數(shù)據(jù)的臨近性和使用頻率信息。與LRU相比將
　　 4.路多核處理器的加權(quán)加速比平均提升14.5％。
　　 3.多核處理器中高速緩存混合管理策略研究。目前傳統(tǒng)的單一高速緩存管理策略已經(jīng)無法滿足不同局部性特征負載的性能需要，當并發(fā)執(zhí)行的線程間存在破壞性干擾或者負載的工作集超過可用高速緩存容量時，最后一級高速緩存的性能以及由此關(guān)聯(lián)到的多核處理器的性能都會嚴重下降。針對這一問題，本文提出劃分感知淘

7、汰線程感知插入/提升(PAE-TIP)混合高速緩存管理策略，該策略采用低開銷的錦標賽機制來確定每個線程缺失數(shù)據(jù)塊的插入位置和命中數(shù)據(jù)塊的提升位置，并且根據(jù)基于效用的高速緩存劃分算法所提供的目標分配方案未選擇被淘汰的數(shù)據(jù)塊。能夠同時對共享高速緩存實施包括容量管理、自適應插入和自適應提升在內(nèi)的混合管理，在多種具有不同數(shù)據(jù)局部性特征的訪存行為之間進行必要的折衷。實驗表明，相比于傳統(tǒng)的LRU策略，PAE-TIP能夠?qū)?-路多核處理器的加權(quán)加速比