Cache Copy-On-Write：TLS猜測數(shù)據(jù)管理機(jī)制的研究.pdf

1、隨著芯片集成度的不斷提高，越來越多的處理器核被集成到單個(gè)芯片上，出現(xiàn)了多核和眾核處理器。與多核和眾核體系結(jié)構(gòu)快速發(fā)展所不同的是，并行程序設(shè)計(jì)卻沒有實(shí)現(xiàn)跨越式發(fā)展。傳統(tǒng)的并行編程模型----數(shù)據(jù)并行編程模型、消息傳遞編程模型、共享內(nèi)存編程模型，雖然從一定程度上簡化程序員程序并行化的工作，但是它們對(duì)于一些粗粒度并行缺乏一定的支持，而且它們都不支持線程的猜測執(zhí)行，這也造成了巨大的計(jì)算資源浪費(fèi)。在以猜測的方式挖掘應(yīng)用中的粗粒度并行方面，TLS（

2、Thread-Level Speculation線程級(jí)猜測執(zhí)行）就是其中的典型代表。它的最大優(yōu)點(diǎn)是編程模型非常簡潔----程序員只需標(biāo)識(shí)出那些可以猜測執(zhí)行的代碼段即可，運(yùn)行時(shí)系統(tǒng)或硬件負(fù)責(zé)確保猜測線程之間的數(shù)據(jù)相關(guān)不被破壞。但是由于其自身系統(tǒng)開銷過高等原因，導(dǎo)致TLS機(jī)制的應(yīng)用并不廣泛。本文提出并實(shí)現(xiàn)一種編程模型簡單、系統(tǒng)開銷低的TLS系統(tǒng)猜測數(shù)據(jù)管理機(jī)制，它不僅能夠在不降低處理器核主頻的情況下，實(shí)現(xiàn)高效的猜測數(shù)據(jù)管理，而且在一定程度上

3、解決了猜測線程間共享數(shù)據(jù)相關(guān)的問題。
　　本研究主要內(nèi)容包括：⑴猜測變量生命周期包括猜測變量的產(chǎn)生、使用和提交三個(gè)階段，按照猜測變量的生命周期，提出了一種新的TLS技術(shù)分類方法，并比較了各種已有TLS實(shí)現(xiàn)方法的優(yōu)缺點(diǎn)；根據(jù)猜測變量的生命周期，歸納了支持TLS的多核平臺(tái)的設(shè)計(jì)空間，提出了探索該設(shè)計(jì)空間的若干方法；最后，指出了TLS技術(shù)當(dāng)前面臨的挑戰(zhàn)和未來發(fā)展趨勢。⑵傳統(tǒng)的TLS系統(tǒng)由于沒有針對(duì)猜測數(shù)據(jù)管理做專門的優(yōu)化，導(dǎo)致其在猜測數(shù)

4、據(jù)管理方面開銷過大，性能不佳。本文通過對(duì)TLS技術(shù)分析，提出了基于猜測變量生命周期的Cache Copy-on-Write猜測數(shù)據(jù)管理機(jī)制。Cache Copy-on-Write機(jī)制采用類似于操作系統(tǒng)Copy on Write的技術(shù)實(shí)現(xiàn)對(duì)猜測變量的動(dòng)態(tài)管理，減少了線程創(chuàng)建時(shí)拷貝數(shù)據(jù)的開銷。另外，Cache Copy-on-Write機(jī)制支持猜測線程間通信，通過這一機(jī)制可以消除由猜測線程間共享變量沖突帶來的線程多次回滾，從而提高了線程執(zhí)行

5、成功率，進(jìn)而提高了性能。⑶從性能上來說，Cache Copy-on-Write機(jī)制具有高效的猜測數(shù)據(jù)管理能力并且管理產(chǎn)生的開銷較少。而采用Enhanced Local Memory作為猜測線程的私有數(shù)據(jù)緩存可以最大限度地發(fā)揮Cache Copy-on-Write機(jī)制的優(yōu)勢。首先，Enhanced Local Memory具有訪問速度快的特點(diǎn)；其次，Enhanced Local Memory是片上存儲(chǔ)器?；谶@兩點(diǎn)，同時(shí)結(jié)合Cache C