基于線程重組的GPGPU訪存不規(guī)則問題微架構(gòu)方案研究與驗(yàn)證.pdf

1、近十年來，隨著可編程性和計(jì)算能力的不斷提升，GPU的應(yīng)用范圍已擴(kuò)展至通用計(jì)算領(lǐng)域。眾多通用計(jì)算GPU程序中包含訪存不規(guī)則性。訪存不規(guī)則性阻礙了GPU緩存對(duì)線程束內(nèi)和線程束間數(shù)據(jù)局部性的捕獲，使得程序執(zhí)行速度低下。研究人員對(duì)GPU微架構(gòu)進(jìn)行了大量改進(jìn)，以保護(hù)GPU程序中的數(shù)據(jù)局部性。但現(xiàn)有技術(shù)尚不能有效保護(hù)訪存不規(guī)則程序中的線程束間數(shù)據(jù)局部性。為此，本文設(shè)計(jì)了基于線程重組的線程束間數(shù)據(jù)局部性保護(hù)方案。
　　本文首先介紹了該線程重組方

2、案包含的兩項(xiàng)技術(shù)措施:(1)在線程束之間交換線程以避免線程束間的緩存競(jìng)爭(zhēng)、保護(hù)數(shù)據(jù)局部性;(2)對(duì)訪存流進(jìn)行調(diào)整，以降低訪存延時(shí)并提升訪存不規(guī)則程序性能。接著，本文闡述了實(shí)現(xiàn)上述技術(shù)措施所需的GPU微架構(gòu)修改，即引入重組緩沖區(qū)和修改發(fā)射邏輯。隨后，本文分析了線程重組的性能開銷，并討論了減少開銷的具體措施。最后，本文結(jié)合線程重組和一項(xiàng)線程束內(nèi)數(shù)據(jù)局部性保護(hù)技術(shù)MRPB，設(shè)計(jì)了兼顧線程束間和線程束內(nèi)數(shù)據(jù)局部性的綜合方案。該微架構(gòu)方案在GPU

3、程序執(zhí)行初期對(duì)其進(jìn)行訪存特征分析，根據(jù)程序特征分別采用線程重組和MRPB技術(shù)保護(hù)不同類型的數(shù)據(jù)局部性。
　　本文在仿真平臺(tái)GPGPU-Sim上分別實(shí)現(xiàn)了線程重組方案和綜合方案，并使用以訪存不規(guī)則程序?yàn)橹鞯腉PGPU測(cè)試集PolyBench對(duì)兩者進(jìn)行了驗(yàn)證。實(shí)驗(yàn)結(jié)果表明，與基準(zhǔn)架構(gòu)相比，線程重組方案使得一級(jí)緩存缺失平均減少28.2％，IPC平均提升44.9％。上述結(jié)果表明，本文設(shè)計(jì)的線程重組方案可以有效保護(hù)數(shù)據(jù)局部性，提升訪存不規(guī)則