模板計(jì)算代碼自動(dòng)生成與性能優(yōu)化.pdf

1、伴隨能在GPU上高效執(zhí)行的應(yīng)用類型的不斷增加，原來作為專業(yè)化的圖形加速器變得越來越通用化。作為科學(xué)計(jì)算的一種形式模板計(jì)算應(yīng)用也可移植到GPU中并能充分利用其不同類型的存儲(chǔ)器資源獲得顯著的加速。模板計(jì)算利用循環(huán)空間某被計(jì)算點(diǎn)的鄰域不斷更新該點(diǎn)的值，同時(shí)最外層循環(huán)通常與物理時(shí)間相關(guān)，在每個(gè)計(jì)算的物理時(shí)間點(diǎn)，內(nèi)環(huán)高維數(shù)組定義為鄰域高維數(shù)組的函數(shù)。目前不同類型的模板廣泛用于計(jì)算電磁學(xué)、偏微分求解以及CT或MRI成像中，甚至大量地用來對(duì)湍流、地震

2、波傳播等進(jìn)行物理仿真的加速。從事這些應(yīng)用研究的專家無法詳盡地運(yùn)用GPU的體系結(jié)構(gòu)特征對(duì)代碼進(jìn)行性能的優(yōu)化，因此為了取得更高層次的底層性能優(yōu)化和更好的可移植性，研究和設(shè)計(jì)基于GPU模板計(jì)算的特定域語言和不斷優(yōu)化模板計(jì)算代碼有重要意義。
　　本文將針對(duì)面向大規(guī)模計(jì)算的GPU系統(tǒng)中如何設(shè)計(jì)能產(chǎn)生高效的模板代碼的特定域語言以及存儲(chǔ)帶寬的優(yōu)化面臨的各種挑戰(zhàn)，研究相應(yīng)的代碼生成模板規(guī)范、算法和基于體系結(jié)構(gòu)特征的優(yōu)化，并實(shí)現(xiàn)相關(guān)的編譯器流程和模

3、板代碼的優(yōu)化。本文的貢獻(xiàn)主要包括以下方面:
　　(1)模板規(guī)范和模板編譯流程。采用抽象語法規(guī)則定義的模板規(guī)范為特定體系結(jié)構(gòu)的自動(dòng)代碼產(chǎn)生提供了基礎(chǔ)，手寫的模板規(guī)范或模板編譯器從高級(jí)語言編寫的模板程序中抽取的規(guī)范作為模板編譯流程的輸入而產(chǎn)生新的中間表示，該中間表示用抽象的語法樹結(jié)構(gòu)來呈現(xiàn)模板程序的所有域及其對(duì)應(yīng)的模板函數(shù)，每個(gè)域中定義了其數(shù)據(jù)類型和其可讀或?qū)懙恼Z義，對(duì)于多個(gè)模板函數(shù)遵循順序執(zhí)行的語義。
　　(2)自動(dòng)生成帶重疊

4、ghostzone的CUDA或OpenCL代碼。用循環(huán)分塊本地線程的冗余計(jì)算代替不同循環(huán)分塊在模板計(jì)算時(shí)的通信，既充分發(fā)揮了GPU強(qiáng)大的計(jì)算能力也大量地降低了線程簇warps或threads group之間的通信開銷。產(chǎn)生代碼時(shí)利用主機(jī)代碼生成算法和GPU代碼生成算法產(chǎn)生主機(jī)代碼和相鄰循環(huán)分塊邊緣彼此重疊的GPU代碼。為了使產(chǎn)生的代碼能高效執(zhí)行，在代碼產(chǎn)生過程中需要執(zhí)行線程塊大小確定算法和共享存儲(chǔ)器的分配算法。
　　(3)消除了在

5、加載循環(huán)分塊邊緣重疊區(qū)的條件語句帶來的控制流分歧。通常GPU以32(Nvidia)或64(AMD)個(gè)線程構(gòu)成的線程簇warps或threads group同時(shí)執(zhí)行，然而如果代碼中存在條件語句，這些線程因存在控制流分歧而不能同步執(zhí)行，這樣帶來大量的線程不同步開銷。通過設(shè)計(jì)新的模板數(shù)據(jù)載入共享存儲(chǔ)器的算法，上述的控制流分歧可以完全消除。
　　(4)采用不同的策略優(yōu)化了模板計(jì)算所大量需要的存儲(chǔ)器帶寬資源。GPU的全局存儲(chǔ)器訪問采用對(duì)齊的

6、32個(gè)字節(jié)合并的方式訪問降低了帶寬需求;線程的執(zhí)行同時(shí)利用共享存儲(chǔ)器空間和寄存器，適當(dāng)加載模板格點(diǎn)數(shù)據(jù)和中間臨時(shí)數(shù)據(jù)到寄存器，有利于啟動(dòng)更多的線程執(zhí)行，增大了線程執(zhí)行的并行粒度;本文設(shè)計(jì)的軟件預(yù)取機(jī)制在模板計(jì)算的前后迭代循環(huán)更新模板點(diǎn)值時(shí)需要相鄰模板XY-平面的數(shù)據(jù)，當(dāng)前迭代循環(huán)加載的數(shù)據(jù)被緊接著的迭代循環(huán)作為計(jì)算模板點(diǎn)更新值的輸入，在GPU的warp調(diào)度或threads group調(diào)度的基礎(chǔ)之上進(jìn)一步重疊了算術(shù)操作與存儲(chǔ)器訪問的延遲。