CPU-GPU異構系統(tǒng)上的高層編程模型及其編譯優(yōu)化技術.pdf

1、由于具有不同的結構特點，使得CPU和GPU組成的異構系統(tǒng)能夠更有效地處理通用計算任務。與CPU相比，GPU專注于提高需要更多的計算資源和存儲帶寬的數據并行任務的執(zhí)行效率，具有更復雜的存儲層次，且地址空間與CPU分離，使得為CPU-GPU異構系統(tǒng)設計的編程模型仍然具有一些不盡如人意的地方，比如編程方式較為復雜;需要對底層硬件架構有深刻的理解才能寫出優(yōu)化的程序;程序的可移植性較差等。
　　 本文圍繞CPU-GPU異構系統(tǒng)編程模型的這

2、幾個問題，研究了異構系統(tǒng)上的編程模型和優(yōu)化實現技術，分別從異構系統(tǒng)上編程模型的易編程性和可移植性以及最終程序在異構系統(tǒng)上的性能優(yōu)化技術和運行時技術等方面展開研究。本文的研究內容和成果如下:
　　 (1)研究了程序對制導語言表達能力的需求，提出了制導語言所必須具備的最小功能集合，并以OpenHMPP制導語言為例進行了合理地擴展設計。由于已經有多種解決異構系統(tǒng)上易編程性和可移植性方案被提出，所以我們首先研究了不同類型的解決方案的優(yōu)缺

3、點，論證了基于制導語言的編程模型的優(yōu)勢，并提出了為異構系統(tǒng)設計的制導語言所應該具備的最小功能集合。然后我們以OpenHMPP作為基礎，研究其表達能力，并進行最小化地擴展設計，形成了新的制導語言OpenHMPP+，以其作為我們的源語言，為CPU-GPU異構系統(tǒng)上的編程提供易編程性和可移植性。
　　 (2)提出了一個優(yōu)化的源到源編譯框架，將OpenHMPP+制導語言編譯成優(yōu)化的CUDA語言。通過高層制導語言提供易編程性和可移植性，以

4、及在編譯器中實現多種優(yōu)化技術來提供理想的性能，實現一個同時具備易編程性、可移植性和性能的編程模型。由于在實現的過程中需要用到多種優(yōu)化技術以及各種輔助技術，所以如何合理地安排這些技術，使得他們能夠完美的協作也對最終代碼的性能有著較大的影響。
　　 (3)研究了編譯器實現中的一些相關技術，并提出了相應的實現算法。提出了偽依賴消除算法，用于增加Cetus的循環(huán)并行性檢測算法的適用性;提出了從多級并行循環(huán)到CUDA線程模型的映射算法，以

5、最大化地利用檢測出的循環(huán)并行性;提出了減少數組訪問的重用距離的算法，以減少計算核心中總的重用距離并為將數據加載到片上高速存儲器中提供條件;提出了計算核心啟動配置選擇算法，使得在并行性較小的情況下多個SM可以獲得盡可能相等的計算量，以達到負載平衡;提出了運行時CPU-GPU計算管理技術，同時為多核CPU和GPU生成計算核心，使得程序可以在沒有配備支持CUDA的GPU的系統(tǒng)上或者在顯存容量不足的情況下自動地切換到多核CPU上并行的執(zhí)行，合理

6、地利用了制導中的并行性信息。
　　 (4)設計了實驗對提出的源到源翻譯框架進行評測。從不同的領域選取了15個程序在兩個不同的平臺上進行了評測。結果顯示，編譯器自動生成的代碼在不同的平臺上都能取得較好的性能，在不同的程序和輸入集合大小下，平均性能可以達到手寫CUDA版本的70％以上。
　　 在研究CPU-GPU異構系統(tǒng)上的編程模型以及給出優(yōu)化實現的過程中，我們得到了一些重要的結論。首先，在算法具備并行性的前提下，當今的編譯

7、器只需要少量的信息，如并行區(qū)域的位置、并行區(qū)域中循環(huán)的并行性信息，就可以生成一個可以在異構系統(tǒng)上正常執(zhí)行的程序。其次，將程序對顯存的訪問轉換成符合合并訪問規(guī)則的形式和利用程序中的數據重用性是兩個應用廣泛并有效的優(yōu)化。對程序的最終性能起著至關重要的作用。最后，L2 Cache的加入能夠加速部分程序的執(zhí)行，但是需要一個能夠更有效地應對流應用的替換算法。大部分流應用中線程對寄存器的需求較小，但是仍然有部分應用需要較多的寄存器數目，更大的寄存器