基于異構多核平臺的優(yōu)化編程研究.pdf

1、過去幾十年來，代表CPU性能的主頻在不斷的提高，但由于生產工藝、功耗以及架構設計等原因使得主頻之路已經走到了盡頭。在無法進一步提高處理器主頻的情況下，CPU進入了多核時代。對于計算密集型的應用，由若干個完全相同處理器核心構成的同構多核CPU并不是最好的方案。因此，出現了以通用CPU加專用加速核心構成的異構計算平臺，并且逐漸成為高性能計算領域的主流架構。這種底層硬件架構的革新也給在它上面的程序開發(fā)帶來重大改變。而目前的異構多核平臺都面臨著

2、性能調優(yōu)困難和編程復雜的問題。如何簡化編程，如何充分發(fā)揮異構多核平臺的性能是程序開發(fā)方面不得不面臨的挑戰(zhàn)。
　　 在異構多核計算平臺上，專用加速核心是提供計算能力的主要部件，如何挖掘加速核心的處理能力是影響整體性能的關鍵。本研究提出了基于異構多核平臺的多粒度并行優(yōu)化策略，基于該模型實現的應用能最大限度地使用專用加速核心硬件計算資源，由此，總結出在異構多核平臺上的專用加速核心端進行性能調優(yōu)的一般規(guī)律。
　　 現代異構計算平

3、臺的異構多核架構中，加速核心通常用于計算，但平臺上的多核CPU的計算能力同樣很強大。為了利用CPU的計算能力，針對數據并行應用，提出了異構數據并行模型，該異構數據并行模型通過對CPU和加速核心間負載的合理劃分，使得CPU和專用計算核心間的負載達到均衡。在利用專用加速核心計算能力的同時，充分發(fā)揮多核CPU的計算能力，從而提高系統(tǒng)整體的性能。
　　 同樣是為了利用多核CPU的計算性能，對于一些流式數據并行計算的應用，提出了流式計算模

4、型，該模型是由CPU、加速核心以及它們之間的數據通信組成一條三階段的流水線。CPU端對輸入數據進行初步處理，過濾掉部分無需APU處理的數據，這樣做一方面減少了CPU與加速核心之間的巨大的通信延遲；另一方面也降低專用加速核心的負載。通過調整CPU端的過濾的精度來協調CPU和專用加速核心之間的負載，使流水線處于充盈狀態(tài)，以達到整體的性能最優(yōu)。在異構多核計算平臺中，由于CPU和加速核心在存儲系統(tǒng)上具有不同的特點并具有各自獨立的地址空間，導致C

5、PU和加速核心之間的數據傳輸是消息驅動的傳輸方式。在進行應用開發(fā)時，CPU和加速核心之間數據傳輸需要程序員顯式調用API來進行，增加了編程的復雜性，加重了程序員的負擔。通過在NVIDIA GPU平臺上基于CUDA編程環(huán)境設計并實現了memCUDA原型系統(tǒng)，memCUDA通過擴展CUDA的關鍵字，利用源到源的代碼轉換，實現了設備內存到主內存的映射，從而屏蔽掉數據傳輸和設備內存的操作，簡化編程。同時，通過優(yōu)化異步執(zhí)行的方式，對符合條件的應用