面向異構系統(tǒng)的PGAS模型研究與實現.pdf

1、科學與工程應用對計算性能要求的不斷增加使得機群系統(tǒng)得到了迅速發(fā)展，但由于功耗和散熱等因素，基于 CPU的同構機群系統(tǒng)可拓展性已成為發(fā)展瓶頸。而圖形處理單元（GPU）、眾核協(xié)處理器（MIC）等其他加速單元在處理高度并行性負載的情況下可以提供比CPU更強的浮點計算能力，且所需能耗更低，因此CPU協(xié)同GPU或MIC完成計算任務的異構計算已成為發(fā)展主流。然而現有的異構編程模型缺乏為編程人員提供一致的編程環(huán)境，編程人員必須區(qū)分CPU與加速器并顯式

2、的指定數據在不同設備之間的傳遞情況，一定程度上增加了異構編程難度。
　　PGAS編程模型旨在為分布式內存系統(tǒng)提供一個邏輯上共享的尋址空間，允許編程人員以全局視角操作數據從而簡化編程難度。但現有的 PGAS模型主要面向同構系統(tǒng)，且缺少針對CPU+MIC結構的實現。本文面向異構計算不斷發(fā)展的趨勢，研究在異構系統(tǒng)中對PGAS編程模型的拓展與實現方式，通過異構PGAS模型為編程人員提供一致的編程環(huán)境，簡化異構編程難度。論文的主要工作和貢獻

3、如下：
　　首先，面向異構系統(tǒng)實現對全局數組（GA）模型的拓展---CoGA。CoGA模型基于CPU+MIC系統(tǒng)上的SCIF接口實現全局數組操作，采用為全局數組分配固定內存的方式提高系統(tǒng)效率并保證數據傳輸的可靠性，通過SCIF遠程內存訪問實現CPU與MIC間的高效數據傳輸。CoGA模型結合異構系統(tǒng)實現的API接口能夠為編程人員提供一致的編程環(huán)境，允許編程人員以全局視角操作物理上分布于 CPU和加速單元間的數據，隱藏不同計算設備之間

4、的內存分配和數據傳輸細節(jié)，進而簡化異構編程難度。
　　其次，結合異構系統(tǒng)特點優(yōu)化數據傳輸性能。針對現有 Offload編程模式中MIC之間無法直接進行數據傳輸導致通訊操作較為復雜的問題，CoGA模型通過SCIF接口建立MIC設備間的直接連接關系，允許用戶通過CoGA接口直接在MIC間進行數據傳輸，降低數據傳輸延遲并簡化通信操作。針對CPU+MIC協(xié)同計算過程中，CPU與MIC間可能需要頻繁進行小數據通信的情況，CoGA模型基于SC

5、IF消息傳遞層實現小消息傳遞接口，實現CPU與MIC間高效的小數據傳遞，降低通信延遲。此外，為便于用戶通過指定數組分布實現CPU與MIC的任務劃分，CoGA模型提供接口允許進程直接獲取全局數組本地部分的指針，避免冗余數據拷貝。
　　最后，通過基準性能Benchmark和實際應用測試CoGA模型整體性能。根據CPU-MIC數據傳輸帶寬和延遲， MIC-MIC通信延遲以及矩陣乘應用的測試結果證明了CoGA模型簡化編程并優(yōu)化數據傳輸性能