面向異步劃分地址空間編程模型的集群資源管理與優(yōu)化技術(shù)的研究.pdf

1、異步劃分地址空間編程模型(APGAS)是并行編程模型的一次重要革新。目前，集群環(huán)境呈現(xiàn)出以下幾個特點:(1)高并行性，集群中的計算節(jié)點成千上萬，可以利用的并行性異常豐富;(2)內(nèi)存訪問性能層次化，集群中單節(jié)點多為NUMA結(jié)構(gòu)，并可能存在協(xié)處理器;節(jié)點之間通過網(wǎng)絡(luò)互聯(lián)。這種結(jié)構(gòu)導(dǎo)致了集群中內(nèi)訪訪問性能的層次化;(3)異構(gòu)性，集群中存在著性能不同、體系結(jié)構(gòu)不同的各種計算資源。這些特點對并行編程模型帶來了很大的挑戰(zhàn)。為了提高程序員的編程效率，

2、應(yīng)對集群環(huán)境變化對編程模型帶來的挑戰(zhàn)，APGAS模型應(yīng)運而生。
　　AGPAS模型已經(jīng)在學(xué)術(shù)界受到廣泛關(guān)注，而在工業(yè)界，APGAS模型在IBM公司內(nèi)部也已被廣泛應(yīng)用，IBM公司的許多大型應(yīng)用都是基于該模型而實現(xiàn)。當(dāng)前APGAS模型的一個重要缺陷是其實用性較弱，尤其是其集群資源管理與優(yōu)化能力，導(dǎo)致其無法在工業(yè)界中被廣泛應(yīng)用。與該能力相關(guān)的主要問題包括:(1) APGAS程序的可靠性問題;(2) APGAS模型數(shù)據(jù)的任務(wù)親和性引發(fā)的資

3、源管理問題;(3)性能異構(gòu)集群環(huán)境下引發(fā)的負載均衡問題;(4)體系結(jié)構(gòu)異構(gòu)集群環(huán)境下模型的性能問題。由于發(fā)展時間較短，目前學(xué)術(shù)界和工業(yè)界對APGAS的研究多針對其性能、可移植性、可編程性以及其應(yīng)用領(lǐng)域，而對上述集群資源管理與優(yōu)化相關(guān)問題的研究較少或基本沒有。
　　本文以基于APGAS模型的X10并行編程語言為例，在充分分析APGAS模型對集群資源管理與優(yōu)化相關(guān)問題需求的基礎(chǔ)之上，提出了一個系統(tǒng)的解決方案，以提高APGAS模型的集群

4、資源管理與優(yōu)化能力。本文針對APGAS程序的可靠性，APGAS模型對計算資源管理的支持，對全局負載均衡能力的支持，以及對MIC異構(gòu)計算資源使用的支持這幾個方面進行研究，以期提高APGAS模型的實用性。這幾個問題的研究在APGAS模型的相關(guān)研究中都屬首次。該研究致力于提供一套實際、有效、透明以及高性能的解決方案，使得現(xiàn)有APGAS程序可以方便地利用該研究成果。本文提出的方案充分考慮了APGAS模型自身的特性，因而使得對程序性能的影響降到最

5、低和對資源的利用率最高。并且，該方案盡可能不增加程序員的額外負擔(dān)，維持了利用APGAS模型編寫并行程序的高生產(chǎn)效率。
　　提出了基于APGAS編程模型的并行程序可靠性問題的高效解決方案，設(shè)計并實現(xiàn)了X10-FT系統(tǒng)來提高APGAS應(yīng)用程序的可靠性。X10-FT系統(tǒng)在X10語言系統(tǒng)中引入了經(jīng)典的檢查點(Checkpoint)機制，并結(jié)合APGAS的特性與一些成熟的分布式系統(tǒng)中的技術(shù)，例如Paxos協(xié)議和分布式文件系統(tǒng)，從而使得X10

6、應(yīng)用程序具有很高的容錯能力。X10-FT系統(tǒng)中基本沒有單點故障點(Single Point Failure)，并且對X10應(yīng)用程序用戶透明。詳細的測試表明，利用X10-FT系統(tǒng)，各類X10應(yīng)用程序都可以獲得較好的容錯能力，并且因為容錯引入的性能損失也在可以接受的范圍之內(nèi)（平均性能損失小于20％）。
　　提出了APGAS程序中計算單元遷移的技術(shù)，以支持集群的資源管理與優(yōu)化功能，以及APGAS程序的全局負載均衡。設(shè)計并實現(xiàn)了X10-P

7、M系統(tǒng)以提高APGAS程序的資源管理與優(yōu)化能力。X10-PM系統(tǒng)的設(shè)計充分考慮了APGAS模型的特點，同樣也對X10程序員透明。在X10-PM編譯器和運行時的幫助下，無需程序員的干涉，X10應(yīng)用程序就可以支持動態(tài)遷移。X10-PM編譯器通過對X10程序源代碼的靜態(tài)分析就可以自動找出程序在執(zhí)行過程中目標(biāo)計算單元遷移的最優(yōu)時間點。在這些點遷移具有最小的性能開銷，并能保證遷移前后X10程序全局狀態(tài)的一致性。詳細的測試表明，當(dāng)前的X10-PM系

8、統(tǒng)最少只需要4秒就可以成功地將一個APGAS基本計算單元在集群上不同計算節(jié)點之間遷移，從而有效地支持了APGAS程序?qū)嘿Y源管理與優(yōu)化以及全局負載均衡的需求。
　　對在APGAS模型下如何有效地利用MIC架構(gòu)計算資源對程序進行加速做出了研究，提出了APGAS模型下MIC架構(gòu)處理器的編程范式，并給出了一些關(guān)鍵參數(shù)的調(diào)優(yōu)原則，從而使得APGAS程序員可以方便地利用MIC計算資源對程序進行加速。該編程范式充分考慮了APGAS模型的特點

9、以及MIC架構(gòu)處理器的特性，有效地發(fā)揮了各自的優(yōu)勢，并原生支持MIC架構(gòu)處理器的Offload模式以及Native模式。另外，該編程范式有良好的向后兼容性，使用該范式現(xiàn)有應(yīng)用程序代碼只需要做少量改動就可以使用MIC計算資源進行加速。測試結(jié)果表明，使用此編程范式大部分應(yīng)用程序都可以利用MIC計算資源獲得較好的性能提升。在我們的實驗平臺上，在使用單塊MIC卡的情況下大部分程序都可以獲得一倍左右的性能加速，而一些具有高并發(fā)特性的應(yīng)用程序在使用