面向數(shù)據(jù)通信優(yōu)化的并行程序執(zhí)行模型.pdf

1、并行計算模型是并行計算的重要研究內(nèi)容。隨著高性能計算技術(shù)的日益發(fā)展，并行計算的軟硬件結(jié)構(gòu)也越來越復(fù)雜.一方面計算機硬件持續(xù)復(fù)雜化，如多核處理器、異構(gòu)多平臺、各種高速網(wǎng)絡(luò)等技術(shù)的加入，使得應(yīng)用程序在這些平臺上的執(zhí)行行為難以預(yù)測；另一方面計算機軟件持續(xù)抽象化，并日益脫離硬件。
　　 傳統(tǒng)的并行計算模型已不能適應(yīng)當(dāng)前并行計算的高速發(fā)展。分層并行計算模型的提出，從算法設(shè)計，程序?qū)崿F(xiàn)和程序執(zhí)行三個層次分別考慮，力圖解決并行計算模型不能適應(yīng)

2、當(dāng)前并行計算發(fā)展的矛盾。
　　 并行程序執(zhí)行模型是分層并行計算模型的重要組成部分，其中的數(shù)據(jù)通信過程又是并行程序執(zhí)行模型中重要的一個方面，因為其與并行系統(tǒng)中的若干子系統(tǒng)相關(guān)，如系統(tǒng)連接拓?fù)浣Y(jié)構(gòu)，應(yīng)用程序通信拓?fù)?，互連網(wǎng)絡(luò)性能，處理器間同步、負(fù)載平衡等等。本文基于若干實際應(yīng)用研究，力圖構(gòu)建面向數(shù)據(jù)通信優(yōu)化的并行執(zhí)行模型，將并行程序中的數(shù)據(jù)通信過程劃分為三個子過程：數(shù)據(jù)準(zhǔn)備過程，通信準(zhǔn)備過程以及數(shù)據(jù)傳輸過程。這三個子過程之間存在緊密

3、的聯(lián)系卻又有一定獨立性，并且均對程序通信的速度和效率有著重要影響。本文從三個不同的并行計算實例中深入分析這三個部分的特點以及優(yōu)化方法，從不同角度揭示了優(yōu)化并行程序通信效率的若干方法。具體而言，本文的主要研究成果貢獻(xiàn)和創(chuàng)新點可概括為以下幾點：
　　 (1)提出了面向數(shù)據(jù)通信優(yōu)化的并行執(zhí)行模型：通過對MPI 實現(xiàn)中的通信操作過程進(jìn)行深入研究，從中抽取出了影響并行計算程序數(shù)據(jù)通信效率的各種因素，將整個數(shù)據(jù)通信過程分解為數(shù)據(jù)準(zhǔn)備、通信準(zhǔn)

4、備以及數(shù)據(jù)傳輸三個子過程，分析了這三個子過程各自的特點和研究內(nèi)容，本文提出了面向數(shù)據(jù)通信優(yōu)化的并行程序執(zhí)行模型。同時給出了模型的一些性質(zhì)和討論，以期能夠預(yù)測出并行應(yīng)用程序在運行時的行為以及幫助程序執(zhí)行者對應(yīng)用程序的數(shù)據(jù)通信過程進(jìn)行優(yōu)化。
　　 (2)研究了數(shù)據(jù)傳輸過程的優(yōu)化方法，并使用了執(zhí)行模型分析預(yù)測了動態(tài)進(jìn)程映射方法實現(xiàn)程序的性能和執(zhí)行行為：數(shù)據(jù)傳輸是三個子過程中最為復(fù)雜和難以預(yù)測的過程。本文在優(yōu)化MPI 程序中的群集操作的

5、實現(xiàn)中，基于數(shù)據(jù)傳輸過程選擇最優(yōu)信道的思路，提出了動態(tài)進(jìn)程映射方法。其基本思想是在運行時改變進(jìn)程的編號來改變?nèi)杭僮魍負(fù)浣Y(jié)構(gòu)，以期優(yōu)化應(yīng)用程序運行時的效率。對于不同的運行時環(huán)境我們分別提出離線和在線兩種不同的方法來計算映射數(shù)組。本文基于MPICH2 實現(xiàn)了動態(tài)進(jìn)程映射方法，并在實驗中驗證了執(zhí)行模型的實用性和有效性。
　　 (3)研究了數(shù)據(jù)準(zhǔn)備過程中的優(yōu)化方法，并在三維快速傅里葉變換的應(yīng)用中討論了其執(zhí)行模型：數(shù)據(jù)準(zhǔn)備過程的優(yōu)化極大

6、地影響著數(shù)據(jù)通信效率。本文以三維快速傅里葉變換的實際應(yīng)用為例，探討了數(shù)據(jù)準(zhǔn)備過程的優(yōu)化對數(shù)據(jù)通信的重要影響。本文同時提出了一種新的三維快速傅里葉變換的并行算法，針對稀疏三維向量的傅里葉變換，通過重新調(diào)整x、y、z 三個方向的計算順序，能最大限度地減少結(jié)點間的通信量，從而減少計算時間，提高并行加速比。
　　 (4)對通信準(zhǔn)備過程中的優(yōu)化方法進(jìn)行了探討，并研究了Sort-Last模式下圖像合成過程實現(xiàn)程序的執(zhí)行模型：通信準(zhǔn)備過程在數(shù)