面向數(shù)據(jù)通信優(yōu)化的并行程序執(zhí)行模型.pdf

1、并行計(jì)算模型是并行計(jì)算的重要研究?jī)?nèi)容。隨著高性能計(jì)算技術(shù)的日益發(fā)展，并行計(jì)算的軟硬件結(jié)構(gòu)也越來(lái)越復(fù)雜.一方面計(jì)算機(jī)硬件持續(xù)復(fù)雜化，如多核處理器、異構(gòu)多平臺(tái)、各種高速網(wǎng)絡(luò)等技術(shù)的加入，使得應(yīng)用程序在這些平臺(tái)上的執(zhí)行行為難以預(yù)測(cè)；另一方面計(jì)算機(jī)軟件持續(xù)抽象化，并日益脫離硬件。
　　 傳統(tǒng)的并行計(jì)算模型已不能適應(yīng)當(dāng)前并行計(jì)算的高速發(fā)展。分層并行計(jì)算模型的提出，從算法設(shè)計(jì)，程序?qū)崿F(xiàn)和程序執(zhí)行三個(gè)層次分別考慮，力圖解決并行計(jì)算模型不能適應(yīng)

2、當(dāng)前并行計(jì)算發(fā)展的矛盾。
　　 并行程序執(zhí)行模型是分層并行計(jì)算模型的重要組成部分，其中的數(shù)據(jù)通信過(guò)程又是并行程序執(zhí)行模型中重要的一個(gè)方面，因?yàn)槠渑c并行系統(tǒng)中的若干子系統(tǒng)相關(guān)，如系統(tǒng)連接拓?fù)浣Y(jié)構(gòu)，應(yīng)用程序通信拓?fù)?，互連網(wǎng)絡(luò)性能，處理器間同步、負(fù)載平衡等等。本文基于若干實(shí)際應(yīng)用研究，力圖構(gòu)建面向數(shù)據(jù)通信優(yōu)化的并行執(zhí)行模型，將并行程序中的數(shù)據(jù)通信過(guò)程劃分為三個(gè)子過(guò)程：數(shù)據(jù)準(zhǔn)備過(guò)程，通信準(zhǔn)備過(guò)程以及數(shù)據(jù)傳輸過(guò)程。這三個(gè)子過(guò)程之間存在緊密

3、的聯(lián)系卻又有一定獨(dú)立性，并且均對(duì)程序通信的速度和效率有著重要影響。本文從三個(gè)不同的并行計(jì)算實(shí)例中深入分析這三個(gè)部分的特點(diǎn)以及優(yōu)化方法，從不同角度揭示了優(yōu)化并行程序通信效率的若干方法。具體而言，本文的主要研究成果貢獻(xiàn)和創(chuàng)新點(diǎn)可概括為以下幾點(diǎn)：
　　 (1)提出了面向數(shù)據(jù)通信優(yōu)化的并行執(zhí)行模型：通過(guò)對(duì)MPI 實(shí)現(xiàn)中的通信操作過(guò)程進(jìn)行深入研究，從中抽取出了影響并行計(jì)算程序數(shù)據(jù)通信效率的各種因素，將整個(gè)數(shù)據(jù)通信過(guò)程分解為數(shù)據(jù)準(zhǔn)備、通信準(zhǔn)

4、備以及數(shù)據(jù)傳輸三個(gè)子過(guò)程，分析了這三個(gè)子過(guò)程各自的特點(diǎn)和研究?jī)?nèi)容，本文提出了面向數(shù)據(jù)通信優(yōu)化的并行程序執(zhí)行模型。同時(shí)給出了模型的一些性質(zhì)和討論，以期能夠預(yù)測(cè)出并行應(yīng)用程序在運(yùn)行時(shí)的行為以及幫助程序執(zhí)行者對(duì)應(yīng)用程序的數(shù)據(jù)通信過(guò)程進(jìn)行優(yōu)化。
　　 (2)研究了數(shù)據(jù)傳輸過(guò)程的優(yōu)化方法，并使用了執(zhí)行模型分析預(yù)測(cè)了動(dòng)態(tài)進(jìn)程映射方法實(shí)現(xiàn)程序的性能和執(zhí)行行為：數(shù)據(jù)傳輸是三個(gè)子過(guò)程中最為復(fù)雜和難以預(yù)測(cè)的過(guò)程。本文在優(yōu)化MPI 程序中的群集操作的

5、實(shí)現(xiàn)中，基于數(shù)據(jù)傳輸過(guò)程選擇最優(yōu)信道的思路，提出了動(dòng)態(tài)進(jìn)程映射方法。其基本思想是在運(yùn)行時(shí)改變進(jìn)程的編號(hào)來(lái)改變?nèi)杭僮魍負(fù)浣Y(jié)構(gòu)，以期優(yōu)化應(yīng)用程序運(yùn)行時(shí)的效率。對(duì)于不同的運(yùn)行時(shí)環(huán)境我們分別提出離線和在線兩種不同的方法來(lái)計(jì)算映射數(shù)組。本文基于MPICH2 實(shí)現(xiàn)了動(dòng)態(tài)進(jìn)程映射方法，并在實(shí)驗(yàn)中驗(yàn)證了執(zhí)行模型的實(shí)用性和有效性。
　　 (3)研究了數(shù)據(jù)準(zhǔn)備過(guò)程中的優(yōu)化方法，并在三維快速傅里葉變換的應(yīng)用中討論了其執(zhí)行模型：數(shù)據(jù)準(zhǔn)備過(guò)程的優(yōu)化極大

6、地影響著數(shù)據(jù)通信效率。本文以三維快速傅里葉變換的實(shí)際應(yīng)用為例，探討了數(shù)據(jù)準(zhǔn)備過(guò)程的優(yōu)化對(duì)數(shù)據(jù)通信的重要影響。本文同時(shí)提出了一種新的三維快速傅里葉變換的并行算法，針對(duì)稀疏三維向量的傅里葉變換，通過(guò)重新調(diào)整x、y、z 三個(gè)方向的計(jì)算順序，能最大限度地減少結(jié)點(diǎn)間的通信量，從而減少計(jì)算時(shí)間，提高并行加速比。
　　 (4)對(duì)通信準(zhǔn)備過(guò)程中的優(yōu)化方法進(jìn)行了探討，并研究了Sort-Last模式下圖像合成過(guò)程實(shí)現(xiàn)程序的執(zhí)行模型：通信準(zhǔn)備過(guò)程在數(shù)