面向新型異構(gòu)眾核系統(tǒng)的多設(shè)備協(xié)同并行計(jì)算關(guān)鍵技術(shù)研究.pdf

1、近年來(lái)，由多核CPU和眾核加速器而構(gòu)成的新型異構(gòu)眾核系統(tǒng)以其高性能、低能耗和低成本等優(yōu)勢(shì)在高性能計(jì)算領(lǐng)域得到了迅猛發(fā)展，基于異構(gòu)眾核系統(tǒng)而開(kāi)發(fā)的并行應(yīng)用也日益增多。但由于異構(gòu)眾核系統(tǒng)復(fù)雜的體系結(jié)構(gòu)以及簡(jiǎn)單易用的異構(gòu)協(xié)同并行編程模型的缺乏，導(dǎo)致絕大部分并行應(yīng)用僅能有效利用異構(gòu)眾核系統(tǒng)中某一類(lèi)計(jì)算設(shè)備，這造成了異構(gòu)眾核系統(tǒng)中其它計(jì)算設(shè)備的浪費(fèi)，難以充分發(fā)揮異構(gòu)眾核系統(tǒng)的性能優(yōu)勢(shì)。因此，如何充分利用異構(gòu)眾核系統(tǒng)中所有可用的計(jì)算設(shè)備來(lái)高效協(xié)同執(zhí)

2、行并行應(yīng)用已成為一個(gè)迫切需要解決的課題。
　　異構(gòu)協(xié)同并行計(jì)算旨在充分利用異構(gòu)眾核系統(tǒng)中多個(gè)任意類(lèi)型的計(jì)算設(shè)備來(lái)相互協(xié)作、并行地執(zhí)行指定的計(jì)算任務(wù)，以提高異構(gòu)眾核系統(tǒng)的計(jì)算性能。然而異構(gòu)系統(tǒng)中不同類(lèi)型的計(jì)算設(shè)備具有完全不同的體系結(jié)構(gòu)、指令集、計(jì)算能力、存儲(chǔ)能力和通信能力等，這給異構(gòu)協(xié)同并行計(jì)算帶來(lái)了極大的挑戰(zhàn)。本文圍繞面向新型異構(gòu)眾核系統(tǒng)的多設(shè)備協(xié)同并行計(jì)算的關(guān)鍵技術(shù)展開(kāi)了較為深入的分析和研究。本文的研究工作主要集中在以下四個(gè)方面

3、:
　　(1)為降低異構(gòu)協(xié)同并行編程難度、減輕編程負(fù)擔(dān)并高效支持基于異構(gòu)眾核系統(tǒng)的數(shù)據(jù)級(jí)并行應(yīng)用的多設(shè)備協(xié)同并行計(jì)算，提出了一個(gè)基于指導(dǎo)語(yǔ)句的異構(gòu)協(xié)同并行編程框架(簡(jiǎn)稱(chēng)OpenHCPP)。通過(guò)擴(kuò)展廣為使用的OpenMP給編程人員提供了一種更為簡(jiǎn)單靈活的方式來(lái)充分利用異構(gòu)眾核系統(tǒng)中所有可用的計(jì)算設(shè)備來(lái)協(xié)同執(zhí)行數(shù)據(jù)級(jí)并行應(yīng)用。借助于OpenHCPP提供的源到源的編譯器和運(yùn)行時(shí)系統(tǒng)，編程人員無(wú)須關(guān)心如何在參與協(xié)同并行計(jì)算的各設(shè)備間高效地

4、劃分計(jì)算任務(wù)和傳輸數(shù)據(jù)。實(shí)驗(yàn)結(jié)果表明采用OpenHCPP能有效提高基于異構(gòu)眾核系統(tǒng)的數(shù)據(jù)級(jí)并行應(yīng)用的開(kāi)發(fā)效率和執(zhí)行效率。
　　(2)為能在異構(gòu)眾核系統(tǒng)中利用多個(gè)計(jì)算設(shè)備合理高效地協(xié)同執(zhí)行數(shù)據(jù)級(jí)并行應(yīng)用，提出了兩種高效支持異構(gòu)協(xié)同并行計(jì)算的設(shè)備間動(dòng)態(tài)任務(wù)調(diào)度策略，包括反饋式動(dòng)態(tài)彈性任務(wù)調(diào)度策略和搶占式動(dòng)態(tài)彈性任務(wù)調(diào)度策略。前者較適合于計(jì)算和數(shù)據(jù)均勻分布的且計(jì)算內(nèi)核僅需執(zhí)行一次或少量重復(fù)執(zhí)行的數(shù)據(jù)級(jí)并行應(yīng)用，而后者較適合于計(jì)算和數(shù)據(jù)非

5、均勻分布的且/或計(jì)算內(nèi)核需大量重復(fù)執(zhí)行的數(shù)據(jù)級(jí)并行應(yīng)用。實(shí)驗(yàn)結(jié)果表明，采用本文提出的設(shè)備間動(dòng)態(tài)任務(wù)調(diào)度策略不僅能讓各計(jì)算設(shè)備得到充分利用、設(shè)備之間達(dá)到較好的負(fù)載均衡，而且能避免頻繁的設(shè)備初始化、kernel啟動(dòng)、設(shè)備間數(shù)據(jù)傳輸和設(shè)備間同步所帶來(lái)的開(kāi)銷(xiāo)。
　　(3)鑒于異構(gòu)眾核系統(tǒng)中設(shè)備間通信容易成為某些數(shù)據(jù)級(jí)并行應(yīng)用的多設(shè)備協(xié)同并行計(jì)算的性能瓶頸，為有效隱藏、減少或避免設(shè)備間通信開(kāi)銷(xiāo)，提出了一種增量式數(shù)據(jù)傳輸方法和一種基于軟件流水

6、線的通信優(yōu)化方法。前者基于反饋式動(dòng)態(tài)彈性任務(wù)調(diào)度，充分考慮了如何避免設(shè)備間重復(fù)冗余的數(shù)據(jù)傳輸，實(shí)現(xiàn)了能有效避免設(shè)備間重復(fù)傳輸?shù)姆答伿絼?dòng)態(tài)任務(wù)調(diào)度;后者基于反饋式動(dòng)態(tài)彈性任務(wù)調(diào)度和搶占式動(dòng)態(tài)彈性任務(wù)調(diào)度，充分考慮了如何盡可能地重疊加速器端計(jì)算內(nèi)核執(zhí)行與主機(jī)-加速器間數(shù)據(jù)傳輸，實(shí)現(xiàn)了能有效隱藏設(shè)備間通信開(kāi)銷(xiāo)的反饋式動(dòng)態(tài)彈性任務(wù)調(diào)度和搶占式動(dòng)態(tài)彈性任務(wù)調(diào)度。實(shí)驗(yàn)結(jié)果表明，采用本文提出的設(shè)備間通信優(yōu)化方法能顯著改進(jìn)某些存在較大設(shè)備間通信開(kāi)銷(xiāo)的數(shù)

7、據(jù)級(jí)并行應(yīng)用的多設(shè)備協(xié)同并行計(jì)算的整體性能。
　　(4)綜合應(yīng)用所提出的異構(gòu)協(xié)同并行編程框架、設(shè)備間任務(wù)調(diào)度策略和設(shè)備間通信優(yōu)化方法，實(shí)現(xiàn)了一個(gè)復(fù)雜應(yīng)用-求解子集和問(wèn)題的并行二表算法-的高效CPU-GPU協(xié)同并行計(jì)算。鑒于并行二表算法的生成階段的異構(gòu)協(xié)同并行計(jì)算中易出現(xiàn)設(shè)備間負(fù)載不均衡且存在較大設(shè)備間通信開(kāi)銷(xiāo)，在生成階段的CPU-GPU協(xié)同并行執(zhí)行中采用了避免設(shè)備間重復(fù)傳輸?shù)姆答伿絼?dòng)態(tài)任務(wù)調(diào)度策略。針對(duì)并行二表算法的剪塊與搜索階段