面向GPU計(jì)算平臺(tái)的若干并行優(yōu)化關(guān)鍵技術(shù)研究.pdf

1、隨著計(jì)算能力和可編程性的不斷增強(qiáng)，GPU被越來越多的應(yīng)用開發(fā)人員用作性能加速器以提高程序性能。然而，如果沒有經(jīng)過精心優(yōu)化，很難在GPU上實(shí)現(xiàn)理想性能。這是因?yàn)镚PU程序的優(yōu)化工作已經(jīng)從硬件設(shè)計(jì)者轉(zhuǎn)移到應(yīng)用開發(fā)人員手中。而GPU程序的性能優(yōu)化是一個(gè)非常困難的過程，其實(shí)質(zhì)是實(shí)現(xiàn)算法特性向底層硬件特征的高效映射。一方面這個(gè)過程需要對GPU底層硬件有著深入的認(rèn)識(shí)，而現(xiàn)代GPU架構(gòu)的日益多樣性，無疑加劇了本已困難的優(yōu)化工作;另一方面，移植到GPU

2、上的應(yīng)用的程序特性也日益多樣化，從整體上看，這些應(yīng)用可分為規(guī)則應(yīng)用和非規(guī)則應(yīng)用兩大類。不同的程序特性在不同硬件架構(gòu)上具有不同的優(yōu)化方法和策略。為簡化GPU程序的性能優(yōu)化工作，使應(yīng)用開發(fā)人員能夠更加容易的實(shí)現(xiàn)高性能GPU程序。針對不同的應(yīng)用特點(diǎn)，本文的主要工作可分為兩部分:
　　針對規(guī)則應(yīng)用，我們提出性能優(yōu)化鏈的概念，并根據(jù)GPU計(jì)算和訪存的特點(diǎn)，將性能優(yōu)化鏈劃分為絕對性能優(yōu)化鏈和相對性能優(yōu)化鏈兩類。通過引入Roof line模型，

3、實(shí)現(xiàn)了性能優(yōu)化鏈的可視化，建立了針對特定硬件平臺(tái)的可視化GPU程序性能優(yōu)化指導(dǎo)模型:GPURoofline。該模型可通過提供性能信息來確定GPU程序在特定硬件平臺(tái)上的性能瓶頸以及應(yīng)選擇的優(yōu)化策略和方法，以此來指導(dǎo)應(yīng)用開發(fā)人員特別是對GPU底層架構(gòu)不熟悉的應(yīng)用開發(fā)人員更加容易的實(shí)現(xiàn)高性能GPU程序。本文通過三個(gè)具有不同計(jì)算密度和程序特性的典型應(yīng)用驗(yàn)證了GPURoofline模型的可用性和正確性。
　　針對非規(guī)則應(yīng)用，以Viola-J

4、ones人臉檢測算法為例，引入了非規(guī)則應(yīng)用在GPU上實(shí)現(xiàn)和優(yōu)化的五大關(guān)鍵技術(shù):粗粒度并行、Uberkernel、Persistent Kernel、本地隊(duì)列和全局隊(duì)列。并通過性能特征參數(shù)的定義和抽取，完成了可調(diào)優(yōu)GPUkernel的初步實(shí)現(xiàn)，并以此實(shí)現(xiàn)了Viola-Jones人臉檢測算法在不同GPU平臺(tái)上的性能移植。實(shí)驗(yàn)表明，經(jīng)過優(yōu)化的Viola-Jones人臉檢測算法比OpenCV庫中同樣經(jīng)過精心優(yōu)化的CPU版本在AMD HD5850

5、 GPU、AMD HD7970 GPU和NVlDIA C2050 GPU三個(gè)GPU平臺(tái)上分別達(dá)到了5.19～27.724、6.468～35.080和5.850～28.768的性能提升。
　　本文的創(chuàng)新點(diǎn)如下:
　　(1)分析和比較當(dāng)前主流GPU架構(gòu)的異同，提出了GPU程序性能優(yōu)化的三大有效途徑:提高片外帶寬利用率，提高計(jì)算資源利用率和數(shù)據(jù)本地化。
　　(2)提出算法計(jì)算密度和硬件計(jì)算密度兩個(gè)概念，并通過這兩個(gè)概念的比較

6、將GPU kernel分為訪存密集型和計(jì)算密集型兩大類。提出并構(gòu)建針對特定硬件平臺(tái)的性能優(yōu)化鏈。并根據(jù)訪存和計(jì)算優(yōu)化的特點(diǎn)，將性能優(yōu)化鏈劃分為絕對性能優(yōu)化鏈和相對性能優(yōu)化鏈兩類。
　　(3)構(gòu)建完成了一個(gè)可視化的GPU性能指導(dǎo)模型:GPURoofline。通過引入Roofline模型實(shí)現(xiàn)了性能優(yōu)化鏈的可視化，以一種更加直觀的形式指導(dǎo)GPU程序的優(yōu)化。
　　(4)引入非規(guī)則應(yīng)用在GPU實(shí)現(xiàn)和優(yōu)化的五大方法和策略:粗粒度并行、U