面向多核可伸縮的MapReduce庫的研究.pdf

1、并行編程是有效利用多核資源的重要方式。然而，傳統(tǒng)的并行編程模型要求程序員手動管理諸多的并發(fā)細節(jié)，使得并行編程變得困難且易錯。MapReduce編程模型通過自動管理并發(fā)任務(wù)，簡化并行編程。Phoenix是MapReduce模型在多核系統(tǒng)上的一種實現(xiàn)，它證明了應用程序通過使用MapReduce能夠獲得與Pthreads相媲美的性能。但是，Phoenix的可伸縮性較差。
　　本文旨在分析影響Phoenix可伸縮性的關(guān)鍵因素，然后設(shè)計并實

2、現(xiàn)一個具有較好可伸縮性的MapReduce庫SMR。本文的主要貢獻為:
　　(1)通過實驗測試以及使用Linux Perf等性能分析工具，深入分析影響Phoenix可伸縮性與性能的關(guān)鍵因素。Phoenix因Pthreads線程對共享地址空間的競爭導致其較差的可伸縮性，因map和reduce階段間存在同步屏障影響性能。
　　(2)利用課題組已有的新型線程模型Sthread，設(shè)計并實現(xiàn)一個Phoenix接口兼容且具有較好可伸縮性

3、的MapReduce庫SMR。SMR通過避免多個線程對共享地址空間的競爭，提升系統(tǒng)的可伸縮性;通過讓map和reduce階段間的無阻塞流水線并行，提升系統(tǒng)的性能。
　　(3)在一臺32核機器上使用Phoenix測試程序?qū)MR和Phoenix進行性能評估，還分析了近年來Linux內(nèi)核的優(yōu)化對多核MapReduce庫可伸縮性與性能的影響。實驗結(jié)果表明，基于SMR運行的五個測試用例都具有較好的可伸縮性和性能。32核CPU下，SMR相比

4、Phoenix的性能提升為9.0倍～26.7倍。Linux內(nèi)核的優(yōu)化能夠有效提升Phoenix的執(zhí)行效率，而對于SMR的影響較小。
　　(4)為了高效支持迭代型MapReduce應用，本文初步設(shè)計并實現(xiàn)了面向多核可伸縮的迭代式MapReduce庫iSMR。SMR因每次迭代計算都需要重復地創(chuàng)建和銷毀環(huán)境，浪費大量的時間，致使其無法高效地支持迭代型應用。iSMR只在處理流程的開始和結(jié)束時創(chuàng)建和銷毀環(huán)境，并且它采用線程池復用線程，以提升