基于BSP的大規(guī)模圖處理系統(tǒng)故障恢復機制的研究與實現(xiàn).pdf

1、基于BSP的并行計算系統(tǒng)適用于面向海量數據的圖計算、矩陣計算等需要多次迭代的算法實現(xiàn)。其與MapReduce并行計算系統(tǒng)類似，也將基于低成本服務器和本地磁盤來提高海量數據的并行處理能力。而在上述由大規(guī)模商用計算機組成的集群中，經常會出現(xiàn)節(jié)點的故障，因此如何能夠容忍這些故障的出現(xiàn)，并及時地采取補救措施是非常必要的，課題研究的目的是通過故障恢復機制的合理設計與實現(xiàn)，使得系統(tǒng)具有較強的容錯能力。因此實現(xiàn)故障恢復的透明性和提高故障檢測、診斷、恢

2、復的效率，減少對系統(tǒng)正常工作的影響將是課題研究的重點和難點問題。
　　針對上述問題，本文研究并實現(xiàn)了基于增量檢查點的回滾故障恢復機制，它不僅能夠有效的節(jié)省存儲資源，而且故障的發(fā)生相對用戶具有透明性。文中主要從三個方面展開了研究。首先，針對數據量大時讀、寫檢查點會降低系統(tǒng)效率的問題，本文在原有的檢查點機制的基礎上進行了改進，實現(xiàn)了檢查點的增量讀、寫，這樣不僅大大的提高了讀、寫檢查點的速度，而且有效的節(jié)省了系統(tǒng)的存儲資源，當數據量達到

3、一定規(guī)模時，增量讀、寫檢查點的實現(xiàn)能夠有效的提高系統(tǒng)的效率;其次，實現(xiàn)了基于“心跳”的故障偵測功能，成功的解決了主控端如何獲得系統(tǒng)故障信息的問題。通過“心跳”主控端可以及時的獲取故障相關信息，并觸發(fā)相應的故障恢復方案。最后，針對作業(yè)運行過程中故障發(fā)生的隨機性，本文對系統(tǒng)中出現(xiàn)的故障按迭代計算過程的前、中、后分成三階段，并根據故障發(fā)生的階段和類型分別對這三階段的故障進行處理。
　　經過實際部署與應用，基于BSP的大規(guī)模圖處理系統(tǒng)的故