基于Spark的Relion分布式實現.pdf

1、Relion是冷凍電鏡圖片三維重建的事實標準軟件，通過Relion可以還原出被冷凍電鏡觀測物體的原有結構。冷凍電鏡原本得到的二維圖片進行三維重建問題的關鍵在于確定二維圖片的位置參數，即角度和距離，即得到的電鏡圖片是原來標準圖片如何旋轉和移動得到的，其中角度等參數就是要求的關鍵。Relion在求這類參數時所使用的算法是一種最大似然估計，通過反復迭代計算優(yōu)化得到最終的還原結構模型。Relion采用了MPI和Pthread的粗細粒度結合的并行

2、框架。在基于MPI實現多進程的計算框架中，主節(jié)點負責分發(fā)任務，當計算集群規(guī)模擴大到一定規(guī)模以后，多個節(jié)點頻繁請求任務，主節(jié)點分發(fā)任務就會變的繁忙，成為一個瓶頸。另一方面，MPI本身缺乏容錯機制，如果計算任務的某個實例計算失敗，則所有實例都需要重新計算，這也大大降低了并行計算效率和可擴展性。值得一提的是，Relion中占絕大部分耗時的最大似然估計算法是一種較為簡單的同步并行計算，非常適合移植到現有的Spark計算框架上。
　　在移植

3、到Spark計算框架過程中，為利用Spark特性來支持高性能計算主要做了以下三個方面的工作：利用一個Spark RDD對象產生的DAG實現作業(yè)調度，代替原來基于MPI通訊功能的主節(jié)點給各工作節(jié)點請求式分發(fā)任務的調度機制；通過Spark的RDD Shuffle和Broadcast操作代替原來基于MPI通訊功能的數據傳遞方式；通過JNA調用的C++代碼來使用native的BLAS等高性能線性代數計算庫，并利用JNA模擬結構體進行跨語言數據傳