分布式計算框架Antnest的任務調度設計與實現(xiàn).pdf

1、近年來隨著計算機網(wǎng)絡技術的高速發(fā)展,互聯(lián)網(wǎng)企業(yè)為用戶提供的應用和個性化服務也越來越多,隨之而來的是用戶提交的海量數(shù)據(jù),企業(yè)必須及時而又正確地處理這些數(shù)據(jù)并向用戶反饋結果。通常,人們會選擇使用分布式計算系統(tǒng)來完成這些復雜的任務。然而傳統(tǒng)的分布式計算平臺往往需要配置大型的服務器集群,還需要專門的技術人員去跟進和維護,這給很多企業(yè)都帶來了巨大的經(jīng)濟開銷。
　　輕量級分布式任務計算框架Antnest采用了客戶機/服務器計算模式和三層體系結

2、構,可以將工作任務分布在廉價的任務節(jié)點上,中心節(jié)點負責整個系統(tǒng)的調度工作,任務節(jié)點采用多JVM多線程執(zhí)行任務。在Antnest中,提交的任務都是經(jīng)過定制的,不同的任務對實時性的要求各不相同,針對此,Antnest為任務調度系統(tǒng)設計了一種多級隊列搶占式調度算法,該算法充分考慮到任務對實時性的要求,高優(yōu)先級任務可以搶占系統(tǒng),被搶占任務會移入高優(yōu)先級隊列中等待調度,同時利用任務的預定啟動時間來確保任務執(zhí)行的有效性。另外,Antnest還設計了

3、動態(tài)任務分配算法來完成子任務的分配工作。在動態(tài)分配算法中,子任務和任務節(jié)點的分配關系是在任務的執(zhí)行過程中動態(tài)確定的,Antnest會優(yōu)先將子任務分配給最先執(zhí)行完子任務的任務節(jié)點。在任務調度系統(tǒng)的實現(xiàn)中,任務調度系統(tǒng)各模塊間通過自定義的通信協(xié)議完成消息通信,通過指定的任務接口觸發(fā)任務邏輯,利用任務節(jié)點的狀態(tài)管理機制完成資源管理并保證Antnest的可擴展性,同時,利用心跳檢測和子任務重傳的容錯機制確保任務的正確執(zhí)行。
　　測試結果表