高性能分布式文件系統(tǒng)元數(shù)據(jù)服務設計與實現(xiàn).pdf

1、云計算業(yè)務的快速發(fā)展對其后臺的核心支撐技術之一的云存儲技術的要求越來越高。同時,將云存儲作為一種服務對用戶提供數(shù)據(jù)的便捷存取開始成為一種有效的商業(yè)模式。用戶數(shù)據(jù)量的高速增長使得云存儲服務平臺在系統(tǒng)容量及系統(tǒng)系統(tǒng)可靠性等方面面臨著巨大的挑戰(zhàn),因此分布式文件系統(tǒng)成為云存儲服務后端承載平臺的必然選擇。元數(shù)據(jù)管理是分布式文件系統(tǒng)的核心功能之一,對系統(tǒng)的穩(wěn)定性和性能極為重要。由于元數(shù)據(jù)具有高度的相互依賴關系和結構化特征,管理較為復雜,因此元數(shù)據(jù)服

2、務一直是分布式文件系統(tǒng)設計的難點之一。
　　本文為分布式文件系統(tǒng)CSTORE設計并實現(xiàn)了一個高性能元數(shù)據(jù)服務。元數(shù)據(jù)服務由集群承載,使用基于桶的哈希尋址策略將負載分布到集群中的各節(jié)點上,可以通過盡量小的數(shù)據(jù)遷移達到集群的負載均衡,并且具有良好的擴展能力。元數(shù)據(jù)被組織成K/V的形式存儲在數(shù)據(jù)存儲引擎中,通過對存儲引擎和元數(shù)據(jù)記錄的Key進行細致的設計使得相關的元數(shù)據(jù)在磁盤上被連續(xù)存儲,提高了元數(shù)據(jù)的訪問性能。多副本機制的應用使得元數(shù)

3、據(jù)服務的可靠性得以保障。通過設計和實現(xiàn)基于日志的半同步復制協(xié)議,在兼顧服務性能的前提下解決了多副本機制引入的副本間一致性的問題?；诓僮魅罩镜亩鄬嵗讲呗钥梢灾瓮挥脩粼诓煌脚_不同終端上同時訪問系統(tǒng)中的數(shù)據(jù),并且在多個實例之間保持同步。元數(shù)據(jù)服務在設計和實現(xiàn)中對集群中節(jié)點的故障進行了即時檢測,通過實現(xiàn)故障時主從切換策略及副本恢復策略,元數(shù)據(jù)服務可以對外屏蔽系統(tǒng)故障并且實現(xiàn)快速的自動恢復。
　　本文最后通過系統(tǒng)測試對元數(shù)據(jù)服務