大規(guī)模鍵值分布式存儲(chǔ)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)的不斷發(fā)展，全球網(wǎng)絡(luò)化的不斷普及，海量信息的不斷聚合，數(shù)據(jù)量保持指數(shù)級增長。面對當(dāng)前的海量數(shù)據(jù)，傳統(tǒng)的單機(jī)文件存儲(chǔ)系統(tǒng)并不能提供其所需要的存儲(chǔ)能力和高性能讀、寫需求，同時(shí)，傳統(tǒng)文件系統(tǒng)的擴(kuò)展性不佳也使得當(dāng)數(shù)據(jù)業(yè)務(wù)需求發(fā)生變化時(shí)服務(wù)能力不足。鑒于此，本文中提出了一種新型的分布式鍵值存儲(chǔ)系統(tǒng)的架構(gòu)模型，該模型通過結(jié)合散列算法和一致性哈希算法，不僅解決了已有分布式系統(tǒng)中存在的擴(kuò)展性問題和節(jié)點(diǎn)負(fù)載均衡問題，同時(shí)有效的避免了當(dāng)機(jī)器數(shù)目發(fā)

2、生改變時(shí)，數(shù)據(jù)移動(dòng)代價(jià)過高的問題。本文的主要工作有：
　　第一，介紹了當(dāng)前管理海量數(shù)據(jù)的主要問題，以及本文的研究動(dòng)機(jī)。
　　第二，詳細(xì)分析了已有的分布式存儲(chǔ)系統(tǒng)，包括 NFS系統(tǒng)，HDFS系統(tǒng)，DYNAMO系統(tǒng)等當(dāng)前比較主流的分布式文件存儲(chǔ)系統(tǒng)，這些系統(tǒng)的相關(guān)核心技術(shù)對于本文中設(shè)計(jì)的分布式存儲(chǔ)系統(tǒng)具有良好的借鑒性和參考性。
　　第三，在相關(guān)技術(shù)準(zhǔn)備完成后，本文設(shè)計(jì)了一種新的大規(guī)模鍵值分布式存儲(chǔ)系統(tǒng)的架構(gòu)方式，該系統(tǒng)使用

3、三層的架構(gòu)模式，同時(shí)在三層中都設(shè)計(jì)了良好的災(zāi)備方案，從前端服務(wù)器層，到最底層的數(shù)據(jù)節(jié)點(diǎn)層，都盡可能的在保證高效性的前提下設(shè)計(jì)了良好的災(zāi)備機(jī)制，雖然數(shù)據(jù)備份犧牲了一定的數(shù)據(jù)一致性，但仍可以很好的滿足應(yīng)用需求。
　　第四，完成系統(tǒng)設(shè)計(jì)后，本文中使用python語言對系統(tǒng)進(jìn)行了仿真，將三層架構(gòu)分解為三個(gè)實(shí)現(xiàn)模塊，并將每一個(gè)模塊再次詳細(xì)拆分為不同功能的子模塊，使得整個(gè)系統(tǒng)的耦合性降到最低。
　　第五，為了保證系統(tǒng)的功能完備性和可靠性