基于閃存固態(tài)盤的重復數(shù)據(jù)刪除技術的設計與實現(xiàn).pdf

1、隨著大數(shù)據(jù)時代的到來，飛速增長的數(shù)據(jù)量給存儲系統(tǒng)帶來了巨大的挑戰(zhàn)。同時，以閃存Flash為代表的新型存儲介質(zhì)迅猛發(fā)展，給存儲系統(tǒng)注入了新的活力。閃存固態(tài)盤SSD有獨特的性能優(yōu)勢，但是使用壽命限制了其發(fā)展和應用。根據(jù)SSD的特性，本文設計了重復數(shù)據(jù)刪除系統(tǒng)，將SSD與重復數(shù)據(jù)刪除技術結合，提升SSD的性能和使用壽命。
　　首先，現(xiàn)有的在SSD內(nèi)部實現(xiàn)重復數(shù)據(jù)刪除的研究都處于模擬階段，針對這種現(xiàn)狀，本文利用FPGA芯片在SSD的開發(fā)板

2、上實現(xiàn)了重復數(shù)據(jù)刪除系統(tǒng)，真實評估基于SSD的重復數(shù)據(jù)刪除系統(tǒng)的優(yōu)劣。根據(jù)硬件實現(xiàn)的特性，本文采用了分組指紋匹配和間接地址映射的策略。對重復數(shù)據(jù)刪除系統(tǒng)進行評估時發(fā)現(xiàn)，傳統(tǒng)重復數(shù)據(jù)刪除機制的指紋計算開銷巨大，會成為SSD的性能瓶頸。
　　而后，針對傳統(tǒng)重復數(shù)據(jù)刪除的性能瓶頸問題，本文提出了一種新型弱指紋重刪機制NF-Dedupe，通過消除冗余數(shù)據(jù)，既改善了SSD的使用壽命，也提升了性能。這種機制采用計算開銷小的CRC32函數(shù)，計算

3、寫入的數(shù)據(jù)頁的弱指紋值。通過比較各個數(shù)據(jù)頁的弱指紋值找出可能重復的數(shù)據(jù)頁。對于寫入的頁，將與之可能重復的頁從Flash存儲中讀出，通過進行字節(jié)級別的直接比較的方式，檢測是否為重復數(shù)據(jù)，而不是采用傳統(tǒng)的匹配指紋值的方式。通過模擬器來對NF-Dedupe進行評估，實驗結果顯示，NF-Dedupe優(yōu)于現(xiàn)有的其他重刪方法，實現(xiàn)了5.3％到29.9%的重刪率，消去了數(shù)據(jù)集中的大部分重復數(shù)據(jù)。同時，SSD的寫延遲最多提升了21%，平均提升了12%。