基于閃存固態(tài)盤的重復(fù)數(shù)據(jù)刪除技術(shù)的設(shè)計與實(shí)現(xiàn).pdf

1、隨著大數(shù)據(jù)時代的到來，飛速增長的數(shù)據(jù)量給存儲系統(tǒng)帶來了巨大的挑戰(zhàn)。同時，以閃存Flash為代表的新型存儲介質(zhì)迅猛發(fā)展，給存儲系統(tǒng)注入了新的活力。閃存固態(tài)盤SSD有獨(dú)特的性能優(yōu)勢，但是使用壽命限制了其發(fā)展和應(yīng)用。根據(jù)SSD的特性，本文設(shè)計了重復(fù)數(shù)據(jù)刪除系統(tǒng)，將SSD與重復(fù)數(shù)據(jù)刪除技術(shù)結(jié)合，提升SSD的性能和使用壽命。
　　首先，現(xiàn)有的在SSD內(nèi)部實(shí)現(xiàn)重復(fù)數(shù)據(jù)刪除的研究都處于模擬階段，針對這種現(xiàn)狀，本文利用FPGA芯片在SSD的開發(fā)板

2、上實(shí)現(xiàn)了重復(fù)數(shù)據(jù)刪除系統(tǒng)，真實(shí)評估基于SSD的重復(fù)數(shù)據(jù)刪除系統(tǒng)的優(yōu)劣。根據(jù)硬件實(shí)現(xiàn)的特性，本文采用了分組指紋匹配和間接地址映射的策略。對重復(fù)數(shù)據(jù)刪除系統(tǒng)進(jìn)行評估時發(fā)現(xiàn)，傳統(tǒng)重復(fù)數(shù)據(jù)刪除機(jī)制的指紋計算開銷巨大，會成為SSD的性能瓶頸。
　　而后，針對傳統(tǒng)重復(fù)數(shù)據(jù)刪除的性能瓶頸問題，本文提出了一種新型弱指紋重刪機(jī)制NF-Dedupe，通過消除冗余數(shù)據(jù)，既改善了SSD的使用壽命，也提升了性能。這種機(jī)制采用計算開銷小的CRC32函數(shù)，計算

3、寫入的數(shù)據(jù)頁的弱指紋值。通過比較各個數(shù)據(jù)頁的弱指紋值找出可能重復(fù)的數(shù)據(jù)頁。對于寫入的頁，將與之可能重復(fù)的頁從Flash存儲中讀出，通過進(jìn)行字節(jié)級別的直接比較的方式，檢測是否為重復(fù)數(shù)據(jù)，而不是采用傳統(tǒng)的匹配指紋值的方式。通過模擬器來對NF-Dedupe進(jìn)行評估，實(shí)驗(yàn)結(jié)果顯示，NF-Dedupe優(yōu)于現(xiàn)有的其他重刪方法，實(shí)現(xiàn)了5.3％到29.9%的重刪率，消去了數(shù)據(jù)集中的大部分重復(fù)數(shù)據(jù)。同時，SSD的寫延遲最多提升了21%，平均提升了12%。