基于SSD的海量URL數(shù)據(jù)多級存儲方法研究.pdf

1、全球信息化的程度越來越高且越來越快,每天產(chǎn)生的數(shù)據(jù)量已經(jīng)難以估計(jì),BigData的研究主題成為了國家戰(zhàn)略重點(diǎn)之一,未來是一個數(shù)據(jù)的時代。本課題主要關(guān)注互聯(lián)網(wǎng)數(shù)據(jù),為特定場景下的特定應(yīng)用量體裁衣,設(shè)計(jì)訂制的存儲系統(tǒng),通過摒棄傳統(tǒng)數(shù)據(jù)庫系統(tǒng)的冗余特性,使得關(guān)鍵性能部分有更多的資源投入。
　　本課題的題目是基于SSD的海量URL數(shù)據(jù)多級存儲方法研究,研究的根本目的在于為在生命周期中涉及到URL數(shù)據(jù)的應(yīng)用程序提供一個高性能的、支持良好的海

2、量數(shù)據(jù)規(guī)模管理的數(shù)據(jù)存儲方法和系統(tǒng),具體的常見應(yīng)用場景有網(wǎng)絡(luò)爬蟲,網(wǎng)頁排序算法研究等等。為了設(shè)計(jì)一個可行的高效URL數(shù)據(jù)存儲系統(tǒng),同時考慮到現(xiàn)代硬件,尤其是存儲設(shè)備的工藝進(jìn)步,本課題選擇使用固態(tài)硬盤作為信息存儲載體,利用硬件特性的優(yōu)勢,同時結(jié)合為其設(shè)計(jì)合適的索引方法,本文先圍繞三個基本問題做了工作,它們分別是:
　　(1)調(diào)研分析固態(tài)硬盤的數(shù)據(jù)訪問特性,總結(jié)現(xiàn)有的針對固態(tài)硬盤的改進(jìn)方法的一般思路和方法,為存儲系統(tǒng)的設(shè)計(jì)奠定了基礎(chǔ),

3、明確了存儲過程中各算法的改進(jìn)方向;
　　(2)對URL數(shù)據(jù)的活動場景以及URL數(shù)據(jù)的數(shù)據(jù)特點(diǎn)進(jìn)行統(tǒng)計(jì)分析,對URL存儲方法的所需的性能側(cè)重點(diǎn)有直觀的了解,確定了域名和路徑分開存儲的物理存儲方案,提出了基于概率的自適應(yīng)緩存替換策略;
　　(3)分析當(dāng)前海量存儲技術(shù),尤其是非關(guān)系索引技術(shù)的優(yōu)缺點(diǎn),同時考慮固態(tài)硬盤的特性之后,有選擇性的對COLA索引技術(shù)進(jìn)行分析,最終確定了COLA索引作為固態(tài)硬盤索引的可行性。
　　最后結(jié)合