基于時(shí)態(tài)關(guān)鍵字的倒排索引技術(shù)問題研究與應(yīng)用.pdf

1、隨著互聯(lián)網(wǎng)服務(wù)和信息處理技術(shù)的迅速發(fā)展，互聯(lián)網(wǎng)中的數(shù)據(jù)呈現(xiàn)爆炸性增長，在這些數(shù)據(jù)中，具有時(shí)間敏感性的非結(jié)構(gòu)化數(shù)據(jù)時(shí)態(tài)數(shù)據(jù)占了很大一部分。決策者如何在海量的非結(jié)構(gòu)化時(shí)態(tài)數(shù)據(jù)中檢索自己所需要的數(shù)據(jù)，是目前值得研究的一個(gè)問題。一次索引，多次使用。對(duì)時(shí)態(tài)數(shù)據(jù)建立索引，加快數(shù)據(jù)的檢索速度，既能提高系統(tǒng)性能，又能夠節(jié)約用戶查詢的時(shí)間。
　　針對(duì)上面提到的問題，本文通過對(duì)比分析空間數(shù)據(jù)與時(shí)態(tài)信息數(shù)據(jù)的特點(diǎn)，借鑒空間數(shù)據(jù)構(gòu)建索引的方法，結(jié)合時(shí)態(tài)信

2、息在時(shí)間維度上的區(qū)間特性，提出了多層網(wǎng)格劃分和金字塔樹的混合索引方法，并將此方法應(yīng)用到倒排索引的時(shí)態(tài)詞詞典中。首先通過相關(guān)語義處理，對(duì)時(shí)態(tài)信息中的時(shí)間信息進(jìn)行提取，然后對(duì)提取的時(shí)間信息進(jìn)行空間映射后得到點(diǎn)數(shù)據(jù)集。然后對(duì)映射后的點(diǎn)進(jìn)行格網(wǎng)劃分處理，將映射后的按照規(guī)則分別投入對(duì)應(yīng)的網(wǎng)格塊中，若單個(gè)網(wǎng)格內(nèi)的數(shù)據(jù)超過一定的閥值，將該網(wǎng)格按照四分法的思想繼續(xù)劃分，直到映射后的時(shí)間集合中的所有數(shù)據(jù)都落入到對(duì)應(yīng)的網(wǎng)格塊中，最后對(duì)每一層網(wǎng)格構(gòu)建金字塔樹

3、索引。為了進(jìn)一步加快時(shí)態(tài)數(shù)據(jù)的檢索速度，對(duì)數(shù)據(jù)進(jìn)行分詞，構(gòu)建倒排索引。其中將詞典按單詞屬性分為時(shí)態(tài)詞詞典與非時(shí)態(tài)詞詞典，根據(jù)本文提出的混合索引模型去對(duì)時(shí)態(tài)詞詞典的索引。并且增加倒排索引文件的緩存機(jī)制，從而減少在對(duì)時(shí)態(tài)數(shù)據(jù)進(jìn)行檢索的過程中磁盤的 I/O次數(shù)，利用分布式存儲(chǔ)技術(shù)實(shí)現(xiàn)對(duì)索引文件和數(shù)據(jù)的分布式存儲(chǔ)，減少了單一主機(jī)對(duì)數(shù)據(jù)存儲(chǔ)和檢索的壓力，提高對(duì)時(shí)態(tài)數(shù)據(jù)的檢索的效率。
　　最后根據(jù)本文提出的設(shè)計(jì)方案，搭建 Hadoop集群環(huán)境