基于時態(tài)關(guān)鍵字的倒排索引技術(shù)問題研究與應(yīng)用.pdf

1、隨著互聯(lián)網(wǎng)服務(wù)和信息處理技術(shù)的迅速發(fā)展，互聯(lián)網(wǎng)中的數(shù)據(jù)呈現(xiàn)爆炸性增長，在這些數(shù)據(jù)中，具有時間敏感性的非結(jié)構(gòu)化數(shù)據(jù)時態(tài)數(shù)據(jù)占了很大一部分。決策者如何在海量的非結(jié)構(gòu)化時態(tài)數(shù)據(jù)中檢索自己所需要的數(shù)據(jù)，是目前值得研究的一個問題。一次索引，多次使用。對時態(tài)數(shù)據(jù)建立索引，加快數(shù)據(jù)的檢索速度，既能提高系統(tǒng)性能，又能夠節(jié)約用戶查詢的時間。
　　針對上面提到的問題，本文通過對比分析空間數(shù)據(jù)與時態(tài)信息數(shù)據(jù)的特點，借鑒空間數(shù)據(jù)構(gòu)建索引的方法，結(jié)合時態(tài)信

2、息在時間維度上的區(qū)間特性，提出了多層網(wǎng)格劃分和金字塔樹的混合索引方法，并將此方法應(yīng)用到倒排索引的時態(tài)詞詞典中。首先通過相關(guān)語義處理，對時態(tài)信息中的時間信息進行提取，然后對提取的時間信息進行空間映射后得到點數(shù)據(jù)集。然后對映射后的點進行格網(wǎng)劃分處理，將映射后的按照規(guī)則分別投入對應(yīng)的網(wǎng)格塊中，若單個網(wǎng)格內(nèi)的數(shù)據(jù)超過一定的閥值，將該網(wǎng)格按照四分法的思想繼續(xù)劃分，直到映射后的時間集合中的所有數(shù)據(jù)都落入到對應(yīng)的網(wǎng)格塊中，最后對每一層網(wǎng)格構(gòu)建金字塔樹

3、索引。為了進一步加快時態(tài)數(shù)據(jù)的檢索速度，對數(shù)據(jù)進行分詞，構(gòu)建倒排索引。其中將詞典按單詞屬性分為時態(tài)詞詞典與非時態(tài)詞詞典，根據(jù)本文提出的混合索引模型去對時態(tài)詞詞典的索引。并且增加倒排索引文件的緩存機制，從而減少在對時態(tài)數(shù)據(jù)進行檢索的過程中磁盤的 I/O次數(shù)，利用分布式存儲技術(shù)實現(xiàn)對索引文件和數(shù)據(jù)的分布式存儲，減少了單一主機對數(shù)據(jù)存儲和檢索的壓力，提高對時態(tài)數(shù)據(jù)的檢索的效率。
　　最后根據(jù)本文提出的設(shè)計方案，搭建 Hadoop集群環(huán)境