云計(jì)算平臺(tái)在搜索引擎中的關(guān)鍵技術(shù)研究.pdf

1、隨著互聯(lián)網(wǎng)的發(fā)展，新聞、博客、論壇、微博等各種站點(diǎn)不斷涌現(xiàn)，網(wǎng)絡(luò)所承載的數(shù)據(jù)量不斷增長(zhǎng)。使用搜索引擎查找信息已成為一種通用的方式。但隨著數(shù)據(jù)量的不斷增長(zhǎng)，傳統(tǒng)的集中式搜索引擎解決方案已經(jīng)不能有效的提供快速有效的檢索服務(wù)。本文針對(duì)海量數(shù)據(jù)情況下的數(shù)據(jù)環(huán)境，探討了采用云計(jì)算平臺(tái)處理數(shù)據(jù)、創(chuàng)建索引并提供分布式檢索服務(wù)的關(guān)鍵技術(shù)。
　　本文首先指出了使用云計(jì)算平臺(tái)進(jìn)行搜索引擎開(kāi)發(fā)的必要性與可行性，之后對(duì)論文中涉及的Hadoop云計(jì)算平臺(tái)、

2、基于Lucene的搜索引擎、基于Java遠(yuǎn)程方法調(diào)用（Remote Method Invocation，簡(jiǎn)稱 RMI）的分布式系統(tǒng)以及基于Memcached的緩存系統(tǒng)進(jìn)行了討論。在此基礎(chǔ)之上設(shè)計(jì)了一個(gè)由分布式索引模塊、分布式搜索模塊以及緩存模塊構(gòu)成的基于云計(jì)算平臺(tái)的分布式搜索引擎。
　　在分布式索引模塊，數(shù)據(jù)預(yù)處理之后將以SequenceFile的形式存放在HDFS分布式文件系統(tǒng)之上，爾后采用MapReduce分布式數(shù)據(jù)處理模型按

3、照索引分解與分塊策略對(duì)其進(jìn)行分布式索引構(gòu)建。在分布式搜索模塊，基于RMI和Lucene技術(shù)構(gòu)建了一個(gè)“中心節(jié)點(diǎn)—搜索節(jié)點(diǎn)”模式的分布式搜索引擎框架。搜索節(jié)點(diǎn)采用Lucene對(duì)索引進(jìn)行全文檢索；中心節(jié)點(diǎn)負(fù)責(zé)接收用戶的搜索請(qǐng)求并將其分發(fā)至搜索節(jié)點(diǎn)，待搜索節(jié)點(diǎn)完成搜索之后，中心節(jié)點(diǎn)再對(duì)搜索結(jié)果進(jìn)行合并，最后發(fā)送給用戶。為了避免在高并發(fā)條件下的搜索引擎負(fù)載過(guò)高引起的問(wèn)題，本文采用Memcached對(duì)搜索結(jié)果進(jìn)行緩存，有效的降低了搜索引擎的負(fù)荷。