垂直搜索引擎Spider技術(shù)的研究和應(yīng)用.pdf

1、互聯(lián)網(wǎng)中的資源極其豐富，但是如何有效的獲取卻是一件困難的事情。搜索引擎是解決這個(gè)問題的最好方法。隨著搜索技術(shù)的發(fā)展，現(xiàn)在垂直搜索引擎已經(jīng)闖進(jìn)人們的視線。對(duì)垂直搜索技術(shù)的研究旨在為人們提供更有力的信息獲取工具，以應(yīng)對(duì)信息爆炸帶來的嚴(yán)重挑戰(zhàn)。與通用搜索不同，垂直搜索能夠提供更加直觀更加精確的結(jié)果，滿足了相當(dāng)一部分用戶的需求，極大的推動(dòng)了搜索引擎市場(chǎng)的細(xì)分和發(fā)展。 本文首先回顧了垂直搜索引擎研究的歷史，接著詳細(xì)介紹和分析了Spider

2、的系統(tǒng)構(gòu)架和技術(shù)性能，深入研究探討了當(dāng)前的主流Spider關(guān)鍵技術(shù)，包括Web信息抽取，分裝器生成，網(wǎng)頁排序，歸納學(xué)習(xí)等，并對(duì)當(dāng)前具有代表性的搜索引擎爬蟲進(jìn)行了較詳細(xì)的對(duì)比分析。 在此基礎(chǔ)上，以作者參與的中國電信集團(tuán)大型垂直搜索引擎系統(tǒng)開發(fā)項(xiàng)目為背景，本文提出了一個(gè)垂直搜索引擎爬蟲的設(shè)計(jì)構(gòu)架模型，詳細(xì)講述了實(shí)現(xiàn)這個(gè)模型的各個(gè)步驟和技術(shù)細(xì)節(jié)，包括從最開始的HTML解析、Web頁面處理到關(guān)鍵性的模式匹配模板、結(jié)構(gòu)化信息抽取以及多線程

3、運(yùn)行等的設(shè)計(jì)思路和實(shí)現(xiàn)方法。由此模型構(gòu)架的系統(tǒng)相對(duì)于其它成熟系統(tǒng)的優(yōu)勢(shì)在適用面廣，并不局限于單一領(lǐng)域；極具人性化的頁面采集向?qū)?；信息抓取?zhǔn)確率高；應(yīng)用可靠性高。此模型的最大創(chuàng)新之處在于構(gòu)建了一種新的數(shù)據(jù)采集模式——特征自學(xué)習(xí)模式，該模式結(jié)合了手工模板和自動(dòng)語義分析模式兩方面的特點(diǎn)，有效解決了準(zhǔn)確性與效率的矛盾。接著論文介紹了如何成功的將以上大部分設(shè)計(jì)理念和方法應(yīng)用到了號(hào)碼百事通商業(yè)搜索引擎項(xiàng)目中，并且通過了商業(yè)應(yīng)用級(jí)的功能和性能測(cè)試，取