面向主題的網(wǎng)絡(luò)爬行器相關(guān)技術(shù)研究.pdf

1、隨著互連網(wǎng)的迅猛發(fā)展，越來越豐富的信息展現(xiàn)在人們面前，但是面對海量的互聯(lián)網(wǎng)資源，人們感興趣的往往只是某一領(lǐng)域的專門信息。如何從紛繁蕪雜的網(wǎng)絡(luò)信息中快速準(zhǔn)確地找到人們希望的信息，是一個意義巨大的問題。1994年開始出現(xiàn)的基于Web的網(wǎng)絡(luò)爬行器自然而然地成為人們的希望所在，雖然通用網(wǎng)絡(luò)爬行器已經(jīng)給人們提供了極大的便利，但是由于它的綜合性，不具備面向?qū)I(yè)的特點，所以在準(zhǔn)確性和速度等方面存在不足；為了提高信息服務(wù)的質(zhì)量，人們開始研究面向主題的網(wǎng)

2、絡(luò)爬行器。
　　本文主要研究面向主題網(wǎng)絡(luò)爬行器的兩個方面的問題，一是如何充分定義這里的主題，二是如何有效的排序爬行器的待下載鏈接隊列中的鏈接，來使得只需訪問很少的不相關(guān)的頁面，就能夠得到很多的相關(guān)的頁面的鏈接。本文結(jié)合網(wǎng)頁的半結(jié)構(gòu)化信息特征，提出了一種新的基于內(nèi)容的爬行策略，實驗結(jié)果顯示這是一種尋找主題相關(guān)頁面很有效的方法。
　　Blog作為一種新興的互聯(lián)網(wǎng)現(xiàn)象，正在被越來越多的人所關(guān)注，本文把Blog作為一種特殊的“主題”

3、，設(shè)計并實現(xiàn)了一個面向Blog的網(wǎng)絡(luò)爬行器。
　　隨著互聯(lián)網(wǎng)的爆炸性增長，Web已經(jīng)發(fā)展成為站點遍布全球的巨大信息服務(wù)網(wǎng)絡(luò)。就目前互聯(lián)網(wǎng)的規(guī)模來說，單機版的網(wǎng)絡(luò)爬行器已無法在一個有效的時間范圍內(nèi)完成一次搜集整個Web的任務(wù)。分布式網(wǎng)絡(luò)爬行器采用多機并行工作，提高整個系統(tǒng)的工作效率，并具有良好的可擴展性，是必然的發(fā)展趨勢。
　　本文在分布式設(shè)計中，主要考慮了節(jié)點內(nèi)部多個線程的并行和節(jié)點之間的分布式并行。并重點討論了節(jié)點之間的分