面向DEEPWEB挖掘網(wǎng)絡(luò)爬蟲(chóng)設(shè)計(jì)和實(shí)現(xiàn).pdf

1、隨著Internet上信息量的迅速增長(zhǎng)，搜索引擎已經(jīng)成為人們檢索網(wǎng)上信息的主要手段，是互聯(lián)網(wǎng)上人們獲取信息最重要的方式之一。網(wǎng)絡(luò)爬蟲(chóng)作為搜索引擎中負(fù)責(zé)采集信息的模塊，有重要的作用。
　　由于互聯(lián)網(wǎng)具有信息數(shù)量大、更新和增長(zhǎng)速度快的特點(diǎn)，而且隨著Web的發(fā)展,越來(lái)越多的數(shù)據(jù)可以通過(guò)表單提交來(lái)獲取。這些表單提交所產(chǎn)生信息是由DeepWeb后臺(tái)數(shù)據(jù)庫(kù)動(dòng)態(tài)產(chǎn)生的。在這種情況下,信息集成就更加需要網(wǎng)路爬蟲(chóng)來(lái)自動(dòng)獲取這些頁(yè)面以進(jìn)一步地處理數(shù)據(jù)

2、。因此搜索引擎需要一個(gè)功能強(qiáng)大，工作高效的網(wǎng)絡(luò)爬蟲(chóng)為其采集信息，使其能夠?yàn)橛脩?hù)提供全面、及時(shí)的查詢(xún)結(jié)果。
　　為了滿(mǎn)足以上需要，本文提出一種用于搜集DeepWeb頁(yè)面的網(wǎng)絡(luò)爬蟲(chóng)的設(shè)計(jì)方法。首先，運(yùn)用啟發(fā)式規(guī)則來(lái)篩選目標(biāo)表單并提取標(biāo)簽。其次，對(duì)表單進(jìn)行建模。最后，通過(guò)分析表單模型將屬性的值填入表單控件，完成填充。本文主要研究?jī)?nèi)容如下：
　　(1)分析系統(tǒng)結(jié)構(gòu)中各個(gè)模塊需要完成的任務(wù)，給出各個(gè)模塊的設(shè)計(jì)思想和實(shí)現(xiàn)策略，設(shè)計(jì)并實(shí)現(xiàn)