深度網(wǎng)絡信息爬取關鍵技術研究與實現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)的不斷發(fā)展，網(wǎng)絡中的信息量呈現(xiàn)幾何級的爆炸式增長。我們根據(jù)網(wǎng)絡信息的獲取方式不同可以把互聯(lián)網(wǎng)分為淺層網(wǎng)絡與深度網(wǎng)絡二部分。淺層網(wǎng)絡通過網(wǎng)頁中的超鏈接即可以爬取。深度網(wǎng)絡中的信息隱藏在網(wǎng)頁搜索框背后，用戶必須以向網(wǎng)頁表單提交查詢詞的形式才能獲取信息。
　　 由于深度網(wǎng)絡明顯區(qū)別于淺層網(wǎng)絡的信息獲取方式，使得傳統(tǒng)的基于超鏈接的網(wǎng)絡爬蟲無法爬取并索引深度網(wǎng)絡中的信息。隨著深度網(wǎng)絡中的數(shù)據(jù)規(guī)模及質量不斷提高，獲取其中信息對于搜

2、索引擎來說意義重大。
　　 本文提出一種基于最優(yōu)查詢詞的深度網(wǎng)絡爬蟲。我們的方法解決了現(xiàn)有深度網(wǎng)絡信息爬取中自動化程度低，適用領域窄的問題。本文設計的深度網(wǎng)絡爬取系統(tǒng)包含三個核心算法：深度網(wǎng)絡入口的智能識別方法，通過統(tǒng)計學習大量的表單網(wǎng)頁控件、文本環(huán)境、網(wǎng)站深度特征，實現(xiàn)深度網(wǎng)絡入口智能識別；最優(yōu)查詢種子集生成算法，提出了將含有表單的網(wǎng)頁劃分為表單控件空間與網(wǎng)絡文本空間二個子空間，并在此劃分的基礎上對表單網(wǎng)頁進行聚類，獲得最優(yōu)查