版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
1、隨著網(wǎng)絡(luò)的飛速發(fā)展,互聯(lián)網(wǎng)成為大量信息的載體,如何有效地采集并利用這些信息成為一個巨大的挑戰(zhàn)。通用搜索引擎已經(jīng)不能滿足人們對個性化信息檢索服務(wù)日益增長的需要。近年來,面向主題的搜索引擎應(yīng)運而生,以提供分類更細致精確、數(shù)據(jù)更深入、更新更及時的因特網(wǎng)搜索服務(wù)。本文著重研究聚焦網(wǎng)絡(luò)爬蟲中網(wǎng)頁分類和搜索策略相關(guān)算法。 本文首先介紹了垂直搜索引擎中聚焦爬蟲的發(fā)展概況和相關(guān)技術(shù),對聚焦爬蟲關(guān)鍵技術(shù)進行分析和評價,重點介紹了聚焦爬蟲中網(wǎng)頁分類
2、算法和網(wǎng)頁搜索策略,為本文所設(shè)計的聚焦爬蟲IL-Crawler(IncrementalLearningCrawler)提供理論基礎(chǔ)。 對于網(wǎng)頁分類,針對中文分詞和向量空間模型導(dǎo)致計算量大、效率低等問題,本文從增量學(xué)習(xí)的角度出發(fā),提出了一種網(wǎng)頁識別算法。算法通過分析網(wǎng)頁的特征,從HTML標簽、URL字符、文本內(nèi)容等方面獲取網(wǎng)頁特征屬性值,采用機器學(xué)習(xí)算法建立決策樹模型,從而避免中文網(wǎng)頁處理中的中文分詞問題。當算法的識別精度低于預(yù)設(shè)
3、閥值時,在原有網(wǎng)頁特征中加入誤判網(wǎng)頁特征,從而更新決策樹模型以提高模型識別精度。本文以博客網(wǎng)頁作為實驗對象,結(jié)果表明,所提出的算法具有較高的網(wǎng)頁識別精度,能夠有效識別主題網(wǎng)頁。 對于網(wǎng)頁搜索策略,針對Web的動態(tài)性、異構(gòu)性和復(fù)雜性而要求高效搜索策略的問題,本文在分析傳統(tǒng)基于重要度優(yōu)先的搜索策略和基于相關(guān)度優(yōu)先的搜索策略基礎(chǔ)上,提出了一種基于多元信息加權(quán)協(xié)調(diào)的搜索策略。由于網(wǎng)頁的多樣化和靈活性,在有限時間和硬件資源約束下,采集最大
4、量的主題相關(guān)且重要的網(wǎng)頁,成為聚焦爬蟲最核心的技術(shù)之一。本文在上述網(wǎng)頁分類算法的基礎(chǔ)上,利用網(wǎng)頁相關(guān)度預(yù)測值與網(wǎng)頁重要度預(yù)測值進行加權(quán)平均,提出了一種主題相關(guān)度優(yōu)先兼顧網(wǎng)頁重要度的網(wǎng)頁搜索策略。實驗結(jié)果表明,相對于單獨利用重要度或相關(guān)度優(yōu)先的搜索策略,多元信息加權(quán)協(xié)調(diào)的搜索策略具有更好的收獲率。 鑒于以上工作,本文最后基于.NET技術(shù),設(shè)計并實現(xiàn)了面向博客領(lǐng)域的聚焦爬蟲IL-Crawler,該爬蟲具備分布式數(shù)據(jù)采集和增量學(xué)習(xí)能力
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 面向教育輿情的主題網(wǎng)絡(luò)爬蟲設(shè)計與實現(xiàn).pdf
- 面向博客的主題爬蟲設(shè)計與實現(xiàn).pdf
- 面向微博的主題爬蟲設(shè)計與實現(xiàn).pdf
- 面向教育新聞的主題爬蟲設(shè)計與實現(xiàn).pdf
- 面向醫(yī)療主題的智能網(wǎng)絡(luò)爬蟲的研究與實現(xiàn).pdf
- 面向Web挖掘的主題網(wǎng)絡(luò)爬蟲的研究與實現(xiàn).pdf
- 面向農(nóng)業(yè)主題的爬蟲系統(tǒng)設(shè)計與實現(xiàn).pdf
- 主題網(wǎng)絡(luò)爬蟲的研究與實現(xiàn).pdf
- 面向主題的輿情采集搜索爬蟲的設(shè)計與實現(xiàn).pdf
- 分布式主題網(wǎng)絡(luò)爬蟲的設(shè)計與實現(xiàn).pdf
- 主題網(wǎng)絡(luò)爬蟲的設(shè)計與實現(xiàn)---畢業(yè)論文
- 面向動態(tài)頁面的網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 面向eMule的主動式網(wǎng)絡(luò)爬蟲系統(tǒng)設(shè)計與實現(xiàn).pdf
- 主題網(wǎng)絡(luò)爬蟲的研究與設(shè)計.pdf
- 基于BP網(wǎng)絡(luò)的高校主題爬蟲的設(shè)計與實現(xiàn).pdf
- 面向微博的網(wǎng)絡(luò)爬蟲研究與實現(xiàn).pdf
- 面向IT的分布式主題爬蟲的設(shè)計及實現(xiàn).pdf
- 面向輿情監(jiān)測的主題爬蟲設(shè)計與分析.pdf
- 主題網(wǎng)絡(luò)爬蟲的研究和實現(xiàn).pdf
- 面向DEEPWEB挖掘網(wǎng)絡(luò)爬蟲設(shè)計和實現(xiàn).pdf
評論
0/150
提交評論