2023年全國碩士研究生考試考研英語一試題真題(含答案詳解+作文范文)_第1頁
已閱讀1頁,還剩67頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認(rèn)領(lǐng)

文檔簡介

1、Web信息的急速增長給信息的提取和有效使用帶來了巨大挑戰(zhàn),特別是對于眾多的企業(yè)用戶,如何從大量的網(wǎng)站頁面中把需要的有用信息提取出來是它們迫切需要解決的問題。本課題是針對這些企業(yè)用戶開發(fā)的基于多用戶的Web信息采集系統(tǒng),它實現(xiàn)了可視化的采集規(guī)則設(shè)置界面,并以C/S方式把用戶的采集任務(wù)放在遠程服務(wù)器上運行,從而減輕了用戶在采集規(guī)則設(shè)置和采集任務(wù)維護方面的負擔(dān)。
  本課題系統(tǒng)包括客戶端和服務(wù)器端兩部分組成,服務(wù)器端包括采集服務(wù)器和中心

2、服務(wù)器。用戶通過客戶端進行采集項目設(shè)置并把采集項目上傳至中心服務(wù)器,中心服務(wù)器把采集任務(wù)分配給采集服務(wù)器進行信息采集,采集服務(wù)器在采集完成后把采集結(jié)果通過Email、Ftp等方式發(fā)送給用戶。
  本課題系統(tǒng)構(gòu)架采用C/S結(jié)構(gòu)和B/S結(jié)構(gòu)相結(jié)合的方式,主要使用Python程序語言開發(fā),在客戶端使用Javascript和DOM技術(shù)實現(xiàn)了采集項目設(shè)置的可視化,使用XML-RPC協(xié)議同服務(wù)器進行通信。在采集服務(wù)器端使用Htm15lib對頁

3、面進行清理,以XPATH的方式對頁面信息進行采集、提取,實現(xiàn)了對各類頁面(包括一些非標(biāo)準(zhǔn)和HTML5頁面)的頁面清理、信息提取功能。在中心服務(wù)器端使用數(shù)據(jù)庫結(jié)合多進程的方式完成采集任務(wù)的分發(fā)和控制,并利用Django框架完成了一個Web界面的后臺管理模塊為管理員提供用戶賬號、采集任務(wù)的管理功能。同時在服務(wù)器端配置了Cacti對服務(wù)器系統(tǒng)狀態(tài)進行監(jiān)控,以確保系統(tǒng)的穩(wěn)定性和可靠性。
  本課題系統(tǒng)采集規(guī)則設(shè)置完全可視化,不需要編寫腳本

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論