合作網站數據資源接入系統(tǒng)的設計與實現.pdf

1、隨著互聯網技術的不斷發(fā)展和應用的不斷創(chuàng)新，電商逐漸向傳統(tǒng)領域滲透，各種生活服務類網站蓬勃發(fā)展，使得互聯網領域的數據量呈爆炸式增長，搜索頻道在數據支持方面提出了更高的要求。數據采集是數據支持的核心因素，原有的數據采集途徑存在手工化嚴重、數據采集范圍小、采集效率低等不足。為了解決原有數據采集途徑的不足，本文基于合作網站的數據資源特點設計實現了合作網站數據資源接入系統(tǒng)。系統(tǒng)允許用戶根據合作網站的數據資源特點靈活配置自動化的數據資源接入方案，從

2、而有效的擴展數據采集途徑，提高數據支持能力。
　　論文首先闡述了項目的背景和意義，然后分析了系統(tǒng)開發(fā)過程中涉及的關鍵技術，并對一些類似技術進行了對比分析。然后分析了系統(tǒng)的邏輯結構、系統(tǒng)的功能性需求和非功能性需求。根據需求分析，論文闡述了系統(tǒng)的架構設計、功能模塊劃分和系統(tǒng)的詳細設計與實現，合理的解決了系統(tǒng)開發(fā)過程中遇到的關鍵問題。其中本人獨立完成了如下工作內容:服務器端的信息管理模塊、資源接入申請?zhí)幚砟K、調度中心模塊的開發(fā)工作;本

3、人參與完成了如下工作內容:服務器端的模板管理模塊、資源文件解析模塊和運營端的開發(fā)工作。系統(tǒng)開發(fā)過程中，為了提高系統(tǒng)的可擴展性和穩(wěn)定性，使系統(tǒng)的各層之間高內聚低耦合，系統(tǒng)采用了B/S架構和Spring MVC框架。為了提高系統(tǒng)的數據處理能力，系統(tǒng)采用多臺服務器協同工作對數據進行處理?？紤]到多臺服務器協同處理數據的同步問題，本人利用Redis技術設計了分布式鎖以保證數據處理的同步。調度中心模塊的開發(fā)過程中，為了保證任務調度的合理性和效率，系

4、統(tǒng)使用了分布式緩存和多線程技術。資源文件解析模塊開發(fā)過程中，為了下載需要Ajax加載文件內容的資源文件，系統(tǒng)引入了HtmlUnit技術。為了解析HTML和XML格式的資源文件的內容，系統(tǒng)使用了Jsoup和SAX技術。最后，為了驗證系統(tǒng)的功能是否符合需求，本人使用黑盒測試技術對系統(tǒng)進行了功能性測試。
　　目前系統(tǒng)處于測試運行階段。部署于測試環(huán)境中的系統(tǒng)運行良好，本人完成的模塊功能完善、運行穩(wěn)定、符合預期目標。系統(tǒng)將在測試運行過程中不