面向?qū)嵶C方法的互聯(lián)網(wǎng)數(shù)據(jù)提取系統(tǒng)研究.pdf

1、在管理研究，特別是在實(shí)證研究過(guò)程中，研究目標(biāo)相關(guān)數(shù)據(jù)的獲取是一個(gè)相當(dāng)重要的環(huán)節(jié)，它既為研究方向的確立提供基本的現(xiàn)實(shí)信息，供研究者進(jìn)一步地對(duì)研究目標(biāo)進(jìn)行分析，同時(shí)又決定了研究所使用的方法和接下來(lái)的研究流程。因此，研究目標(biāo)相關(guān)數(shù)據(jù)的獲取過(guò)程在管理研究中起著重要作用。
　　目標(biāo)數(shù)據(jù)的獲取一直是困擾研究人員的難題，在傳統(tǒng)的數(shù)據(jù)獲取過(guò)程中，數(shù)據(jù)的來(lái)源相當(dāng)有限，并且獲取的方式具有局限性，對(duì)數(shù)據(jù)進(jìn)行處理，將原始數(shù)據(jù)提取為可用于分析的數(shù)據(jù)也需要耗

2、費(fèi)許多人力支出，使得人力成本較高。在當(dāng)今的大數(shù)據(jù)時(shí)代背景下，互聯(lián)網(wǎng)給當(dāng)今社會(huì)帶來(lái)了極大的便利，并產(chǎn)生了海量的數(shù)據(jù)，這些數(shù)據(jù)給各類機(jī)構(gòu)帶來(lái)價(jià)值的同時(shí)，也給管理研究人員提供了大量的研究對(duì)象，將互聯(lián)網(wǎng)數(shù)據(jù)作為管理研究的數(shù)據(jù)源是理想的選擇。
　　在現(xiàn)階段下，對(duì)互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行提取的方式主要有手工操作、使用網(wǎng)絡(luò)數(shù)據(jù)抓取軟件和編寫(xiě)爬蟲(chóng)軟件三種，這些方式各有優(yōu)缺點(diǎn)。如何高效、準(zhǔn)確、靈活地獲取互聯(lián)網(wǎng)數(shù)據(jù)用作管理研究，是本文的主要研究目標(biāo)。本文的主要

3、研究?jī)?nèi)容是為了達(dá)成這一目標(biāo)而提出一個(gè)互聯(lián)網(wǎng)頁(yè)面數(shù)據(jù)提取框架，以滿足管理研究過(guò)程中對(duì)數(shù)據(jù)爬取的多樣性需求。
　　本文對(duì)數(shù)據(jù)爬取的整個(gè)流程進(jìn)行了深入地分析，對(duì)業(yè)務(wù)邏輯進(jìn)行了詳細(xì)地探討，并查閱了現(xiàn)有的相關(guān)資料，以此為基礎(chǔ)得到了框架各個(gè)模塊的設(shè)計(jì)方案，框架在整體設(shè)計(jì)上可以劃分為五個(gè)具體的模塊。
　　框架使用了插件化管理的方式以滿足多種形式不同的爬取任務(wù)靈活性的要求，并設(shè)計(jì)了相應(yīng)的插件管理策略，在滿足了靈活性需求的同時(shí)，也簡(jiǎn)化了任務(wù)的

4、管理流程。
　　通過(guò)對(duì)數(shù)據(jù)獲取過(guò)程中所涉及的各個(gè)環(huán)節(jié)進(jìn)行明確的邏輯劃分，框架設(shè)計(jì)了相應(yīng)的流程模塊接口，并根據(jù)這些接口進(jìn)一步地開(kāi)發(fā)出了多種幫助研究人員進(jìn)行各個(gè)爬取模塊設(shè)計(jì)的開(kāi)發(fā)庫(kù)與工具。
　　針對(duì)不同形式的網(wǎng)頁(yè)數(shù)據(jù)，框架提供了多種數(shù)據(jù)爬取策略，研究人員可根據(jù)具體的數(shù)據(jù)爬取情景來(lái)選擇相應(yīng)的數(shù)據(jù)爬取策略。
　　由于研究人員在數(shù)據(jù)爬取過(guò)程中具有不同層次的幫助需要，框架為研究人員提供了多層面的服務(wù)，并設(shè)計(jì)了一個(gè)Web平臺(tái)用于簡(jiǎn)化