ETL在數(shù)據(jù)中心中的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、隨著信息化建設(shè)的開(kāi)展，政府加大投資力度進(jìn)行信息系統(tǒng)建設(shè)，以幫助政府進(jìn)行電子政務(wù)處理和管理工作。這些系統(tǒng)的運(yùn)行，積累了大量的業(yè)務(wù)數(shù)據(jù);但各個(gè)系統(tǒng)的業(yè)務(wù)數(shù)據(jù)分布在各自的系統(tǒng)中（操作系統(tǒng)、數(shù)據(jù)庫(kù)管理系統(tǒng)和數(shù)據(jù)標(biāo)準(zhǔn)都不相同）。這些數(shù)據(jù)之間缺乏對(duì)應(yīng)和轉(zhuǎn)換關(guān)系，協(xié)同能力較差，形成“信息孤島”。信息雖然可以在本系統(tǒng)中進(jìn)行流轉(zhuǎn)，但與其他系統(tǒng)的交互性較差。各自孤立運(yùn)作的系統(tǒng)將會(huì)產(chǎn)生大量的冗余數(shù)據(jù)和造成業(yè)務(wù)人員的重復(fù)勞動(dòng)，而采用傳統(tǒng)點(diǎn)對(duì)點(diǎn)的數(shù)據(jù)交換方式將使

2、得系統(tǒng)的集成費(fèi)用和維護(hù)成本成倍增加。構(gòu)建公共數(shù)據(jù)中心成為當(dāng)務(wù)之急。
　　 ETL(Extraction、Transform and Load，數(shù)據(jù)抽取、轉(zhuǎn)換和裝載)是構(gòu)建公共數(shù)據(jù)中心的關(guān)鍵環(huán)節(jié)。ETL系統(tǒng)將一個(gè)機(jī)構(gòu)的所有的信息資源集成到一個(gè)無(wú)縫的、并列的、易于訪問(wèn)的數(shù)據(jù)資產(chǎn)中;這樣可使一個(gè)功能強(qiáng)大的數(shù)據(jù)資產(chǎn)運(yùn)作起來(lái)就像一個(gè)單一系統(tǒng)。ETL通過(guò)建立底層數(shù)據(jù)交換平臺(tái)來(lái)聯(lián)系整個(gè)部門(mén)機(jī)構(gòu)的異構(gòu)系統(tǒng)、應(yīng)用、數(shù)據(jù)源等。該平臺(tái)用于滿足機(jī)構(gòu)內(nèi)部

3、的業(yè)務(wù)系統(tǒng)、數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)，以及其它重要的內(nèi)部系統(tǒng)之間無(wú)縫地共享和交換數(shù)據(jù)的需要。
　　 本文以本人參與的上海市浦東新區(qū)政府公共數(shù)據(jù)中心信息系統(tǒng)項(xiàng)目為依托。先分析和設(shè)計(jì)公共數(shù)據(jù)中心信息系統(tǒng)，再按照公共數(shù)據(jù)中心的實(shí)際需求，對(duì)公共數(shù)據(jù)中心的ETL工作過(guò)程進(jìn)行設(shè)計(jì)和實(shí)現(xiàn)。首先，鑒于公共數(shù)據(jù)保密性的特點(diǎn)，設(shè)計(jì)了數(shù)據(jù)不同的獲取方式。公共數(shù)據(jù)中心支持在線數(shù)據(jù)采集，也支持?jǐn)?shù)據(jù)從光盤(pán)等介質(zhì)上傳到數(shù)據(jù)中心。其次，在設(shè)置數(shù)據(jù)轉(zhuǎn)換規(guī)則的過(guò)程中結(jié)合相

4、應(yīng)領(lǐng)域知識(shí)，保證數(shù)據(jù)質(zhì)量。再次，前置機(jī)之間實(shí)行負(fù)載均衡，保證數(shù)據(jù)抽取效率，提高系統(tǒng)的可用性和可擴(kuò)展性。最后，將數(shù)據(jù)轉(zhuǎn)換的不同步驟分配到兩臺(tái)ET服務(wù)器來(lái)完成，保證轉(zhuǎn)換效率。
　　 本文主要內(nèi)容如下:
　　 (1)數(shù)據(jù)倉(cāng)庫(kù)技術(shù)基本理論;
　　 (2)公共數(shù)據(jù)中心信息系統(tǒng)總體需求分析;
　　 (3)公共數(shù)據(jù)中心信息系統(tǒng)總體設(shè)計(jì);
　　 (4)公共數(shù)據(jù)中心信息系統(tǒng)ETL的設(shè)計(jì)與實(shí)現(xiàn):ETL過(guò)程設(shè)計(jì)、ETL