基于Hadoop的海量氣象數(shù)據(jù)的存儲(chǔ)設(shè)計(jì)與實(shí)現(xiàn).pdf

1、近年來(lái)，氣象災(zāi)害頻繁發(fā)生，嚴(yán)重影響國(guó)家經(jīng)濟(jì)發(fā)展和人民的生命財(cái)產(chǎn)安全。人們對(duì)于氣象預(yù)報(bào)的準(zhǔn)確性和實(shí)時(shí)性提出了更高的要求，因此對(duì)數(shù)值天氣預(yù)報(bào)技術(shù)的要求也越來(lái)越高。數(shù)值天氣預(yù)報(bào)中，數(shù)值模式計(jì)算過(guò)程復(fù)雜，而且模式計(jì)算中生成了大量數(shù)據(jù)，如何管理和存儲(chǔ)海量氣象數(shù)據(jù)是當(dāng)前數(shù)值天氣預(yù)報(bào)的研究?jī)?nèi)容之一。
　　本文根據(jù)浙江Rewise公司氣象數(shù)據(jù)實(shí)例，分析氣象數(shù)據(jù)的特點(diǎn)，設(shè)計(jì)了一種基于Hadoop的海量氣象數(shù)據(jù)存儲(chǔ)方案，分別對(duì)海量氣象數(shù)據(jù)小文件和海量

2、的氣象云圖以及氣象指數(shù)信息采用如下存儲(chǔ)方式:
　　將海量氣象數(shù)據(jù)小文件合并成大文件，存儲(chǔ)到HDFS分布式文件系統(tǒng)中，采用一種基于Trie改進(jìn)樹(shù)的索引方式，按照地區(qū)的不同，獲取氣象數(shù)據(jù)。這種方式既符合HDFS大文件存儲(chǔ)的需求，又能夠提高氣象數(shù)據(jù)的索引效率。
　　對(duì)于海量的氣象云圖，則采用目錄管理的方式存儲(chǔ)到專門(mén)的圖片服務(wù)器，并將云圖的索引信息存儲(chǔ)到HBase分布式數(shù)據(jù)庫(kù)，以提高氣象云圖的索引效率;對(duì)于氣象指數(shù)信息則是按照地區(qū)的