基于Hadoop的海量氣象數(shù)據(jù)的存儲設(shè)計與實現(xiàn).pdf

1、近年來，氣象災(zāi)害頻繁發(fā)生，嚴重影響國家經(jīng)濟發(fā)展和人民的生命財產(chǎn)安全。人們對于氣象預報的準確性和實時性提出了更高的要求，因此對數(shù)值天氣預報技術(shù)的要求也越來越高。數(shù)值天氣預報中，數(shù)值模式計算過程復雜，而且模式計算中生成了大量數(shù)據(jù)，如何管理和存儲海量氣象數(shù)據(jù)是當前數(shù)值天氣預報的研究內(nèi)容之一。
　　本文根據(jù)浙江Rewise公司氣象數(shù)據(jù)實例，分析氣象數(shù)據(jù)的特點，設(shè)計了一種基于Hadoop的海量氣象數(shù)據(jù)存儲方案，分別對海量氣象數(shù)據(jù)小文件和海量

2、的氣象云圖以及氣象指數(shù)信息采用如下存儲方式:
　　將海量氣象數(shù)據(jù)小文件合并成大文件，存儲到HDFS分布式文件系統(tǒng)中，采用一種基于Trie改進樹的索引方式，按照地區(qū)的不同，獲取氣象數(shù)據(jù)。這種方式既符合HDFS大文件存儲的需求，又能夠提高氣象數(shù)據(jù)的索引效率。
　　對于海量的氣象云圖，則采用目錄管理的方式存儲到專門的圖片服務(wù)器，并將云圖的索引信息存儲到HBase分布式數(shù)據(jù)庫，以提高氣象云圖的索引效率;對于氣象指數(shù)信息則是按照地區(qū)的