基于Hadoop的海量氣象數(shù)據(jù)的存儲設計與實現(xiàn).pdf

1、近年來，氣象災害頻繁發(fā)生，嚴重影響國家經濟發(fā)展和人民的生命財產安全。人們對于氣象預報的準確性和實時性提出了更高的要求，因此對數(shù)值天氣預報技術的要求也越來越高。數(shù)值天氣預報中，數(shù)值模式計算過程復雜，而且模式計算中生成了大量數(shù)據(jù)，如何管理和存儲海量氣象數(shù)據(jù)是當前數(shù)值天氣預報的研究內容之一。
　　本文根據(jù)浙江Rewise公司氣象數(shù)據(jù)實例，分析氣象數(shù)據(jù)的特點，設計了一種基于Hadoop的海量氣象數(shù)據(jù)存儲方案，分別對海量氣象數(shù)據(jù)小文件和海量

2、的氣象云圖以及氣象指數(shù)信息采用如下存儲方式:
　　將海量氣象數(shù)據(jù)小文件合并成大文件，存儲到HDFS分布式文件系統(tǒng)中，采用一種基于Trie改進樹的索引方式，按照地區(qū)的不同，獲取氣象數(shù)據(jù)。這種方式既符合HDFS大文件存儲的需求，又能夠提高氣象數(shù)據(jù)的索引效率。
　　對于海量的氣象云圖，則采用目錄管理的方式存儲到專門的圖片服務器，并將云圖的索引信息存儲到HBase分布式數(shù)據(jù)庫，以提高氣象云圖的索引效率;對于氣象指數(shù)信息則是按照地區(qū)的