面向海量氣象數據的緩存機制與數據庫優(yōu)化研究.pdf

1、隨著社會各領域科學技術的競相發(fā)展，各行各業(yè)的信息量呈現了爆發(fā)式增長。在氣象行業(yè)中，全國直轄市、自治區(qū)、省、特別行政區(qū)以及各大中型主要城市的氣象服務數據和產品的數據量非常可觀，形成了氣象數據來源復雜、格式多樣、數量巨大、形式各異等特點。氣象大數據和氣象服務時效性之間矛盾使得氣象數據的存儲、管理、使用的復雜程度和難度與日俱增;現有氣象數據網絡的異構性和地域分布性使得氣象數據的訪問陷入困境，比如雷達基數據的上傳是每5分鐘一次，但是很多時候5分

2、鐘的間隔并不能滿足數據節(jié)點之間的網絡傳輸時延，數據傳輸和訪問都暴露出了很大的問題。因此，本文以此為切入點，針對上面提到的問題提出合理的數據存儲、數據訪問方案，進而優(yōu)化氣象行業(yè)的服務質量;同時針對訪問過程中的性能問題，將數據庫優(yōu)化技術加入到系統(tǒng)實現。本文具體完成了以下工作:
　　(1)設計了一種基于分布式文件系統(tǒng)的氣象緩存框架MeteCS，在框架中首先研究了現有的數據放置算法并基于一致性的哈希數據放置算法提出了一種節(jié)點負載均衡的哈希

3、數據放置算法MeteHash，充分考慮了分布式系統(tǒng)中異構的節(jié)點網絡可能存在的性能差異。
　　(2)基于Greedy Dual Size Frequency緩存替換算法提出了基于權重的緩存替換算法WGDSF，其中，具體研究了基于時間權重的頻率、基于大小的代價、基于類型的內容參數三個參數，通過對比WGDSF和傳統(tǒng)優(yōu)秀的經典算法在相同實驗設置下的性能表現，在絕大多數情況下性能最優(yōu)，對系統(tǒng)具有很好的性能提升。
　　(3)設計了一種從