軟件工程技術(shù)研究開(kāi)發(fā)中心云計(jì)算平臺(tái)方案建議書(shū)合集

1831項(xiàng)目方案建議書(shū)1/631831項(xiàng)目云平臺(tái)技術(shù)方案建議書(shū)目錄1 系統(tǒng)總體概述 31.1 系統(tǒng)基本功能 31.2 系統(tǒng)建設(shè)的主要設(shè)計(jì)思想和設(shè)計(jì)目標(biāo)、設(shè)計(jì)原則 41.3 系統(tǒng)的主要技術(shù)特點(diǎn) 51.4 系統(tǒng)總體構(gòu)架 51.5 cStor云存儲(chǔ)系統(tǒng)簡(jiǎn)介 61.6 cProc云處理平臺(tái)簡(jiǎn)介 91.7 系統(tǒng)設(shè)計(jì)性能 111.7.1 數(shù)據(jù)流量處理能力 111.7.2 數(shù)據(jù)存儲(chǔ)讀取能力 111.8 系統(tǒng)功能 142 系統(tǒng)設(shè)計(jì)實(shí)施與關(guān)鍵技術(shù)方法 152.1 cStor云存儲(chǔ)系統(tǒng) 152.1.1 技術(shù)架構(gòu) 152.1.2 工作原理 172.1.3 管理機(jī)制 192.1.4 關(guān)鍵技術(shù) 192.2 cProc云處理平臺(tái) 222.2.1 數(shù)據(jù)立方(DataCube) 222.2.2 任務(wù)監(jiān)控器（JobKeeper） 242.2.3 cProc數(shù)據(jù)處理 272.2.4 Zookeeper可靠性 292.3 八大環(huán)境監(jiān)控子系統(tǒng) 312.3.1 飲用水水源地監(jiān)控系統(tǒng) 312.3.2 流域水環(huán)境監(jiān)控系統(tǒng) 332.3.3 空氣環(huán)境監(jiān)控系統(tǒng) 342.3.4 輻射環(huán)境監(jiān)控系統(tǒng) 352.3.5 重點(diǎn)污染源監(jiān)控系統(tǒng) 362.3.6 機(jī)動(dòng)車監(jiān)控系統(tǒng) 372.3.7 危險(xiǎn)廢物監(jiān)控系統(tǒng) 382.3.8 風(fēng)險(xiǎn)源監(jiān)控系統(tǒng) 392.4 平臺(tái)安全 432.4.1 云處理平臺(tái)信任保護(hù) 432.4.2 基于多級(jí)信任保護(hù)的訪問(wèn)控制 472.4.3 云處理平臺(tái)安全審計(jì) 502.4.4 云處理平臺(tái)安全網(wǎng)關(guān) 533 項(xiàng)目管理和實(shí)施 563.1 項(xiàng)目開(kāi)發(fā)周期 563.2 項(xiàng)目實(shí)施 573.3 客戶受益 57

系統(tǒng)總體概述系統(tǒng)基本功能“1831”生態(tài)環(huán)境監(jiān)控系統(tǒng)建設(shè)工程，是建設(shè)一個(gè)全省聯(lián)網(wǎng)資源共享的生態(tài)環(huán)境自動(dòng)監(jiān)控平臺(tái)，實(shí)現(xiàn)對(duì)全省生態(tài)環(huán)境的現(xiàn)代化監(jiān)管，系統(tǒng)于生態(tài)省建設(shè)，為管理和決策提供參考和依據(jù)。系統(tǒng)集飲用水水源地監(jiān)控、流域水環(huán)境監(jiān)控、空氣環(huán)境監(jiān)控、輻射環(huán)境監(jiān)控、重點(diǎn)qq污染源監(jiān)控、機(jī)動(dòng)車監(jiān)控、危險(xiǎn)廢物監(jiān)控、風(fēng)險(xiǎn)源監(jiān)控八大子系統(tǒng)于一體，在省、市、縣組建三級(jí)環(huán)境監(jiān)控中心，通過(guò)一套環(huán)境監(jiān)控管理辦法，達(dá)到自動(dòng)監(jiān)控、科學(xué)管理、合理決策的生態(tài)建設(shè)目標(biāo)。系統(tǒng)的各子系統(tǒng)基本功能和組成如下：飲用水水源地監(jiān)控系統(tǒng)能夠?qū)κ?nèi)111個(gè)集中式飲水水源地水質(zhì)進(jìn)能監(jiān)測(cè)、匯報(bào)等。流域水環(huán)境監(jiān)控系統(tǒng)能夠?qū)θ?52個(gè)河流水質(zhì)進(jìn)行實(shí)時(shí)監(jiān)測(cè)，預(yù)警和保護(hù)?？諝猸h(huán)境監(jiān)控系統(tǒng)能夠?qū)崟r(shí)檢測(cè)分析全省環(huán)境空氣質(zhì)量，確定空氣污染程度。輻射環(huán)境監(jiān)控系統(tǒng)能夠?qū)θ?29個(gè)放射源輻射環(huán)境進(jìn)行實(shí)時(shí)監(jiān)控、實(shí)時(shí)查詢分析。重點(diǎn)污染源監(jiān)控系統(tǒng)能夠?qū)崟r(shí)監(jiān)測(cè)全省集中式污水處理廠和污水處理情況和燃煤電廠的鼓風(fēng)機(jī)電量。機(jī)動(dòng)車監(jiān)控系統(tǒng)能夠?qū)崟r(shí)監(jiān)控全省分析機(jī)動(dòng)車尾氣的污染情況。危險(xiǎn)廢物監(jiān)控系統(tǒng)能夠監(jiān)控危險(xiǎn)廢物的情況，以及對(duì)廢物管理部門采集的數(shù)據(jù)進(jìn)行實(shí)時(shí)分析。風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)能夠監(jiān)控全省環(huán)境風(fēng)險(xiǎn)源，并對(duì)風(fēng)險(xiǎn)源進(jìn)行分析。系統(tǒng)建設(shè)的主要設(shè)計(jì)思想和設(shè)計(jì)目標(biāo)、設(shè)計(jì)原則設(shè)計(jì)思想：自動(dòng)監(jiān)測(cè)設(shè)備將采集到的實(shí)時(shí)監(jiān)測(cè)數(shù)據(jù)上報(bào)到省云存儲(chǔ)系統(tǒng)存儲(chǔ)。八大監(jiān)控子系統(tǒng)操作平臺(tái)向省云處理平臺(tái)發(fā)出查詢請(qǐng)求，云處理平臺(tái)通過(guò)并行計(jì)算高效快速的從云存儲(chǔ)系統(tǒng)查詢數(shù)據(jù)并分析匯總，向各監(jiān)控子系統(tǒng)提供查詢的數(shù)據(jù)。設(shè)計(jì)目標(biāo)：采用云計(jì)算、物聯(lián)網(wǎng)和信息網(wǎng)格技術(shù)，對(duì)在用的業(yè)務(wù)系統(tǒng)進(jìn)行分析，確定那些信息需要從原系統(tǒng)中抽取出來(lái)進(jìn)行集成，然后建立一個(gè)基于云存儲(chǔ)的、可擴(kuò)展，具有統(tǒng)一規(guī)范數(shù)據(jù)格式的中心數(shù)據(jù)庫(kù)，將各業(yè)務(wù)系統(tǒng)核心數(shù)據(jù)抽取到中心數(shù)據(jù)庫(kù)進(jìn)行數(shù)據(jù)集成；利用云計(jì)算平臺(tái)的強(qiáng)大處理能力進(jìn)行數(shù)據(jù)的處理和挖掘；最后，在中心數(shù)據(jù)庫(kù)上開(kāi)發(fā)建立包括企業(yè)信息全壽命管理（即從企業(yè)登記開(kāi)始到企業(yè)注銷的全程信息管理）、數(shù)據(jù)精確分析、處置決策、趨勢(shì)分析等在內(nèi)的應(yīng)用，并為其它系統(tǒng)預(yù)留數(shù)據(jù)調(diào)用接口，最終建成一個(gè)涵蓋在用系統(tǒng)數(shù)據(jù)，支持全局信息管理分析與應(yīng)用的監(jiān)控系統(tǒng)。設(shè)計(jì)原則：（1）技術(shù)領(lǐng)先，性能優(yōu)異系統(tǒng)將采用國(guó)際先進(jìn)的云存儲(chǔ)和云計(jì)算技術(shù)，并在此基礎(chǔ)上提供高效的查詢和分析處理。（2）數(shù)據(jù)安全可靠系統(tǒng)將采用多種容錯(cuò)技術(shù)保證存儲(chǔ)的數(shù)據(jù)安全和故障的自動(dòng)恢復(fù)。系統(tǒng)的主要技術(shù)特點(diǎn)實(shí)時(shí)性：平臺(tái)在高效率并行分布式軟件的支撐下，可以實(shí)時(shí)完成數(shù)據(jù)入庫(kù)、分析和管理工作。海量數(shù)據(jù)入庫(kù)不會(huì)出現(xiàn)數(shù)據(jù)堆積現(xiàn)象，各類分析和查詢工作基本都在秒級(jí)完成，具有前所未有的高效性。高可靠性：基于對(duì)云計(jì)算可靠性深厚的研究積累，徹底解決了當(dāng)前分布式計(jì)算平臺(tái)易出現(xiàn)的單點(diǎn)故障問(wèn)題。任何一個(gè)節(jié)點(diǎn)出現(xiàn)故障，系統(tǒng)將自動(dòng)屏蔽，而且不會(huì)出現(xiàn)丟失數(shù)據(jù)的現(xiàn)象?？缮炜s性：在不停機(jī)的情況下，增加節(jié)點(diǎn)，平臺(tái)的處理能力自動(dòng)增加；減少節(jié)點(diǎn)，平臺(tái)的處理能力自動(dòng)縮減。這樣，可以做到與云計(jì)算平臺(tái)的無(wú)縫對(duì)接，根據(jù)計(jì)算和存儲(chǔ)任務(wù)動(dòng)態(tài)地申請(qǐng)或釋放資源，最大限度地提高資源利用率。高性價(jià)比：采用X86架構(gòu)廉價(jià)計(jì)算機(jī)構(gòu)建云計(jì)算平臺(tái)，用軟件容錯(cuò)替代硬件容錯(cuò)，大大節(jié)省成本。在目標(biāo)性能和可靠性條件下，可比傳統(tǒng)的小型機(jī)加商用數(shù)據(jù)庫(kù)方案節(jié)省10倍左右的成本。全業(yè)務(wù)支持：采用分布式數(shù)據(jù)庫(kù)模式，絕大部分海量數(shù)據(jù)存放于分布式平臺(tái)并進(jìn)行分布式處理，少量實(shí)時(shí)性要求很高的數(shù)據(jù)存放于關(guān)系數(shù)據(jù)庫(kù)中，可支撐各種類型的業(yè)務(wù)。不僅支撐查詢、統(tǒng)計(jì)、分析業(yè)務(wù)，還可支撐深度數(shù)據(jù)挖掘和商業(yè)智能分析業(yè)務(wù)。系統(tǒng)總體構(gòu)架省1831項(xiàng)目主要包括八大環(huán)境監(jiān)控子系統(tǒng)：飲用水水源地監(jiān)控系統(tǒng)、流域水環(huán)境監(jiān)控系統(tǒng)、空氣環(huán)境監(jiān)控系統(tǒng)、輻射環(huán)境監(jiān)控系統(tǒng)、重點(diǎn)污染源監(jiān)控系統(tǒng)、機(jī)動(dòng)車監(jiān)控系統(tǒng)、危險(xiǎn)廢物監(jiān)控系統(tǒng)、風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)。這八大環(huán)境子系統(tǒng)共同組成一個(gè)完整的環(huán)境監(jiān)控系統(tǒng)，它們都是充分利用現(xiàn)有監(jiān)測(cè)設(shè)備，與省聯(lián)網(wǎng)后，數(shù)據(jù)信息匯聚存儲(chǔ)至省云存儲(chǔ)系統(tǒng)中，然后再由省云處理平臺(tái)負(fù)責(zé)對(duì)數(shù)據(jù)進(jìn)行索引、分析等處理，并向八大系統(tǒng)的應(yīng)用層提供API調(diào)用，快速反饋分析的結(jié)果。圖表1系統(tǒng)示意圖 以數(shù)據(jù)為中心，數(shù)據(jù)從最底層的數(shù)據(jù)采集層中采集到，將這些數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心，同時(shí)進(jìn)行數(shù)據(jù)索引、分類、分割、清理等操作，將遵循一定規(guī)范的數(shù)據(jù)和索引數(shù)據(jù)同時(shí)實(shí)時(shí)存儲(chǔ)到云存儲(chǔ)系統(tǒng)中，在云處理平臺(tái)上提供數(shù)據(jù)接口，并與最上層的前臺(tái)應(yīng)用層交互數(shù)據(jù)。cStor云存儲(chǔ)系統(tǒng)簡(jiǎn)介 cStor云存儲(chǔ)系統(tǒng)是自主研發(fā)的、具有自主知識(shí)產(chǎn)權(quán)的高科技產(chǎn)品，是國(guó)內(nèi)最早實(shí)現(xiàn)并保持領(lǐng)先的云存儲(chǔ)系統(tǒng)，整套系統(tǒng)包括軟件與硬件，是一個(gè)海量的云存儲(chǔ)平臺(tái)。圖2C1000系列云存儲(chǔ)產(chǎn)品存儲(chǔ)機(jī)柜與傳統(tǒng)的大規(guī)模存儲(chǔ)系統(tǒng)相比，cStor針對(duì)絕大多數(shù)數(shù)據(jù)密集型應(yīng)用的特點(diǎn)從多個(gè)方面進(jìn)行了優(yōu)化，從而在一定規(guī)模下達(dá)到成本、可靠性和性能的最佳平衡。cStor憑著超低的價(jià)格、優(yōu)異的性能、高度可靠、綠色節(jié)能、無(wú)限容量、在線自動(dòng)伸縮、易用通用等諸多壓倒性優(yōu)勢(shì)，獲得了廣電、安防、刑偵、政務(wù)、交通、動(dòng)漫等各行業(yè)用戶青睞，產(chǎn)品代理和銷售商已發(fā)展到數(shù)十家。目前，cStor云存儲(chǔ)系統(tǒng)已成熟應(yīng)用于安防視頻監(jiān)控、刑偵、廣電、交通、電信、醫(yī)療、政務(wù)等諸多領(lǐng)域，性能卓越，表現(xiàn)出色，從未出現(xiàn)故障，得到用戶一致稱贊。圖3部署在南京政務(wù)云數(shù)據(jù)中心云創(chuàng)機(jī)器 下圖4為一簡(jiǎn)單的cStor云存儲(chǔ)系統(tǒng)部署示意圖。圖4cStor云存儲(chǔ)系統(tǒng)部署示意圖cStor云存儲(chǔ)系統(tǒng)采用了分布式的存儲(chǔ)架構(gòu)，元數(shù)據(jù)服務(wù)器采用主備雙機(jī)容錯(cuò)的方式管理各個(gè)存儲(chǔ)節(jié)點(diǎn)，文件分散存儲(chǔ)在各存儲(chǔ)節(jié)點(diǎn)上?？蛻舳伺c元數(shù)據(jù)服務(wù)器間只有控制流，數(shù)據(jù)流直接在各存儲(chǔ)節(jié)點(diǎn)間交互。因此，系統(tǒng)的整體吞吐率隨著存儲(chǔ)的規(guī)模的增大是線性增加，直到達(dá)到帶寬的飽和利用。cProc云處理平臺(tái)簡(jiǎn)介 云存儲(chǔ)層包括公司自主研發(fā)的云儲(chǔ)存系統(tǒng)cStor和apache開(kāi)源云儲(chǔ)存系統(tǒng)HDFS；而在數(shù)據(jù)管理層中，包含數(shù)據(jù)立方、Hbase；數(shù)據(jù)處理層包含JobKeeper和MapReduce；最后的監(jiān)控協(xié)調(diào)層則包括zookeeper和Chukwa來(lái)實(shí)現(xiàn)對(duì)整個(gè)系統(tǒng)的實(shí)時(shí)監(jiān)控和數(shù)據(jù)管理。 下圖為cProc云處理平臺(tái)架構(gòu)： 通過(guò)數(shù)據(jù)立方，可以對(duì)元數(shù)據(jù)進(jìn)行數(shù)據(jù)分析、清理、分割。 對(duì)結(jié)構(gòu)化數(shù)據(jù)任意關(guān)鍵字索引，形成一個(gè)多維數(shù)據(jù)模型，數(shù)據(jù)立方的命名也由此而來(lái)。數(shù)據(jù)立方是獨(dú)立于cProc云處理平臺(tái)的技術(shù)架構(gòu)，用戶可以選擇性采用數(shù)據(jù)立方，也可以單獨(dú)采用Hbase、Hive等技術(shù)框架，通過(guò)數(shù)據(jù)立方或Hbase，可以將結(jié)構(gòu)化數(shù)據(jù)看成一張無(wú)限大的表，操作這張表跟操作傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)一樣，上層應(yīng)用無(wú)需修改，完全符合用戶原來(lái)操作習(xí)慣。 對(duì)于非結(jié)構(gòu)化數(shù)據(jù)，cProc云處理平臺(tái)采用公司自主研發(fā)的超安存算法，對(duì)這些數(shù)據(jù)塊進(jìn)行分割，散亂存儲(chǔ)到云儲(chǔ)存系統(tǒng)上，然后采用分布式并行處理，對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)處理，cProc云處理平臺(tái)的處理性能隨著節(jié)點(diǎn)的增多而成倍數(shù)增長(zhǎng)。 cProc云處理平臺(tái)擁有以下特點(diǎn)： 1.對(duì)任意多關(guān)鍵字實(shí)時(shí)索引

2.支持類SQL復(fù)雜并行組合查詢

3.分布式萬(wàn)兆實(shí)時(shí)數(shù)據(jù)流秒級(jí)處理 4.高可靠性，系統(tǒng)無(wú)單點(diǎn)，確保意外情況下，系統(tǒng)的正常運(yùn)行 以上特點(diǎn)由云創(chuàng)公司自主研發(fā)的下面幾大功能來(lái)提供保證，分別是數(shù)據(jù)立方，分布式數(shù)據(jù)處理,調(diào)度均衡器、數(shù)據(jù)傳輸接口等。數(shù)據(jù)立方對(duì)數(shù)據(jù)建立高效的索引結(jié)構(gòu)。數(shù)據(jù)立方是云創(chuàng)公司研發(fā)的高效數(shù)據(jù)結(jié)構(gòu)，該結(jié)構(gòu)成功解決了海量數(shù)據(jù)的快速索引和查詢問(wèn)題，使得百億條記錄級(jí)的數(shù)據(jù)能夠秒級(jí)處理。分布式數(shù)據(jù)處理是云創(chuàng)公司研發(fā)的處理海量數(shù)據(jù)的處理框架，用于對(duì)大規(guī)模數(shù)據(jù)集的并行處理。處理能力可以通過(guò)增加或減少機(jī)器達(dá)到動(dòng)態(tài)調(diào)整。采用先進(jìn)的容錯(cuò)技術(shù)，確保處理任務(wù)的可靠性，即使在異常情況下，如機(jī)器宕機(jī)、斷網(wǎng)的情況下，確保處理任務(wù)的實(shí)時(shí)性和準(zhǔn)確性。調(diào)度均衡器是云創(chuàng)公司研發(fā)的解決單點(diǎn)故障的一項(xiàng)技術(shù)，用于解決系統(tǒng)內(nèi)的單點(diǎn)問(wèn)題，確保某機(jī)器的應(yīng)用程序狀態(tài)在宕機(jī)或斷網(wǎng)時(shí)，可將狀態(tài)從異常機(jī)器轉(zhuǎn)移到其他機(jī)器上，中間無(wú)數(shù)據(jù)丟失。數(shù)據(jù)傳輸接口是云創(chuàng)公司經(jīng)過(guò)多年積累，專門針對(duì)地面數(shù)據(jù)傳輸研究出高性能可靠文件傳輸協(xié)議，采用并行流水線方式、將傳輸與存儲(chǔ)作聯(lián)合優(yōu)化，并支持多點(diǎn)中繼高效傳輸。經(jīng)過(guò)多項(xiàng)實(shí)地遠(yuǎn)程傳輸試驗(yàn)，結(jié)果表明該技術(shù)的傳輸效率在1Gb/s光纖線路上達(dá)到了帶寬的80%左右，處于國(guó)際最高水平。幾大功能相輔相成，高效且可靠地處理海量數(shù)據(jù)，確保響應(yīng)迅速，傳輸速度快，處理結(jié)果準(zhǔn)確。系統(tǒng)設(shè)計(jì)性能數(shù)據(jù)流量處理能力以下是各部分處理能力統(tǒng)計(jì)：數(shù)據(jù)存儲(chǔ)查詢系統(tǒng)器配置：8核CPU×2，主頻2GHz以上,內(nèi)存32G，硬盤8×2TSATA處理能力：折合數(shù)據(jù)入庫(kù)流量80Mb/s應(yīng)用分析系統(tǒng)器配置：8核CPU×2，主頻2GHz以上,內(nèi)存32G，硬盤8×2TSATA處理能力：折合處理并發(fā)訪問(wèn)量1000次/s數(shù)據(jù)存儲(chǔ)讀取能力原始數(shù)據(jù)存儲(chǔ)采用云存儲(chǔ)平臺(tái)，分布式文件系統(tǒng)存儲(chǔ)系統(tǒng)。性能指標(biāo)：存儲(chǔ)量指標(biāo)單系統(tǒng)應(yīng)支持PB級(jí)存儲(chǔ)容量。吞吐量指標(biāo) Infiniband網(wǎng)絡(luò)上文件讀、寫(xiě)性能: (1)寫(xiě)文件性能 1個(gè)客戶端寫(xiě)250G文件，文件平均寫(xiě)性能為932MB/s，峰值為1.9GB/秒。 (2)讀文件性能 1個(gè)客戶端讀250G文件，文件平均讀性能為852MB/s，讀文件峰值為1.2GB/s 上述性能測(cè)試數(shù)據(jù)是1個(gè)客戶端、8個(gè)存儲(chǔ)節(jié)點(diǎn)的測(cè)試結(jié)果，由于本次測(cè)試受測(cè)試資源影響，沒(méi)能完全測(cè)出Infiniband最優(yōu)性能。但在8個(gè)存儲(chǔ)節(jié)點(diǎn)上，文件寫(xiě)性能達(dá)到932MB/s，寫(xiě)峰值為1.9GB/s，讀性能達(dá)到852MB/s，讀峰值為1.2GB/s。吞吐量是指在沒(méi)有幀丟失的情況下，設(shè)備能夠接受的最大速率。吞吐量根據(jù)應(yīng)用系統(tǒng)讀寫(xiě)方式和應(yīng)用系統(tǒng)讀取存儲(chǔ)內(nèi)容大小分成四個(gè)指標(biāo)。分布式文件存儲(chǔ)系統(tǒng)按照32個(gè)節(jié)點(diǎn)并發(fā)500個(gè)用戶計(jì)算，單節(jié)點(diǎn)8塊2T大小的硬盤情況下，每個(gè)節(jié)點(diǎn)指標(biāo)具體內(nèi)容如下表所示：表8分布式文件存儲(chǔ)系統(tǒng)吞吐量指標(biāo)編號(hào)讀寫(xiě)方式存儲(chǔ)內(nèi)容大小總吞吐量指標(biāo)(MBps)平均吞吐量指標(biāo)(MBps)1100%讀250GB24000482100%寫(xiě)250GB20000403100%讀100KB23000464100%寫(xiě)100KB1900038圖表分布式文件存儲(chǔ)系統(tǒng)吞吐量指標(biāo)系統(tǒng)響應(yīng)時(shí)間指標(biāo)千兆網(wǎng)絡(luò)環(huán)境下，局域網(wǎng)客戶端從分布式文件存儲(chǔ)系統(tǒng)中讀取4096字節(jié)存儲(chǔ)內(nèi)容的響應(yīng)時(shí)間應(yīng)不高于20ms。系統(tǒng)功能數(shù)據(jù)存儲(chǔ)：通過(guò)云存儲(chǔ)平臺(tái)存儲(chǔ)海量數(shù)據(jù)。實(shí)時(shí)查詢：通過(guò)業(yè)務(wù)層API支持應(yīng)用層的實(shí)時(shí)查詢，根據(jù)應(yīng)用層的要求查詢相關(guān)數(shù)據(jù)返回給應(yīng)用層。定期匯總：根據(jù)用戶定制要求定期匯總相關(guān)數(shù)據(jù)到數(shù)據(jù)庫(kù)中，以備歷史數(shù)據(jù)的查詢和報(bào)表的統(tǒng)計(jì)。狀態(tài)監(jiān)控：可以實(shí)時(shí)監(jiān)控自動(dòng)監(jiān)測(cè)設(shè)備和中心系統(tǒng)器的運(yùn)行狀態(tài)，提供設(shè)備運(yùn)行數(shù)據(jù)并存儲(chǔ)到數(shù)據(jù)庫(kù)，以備歷史數(shù)據(jù)的查詢和設(shè)備運(yùn)行的分析。歷史查詢：對(duì)存儲(chǔ)在云存儲(chǔ)中心的歷史數(shù)據(jù)進(jìn)行查詢系統(tǒng)設(shè)計(jì)實(shí)施與關(guān)鍵技術(shù)方法cStor云存儲(chǔ)系統(tǒng)C1000系列產(chǎn)品采用cStor分布式云存儲(chǔ)文件系統(tǒng)對(duì)數(shù)據(jù)進(jìn)行集中式海量存儲(chǔ)和統(tǒng)一管理，其技術(shù)架構(gòu)和關(guān)鍵技術(shù)在下面的章節(jié)中分別詳細(xì)介紹。技術(shù)架構(gòu)cStor云存儲(chǔ)文件系統(tǒng)采用分布式的存儲(chǔ)機(jī)制，將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的存儲(chǔ)服務(wù)器上。它采用包括元數(shù)據(jù)管理服務(wù)器（MasterServer）和數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)服務(wù)器（ChunkServer）以及客戶端節(jié)點(diǎn)的結(jié)構(gòu)構(gòu)成一個(gè)虛擬的海量存儲(chǔ)卷，如下圖所示。圖2-1cStor云存儲(chǔ)系統(tǒng)架構(gòu)其中，MasterServer保存系統(tǒng)的元數(shù)據(jù)，負(fù)責(zé)對(duì)整個(gè)文件系統(tǒng)的管理，MasterServer在邏輯上只有一個(gè)，但采用主備雙機(jī)鏡像的方式，保證系統(tǒng)的不間斷服務(wù)；ChunkServer負(fù)責(zé)具體的數(shù)據(jù)存儲(chǔ)工作，數(shù)據(jù)以文件的形式存儲(chǔ)在ChunkServer上，ChunkServer的個(gè)數(shù)可以有多個(gè)，它的數(shù)目直接決定了cStor云存儲(chǔ)系統(tǒng)的規(guī)模；客戶端即為服務(wù)器對(duì)外提供數(shù)據(jù)存儲(chǔ)和訪問(wèn)服務(wù)的窗口，通常情況下，客戶端都部署在ChunkServer上，每一個(gè)塊數(shù)據(jù)服務(wù)器，及時(shí)存儲(chǔ)服務(wù)器也是客戶端服務(wù)器。對(duì)每一個(gè)節(jié)點(diǎn)，cStor云存儲(chǔ)系統(tǒng)提供的管理監(jiān)控中心都可以對(duì)其進(jìn)行管理，包括設(shè)備運(yùn)行狀態(tài)、磁盤運(yùn)行狀態(tài)、服務(wù)在線情況以及異常告警等功能；另外，網(wǎng)管監(jiān)控中心還提供有如FTP賬戶添加等客戶端管理和配置工具。這種分布式系統(tǒng)最大的好處是有利于存儲(chǔ)系統(tǒng)的擴(kuò)展和實(shí)現(xiàn)，在小規(guī)模的數(shù)據(jù)擴(kuò)展時(shí)，只需要添加具體的ChunkServer即可，而不需要添加整套設(shè)備。下圖2-2為cStor云存儲(chǔ)系統(tǒng)部署示意圖。圖2-2cStor云存儲(chǔ)系統(tǒng)部署示意圖cStor云存儲(chǔ)系統(tǒng)所有的節(jié)點(diǎn)均通過(guò)網(wǎng)絡(luò)的方式連接起來(lái)，其中存儲(chǔ)節(jié)點(diǎn)采用廉價(jià)的計(jì)算機(jī)節(jié)點(diǎn)，運(yùn)用自適應(yīng)副本管理技術(shù)進(jìn)行容錯(cuò)。所有存儲(chǔ)節(jié)點(diǎn)同時(shí)擔(dān)任對(duì)外服務(wù)功能，客戶端分別掛載到不同存儲(chǔ)節(jié)點(diǎn)訪問(wèn)云存儲(chǔ)系統(tǒng)。通過(guò)增加或者減少存儲(chǔ)節(jié)點(diǎn)的方式，即可以對(duì)存儲(chǔ)系統(tǒng)進(jìn)行在線伸縮，由于采用了自適應(yīng)副本管理技術(shù)進(jìn)行容錯(cuò)，系統(tǒng)在線伸縮的過(guò)程中，不影響系統(tǒng)對(duì)外提供服務(wù)。下面簡(jiǎn)單的介紹下cStor系統(tǒng)的工作原理和管理機(jī)制。工作原理對(duì)于cStor云存儲(chǔ)的用戶來(lái)說(shuō)，通過(guò)cStor客戶端可以將海量云存儲(chǔ)系統(tǒng)映射成一個(gè)本地海量磁盤（Windows客戶端）或者映射到一個(gè)目錄（Linux客戶端），對(duì)于此磁盤或者目錄的讀寫(xiě)操作，即可實(shí)現(xiàn)云存儲(chǔ)系統(tǒng)數(shù)據(jù)的讀寫(xiě)。同時(shí)，由于cStor文件系統(tǒng)支持POSIX接口規(guī)范，對(duì)于目前一般的應(yīng)用不需要做二次開(kāi)發(fā)即可使用。下面詳細(xì)的介紹一下cStor云存儲(chǔ)系統(tǒng)的實(shí)際讀寫(xiě)過(guò)程。下圖2-3是cStor客戶端向系統(tǒng)中寫(xiě)數(shù)據(jù)的流程圖。圖2-3cStor客戶端寫(xiě)數(shù)據(jù)流程其詳細(xì)過(guò)程是：cStor客戶端向元數(shù)據(jù)服務(wù)器發(fā)起數(shù)據(jù)寫(xiě)請(qǐng)求；元數(shù)據(jù)服務(wù)器根據(jù)其管理的存儲(chǔ)節(jié)點(diǎn)的工作和使用情況，根據(jù)負(fù)載均衡的原理，在相關(guān)存儲(chǔ)節(jié)點(diǎn)上創(chuàng)建一些新的數(shù)據(jù)塊；相關(guān)存儲(chǔ)節(jié)點(diǎn)服務(wù)器創(chuàng)建成功，將結(jié)果返回給元數(shù)據(jù)服務(wù)器；元數(shù)據(jù)服務(wù)器一方面?zhèn)浞莺屯酱嗽獢?shù)據(jù)信息，另一方面將相關(guān)存儲(chǔ)節(jié)點(diǎn)信息返回給客戶端；客戶端根據(jù)得到的存儲(chǔ)節(jié)點(diǎn)信息，向?qū)?yīng)存儲(chǔ)節(jié)點(diǎn)發(fā)出數(shù)據(jù)寫(xiě)請(qǐng)求，并向存儲(chǔ)節(jié)點(diǎn)發(fā)送數(shù)據(jù)；存儲(chǔ)節(jié)點(diǎn)接收數(shù)據(jù)并存儲(chǔ)到相應(yīng)塊，同時(shí)也向其他存儲(chǔ)節(jié)點(diǎn)發(fā)起備份；當(dāng)本地寫(xiě)以及備份均成功后，存儲(chǔ)節(jié)點(diǎn)將成功信息返回給客戶端；客戶端收到成功信號(hào)后，即完成數(shù)據(jù)的存儲(chǔ)。下圖為cStor客戶端讀數(shù)據(jù)流程圖如下所示：圖2-4cStor客戶端讀數(shù)據(jù)流程總的來(lái)說(shuō)，cStor云存儲(chǔ)系統(tǒng)的控制流和數(shù)據(jù)流是分離的，一方面降低了元數(shù)據(jù)服務(wù)的負(fù)擔(dān)，使得其處理能力更強(qiáng)，另一方面將數(shù)據(jù)讀寫(xiě)的負(fù)擔(dān)分擔(dān)到各存儲(chǔ)節(jié)點(diǎn)，使得系統(tǒng)的整體性能得到了提高，與節(jié)點(diǎn)數(shù)目成正相關(guān)。管理機(jī)制cStor云存儲(chǔ)系統(tǒng)采用的是一種基于網(wǎng)絡(luò)的管理工具，稱之為cStor網(wǎng)管監(jiān)控中心，主要用來(lái)對(duì)cStor云存儲(chǔ)系統(tǒng)進(jìn)行遠(yuǎn)程監(jiān)控和管理，其具體功能包括：提供存儲(chǔ)機(jī)架的虛擬化管理；可以監(jiān)測(cè)到每個(gè)節(jié)點(diǎn)服務(wù)器的運(yùn)行狀態(tài)（包括主備元數(shù)據(jù)服務(wù)器和存儲(chǔ)節(jié)點(diǎn)服務(wù)器的內(nèi)存、CPU、系統(tǒng)盤的利用情況等）；磁盤的運(yùn)行狀態(tài)和使用情況監(jiān)控；cStor服務(wù)的啟動(dòng)和關(guān)閉；所有服務(wù)器的重啟、關(guān)閉；卷管理服務(wù)器的設(shè)置和賬戶管理；FTP賬戶的批量添加和刪除等。關(guān)鍵技術(shù)負(fù)載自動(dòng)均衡技術(shù)cStor采用中心服務(wù)器模式來(lái)管理整個(gè)云存儲(chǔ)文件系統(tǒng)，所有元數(shù)據(jù)均保存在MasterServer上，文件則劃分為多個(gè)chunk存儲(chǔ)在不同的ChunkServer上。MasterServer維護(hù)了一個(gè)統(tǒng)一的命名空間，同時(shí)掌握整個(gè)系統(tǒng)內(nèi)ChunkServer的使用情況，當(dāng)客戶端向元數(shù)據(jù)服務(wù)器發(fā)送數(shù)據(jù)讀寫(xiě)的請(qǐng)求時(shí)，元數(shù)據(jù)服務(wù)器根據(jù)ChunkServer的磁盤使用情況、網(wǎng)絡(luò)負(fù)擔(dān)等情況，選擇負(fù)擔(dān)最輕的ChunkServer對(duì)外提供服務(wù)，自動(dòng)均衡負(fù)載負(fù)擔(dān)。另外，當(dāng)某有一個(gè)ChunkServer因?yàn)闄C(jī)器故障或者其他原因造成離線時(shí)，MasterServer會(huì)將此機(jī)器自動(dòng)屏蔽掉，不再將此ChunkServer提供給客戶端使用，同時(shí)存儲(chǔ)在此ChunkServer上的數(shù)據(jù)也會(huì)自動(dòng)的備份到其他可用的ChunkServer上，自動(dòng)屏蔽ChunkServer故障對(duì)系統(tǒng)的影響。高速并發(fā)訪問(wèn)技術(shù)客戶端在訪問(wèn)cStor時(shí)，首先訪問(wèn)MasterServer節(jié)點(diǎn)，獲取將要與之進(jìn)行交互的ChunkServer信息，然后直接訪問(wèn)這些ChunkServer完成數(shù)據(jù)存取。cStor的這種設(shè)計(jì)方法實(shí)現(xiàn)了控制流和數(shù)據(jù)流的分離。Client與MasterServer之間只有控制流，而無(wú)數(shù)據(jù)流，這樣就極大地降低了MasterServer的負(fù)載，使之不成為系統(tǒng)性能的一個(gè)瓶頸。Client與ChunkServer之間直接傳輸數(shù)據(jù)流，同時(shí)由于文件被分成多個(gè)chunk進(jìn)行分布式存儲(chǔ)，Client可以同時(shí)訪問(wèn)多個(gè)ChunkServer，從而使得整個(gè)系統(tǒng)的I/O高度并行，系統(tǒng)整體性能得到提高。通常情況下，系統(tǒng)的整體吞吐率與ChunkServer的數(shù)量呈正比。高可靠性保證技術(shù)對(duì)于元數(shù)據(jù)，cStor通過(guò)操作日志來(lái)提供容錯(cuò)功能，當(dāng)MasterServer發(fā)生故障時(shí)，在磁盤數(shù)據(jù)保存完好的情況下，可以迅速恢復(fù)以上元數(shù)據(jù)。為了防止MasterServer徹底死機(jī)的情況，cStor還提供了MasterServer遠(yuǎn)程的實(shí)時(shí)備份，這樣在當(dāng)前的MasterServer出現(xiàn)故障無(wú)法工作的時(shí)候，另外一臺(tái)備MasterServer可以迅速接替其工作。對(duì)于ChunkServer，cStor采用副本的方式實(shí)現(xiàn)容錯(cuò)。每一個(gè)chunk有多個(gè)存儲(chǔ)副本（默認(rèn)為兩個(gè)），分布存儲(chǔ)在不同的ChunkServer上。副本的分布策略考慮了多種因素，如網(wǎng)絡(luò)的拓?fù)洹C(jī)架的分布、磁盤的利用率等。對(duì)于每一個(gè)ChunkServer，必須將所有的副本全部寫(xiě)入成功，才視為成功寫(xiě)入。在其后的過(guò)程中，如果相關(guān)的副本出現(xiàn)丟失或不可恢復(fù)等狀況，MasterServer會(huì)自動(dòng)將該副本復(fù)制到其他ChunkServer，從而確保副本保持一定的個(gè)數(shù)。在有多個(gè)ChunkServer的情況下，任意損失一個(gè)節(jié)點(diǎn)，數(shù)據(jù)都不會(huì)丟失，而且隨著ChunkServer數(shù)目的增多，整個(gè)系統(tǒng)的可靠性越大。高可用技術(shù)系統(tǒng)中的所有服務(wù)節(jié)點(diǎn)均是通過(guò)網(wǎng)絡(luò)連接在一起，由于采用了高可靠的容錯(cuò)機(jī)制，系統(tǒng)增減節(jié)點(diǎn)不必停止服務(wù)，可在線增減存儲(chǔ)節(jié)點(diǎn)，存儲(chǔ)節(jié)點(diǎn)和元數(shù)據(jù)節(jié)點(diǎn)間通過(guò)注冊(cè)管理機(jī)制自適應(yīng)管理，實(shí)現(xiàn)自動(dòng)伸縮。元數(shù)據(jù)服務(wù)器采用主備雙機(jī)熱備技術(shù)，主機(jī)故障，備機(jī)自動(dòng)接替其工作，對(duì)外服務(wù)不停止；存儲(chǔ)節(jié)點(diǎn)采用冗余備份機(jī)制，多個(gè)存儲(chǔ)節(jié)點(diǎn)情況下，任意損失一個(gè)節(jié)點(diǎn)，數(shù)據(jù)不丟失，服務(wù)不停止。

cProc云處理平臺(tái) 數(shù)據(jù)處理是對(duì)數(shù)據(jù)的采集、存儲(chǔ)、檢索、加工、變換和傳輸。數(shù)據(jù)是對(duì)事實(shí)、概念或指令的一種表達(dá)形式，可由人工或自動(dòng)化裝置進(jìn)行處理。數(shù)據(jù)的形式可以是數(shù)字、文字、圖形或聲音等。數(shù)據(jù)經(jīng)過(guò)解釋并賦予一定的意義之后，便成為信息。數(shù)據(jù)處理的基本目的是從大量的、可能是雜亂無(wú)章的、難以理解的數(shù)據(jù)中抽取并推導(dǎo)出對(duì)于某些特定的人們來(lái)說(shuō)是有價(jià)值、有意義的數(shù)據(jù)。數(shù)據(jù)處理是系統(tǒng)工程和自動(dòng)控制的基本環(huán)節(jié)。數(shù)據(jù)處理貫穿于社會(huì)生產(chǎn)和社會(huì)生活的各個(gè)領(lǐng)域。數(shù)據(jù)處理技術(shù)的發(fā)展及其應(yīng)用的廣度和深度，極大地影響著人類社會(huì)發(fā)展的進(jìn)程。數(shù)據(jù)立方(DataCube) 我們以B+樹(shù)的結(jié)構(gòu)建立了字段的索引，每個(gè)B+樹(shù)結(jié)構(gòu)的字段索引相當(dāng)于一個(gè)數(shù)據(jù)平面，這樣一個(gè)全局?jǐn)?shù)據(jù)表與其多個(gè)重要字段的索引就組成了一個(gè)類似于立方體的數(shù)據(jù)組織結(jié)構(gòu)，我們稱之為“數(shù)據(jù)立方(DataCube)”。如下圖所示： 數(shù)據(jù)立方(DataCube)是一種用于數(shù)據(jù)分析與索引的技術(shù)架構(gòu)。它是針對(duì)大數(shù)據(jù)(bigdata)的處理利器，可以對(duì)元數(shù)據(jù)進(jìn)行任意多關(guān)鍵字實(shí)時(shí)索引。通過(guò)數(shù)據(jù)立方對(duì)元數(shù)據(jù)進(jìn)行分析之后，可以大大加快數(shù)據(jù)的查詢和檢索效率。 數(shù)據(jù)立方的原理：由一個(gè)或多個(gè)管理節(jié)點(diǎn)，一個(gè)或多個(gè)處理及存儲(chǔ)節(jié)點(diǎn)（數(shù)據(jù)節(jié)點(diǎn)）組成，系統(tǒng)在數(shù)據(jù)建立與查詢時(shí)，分布式建立與應(yīng)用數(shù)據(jù)立方索引結(jié)構(gòu)，在數(shù)據(jù)建立及存儲(chǔ)時(shí)，對(duì)規(guī)范化的數(shù)據(jù)設(shè)定1個(gè)或多個(gè)關(guān)鍵字字段，將不同的關(guān)鍵字字段分別建立索引，每張不同的索引生成一張獨(dú)立的B+樹(shù)結(jié)構(gòu)，多個(gè)B+樹(shù)結(jié)構(gòu)垛疊在一起，與全局?jǐn)?shù)據(jù)表形成一個(gè)完整的數(shù)據(jù)立方結(jié)構(gòu)。利用數(shù)據(jù)立方存儲(chǔ)索引結(jié)構(gòu)，可方便快捷的在海量數(shù)據(jù)云處理系統(tǒng)中準(zhǔn)確檢索定位數(shù)據(jù)。B+樹(shù)的插入僅在葉結(jié)點(diǎn)上進(jìn)行。每插入一個(gè)(關(guān)鍵碼-指針)索引項(xiàng)后都要判斷結(jié)點(diǎn)中的子樹(shù)棵數(shù)是否超出范圍。當(dāng)插入后結(jié)點(diǎn)中的子樹(shù)棵數(shù)大于m時(shí),需要將葉結(jié)點(diǎn)分裂為兩個(gè)結(jié)點(diǎn)。它們的雙親結(jié)點(diǎn)中應(yīng)同時(shí)包含這兩個(gè)結(jié)點(diǎn)的最大關(guān)鍵碼和結(jié)點(diǎn)地址。此后,問(wèn)題歸于在非葉結(jié)點(diǎn)中的插入了。在非葉結(jié)點(diǎn)中關(guān)鍵碼的插入與葉結(jié)點(diǎn)的插入類似,非葉結(jié)點(diǎn)中的子樹(shù)棵數(shù)的上限為m,超出這個(gè)范圍也要進(jìn)行結(jié)點(diǎn)分裂。在做根結(jié)點(diǎn)分裂時(shí),因?yàn)闆](méi)有雙親結(jié)點(diǎn),就必須創(chuàng)建新的雙親結(jié)點(diǎn),作為樹(shù)的新根。這樣樹(shù)的高度就增加一層了。當(dāng)有新的記錄到來(lái)時(shí)，我們要將新的數(shù)據(jù)記錄對(duì)應(yīng)的一條索引記錄插入到所有的字段索引中，這時(shí)要采取一定的寫(xiě)入策略。當(dāng)新的記錄積累到n1條或經(jīng)過(guò)一定時(shí)間t1時(shí)，對(duì)于存儲(chǔ)在MemCache中的字段索引，可以將這些數(shù)據(jù)記錄對(duì)應(yīng)的索引記錄一次性批量寫(xiě)入；當(dāng)新的記錄積累到n2條或經(jīng)過(guò)一定時(shí)間t2時(shí)，可以將這些數(shù)據(jù)記錄對(duì)應(yīng)的索引記錄一次性批量寫(xiě)入HDFS（固態(tài)磁盤）上的索引文件。對(duì)B+樹(shù)的查找類似于二分查找，對(duì)于m階，葉子節(jié)點(diǎn)中記錄個(gè)數(shù)為n的B+樹(shù)來(lái)說(shuō)，其查找的時(shí)間復(fù)雜度為O(logm+(n+1)/2)。因此對(duì)于值匹配和范圍查找來(lái)說(shuō)，有很快的速度。此外，由于對(duì)值按照大小順序進(jìn)行了指針鏈接，因此m階B+樹(shù)還可以進(jìn)行對(duì)值進(jìn)行順序查找。 我們對(duì)重要字段建立索引，存儲(chǔ)在HDFS（固態(tài)磁盤）上。將最近常用的字段索引加載到MemCache中，同時(shí)刪除最不常用的字段索引以節(jié)省空間。詳細(xì)來(lái)說(shuō)，對(duì)于每次查詢，系統(tǒng)統(tǒng)計(jì)每個(gè)字段索引被調(diào)用的次數(shù)，對(duì)于被調(diào)用次數(shù)最多的那些字段索引就被加載到MemCache中，而在MemCache中被調(diào)用次數(shù)最少的某些字段將被刪除。 數(shù)據(jù)立方是凌駕于數(shù)據(jù)存儲(chǔ)層和數(shù)據(jù)庫(kù)系統(tǒng)之上的，通過(guò)數(shù)據(jù)立方解析后，可以大大增加數(shù)據(jù)查詢和檢索等業(yè)務(wù)，可以讓系統(tǒng)平臺(tái)具備數(shù)據(jù)實(shí)時(shí)入庫(kù)、實(shí)時(shí)查詢、查詢結(jié)果實(shí)時(shí)傳輸?shù)葍?yōu)勢(shì)。任務(wù)監(jiān)控器（JobKeeper）JobKeeper調(diào)度平臺(tái)是建立于虛擬化資源層之上，統(tǒng)一調(diào)度，統(tǒng)一配置的管理平臺(tái)，用于對(duì)集群中任務(wù)實(shí)時(shí)的處理調(diào)度，實(shí)時(shí)結(jié)果集的反饋，集群的負(fù)載均衡，失敗調(diào)度，集中管理，集中配置的平臺(tái)。用來(lái)保證整個(gè)集群的超低人員干預(yù)。同時(shí)，提供完善的集群伸縮機(jī)制為整個(gè)服務(wù)提供更高的可靠性。JobKeeper云調(diào)度技術(shù)架構(gòu)圖應(yīng)用層是一組用于管理和結(jié)果反饋的顯示組件。用于顯示任務(wù)的處理情況以及集群中機(jī)器的活動(dòng)情況，同時(shí)其也是一個(gè)上層應(yīng)用和底層服務(wù)的對(duì)接平臺(tái)。是整個(gè)系統(tǒng)面向用戶和開(kāi)發(fā)人員的基礎(chǔ)承載。業(yè)務(wù)層是對(duì)于應(yīng)用層的相關(guān)功能的業(yè)務(wù)化，數(shù)字化處理，用于將應(yīng)用層的需求任務(wù)進(jìn)行規(guī)則化劃分，形成統(tǒng)一的處理化模式。數(shù)據(jù)處理層是獨(dú)立的數(shù)據(jù)處理程序，是對(duì)不同需求數(shù)據(jù)的統(tǒng)一處理方案，他的運(yùn)行與監(jiān)控的工作將由JobKeeper調(diào)度平臺(tái)進(jìn)行統(tǒng)一的配置管理。存儲(chǔ)層是用來(lái)存儲(chǔ)數(shù)據(jù)存儲(chǔ)層的處理結(jié)果集或者其他中間結(jié)果集的單元。虛擬化資源層是將實(shí)體的機(jī)器進(jìn)行虛擬化，形成更大范圍的服務(wù)集群。JobKeeper調(diào)度平臺(tái)是由一組管理節(jié)點(diǎn)（MasterNode）和一組處理節(jié)點(diǎn)（TaskNode）組成，管理節(jié)點(diǎn)組是一組基于Webserver的RPC(RPC采用客戶機(jī)/服務(wù)器模式。請(qǐng)求程序就是一個(gè)客戶機(jī)，而服務(wù)提供程序就是一個(gè)服務(wù)器。首先，客戶機(jī)調(diào)用進(jìn)程發(fā)送一個(gè)有進(jìn)程參數(shù)的調(diào)用信息到服務(wù)進(jìn)程，然后等待應(yīng)答信息。在服務(wù)器端，進(jìn)程保持睡眠狀態(tài)直到調(diào)用信息的到達(dá)為止。當(dāng)一個(gè)調(diào)用信息到達(dá)，服務(wù)器獲得進(jìn)程參數(shù)，計(jì)算結(jié)果，發(fā)送答復(fù)信息，然后等待下一個(gè)調(diào)用信息，最后，客戶端調(diào)用進(jìn)程接收答復(fù)信息，獲得進(jìn)程結(jié)果，然后調(diào)用執(zhí)行繼續(xù)進(jìn)行。)服務(wù)器，負(fù)責(zé)對(duì)處理節(jié)點(diǎn)的系統(tǒng)信息以及任務(wù)處理信息進(jìn)行實(shí)時(shí)的跟蹤和保存，對(duì)應(yīng)的信息鏡像存儲(chǔ)在基于cStor或者NFS服務(wù)的存儲(chǔ)系統(tǒng)上，保證每個(gè)管理節(jié)點(diǎn)中的鏡像信息的實(shí)時(shí)同步。同時(shí)架設(shè)在管理節(jié)點(diǎn)上的ZooKeeper服務(wù)(ZooKeeper是一個(gè)分布式的，開(kāi)放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù)，包含一個(gè)簡(jiǎn)單的原語(yǔ)集。分布式應(yīng)用可以使用它來(lái)實(shí)現(xiàn)諸如：統(tǒng)一命名服務(wù)、配置管理、分布式鎖服務(wù)、集群管理等功能。)用于對(duì)整個(gè)管理節(jié)點(diǎn)組進(jìn)行統(tǒng)一的配置化管理。處理節(jié)點(diǎn)組通過(guò)RPC的遠(yuǎn)程調(diào)用獲取各自節(jié)點(diǎn)的任務(wù)處理目標(biāo)，并實(shí)時(shí)的和處理節(jié)點(diǎn)上的任務(wù)處理目標(biāo)進(jìn)行對(duì)比，控制程序的執(zhí)行和結(jié)束。（注：這里的程序，可以是任何語(yǔ)言任何形式的獨(dú)立程序，但是必須提供執(zhí)行腳本，和運(yùn)行參數(shù)選項(xiàng)）處理節(jié)點(diǎn)組會(huì)在一個(gè)設(shè)定的心跳間隔內(nèi)主動(dòng)的和管理節(jié)點(diǎn)組聯(lián)系一次，報(bào)告節(jié)點(diǎn)存活狀態(tài)。如果在若干個(gè)心跳間隔后管理節(jié)點(diǎn)組仍然沒(méi)有獲取到處理節(jié)點(diǎn)心跳報(bào)告，那么該處理節(jié)點(diǎn)將會(huì)被踢出處理節(jié)點(diǎn)組，同時(shí)該節(jié)點(diǎn)處理的所有處理任務(wù)也會(huì)被重新調(diào)度。隨著集群處理數(shù)據(jù)量的不斷增大，處理節(jié)點(diǎn)組提供了簡(jiǎn)單高效的自動(dòng)化部署方案，當(dāng)新機(jī)器加入處理集群后，會(huì)主動(dòng)的與管理節(jié)點(diǎn)組同步心跳信息，從同一配置服務(wù)器ZooKeeper上獲取相關(guān)配置信息，通過(guò)WebServer服務(wù)獲取任務(wù)列表，開(kāi)始執(zhí)行數(shù)據(jù)處理工作。JobKeeper調(diào)度平臺(tái)提供了一套基于Web的管理化界面，可以實(shí)時(shí)的觀察各個(gè)處理節(jié)點(diǎn)的任務(wù)運(yùn)行狀態(tài)，以及任務(wù)列表的分配情況，機(jī)器的負(fù)載情況等。用戶在管理系統(tǒng)界面上可以完成所有的工作，如新任務(wù)的添加，任務(wù)的手動(dòng)調(diào)度以及集群日志的查看與分析等。任務(wù)處理節(jié)點(diǎn)和管理節(jié)點(diǎn)之間維護(hù)一個(gè)心跳時(shí)間，實(shí)時(shí)向管理節(jié)點(diǎn)匯報(bào)任務(wù)處理信息，同時(shí)，任務(wù)處理節(jié)點(diǎn)在每個(gè)心跳時(shí)間內(nèi)向管理節(jié)點(diǎn)獲取該處理的任務(wù)列表，并和本機(jī)正在處理的任務(wù)列表進(jìn)行比對(duì)，完成相關(guān)的任務(wù)調(diào)度工作。若一個(gè)處理節(jié)點(diǎn)在多個(gè)心跳時(shí)間范圍內(nèi)仍然沒(méi)有主動(dòng)的和管理節(jié)點(diǎn)相互聯(lián)系，那么管理節(jié)點(diǎn)將會(huì)根據(jù)各機(jī)器的負(fù)載情況，將失去心跳連接的處理節(jié)點(diǎn)上的任務(wù)進(jìn)行任務(wù)的重新分配和執(zhí)行。cProc數(shù)據(jù)處理 cProc云處理是云創(chuàng)公司研發(fā)的處理海量數(shù)據(jù)的處理框架，特點(diǎn)是實(shí)時(shí)性高。主從式的管理節(jié)點(diǎn)監(jiān)控著所有處理節(jié)點(diǎn)（slave），并接受任務(wù)，分配子任務(wù)，監(jiān)控任務(wù)以及處理各類異常情況。處理節(jié)點(diǎn)（slave），接受子任務(wù)，監(jiān)控子任務(wù)，向主節(jié)點(diǎn)匯報(bào)任務(wù)。 結(jié)構(gòu)如下圖所示： cProc云處理是cProc云處理平臺(tái)分布式的核心。該架構(gòu)內(nèi)部避免了大多數(shù)分布式系統(tǒng)內(nèi)部存在的單點(diǎn)問(wèn)題。里面的兩個(gè)管理員節(jié)點(diǎn)(主節(jié)點(diǎn)和備節(jié)點(diǎn))對(duì)整個(gè)集群進(jìn)行著管理，通過(guò)先進(jìn)的調(diào)度監(jiān)控器解決了管理節(jié)點(diǎn)的單點(diǎn)問(wèn)題和數(shù)據(jù)同步問(wèn)題，確保在主節(jié)點(diǎn)異常情況下，主從節(jié)點(diǎn)的切換不丟失管理數(shù)據(jù)。 cProc云處理內(nèi)部采用高效的數(shù)據(jù)結(jié)構(gòu)cProcJob,維護(hù)每個(gè)任務(wù)以及子任務(wù)的狀態(tài)，并嚴(yán)格按照任務(wù)狀態(tài)轉(zhuǎn)移表進(jìn)行任務(wù)狀態(tài)切換。在cProc分布式數(shù)據(jù)處理的過(guò)程中，系統(tǒng)采用以下三個(gè)原則：1.數(shù)據(jù)盡可能的本地性原則 在任務(wù)提交后，管理節(jié)點(diǎn)根據(jù)數(shù)據(jù)所在位置分配處理，這樣在每個(gè)處理節(jié)點(diǎn)上要處理的存儲(chǔ)介質(zhì)上的數(shù)據(jù)塊就在本地，直接操作本地文件，避免了數(shù)據(jù)的移動(dòng)，極大地減少了網(wǎng)絡(luò)IO負(fù)載，縮短了處理時(shí)間。 2.數(shù)據(jù)分布的平衡性原則cProc并行處理架構(gòu)能夠周期性地對(duì)存儲(chǔ)介質(zhì)上的數(shù)據(jù)進(jìn)行維護(hù)，保持存儲(chǔ)節(jié)點(diǎn)上所存儲(chǔ)的數(shù)據(jù)量的平衡，減少因數(shù)據(jù)負(fù)載的不平衡而導(dǎo)致的處理負(fù)載的不平衡。3.調(diào)度任務(wù)公平的原則公平調(diào)度是一種多用戶的賦予作業(yè)（job）資源的策略，它的目的是讓所有的作業(yè)隨著時(shí)間的推移，都能獲取與權(quán)值相應(yīng)的共享資源。當(dāng)單獨(dú)一個(gè)作業(yè)在運(yùn)行時(shí)，它將使用整個(gè)集群。當(dāng)有其它作業(yè)被提交上來(lái)時(shí)，系統(tǒng)會(huì)將任務(wù)空閑處理單元賦給這些新的作業(yè)，以使得每一個(gè)作業(yè)都大概獲取到與權(quán)值相應(yīng)的處理時(shí)間。這個(gè)特性讓短作業(yè)在合理的時(shí)間內(nèi)完成的同時(shí)又保證了長(zhǎng)作業(yè)的服務(wù)質(zhì)量。 公平調(diào)度器按資源池（pool）來(lái)組織作業(yè)，默認(rèn)情況下，每一個(gè)用戶擁有一個(gè)獨(dú)立的資源池。在Slave處理節(jié)點(diǎn)上設(shè)置有同時(shí)運(yùn)行的任務(wù)個(gè)數(shù)上限，若未達(dá)到上限，則就產(chǎn)生了空閑處理單元。當(dāng)集群上出現(xiàn)空閑處理單元時(shí)，調(diào)度按兩步進(jìn)行，首先空閑處理單元在作業(yè)池之間分配，其次在作業(yè)池內(nèi)的作業(yè)間分配。Zookeeper可靠性ZooKeeper可為分布式應(yīng)用建立更高層次的同步(synchronization)、配置管理(configurationmaintenance)、群組(groups)以及命名服務(wù)(naming)。在編程上，ZooKeeper使用的數(shù)據(jù)模型風(fēng)格很像文件系統(tǒng)的目錄樹(shù)結(jié)構(gòu)，簡(jiǎn)單來(lái)說(shuō)，有點(diǎn)類似windows中注冊(cè)表的結(jié)構(gòu)，有名稱，有樹(shù)節(jié)點(diǎn)，有Key(鍵)/Value(值)對(duì)的關(guān)系，可以看做一個(gè)樹(shù)形結(jié)構(gòu)的數(shù)據(jù)庫(kù)，分布在不同的機(jī)器上做命名管理。Zookeeper的基本工作結(jié)構(gòu)如下圖所示。圖表SEQ圖表\*ARABIC63Zookeeper基本工作結(jié)構(gòu)圖Zookeeper分為2個(gè)部分：服務(wù)器端和客戶端，客戶端只連接到整個(gè)ZooKeeper服務(wù)的某個(gè)服務(wù)器上。客戶端使用并維護(hù)一個(gè)TCP連接，通過(guò)這個(gè)連接發(fā)送請(qǐng)求、接受響應(yīng)、獲取觀察的事件以及發(fā)送心跳。如果這個(gè)TCP連接中斷，客戶端將嘗試連接到另外的ZooKeeper服務(wù)器?？蛻舳说谝淮芜B接到ZooKeeper服務(wù)時(shí)，接受這個(gè)連接的ZooKeeper服務(wù)器會(huì)為這個(gè)客戶端建立一個(gè)會(huì)話。當(dāng)這個(gè)客戶端連接到另外的服務(wù)器時(shí)，這個(gè)會(huì)話會(huì)被新的服務(wù)器重新建立。啟動(dòng)Zookeeper服務(wù)器集群環(huán)境后，多個(gè)Zookeeper服務(wù)器在工作前會(huì)選舉出一個(gè)Leader作為主服務(wù)器。在后續(xù)工作中，如果這個(gè)被選舉出來(lái)的主服務(wù)器失效，而剩下的Zookeeper服務(wù)器會(huì)感知這個(gè)事件，并在活著的Zookeeper集群中重新選出一個(gè)Leader作為新的主服務(wù)器，選舉出leader的目的是為了可以在分布式的環(huán)境中保證數(shù)據(jù)的一致性。查詢索引創(chuàng)建、KPI數(shù)據(jù)統(tǒng)計(jì)、CDR專題數(shù)據(jù)處理、以及各種查詢分析處理任務(wù)的處理將需要調(diào)度和使用處理集群上的一組服務(wù)器節(jié)點(diǎn)進(jìn)行并行任務(wù)的分發(fā)和負(fù)載均衡處理。而負(fù)責(zé)并行任務(wù)調(diào)度和分發(fā)的節(jié)點(diǎn)可能會(huì)出現(xiàn)單點(diǎn)故障，進(jìn)而引起整個(gè)處理系統(tǒng)無(wú)法正常工作。因此，需要設(shè)計(jì)一個(gè)單點(diǎn)失效恢復(fù)機(jī)制，以保證查詢分析處理的可靠性，以及正確的并行處理任務(wù)分發(fā)和負(fù)載均衡處理。在具體實(shí)現(xiàn)上，我們將使用Zookeeper基于處理集群完成統(tǒng)一的控制和實(shí)現(xiàn)?；驹O(shè)計(jì)和實(shí)現(xiàn)方法是，將處理集群中所有的處理節(jié)點(diǎn)都納入Zookeeper的管理，選擇其中3個(gè)處理節(jié)點(diǎn)注冊(cè)為Zookeeper的服務(wù)器節(jié)點(diǎn)負(fù)責(zé)并行處理任務(wù)的調(diào)度和分發(fā)節(jié)點(diǎn)，Zookeeper將自動(dòng)在這3個(gè)服務(wù)器節(jié)點(diǎn)中選舉一個(gè)主服務(wù)器節(jié)點(diǎn)。當(dāng)主服務(wù)器節(jié)點(diǎn)出現(xiàn)故障時(shí)，Zookeeper將能自動(dòng)從剩下的2個(gè)服務(wù)器節(jié)點(diǎn)中重新選舉產(chǎn)生一個(gè)新的主服務(wù)器節(jié)點(diǎn)來(lái)接管失效的主服務(wù)器。以此，將能保證并行處理任務(wù)的分發(fā)和調(diào)度處理不會(huì)出現(xiàn)單點(diǎn)失效。Zookeeper能感知當(dāng)前所管轄的節(jié)點(diǎn)中任何節(jié)點(diǎn)的失效并作出相應(yīng)的處理。當(dāng)Zookeeper保證有一個(gè)負(fù)責(zé)并行任務(wù)分發(fā)調(diào)度的主服務(wù)器工作后，該主服務(wù)器將能在Zookeeper中所維護(hù)的當(dāng)前有效的處理節(jié)點(diǎn)中挑選一個(gè)空閑的節(jié)點(diǎn)，并把一個(gè)處理任務(wù)分發(fā)給該節(jié)點(diǎn)；當(dāng)多個(gè)處理任務(wù)到達(dá)時(shí)，主節(jié)點(diǎn)將能有效地將處理任務(wù)分發(fā)給不同的處理節(jié)點(diǎn)，從而實(shí)現(xiàn)并行處理任務(wù)在整個(gè)集群節(jié)點(diǎn)上的負(fù)載均衡。圖表基于Zookeeper的查詢分析處理單點(diǎn)失效和八大環(huán)境監(jiān)控子系統(tǒng)下面對(duì)每個(gè)監(jiān)控系統(tǒng)進(jìn)行分析，主要介紹各個(gè)系統(tǒng)的架構(gòu)及功能。飲用水水源地監(jiān)控系統(tǒng)目前，省共有萬(wàn)噸以上集中式飲用水水源地111個(gè)，但都未與省聯(lián)網(wǎng)，為確保群眾飲用水安全，省要求各水源地必須聯(lián)網(wǎng)自動(dòng)監(jiān)測(cè)、匯報(bào)。為此，飲用水水源地的監(jiān)測(cè)數(shù)據(jù)進(jìn)行實(shí)時(shí)匯聚傳輸?shù)绞≡拼鎯?chǔ)系統(tǒng)，并對(duì)得到的水質(zhì)數(shù)據(jù)在省云處理平臺(tái)進(jìn)行實(shí)時(shí)分析處理，處理后得到的結(jié)果會(huì)通過(guò)云平臺(tái)提供的API接口將數(shù)據(jù)提供給飲用水源地監(jiān)控子系統(tǒng)，這樣就可以對(duì)各大水源地進(jìn)行實(shí)時(shí)的監(jiān)控、預(yù)警和保護(hù)，讓群眾可以真正的放心飲水，安全飲水。飲用水安全問(wèn)題關(guān)系到廣大人民群眾的健康、生命安全和社會(huì)的和諧穩(wěn)定，保障飲用水安全也是我國(guó)水環(huán)境管理的根本任務(wù)。本系統(tǒng)將通過(guò)對(duì)飲用水源地水質(zhì)的實(shí)時(shí)監(jiān)測(cè)，動(dòng)態(tài)評(píng)估飲用水源地的安全狀況，為相關(guān)部門和社會(huì)民眾提供數(shù)據(jù)系統(tǒng)，保障飲用水安全。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、完成對(duì)水源地水溫、pH、溶解氧、電導(dǎo)率、濁度、高錳酸鹽指數(shù)、氨氮等項(xiàng)目的實(shí)時(shí)數(shù)據(jù)監(jiān)測(cè)。2、完成對(duì)出水口的實(shí)時(shí)視頻監(jiān)控，采集實(shí)時(shí)視頻數(shù)據(jù)信息。3、各類監(jiān)測(cè)設(shè)備的自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)的主要內(nèi)容如下：1、實(shí)時(shí)顯示水源地水質(zhì)監(jiān)測(cè)數(shù)據(jù)及其水質(zhì)類別，可查詢監(jiān)測(cè)數(shù)據(jù)各個(gè)指標(biāo)的月、季、半年、年均值及其水質(zhì)類別。2、綜合評(píng)價(jià)水源地環(huán)境安全狀況，對(duì)水源地的環(huán)境安全指數(shù)進(jìn)行統(tǒng)計(jì)分析，生成環(huán)境安全指數(shù)專題統(tǒng)計(jì)圖。3、以圖表的形式對(duì)同一水源地不同年份的監(jiān)測(cè)數(shù)據(jù)月均值變化情況進(jìn)行對(duì)比分析、對(duì)同一時(shí)間段內(nèi)水源地的監(jiān)測(cè)數(shù)據(jù)月均值數(shù)據(jù)進(jìn)行對(duì)比分析。4、當(dāng)自動(dòng)監(jiān)測(cè)數(shù)據(jù)超標(biāo)時(shí)，自動(dòng)發(fā)送報(bào)警信息，記錄超標(biāo)的監(jiān)測(cè)因子、指標(biāo)值及超標(biāo)倍數(shù)等。流域水環(huán)境監(jiān)控系統(tǒng)目前，已建成水質(zhì)自動(dòng)監(jiān)測(cè)站有252個(gè)，新建水質(zhì)自動(dòng)監(jiān)測(cè)站有21個(gè)。為確保環(huán)保部門對(duì)全省河流水質(zhì)進(jìn)行實(shí)時(shí)監(jiān)測(cè)，對(duì)任何水質(zhì)異常做出及時(shí)反應(yīng)，要求全省各水質(zhì)自動(dòng)監(jiān)測(cè)站數(shù)據(jù)進(jìn)行實(shí)時(shí)匯聚傳輸?shù)绞≡拼鎯?chǔ)系統(tǒng)。省云處理平臺(tái)會(huì)對(duì)各水質(zhì)自動(dòng)監(jiān)測(cè)站數(shù)據(jù)進(jìn)行實(shí)時(shí)分析處理，處理后的結(jié)果通過(guò)云平臺(tái)提供的API接口將數(shù)據(jù)提供給流域水環(huán)境監(jiān)控子系統(tǒng)，從而全面實(shí)現(xiàn)全省主要河流省交界斷面和重要河流水質(zhì)實(shí)時(shí)監(jiān)測(cè)、預(yù)警和保護(hù)。對(duì)于防治水污染，保護(hù)改善水環(huán)境，保障人民健康和促進(jìn)社會(huì)主義現(xiàn)代化建設(shè)的發(fā)展具有重要意義。本系統(tǒng)將通過(guò)在現(xiàn)有的流域水水質(zhì)自動(dòng)站基礎(chǔ)上，建立流域水水質(zhì)監(jiān)測(cè)數(shù)據(jù)采集、分析系統(tǒng)，及時(shí)、準(zhǔn)確地掌握地表水質(zhì)量現(xiàn)狀和發(fā)展趨勢(shì)，為開(kāi)展水環(huán)境管理工作提供可靠的數(shù)據(jù)和資料。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、完成地表水實(shí)時(shí)數(shù)據(jù)監(jiān)測(cè)，包括水溫、pH、溶解氧、電導(dǎo)率、濁度、高錳酸鹽指數(shù)、氨氮、總氮、總磷、流量等項(xiàng)目的實(shí)時(shí)數(shù)據(jù)監(jiān)測(cè)。2、各類監(jiān)測(cè)設(shè)備的自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、對(duì)監(jiān)測(cè)點(diǎn)的單因子達(dá)標(biāo)率、水質(zhì)達(dá)標(biāo)率進(jìn)行查詢統(tǒng)計(jì)，支持按流域、區(qū)域的達(dá)標(biāo)率匯總，生成統(tǒng)計(jì)專題圖，形成水質(zhì)評(píng)價(jià)系統(tǒng)。2、以圖表的形式對(duì)同一監(jiān)測(cè)點(diǎn)不同年份的監(jiān)測(cè)數(shù)據(jù)月均值變化情況進(jìn)行對(duì)比分析。對(duì)同一時(shí)間段內(nèi)監(jiān)測(cè)點(diǎn)的監(jiān)測(cè)數(shù)據(jù)月均值數(shù)據(jù)進(jìn)行對(duì)比分析。3、對(duì)同一河流不同監(jiān)測(cè)點(diǎn)的數(shù)據(jù)進(jìn)行對(duì)比分析，以展示河流不同河段的水質(zhì)變化狀況，在GIS地圖上用不同的顏色表示不同水質(zhì)類別的河段?？諝猸h(huán)境監(jiān)控系統(tǒng)目前，省共建有環(huán)境空氣自動(dòng)監(jiān)測(cè)站179個(gè)。為建立環(huán)境空氣自動(dòng)監(jiān)控系統(tǒng)，開(kāi)展環(huán)境空氣質(zhì)量研究，準(zhǔn)確確定環(huán)境空氣污染程度，為環(huán)保責(zé)任目標(biāo)考核提供準(zhǔn)確信息。全省環(huán)境空氣自動(dòng)監(jiān)測(cè)站檢測(cè)數(shù)據(jù)會(huì)進(jìn)行實(shí)時(shí)匯聚傳輸?shù)绞≡拼鎯?chǔ)系統(tǒng)，并對(duì)空氣檢測(cè)數(shù)據(jù)在省云處理平臺(tái)進(jìn)行實(shí)時(shí)分析處理，然后通過(guò)云平臺(tái)API接口提供給空氣環(huán)境監(jiān)控系統(tǒng)，實(shí)現(xiàn)全省空氣環(huán)境自動(dòng)檢測(cè)發(fā)布?？諝猸h(huán)境監(jiān)控系統(tǒng)是以保護(hù)生活環(huán)境和生態(tài)環(huán)境,保障人體健康及動(dòng)植物正常生存、生長(zhǎng)和保護(hù)文物古跡為宗旨,根據(jù)大氣環(huán)境污染現(xiàn)狀和大氣環(huán)境容量、地理、氣象、社會(huì)經(jīng)濟(jì)發(fā)展?fàn)顩r以及城市總體規(guī)劃,按環(huán)境空氣質(zhì)量標(biāo)準(zhǔn)的要求，將大氣環(huán)境劃分為不同的功能區(qū)域。包括自然保護(hù)區(qū)、風(fēng)景名勝區(qū)和其他需要特殊保護(hù)的地區(qū)以及在城鎮(zhèn)規(guī)劃中確定的居住區(qū)、商業(yè)交通居民混合區(qū)、文化區(qū)等。本系統(tǒng)通過(guò)對(duì)主要功能區(qū)大氣環(huán)境質(zhì)量的智慧監(jiān)控，向民眾提供部分生活、旅游相關(guān)的大氣環(huán)境數(shù)據(jù)。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、完成對(duì)主要功能區(qū)各類空氣質(zhì)量參數(shù)的實(shí)時(shí)監(jiān)測(cè)。2、完成對(duì)重點(diǎn)區(qū)域，如自然保護(hù)區(qū)、風(fēng)景名勝區(qū)的全面監(jiān)測(cè)。3、各類監(jiān)測(cè)設(shè)備自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、對(duì)主要功能區(qū)空氣質(zhì)量數(shù)據(jù)做相關(guān)性分析，自動(dòng)判斷出控制質(zhì)量是否正常，對(duì)異常行為自動(dòng)預(yù)警。2、以圖形、柱狀圖、GPS定位信息等形式動(dòng)態(tài)顯示各功能區(qū)的最新監(jiān)測(cè)數(shù)據(jù)、采樣時(shí)間及設(shè)備狀況，對(duì)數(shù)據(jù)超標(biāo)或設(shè)備錯(cuò)誤自動(dòng)報(bào)警。3、對(duì)主要區(qū)域現(xiàn)場(chǎng)視頻設(shè)備進(jìn)行遠(yuǎn)程控制，可在實(shí)時(shí)視頻中動(dòng)態(tài)疊加顯示監(jiān)測(cè)區(qū)域?qū)崟r(shí)空氣狀況。4、移動(dòng)數(shù)據(jù)查詢?？赏ㄟ^(guò)手機(jī)、電腦等智能移動(dòng)設(shè)備，查詢主要功能區(qū)監(jiān)測(cè)數(shù)據(jù)及歷史統(tǒng)計(jì)數(shù)據(jù)。5、通過(guò)平臺(tái)向民眾發(fā)布主要功能區(qū)空氣質(zhì)量，指導(dǎo)民眾出行、工作。輻射環(huán)境監(jiān)控系統(tǒng)目前，各省轄市共有9個(gè)輻射環(huán)境質(zhì)量自動(dòng)監(jiān)測(cè)站、201家529個(gè)放射源在線監(jiān)控點(diǎn)位、一套全省城市放射性廢棄庫(kù)在線監(jiān)控系統(tǒng)，在田灣核電站外圍設(shè)有7個(gè)輻射環(huán)境自動(dòng)監(jiān)測(cè)哨和2輛核應(yīng)急巡測(cè)車。為保證正在使用的放射源絕對(duì)安全，各監(jiān)測(cè)站、點(diǎn)等數(shù)據(jù)必須實(shí)時(shí)匯聚傳輸?shù)绞≡拼鎯?chǔ)系統(tǒng)，然后通過(guò)省云處理平臺(tái)對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)分析查詢提供給輻射環(huán)境監(jiān)控系統(tǒng)，實(shí)現(xiàn)放射環(huán)境的實(shí)時(shí)監(jiān)控。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、完成放射源監(jiān)控點(diǎn)附近以及城市監(jiān)測(cè)點(diǎn)的輻射的強(qiáng)度的實(shí)時(shí)在線監(jiān)測(cè)。監(jiān)測(cè)因子包括空氣吸收劑量率、氣象參數(shù)等指標(biāo)。2、各類監(jiān)測(cè)設(shè)備自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、對(duì)放射源監(jiān)控點(diǎn)附近以及城市監(jiān)測(cè)點(diǎn)的輻射的強(qiáng)度進(jìn)行分析比對(duì)，超出正常范圍時(shí)自動(dòng)啟動(dòng)預(yù)警或報(bào)警系統(tǒng)。2、建立與放射源監(jiān)控點(diǎn)的互動(dòng)體系，將實(shí)時(shí)的輻射量信息及時(shí)提供給省云存儲(chǔ)平臺(tái)，以監(jiān)控質(zhì)量自動(dòng)監(jiān)測(cè)站的正常運(yùn)行，避免發(fā)生重大泄漏事故。3、對(duì)監(jiān)測(cè)數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析，為環(huán)保部門及時(shí)了解城市輻射強(qiáng)度的狀態(tài)提供依據(jù)。重點(diǎn)污染源監(jiān)控系統(tǒng)重點(diǎn)污染源監(jiān)控系統(tǒng)主要用于省對(duì)重點(diǎn)污染源、集中式污水處理廠以及總裝機(jī)30萬(wàn)千瓦以上燃煤電廠的省級(jí)聯(lián)網(wǎng)自動(dòng)監(jiān)控，它能夠監(jiān)控進(jìn)出污水處理廠的水量和水質(zhì)的主要指標(biāo)、鼓風(fēng)機(jī)電量等數(shù)據(jù)。通過(guò)本系統(tǒng)，使環(huán)保部門的領(lǐng)導(dǎo)層能夠及時(shí)、全面掌握重點(diǎn)污染源、集中式污水處理情況及其燃煤電廠的電量數(shù)據(jù)等，方便地進(jìn)行匯總與分析、比對(duì)，完善對(duì)重點(diǎn)污染源的控制與治理，提供計(jì)算機(jī)規(guī)范化管理和系統(tǒng)。安裝了自動(dòng)監(jiān)控設(shè)備的廠需要及時(shí)地與省聯(lián)網(wǎng)，自動(dòng)監(jiān)測(cè)設(shè)備將獲取到的污水處理廠的水量、水質(zhì)的主要指標(biāo)、鼓風(fēng)機(jī)電量等重要數(shù)據(jù)通過(guò)網(wǎng)絡(luò)傳輸，最終匯聚存儲(chǔ)在省云存儲(chǔ)系統(tǒng)中去。省云處理平臺(tái)負(fù)責(zé)對(duì)云存儲(chǔ)系統(tǒng)中的污染源數(shù)據(jù)建立索引，對(duì)數(shù)據(jù)進(jìn)行分析與匯總，同時(shí)為重點(diǎn)污染源監(jiān)控系統(tǒng)提供WebService接口，快速地反饋分析結(jié)果。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、完成對(duì)污水處理過(guò)程的全過(guò)程監(jiān)控。對(duì)進(jìn)出污水處理廠的水量和水質(zhì)主要指標(biāo)（COD、總氮、總磷等）、鼓風(fēng)機(jī)電流、鼓風(fēng)量、曝氣設(shè)備的運(yùn)行情況、曝氣池的溶解氧濃度、污泥濃度、濾池堵塞率等數(shù)據(jù)實(shí)施監(jiān)控。2、完成排放口自動(dòng)監(jiān)測(cè)，實(shí)時(shí)采集污水排放口的水質(zhì)及流量數(shù)據(jù)。3、完成對(duì)各排放口進(jìn)行實(shí)時(shí)視頻監(jiān)控。4、完成污水處理過(guò)程中各個(gè)工藝環(huán)節(jié)的能耗情況的實(shí)時(shí)數(shù)據(jù)監(jiān)測(cè)。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、排放口出水?dāng)?shù)據(jù)與過(guò)程參數(shù)作相關(guān)性分析，自動(dòng)判斷出水?dāng)?shù)據(jù)是否正常，對(duì)異常行為自動(dòng)預(yù)警。2、以圖表等形式動(dòng)態(tài)顯示排放口的最新監(jiān)測(cè)數(shù)據(jù)、采樣時(shí)間及設(shè)備狀況，對(duì)數(shù)據(jù)超標(biāo)或設(shè)備錯(cuò)誤自動(dòng)報(bào)警。3、對(duì)現(xiàn)場(chǎng)視頻設(shè)備進(jìn)行遠(yuǎn)程控制，控制云臺(tái)和鏡頭的轉(zhuǎn)動(dòng)縮放，可在排放口的實(shí)時(shí)視頻中動(dòng)態(tài)疊加顯示該排放口的實(shí)時(shí)排放數(shù)據(jù)。4、提供對(duì)數(shù)據(jù)采集設(shè)備和排放口電動(dòng)閥的遠(yuǎn)程反控功能，根據(jù)需要向設(shè)備發(fā)送反控命令，控制設(shè)備啟動(dòng)采樣或控制排污閥門的開(kāi)關(guān)。5、移動(dòng)數(shù)據(jù)查詢?？赏ㄟ^(guò)WindowsMobile、iPhone等智能移動(dòng)設(shè)備，查詢排放口的實(shí)時(shí)排放數(shù)據(jù)及歷史統(tǒng)計(jì)數(shù)據(jù)。6、通過(guò)對(duì)污水處理過(guò)程中各個(gè)工藝環(huán)節(jié)的用電情況實(shí)時(shí)監(jiān)測(cè)，精確計(jì)算每個(gè)工藝過(guò)程的電耗成本，經(jīng)有效的數(shù)據(jù)分析，提出需要優(yōu)化的工藝環(huán)節(jié)、優(yōu)化方法等建議，以幫助污水處理廠節(jié)能降耗。機(jī)動(dòng)車監(jiān)控系統(tǒng)近年來(lái)，隨著機(jī)動(dòng)車數(shù)量的增加，機(jī)車車排放對(duì)環(huán)境的污染已經(jīng)成為重要的污染源之一。因?yàn)?，?duì)機(jī)動(dòng)車尾氣的排放的嚴(yán)格控制也是省環(huán)境治理的首要任務(wù)之一。機(jī)動(dòng)車尾汽的監(jiān)控設(shè)備根據(jù)一定的過(guò)濾規(guī)則將拍攝到的畫(huà)面通過(guò)網(wǎng)絡(luò)傳送到省云存儲(chǔ)系統(tǒng)中，云處理端運(yùn)行一些圖像模式識(shí)別進(jìn)程根據(jù)一定的規(guī)則分析產(chǎn)生需要的記錄，對(duì)記錄進(jìn)行統(tǒng)計(jì)分析，同時(shí)為web端提供API調(diào)用接口，實(shí)現(xiàn)機(jī)動(dòng)車監(jiān)控系統(tǒng)對(duì)機(jī)動(dòng)車尾氣的排放情況的實(shí)時(shí)分析查詢。本系統(tǒng)在全省典型區(qū)域具有代表性的交通干道附近，設(shè)立機(jī)動(dòng)車尾氣監(jiān)測(cè)系統(tǒng)模塊，對(duì)目標(biāo)區(qū)域的機(jī)動(dòng)車尾氣排放進(jìn)行連續(xù)自動(dòng)監(jiān)測(cè)。按要求提交有效數(shù)據(jù)，連續(xù)自動(dòng)監(jiān)測(cè)數(shù)據(jù)匯總至系統(tǒng)平臺(tái)，所提交數(shù)據(jù)經(jīng)分析處理后提交各級(jí)監(jiān)管部門，確保及時(shí)、準(zhǔn)確、可靠。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、對(duì)目標(biāo)區(qū)域的SO2、NO2、O3、芳香烴、NH3、CO、CO2、CH4、C2H6等指標(biāo)進(jìn)行實(shí)時(shí)監(jiān)測(cè)。2、完成對(duì)重點(diǎn)路段實(shí)時(shí)視頻監(jiān)控。3、各類監(jiān)測(cè)設(shè)備自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、對(duì)主要道路廢氣數(shù)據(jù)、社區(qū)空氣監(jiān)測(cè)數(shù)據(jù)等做相關(guān)性分析，自動(dòng)判斷出氣體狀態(tài)是否正常，對(duì)異常情況自動(dòng)預(yù)警。建立突發(fā)事件決策模型。2、以圖表等形式動(dòng)態(tài)顯示道路廢氣的最新監(jiān)測(cè)數(shù)據(jù)、采樣時(shí)間及設(shè)備狀況，對(duì)數(shù)據(jù)超標(biāo)或設(shè)備錯(cuò)誤自動(dòng)報(bào)警。3、對(duì)現(xiàn)場(chǎng)視頻設(shè)備進(jìn)行遠(yuǎn)程控制，控制云臺(tái)和鏡頭的轉(zhuǎn)動(dòng)縮放，可在實(shí)時(shí)視頻中動(dòng)態(tài)疊加顯示該區(qū)域的空氣情況。4、移動(dòng)數(shù)據(jù)查詢?？赏ㄟ^(guò)手機(jī)、電腦等智能移動(dòng)設(shè)備，查詢道路廢氣、車流量數(shù)據(jù)及歷史統(tǒng)計(jì)數(shù)據(jù)。5、通過(guò)平臺(tái)向先民眾發(fā)布道路廢氣狀態(tài)、社區(qū)空氣質(zhì)量，指導(dǎo)民眾出行。危險(xiǎn)廢物監(jiān)控系統(tǒng)“省危險(xiǎn)廢物動(dòng)態(tài)管理信息系統(tǒng)”是列入我省環(huán)境監(jiān)控系統(tǒng)建設(shè)項(xiàng)目的危險(xiǎn)廢物監(jiān)管子系統(tǒng)，是一個(gè)覆蓋省范圍的基于計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)的固廢環(huán)境綜合信息管理系統(tǒng)。該項(xiàng)目通過(guò)省、市、縣固廢監(jiān)控部門的同步聯(lián)網(wǎng)，可以為固體廢物管理部門對(duì)危險(xiǎn)廢物產(chǎn)生單位、危險(xiǎn)廢物經(jīng)營(yíng)單位、危險(xiǎn)廢物申報(bào)登記、危險(xiǎn)廢物轉(zhuǎn)移備案、綜合統(tǒng)計(jì)報(bào)表、數(shù)據(jù)采集與上報(bào)等各個(gè)環(huán)節(jié)提供計(jì)算機(jī)規(guī)范化管理和系統(tǒng)。目前，“省危險(xiǎn)廢物動(dòng)態(tài)管理信息系統(tǒng)”已在省外網(wǎng)發(fā)布，并在部分市、縣（區(qū)）開(kāi)展試運(yùn)行工作。應(yīng)用了云計(jì)算的危險(xiǎn)廢物監(jiān)控系統(tǒng)在處理上將達(dá)到一個(gè)更高的速度，首先從危險(xiǎn)廢物監(jiān)控獲取的數(shù)據(jù)，以及固體廢物管理部門對(duì)危險(xiǎn)廢物產(chǎn)生單位、經(jīng)營(yíng)單位等信息進(jìn)行采集得到的數(shù)據(jù)會(huì)存放到省云存儲(chǔ)系統(tǒng)中，由云處理平臺(tái)建立索引，負(fù)責(zé)對(duì)數(shù)據(jù)的索引處理等，向web層提供WebService接口，使得危險(xiǎn)廢物監(jiān)控系統(tǒng)能夠快速準(zhǔn)確地獲取分析的得到污水處理廠水量、水質(zhì)指標(biāo)、鼓風(fēng)機(jī)電量等數(shù)據(jù)。危險(xiǎn)固體廢物需要采用集中與分散處理相結(jié)合的處理方式，本系統(tǒng)通過(guò)對(duì)可危險(xiǎn)固體廢物安全處置的監(jiān)控，實(shí)現(xiàn)危險(xiǎn)廢物安全處置的全壽命周期管理。本系統(tǒng)中廣義終端層完成的主要內(nèi)容如下：1、建立危險(xiǎn)固體廢物的識(shí)別標(biāo)簽，監(jiān)控該類固體廢物的流向。2、各類監(jiān)測(cè)設(shè)備自動(dòng)故障檢測(cè)、報(bào)警。本系統(tǒng)中云平臺(tái)完成的主要內(nèi)容如下：1、危險(xiǎn)固體廢物從離開(kāi)工廠開(kāi)始建立識(shí)別標(biāo)簽，對(duì)標(biāo)簽的種類進(jìn)行定義，自動(dòng)識(shí)別危險(xiǎn)級(jí)別，制定處置方法，以供管理部門對(duì)處置方案的制定。2、對(duì)危險(xiǎn)固體廢物的產(chǎn)生量進(jìn)行統(tǒng)計(jì)分析，為環(huán)保部門及時(shí)了解狀態(tài)提供依據(jù)。風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)省還將建立風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)，要求各級(jí)人民政府逐漸建立全省環(huán)境風(fēng)險(xiǎn)源企業(yè)的基本臺(tái)賬，包括應(yīng)急預(yù)案、應(yīng)急專家、應(yīng)急人員、應(yīng)急車輛、應(yīng)急組織、應(yīng)急器材等相關(guān)信息。目前省環(huán)境應(yīng)急中心已初步建立了風(fēng)隊(duì)源動(dòng)態(tài)管理臺(tái)賬數(shù)據(jù)庫(kù)，省與各市環(huán)境應(yīng)急中心現(xiàn)有14輛衛(wèi)星通信指揮車，并連接成環(huán)境事幫指揮通信系統(tǒng)。在前期全省環(huán)境風(fēng)險(xiǎn)源檢查的基礎(chǔ)上，還根據(jù)風(fēng)險(xiǎn)主體的危險(xiǎn)度、控制機(jī)制的有效度和風(fēng)險(xiǎn)受體易損度三方面篩選原則，將重要的風(fēng)險(xiǎn)源企業(yè)演練的視頻、文字等相關(guān)材料接入省級(jí)環(huán)境監(jiān)控平臺(tái)，并將一實(shí)時(shí)視頻監(jiān)控設(shè)施的相關(guān)內(nèi)容接入二期的環(huán)境監(jiān)控平臺(tái)，建成環(huán)境應(yīng)急通信系統(tǒng)，實(shí)現(xiàn)現(xiàn)場(chǎng)移動(dòng)指揮功能。這是一個(gè)很龐大的工程，會(huì)產(chǎn)生大量的數(shù)據(jù)，對(duì)這些大數(shù)據(jù)的分析變得十分重要。所有的這些信息都將存儲(chǔ)到省云存儲(chǔ)系統(tǒng)中，云處理平臺(tái)對(duì)海量數(shù)據(jù)建立索引，方便數(shù)據(jù)的快速查找。同時(shí)向風(fēng)險(xiǎn)源監(jiān)控系統(tǒng)提供各種WebService接口，快速地從海量數(shù)據(jù)中分析得出的分析結(jié)果。系統(tǒng)利用3DGIS技術(shù)對(duì)省內(nèi)地形地理、港口航道、場(chǎng)地建筑、化工企業(yè)廠等多專業(yè)信息和成果進(jìn)行一體化存儲(chǔ)管理，在此基礎(chǔ)上實(shí)現(xiàn)二、三維地質(zhì)成果圖件生成及專業(yè)分析計(jì)算；實(shí)現(xiàn)地上建筑、地表模型、企業(yè)設(shè)施、特殊設(shè)備的構(gòu)建，借助三維可視化技術(shù)在一個(gè)統(tǒng)一的時(shí)空框架下對(duì)該區(qū)地面以上、地面各種環(huán)境進(jìn)行整體的三維可視化表達(dá)、管理、更新、查詢與分析、量算工具、窗口管理、地圖打印等，建立集數(shù)字化、信息化、可視化為一體的空間信息系統(tǒng)。

本系統(tǒng)提供的主要內(nèi)容包括：

1、多功能顯示

——按顯示比例尺的變化，自動(dòng)增加或較少圖面顯示信息量，減少信息疊加，增強(qiáng)可視性。無(wú)級(jí)放大、縮小，拉框放大、縮小，按指定比例尺顯示。

——三維提供定位，導(dǎo)航，視角定位等功能。

——可按需要調(diào)整當(dāng)前顯示各圖層的疊放次序，并可設(shè)置各圖層信息的透明度。

——按任意閉合圖形的摳圖功能，在圖形外顯示的信息可按需要任意的調(diào)節(jié)。

——提供基于圖名、圖號(hào)、地名、位置和索引圖等調(diào)圖方式。

——提供用戶自定義顯示功能，可以在地圖上疊加顯示其他專題工具。

——能夠?qū)κ噶康貓D、像素地圖、遙感圖像、三維正視圖、統(tǒng)計(jì)專題圖以及其它專題圖進(jìn)行疊加顯示。提供大范圍地圖漫游。

——窗口具有連續(xù)平滑中心縮放的功能，用戶用鼠標(biāo)的左右鍵對(duì)窗口進(jìn)行推拉鏡頭操作，結(jié)合平滑漫游功能使窗口操作非常方便和直觀。

——提供二維鷹眼與三維鷹眼互動(dòng)，實(shí)現(xiàn)鷹眼三維二維同時(shí)定位功能。

2、地圖查詢

為方便用戶的查詢，將主要以GIS的空間拓?fù)潢P(guān)系處理為依據(jù)，系統(tǒng)提供多種查詢方式供選擇，如：屏幕點(diǎn)擊查詢、一般查詢、各類專題圖查詢、條件/模糊查詢、地理背景地物查詢等等。

3、示范工程規(guī)劃展示

系統(tǒng)不僅能查看省試點(diǎn)地區(qū)現(xiàn)狀圖，還能在圖上疊加顯示建設(shè)規(guī)劃圖。系統(tǒng)方便的查詢示范區(qū)規(guī)劃數(shù)據(jù)，查詢示范區(qū)建設(shè)狀況，系統(tǒng)可以同時(shí)顯示規(guī)劃圖形與已完工圖形，對(duì)各規(guī)劃或建成數(shù)據(jù)進(jìn)行各種統(tǒng)計(jì)分析，領(lǐng)導(dǎo)和有關(guān)人員可以及時(shí)了解示范工程建設(shè)狀況。

4、統(tǒng)計(jì)計(jì)算比較

數(shù)據(jù)統(tǒng)計(jì)是指針對(duì)某一類數(shù)據(jù)進(jìn)行基于時(shí)間或其他情況下的統(tǒng)計(jì)，從而為用戶提供業(yè)務(wù)上的支持。提供基于地圖計(jì)算的數(shù)據(jù)統(tǒng)計(jì)、基于數(shù)據(jù)本身屬性的數(shù)據(jù)統(tǒng)計(jì)、查詢結(jié)果要素統(tǒng)計(jì)、根據(jù)統(tǒng)計(jì)數(shù)據(jù)生成各種圖表等。

5、數(shù)據(jù)分析轉(zhuǎn)換

系統(tǒng)提供GIS常用分析轉(zhuǎn)換功能，如：地形分析與量算、緩沖區(qū)分析、網(wǎng)絡(luò)分析、疊置分析、柵格分析、地圖投影轉(zhuǎn)換功能、大地坐標(biāo)系轉(zhuǎn)換等。

6、成圖打印輸出

提供復(fù)合標(biāo)注功能，自動(dòng)生成比例尺、指南針、圖例，可以多比例尺地圖同窗成圖采用所見(jiàn)即所得的方式，對(duì)加載到地圖視圖窗口、經(jīng)符號(hào)化顯示的專題數(shù)據(jù)作為地圖對(duì)象直接調(diào)入制圖窗口，并可設(shè)置輸出頁(yè)面和制圖比例尺，生成圖例、統(tǒng)計(jì)圖表等，另外，利用系統(tǒng)提供的繪制和對(duì)象編輯工具進(jìn)行圖廓整飾和文字說(shuō)明添加等操作，從而完成符合標(biāo)準(zhǔn)的專題圖產(chǎn)品并打印輸出。

7、三維地理信息

是遙感、地理信息系統(tǒng)、三維仿真等高新技術(shù)的結(jié)合，它是以三維的手法進(jìn)行建模，模擬出一個(gè)三維的建筑、場(chǎng)景、效果，可以在數(shù)字場(chǎng)景中任意游走、馳騁、飛行、縮放，從整體到局部再?gòu)木植康秸w，無(wú)所限制。借助PC機(jī)、顯示系統(tǒng)等起到展示、解說(shuō)、指揮、講解等作用。系統(tǒng)運(yùn)用GIS平臺(tái)的3D模型，將GIS平臺(tái)中的各種應(yīng)用顯示在電子沙盤中進(jìn)行展示，并且提供港口宣傳資料的編輯維護(hù)以及動(dòng)態(tài)的展示。平臺(tái)安全云處理平臺(tái)信任保護(hù)云處理可信平臺(tái)實(shí)現(xiàn)系統(tǒng)平臺(tái)（處理環(huán)境）認(rèn)證、應(yīng)用系統(tǒng)完整性認(rèn)證、分布式資源信任認(rèn)證和用戶身份認(rèn)證4個(gè)層次。多層信任保護(hù)的具體結(jié)構(gòu)如下圖所示。圖表多級(jí)信任保護(hù)在上圖中，平臺(tái)認(rèn)證是基礎(chǔ)，為其他3種認(rèn)證提供一個(gè)可靠的處理環(huán)境。平臺(tái)認(rèn)證、應(yīng)用認(rèn)證、資源認(rèn)證和用戶認(rèn)證都通過(guò)統(tǒng)一的證書(shū)機(jī)制來(lái)實(shí)現(xiàn)。（1）云平臺(tái)信任保護(hù)由于TPM（trustplatformmodule）規(guī)范能夠支持現(xiàn)有的公鑰基礎(chǔ)設(shè)施，并且TPM內(nèi)部的認(rèn)證密鑰和64位物理唯一序列號(hào)都能很好地實(shí)現(xiàn)自身和平臺(tái)的綁定。因此可信平臺(tái)之間的信任關(guān)系可以借助基于可信第三方的證書(shū)機(jī)制來(lái)保障。即每一個(gè)節(jié)點(diǎn)將能夠代表自身特征的關(guān)鍵信息以可靠地方式提交到可信第三方（如CA中心），可信第三方在核實(shí)這些數(shù)據(jù)的真實(shí)性和完整性后對(duì)其簽名，并為其頒發(fā)一個(gè)平臺(tái)證書(shū)。此后，該平臺(tái)在和其他平臺(tái)通信時(shí)可以出示該證書(shū)，以表明自己的合法身份。平臺(tái)在向可信第三方提交平臺(tái)信息和驗(yàn)證其他平臺(tái)證書(shū)合法性時(shí)，都需要借助TPM的硬件支持。在下圖所示的實(shí)例中，云平臺(tái)A和B都從證書(shū)頒發(fā)中心獲得自己的平臺(tái)證書(shū)。當(dāng)B請(qǐng)求與A建立連接并向A出示自己的證書(shū)后，A借助TPM驗(yàn)證B出示的證書(shū)的有效性。圖表基于可信第三方的平臺(tái)認(rèn)證為了確保云端用戶訪問(wèn)云平臺(tái)的可信性，并確保遠(yuǎn)程節(jié)點(diǎn)具有期望的完全保障條件，基于可信處理平臺(tái)的多級(jí)信任保護(hù)方法構(gòu)造包含下表中各種主要因素的平臺(tái)證書(shū)。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)據(jù)說(shuō)明Cert_NumChar證書(shū)編號(hào)Cert_TypeShort證書(shū)類型Cert_DistributeTimeByte[20]頒發(fā)時(shí)間Cert_LimitTimeByte[20]有效期限TPM_IDByte[8]TPM序列號(hào)Hardware_CodeByte[20]平臺(tái)硬件標(biāo)識(shí)Software_CodeByte[20]平臺(tái)軟件標(biāo)識(shí)SecureComponent_CodeByte[20]安全組織組件標(biāo)識(shí)………CA_SignatureByte[128]CA簽名信息圖表主要因素平臺(tái)證書(shū)在圖中，TPM和端系統(tǒng)唯一綁定；硬件標(biāo)識(shí)碼代表了端系統(tǒng)中各種硬件設(shè)備的完整性信息，包括CPU序列號(hào)、主板型號(hào)、硬盤序列號(hào)、內(nèi)存容量等；軟件標(biāo)識(shí)碼代表了端系統(tǒng)中包含操作系統(tǒng)版本、補(bǔ)丁、主要服務(wù)等軟件完整性信息；安全組件標(biāo)識(shí)碼是各種安全組件的完整性度量結(jié)果，包括防火墻類型、安全補(bǔ)丁、防病毒軟件名稱等。為了獲取這些數(shù)據(jù)的完整性度量結(jié)果，采用Hash函數(shù)對(duì)系統(tǒng)中的硬件標(biāo)識(shí)信息、軟件版本信息或安全組件描述信息進(jìn)行處理，得出一個(gè)代表該系統(tǒng)相關(guān)信息完整性的度量值。此處，選擇SHA-1算法作為完整性度量函數(shù)。簽名信息是可信第三方對(duì)證書(shū)內(nèi)容的數(shù)字簽名，簽名信息的存在確保了證書(shū)的合法性和不可篡改性。（2）應(yīng)用信任保護(hù)有了云平臺(tái)認(rèn)證，用戶就能斷言遠(yuǎn)程協(xié)作者在確定的節(jié)點(diǎn)和環(huán)境中進(jìn)行工作。但在網(wǎng)絡(luò)處理等復(fù)雜應(yīng)用中，一個(gè)節(jié)點(diǎn)可能承載了多個(gè)應(yīng)用系統(tǒng)、擔(dān)負(fù)著多個(gè)處理任務(wù)。所以，需要確保單個(gè)應(yīng)用系統(tǒng)不同部分間（如客戶端和服務(wù)器端）的可信。Seshadri等人研究了代碼的遠(yuǎn)程完整性驗(yàn)證方法。該方法從數(shù)據(jù)完整性的角度解決了授權(quán)執(zhí)行的遠(yuǎn)程應(yīng)用的可信性。借鑒他的思想，采用認(rèn)證應(yīng)用系統(tǒng)中進(jìn)程完整性的辦法對(duì)應(yīng)用系統(tǒng)進(jìn)行信任保護(hù)。即端系統(tǒng)控制各個(gè)應(yīng)用的進(jìn)程，只有通過(guò)完整性認(rèn)證并授權(quán)執(zhí)行的進(jìn)程才能被啟動(dòng)。為此，系統(tǒng)為每個(gè)重要的分布式應(yīng)用定義若干個(gè)進(jìn)行完整性證書(shū)，證書(shū)的主要內(nèi)容如下表所示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)據(jù)說(shuō)明………………Process_IDByte[20]進(jìn)程IDProcess_IntegrityByte[20]完整性度量值………………TPM_SignByte[20]TPM簽名信息在圖中，進(jìn)程完整性度量值是采用單向散列函數(shù)對(duì)進(jìn)程代碼進(jìn)行處理后得出的值。進(jìn)程完整性證書(shū)中。進(jìn)程完整性認(rèn)證可以確保遠(yuǎn)程協(xié)作進(jìn)程的可信性，一定程度上降低病毒和木馬進(jìn)行插入攻擊的風(fēng)險(xiǎn)。（3）資源信任保護(hù)多級(jí)信任保護(hù)方法仍然采用證書(shū)機(jī)制實(shí)現(xiàn)對(duì)資源的信任保護(hù)。即端系統(tǒng)基于TPM給平臺(tái)中共享的網(wǎng)絡(luò)資源頒發(fā)完整性證書(shū)并簽名。其他對(duì)等的端系統(tǒng)需要訪問(wèn)該資源時(shí)，可以驗(yàn)證該證書(shū)的合法性并從證書(shū)中獲悉資源的完整性度量數(shù)據(jù)。由于采用單向散列函數(shù)處理出的資源完整性度量值能夠代表該資源的可信性，因此遠(yuǎn)程用戶可以據(jù)此決定是否訪問(wèn)該網(wǎng)絡(luò)資源?？紤]單純采用單向散列函數(shù)處理資源的完整性消耗的時(shí)間過(guò)長(zhǎng)，實(shí)際實(shí)現(xiàn)時(shí)根據(jù)資源可信要求的不同采取了一些靈活的措施。如一些可信要求不高的資源文件，只針對(duì)資源文件的基本屬性或按樣條規(guī)則抽出部分?jǐn)?shù)據(jù)進(jìn)行完整性度量；資源完整性證書(shū)的主要數(shù)據(jù)成員如下表所示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)據(jù)說(shuō)明………………Process_IDByte[20]資源標(biāo)識(shí)IDProcess_IntegrityByte[20]資源完整性信息………………TPM_SignByte[20]TPM簽名信息（4）用戶信任保護(hù)用戶信任保護(hù)的需求在現(xiàn)有分布式應(yīng)用中已經(jīng)普遍存在，但現(xiàn)有基于身份認(rèn)證的用戶信任保護(hù)方法僅僅針對(duì)用戶實(shí)體進(jìn)行認(rèn)證，無(wú)法將用戶實(shí)體和處理環(huán)境以及用戶的物理存在性聯(lián)系起來(lái)?；诳尚牌脚_(tái)的多級(jí)信任保護(hù)方法在系統(tǒng)平臺(tái)認(rèn)證和應(yīng)用認(rèn)證的基礎(chǔ)上進(jìn)一步進(jìn)行用戶身份認(rèn)證，從而能夠?qū)⑾到y(tǒng)中的用戶鎖定到具體的處理平臺(tái)和具體的應(yīng)用系統(tǒng)。多級(jí)信任保護(hù)方法中的用戶身份證書(shū)的主要數(shù)據(jù)成員如下表所示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)據(jù)說(shuō)明………………User_IDByte[16]用戶IDApplication_IDByte[16]應(yīng)用IDPlatform_IDByte[16]平臺(tái)ID………………App_SignByte[16]應(yīng)用簽名TPM_SignByte[16]TPM簽名在上表中，用戶ID是系統(tǒng)中用戶的惟一標(biāo)識(shí)，可以使用用戶編號(hào)（用戶名稱）或者用戶擁有的智能卡（SKEY）的序列號(hào)；所屬應(yīng)用ID是用戶所屬應(yīng)用的惟一標(biāo)識(shí)，可以使用應(yīng)用的完整性度量值來(lái)代替（單進(jìn)程應(yīng)用可以使用進(jìn)程的完整性數(shù)據(jù)代替，多進(jìn)程應(yīng)用可以將各個(gè)進(jìn)程完整性度量數(shù)據(jù)拼接后，處理出新的整個(gè)應(yīng)用的完整性度量數(shù)據(jù)）；平臺(tái)ID是創(chuàng)建該用戶的端系統(tǒng)標(biāo)識(shí)，可以使用和平臺(tái)綁定的TPM的惟一序列號(hào)?；诙嗉?jí)信任保護(hù)的訪問(wèn)控制用戶管理與權(quán)限控制子系統(tǒng)的接口關(guān)系如下圖所示，各模塊間接口關(guān)系如下：身份服務(wù)模塊在用戶提交進(jìn)入系統(tǒng)的申請(qǐng)后向身份管理系統(tǒng)模塊提交用戶信息和身份申請(qǐng)；身份管理系統(tǒng)模塊在確認(rèn)用戶信息后將身份管理指令和身份信息反饋至身份服務(wù)模塊；認(rèn)證服務(wù)模塊對(duì)用戶身份進(jìn)行驗(yàn)證，確認(rèn)用戶合法性；訪問(wèn)控制模塊接收用戶的授權(quán)請(qǐng)求后，向授權(quán)管理系統(tǒng)模塊提交用戶授權(quán)和相關(guān)信息；授權(quán)管理系統(tǒng)模塊根據(jù)用戶信息（如用戶所對(duì)應(yīng)角色、所在安全域等）為用戶分配相應(yīng)的權(quán)限或回收相應(yīng)權(quán)限將結(jié)果反饋給訪問(wèn)控制模塊；訪問(wèn)控制模塊得到用戶的權(quán)限信息后根據(jù)信息的內(nèi)容和用戶請(qǐng)求執(zhí)行需要的具體操作。數(shù)據(jù)隔離、數(shù)據(jù)校驗(yàn)（防篡改）、數(shù)據(jù)加密和數(shù)據(jù)保護(hù)模塊提供對(duì)存儲(chǔ)數(shù)據(jù)的安全保護(hù)。圖表SEQ圖表\*ARABIC云存儲(chǔ)安全子系統(tǒng)接口關(guān)系圖在云平臺(tái)中，用戶有不同的訪問(wèn)權(quán)限，針對(duì)不同權(quán)限的用戶可以設(shè)定不同等級(jí)的操作。同時(shí)存儲(chǔ)在底層資源池中的資源也同樣劃分為不同的安全等級(jí)，不同等級(jí)的資源，訪問(wèn)途徑是不相同的。本項(xiàng)目提出了基于可信平臺(tái)的多級(jí)信任保護(hù)方法，其主要目標(biāo)是能夠認(rèn)證訪問(wèn)云平臺(tái)的應(yīng)用（進(jìn)程）、資源和用戶的可信性，從而能夠非常方便地服務(wù)于多級(jí)訪問(wèn)控制技術(shù)，為其提供良好的基礎(chǔ)。簡(jiǎn)單地，可以將系統(tǒng)中的資源按可信性需求程度分為高、中和低3個(gè)等級(jí)。資源的可信要求越高，對(duì)訪問(wèn)該資源的用戶的可信性也要求越高。具體流程如下圖所示：圖表基于多級(jí)信任保護(hù)的多級(jí)訪問(wèn)控制流程為了更好的保護(hù)虛擬資源池的數(shù)據(jù)安全，首先要建立一個(gè)可信的資源訪問(wèn)控制，可以利用網(wǎng)閘和訪問(wèn)控制器建立一套監(jiān)控機(jī)制，對(duì)訪問(wèn)資源池的請(qǐng)求進(jìn)行監(jiān)督，只允許外部連接通過(guò)專用的協(xié)議進(jìn)行訪問(wèn)，而對(duì)其它非可信的訪問(wèn)一律拒絕，以防止惡意的非法入侵和攻擊，包括漏洞攻擊、DDoS攻擊和帶寬攻擊等，建立一個(gè)數(shù)據(jù)安全交換平臺(tái)，如下圖所示。圖表數(shù)據(jù)安全交換平臺(tái)具體實(shí)現(xiàn)方式包括：會(huì)話終止：請(qǐng)求端通過(guò)網(wǎng)閘與資源池建立連接時(shí)，網(wǎng)閘的對(duì)外網(wǎng)絡(luò)接口會(huì)通過(guò)模擬應(yīng)用的服務(wù)器端，終止網(wǎng)絡(luò)之間的會(huì)話連接，這樣可確保在不可信和可信網(wǎng)絡(luò)之間沒(méi)有一條激活的會(huì)話連接；協(xié)議安全檢查：對(duì)來(lái)自連接的數(shù)據(jù)包進(jìn)行基于內(nèi)部RFC的協(xié)議分析，也可以對(duì)某些協(xié)議進(jìn)行動(dòng)態(tài)分析，檢查是否有攻擊成分；數(shù)據(jù)抽取和內(nèi)部封裝：在協(xié)議檢查同時(shí)，將協(xié)議分析后的數(shù)據(jù)包中的數(shù)據(jù)提取出來(lái)，然后將數(shù)據(jù)和安全協(xié)議一起通過(guò)特定的格式壓縮、數(shù)據(jù)封裝轉(zhuǎn)化成網(wǎng)閘另一端能接受的格式；基于安全策略的決策審查：安全策略決策是運(yùn)行在訪問(wèn)控制器上，由系統(tǒng)管理員定義。它分析外部來(lái)的數(shù)據(jù)，主要是源地址、目的地址以及協(xié)議等信息，并且和規(guī)則庫(kù)進(jìn)行匹配，看是否允許通過(guò)或丟棄；編碼與解碼：對(duì)靜態(tài)的數(shù)據(jù)塊進(jìn)行編碼，編碼是相對(duì)復(fù)雜而且基于隨機(jī)關(guān)鍵字的。一旦編碼，則打亂了數(shù)據(jù)或命令的原有格式，使數(shù)據(jù)中可能攜帶的可執(zhí)行惡意代碼失效，阻止惡意程序執(zhí)行。一旦數(shù)據(jù)經(jīng)過(guò)了內(nèi)容檢測(cè)且確認(rèn)是安全的，它就被解碼，準(zhǔn)備發(fā)送到內(nèi)部網(wǎng)絡(luò)；會(huì)話生成內(nèi)部服務(wù)器模擬應(yīng)用的客戶端，將經(jīng)檢測(cè)過(guò)的數(shù)據(jù)發(fā)送到內(nèi)部網(wǎng)絡(luò)，和內(nèi)部網(wǎng)絡(luò)上真正的應(yīng)用服務(wù)器建立一個(gè)新的連接，接著生成符合RFC協(xié)議的新通信包。同時(shí)，通過(guò)外部集成入侵檢測(cè)系統(tǒng)IDS，對(duì)網(wǎng)絡(luò)通信進(jìn)行安全審計(jì)，及時(shí)發(fā)現(xiàn)和追蹤各類非法連接行為；通過(guò)外部集成的負(fù)載均衡設(shè)備，為訪問(wèn)用戶提供虛擬IP地址，保證物理機(jī)器對(duì)用戶不可見(jiàn)，避免非法用戶對(duì)真實(shí)物理機(jī)的直接訪問(wèn)，避免對(duì)物理機(jī)的可能操作動(dòng)作。云處理平臺(tái)安全審計(jì)云處理平臺(tái)安全審計(jì)任務(wù)由分布于網(wǎng)絡(luò)各處的功能單元協(xié)作完成，這些單元還能在更高層次結(jié)構(gòu)上進(jìn)一步擴(kuò)展，從而能夠適應(yīng)網(wǎng)絡(luò)規(guī)模的擴(kuò)大。云安全審計(jì)體系結(jié)構(gòu)如下圖所示。圖表云存儲(chǔ)安全審計(jì)體系結(jié)構(gòu)它由三部分組成：主機(jī)代理模塊：在受監(jiān)視系統(tǒng)中作為后臺(tái)進(jìn)程運(yùn)行的審計(jì)信息收集模塊。主要目的是收集主機(jī)上與安全相關(guān)的事件信息，并將數(shù)據(jù)傳送給中央管理者。局域網(wǎng)監(jiān)視器代理模塊：主要分析局域網(wǎng)通訊流量，根據(jù)需要將結(jié)果報(bào)告給中央管理者。中央管理者模塊：接收包括來(lái)自局域網(wǎng)監(jiān)視器和主機(jī)代理的數(shù)據(jù)和報(bào)告，控制整個(gè)系統(tǒng)的通信信息，對(duì)接收到的數(shù)據(jù)進(jìn)行分析。在云安全審計(jì)體系結(jié)構(gòu)中，代理截獲審計(jì)收集系統(tǒng)生成的審計(jì)記錄，應(yīng)用過(guò)濾器去掉與安全無(wú)關(guān)的記錄，然后將這些記錄轉(zhuǎn)化成一種標(biāo)準(zhǔn)格式以實(shí)現(xiàn)互操作。然后，代理中的分析模塊分析記錄，并與該用戶的歷史映像相比較，當(dāng)檢測(cè)出異常時(shí)，向中央管理者報(bào)警。局域網(wǎng)監(jiān)視器代理審計(jì)主機(jī)與主機(jī)之間的連接以及使用的服務(wù)和通訊量的大小，以查