銀行災備專項方案

云存放項目大數(shù)據(jù)平臺處理方案

目錄1 概述 31.1 建設背景 31.2 設計范圍 31.3 總體設計標準 32 云存放系統(tǒng)平臺設計 52.1 項目需求 52.2 設計思想 52.3 云存放系統(tǒng)方案 62.4 系統(tǒng)優(yōu)勢和特點 73 系統(tǒng)架構 93.1 系統(tǒng)基礎組成 93.2 系統(tǒng)功效描述 104 系統(tǒng)安全性設計 174.1 安全保障體系框架 174.2 云計算平臺多級信任保護 194.3 基于多級信任保護訪問控制 234.4 云平臺安全審計 265 工作機制 295.1 數(shù)據(jù)寫入機制 295.2 數(shù)據(jù)讀出機制 306 關鍵技術 306.1 負載自動均衡技術 306.2 高速并發(fā)訪問技術 316.3 高可靠性確保技術 316.4 高可用技術 326.5 低功耗存放技術 326.6 分布式、分級、動態(tài)存放技術 327 接口描述 347.1 POSIX通用文件系統(tǒng)接口訪問 347.2 應用程序API接口調用 358 當?shù)厝蒎e和診療技術 358.1cStor高可靠性 358.2cStor數(shù)據(jù)完整性 358.3cStor快照技術 369 異地容災和恢復技術 369.1 cStor數(shù)據(jù)備份和恢復系統(tǒng)功效 369.2 cStor異地文件恢復 379.3 cStor數(shù)據(jù)遷移歸檔 37

概述建設背景伴隨銀行數(shù)據(jù)集中處理實施，銀行業(yè)務運作、經營管理將越來越依靠于計算機網絡系統(tǒng)可靠運行。銀行所提供金融服務連續(xù)性和業(yè)務數(shù)據(jù)完整性、正確性、有效性，會直接關系到銀行生產、經營和決議活動。一旦因自然災難、設備故障或人為原因等原因引發(fā)計算機網絡系統(tǒng)停頓造成信息數(shù)據(jù)丟失和業(yè)務處理中止，將會給銀行造成巨大經濟損失和聲譽損害，受到致命打擊。生產運行系統(tǒng)災難備份系統(tǒng)就顯得格外關鍵。我們認為，一旦實施銀行數(shù)據(jù)集中，災難備份系統(tǒng)應該和生產運行應用系統(tǒng)同時投入使用，確保銀行數(shù)據(jù)集中處理系統(tǒng)運行安全。設計范圍本技術處理方案針對海量數(shù)據(jù)集中存放和共享，提供從系統(tǒng)軟硬件技術架構、原理、硬件選型、網絡接入和軟件和應用之間接口等方面全方面設計敘述?？傮w設計標準針對此次工程實際情況,充足考慮系統(tǒng)建設建設發(fā)展需求，以實現(xiàn)系統(tǒng)統(tǒng)一管理、高效應用、平滑擴展為目標，以“優(yōu)異、安全、成熟、開放、經濟”為總體設計標準。優(yōu)異性標準在系統(tǒng)總體方案設計時采取業(yè)界優(yōu)異方案和技術，以確保一定時間內不落后。選擇實用性強產品，模塊化結構設計，既可滿足目前需要又可實現(xiàn)以后系統(tǒng)發(fā)展平滑擴展。安全性標準數(shù)據(jù)是業(yè)務系統(tǒng)關鍵應用最終保障，不僅要確保整套系統(tǒng)能夠7X24運行，而且存放系統(tǒng)必需有高可用性，以確保應用系統(tǒng)對數(shù)據(jù)隨時存取。同時配置安全備份系統(tǒng)，對應用數(shù)據(jù)進行愈加安全數(shù)據(jù)保護，降低人為操作失誤或病毒攻擊給系統(tǒng)造成數(shù)據(jù)丟失。在進行系統(tǒng)設計時，充足考慮數(shù)據(jù)高可靠存放，采取高度可靠軟硬件容錯設計，進行有效安全訪問控制，實現(xiàn)故障屏蔽、自動冗余重建等智能化安全可靠方法，提供統(tǒng)一系統(tǒng)管理和監(jiān)控平臺，進行有效故障定位、預警。成熟性標準為確保整個系統(tǒng)能夠穩(wěn)定工作，軟件平臺將使用優(yōu)異、完善、易于管理和穩(wěn)定可靠云存放資源管理系統(tǒng)，對于和應用集成接口，提供統(tǒng)一通用穩(wěn)定訪問接口。開放性標準系統(tǒng)建設含有開放性標準體系，提供符合POSIX標準通用文件系統(tǒng)訪問接口，開放應用API編程接口，提供人性化應用和管理界面，以滿足用戶需求。遵照規(guī)范通用接口標準，使全系統(tǒng)中硬件、通信、軟件、操作平臺之間互聯(lián)共享。充足考慮系統(tǒng)升級和維護問題，維護采取在線式，即在系統(tǒng)不停止工作情況下，能夠更換單元備件。系統(tǒng)維護和升級操作由系統(tǒng)管理員即可完成。經濟性標準現(xiàn)有業(yè)務系統(tǒng)存放數(shù)據(jù)量較大，且數(shù)據(jù)增加速度較快。所以在建設系統(tǒng)存放架構時，應從長遠角度考慮，建設一個長久存放架構，除了能夠應對存放硬件設備升級速度外，還必需考慮到對前期存放設備投資保護，在確保不停提供功效和性能提升同時，存放架構在較長時間內能夠保持相對穩(wěn)定。結合優(yōu)異云平臺技術架構優(yōu)勢，依據(jù)此次項目建設實際容量需求設計，同時充足考慮應用發(fā)展需求，實現(xiàn)系統(tǒng)可彈性在線平滑升級。經過軟件實現(xiàn)在較廉價一般服務器上實現(xiàn)高度容錯，同時能夠在較低冗余度情況下實現(xiàn)高度可靠容錯，大大節(jié)省和降低系統(tǒng)建設硬件成本。1項目建設目標建立災難備份中心目標是：以最合理代價保護應用數(shù)據(jù)完整性和安全性，在災難發(fā)生后立即恢復運行，降低業(yè)務停立即間，盡可能不中止或不影響業(yè)務正常進行，使災難造成損失降到最小。即不管兩個系統(tǒng)相離多遠，當一個數(shù)據(jù)中心出現(xiàn)問題時，另一個數(shù)據(jù)中心就應能快速接替運行，既要確保業(yè)務數(shù)據(jù)完整性，又要確保關鍵業(yè)務連續(xù)性。伴隨商業(yè)銀行業(yè)務發(fā)展及競爭日益加劇，國外商業(yè)銀行又提出了業(yè)務連續(xù)性要求。這種要求產生背景是：（1）商業(yè)銀行承諾向用戶提供“3A”服務（即任何時間Anytime，任何地點Anywhere，任何方法Anyways）。因為家庭銀行、企業(yè)銀行、網絡銀行、電話銀行、ATM/POS等電子銀行出現(xiàn)，用戶不受銀行終端用戶上下班時間及位置限制，享受銀行提供金融服務。（2）伴隨銀行金融服務和金融市場拓展，商業(yè)銀行比較重視銀行間相互聯(lián)網。這么，當用戶外出時，無需攜帶大量現(xiàn)金，也無需在當?shù)劂y行、外幣找換店及酒店兌換外幣，可直接在當?shù)刈灾O備上提取當?shù)刎泿?，還可辦理多種存取款、轉帳、申請結單或支票等業(yè)務，既節(jié)省時間，又極大方便了用戶。要求銀行服務含有連續(xù)性。（３）在開放金融市場環(huán)境下，為適應市場需求，發(fā)達國家商業(yè)銀行從重視規(guī)模效益轉為重視深度效益。重視用戶關系及用戶價值是變革關鍵，而深度效益內涵是對具體用戶信息和市場信息組織和分析，利用數(shù)據(jù)倉庫(DATAWAREHOUSE)、數(shù)據(jù)采掘(DATAMINING)技術從業(yè)務數(shù)據(jù)中提取可供輔助決議用信息。數(shù)據(jù)倉庫是將銀行各自分散原始數(shù)據(jù)（如主機中帳務數(shù)據(jù)）聚集和整理成為單一管理信息數(shù)據(jù)庫、用戶信息數(shù)據(jù)庫，面向專題和時間組織數(shù)據(jù)，并對數(shù)據(jù)進行集成。使用數(shù)據(jù)采掘技術從數(shù)據(jù)倉庫中提取隱藏估計性信息，為銀行提供完整、立即、正確商業(yè)決議信息，為銀行經營決議人員提供輔助決議支持。它要求原始數(shù)據(jù)含有實時性、連續(xù)可用性，并含有很好完整性和長時間延續(xù)性。保持業(yè)務連續(xù)性要求災難恢復系統(tǒng)實現(xiàn)更高目標：除了以最合理代價保護應用數(shù)據(jù)完整性和安全性，在災難發(fā)生后立即恢復運行，降低或盡可能消除業(yè)務停立即間外，還應做到：（1）確保業(yè)務連續(xù)性和延續(xù)性，即確保業(yè)務數(shù)據(jù)連續(xù)性，為銀行決議支持系統(tǒng)提供連續(xù)完整基礎數(shù)據(jù)；（2）縮小或取消應用系統(tǒng)用于批處理和數(shù)據(jù)備份（如磁帶備份）時間，確保關鍵業(yè)務服務二十四小時不中止，使應用系統(tǒng)服務時間達成7X24，滿足銀行互聯(lián)及用戶需求；云存放系統(tǒng)平臺設計項目需求災難類型需求常見銀行災難關鍵包含以下多個方面：（1）自然災難：造成計算機災難自然災難有：火災、水災、雷擊、臺風、地震、鼠害等。依據(jù)相關資料，XXXX地域發(fā)生毀壞性地震可能性不大，而且，現(xiàn)有生產運行中心所在地--XXXX大廈，在修建時作了抗7級以下地震設計。XXXX地域周圍無大江大河，不會出現(xiàn)洪澇。所以對我們生產運行系統(tǒng)來講，自然災難關鍵是指水災、火災、雷擊和鼠害。（2）計算機系統(tǒng)故障：引發(fā)計算機系統(tǒng)故障原因有下述幾點：a.主機系統(tǒng)故障：關鍵指：數(shù)據(jù)庫系統(tǒng)故障、系統(tǒng)軟件故障、硬盤損壞、網卡故障、電源故障、應用系統(tǒng)缺點、其它故障b.主機房故障：關鍵指：主機房電源故障、主機房通訊故障、主機房水災、主機房火災、主機房鼠害c.整幢樓房故障：關鍵指：整幢樓房電源故障、整幢樓房火災或水災、整幢樓房其它災難（４）人為原因：因為應用系統(tǒng)缺點、誤操作、人為蓄意破壞、外來暴力事件等全部將直接影響系統(tǒng)安全運行。。吞吐量需求為滿足多用戶或應用整體吞吐帶寬需要，確保數(shù)據(jù)訪問流暢，系統(tǒng)需提供多用戶或應用并發(fā)訪問高吞吐帶寬設計，系統(tǒng)能夠有效利用網絡帶寬，性能可經過規(guī)模增加實現(xiàn)平滑增加。擴展性需求未來依據(jù)業(yè)務應用改變和發(fā)展，需要快速實施系統(tǒng)資源升級，能夠在業(yè)務服務不間斷狀態(tài)下平滑擴展，不會造成架構發(fā)生根本性改變，為不停產生和改變業(yè)務需求提供連續(xù)支持，支持業(yè)務系統(tǒng)快速整合和布署對關鍵系統(tǒng)基礎架構尤其要求。低成本需求要求系統(tǒng)能夠以低硬件成本、低維護成本實現(xiàn)高可靠高性能應用要求，充足提升資源利用率，簡化管理，并能靈活、可連續(xù)擴展?？删S護性需求要求系統(tǒng)含有自適應管理能力，安裝、維護、升級簡易方便，提供統(tǒng)一易用WEB配置管理監(jiān)控平臺，實現(xiàn)智能化管理。接口需求要求能夠提供通用文件系統(tǒng)接口，方便用戶及應用系統(tǒng)訪問，降低和應用集成或開發(fā)工作量，實現(xiàn)系統(tǒng)快速布署和集成。設計思想采取業(yè)界成熟優(yōu)異云平臺架構思想，采取軟件實現(xiàn)對大量一般商用服務器存放空間資源進行虛擬化整合，實現(xiàn)軟硬件故障高度容錯，將系統(tǒng)控制流和數(shù)據(jù)流分離，同時使得數(shù)據(jù)在邏輯上集中、物理上分散，每臺服務器同時對外提供服務，以達成多并發(fā)高吞吐量性能要求，采取自注冊機制、故障自動屏蔽、自動冗余重建技術實現(xiàn)系統(tǒng)自我維護和平滑擴展，系統(tǒng)服務7×二十四小時不間斷。系統(tǒng)采取優(yōu)異編解碼容錯技術，可依據(jù)數(shù)據(jù)可靠性要求設置合適冗余編解碼策略進行系統(tǒng)布署，能夠以極小磁盤和硬件冗余度，實現(xiàn)高度可靠性數(shù)據(jù)容錯。云存放系統(tǒng)方案采取業(yè)界已經成熟cStor云存放資源管理系統(tǒng)，在多臺一般商用服務器上構建高性能高可靠云存放系統(tǒng)，作為此次系統(tǒng)云數(shù)據(jù)中心存放平臺，其應用布署示意圖以下圖所表示。cStor云存放資源管理系統(tǒng)布署示意圖系統(tǒng)優(yōu)勢和特點cStor云存放系統(tǒng)是一套軟件和硬件相結合系統(tǒng)，其中專有技術和軟件是高附加值部分，能夠廣泛應用于需要存放大量數(shù)據(jù)應用場所（如安防、廣電、電信、互聯(lián)網、銀行等領域）。該系統(tǒng)相比傳統(tǒng)存放系統(tǒng)有以下技術優(yōu)勢：高度可靠存放系統(tǒng)采取云架構，數(shù)據(jù)被分塊存放在不一樣存放節(jié)點上，數(shù)據(jù)采取優(yōu)異1:1容錯機制進行容錯，可在任意損壞一個存放服務器節(jié)點情況下實現(xiàn)數(shù)據(jù)完整可靠，系統(tǒng)對外存放訪問服務不間斷。云存放管理節(jié)點采取了主備雙機鏡像熱備高可用機制，在主管理節(jié)點出現(xiàn)故障時，備管理節(jié)點自動接替主管理節(jié)點工作，成為新主管理節(jié)點，待故障節(jié)點修復并重啟服務后，它則成為新備管理節(jié)點，保障系統(tǒng)7×二十四小時不間斷服務。優(yōu)異性能cStor采取控制流和數(shù)據(jù)流分離技術，數(shù)據(jù)存放或讀取實際上是和各個存放節(jié)點上并行讀寫，這么伴隨存放節(jié)點數(shù)目標增多，整個系統(tǒng)吞吐量和IO性能將呈線性增加。同時，cStor采取負載均衡技術，自動均衡各服務器負載，使得各存放節(jié)點性能調整到最高，實現(xiàn)資源優(yōu)化配置。無限容量系統(tǒng)容量僅受限于卷管理服務器內存，可支撐容量靠近無限，經推算，理論容量為1024×1024×1024PB(1G個PB容量)。在線伸縮cStor云存放資源管理系統(tǒng)擴容很方便，支持不停止服務情況下，動態(tài)加入新存放節(jié)點，無需任何操作，即實現(xiàn)擴容；同時，無需人為干預，也能夠摘下任意節(jié)點，系統(tǒng)自動縮小規(guī)模而不丟失數(shù)據(jù)，存放在此節(jié)點上數(shù)據(jù)將會重新備份到其它節(jié)點上。通用易用cStor云存放系統(tǒng)提供符合POSIX標準通用文件系統(tǒng)接口，不管是哪種操作系統(tǒng)下應用程序，全部能夠不經修改將云存放當成自己海量磁盤來使用。同時，也提供專用API接口，供開發(fā)人員調用。智能管理提供基于WEB管理控制平臺，全部管理工作均由cStor管理模塊自動完成，使用人員無需任何專業(yè)知識便能夠輕松管理整個系統(tǒng)。經過管理平臺，能夠對cStor中全部節(jié)點實施實時監(jiān)控，用戶經過監(jiān)控界面能夠清楚地了解到每一個節(jié)點和磁盤運行情況；同時也能夠實現(xiàn)對文件等級系統(tǒng)監(jiān)控，支持損壞文件查找和修復功效。系統(tǒng)提供用戶安全認證及對不一樣用戶進行配額設置和權限管理功效，滿足應用日常維護和安全管理需求。

系統(tǒng)架構在此次系統(tǒng)建設中，云存放系統(tǒng)屬于基礎平臺支撐層，以用于數(shù)據(jù)集中存放和共享，實現(xiàn)對數(shù)據(jù)統(tǒng)一管理和高效應用。將數(shù)據(jù)邏輯集中物理分散，以提供多并發(fā)高吞吐帶寬，最大程度降低系統(tǒng)訪問瓶頸。下面具體說明cStor云存放資源管理系統(tǒng)基礎組成和關鍵功效。系統(tǒng)基礎組成cStor云存放資源管理系統(tǒng)采取分布式存放機制，將數(shù)據(jù)分散存放在多臺獨立存放服務器上。它采取包含卷管理服務器、元數(shù)據(jù)管理服務器（MasterServer）、數(shù)據(jù)存放節(jié)點服務器（ChunkServer）和掛接訪問用戶端和管理監(jiān)控中心服務器結構組成虛擬統(tǒng)一海量存放空間。在每個服務器節(jié)點上運行cStor云存放資源管理系統(tǒng)對應軟件服務程序模塊。系統(tǒng)架構框圖以下圖所表示。cStor云存放資源管理系統(tǒng)架構其中，MasterServer保留系統(tǒng)元數(shù)據(jù)，負責對整個文件系統(tǒng)管理，MasterServer在邏輯上只有一個，但采取主備雙機鏡像方法，確保系統(tǒng)不間斷服務；ChunkServer負責具體數(shù)據(jù)存放工作，數(shù)據(jù)以文件形式存放在ChunkServer上，ChunkServer個數(shù)能夠有多個，它數(shù)目直接決定了cStor云存放系統(tǒng)規(guī)模；掛接訪問用戶端即為服務器對外提供數(shù)據(jù)存放和訪問服務窗口，通常情況下，用戶端能夠布署在ChunkServer上，每一個塊數(shù)據(jù)服務器，既能夠作為存放服務器同時也能夠作為用戶端服務器。由一對元數(shù)據(jù)服務器及其管理存放服務器節(jié)點所提供存放空間稱為一個卷空間，不一樣卷空間由卷管理服務器虛擬化統(tǒng)一管理，對外可提供統(tǒng)一海量存放空間。管理監(jiān)控中心提供統(tǒng)一易用WEB配置管理監(jiān)控平臺，提供設備監(jiān)控、空間監(jiān)控、文件監(jiān)控、服務監(jiān)控、用戶認證管理、配額管理、故障告警及預警等功效，實現(xiàn)智能化管理。這種分布式系統(tǒng)最大好處是有利于存放系統(tǒng)擴展和實現(xiàn)，在小規(guī)模數(shù)據(jù)擴展時，只需要添加具體ChunkServer即可，而不需要添加整套設備。在實現(xiàn)大規(guī)模擴展時也可方便地添加整個卷設備。系統(tǒng)功效描述cStor云存放資源管理系統(tǒng)從功效上劃份為三大部分：cStor分布式文件系統(tǒng)分布式文件系統(tǒng)實現(xiàn)文件數(shù)據(jù)存放、可靠性容錯、可伸縮性確保、高可用確保、負載均衡和流量分擔等功效。存放訪問接口cStor提供符合POSIX規(guī)范文件系統(tǒng)訪問接口，經過cStor訪問掛接程序可將云存放空間掛接為當?shù)啬夸浕虼疟P。同時可提供專用API接口，支持業(yè)務應用層程序對云存放系統(tǒng)直接訪問。管理監(jiān)控中心管理監(jiān)控中心提供帳戶管理、設備管理、系統(tǒng)監(jiān)控、卷管理、告警管理、故障管理等功效。 下面逐一具體介紹各部分系統(tǒng)功效。cStor分布式文件系統(tǒng)cStor分布式文件系統(tǒng)包含卷管理、元數(shù)據(jù)管理、塊數(shù)據(jù)管理服務。參考上面系統(tǒng)架構框圖左側部分。元數(shù)據(jù)是指文件名稱、屬性、數(shù)據(jù)塊位置信息等，元數(shù)據(jù)管理經過元數(shù)據(jù)服務程序完成。因元數(shù)據(jù)訪問頻繁，故系統(tǒng)將元數(shù)據(jù)加載緩存至內存中管理，提升訪問效率。因為元數(shù)據(jù)關鍵性，元數(shù)據(jù)損壞或丟失則相當于文件數(shù)據(jù)丟失，所以實現(xiàn)了元數(shù)據(jù)服務器主備雙機高可用，確保７×２４小時不間斷服務。經過元數(shù)據(jù)遠程多機冗余備份功效，實現(xiàn)在多臺其它機器上備份元數(shù)據(jù)，當元數(shù)據(jù)服務器損壞，能夠經過備份元數(shù)據(jù)重新恢復服務，切保數(shù)據(jù)能夠完整找回。塊數(shù)據(jù)是指文件數(shù)據(jù)被根據(jù)一定大小（默認64MB）分割而成多個數(shù)據(jù)塊，分布存放到不一樣存放節(jié)點服務器上，并經過編解碼容錯算法產生對應冗余塊。塊數(shù)據(jù)服務是運行在每個存放節(jié)點服務器上塊數(shù)據(jù)管理程序，負責使用存放服務器上磁盤空間存放文件數(shù)據(jù)塊，并實現(xiàn)對應編解碼功效。相比較傳統(tǒng)業(yè)界云存放采取塊數(shù)據(jù)簡單備份冗余容錯機制，編解碼容錯方法大大降低了硬件資源冗余度，提升了磁盤利用率。由一對主備元數(shù)據(jù)服務器及其所管理塊數(shù)據(jù)服務器管理節(jié)點設備及其所提供存放空間稱為一個卷。卷管理服務器負責將多個卷虛擬化整合，對外提供統(tǒng)一整體訪問云存放空間。文件系統(tǒng)采取中心服務器模式分布式存放架構，控制流和數(shù)據(jù)流分離，經過增加存放節(jié)點系統(tǒng)采取自動注冊機制，實現(xiàn)系統(tǒng)高可伸縮性，增加或降低存放節(jié)點規(guī)模，不影響系統(tǒng)正常提供存放訪問服務。該系統(tǒng)架構實現(xiàn)了統(tǒng)一調度，負載均衡和流量自動分擔功效，多個存放節(jié)點同時對外提供數(shù)據(jù)流服務，系統(tǒng)依據(jù)磁盤空間使用百分比進行資源優(yōu)化配置。同時在多個不一樣存放節(jié)點之間實現(xiàn)依據(jù)空間百分比進行優(yōu)化配置，數(shù)據(jù)優(yōu)先存放空間利用百分比相對較低磁盤或存放服務器上。cStor分布式文件系統(tǒng)含有自動冗余重建功效，確保損壞數(shù)據(jù)塊能夠被解碼或編碼后存放到在線正常存放服務器節(jié)點上。存放訪問接口cStor分布式文件系統(tǒng)提供符合POSIX規(guī)范文件系統(tǒng)訪問接口。支持Linux、Windows、MaxOSX等操作系統(tǒng)平臺?？蓪⒃拼娣畔到y(tǒng)提供存放空間掛接為當?shù)啬夸浕虍數(shù)乇P符來使用。用戶操作云存放空間和操作當?shù)匚募嗤?。另外cStor提供專用高速存取訪問API接口，供性能要求很高高端應用程序對接使用。管理監(jiān)控中心管理監(jiān)控中心為系統(tǒng)管理員配置和維護cStor云存放資源管理系統(tǒng)有效工具，充足表現(xiàn)了系統(tǒng)可維護性。管理監(jiān)控中心提供帳戶管理、設備管理、系統(tǒng)監(jiān)控、卷管理、告警管理、故障管理等功效。以下為部分系統(tǒng)管理界面。設備管理

系統(tǒng)監(jiān)控告警信息告警配置告警日志故障處理卷管理帳戶管理添加帳戶系統(tǒng)安全性設計安全保障體系框架NSA提出信息安全保障技術框架（IATF），以下圖所表示。IATF依據(jù)“深度防護戰(zhàn)略”理論，要求從整體、過程角度看待信息安全問題，強調人、技術、操作這三個關鍵標準，關注四個層次安全保障：保護網絡和基礎設施、保護邊界、保護計算環(huán)境、支撐基礎設施。圖表基于深度防護戰(zhàn)略IATF模型IATF模型從深度防護戰(zhàn)略出發(fā)，強調人、技術和操作三個要素：人：人是信息主體，是信息系統(tǒng)擁有者、管理者和使用者，是信息保障體系關鍵，是第一位要素，同時也是最脆弱。正是基于這么認識，安全組織和安全管理在安全保障體系中是第一位，要建設信息安全保障體系，首先必需建立安全組織和安全管理，包含組織管理、技術管理和操作管理等多個方面。技術：技術是實現(xiàn)信息安全保障關鍵手段，信息安全保障體系所應含有各項安全服務就是經過技術機制來實現(xiàn)。當然IATF所指技術是防護、檢測、響應、恢復并重、動態(tài)技術體系。操作：也可稱之“運行”，它表現(xiàn)了安全保障體系主動防御，假如說技術組成是被動，那操作和步驟就是將各方面技術緊密結合在一起主動過程，運行保障最少包含安全評定、入侵檢測、安全審計、安全監(jiān)控、響應恢復等內容。信息安全保障體系實現(xiàn)就是經過建立安全組織、安全管理和防護技術體系，協(xié)調組織、技術、運作三者之間關系，明確技術實施和安全操作中技術人員安全職責，從網絡和基礎設施、區(qū)域邊界、計算環(huán)境、支撐基礎設施等多層次保護，從而達成對安全風險立即發(fā)覺和有效控制，提升安全問題發(fā)生時反應速度和恢復能力，增強網絡和信息整體安全保障能力。對于云計算安全參考模型，云安全聯(lián)盟CSA（CloudSecurityAlliance）提出了基于3種基礎云服務層次性及其依靠關系安全參考模型,并實現(xiàn)了從云服務模型到安全控制模型映射。該模型顯示PaaS在IaaS之上,SaaS在PaaS之上。該模型關鍵特點是供給商所在等級越低,云服務用戶所要負擔安全能力和管理職責就越多。依據(jù)資源或服務管理權、全部權和資源物理位置不一樣,CSA也給出了不一樣云布署模型可能實現(xiàn)方法及其不一樣布署模式下共享云服務消費者之間信任關系,以下圖所表示。圖表云布署模型實現(xiàn)此圖顯示,對于私有云和小區(qū)云,有多個實現(xiàn)方法,能夠和公共云一樣,由第三方擁有和管理并提供場外服務（off-premises）,所不一樣是共享云服務消費者群體之間含有信任關系,局限于組織內部和可信任群體之間。對于每一個云布署實現(xiàn)方法,全部能夠提供3種基礎云服務。云布署實現(xiàn)不一樣方法和基礎云服務組合組成不一樣云服務消費模式。結合云服務安全參考模型,能夠確定不一樣云服務消費模式下供給商和用戶安全控制范圍和責任,用戶評定和比較不一樣云服務消費模式風險及現(xiàn)有安全控制和要求安全控制之間差距,做出合理決議。云計算平臺多級信任保護云計算可信平臺實現(xiàn)系統(tǒng)平臺（計算環(huán)境）認證、應用系統(tǒng)完整性認證、分布式資源信任認證和用戶身份認證4個層次。多層信任保護具體結構以下圖所表示。圖表多級信任保護在上圖中，平臺認證是基礎，為其它3種認證提供一個可靠計算環(huán)境。平臺認證、應用認證、資源認證和用戶認證全部經過統(tǒng)一證書機制來實現(xiàn)。（1）云平臺信任保護因為TPM（trustplatformmodule）規(guī)范能夠支持現(xiàn)有公鑰基礎設施，而且TPM內部認證密鑰和64位物理唯一序列號全部能很好地實現(xiàn)本身和平臺綁定。所以可信平臺之間信任關系能夠借助基于可信第三方證書機制來保障。即每一個節(jié)點將能夠代表本身特征關鍵信息以可靠地方法提交到可信第三方（如CA中心），可信第三方在核實這些數(shù)據(jù)真實性和完整性后對其署名，并為其頒發(fā)一個平臺證書。以后，該平臺在和其它平臺通信時能夠出示該證書，以表明自己正當身份。平臺在向可信第三方提交平臺信息和驗證其它平臺證書正當性時，全部需要借助TPM硬件支持。在下圖所表示實例中，云平臺A和B全部從證書頒發(fā)中心取得自己平臺證書。當B請求和A建立連接并向A出示自己證書后，A借助TPM驗證B出示證書有效性。圖表基于可信第三方平臺認證為了確保云端用戶訪問云平臺可信性，并確保遠程節(jié)點含有期望完全保障條件，基于可信計算平臺多級信任保護方法結構包含下表中多種關鍵原因平臺證書。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)聽說明Cert_NumChar證書編號Cert_TypeShort證書類型Cert_DistributeTimeByte[20]頒發(fā)時間Cert_LimitTimeByte[20]使用期限TPM_IDByte[8]TPM序列號Hardware_CodeByte[20]平臺硬件標識Software_CodeByte[20]平臺軟件標識SecureComponent_CodeByte[20]安全組織組件標識………CA_SignatureByte[128]CA署名信息圖表關鍵原因平臺證書在圖中，TPM和端系統(tǒng)唯一綁定；硬件標識碼代表了端系統(tǒng)中多種硬件設備完整性信息，包含CPU序列號、主板型號、硬盤序列號、內存容量等；軟件標識碼代表了端系統(tǒng)中包含操作系統(tǒng)版本、補丁、關鍵服務等軟件完整性信息；安全組件標識碼是多種安全組件完整性度量結果，包含防火墻類型、安全補丁、防病毒軟件名稱等。為了獲取這些數(shù)據(jù)完整性度量結果，采取Hash函數(shù)對系統(tǒng)中硬件標識信息、軟件版本信息或安全組件描述信息進行計算，得出一個代表該系統(tǒng)相關信息完整性度量值。此處，選擇SHA-1算法作為完整性度量函數(shù)。署名信息是可信第三方對證書內容數(shù)字署名，署名信息存在確保了證書正當性和不可篡改性。（2）應用信任保護有了云平臺認證，用戶就能斷言遠程協(xié)作者在確定節(jié)點和環(huán)境中進行工作。但在網絡計算等復雜應用中，一個節(jié)點可能承載了多個應用系統(tǒng)、擔負著多個計算任務。所以，需要確保單個應用系統(tǒng)不一樣部分間（如用戶端和服務器端）可信。Seshadri等人研究了代碼遠程完整性驗證方法。該方法從數(shù)據(jù)完整性角度處理了授權實施遠程應用可信性。借鑒她思想，采取認證應用系統(tǒng)中進程完整性措施對應用系統(tǒng)進行信任保護。即端系統(tǒng)控制各個應用進程，只有經過完整性認證并授權實施進程才能被開啟。為此，系統(tǒng)為每個關鍵分布式應用定義若干個進行完整性證書，證書關鍵內容以下表所表示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)聽說明………………Process_IDByte[20]進程IDProcess_IntegrityByte[20]完整性度量值………………TPM_SignByte[20]TPM署名信息在圖中，進程完整性度量值是采取單向散列函數(shù)對進程代碼進行計算后得出值。進程完整性證書中。進程完整性認證能夠確保遠程協(xié)作進程可信性，一定程度上降低病毒和木馬進行插入攻擊風險。（3）資源信任保護多級信任保護方法仍然采取證書機制實現(xiàn)對資源信任保護，即端系統(tǒng)基于TPM給平臺中共享網絡資源頒發(fā)完整性證書并署名。其它對等端系統(tǒng)需要訪問該資源時，能夠驗證該證書正當性并從證書中得悉資源完整性度量數(shù)據(jù)。因為采取單向散列函數(shù)計算出資源完整性度量值能夠代表該資源可信性，所以遠程用戶能夠據(jù)此決定是否訪問該網絡資源?？紤]單純采取單向散列函數(shù)計算資源完整性消耗時間過長，實際實現(xiàn)時依據(jù)資源可信要求不一樣采取了部分靈活方法。如部分可信要求不高資源文件，只針對資源文件基礎屬性或按樣條規(guī)則抽出部分數(shù)據(jù)進行完整性度量；資源完整性證書關鍵數(shù)據(jù)組員以下表所表示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)聽說明………………Process_IDByte[20]資源標識IDProcess_IntegrityByte[20]資源完整性信息………………TPM_SignByte[20]TPM署名信息（4）用戶信任保護用戶信任保護需求在現(xiàn)有分布式應用中已經普遍存在，但現(xiàn)有基于身份認證用戶信任保護方法僅僅針對用戶實體進行認證，無法將用戶實體和計算環(huán)境和用戶物理存在性聯(lián)絡起來。基于可信平臺多級信任保護方法在系統(tǒng)平臺認證和應用認證基礎上深入進行用戶身份認證，從而能夠將系統(tǒng)中用戶鎖定到具體計算平臺和具體應用系統(tǒng)。多級信任保護方法中用戶身份證書關鍵數(shù)據(jù)組員以下表所表示。數(shù)據(jù)名稱數(shù)據(jù)類型數(shù)聽說明………………User_IDByte[16]用戶IDApplication_IDByte[16]應用IDPlatform_IDByte[16]平臺ID………………App_SignByte[16]應用署名TPM_SignByte[16]TPM署名在上表中，用戶ID是系統(tǒng)中用戶惟一標識，能夠使用用戶編號（用戶名稱）或用戶擁有智能卡（SKEY）序列號；所屬應用ID是用戶所屬應用惟一標識，能夠使用應用完整性度量值來替換（單進程應用能夠使用進程完整性數(shù)據(jù)替換，多進程應用能夠將各個進程完整性度量數(shù)據(jù)拼接后，計算出新整個應用完整性度量數(shù)據(jù)）；平臺ID是創(chuàng)建該用戶端系統(tǒng)標識，能夠使用和平臺綁定TPM惟一序列號?；诙嗉壭湃伪Ｗo訪問控制用戶管理和權限控制子系統(tǒng)接口關系以下圖所表示，各模塊間接口關系以下：身份服務模塊在用戶提交進入系統(tǒng)申請后向身份管理系統(tǒng)模塊提交用戶信息和身份申請；身份管理系統(tǒng)模塊在確定用戶信息后將身份管理指令和身份信息反饋至身份服務模塊；認證服務模塊對用戶身份進行驗證，確定用戶正當性；訪問控制模塊接收用戶授權請求后，向授權管理系統(tǒng)模塊提交用戶授權和相關信息；授權管理系統(tǒng)模塊依據(jù)用戶信息（如用戶所對應角色、所在安全域等）為用戶分配對應權限或回收對應權限將結果反饋給訪問控制模塊；訪問控制模塊得到用戶權限信息后依據(jù)信息內容和用戶請求實施需要具體操作。數(shù)據(jù)隔離、數(shù)據(jù)校驗（防篡改）、數(shù)據(jù)加密和數(shù)據(jù)保護模塊提供對存放數(shù)據(jù)安全保護。圖表云存放安全子系統(tǒng)接口關系圖在云平臺中，用戶有不一樣訪問權限，針對不一樣權限用戶能夠設定不相同級操作。同時存放在底層資源池中資源也一樣劃分為不一樣安全等級，不相同級資源，訪問路徑是不相同。本項目提出了基于可信平臺多級信任保護方法，其關鍵目標是能夠認證訪問云平臺應用（進程）、資源和用戶可信性，從而能夠很方便地服務于多級訪問控制技術，為其提供良好基礎。簡單地，能夠將系統(tǒng)中資源按可信性需求程度分為高、中和低3個等級。資源可信要求越高，對訪問該資源用戶可信性也要求越高。具體步驟以下圖所表示：圖表基于多級信任保護多級訪問控制步驟為了愈加好保護虛擬資源池數(shù)據(jù)安全，首先要建立一個可信資源訪問控制，能夠利用網閘和訪問控制器建立一套監(jiān)控機制，對訪問資源池請求進行監(jiān)督，只許可外部連接經過專用協(xié)議進行訪問，而對其它非可信訪問一律拒絕，以預防惡意非法入侵和攻擊，包含漏洞攻擊、DDoS攻擊和帶寬攻擊等，建立一個數(shù)據(jù)安全交換平臺，以下圖所表示。圖表數(shù)據(jù)安全交換平臺具體實現(xiàn)方法包含：會話終止：請求端經過網閘和資源池建立連接時，網閘對外網絡接口會經過模擬應用服務器端，終止網絡之間會話連接，這么可確保在不可信和可信網絡之間沒有一條激活會話連接；協(xié)議安全檢驗：對來自連接數(shù)據(jù)包進行基于內部RFC協(xié)議分析，也能夠對一些協(xié)議進行動態(tài)分析，檢驗是否有攻擊成份；數(shù)據(jù)抽取和內部封裝：在協(xié)議檢驗同時，將協(xié)議分析后數(shù)據(jù)包中數(shù)據(jù)提取出來，然后將數(shù)據(jù)和安全協(xié)議一起經過特定格式壓縮、數(shù)據(jù)封裝轉化成網閘另一端能接收格式；基于安全策略決議審查：安全策略決議是運行在訪問控制器上，由系統(tǒng)管理員定義。它分析外部來數(shù)據(jù)，關鍵是源地址、目標地址和協(xié)議等信息，而且和規(guī)則庫進行匹配，看是否許可經過或丟棄；編碼和解碼：對靜態(tài)數(shù)據(jù)塊進行編碼，編碼是相對復雜而且基于隨機關鍵字。一旦編碼，則打亂了數(shù)據(jù)或命令原有格式，使數(shù)據(jù)中可能攜帶可實施惡意代碼失效，阻止惡意程序實施。一旦數(shù)據(jù)經過了內容檢測且確定是安全，它就被解碼，準備發(fā)送到內部網絡；會話生成內部服務器模擬應用用戶端，將經檢測過數(shù)據(jù)發(fā)送到內部網絡，和內部網絡上真正應用服務器建立一個新連接，接著生成符合RFC協(xié)議新通信包。同時，經過外部集成入侵檢測系統(tǒng)IDS，對網絡通信進行安全審計，立即發(fā)覺和追蹤各類非法連接行為；經過外部集成負載均衡設備，為訪問用戶提供虛擬IP地址，確保物理機器對用戶不可見，避免非法用戶對真實物理機直接訪問，避免對物理機可能操作動作。云平臺安全審計云平臺安全審計任務由分布于網絡各處功效單元協(xié)作完成，這些單元還能在更高層次結構上深入擴展，從而能夠適應網絡規(guī)模擴大。云安全審計體系結構以下圖所表示。圖表云存放安全審計體系結構它由三部分組成：主機代理模塊：在受監(jiān)視系統(tǒng)中作為后臺進程運行審計信息搜集模塊。關鍵目標是搜集主機上和安全相關事件信息，并將數(shù)據(jù)傳送給中央管理者。局域網監(jiān)視器代理模塊：關鍵分析局域網通訊流量，依據(jù)需要將結果匯報給中央管理者。中央管理者模塊：接收包含來自局域網監(jiān)視器和主機代理數(shù)據(jù)和匯報，控制整個系統(tǒng)通信信息，對接收到數(shù)據(jù)進行分析。在云安全審計體系結構中，代理截獲審計搜集系統(tǒng)生成審計統(tǒng)計，應用過濾器去掉和安全無關統(tǒng)計，然后將這些統(tǒng)計轉化成一個標準格式以實現(xiàn)互操作。然后，代理中分析模塊分析統(tǒng)計，并和該用戶歷史映像相比較，當檢測出異常時，向中央管理者報警。局域網監(jiān)視器代理審計主機和主機之間連接和使用服務和通訊量大小，以查找出顯著事件，如網絡負載忽然改變、安全相關服務使用等。對于安全審計系統(tǒng)來說，數(shù)據(jù)源能夠分為三類：基于主機、基于目標、基于網絡，下面分別對每類起源進行敘述。（1）基于主機數(shù)據(jù)源基于主機（包含虛擬機）數(shù)據(jù)有以下四類：操作系統(tǒng)日志、系統(tǒng)日志、應用日志和基于目標信息。（2）基于目標數(shù)據(jù)源評定出系統(tǒng)中關鍵或是有特殊價值對象，針對每一個對象制訂信息搜集和監(jiān)視機制，該對象即為審計目標；對于審計目標每一次狀態(tài)轉變，和系統(tǒng)安全策略進行比較，所出現(xiàn)任何異常全部進行統(tǒng)計或響應。最常見基于目標審計技術是完整性校驗，其審計對象多為文件。采取消息摘要算法，計算需要保護系統(tǒng)對象（如關鍵文件）校驗值，并存放在安全區(qū)域。周期性地對目標進行檢驗，能夠發(fā)覺目標是否被改變，從而提供一定等級保護。（3）基于網絡數(shù)據(jù)源網絡數(shù)據(jù)源基礎原理是：當網絡數(shù)據(jù)流在網段中傳輸時，采取特殊數(shù)據(jù)提取技術，收取網絡中傳輸數(shù)據(jù)，作為安全審計系統(tǒng)數(shù)據(jù)源。在計算機網絡系統(tǒng)中，局域網普遍采取是基于廣播機制IEEE802.3協(xié)議，即以太網（Ethernet）協(xié)議。該協(xié)議確保傳輸數(shù)據(jù)包能被同一沖突域內全部主機接收，基于網絡安全審計正是利用了以太網這一特征。安全審計方法描述：為系統(tǒng)描述方便，用T表示安全服務器，和外部網絡隔離，它通信安全性可由多種方法實現(xiàn)，如抵賴令牌、VPN安全信道、SSL安全信道等，如內部網絡中安全服務器、安全電子證據(jù)搜集設備或安全中央服務器等；用U表示不安全系統(tǒng)，輕易受到攻擊卻統(tǒng)計著日志計算機系統(tǒng)，它在物理位置上并不安全，也就是說它是接入網絡，也沒有有效防御方法來確保不被攻擊者控制，如個人PC、防火墻、入侵檢測系統(tǒng)或其它應用系統(tǒng)等；用V表示一些授權用戶使用計算機，安全性介于U和T之間，它能被信任查看一些日志統(tǒng)計，但不能修改統(tǒng)計，也就是說并不支持全部操作，如內部工作站等。本系統(tǒng)創(chuàng)建新安全日志文件時，由U隨機產生初始認證密鑰，并由安全信道發(fā)送到T保留。U產生原始日志信息，經過多個加密標準工具對原始日志每條統(tǒng)計進行保護后寫入安全審計日志文件中，并定時將安全審計日志文件備份到T中保留。安全審計時，T發(fā)送認證碼給V，指定V查看或審計U和T中日志文件部分日志統(tǒng)計，也可由T直接對U中日志文件進行安全審計，出現(xiàn)可疑信息時和T中備份日志數(shù)據(jù)進行比較，發(fā)覺確實不一致則可初步判定U可能遭受攻擊。安全日志審計系統(tǒng)結構以下圖所表示。圖表安全日志審計系統(tǒng)結構圖U開始創(chuàng)建日志文件時和安全認證系統(tǒng)T共享一個密鑰，用這個密鑰創(chuàng)建日志文件。對于分布式安全審計系統(tǒng)具體實現(xiàn)來說，應用Agent技術是一個很好處理方案，該技術已經在部分實際安全審計系統(tǒng)中得到了應用。Agent最早起源于人工智能，現(xiàn)廣泛地應用于人工智能、網絡管理、軟件工程等領域。我們將Agent（代理）定義為“一個自治實體，它能夠感知環(huán)境，而且對外界信息做出判定和推理，來控制自己決議和行動，方便完成一定任務”?；贏gent安全審計系統(tǒng)是將Agent分布于系統(tǒng)關鍵點上，包含提供各項服務服務器、關鍵工作站、內部網關和防火墻上，完成大部分安全審計和響應任務。因為代理本身含有自治性，能夠針對特定應用環(huán)境編程和配置，使得代理占用系統(tǒng)資源最??；在將代理放入具體復雜環(huán)境前能夠對它進行獨立測試；同時經過Agent間有限交互（包含數(shù)據(jù)和控制信息），能夠取得更復雜信息，有利于處理網絡中協(xié)作入侵活動。安全審計中Agent經過探查所在系統(tǒng)日志文件，捕捉網絡數(shù)據(jù)包或其它信息源獲取數(shù)據(jù)。另外，將審計任務分配到多臺計算機上有利于降低監(jiān)控計算機負荷，而且能提升系統(tǒng)處理速度和效率，提升系統(tǒng)實時性；最終，Agent能夠自動升級，而且對系統(tǒng)其它部分保持透明。工作機制數(shù)據(jù)寫入機制數(shù)據(jù)寫入過程參考下圖：用戶端向元數(shù)據(jù)服務器請求寫入文件數(shù)據(jù)，元數(shù)據(jù)服務器返回寫入服務器列表；用戶端進行文件切塊寫入有塊數(shù)據(jù)服務器；用戶端每寫入一定量塊數(shù)據(jù)后，通知元數(shù)據(jù)服務器，由元數(shù)據(jù)服務器開啟一個編碼任務，進行編碼；而用戶端繼續(xù)寫數(shù)據(jù)，真到寫完成為止；元數(shù)據(jù)服務器調度一個或多個塊數(shù)據(jù)服務器進行編碼任務；被調度塊數(shù)據(jù)服務器，獲取需要原始信息塊組進行編碼，產生冗余數(shù)據(jù)塊；數(shù)據(jù)讀出機制數(shù)據(jù)讀出過程參考下圖：用戶端向元數(shù)據(jù)服務器請求讀出文件數(shù)據(jù)，元數(shù)據(jù)服務器返回數(shù)據(jù)塊位置列表；用戶端進行數(shù)據(jù)塊讀出；用戶端進行數(shù)據(jù)塊校驗；對未能讀出數(shù)據(jù)塊或無效塊經過同編碼組內其它數(shù)據(jù)塊進行解碼，取得完整正解文件數(shù)據(jù)。關鍵技術負載自動均衡技術采取中心服務器模式來管理整個云存放文件系統(tǒng)，全部元數(shù)據(jù)均保留在主管理服務器上，文件則劃分為多個節(jié)點存放在不一樣節(jié)點服務器上。主卷管理服務器維護了一個統(tǒng)一命名空間，同時掌握整個系統(tǒng)內節(jié)點服務器使用情況，當用戶端向元數(shù)據(jù)服務器發(fā)送數(shù)據(jù)讀寫請求時，元數(shù)據(jù)服務器依據(jù)節(jié)點服務器磁盤使用情況、網絡負擔等情況，選擇負擔最輕節(jié)點服務器對外提供服務，自動均衡負載負擔。另外，當某有一個節(jié)點服務器因為機器故障或其它原因造成離線時，主卷管理服務器會將此機器自動屏蔽掉，不再將此節(jié)點服務器提供給用戶端使用，同時存放在此節(jié)點服務器上數(shù)據(jù)也會自動編碼冗余到其它可用節(jié)點服務器上，自動屏蔽節(jié)點服務器故障對系統(tǒng)影響。高速并發(fā)訪問技術用戶端在訪問云存放時，首先訪問主卷管理服務器節(jié)點，獲取將要和之進行交互節(jié)點服務器信息，然后直接訪問這些節(jié)點服務器完成數(shù)據(jù)存取。用戶端和主卷管理服務器之間只有控制流，而無數(shù)據(jù)流，這么就極大地降低了主卷管理服務器負載，使之不成為系統(tǒng)性能一個瓶頸。用戶端和節(jié)點服務器之間直接傳輸數(shù)據(jù)流，同時因為文件被分成多個節(jié)點進行分布式存放，用戶端能夠同時訪問多個節(jié)點服務器，從而使得整個系統(tǒng)I/O高度并行，系統(tǒng)整體性能得到提升。通常情況下，系統(tǒng)整體吞吐率和節(jié)點服務器數(shù)量呈正比。高可靠性確保技術對于元數(shù)據(jù)，經過操作日志來提供容錯功效，當主管理服務器發(fā)生故障時，在磁盤數(shù)據(jù)保留完好情況下，能夠快速恢復以上元數(shù)據(jù)。為了預防主管理服務器根本死機情況，還提供了主管理服務器遠程實時備份，這么在目前主管理服務器出現(xiàn)故障無法工作時候，另外一臺備管理服務器能夠快速接替其工作。對于節(jié)點服務器，采取編解碼方法實現(xiàn)容錯，分布存放在不一樣節(jié)點服務器上。數(shù)據(jù)塊分布策略考慮了多個原因，如網絡拓撲、機架分布、磁盤利用率等。在其后過程中，假如相關數(shù)據(jù)塊出現(xiàn)丟失或不可恢復等情況，主管理服務器會自動將該數(shù)據(jù)塊編解碼冗余到其它節(jié)點服務器，從而確保數(shù)據(jù)塊一定冗余容錯，進行自動冗余容錯重建。在有多個節(jié)點服務器情況下，任意損失一個節(jié)點，數(shù)據(jù)全部不會丟失，而且伴隨節(jié)點服務器數(shù)目標增多，整個系統(tǒng)可靠性越大。高可用技術系統(tǒng)中全部服務節(jié)點均是經過網絡連接在一起，因為采取了高可靠容錯機制，系統(tǒng)增減節(jié)點無須停止服務，可在線增減存放節(jié)點，存放節(jié)點和元數(shù)據(jù)節(jié)點間經過注冊管理機制自適應管理，實現(xiàn)自動伸縮。元數(shù)據(jù)服務器采取主備雙機熱備技術，主機故障，備機自動接替其工作，對外服務不停止；存放節(jié)點采取編解碼冗余備份機制，如采取4:2編碼容錯，任意損失兩個節(jié)點，數(shù)據(jù)不丟失，服務不停止。低功耗存放技術服務器功耗取決于各個配件總體功耗，而關鍵耗電大戶則是處理器、芯片組和存放器了。低功耗存放技術關鍵是改善這些配件能夠進而實現(xiàn)節(jié)能，這么服務器乃至數(shù)據(jù)中心整體功耗則會得到愈加好控制。伴隨嵌入式技術飛速發(fā)展，嵌入式性能有了很大提升，嵌入式性能和計算機差距不?？s小，尤其是在專用計算機領域。因為嵌入式系統(tǒng)是應用在特定環(huán)境下，針對特殊用途來設計系統(tǒng)。所以不一樣于通用計算機系統(tǒng)。一樣是計算機系統(tǒng)，嵌入式系統(tǒng)是針對具體應用設計“專用系統(tǒng)”。它硬件和軟件全部必需高效地設計。“量體裁衣”，去除冗余，努力爭取在較少資源上實現(xiàn)更高性能。和通用計算機系統(tǒng)相比，它含有功耗低，體積小、集成度高、成本低等優(yōu)點。能夠被應用在近線存放、離線存放存放節(jié)點設計上，有效降低成本和使用功耗，同時對應散熱系統(tǒng)也能夠簡化。分布式、分級、動態(tài)存放技術云存放系統(tǒng)，就是將數(shù)據(jù)分散存放在多臺獨立設備上。傳統(tǒng)網絡存放系統(tǒng)采取集中存放服務器存放全部數(shù)據(jù)，存放服務器成為系統(tǒng)性能瓶頸，也是可靠性和安全性焦點，不能滿足大規(guī)模存放應用需要。分布式網絡存放系統(tǒng)采取可擴展系統(tǒng)結構，利用多臺存放服務器分擔存放負荷，利用位置服務器定位存放信息，它不僅提升了系統(tǒng)可靠性、可用性和存取效率，還易于擴展。云存放系統(tǒng)將一般商用PC機或工作站經過高速網絡互聯(lián)在一起組成機群，能夠依據(jù)系統(tǒng)需要隨時增加新硬件，提升系統(tǒng)可伸縮性和可用性，從而能夠在價格低廉中低端平臺上獲取高端或超級計算機系統(tǒng)才含有高可伸縮性、高可用性和高性能。分級存放是依據(jù)數(shù)據(jù)關鍵性、訪問頻率、保留時間、容量、性能等指標，將數(shù)據(jù)采取不一樣存放方法分別存放在不一樣性能存放設備上，經過分級存放管理實現(xiàn)數(shù)據(jù)客體在存放設備之間自動遷移。數(shù)據(jù)分級存放工作原理是基于數(shù)據(jù)訪問局部性。經過將不常常訪問數(shù)據(jù)自動移到存放層次中較低層次，釋放出較高成本存放空間給更頻繁訪問數(shù)據(jù)，能夠取得愈加好性價比。這么，首先可大大降低非關鍵性數(shù)據(jù)在一級當?shù)卮疟P所占用空間，還可加緊整個系統(tǒng)存放性能。傳統(tǒng)數(shù)據(jù)存放通常分為在線(On-line)存放和離線(Off-line)存放兩級存放方法。而在分級存放系統(tǒng)中，通常分為在線(On-line)存放、近線（Near-line）存放和離線(Off-line)存放三級存放方法。（1）在線存放是指將數(shù)據(jù)存放在高速高性能云存放系統(tǒng)存放設備上，適合存放那些需要常常和快速訪問程序和文件，其存取速度快，性能好，存放價格相對昂貴。在線存放，是工作級存放，其最大特征是存放設備和所存放數(shù)據(jù)時刻保持“在線”狀態(tài)，能夠隨時讀取和修改，以滿足前端應用服務器或數(shù)據(jù)庫對數(shù)據(jù)訪問速度要求。（2）近線存放是指將數(shù)據(jù)存放在低速磁盤系統(tǒng)上，通常是部分存取速度和價格介于高速磁盤和磁帶之間低端磁盤設備。近線存放外延相對比較廣泛，關鍵定在用戶在線存放和離線存放之間應用。就是指將那些并不是常常見到（比如部分長久保留不常見文件歸檔），或說訪問量并不大數(shù)據(jù)存放在性能較低存放設備上。但對這些設備要求是尋址快速、傳輸率高。所以，近線存放對性能要求相對來說并不高，但又要求相對很好訪問性能。同時多數(shù)情況下因為不常見數(shù)據(jù)要占總數(shù)據(jù)量較大比重，這也就要求近線存放設備在需要容量上相對較大。近線存放設備關鍵有采取低功耗架構云存放系統(tǒng)。（3）離線存放，指將數(shù)據(jù)備份到磁帶或磁帶庫上。大多數(shù)情況下關鍵用于對在線存放或近線存放數(shù)據(jù)進行備份，以防范可能發(fā)生數(shù)據(jù)災難，所以又稱備份級存放。離線存放通常采取磁帶作為存放介質，其訪問速度低，但價格低廉海量存放。此次云存放系統(tǒng)方案，就采取了分級技術，把存放信息依據(jù)信息關鍵性、訪問頻率等對信息進行了分級存放，將文件元數(shù)據(jù)等訪問頻繁關鍵信息時刻保持在線存放，開機后保留在內存中，能夠隨時讀取和修改，以滿足前端應用服務器或數(shù)據(jù)庫對數(shù)據(jù)訪問速度要求。將其它備份數(shù)據(jù)、冗余容錯數(shù)據(jù)等訪問量小數(shù)據(jù)等采取廉價SATA硬盤存放。對于訪問量小數(shù)據(jù)采取離線存放，一旦需要訪問這些數(shù)據(jù)能夠使用對應喚醒策略來實現(xiàn)將離線轉為在線，如經過網絡喚醒機制等。對于和時間緊密相關數(shù)據(jù)（如新聞、電視等內容信息）存放，這些數(shù)據(jù)伴隨時間推移，它們使用頻率越來越少，我們能夠依據(jù)時間來對這些信息進行分級動態(tài)存放，如將前多個月歷史數(shù)據(jù)存放到離線存放設備上，它們元數(shù)據(jù)信息也不需要存放在元數(shù)據(jù)服務器內存中，直接存放在元數(shù)據(jù)服務器硬盤中，假如需要訪問時能夠將其調入內存中。對于這些存放這些過時信息存放節(jié)點能夠讓其一直處于待機狀態(tài)，一旦要使用能夠經過網絡喚醒讓其工作起來。接口描述作為云平臺基礎架構層cStor云存放系統(tǒng)，關鍵支持兩種訪問方法：①POSIX通用文件系統(tǒng)接口訪問；②經過專用API訪問。具體描述以下。POSIX通用文件系統(tǒng)接口訪問cStor用戶端掛接程序支持Linux/Unix/Windows/MacOS等操作系統(tǒng)，而且支持POSIX接口規(guī)范，經過用戶端將云存放系統(tǒng)掛載成當?shù)啬夸浕虼疟P后，用戶能夠如同操作當?shù)啬夸浕虼疟P一樣使用云存放空間。同時，對于基于當?shù)匚募到y(tǒng)應用程序，能夠不加修改，直接應用在云存放系統(tǒng)上。通常情況下，能夠經過在用戶端基礎上布署FTP、NFS等服務器方法，對外提供基于FTP和NFS數(shù)據(jù)存放訪問。應用程序API接口調用cStor云存放系統(tǒng)對外提供給用程序API訪問接口，能夠依據(jù)實際應用需要編寫應用程序，經過調用對應接口直接訪問cStor云存放系統(tǒng)。當?shù)厝蒎e和診療技術8.1cStor高可靠性快速恢復 不管怎樣終止服務，元數(shù)據(jù)服務器和存放服務器全部會在幾秒鐘內恢復狀態(tài)和運行。實際上，我們不對正常終止和不正常終止進行區(qū)分，服務器進程全部會被切斷而終止。用戶機和其它服務器會經歷一個小小中止，然后它們特定請求超時，重新連接重啟服務器，重新請求。數(shù)據(jù)塊恢復 每個數(shù)據(jù)塊全部會被備份到放到不一樣存放服務器上。對不一樣目錄和文件，用戶能夠設置不一樣備份等級。在存放服務器掉線或是數(shù)據(jù)被破壞時，元數(shù)據(jù)服務器會根據(jù)需要來復制數(shù)據(jù)塊。元數(shù)據(jù)備份 元數(shù)據(jù)服務器采取雙機熱備技術，在主元數(shù)據(jù)服務器發(fā)生異常中止時，能夠在秒級內切換到備元數(shù)據(jù)服務器，而不會中止業(yè)務。 另外還能夠采取冷備份機制，單獨將元數(shù)據(jù)備份到另外第3臺機器中，從而確保萬無一失。8.2cStor數(shù)據(jù)完整性 每個存放服務器全部利用校驗和來檢驗存放數(shù)據(jù)完整性。 在讀數(shù)據(jù)時，存放服務器首先檢驗和被讀內容相關部分校驗和，所以，服務器不會傳輸錯誤數(shù)據(jù)。假如所檢驗內容和校驗和不符，服務器就會給數(shù)據(jù)請求者返回一個錯誤信息，并把這個情況匯報給元數(shù)據(jù)服務器。用戶機就會讀其它服務器來獲取數(shù)據(jù)，而元數(shù)據(jù)服務器則會從其它拷貝來復制數(shù)據(jù)，等到一個新拷貝完成時，元數(shù)據(jù)服務器就會通知匯報錯誤服務器刪除犯錯數(shù)據(jù)塊。寫數(shù)據(jù)時校驗和計算優(yōu)化了，因為這時關鍵寫操作。我們只是更新增加部分校驗和。在空閑時間，服務器會檢驗不活躍數(shù)據(jù)塊校驗和，這么能夠檢驗出不常常讀數(shù)據(jù)錯誤。一旦錯誤被檢驗出來，服務器會拷貝一個正確數(shù)據(jù)塊來替換錯誤。8.3cStor快照技術 快照操作幾乎在瞬間結構一個文件和目錄樹副本，同時將正在進行其它修改操作對它影響減至最小。異地容災和恢復技術 伴隨企業(yè)規(guī)模擴展，用戶原有意識中數(shù)據(jù)備份已經無法滿足關鍵業(yè)務對系統(tǒng)可用性、實時性、安全性需要。更關鍵是備份數(shù)據(jù)往往會因為多種原因而遭到毀壞，如地震、火災、丟失等。所以需要異地容災備份技術，從而深入提升數(shù)據(jù)抵御多種可能安全原因容災能力。cStor數(shù)據(jù)備份和恢復系統(tǒng)功效自動備份 用戶可依據(jù)工作需要