




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
xx縣云計(jì)算數(shù)據(jù)中心解決方案目錄18328一概述 6283261云計(jì)算概念 6169432現(xiàn)狀與優(yōu)勢(shì) 716720二建設(shè)目標(biāo)與原則 9167031目標(biāo) 915342原則 10290303功能定位 109474三建設(shè)內(nèi)容及技術(shù)方案 11162291整體架構(gòu) 1198812云平臺(tái)建設(shè) 11312093數(shù)據(jù)中心建設(shè) 20172534云存儲(chǔ) 43269885機(jī)房建設(shè) 5923876四管理與服務(wù)模式 11371311管理模式 113102602服務(wù)模式 11525899五項(xiàng)目預(yù)算 11636531機(jī)房工程 116164522硬件設(shè)備 127304803云計(jì)算平臺(tái) 131118464云存儲(chǔ) 131一概述云計(jì)算概念云計(jì)算是基于互聯(lián)網(wǎng)的計(jì)算服務(wù)交付模式和基礎(chǔ)架構(gòu)管理方法,通過網(wǎng)絡(luò)把IT資源(數(shù)據(jù),應(yīng)用等)作為服務(wù)提供給用戶,把大量的高度虛擬化的計(jì)算資源管理起來,組成資源池,用來統(tǒng)一提供服務(wù)。云計(jì)算是一種將全球范疇、高度可擴(kuò)展、靈活的服務(wù)通過互聯(lián)網(wǎng)進(jìn)行發(fā)布與消費(fèi),采取按需求和實(shí)際使用付費(fèi)的商業(yè)模式。2010年,全球云計(jì)算服務(wù)市場(chǎng)的銷售額增長(zhǎng)到了680.3億美元,與2009年586億美元的銷售額相比,增長(zhǎng)了16.6%。到2014年全球云計(jì)算服務(wù)的銷售額將實(shí)現(xiàn)爆炸式增長(zhǎng),達(dá)到1488億美元。國(guó)際數(shù)據(jù)公司(IDC)預(yù)測(cè),2011年全球信息技術(shù)(IT)收入的15%將與云計(jì)算有關(guān);公共云計(jì)算服務(wù)應(yīng)用將增長(zhǎng)30%;私有云計(jì)算部署也將獲得長(zhǎng)足發(fā)展。企業(yè)正在進(jìn)行投資并且要最充分地利用公共的和私有的云計(jì)算。我國(guó)于2010年10月18日頒布的《國(guó)家發(fā)展改革委、工業(yè)和信息化部關(guān)于做好云計(jì)算服務(wù)創(chuàng)新發(fā)展試點(diǎn)示范工作的通知》指出,云計(jì)算創(chuàng)新發(fā)展試點(diǎn)示范工作要與現(xiàn)有數(shù)據(jù)中心相結(jié)合,推進(jìn)云計(jì)算中心(平臺(tái))建設(shè),為提升信息服務(wù)水平、培育戰(zhàn)略性新興產(chǎn)業(yè)、調(diào)整經(jīng)濟(jì)結(jié)構(gòu)、轉(zhuǎn)變發(fā)展方式提供有力支撐。我國(guó)已把云計(jì)算列為國(guó)家重點(diǎn)發(fā)展的戰(zhàn)略性新興產(chǎn)業(yè)之一。
現(xiàn)狀與優(yōu)勢(shì)云計(jì)算是并行計(jì)算、分布式計(jì)算和網(wǎng)格計(jì)算的發(fā)展,是這些計(jì)算機(jī)科學(xué)概念的商業(yè)實(shí)現(xiàn)。云計(jì)算是虛擬化、公用計(jì)算、基礎(chǔ)設(shè)施即服務(wù)(IaaS)、平臺(tái)即服務(wù)(PaaS)、軟件即服務(wù)(SaaS)等概念混合演進(jìn)并躍升的結(jié)果。提供資源的網(wǎng)絡(luò)被稱為“云”?!霸啤敝械馁Y源在使用者看來是可以無限擴(kuò)展的,并且可以隨時(shí)獲取,按需使用,隨時(shí)擴(kuò)展,按使用付費(fèi)。它意味著計(jì)算能力也可以作為一種商品進(jìn)行流通,就像煤氣、水電一樣,取用方便,費(fèi)用低廉,通過互聯(lián)網(wǎng)進(jìn)行傳輸。它是一種革命性的舉措,代表著信息技術(shù)的發(fā)展方向,有望成為下一個(gè)突破萬(wàn)億元規(guī)模的新興產(chǎn)業(yè)。目前形勢(shì)國(guó)際形勢(shì)60年代,麥卡錫提出了把計(jì)算能力作為一種像水和電一樣的公用事業(yè)提供給用戶。云計(jì)算的第一個(gè)里程碑是1999年S提出的通過一個(gè)網(wǎng)站向企業(yè)提供企業(yè)級(jí)應(yīng)用的概念。Amazon使用彈性計(jì)算云和簡(jiǎn)單存儲(chǔ)服務(wù)為企業(yè)首次提供了計(jì)算和存儲(chǔ)服務(wù),收費(fèi)的服務(wù)項(xiàng)目包括存儲(chǔ)服務(wù)器、帶寬、CPU資源以及月租費(fèi)。Amazon把云計(jì)算做成了一個(gè)大生意,不到兩年時(shí)間Amazon上的注冊(cè)開發(fā)人員達(dá)44萬(wàn),還有為數(shù)眾多的企業(yè)級(jí)用戶。云計(jì)算是Amazon增長(zhǎng)最快的業(yè)務(wù)之一,云計(jì)算相關(guān)的業(yè)務(wù)收入已達(dá)1億美元。Google是最大的云計(jì)算的使用者。Google搜索引擎建立在分布于200多個(gè)地點(diǎn)、超過100萬(wàn)臺(tái)服務(wù)器的支撐之上。Google地球、地圖、Gmail、Docs等也同樣使用了這些基礎(chǔ)設(shè)施。采用GoogleDocs之類的應(yīng)用,用戶數(shù)據(jù)會(huì)保存在互聯(lián)網(wǎng)上的某個(gè)位置,通過任何一個(gè)與互聯(lián)網(wǎng)相連的系統(tǒng)十分便利地訪問這些數(shù)據(jù)。目前,Google已經(jīng)允許第三方在Google的云計(jì)算中通過GoogleAppEngine運(yùn)行大型并行應(yīng)用程序。IBM在2007年11月推出了“改變游戲規(guī)則”的“藍(lán)云”計(jì)算平臺(tái),為客戶帶來即買即用的云計(jì)算平臺(tái)。它包括一系列的自動(dòng)化、自我管理和自我修復(fù)的虛擬化云計(jì)算軟件,使來自全球的應(yīng)用可以訪問分布式的大型服務(wù)器池。使得數(shù)據(jù)中心在類似于互聯(lián)網(wǎng)的環(huán)境下運(yùn)行計(jì)算。IBM正在與17個(gè)歐洲組織合作開展云計(jì)算項(xiàng)目RESERVOIR,歐盟為此提供了1.7億歐元作為開發(fā)資金,實(shí)現(xiàn)“無障礙的資源和服務(wù)虛擬化”。2008年IBM投資約4億美元用于其設(shè)在北卡羅來納州和日本東京的云計(jì)算數(shù)據(jù)中心改造;2009年在10個(gè)國(guó)家投資3億美元建立了13個(gè)云計(jì)算中心。微軟緊跟云計(jì)算步伐,于2008年推出了WindowsAzure操作系統(tǒng)。Azure(“藍(lán)天”)是繼Windows取代DOS之后,微軟的又一次顛覆性轉(zhuǎn)型——通過在互聯(lián)網(wǎng)架構(gòu)上打造新云計(jì)算平臺(tái),讓W(xué)indows真正由PC延伸到“藍(lán)天”上。微軟擁有全世界數(shù)以億計(jì)的Windows用戶桌面和瀏覽器,可將它們連接到“藍(lán)天”上。Azure的底層是微軟全球基礎(chǔ)服務(wù)系統(tǒng),由遍布全球的第四代數(shù)據(jù)中心構(gòu)成。云計(jì)算的新穎之處在于它幾乎可以提供無限的廉價(jià)存儲(chǔ)和計(jì)算能力。紐約一家名為Animoto的創(chuàng)業(yè)企業(yè)已證明云計(jì)算的強(qiáng)大能力。Animoto允許用戶上傳圖片和音樂,自動(dòng)生成基于網(wǎng)絡(luò)的視頻演講稿,并且能夠與好友分享。該網(wǎng)站目前向注冊(cè)用戶提供免費(fèi)服務(wù)。2008年初,網(wǎng)站每天用戶數(shù)約為5000人。4月中旬,由于Facebook用戶開始使用Animoto服務(wù),該網(wǎng)站在三天內(nèi)的用戶數(shù)大幅上升至75萬(wàn)人。Animoto聯(lián)合創(chuàng)始人StevieClifton表示,為了滿足用戶需求的上升,該公司需要將服務(wù)器能力提高100倍,但是該網(wǎng)站既沒有資金,也沒有能力建立規(guī)模如此巨大的計(jì)算能力。因此,該網(wǎng)站與云計(jì)算服務(wù)公司RightScale合作,設(shè)計(jì)能夠在亞馬遜的網(wǎng)云中使用的應(yīng)用程序。通過這一舉措,該網(wǎng)站大大提高了計(jì)算能力,而費(fèi)用只有每服務(wù)器每小時(shí)10美分。這樣的方式也加強(qiáng)創(chuàng)業(yè)企業(yè)的靈活性。當(dāng)需求下降時(shí),Animoto只需減少所使用的服務(wù)器數(shù)量就可以降低服務(wù)器支出。國(guó)內(nèi)形勢(shì)我國(guó)云計(jì)算發(fā)展也非常迅猛。2008年,IBM在北京成立了中國(guó)的云計(jì)算中心——IBM大中華區(qū)云計(jì)算中心;同年,廣東電子工業(yè)研究院在東莞松山湖投資2億元建立了云計(jì)算平臺(tái);2009年,阿里巴巴集團(tuán)旗下子公司阿里軟件在南京建立了國(guó)內(nèi)首個(gè)“電子商務(wù)云計(jì)算中心”,首期投資額上億元人民幣;世紀(jì)互聯(lián)推出了CloudEx產(chǎn)品線,包括完整的互聯(lián)網(wǎng)主機(jī)服務(wù)“CloudExComputingService”,基于在線存儲(chǔ)虛擬化的“CloudExStorageService”,供個(gè)人及企業(yè)進(jìn)行互聯(lián)網(wǎng)云端備份的數(shù)據(jù)保全服務(wù)等系列互聯(lián)網(wǎng)云計(jì)算服務(wù);中國(guó)移動(dòng)研究院已經(jīng)完成了云計(jì)算中心試驗(yàn),認(rèn)為云計(jì)算和互聯(lián)網(wǎng)的移動(dòng)化是未來發(fā)展方向。易度在線工作平臺(tái)everydo.com在云計(jì)算領(lǐng)域發(fā)展也很快,旗下的多款云計(jì)算產(chǎn)品,包括文檔、項(xiàng)目、工作管理等,致力于解決中小企業(yè)的軟件領(lǐng)域問題。我國(guó)企業(yè)創(chuàng)造的“云安全”概念,在國(guó)際云計(jì)算領(lǐng)域獨(dú)樹一幟。云安全通過網(wǎng)狀的大量客戶端對(duì)網(wǎng)絡(luò)中軟件行為的異常監(jiān)測(cè),獲取互聯(lián)網(wǎng)中木馬、惡意程序的最新信息,推送到服務(wù)端進(jìn)行自動(dòng)分析和處理,再把病毒和木馬的解決方案分發(fā)到每一個(gè)客戶端。云安全的發(fā)展像一陣風(fēng),瑞星、趨勢(shì)、卡巴斯基、MCAFEE、SYMANTEC、江民科技、PANDA、金山、360安全衛(wèi)士、卡卡上網(wǎng)安全助手等都推出了云安全解決方案。瑞星基于云安全策略開發(fā)的2009新品,每天攔截?cái)?shù)百萬(wàn)次木馬攻擊。趨勢(shì)科技云安全已經(jīng)在全球建立了5大數(shù)據(jù)中心,幾萬(wàn)部在線服務(wù)器。云安全可以支持平均每天55億條點(diǎn)擊查詢,每天收集分析2.5億個(gè)樣本,資料庫(kù)第一次命中率就可以達(dá)到99%。借助云安全,趨勢(shì)科技現(xiàn)在每天阻斷的病毒感染最高達(dá)1000萬(wàn)次。2008年11月25日,中國(guó)電子學(xué)會(huì)專門成立了云計(jì)算專家委員會(huì),聘任中國(guó)工程院院士李德毅為主任委員,聘任IBM大中華區(qū)首席技術(shù)總裁葉天正、中國(guó)電子科技集團(tuán)公司第十五研究所所長(zhǎng)劉愛民、中國(guó)工程院院士張堯?qū)W、Google全球前副總裁/中國(guó)區(qū)前總裁李開復(fù)、中國(guó)工程院院士倪光南、中國(guó)移動(dòng)通信研究院院長(zhǎng)黃曉慶六位專家為副主任委員,聘任國(guó)內(nèi)外30多位知名專家學(xué)者為專家委員會(huì)委員。2009年5月22日,中國(guó)電子學(xué)會(huì)在北京中國(guó)大飯店隆重舉辦首屆中國(guó)云計(jì)算大會(huì),探討了我國(guó)發(fā)展云計(jì)算的基本思路。二建設(shè)目標(biāo)與原則1目標(biāo)睢寧縣云計(jì)算數(shù)據(jù)中心立足睢寧,吸取國(guó)際、國(guó)內(nèi)云計(jì)算中心建設(shè)、運(yùn)營(yíng)的經(jīng)驗(yàn),為全縣提供一流的公有云、私有云和超級(jí)計(jì)算服務(wù);為各個(gè)行業(yè)領(lǐng)域、政務(wù)信息化和民生改善提供一流的數(shù)據(jù)存儲(chǔ)與信息服務(wù)。初步實(shí)現(xiàn)“云計(jì)算服務(wù)”的戰(zhàn)略目標(biāo)。云計(jì)算服務(wù)是建設(shè)基礎(chǔ)設(shè)施、平臺(tái)及軟件三大云計(jì)算服務(wù)。以數(shù)據(jù)災(zāi)備、信息存儲(chǔ)、處理能力等為主建設(shè)基礎(chǔ)設(shè)施服務(wù),以應(yīng)用開發(fā)、信息管理、超級(jí)計(jì)算等為主建設(shè)平臺(tái)服務(wù),以政府行業(yè)信息化、全縣征信系統(tǒng)等為主建設(shè)軟件服務(wù)。對(duì)促進(jìn)睢寧信息技術(shù)發(fā)展,提升本地區(qū)的科技競(jìng)爭(zhēng)力起到舉足輕重的作用。2原則2.1統(tǒng)一規(guī)劃、建設(shè)和應(yīng)用并重整合資源,制定云計(jì)算、存儲(chǔ)、服務(wù)、應(yīng)用收費(fèi)等標(biāo)準(zhǔn),統(tǒng)一設(shè)計(jì)云計(jì)算建設(shè)和資源應(yīng)用總體框架;整合用戶信息服務(wù)需求,達(dá)到公有云和私有云協(xié)同發(fā)展,提高整體系統(tǒng)效率,避免重復(fù)建設(shè)。2.2示范引導(dǎo)、分步實(shí)施針對(duì)我縣的優(yōu)勢(shì)產(chǎn)業(yè)以及云計(jì)算應(yīng)用需求最迫切的領(lǐng)域或區(qū)域,開展云計(jì)算應(yīng)用試點(diǎn)示范,由點(diǎn)到面,逐步擴(kuò)展應(yīng)用的領(lǐng)域和區(qū)域。2.3面向應(yīng)用、模式創(chuàng)新以應(yīng)用為先導(dǎo),研究探索云計(jì)算在各領(lǐng)域的應(yīng)用和運(yùn)行模式,以政府為先導(dǎo),市場(chǎng)驅(qū)動(dòng),鼓勵(lì)和支持云服務(wù)運(yùn)營(yíng)模式創(chuàng)新。2.4政府主導(dǎo)、市場(chǎng)運(yùn)作積極搶抓云計(jì)算發(fā)展的機(jī)遇,主動(dòng)順應(yīng)云計(jì)算發(fā)展的客觀規(guī)律和要求,充分發(fā)揮政府在推動(dòng)云計(jì)算發(fā)展進(jìn)程中的主導(dǎo)作用,面向市場(chǎng)需求,通過政府引導(dǎo)、企業(yè)主體、市場(chǎng)配置,促進(jìn)企業(yè)成為市場(chǎng)參與主體,進(jìn)一步激發(fā)企業(yè)主體創(chuàng)新創(chuàng)業(yè)的動(dòng)力和活力。3功能定位睢寧縣云計(jì)算數(shù)據(jù)中心是我縣信息技術(shù)基礎(chǔ)設(shè)施,承擔(dān)全縣信息系統(tǒng)核心業(yè)務(wù)。作為各種行業(yè)和機(jī)構(gòu)的信息系統(tǒng)運(yùn)行中心、測(cè)試中心和災(zāi)備中心,具有核心業(yè)務(wù)運(yùn)營(yíng)、信息資源服務(wù)、關(guān)鍵業(yè)務(wù)計(jì)算、數(shù)據(jù)存儲(chǔ)和備份、確保業(yè)務(wù)連續(xù)性等功能。建設(shè)睢寧縣云計(jì)算數(shù)據(jù)中心,是實(shí)現(xiàn)智慧睢寧的需要。針對(duì)睢寧縣政府、大中小企業(yè)和個(gè)人等不同用戶需求,研究推進(jìn)SaaS、PaaS和IaaS等服務(wù)模式創(chuàng)新發(fā)展。睢寧縣云計(jì)算數(shù)據(jù)中心主要承載如下功能:政務(wù)信息化和業(yè)務(wù)協(xié)同平臺(tái);承擔(dān)包括研究開發(fā)、科學(xué)計(jì)算、科普教育等功能的計(jì)算中心;融合城市應(yīng)急指揮、平安社區(qū)以及信息發(fā)布的市政信息化統(tǒng)一辦公體系平臺(tái)的數(shù)據(jù)存儲(chǔ)和處理中心;為各行業(yè)用戶提供計(jì)算資源和存儲(chǔ)資源服務(wù)的服務(wù)中心;為征信系統(tǒng)提供服務(wù)平臺(tái)。三建設(shè)內(nèi)容及技術(shù)方案1整體架構(gòu)睢寧縣云計(jì)算數(shù)據(jù)中心建設(shè)是基于華為云計(jì)算服務(wù)平臺(tái)進(jìn)行建設(shè)的,充分利用了華為云服務(wù)平臺(tái)諸多云能力,并將睢寧縣的政府業(yè)務(wù)與之有機(jī)整合,將先進(jìn)的技術(shù)和多樣化的業(yè)務(wù)進(jìn)行完美結(jié)合,進(jìn)而在業(yè)務(wù)的信息化無紙化過程中體現(xiàn)出云的先進(jìn)理念。通過云計(jì)算技術(shù),將睢寧政府網(wǎng)站群、平安城市、信息化等系統(tǒng)的軟硬件資源集中部署,簡(jiǎn)稱睢寧縣云計(jì)算中心,實(shí)現(xiàn)信息資源的共享,并為各部門的信息化建設(shè)提供可高度擴(kuò)展、可充分共享、可動(dòng)態(tài)調(diào)整的基礎(chǔ)資源??傮w上睢寧縣云計(jì)算中心的建設(shè)主要包括以下內(nèi)容:云平臺(tái)建設(shè):包括基礎(chǔ)資源平臺(tái)建設(shè)、應(yīng)用支撐平臺(tái)建設(shè)、應(yīng)用服務(wù)平臺(tái)建設(shè)。數(shù)據(jù)中心建設(shè):包括網(wǎng)絡(luò)建設(shè)、安全部署、服務(wù)器系統(tǒng)建設(shè)、存儲(chǔ)備份系統(tǒng)建設(shè)、運(yùn)維管理系統(tǒng)建設(shè)。機(jī)房建設(shè):包括機(jī)房設(shè)計(jì)、裝修及各子系統(tǒng)建設(shè)。2云平臺(tái)建設(shè)2.1云平臺(tái)架構(gòu)簡(jiǎn)介華為云服務(wù)平臺(tái)主要由硬件資源平臺(tái)、虛擬化基礎(chǔ)平臺(tái)、云計(jì)算基礎(chǔ)平臺(tái)和OM管理平臺(tái)組成。采用虛擬計(jì)算、虛擬存儲(chǔ)、虛擬網(wǎng)絡(luò)等技術(shù),完成計(jì)算資源、存儲(chǔ)資源、網(wǎng)絡(luò)資源的虛擬化。同時(shí)通過統(tǒng)一的接口,對(duì)這些虛擬資源進(jìn)行集中調(diào)度和管理,從而降低業(yè)務(wù)的運(yùn)行成本,保證系統(tǒng)的安全性和可靠性。虛擬化基礎(chǔ)平臺(tái)作為華為云服務(wù)平臺(tái)的關(guān)鍵技術(shù)平臺(tái),通過虛擬化技術(shù),將計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全等物理資源轉(zhuǎn)化為可統(tǒng)一管理、靈活調(diào)度、動(dòng)態(tài)分配的虛擬資源,構(gòu)建云數(shù)據(jù)中心的虛擬化平臺(tái)。云計(jì)算基礎(chǔ)平臺(tái)對(duì)虛擬化基礎(chǔ)平臺(tái)提供的虛擬資源進(jìn)行業(yè)務(wù)封裝和管理,包括虛擬資源管理、鏡像管理、計(jì)費(fèi)管理、調(diào)度管理、用戶管理,構(gòu)筑云數(shù)據(jù)中心業(yè)務(wù)運(yùn)營(yíng)能力。OM管理平臺(tái)對(duì)整個(gè)系統(tǒng)進(jìn)行操作維護(hù),包含資源管理、資源監(jiān)控、資源報(bào)表等。2.2云平臺(tái)安全云計(jì)算環(huán)境中需要大量使用OS、DB、Web等通用軟件,很容易遭受病毒入侵、漏洞攻擊、木馬、拒絕服務(wù)等安全威脅,從而影響系統(tǒng)運(yùn)營(yíng)。華為作為國(guó)際上領(lǐng)先的云服務(wù)提供商,在云安全方面擁有雄厚的積累,采用了各種手段來保障云服務(wù)的安全性。華為云數(shù)據(jù)中心基礎(chǔ)的安全能力主要通過系統(tǒng)加固、防病毒和安全補(bǔ)丁這三方面措施來提供。系統(tǒng)加固系統(tǒng)自身漏洞、不安全的帳號(hào)/口令、不當(dāng)?shù)呐渲煤筒僮?、開啟不安全的服務(wù)等都為病毒、黑客、蠕蟲、木馬等入侵提供了方便之門,給系統(tǒng)帶來安全危害。為了減少以上因素帶來的威脅,需要進(jìn)行安全配置。根據(jù)CIS(theCenterforInternetSecurity)的調(diào)查顯示,80%-90%的已知的脆弱性都可以通過基本的安全配置來消除,而且通過安全加固所達(dá)到的效果是使用防病毒軟件和安裝補(bǔ)丁所不能達(dá)到的。華為云服務(wù)平臺(tái)云計(jì)算數(shù)據(jù)中心制定了一系列的操作系統(tǒng)、數(shù)據(jù)庫(kù)、Web應(yīng)用等開發(fā)、測(cè)試安全規(guī)范,并自主研發(fā)了相應(yīng)的系統(tǒng)安全定制、檢查工具,滿足業(yè)界安全最佳實(shí)踐的Benchmark要求。安全補(bǔ)丁軟件因自身設(shè)計(jì)缺陷而存在很多漏洞,定期為系統(tǒng)安裝補(bǔ)丁以修補(bǔ)這些漏洞,防止病毒、蠕蟲和黑客利用這些漏洞對(duì)系統(tǒng)進(jìn)行攻擊,是從根本上杜絕系統(tǒng)漏洞的有效方式。華為云服務(wù)平臺(tái)云數(shù)據(jù)中心提供集中的安全補(bǔ)丁管理方案,實(shí)現(xiàn)了補(bǔ)丁測(cè)試、自動(dòng)補(bǔ)丁安裝、回退等機(jī)制;結(jié)合虛擬機(jī)遷移控制,保證物理機(jī)器重啟不中斷業(yè)務(wù)。防病毒支持管理節(jié)點(diǎn)、管理終端的防病毒,整個(gè)網(wǎng)絡(luò)的Linux、window防病毒集中管理和維護(hù)。2.3可靠性2.3后面,ABCDE可作為2.3.1等2.3后面,ABCDE可作為2.3.1等高可用性指標(biāo)全局虛擬機(jī)年度平均可用度99.9%以上:指標(biāo)介紹:虛擬主機(jī)在任何隨機(jī)時(shí)刻能夠滿意工作的概率。虛擬機(jī)業(yè)務(wù)運(yùn)行時(shí)間(dutytime):24*7指標(biāo)說明:可提供一天24小時(shí),一周七天的不間斷虛擬機(jī)服務(wù)。電源恢復(fù)時(shí)間<2hour:指標(biāo)說明:云平臺(tái)系統(tǒng)從電源恢復(fù)到業(yè)務(wù)完全恢復(fù)的時(shí)間。指標(biāo)達(dá)成:云平臺(tái)系統(tǒng)軟件可以不分先后進(jìn)行加載,包括管理軟件和計(jì)算服務(wù)器軟件;單個(gè)服務(wù)器加載時(shí)間不超過5分鐘,可并行進(jìn)行20個(gè)服務(wù)器的加載。虛擬機(jī)故障遷移的時(shí)間小于4分鐘:指標(biāo)說明:由于各類故障導(dǎo)致虛擬機(jī)掉電或死機(jī),系統(tǒng)將故障虛擬機(jī)重新啟動(dòng)完成的時(shí)間;系統(tǒng)檢查到虛擬機(jī)故障,開始在其他正常服務(wù)器上啟動(dòng)虛擬機(jī)的時(shí)間。最終VM啟動(dòng)完成依賴于客戶機(jī)OS鏡像啟動(dòng)時(shí)間。指標(biāo)達(dá)成:系統(tǒng)管理服務(wù)器通過心跳進(jìn)行虛擬機(jī)的故障檢測(cè),在40秒內(nèi)沒有響應(yīng),就在其他服務(wù)器上進(jìn)行此虛擬機(jī)的啟動(dòng),此過程稱為故障遷移(HA)。虛擬機(jī)本身啟動(dòng)的時(shí)間不包括在內(nèi)。系統(tǒng)通過鎖的方式,可防止虛擬機(jī)的腦裂行為。虛擬機(jī)熱遷移時(shí)間和虛擬機(jī)內(nèi)存相關(guān),每1G內(nèi)存需要20秒:指標(biāo)說明:計(jì)劃內(nèi)的定時(shí)或手工熱遷移,虛擬機(jī)從一臺(tái)服務(wù)器上平滑無損的遷移到另外一臺(tái)物理機(jī)上運(yùn)行起來的時(shí)間。指標(biāo)達(dá)成:熱遷移時(shí),系統(tǒng)內(nèi)的虛擬化軟件進(jìn)行虛擬機(jī)的內(nèi)存拷貝到目的物理服務(wù)器,速度大致為每20秒1G,拷貝完成后,再將拷貝這段時(shí)間內(nèi)的內(nèi)存變化數(shù)據(jù)同步到目的物理機(jī),然后如此循環(huán),最終進(jìn)行新虛擬機(jī)的啟動(dòng),關(guān)閉舊虛擬機(jī),切換時(shí)間為毫秒級(jí),業(yè)務(wù)上無感知。機(jī)柜可靠性云計(jì)算機(jī)房采用的機(jī)柜具有以下可靠性規(guī)格:雙PDU,支持設(shè)備雙路供電,所有輸出具有過流保護(hù)功能;最高規(guī)格的抗震設(shè)計(jì):抗9級(jí)烈度地震。服務(wù)器可靠性華為云服務(wù)全部采用華為自產(chǎn)的服務(wù)器,端到端的制造能力為服務(wù)器的高可靠性和高性價(jià)比提供了良好的保障。內(nèi)存可靠性內(nèi)存錯(cuò)誤主要包括硬件錯(cuò)誤和軟件錯(cuò)誤,其中硬件錯(cuò)誤是由硬件失效或者損壞造成的,器件會(huì)不斷返回不正確的數(shù)據(jù),硬件錯(cuò)誤可以通過華為云服務(wù)平臺(tái)的服務(wù)器啟動(dòng)時(shí)BIOS的內(nèi)存自檢發(fā)現(xiàn)。內(nèi)存使用中經(jīng)常碰到的是軟件錯(cuò)誤,軟件錯(cuò)誤不能通過內(nèi)存自檢發(fā)現(xiàn),只有通過一些內(nèi)存檢錯(cuò)和糾錯(cuò)的算法來保護(hù)內(nèi)存中的數(shù)據(jù)。華為云服務(wù)平臺(tái)的服務(wù)器在內(nèi)存軟件錯(cuò)誤糾正上采用內(nèi)存ECC(ErrorCheckingandCorrection)技術(shù),采用工業(yè)標(biāo)準(zhǔn)的糾錯(cuò)算法,能夠檢測(cè)內(nèi)存2bit錯(cuò)誤,并修復(fù)內(nèi)存單bit錯(cuò)誤。硬盤可靠性硬盤熱插拔:華為云服務(wù)平臺(tái)的服務(wù)器支持系統(tǒng)運(yùn)行時(shí)的硬盤(SATA)熱插拔;硬盤RAID:華為云服務(wù)平臺(tái)的服務(wù)器支持RAID0、1、5等多種RAID方式,支持RAID下另加熱備盤的配置,保證了硬盤數(shù)據(jù)的高可靠性,在RAID組的某顆硬盤壞掉后,支持?jǐn)?shù)據(jù)恢復(fù)、RAID組恢復(fù)和在線更換硬盤。其中RAID卡支持電池,可以對(duì)Cache數(shù)據(jù)進(jìn)行保護(hù),既可以提高對(duì)硬盤的訪問性能,又可以防止意外掉電時(shí)數(shù)據(jù)的丟失。支持磁盤在線定時(shí)故障檢測(cè)和預(yù)警華為云服務(wù)平臺(tái)的服務(wù)器采用了業(yè)界先進(jìn)的S.M.A.R.T.技術(shù),對(duì)基于ATA和SCSI接口的硬盤的監(jiān)控和可靠性管理,檢查其可靠性并預(yù)測(cè)磁盤錯(cuò)誤。其技術(shù)原理是主要通過偵測(cè)硬盤各屬性,如數(shù)據(jù)吞吐性能、馬達(dá)起動(dòng)時(shí)間、尋道錯(cuò)誤率等屬性值和標(biāo)準(zhǔn)值進(jìn)行比較分析,推斷硬盤的故障情況并給出提示信息,幫助用戶避免數(shù)據(jù)損失。電源可靠性華為云服務(wù)平臺(tái)的服務(wù)器配置2組電源(PSU),提供電源故障告警,支持電源1+1冗余和熱插拔,可以在1組電源故障后,系統(tǒng)持續(xù)運(yùn)行而不影響業(yè)務(wù);并且可以在線更換故障電源。系統(tǒng)監(jiān)控華為云服務(wù)平臺(tái)的服務(wù)器支持對(duì)CPU,內(nèi)存等熱關(guān)鍵器件的溫度實(shí)時(shí)監(jiān)控,配合智能的風(fēng)扇調(diào)速和監(jiān)控,確保系統(tǒng)運(yùn)行的可靠性。華為云服務(wù)平臺(tái)的服務(wù)器支持對(duì)風(fēng)扇,電源,硬盤等關(guān)鍵器件的運(yùn)行狀態(tài)監(jiān)控,設(shè)備故障時(shí)會(huì)產(chǎn)生告警,可以靈活對(duì)支持熱插拔設(shè)備進(jìn)行在線更換,不支持熱插拔設(shè)備提前安排好業(yè)務(wù)后進(jìn)行下電更換。板載軟件可靠性BMC軟件支持雙Image,當(dāng)Flash中的某個(gè)Image遭到破壞時(shí),支持從另一個(gè)Image啟動(dòng)BMC系統(tǒng),而不會(huì)造成系統(tǒng)無法啟動(dòng)的情況。BMC軟件支持進(jìn)程監(jiān)控,某個(gè)進(jìn)程死掉后,支持重啟恢復(fù)功能。網(wǎng)絡(luò)可靠性網(wǎng)絡(luò)子系統(tǒng)主要采取以下五個(gè)措施來增強(qiáng)系統(tǒng)的可靠性:網(wǎng)卡負(fù)荷分擔(dān)對(duì)于物理服務(wù)器提供的多塊網(wǎng)卡,出于可靠性以及流量負(fù)載均衡的考慮,系統(tǒng)采用了Bonding模式。將網(wǎng)卡綁定成邏輯上的“一塊網(wǎng)卡”,多個(gè)網(wǎng)卡同步一起工作,對(duì)服務(wù)器的訪問流量被均衡分擔(dān)到多塊網(wǎng)卡上,這樣每塊網(wǎng)卡的負(fù)載壓力就小多了,抗并發(fā)訪問的能力提高,保證了服務(wù)器訪問的穩(wěn)定和暢快,而且當(dāng)其中一塊發(fā)生故障的時(shí)候,另外的網(wǎng)卡立刻接管全部負(fù)載,過程是無縫的,服務(wù)不會(huì)中斷。交換機(jī)堆疊通過堆疊技術(shù),將兩臺(tái)物理交換機(jī)作為一臺(tái)交換機(jī)進(jìn)行處理,交換機(jī)之間無需配置TRUNK,對(duì)于接入設(shè)備服務(wù)器而言,相當(dāng)于只看到一臺(tái)物理設(shè)備。處于堆疊組中的兩臺(tái)物理交換機(jī)處于主備狀態(tài),單臺(tái)設(shè)備故障,由另外一臺(tái)設(shè)備接管。交換機(jī)通過堆疊線纜連接成環(huán)型或鏈型,運(yùn)行堆疊管理協(xié)議,選舉出主交換機(jī),負(fù)責(zé)堆疊系統(tǒng)的管理,包括分配堆疊成員的ID、收集堆疊的拓?fù)湫畔?,并將拓?fù)湫畔⑼ǜ娼o所有的堆疊成員;主交換機(jī)指定備用交換機(jī),備交換機(jī)在主交換機(jī)出現(xiàn)故障的時(shí)候升級(jí)為主交換機(jī)來管理整個(gè)堆疊。交換機(jī)互連冗余SmartLink,中文譯為靈活鏈路,又稱為備份鏈路,是一種為鏈路雙上行提供可靠高效的備份和切換機(jī)制的解決方案,常用于雙上行組網(wǎng)。相比STP(SpanningTreeProtocol,生成樹協(xié)議),SmartLink技術(shù)能夠提供更高的收斂性能,相比RRPP(RapidRingProtectionProtocol)和SEP(SmartEthernetProtection),SmartLink技術(shù)提供了更簡(jiǎn)潔的配置使用方式。雙上行組網(wǎng)是目前常用應(yīng)用組網(wǎng)之一,該組網(wǎng)下通過生成樹協(xié)議阻塞冗余鏈路,起備份作用。當(dāng)主用鏈路故障時(shí),將流量切換到備用鏈路。雖然這種方案從功能上可以實(shí)現(xiàn)客戶冗余備份的需求,但是在性能上卻不能達(dá)到很多用戶的要求,因?yàn)榧词共捎每焖偕蓸鋮f(xié)議的快速遷移,也只能是秒級(jí)的收斂速度。這對(duì)于應(yīng)用于電信級(jí)網(wǎng)絡(luò)核心的高端以太網(wǎng)交換機(jī),是非常不利的一個(gè)性能參數(shù)?;谏鲜鲈?,華為云服務(wù)平臺(tái)引入了SmartLink解決方案,針對(duì)雙上行組網(wǎng),實(shí)現(xiàn)主備鏈路冗余備份及快速遷移。該方案為雙上行組網(wǎng)量身定做,即保證了性能,又簡(jiǎn)化了配置,同時(shí),作為對(duì)SmartLink的一個(gè)補(bǔ)充,還引入了端口聯(lián)動(dòng)的方案,也即是MonitorLink,用于監(jiān)控上行鏈路,使SmartLink備份作用更為完善。虛擬路由冗余保護(hù)VRRP(VirtualRouterRedundancyProtocol)虛擬路由冗余協(xié)議,是一種容錯(cuò)協(xié)議。該協(xié)議通過把幾臺(tái)路由設(shè)備聯(lián)合組成一臺(tái)虛擬的路由設(shè)備,使用一定的機(jī)制保證當(dāng)主機(jī)的下一跳交換機(jī)出現(xiàn)故障時(shí),及時(shí)將業(yè)務(wù)切換到其它交換機(jī),從而保持通訊的連續(xù)性和可靠性。VRRP將局域網(wǎng)的一組路由設(shè)備構(gòu)成一個(gè)VRRP備份組,相當(dāng)于一臺(tái)虛擬路由器。局域網(wǎng)內(nèi)的主機(jī)只需要知道這個(gè)虛擬路由器的IP地址,并不需知道具體某臺(tái)設(shè)備的IP地址,將網(wǎng)絡(luò)內(nèi)主機(jī)的缺省網(wǎng)關(guān)設(shè)置為該虛擬路由器的IP地址,主機(jī)就可以利用該虛擬網(wǎng)關(guān)與外部網(wǎng)絡(luò)進(jìn)行通信。VRRP將該虛擬路由器動(dòng)態(tài)關(guān)聯(lián)到承擔(dān)傳輸業(yè)務(wù)的物理設(shè)備上,當(dāng)該設(shè)備出現(xiàn)故障時(shí),再次選擇新設(shè)備來接替業(yè)務(wù)傳輸工作,整個(gè)過程對(duì)用戶完全透明,實(shí)現(xiàn)了內(nèi)部網(wǎng)絡(luò)和外部網(wǎng)絡(luò)不間斷通信。網(wǎng)絡(luò)分平面通信整個(gè)云計(jì)算系統(tǒng)邏輯上可以分為三個(gè)平面:管理平面、存儲(chǔ)平面和業(yè)務(wù)平面。為了保證各種網(wǎng)絡(luò)平面數(shù)據(jù)的可靠性,華為云服務(wù)平臺(tái)采用分網(wǎng)絡(luò)平面的架構(gòu)方案,不同平面間采用VLAN進(jìn)行隔離,單個(gè)平面的故障不影響其余的兩個(gè)平面繼續(xù)工作,例如當(dāng)管理平面暫時(shí)故障時(shí),業(yè)務(wù)平面還能夠繼續(xù)為云終端用戶提供服務(wù)。此外,系統(tǒng)還支持基于VLAN的優(yōu)先級(jí)設(shè)定,使得內(nèi)部的管理/控制報(bào)文具備最高的權(quán)限,從而使得在任何時(shí)候,管理員和用戶均可以管控系統(tǒng)。云平臺(tái)軟件可靠性管理節(jié)點(diǎn)HA業(yè)務(wù)主備管理節(jié)點(diǎn)采用管理平面的心跳檢測(cè),備用節(jié)點(diǎn)實(shí)時(shí)檢測(cè)主用節(jié)點(diǎn)的健康狀態(tài),一旦發(fā)現(xiàn)主用管理節(jié)點(diǎn)故障,備用管理節(jié)點(diǎn)將立刻接管主用節(jié)點(diǎn)的任務(wù),持續(xù)對(duì)外提供服務(wù)。針對(duì)業(yè)務(wù)管理節(jié)點(diǎn)上的應(yīng)用進(jìn)程,通過采用軟件看門狗的方式對(duì)運(yùn)行在管理節(jié)點(diǎn)上的進(jìn)程進(jìn)行實(shí)時(shí)監(jiān)控,如發(fā)現(xiàn)進(jìn)程吊死或進(jìn)入死循環(huán),軟件看門狗將會(huì)檢測(cè)到相關(guān)進(jìn)程的異常狀態(tài),并觸發(fā)相關(guān)進(jìn)程的重啟恢復(fù);如果發(fā)現(xiàn)進(jìn)程重啟后仍不能恢復(fù)正常,則進(jìn)行業(yè)務(wù)管理節(jié)點(diǎn)的主備倒換并出告警以保證應(yīng)用進(jìn)程的可靠性。管理節(jié)點(diǎn)負(fù)責(zé)對(duì)全系統(tǒng)的業(yè)務(wù)進(jìn)行管理,采用主備高可靠性的工作方式,如果主備管理節(jié)點(diǎn)同時(shí)故障的時(shí)候,相關(guān)的業(yè)務(wù)會(huì)受影響,例如虛擬機(jī)的創(chuàng)建和刪除等等,但是,對(duì)于已經(jīng)存在并運(yùn)行中的虛擬機(jī),不會(huì)產(chǎn)生任何影響,也就是說即使主備管理節(jié)點(diǎn)同時(shí)故障,也不會(huì)對(duì)正在使用的虛擬機(jī)產(chǎn)生影響,用戶繼續(xù)使用虛擬機(jī)上的應(yīng)用程序,不會(huì)有任何感知。管理節(jié)點(diǎn)數(shù)據(jù)備份管理節(jié)點(diǎn)所有數(shù)據(jù),包括配置文件、數(shù)據(jù)庫(kù)記錄等,均會(huì)定期自動(dòng)備份到IMN(安裝管理節(jié)點(diǎn)),即使管理服務(wù)器主備都故障且數(shù)據(jù)丟失,也可以快速恢復(fù)。備份方式:每周全量備份;每天增量備份?;謴?fù)過程:更換管理服務(wù)器;重新加載管理節(jié)點(diǎn);拷入備份的數(shù)據(jù),啟動(dòng)管理節(jié)點(diǎn),即可恢復(fù)。虛擬機(jī)HA當(dāng)計(jì)算節(jié)點(diǎn)物理服務(wù)器宕機(jī)或者重啟,系統(tǒng)可以將具有HA屬性的虛擬機(jī)故障遷移到其他計(jì)算服務(wù)器,保證虛擬機(jī)能夠快速恢復(fù)。華為云服務(wù)平臺(tái)提供多種遷移策略,當(dāng)計(jì)算服務(wù)器宕機(jī)后,由于單個(gè)集群內(nèi)可以運(yùn)行上千個(gè)虛擬機(jī)(單個(gè)計(jì)算節(jié)點(diǎn)可以運(yùn)行40個(gè)VM),為避免大量虛擬機(jī)遷移造成網(wǎng)絡(luò)擁塞和目的服務(wù)器過載,系統(tǒng)會(huì)根據(jù)網(wǎng)絡(luò)流量、目的服務(wù)器負(fù)荷選擇將虛擬機(jī)遷移到不同的目的服務(wù)器。在不同虛擬機(jī)故障的場(chǎng)景,當(dāng)虛擬機(jī)與管理節(jié)點(diǎn)無法進(jìn)行連接,并且累計(jì)達(dá)十次響應(yīng)超時(shí),則系統(tǒng)認(rèn)為虛擬機(jī)故障,然后管理節(jié)點(diǎn)選擇新的計(jì)算節(jié)點(diǎn)重新創(chuàng)建故障虛擬機(jī)。虛擬機(jī)熱遷移虛擬機(jī)是管理節(jié)點(diǎn)提供彈性計(jì)算服務(wù)的資源實(shí)體,為保證虛擬機(jī)的可用性,規(guī)避業(yè)務(wù)中斷的風(fēng)險(xiǎn),管理節(jié)點(diǎn)提供虛擬機(jī)熱遷移能力,即虛擬機(jī)在不中斷業(yè)務(wù)的情況下實(shí)現(xiàn)遷移。在遷移過程中,為保證內(nèi)存的同步,虛擬機(jī)管理器(Hypervisor)提供了內(nèi)存數(shù)據(jù)的快速?gòu)?fù)制技術(shù),從而保證了在不中斷業(yè)務(wù)的情況下將虛擬機(jī)遷移到目標(biāo)主機(jī)。同時(shí),通過共享存儲(chǔ)保證了虛擬機(jī)遷移前后持久化數(shù)據(jù)不變。虛擬機(jī)負(fù)載均衡管理節(jié)點(diǎn)在新開一個(gè)虛擬機(jī)、虛擬機(jī)熱遷移或者計(jì)算節(jié)點(diǎn)故障異地重啟恢復(fù)的時(shí)候,在系統(tǒng)配置成負(fù)載均衡模式的情況下,根據(jù)各個(gè)物理計(jì)算服務(wù)器節(jié)點(diǎn)現(xiàn)有的負(fù)載狀況進(jìn)行動(dòng)態(tài)的調(diào)配,使得集群中各個(gè)物理計(jì)算服務(wù)器的負(fù)載處于一個(gè)動(dòng)態(tài)的均衡狀態(tài)。黑匣子管理節(jié)點(diǎn)和計(jì)算節(jié)點(diǎn)引入電信領(lǐng)域“黑匣子”技術(shù),在系統(tǒng)出現(xiàn)異?;蝈礄C(jī)時(shí)自動(dòng)存儲(chǔ)VM內(nèi)核日志、系統(tǒng)快照、內(nèi)核診斷信息及異常退出之前屏幕輸出信息,并保存至非易失性存儲(chǔ)設(shè)備(計(jì)算節(jié)點(diǎn))或通過netpoll方式實(shí)時(shí)發(fā)送至遠(yuǎn)端服務(wù)器(TFTP服務(wù)器),以便系統(tǒng)死機(jī)后,導(dǎo)出分析定位。3數(shù)據(jù)中心建設(shè)3.1網(wǎng)絡(luò)設(shè)計(jì)方案網(wǎng)絡(luò)總體拓?fù)鋱D3.2網(wǎng)絡(luò)平面設(shè)計(jì)華為云平臺(tái)在組網(wǎng)上分為三個(gè)邏輯網(wǎng)絡(luò)平面,三個(gè)網(wǎng)絡(luò)平面邏輯隔離分別為:業(yè)務(wù)網(wǎng)絡(luò):虛擬機(jī)的接入網(wǎng)絡(luò)平面,在IDC中業(yè)務(wù)平面通常指的是internet網(wǎng)絡(luò)平面;管理平面:用于提供云平臺(tái)管理服務(wù)器同云平臺(tái)宿主服務(wù)器之間的通訊,同時(shí)為提供物理服務(wù)器和虛擬機(jī)的帶外管理提供通訊通路,通過管理平面云平臺(tái)系統(tǒng)可以同運(yùn)營(yíng)商管理網(wǎng)絡(luò)進(jìn)行接駁,在某些場(chǎng)景下管理平面和業(yè)務(wù)平面可以為同一物理平面,如同在DCN網(wǎng)絡(luò)中;存儲(chǔ)平面:提供服務(wù)器和磁盤陣列之間的專用數(shù)據(jù)通路,并且為存儲(chǔ)的備份提供網(wǎng)絡(luò)連接;3.3業(yè)務(wù)接入設(shè)計(jì)整個(gè)網(wǎng)絡(luò)在架構(gòu)設(shè)計(jì)業(yè)務(wù)平面接入設(shè)計(jì)上充分考慮了政府系統(tǒng)對(duì)網(wǎng)絡(luò)要求的特殊性需求內(nèi)外網(wǎng)不僅從網(wǎng)絡(luò)平面進(jìn)行邏輯隔離,需要在物理設(shè)備上進(jìn)行物理隔離。內(nèi)網(wǎng)系統(tǒng)各個(gè)委辦局之間需要進(jìn)行隔離,同時(shí)需要增強(qiáng)各個(gè)委辦局的安全能力。各個(gè)委辦局的內(nèi)部業(yè)務(wù)系統(tǒng)通過MPLSVPN與具體部門進(jìn)行對(duì)接互通。征信系統(tǒng)和門戶系統(tǒng)放在外網(wǎng)區(qū)域,通過Internet進(jìn)行訪問。通過外部防火墻Eudemon8000E-X3的DDos防御特性,對(duì)整個(gè)數(shù)據(jù)中心外部網(wǎng)絡(luò)的Ddos進(jìn)行網(wǎng)絡(luò)攻擊防御,提供整個(gè)數(shù)據(jù)中心的DDos防御能力。同時(shí)通過Eudemon8000E-X3與Internet進(jìn)行互聯(lián),將外網(wǎng)訪問區(qū)虛擬機(jī)的內(nèi)網(wǎng)IP進(jìn)行外網(wǎng)映射。外部網(wǎng)絡(luò)帶寬預(yù)留4Gb,按照100kb/s*用戶的訪問請(qǐng)求,能夠滿足4萬(wàn)用戶的并發(fā)請(qǐng)求,可以滿足當(dāng)前和將來的網(wǎng)絡(luò)需求,具體外網(wǎng)帶寬,可以根據(jù)當(dāng)前使用量逐步增加。通過使用Eudemon1000E-X6的虛擬防火墻功能,將各個(gè)委辦局的虛擬機(jī)對(duì)接到對(duì)應(yīng)的防火墻中,在虛擬防火墻內(nèi)與對(duì)端的MPLSVPN進(jìn)行對(duì)接。實(shí)現(xiàn)各個(gè)委辦局與業(yè)務(wù)系統(tǒng)的對(duì)接和應(yīng)用。內(nèi)部業(yè)務(wù)系統(tǒng)由于存在網(wǎng)絡(luò)視頻的請(qǐng)求需要,按照1Mb/s*用戶的峰值來進(jìn)行網(wǎng)絡(luò)規(guī)劃,6Gb網(wǎng)絡(luò)帶寬可供6000名使用用戶的并發(fā)訪問,可以根據(jù)當(dāng)前使用量逐步增加。3.4接入層網(wǎng)絡(luò)設(shè)計(jì)存儲(chǔ)接入網(wǎng)絡(luò)存儲(chǔ)接入網(wǎng)絡(luò)使用光交換機(jī)S6700作為匯聚交換機(jī),使用10GE網(wǎng)絡(luò)進(jìn)行承載。由于云主機(jī)使用的磁盤是存儲(chǔ)在IPSAN上,因而將虛擬機(jī)的存儲(chǔ)IO吞吐量轉(zhuǎn)化為網(wǎng)絡(luò)IO吞吐量。使用10GE網(wǎng)絡(luò)有效保證了存儲(chǔ)的總體的高吞吐能力。接入層交換機(jī)與設(shè)備之間使用4GE的網(wǎng)絡(luò)捆綁技術(shù)提供網(wǎng)絡(luò)在設(shè)備上的高帶寬,單臺(tái)設(shè)備可以提供高達(dá)4GE的IO吞吐能力。業(yè)務(wù)管理接入網(wǎng)絡(luò)使用高密的E6000設(shè)備作為云主機(jī)的承載物理硬件,通過提供10GE的物理上聯(lián)保證單臺(tái)物理機(jī)上的網(wǎng)絡(luò)請(qǐng)求,提供240臺(tái)虛擬機(jī)120Gb并發(fā)峰值請(qǐng)求(內(nèi)網(wǎng)大量的文件轉(zhuǎn)存或者歸檔)。同時(shí)由于管理網(wǎng)段需要在開創(chuàng)虛擬機(jī)和轉(zhuǎn)存鏡像時(shí)進(jìn)行鏡像的大數(shù)據(jù)傳輸,需要保證系統(tǒng)功能不影響業(yè)務(wù)請(qǐng)求,需要提供高帶寬來進(jìn)行保證。BMC接入網(wǎng)絡(luò)使用S5328作為BMC接入網(wǎng)絡(luò)的接入交換網(wǎng)絡(luò),由于BMC屬于運(yùn)維管理網(wǎng)絡(luò),網(wǎng)絡(luò)流量較低,S5328與上聯(lián)的核心匯聚S9303通過千兆作為匯聚上連,能夠保證該網(wǎng)絡(luò)的正常運(yùn)轉(zhuǎn)。3.5存儲(chǔ)計(jì)算網(wǎng)絡(luò)融合一體機(jī)解決方案3.5.1系統(tǒng)架構(gòu)如下是FusionCube虛擬化一體機(jī)的總體架構(gòu)圖:華為FusionCube融合基礎(chǔ)設(shè)施一體機(jī)(HuaweiFusionCubeConvergedInfrastructure)是華為公司IT產(chǎn)品線云計(jì)算領(lǐng)域的旗艦產(chǎn)品。FusionCube遵循開放架構(gòu)標(biāo)準(zhǔn),于12U機(jī)框中融合刀片服務(wù)器、分布式存儲(chǔ)及網(wǎng)絡(luò)交換機(jī)為一體,無需外置存儲(chǔ)、交換機(jī)等設(shè)備,并預(yù)集成了分布式存儲(chǔ)引擎、虛擬化平臺(tái)及云管理軟件,資源可按需調(diào)配、線性擴(kuò)展。FusionManager:負(fù)責(zé)云平臺(tái)資源管理、彈性調(diào)度以及操作維護(hù)等綜合管理功能,是云平臺(tái)管理的核心,提供基于web的統(tǒng)一維護(hù)界面;整個(gè)系統(tǒng)的業(yè)務(wù)通過云管理FusionManager呈現(xiàn),諸如用戶管理、集群管理、業(yè)務(wù)模板管理、虛擬機(jī)管理、桌面發(fā)放、統(tǒng)一硬件管理、告警、監(jiān)控等功能均由FusionManager對(duì)外提供。FusionCompute:華為虛擬化平臺(tái),負(fù)責(zé)云平臺(tái)計(jì)算資源虛擬化和資源分配,將物理資源(計(jì)算、存儲(chǔ)、內(nèi)存等)轉(zhuǎn)換成可動(dòng)態(tài)調(diào)整的虛擬資源,供虛擬機(jī)使用;FusionStorage:使用分布式云存儲(chǔ)技術(shù),通過合理有序組織刀片服務(wù)器的本地硬盤,提供高性能高可靠的塊存儲(chǔ)業(yè)務(wù)。硬件:服務(wù)器使用E9000,支持計(jì)算、存儲(chǔ)、交換、電源模塊化設(shè)計(jì),計(jì)算和存儲(chǔ)節(jié)點(diǎn)按需混配,計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)都在E9000框內(nèi)部署完成,支持GPU,SSDPCIe,DSP等I/O加速擴(kuò)展,支持豐富的交換模塊GE,10GE,FC,FCoE,IB,根據(jù)業(yè)務(wù)要求靈活配置。存儲(chǔ)除了支持FusionStorage分布式存儲(chǔ)外,還可外掛S5500T。FusionCube的典型使用場(chǎng)景包括:虛擬化一體機(jī):直接提供集成的FusionCube虛擬化一體機(jī),不攜帶任何其他應(yīng)用軟件;桌面云一體機(jī):在虛擬化一體機(jī)上運(yùn)行VDI(VirtualDesktopInfrastructure)虛擬桌面或應(yīng)用虛擬化,提供桌面云服務(wù);企業(yè)OA一體機(jī):在虛擬化一體機(jī)上運(yùn)行企業(yè)OA的服務(wù)端應(yīng)用,如微軟Exchange、Sharepoint應(yīng)用;數(shù)據(jù)庫(kù)/大數(shù)據(jù)一體機(jī):在虛擬化一體機(jī)上運(yùn)行微軟SQLServer數(shù)據(jù)庫(kù)、SAPHANA數(shù)據(jù)庫(kù)等軟件,通過硬件調(diào)優(yōu)技術(shù),確保數(shù)據(jù)庫(kù)一體機(jī)的性價(jià)比最優(yōu);華為FusionCube基于華為自研的硬件平臺(tái),自研的分布式存儲(chǔ)以及虛擬化軟件,并進(jìn)行了深度的集成和優(yōu)化,具有如下特點(diǎn):簡(jiǎn)單易用FusionCube將服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)打包放置在統(tǒng)一的機(jī)框或機(jī)架中,從銷售到維護(hù)都更簡(jiǎn)單;業(yè)務(wù)快速部署可以快速部署系統(tǒng),靈活為企業(yè)分配IT資源。通用硬件平臺(tái),方便IT系統(tǒng)統(tǒng)一進(jìn)行規(guī)劃,集中采購(gòu)和建設(shè)。系統(tǒng)中的軟、硬件完全解耦,兼容通用硬件服務(wù)器。設(shè)備資源池化,共享資源,提高資源利用率。各種零散的設(shè)備集成為統(tǒng)一的資源池,實(shí)現(xiàn)資源共享。整體資源規(guī)劃不需要按需求峰值疊加設(shè)計(jì),減少初期投資和資源閑置浪費(fèi)。系統(tǒng)擴(kuò)展能力強(qiáng),根據(jù)業(yè)務(wù)量彈性擴(kuò)容,適應(yīng)業(yè)務(wù)系統(tǒng)突發(fā)需求。IT設(shè)備資源平均利用率可以從10%提高到60%以上。資源自動(dòng)分配,縮短系統(tǒng)部署周期,加快業(yè)務(wù)上線速度平臺(tái)化的IT資源,生產(chǎn)預(yù)安裝,圖形化系統(tǒng)規(guī)劃,減少系統(tǒng)部署時(shí)間。根據(jù)業(yè)務(wù)需求直接從IT資源池中自動(dòng)劃分資源,加快業(yè)務(wù)上線速度。集群化、自動(dòng)化運(yùn)維FusionCube解決方案將網(wǎng)絡(luò)運(yùn)維模式從人工運(yùn)維管理轉(zhuǎn)變?yōu)樽詣?dòng)化運(yùn)維管理,運(yùn)維效率提高10倍以上,可大幅提高IT運(yùn)維服務(wù)質(zhì)量。自動(dòng)監(jiān)控IT資源和系統(tǒng)運(yùn)行狀態(tài),對(duì)系統(tǒng)故障和潛在風(fēng)險(xiǎn)實(shí)時(shí)報(bào)警、自動(dòng)恢復(fù)。提高業(yè)務(wù)系統(tǒng)的可靠性。系統(tǒng)根據(jù)資源分配策略,自動(dòng)配置、動(dòng)態(tài)調(diào)整資源??梢钥焖僮詣?dòng)加入新資源,搬遷已有資源。端到端整體解決方案華為FusionCube解決方案可以提供從產(chǎn)品到管理全面的端到端解決方案。提供全面的服務(wù)器、網(wǎng)絡(luò)設(shè)備、存儲(chǔ)設(shè)備、安全設(shè)備等硬件產(chǎn)品。提供全面的業(yè)務(wù)軟件方案。提供全面的運(yùn)營(yíng)管理方案基于FusionCube集成的優(yōu)勢(shì),F(xiàn)usionCube幫助客戶:實(shí)現(xiàn)快速業(yè)務(wù)上線、資源調(diào)整、擴(kuò)容,加快業(yè)務(wù)盈利。提高資源利用率,減少硬件投資、能耗、維護(hù)成本,從而降低總體IT成本。自動(dòng)資源調(diào)整和容錯(cuò),讓IT交付、維護(hù)更加簡(jiǎn)單,降低人力成本。3.5.2安全可靠云平臺(tái)FusionCompute主要定位企業(yè)關(guān)鍵應(yīng)用領(lǐng)域,采用業(yè)界領(lǐng)先的Xen技術(shù),實(shí)現(xiàn)在開源基礎(chǔ)上持續(xù)增強(qiáng)和優(yōu)化,提供完整的虛擬機(jī)生命周期管理功能,充分發(fā)揮Xen的性能和安全方面的技術(shù)優(yōu)勢(shì),并利用Intel和AMD的芯片輔助虛擬化技術(shù),提供關(guān)鍵應(yīng)用對(duì)于高性能、高可靠、安全性和高可適應(yīng)性上的各種虛擬化功能要求。首先,在基礎(chǔ)架構(gòu)服務(wù)層,提供持續(xù)的性能優(yōu)化和增強(qiáng)功能,在計(jì)算虛擬化上的內(nèi)存復(fù)用技術(shù)、GPU虛擬化技術(shù)等滿足用戶對(duì)于性能和體驗(yàn)方面的要求,在存儲(chǔ)虛擬化上的鏈接克隆技術(shù)、快照備份技術(shù)可有效降低硬件采購(gòu)成本,在網(wǎng)絡(luò)虛擬化結(jié)合芯片輔助虛擬化技術(shù)提供SR-IOV網(wǎng)卡直通等技術(shù),可滿足應(yīng)用對(duì)于高I/O性能的要求。其次,在應(yīng)用程序服務(wù)層,提供可用性、可維護(hù)性和安全性方面的功能支持,包括提供虛擬機(jī)熱遷移、虛擬機(jī)熱備份和虛擬資源的熱插拔技術(shù),降低系統(tǒng)計(jì)劃內(nèi)/外宕機(jī)時(shí)間,提高業(yè)務(wù)的連續(xù)性;提供黑匣子、GuestOS故障檢測(cè)功能,提高系統(tǒng)的可維護(hù)性;提供虛擬機(jī)安全加固、VLAN和安全組特性,提高企業(yè)應(yīng)用的安全性保障;FusionCompute是一個(gè)輕量化的虛擬化管理系統(tǒng),安裝需要的空間不到4G;FusionCompute的一個(gè)集群最大可以擴(kuò)展到128個(gè)服務(wù)器;FusionCompute支持多種數(shù)據(jù)存儲(chǔ)類型,包括塊級(jí)的存儲(chǔ)SCSI設(shè)備和基于塊級(jí)的VIMS存儲(chǔ);FusionCompute采用華為自研iNIC智能網(wǎng)卡和分布式虛擬交換機(jī)提供虛擬化網(wǎng)絡(luò)功能;FusionCompute虛擬化的GuestOS支持市場(chǎng)主流版本的Windows和Redhat、SuSe等多個(gè)發(fā)行版本的Linux操作系統(tǒng)。在同一物理服務(wù)器上運(yùn)行的多個(gè)虛擬服務(wù)器,當(dāng)分別安裝所支持的不同類型及版本的操作系統(tǒng)時(shí),支持各虛擬服務(wù)器同時(shí)運(yùn)行,相互之間沒有影響。以上FusionCompute所有虛擬化特性,可以為企業(yè)關(guān)鍵應(yīng)用整體運(yùn)營(yíng)帶來顯著的改善。自動(dòng)化運(yùn)維管理3.5后面是3.6,ABCDE可作為3.5.1等3.5后面是3.6,ABCDE可作為3.5.1等FusionCube融合一體機(jī)解決方案的自動(dòng)化運(yùn)維管理系統(tǒng)是通過FusionManager實(shí)現(xiàn)。FusionManager提供硬件管理、虛擬化平臺(tái)管理、資源池管理,以及在統(tǒng)一資源池之上的虛擬機(jī)數(shù)據(jù)中管理,應(yīng)用管理等功能。同時(shí)作為一體機(jī)的統(tǒng)一Portal,完成全系統(tǒng)各種資源的生命周期維護(hù)。FusionManager可以物理部署和虛擬化部署在一臺(tái)SUSE1164位的服務(wù)器上。作為虛擬機(jī)部署時(shí),其物理節(jié)點(diǎn)上的其他資源可以共享出來給其他業(yè)務(wù)虛擬機(jī)使用;FusionManager基于FusionCompute能力,提供了如下主要功能:統(tǒng)一資源管理:通過將不同系統(tǒng)的資源對(duì)象采集到一起,建立統(tǒng)一的資源管理模型對(duì)使用者提供統(tǒng)一的、一體化的資源管理體驗(yàn),包括各種資源的監(jiān)控和告警;基于角色的訪問控制:基于角色的訪問控制(RBAC)是實(shí)施面向企業(yè)安全策略的一種有效的訪問控制方式。其基本思想是,對(duì)系統(tǒng)操作的各種權(quán)限不是直接授予具體的用戶,而是在用戶集合與權(quán)限集合之間建立一個(gè)角色集合。每一種角色對(duì)應(yīng)一組相應(yīng)的權(quán)限。一旦用戶被分配了適當(dāng)?shù)慕巧?,該用戶就擁有此角色的所有操作?quán)限。這樣做的好處是,不必在每次創(chuàng)建用戶時(shí)都進(jìn)行分配權(quán)限的操作,只要分配用戶相應(yīng)的角色即可,而且角色的權(quán)限變更比用戶的權(quán)限變更要少得多,這樣將簡(jiǎn)化用戶的權(quán)限管理,減少系統(tǒng)的開銷;硬件自動(dòng)發(fā)現(xiàn)與擴(kuò)容:系統(tǒng)會(huì)自動(dòng)發(fā)現(xiàn)一體機(jī)內(nèi)部的所有硬件并掃描硬件的規(guī)格信息。用戶可以在創(chuàng)建資源池的時(shí)候直接選擇系統(tǒng)發(fā)現(xiàn)的硬件,系統(tǒng)自動(dòng)完成這些硬件的軟件安裝、網(wǎng)絡(luò)配置并將硬件加入資源池。系統(tǒng)擴(kuò)容的時(shí)候也可以自動(dòng)發(fā)現(xiàn)新加入的硬件,并且用戶將硬件加入資源池的時(shí)候自動(dòng)化完成所有的配置工作;應(yīng)用自動(dòng)部署:通過服務(wù)模板自動(dòng)部署應(yīng)用,包括自動(dòng)完成創(chuàng)建虛擬機(jī),安裝OS、創(chuàng)建網(wǎng)絡(luò)、安裝應(yīng)用等一系列的過程;應(yīng)用彈性伸縮:支持配置應(yīng)用的彈性伸縮策略,使應(yīng)用按照策略自動(dòng)伸縮應(yīng)用資源。充分利用系統(tǒng)的現(xiàn)有資源。虛擬機(jī)遷移:當(dāng)系統(tǒng)中出現(xiàn)虛擬機(jī)故障的時(shí)候,可以自動(dòng)遷移到其他物理服務(wù)器之上,自動(dòng)的快速恢復(fù)業(yè)務(wù);虛擬機(jī)快照:系統(tǒng)將某一時(shí)刻虛擬機(jī)的整體狀況以類似照片的形式保存下來。當(dāng)虛擬機(jī)發(fā)生故障時(shí),用戶可以基于快照快速恢復(fù)虛擬機(jī)??煺諘?huì)在執(zhí)行時(shí)捕捉虛擬機(jī)的整體狀況,包括虛擬機(jī)的電源狀態(tài)、內(nèi)存和磁盤數(shù)據(jù)、網(wǎng)卡和CPU寄存器;動(dòng)態(tài)資源調(diào)度:采用智能負(fù)載均衡調(diào)度算法,通過持續(xù)不斷地監(jiān)控資源池的利用率,并能夠根據(jù)相應(yīng)策略在虛擬機(jī)中智能地分配合適的資源,從而達(dá)到同一資源集群內(nèi)的不同物理主機(jī)之間負(fù)載均衡的目的;數(shù)據(jù)備份與恢復(fù):虛擬機(jī)備份方案,是面向華為一體機(jī)平臺(tái)下的虛擬機(jī)用戶提供的無代理備份方案,通過在云平臺(tái)上部署華為HyperDP(HyperDataProtection)備份軟件,使系統(tǒng)管理員可以通過WEB界面輕松備份云平臺(tái)虛擬機(jī),不需要在用戶虛擬機(jī)內(nèi)安裝任何備份軟件,備份過程不需要終端用戶參與,不影響用戶虛擬機(jī)的運(yùn)行。當(dāng)虛擬機(jī)由于意外丟失數(shù)據(jù)時(shí),系統(tǒng)管理員可以通過本地備份系統(tǒng)快速恢復(fù),從而增強(qiáng)了虛擬機(jī)的可靠性;補(bǔ)丁升級(jí):通過統(tǒng)一的升級(jí)補(bǔ)丁工具,實(shí)現(xiàn)升級(jí)和補(bǔ)丁功能;深度融合以下示例說明了FusionCube虛擬化一體機(jī)的融合硬件形態(tài):華為FusionCube虛擬化一體機(jī)采用業(yè)界一流的模塊化設(shè)計(jì)的組件,提供多種產(chǎn)品規(guī)模的組合,并提供單一廠家服務(wù),滿足各種業(yè)務(wù)范圍的需求。華為FusionCube使用的計(jì)算/存儲(chǔ)/網(wǎng)絡(luò)都是華為自身的設(shè)備,使用計(jì)算,存儲(chǔ),網(wǎng)絡(luò)垂直整合的融合架構(gòu)硬件平臺(tái),高帶寬低時(shí)延多協(xié)議交換能力,提升應(yīng)用性能。華為FusionCube實(shí)現(xiàn)軟硬件深度的整合,是真正的一體機(jī):統(tǒng)一用戶界面:不管是計(jì)算/存儲(chǔ),還是網(wǎng)絡(luò),都在統(tǒng)一的界面中進(jìn)行配置、告警、性能統(tǒng)計(jì)等,保證用戶一致的感受。一站式服務(wù):從硬件到軟件,聯(lián)合應(yīng)用,提供一站式支持,保證客戶對(duì)產(chǎn)品的整體感知。預(yù)集成華為FusionCube依托華為高效的段對(duì)端交付能力,能從用戶報(bào)價(jià)開始,根據(jù)用戶業(yè)務(wù)需求,直接交付給用戶開箱即用的產(chǎn)品,極大地簡(jiǎn)化了用戶的安裝、調(diào)測(cè)時(shí)間,從幾周甚至數(shù)月的調(diào)測(cè)時(shí)間縮減到幾個(gè)小時(shí)之內(nèi)。預(yù)集成包括的內(nèi)容:硬件預(yù)安裝:設(shè)備上柜、線纜預(yù)綁軟件預(yù)安裝:BIOS定制、虛擬化軟件FusionCompute、平臺(tái)管理軟件FusionManager軟件安裝、存儲(chǔ)管理軟件(FusionStorage/IPSAN)預(yù)安裝整機(jī)集成調(diào)測(cè):齊套性檢查、連通性檢查帶柜運(yùn)輸:立柜運(yùn)輸現(xiàn)場(chǎng)開局:上電硬件檢測(cè)、齊套性檢查、連通性檢查、簡(jiǎn)單業(yè)務(wù)配置和調(diào)測(cè)智能資源調(diào)度FusionCube可讓計(jì)算/存儲(chǔ)/網(wǎng)絡(luò)資源池實(shí)現(xiàn)按需分配,達(dá)到彈性伸縮、節(jié)能減排的目標(biāo)。其智能調(diào)度對(duì)象包括CPU、內(nèi)存、虛擬機(jī)、服務(wù)器、資源集群。針對(duì)各種不同的資源有不同的調(diào)度動(dòng)作:CPU:動(dòng)態(tài)調(diào)頻、動(dòng)態(tài)增減、限制上限、物理核綁定內(nèi)存:內(nèi)存超分配、動(dòng)態(tài)增減、限制上限虛擬機(jī):自動(dòng)休眠/喚醒、定時(shí)開機(jī)/關(guān)機(jī)、關(guān)閉/強(qiáng)制關(guān)閉/重啟、遷移服務(wù)器:下電、定時(shí)下電、定時(shí)上電、負(fù)載均衡資源集群:應(yīng)用遷移、資源優(yōu)先級(jí)控制調(diào)度時(shí)機(jī):定時(shí)調(diào)度:根據(jù)配置好的資源調(diào)度策略,系統(tǒng)會(huì)在定時(shí)或周期時(shí)間到來時(shí),不做任何條件判斷,直接觸發(fā)調(diào)度任務(wù)。包括:虛擬機(jī)休眠、虛擬機(jī)關(guān)閉、虛擬機(jī)啟動(dòng)、虛擬機(jī)遷移、服務(wù)器下電、服務(wù)器上電等。條件調(diào)度:根據(jù)配置好的資源調(diào)度策略,系統(tǒng)會(huì)定時(shí)檢測(cè),當(dāng)條件滿足時(shí),觸發(fā)調(diào)度任務(wù)。調(diào)度策略:支持對(duì)調(diào)度對(duì)象、調(diào)度動(dòng)作、調(diào)度時(shí)機(jī)的靈活組合配置而形成各種調(diào)度策略;支持對(duì)調(diào)度策略的創(chuàng)建、刪除、修改、激活、去激活。實(shí)現(xiàn)智能調(diào)度的具體技術(shù)包括如下幾種:內(nèi)存復(fù)用技術(shù)內(nèi)存復(fù)用是指在服務(wù)器物理內(nèi)存一定的情況,通過綜合運(yùn)用內(nèi)存復(fù)用單項(xiàng)技術(shù)(內(nèi)存氣泡、內(nèi)存共享、內(nèi)存交換)對(duì)內(nèi)存進(jìn)行分時(shí)復(fù)用。分時(shí)復(fù)用原理是通過計(jì)算節(jié)點(diǎn)上的內(nèi)存復(fù)用策略實(shí)時(shí)調(diào)用相關(guān)內(nèi)存復(fù)用技術(shù),把空閑內(nèi)存釋放出來給其他虛擬機(jī)使用,同時(shí)平衡各虛擬機(jī)的內(nèi)存復(fù)用情況,從而達(dá)到虛擬機(jī)內(nèi)存規(guī)格總和大于服務(wù)器規(guī)格內(nèi)存,最終提高服務(wù)器中虛擬機(jī)密度。支持以邏輯集群為單位進(jìn)行設(shè)置內(nèi)存復(fù)用率,范圍0%-50%;以E9000服務(wù)器為例,假設(shè)物理內(nèi)存為48G,管理內(nèi)存開銷為7G,那么實(shí)際可運(yùn)行的虛擬機(jī)內(nèi)存規(guī)格為:(48G-7G)*(1+50%)=61.5G。vCPUQoS控制技術(shù)vCPUQoS控制技術(shù)是指能限定vCPU最大占用物理核的百分比,從而為高級(jí)別的虛擬機(jī)保證足夠的CPU物理資源。運(yùn)行在同一物理服務(wù)器上的多個(gè)虛擬機(jī),共用CPU資源。當(dāng)并發(fā)使用時(shí),會(huì)出現(xiàn)資源搶占的情況,為保證高級(jí)別虛擬機(jī)CPU資源的使用,可以如下設(shè)置:設(shè)置虛擬機(jī)使用的物理機(jī)核數(shù)。設(shè)置虛擬機(jī)一個(gè)vCPU最大能使用物理核的百分比,以此限制與其他虛擬機(jī)共用物理核時(shí),不會(huì)過多搶占資源。例如,一個(gè)vCPU最大占用物理核的60%,當(dāng)虛擬機(jī)使用達(dá)到60%時(shí),不能占用更多的物理CPU。為了確保用戶分級(jí)QoS,系統(tǒng)也支持將虛擬機(jī)的CPU和物理CPU綁定,確保其CPU不會(huì)被其他虛擬機(jī)搶占。將物理CPU先虛擬化為多個(gè)虛擬CPU,將一個(gè)物理CPU的虛擬化CPU只分配給一個(gè)虛擬機(jī),則該虛擬機(jī)獨(dú)占該物理CPU。如果將一個(gè)物理CPU的虛擬化CPU分配給多個(gè)虛擬機(jī),則共享該物理CPU。通過該方式確保高級(jí)別用戶虛擬機(jī)的vCPU不會(huì)被其他虛擬機(jī)搶占,作為SLA服務(wù)中的一項(xiàng)。智能負(fù)載均衡調(diào)度指采用智能負(fù)載均衡調(diào)度算法,通過周期性檢查同一資源集群內(nèi)各個(gè)物理主機(jī)的負(fù)載情況,在不同的物理機(jī)之間遷移虛擬機(jī),從而達(dá)到同一資源集群內(nèi)的不同物理主機(jī)之間負(fù)載均衡的目的。 系統(tǒng)周期性監(jiān)控同一集群內(nèi)所有物理主機(jī)和虛擬機(jī)的CPU和內(nèi)存資源的使用情況。將當(dāng)前物理主機(jī)之間的負(fù)載與理想狀態(tài)下(配置策略閾值)進(jìn)行比較,如果采樣值中有50%大于閾值或滿足關(guān)聯(lián)性規(guī)則,則執(zhí)行虛擬機(jī)遷移策略。智能電源管理技術(shù)指周期性檢查資源集群內(nèi)的物理機(jī)負(fù)載情況,當(dāng)負(fù)載較高時(shí),系統(tǒng)上電新的物理機(jī)來分擔(dān)其它服務(wù)器的負(fù)載;當(dāng)資源集群內(nèi)的物理機(jī)的負(fù)載水平較低時(shí),通過遷移負(fù)荷較低物理機(jī)上的虛擬機(jī),然后下電該物理機(jī),使得虛擬機(jī)集中在剩余的物理機(jī)上,從而降低整個(gè)資源集群的功耗。自動(dòng)資源復(fù)用技術(shù)自動(dòng)資源復(fù)用(AutomaticResourceSharing,簡(jiǎn)寫為ARS)技術(shù),是指在一給定的資源集群范圍內(nèi)如果存在多個(gè)業(yè)務(wù)組時(shí),通過配置不同的策略能區(qū)分業(yè)務(wù)組的優(yōu)先級(jí),能將一個(gè)業(yè)務(wù)組內(nèi)空閑的資源給其他業(yè)務(wù)組使用;而同一個(gè)業(yè)務(wù)組,也可以根據(jù)配置策略,在不同時(shí)段內(nèi)進(jìn)行擴(kuò)大和縮小。由于資源在在不同時(shí)間段被不同的業(yè)務(wù)所使用,也叫做分時(shí)復(fù)用技術(shù)。當(dāng)資源不足時(shí),可以根據(jù)業(yè)務(wù)組的優(yōu)先級(jí)和權(quán)重進(jìn)行資源回收,調(diào)整資源分配,保證高優(yōu)先級(jí)業(yè)務(wù)和高權(quán)業(yè)務(wù)的使用。資源復(fù)用只能在同一邏輯集群下的不同業(yè)務(wù)組之間進(jìn)行;資源復(fù)用的最小資源調(diào)整粒度為一臺(tái)虛擬機(jī);資源復(fù)用技術(shù)的價(jià)值面向多應(yīng)用的資源共享,節(jié)約成本;支持業(yè)務(wù)的自動(dòng)彈性伸縮,充分體現(xiàn)彈性云平臺(tái)的特點(diǎn);復(fù)用策略靈活,可不斷擴(kuò)展;自動(dòng)化資源調(diào)整,增強(qiáng)管理系統(tǒng)自動(dòng)化能力;資源復(fù)用應(yīng)用場(chǎng)景:虛擬桌面業(yè)務(wù)與其他業(yè)務(wù)分時(shí)復(fù)用。例如:用戶白天使用虛擬桌面辦公,晚上不使用了釋放其計(jì)算資源,系統(tǒng)可以使用此計(jì)算資源運(yùn)行其他業(yè)務(wù)(如CI,超算),當(dāng)其他業(yè)務(wù)運(yùn)行完成后也釋放計(jì)算資源。用戶上班可以繼續(xù)使用虛擬桌面,提高資源復(fù)用率;彈性擴(kuò)容云平臺(tái)的基礎(chǔ)框架按全網(wǎng)容量設(shè)計(jì)一次性方案規(guī)劃,后續(xù)根據(jù)業(yè)務(wù)需要實(shí)現(xiàn)彈性擴(kuò)容、按需擴(kuò)容,不影響已有業(yè)務(wù)的連續(xù)性。當(dāng)集群資源不足時(shí),可對(duì)集群增加計(jì)算或存儲(chǔ)資源。當(dāng)服務(wù)器資源不足時(shí),可增加集群內(nèi)計(jì)算刀片。當(dāng)存儲(chǔ)資源不足時(shí),可以增加計(jì)算存儲(chǔ)刀片或單獨(dú)增加存儲(chǔ)硬盤。整體方案按照可動(dòng)態(tài)擴(kuò)展設(shè)計(jì),當(dāng)虛擬機(jī)數(shù)增加的時(shí)候,可以實(shí)現(xiàn)平滑的擴(kuò)容。華為云平臺(tái)基于分布式擴(kuò)展架構(gòu)設(shè)計(jì),以集群為單位,實(shí)現(xiàn)計(jì)算資源池的相對(duì)獨(dú)立。集群主機(jī)資源不足時(shí),可直接新增刀片或機(jī)框或機(jī)柜,將設(shè)備接入網(wǎng)絡(luò)。通過云平臺(tái)硬件自動(dòng)發(fā)現(xiàn)功能,可及時(shí)地將設(shè)備納入系統(tǒng)的管理監(jiān)控。一套一體機(jī)最大20個(gè)集群,1個(gè)集群支持的節(jié)點(diǎn)數(shù)最多可達(dá)到128臺(tái)服務(wù)器,1套一體機(jī)可支持虛擬機(jī)數(shù)量最高達(dá)到3000。在集群內(nèi)虛擬機(jī)可實(shí)現(xiàn)HA、調(diào)度等功能,可以輕松滿足未來資源的擴(kuò)展。集群的擴(kuò)展是線性擴(kuò)展,在線進(jìn)行的,各個(gè)集群計(jì)算、存儲(chǔ)資源獨(dú)立,但運(yùn)維管理、業(yè)務(wù)發(fā)放平臺(tái)仍然通過一套系統(tǒng)來實(shí)現(xiàn),真正實(shí)現(xiàn)統(tǒng)一平臺(tái)。3.6可靠網(wǎng)絡(luò)設(shè)計(jì)服務(wù)器側(cè)邏輯上分為三個(gè)平面:業(yè)務(wù)平面、存儲(chǔ)平面和管理平面,且三個(gè)平面之間是隔離的,保證最終用戶不能破壞基礎(chǔ)平臺(tái)。存儲(chǔ)平面:服務(wù)器上存儲(chǔ)間通過存儲(chǔ)網(wǎng)絡(luò)二層直接互通。存儲(chǔ)設(shè)備為虛擬機(jī)提供存儲(chǔ)資源,但不直接與虛擬機(jī)通信,而通過虛擬化平臺(tái)轉(zhuǎn)化。業(yè)務(wù)平面:為用戶提供業(yè)務(wù)通道,為虛擬機(jī)虛擬網(wǎng)卡的通信平面,對(duì)外提供業(yè)務(wù)應(yīng)用。可針對(duì)不同虛擬機(jī)細(xì)分VLAN進(jìn)行訪問隔離。管理平面:負(fù)責(zé)整個(gè)云計(jì)算系統(tǒng)的管理、業(yè)務(wù)部署、系統(tǒng)加載等流量的通信。BMC平面主要負(fù)責(zé)服務(wù)器的管理,BMC平面和管理平面隔離。服務(wù)器采用2個(gè)10GE網(wǎng)口進(jìn)行組網(wǎng),業(yè)務(wù)、管理、存儲(chǔ)平面通過兩網(wǎng)卡聚合確保鏈路冗余。E9000機(jī)框里放置2個(gè)10GE交換板,作為接入和匯聚交換機(jī)用,用于接入機(jī)框內(nèi)所有服務(wù)器刀片,以及框間交換板級(jí)聯(lián)。在交換板上劃分VLAN,將管理、業(yè)務(wù)、存儲(chǔ)三個(gè)平面邏輯隔離,機(jī)框內(nèi)交換板再上行匯聚到客戶網(wǎng)絡(luò)中。一體機(jī)默認(rèn)VLAN劃分:BMC平面為VLAN4030,管理平面為VLAN4040,存儲(chǔ)平面為VLAN4050,業(yè)務(wù)平面為VLAN2-4000;其中管理平面的子網(wǎng)網(wǎng)段及VLAN劃分可根據(jù)客戶需求進(jìn)行調(diào)整。一體機(jī)對(duì)外提供統(tǒng)一的業(yè)務(wù)和統(tǒng)一的管理。一體機(jī)內(nèi)部網(wǎng)絡(luò)按照二層網(wǎng)絡(luò)架構(gòu)設(shè)計(jì),和客戶網(wǎng)絡(luò)連接可以選擇采用2層模式,也可以采用3層模式。3.7一體機(jī)2層模式連接用戶網(wǎng)絡(luò)2層模式是:子網(wǎng)的網(wǎng)關(guān)配置客戶網(wǎng)絡(luò),僅將一體機(jī)交換機(jī)作為接入交換機(jī)。主要應(yīng)用于要求管理與業(yè)務(wù)隔離,用戶可配置不同子網(wǎng)安全隔離。組網(wǎng)說明:1)一體機(jī)交換機(jī)作為客戶接入交換機(jī),配置聚合的上行口,并配置業(yè)務(wù)Vlan和管理Vlan2)業(yè)務(wù)Vlan范圍是2-40003)管理Vlan配置為4040,用戶可修改4)4000以上Vlan內(nèi)部使用3.8一體機(jī)3層模式連接用戶網(wǎng)絡(luò)3層模式是:管理與業(yè)務(wù)網(wǎng)關(guān)配置一體機(jī),用戶網(wǎng)絡(luò)與一體機(jī)通過3層路由互通。主要應(yīng)用于減少用戶網(wǎng)絡(luò),直接采用路由連接到一體機(jī)場(chǎng)景。網(wǎng)絡(luò)如下圖所示。組網(wǎng)說明:一體機(jī)配置聚合的上行口,并配置接口IP地址和上行鏈路靜態(tài)路由3.9安全設(shè)計(jì)方案3.9.1安全框架為了保障數(shù)據(jù)中心的安全,必須有一個(gè)完整的安全架構(gòu)來全面考慮,避免考慮不周,出現(xiàn)安全真空。華為安全架構(gòu)層面主要采用了分層和縱深防御的思想。分層防御(LayeredDefense):分層防御旨在采用多種方法,在網(wǎng)絡(luò)中多個(gè)區(qū)域執(zhí)行安全性策略,從而確保網(wǎng)絡(luò)中沒有單點(diǎn)安全故障發(fā)生。縱深防御(DefenseinDepth):縱深防御思想使用多重防御策略來管理風(fēng)險(xiǎn),以便在一層防御不夠時(shí),另一層防御將會(huì)阻止完全的破壞。華為云數(shù)據(jù)中心安全框架從分層、縱深防御思想出發(fā),根據(jù)網(wǎng)絡(luò)層次分為物理、主機(jī)/虛擬化、網(wǎng)絡(luò)、業(yè)務(wù)和數(shù)據(jù)、管理維護(hù)等幾個(gè)層面,同時(shí)整體上考慮滿足合規(guī)性等需求,用來指導(dǎo)華為數(shù)據(jù)中心安全解決方案的設(shè)計(jì)。物理安全云計(jì)算數(shù)據(jù)中心的物理接入需進(jìn)行嚴(yán)格的控制,只有授權(quán)的人員才能夠進(jìn)入。機(jī)房?jī)?nèi)安裝監(jiān)控設(shè)備,方便事后審計(jì)。基礎(chǔ)安全整個(gè)云計(jì)算環(huán)境中使用了大量OS、DB、Web等通用軟件,很容易遭受病毒入侵、漏洞攻擊、木馬、拒絕服務(wù)等安全威脅。云數(shù)據(jù)中心基礎(chǔ)的安全能力可主要通過系統(tǒng)加固、防病毒和安全補(bǔ)丁這三方面措施來提供。虛擬化安全虛擬化帶來好處的同時(shí),也帶來新的安全風(fēng)險(xiǎn)。首先是虛擬層能否真正地把虛擬機(jī)和主機(jī)、虛擬機(jī)和虛擬機(jī)之間安全地隔離開來,這一點(diǎn)正是保障虛擬機(jī)安全性的根本。另預(yù)防云內(nèi)部虛擬機(jī)之間的惡意攻擊,傳統(tǒng)在網(wǎng)絡(luò)出口提供防火墻、IDS設(shè)備已經(jīng)不能完全滿足要求,需部署一些基于主機(jī)的虛擬防火墻/IDS/IPS。網(wǎng)絡(luò)安全為了抵御數(shù)據(jù)中心網(wǎng)絡(luò)可能遭受的各種類型的DOS攻擊和用戶數(shù)據(jù)遭竊聽和篡改等安全威脅,可從“網(wǎng)絡(luò)隔離、攻擊防護(hù)、傳輸安全”等多個(gè)角度考慮。安全域劃分與網(wǎng)絡(luò)隔離和上面的網(wǎng)絡(luò)安全保持一致前面加上和上面的網(wǎng)絡(luò)安全保持一致前面加上●通過網(wǎng)絡(luò)劃分、隔離手段實(shí)現(xiàn)計(jì)算、存儲(chǔ)、管理、接入等域的隔離,管理面單獨(dú)物理組網(wǎng),保證網(wǎng)絡(luò)安全性,避免網(wǎng)絡(luò)風(fēng)暴等問題擴(kuò)散。邊界防護(hù)進(jìn)行網(wǎng)絡(luò)流量分析,實(shí)時(shí)統(tǒng)計(jì)出當(dāng)前網(wǎng)絡(luò)中的各種報(bào)文流量;提供實(shí)時(shí)的入侵檢測(cè),通過與防火墻聯(lián)動(dòng)等方式進(jìn)行報(bào)警及動(dòng)態(tài)防護(hù);識(shí)別DDoS攻擊減少惡意流量的沖擊。3.9.2網(wǎng)絡(luò)安全為了抵御數(shù)據(jù)中心網(wǎng)絡(luò)可能遭受的各種類型的DOS攻擊和用戶數(shù)據(jù)遭竊聽和篡改等安全威脅,華為從“網(wǎng)絡(luò)隔離、攻擊防護(hù)、傳輸安全”等多個(gè)安全角度考慮,積極為運(yùn)營(yíng)商打造安全的數(shù)據(jù)中心網(wǎng)絡(luò)。安全域劃分與網(wǎng)絡(luò)隔離通過網(wǎng)絡(luò)劃分、隔離手段實(shí)現(xiàn)計(jì)算、存儲(chǔ)、管理、接入等域的隔離,管理面單獨(dú)物理組網(wǎng),保證網(wǎng)絡(luò)安全性,避免網(wǎng)絡(luò)風(fēng)暴等問題擴(kuò)散。邊界防護(hù)功能強(qiáng)大的防火墻組成入侵防御方案,防范掃描類攻擊,阻止畸形包攻擊,資源耗盡型攻擊,特殊報(bào)文控制。進(jìn)行網(wǎng)絡(luò)流量分析,實(shí)時(shí)統(tǒng)計(jì)出當(dāng)前網(wǎng)絡(luò)中的各種報(bào)文流量;提供實(shí)時(shí)的入侵檢測(cè),通過與防火墻聯(lián)動(dòng)等方式進(jìn)行報(bào)警及動(dòng)態(tài)防護(hù);識(shí)別DDoS攻擊減少惡意流量的沖擊。Anti-DDOS解決方案:通過業(yè)界領(lǐng)先的Anti-DDoS技術(shù)阻斷外網(wǎng)對(duì)云的DDoS攻擊,確保云內(nèi)帶寬可用,業(yè)務(wù)安全;通過業(yè)界領(lǐng)先的Anti-Botnet技術(shù)阻斷外網(wǎng)黑客對(duì)云中僵尸主機(jī)的控制,即可有效摧毀云中主機(jī)向外網(wǎng)發(fā)送垃圾郵件及發(fā)起DDoS攻擊的先決條件;是業(yè)界唯一一家將Anti-DDoS和Anti-Botnet合一的解決方案,有效防御各種DDOS和Botnet攻擊。采用先進(jìn)的動(dòng)態(tài)基線、TCPProxy、基于會(huì)話檢測(cè)異常的清洗技術(shù)、基于應(yīng)用的源認(rèn)證、指紋學(xué)習(xí)、行為分析、基于僵尸網(wǎng)絡(luò)檢測(cè)技術(shù)的攻擊溯源及靜態(tài)過濾技術(shù)、基于僵尸網(wǎng)絡(luò)技術(shù)的IP信譽(yù)機(jī)制、流量整形等技術(shù)。入侵檢測(cè)和防護(hù)方案:華為IPS設(shè)備實(shí)現(xiàn)入侵檢測(cè)和入侵防御的一體化,采用Symantec業(yè)界第一的IPS引擎,hacker攻擊檢測(cè)率高,并能及時(shí)防御,同時(shí)可及時(shí)進(jìn)行IPS庫(kù)的在線更新,有效防御新的攻擊威脅。傳輸安全數(shù)據(jù)在傳輸過程中可能遇到被中斷、復(fù)制、篡改、偽造、竊聽和監(jiān)視等威脅,需要保證信息在網(wǎng)絡(luò)傳輸過程的完整性,機(jī)密性和有效性。華為云數(shù)據(jù)中心傳輸安全由以下幾個(gè)方面保證:管理面信任域與非信任域之間全部SSL加密用戶管理接入支持Https,安全性要求高的提供SSLVPN接入用戶訪問虛擬機(jī)支持SSH3.9.3虛擬化安全虛擬化帶來好處的同時(shí),也帶來新的安全風(fēng)險(xiǎn)。首先是虛擬層能否真正地把虛擬機(jī)和主機(jī)安全地隔離開來,這一點(diǎn)正是保障虛擬機(jī)安全性的根本。其次由于虛擬機(jī)運(yùn)行在同一臺(tái)主機(jī)上,如果主機(jī)受到破壞,那么上面所有的虛擬機(jī)都都會(huì)受到影響,同樣如果虛擬機(jī)之間的虛擬網(wǎng)絡(luò)受到破壞,那么這些虛擬機(jī)也會(huì)受到影響。華為虛擬化安全重點(diǎn)考慮了虛擬機(jī)的隔離和防護(hù),以保障安全隱患不會(huì)在整個(gè)網(wǎng)絡(luò)中蔓延。虛擬機(jī)的隔離虛擬機(jī)之間支持通過劃分VLAN進(jìn)行隔離支持虛擬機(jī)安全組一個(gè)虛擬機(jī)安全組(VMSecurityGroup)是一組虛擬機(jī)的集合,也是關(guān)于這組虛擬機(jī)的網(wǎng)絡(luò)安全規(guī)則的集合。同一個(gè)虛擬機(jī)安全組中的虛擬機(jī)可能分布在多個(gè)物理位置分散的物理機(jī)上。虛擬機(jī)安全組支持的操作包括定義虛擬機(jī)安全組、安全組的成員虛擬機(jī),還有安全組的網(wǎng)絡(luò)安全規(guī)則。每個(gè)虛擬機(jī)安全組包括一組虛擬機(jī)實(shí)例、一組網(wǎng)絡(luò)安全規(guī)則。用戶可以基于虛擬機(jī)安全組批量定義虛擬機(jī)的網(wǎng)絡(luò)安全策略。缺省情況下,虛擬機(jī)安全組組內(nèi)互通,組間由配置決定是否互通。虛擬機(jī)安全組兼容Amazon的SecurityGroup,支持安全策略修改、查詢成員、增刪成員等操作。惡意虛擬機(jī)的防護(hù)實(shí)現(xiàn)防地址欺騙功能,限制虛擬機(jī)只能發(fā)送本機(jī)地址的報(bào)文支持對(duì)VM端口掃描、嗅探等行為的檢測(cè)和阻斷3.9.4數(shù)據(jù)安全數(shù)據(jù)安全是保障數(shù)據(jù)中心安全的重點(diǎn)。在多租戶環(huán)境下,使用者無法控制數(shù)據(jù),甚至無法確切知道數(shù)據(jù)的存儲(chǔ)位置,這加劇了用戶對(duì)數(shù)據(jù)安全的擔(dān)憂,也使得惡意行為或攻擊更難以控制。保障用戶的數(shù)據(jù)安全,華為云數(shù)據(jù)中心從數(shù)據(jù)隔離、訪問控制等多個(gè)方面采取措施。后續(xù)將鏡像文件快照的數(shù)字簽名、完整性、加密保護(hù)。用戶數(shù)據(jù)隔離通過虛擬化層實(shí)現(xiàn)虛擬機(jī)間存儲(chǔ)訪問隔離,嚴(yán)格隔離用戶數(shù)據(jù)。數(shù)據(jù)訪問控制用戶和虛擬機(jī)鏡像間的權(quán)限控制用戶掛接卷進(jìn)行權(quán)限確認(rèn)對(duì)象存儲(chǔ)(OBS)用戶對(duì)象的訪問控制剩余信息保護(hù)存儲(chǔ)資源重分配給VM之前進(jìn)行完整的數(shù)據(jù)擦除存儲(chǔ)的用戶文件/對(duì)象刪除后,對(duì)應(yīng)的存儲(chǔ)區(qū)進(jìn)行完整的數(shù)據(jù)擦除或標(biāo)識(shí)為只寫(只能被新的數(shù)據(jù)覆寫),保證不被非法恢復(fù)3.10運(yùn)維管理方案運(yùn)維方案設(shè)計(jì)基于以下現(xiàn)狀:互聯(lián)網(wǎng)業(yè)務(wù)部目前托管在數(shù)據(jù)中心的應(yīng)用系統(tǒng)用I2000產(chǎn)品實(shí)現(xiàn)管理,遷移到HWS數(shù)據(jù)中心以后暫時(shí)沿用I2000管理應(yīng)用系統(tǒng)互聯(lián)網(wǎng)業(yè)務(wù)部暫時(shí)使用云平臺(tái)的BMSPortal,正在自主開發(fā)的BMSPortal計(jì)劃在2011年九月底投入使用。本方案設(shè)計(jì)主要考慮使用互聯(lián)網(wǎng)業(yè)務(wù)部的BMSPortal考慮到云平臺(tái)版本路標(biāo),云平臺(tái)運(yùn)維管理版本使用V1R1CO1的版本考慮到eSight的產(chǎn)品成熟度,目前HWS數(shù)據(jù)中心系統(tǒng)管理暫時(shí)用I2000基于以上現(xiàn)狀,HWS數(shù)據(jù)中心運(yùn)維管理主要分為以下三個(gè)層面:HWS數(shù)據(jù)中心運(yùn)維管理分層示意圖本方案用I2000產(chǎn)品作為HWS運(yùn)維管理解決方案的基礎(chǔ)架購(gòu)管理,與云平臺(tái)管理功能相結(jié)合,形成HWS數(shù)據(jù)中心運(yùn)維管理的主要功能,同時(shí)與互聯(lián)網(wǎng)業(yè)務(wù)部的OMS運(yùn)維管理功能相結(jié)合,形成HWS數(shù)據(jù)中心的整體運(yùn)維管理解決方案;I2000網(wǎng)管系統(tǒng)主要實(shí)現(xiàn)面向網(wǎng)元的性能、告警、配置管理、拓?fù)涔芾?、安全管理、提供向上網(wǎng)管接口。在本方案中,I2000管理的范圍包括網(wǎng)絡(luò)設(shè)備、物理服務(wù)器、數(shù)據(jù)庫(kù)服務(wù)器。對(duì)外的界面為I2000客戶端;云平臺(tái)實(shí)現(xiàn)對(duì)云平臺(tái)監(jiān)控、計(jì)算資源管理、維護(hù)配置管理、流程管理等云服務(wù)管理。對(duì)外的界面為OMSPortal;業(yè)務(wù)管理的BMSPortal實(shí)現(xiàn)業(yè)務(wù)發(fā)放、計(jì)費(fèi)、服務(wù)管理、用戶管理等功能。對(duì)外界面為BMSPortal。3.11計(jì)費(fèi)設(shè)計(jì)方案3.11..1計(jì)費(fèi)對(duì)接方式IDC云可以根據(jù)按時(shí)、按需、按使用量進(jìn)行計(jì)費(fèi),可計(jì)費(fèi)的項(xiàng)目主要有CPU、內(nèi)存、盤容量、網(wǎng)卡、操作系統(tǒng)等。具體計(jì)費(fèi)方式有兩種:1)運(yùn)營(yíng)商的BOSS系統(tǒng)與云系統(tǒng)對(duì)接,BOSS進(jìn)行計(jì)費(fèi);2)云系統(tǒng)提供計(jì)費(fèi)詳單,由BOSS讀取計(jì)費(fèi)詳單進(jìn)行計(jì)費(fèi)。1)運(yùn)營(yíng)商的BOSS系統(tǒng)與云系統(tǒng)對(duì)接,BOSS進(jìn)行計(jì)費(fèi)所有IDC云的資源申請(qǐng)、變更、退訂等工單全部先從BOSS入口,然后BOSS把工單通過電子運(yùn)維(電子運(yùn)維是可選的,具體根據(jù)運(yùn)營(yíng)商實(shí)際情況而定)發(fā)送給云系統(tǒng),云系統(tǒng)具體執(zhí)行工單的內(nèi)容,執(zhí)行成功后,返回結(jié)果給電子運(yùn)維,電子運(yùn)維把結(jié)果返回給BOSS,BOSS收到執(zhí)行結(jié)果后進(jìn)行計(jì)費(fèi)處理。云系統(tǒng)不參與計(jì)費(fèi),只處理IDC云的工單請(qǐng)求,具體計(jì)費(fèi)策略在BOSS系統(tǒng)進(jìn)行設(shè)定,由BOSS實(shí)現(xiàn)計(jì)費(fèi)。2)云平臺(tái)提供計(jì)費(fèi)詳單,由BOSS讀取計(jì)費(fèi)詳單進(jìn)行計(jì)費(fèi)IDC云系統(tǒng)采集各種業(yè)務(wù)計(jì)費(fèi)系統(tǒng)所需的計(jì)費(fèi)信息,比如服務(wù)類型、資源的規(guī)格、資源的使用時(shí)長(zhǎng)、使用次數(shù)等計(jì)費(fèi)因子,輸出計(jì)費(fèi)詳單,BOSS系統(tǒng)讀取計(jì)費(fèi)詳單,根據(jù)計(jì)費(fèi)策略,實(shí)現(xiàn)虛擬桌面業(yè)務(wù)的計(jì)費(fèi)。IDC云系統(tǒng)能夠提供FTP等傳統(tǒng)電信接口,將計(jì)費(fèi)信息以詳單的形式上傳到運(yùn)營(yíng)商的計(jì)費(fèi)中心,實(shí)現(xiàn)與傳統(tǒng)電信BOSS的對(duì)接。3.11.2計(jì)費(fèi)業(yè)務(wù)列表解決方案支持對(duì)多種業(yè)務(wù)進(jìn)行計(jì)費(fèi),可以參考以下的表格。計(jì)費(fèi)大類計(jì)費(fèi)小類彈性計(jì)算服務(wù)計(jì)費(fèi)對(duì)創(chuàng)建/刪除實(shí)例進(jìn)行計(jì)費(fèi)對(duì)創(chuàng)建/刪除卷進(jìn)行計(jì)費(fèi)對(duì)申請(qǐng)/釋放彈性IP進(jìn)行計(jì)費(fèi)對(duì)創(chuàng)建快照計(jì)費(fèi)對(duì)刪除快照計(jì)費(fèi)對(duì)快照PUT操作計(jì)費(fèi)對(duì)快照GET操作計(jì)費(fèi)對(duì)實(shí)例運(yùn)行周期審計(jì)計(jì)費(fèi)對(duì)卷存儲(chǔ)周期審計(jì)計(jì)費(fèi)對(duì)快照存儲(chǔ)周期審計(jì)計(jì)費(fèi)對(duì)彈性IP占用周期審計(jì)計(jì)費(fèi)對(duì)申請(qǐng)VLAN計(jì)費(fèi)對(duì)釋放VLAN計(jì)費(fèi)對(duì)申請(qǐng)VPC計(jì)費(fèi)對(duì)釋放VPC計(jì)費(fèi)對(duì)創(chuàng)建網(wǎng)絡(luò)安全組計(jì)費(fèi)對(duì)刪除網(wǎng)絡(luò)安全組計(jì)費(fèi)對(duì)VLAN占用周期審計(jì)計(jì)費(fèi)對(duì)VPC占用周期審計(jì)計(jì)費(fèi)對(duì)網(wǎng)絡(luò)安全組使用周期審計(jì)計(jì)費(fèi)對(duì)象存儲(chǔ)業(yè)務(wù)計(jì)費(fèi)對(duì)創(chuàng)建桶計(jì)費(fèi)對(duì)刪除桶計(jì)費(fèi)對(duì)存儲(chǔ)容量計(jì)費(fèi)對(duì)網(wǎng)絡(luò)流入量計(jì)費(fèi)對(duì)網(wǎng)絡(luò)流出量計(jì)費(fèi)對(duì)用戶SOAP請(qǐng)求次數(shù)計(jì)費(fèi)對(duì)用戶REST請(qǐng)求次數(shù)計(jì)費(fèi)對(duì)桶存儲(chǔ)周期審計(jì)計(jì)費(fèi)3.11.3計(jì)費(fèi)系統(tǒng)的特點(diǎn)1)計(jì)費(fèi)單據(jù)可以采用主動(dòng)和被動(dòng)方式提供給計(jì)費(fèi)中心2)系統(tǒng)與計(jì)費(fèi)中心連接中斷后,能夠支持緩存和重發(fā),確保計(jì)費(fèi)單據(jù)不丟失。4云存儲(chǔ)4.1云存儲(chǔ)系統(tǒng)架構(gòu)在本次系統(tǒng)建設(shè)中,云存儲(chǔ)系統(tǒng)屬于基礎(chǔ)平臺(tái)支撐層,以用于數(shù)據(jù)集中存儲(chǔ)和共享,實(shí)現(xiàn)對(duì)數(shù)據(jù)的統(tǒng)一管理和高效應(yīng)用。將數(shù)據(jù)邏輯集中物理分散,以提供多并發(fā)高吞吐帶寬,最大程度降低系統(tǒng)訪問瓶頸。下面具體說明cStor云存儲(chǔ)資源管理系統(tǒng)的基本組成和主要功能。4.2系統(tǒng)基本組成cStor云存儲(chǔ)資源管理系統(tǒng)采用分布式的存儲(chǔ)機(jī)制,將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的存儲(chǔ)服務(wù)器上。它采用包括卷管理服務(wù)器、元數(shù)據(jù)管理服務(wù)器(MasterServer)、數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)服務(wù)器(ChunkServer)和掛接訪問客戶端以及管理中心服務(wù)器的結(jié)構(gòu)構(gòu)成虛擬統(tǒng)一的海量存儲(chǔ)空間。在每個(gè)服務(wù)器節(jié)點(diǎn)上運(yùn)行cStor云存儲(chǔ)資源管理系統(tǒng)的相應(yīng)的軟件服務(wù)程序模塊。系統(tǒng)架構(gòu)框圖如下圖所示。cStor云存儲(chǔ)資源管理系統(tǒng)架構(gòu)其中,MasterServer保存系統(tǒng)的元數(shù)據(jù),負(fù)責(zé)對(duì)整個(gè)文件系統(tǒng)的管理,MasterServer在邏輯上只有一個(gè),但采用主備雙機(jī)鏡像的方式,保證系統(tǒng)的不間斷服務(wù);ChunkServer負(fù)責(zé)具體的數(shù)據(jù)存儲(chǔ)工作,數(shù)據(jù)以文件的形式存儲(chǔ)在ChunkServer上,ChunkServer的個(gè)數(shù)可以有多個(gè),它的數(shù)目直接決定了cStor云存儲(chǔ)系統(tǒng)的規(guī)模;掛接訪問客戶端即為服務(wù)器對(duì)外提供數(shù)據(jù)存儲(chǔ)和訪問服務(wù)的窗口,通常情況下,客戶端可以部署在ChunkServer上,每一個(gè)塊數(shù)據(jù)服務(wù)器,既可以作為存儲(chǔ)服務(wù)器同時(shí)也可以作為客戶端服務(wù)器。由一對(duì)元數(shù)據(jù)服務(wù)器及其管理的存儲(chǔ)服務(wù)器節(jié)點(diǎn)所提供的存儲(chǔ)空間稱為一個(gè)卷空間,不同的卷空間由卷管理服務(wù)器虛擬化統(tǒng)一管理,對(duì)外可提供統(tǒng)一的海量存儲(chǔ)空間。管理中心提供統(tǒng)一易用的WEB配置管理平臺(tái),提供設(shè)備、空間、文件、服務(wù)、用戶認(rèn)證管理、配額管理、故障告警及預(yù)警等功能,實(shí)現(xiàn)智能化管理。這種分布式系統(tǒng)最大的好處是有利于存儲(chǔ)系統(tǒng)的擴(kuò)展和實(shí)現(xiàn),在小規(guī)模的數(shù)據(jù)擴(kuò)展時(shí),只需要添加具體的ChunkServer即可,而不需要添加整套設(shè)備。在實(shí)現(xiàn)大規(guī)模擴(kuò)展時(shí)也可方便地添加整個(gè)卷設(shè)備。4.3系統(tǒng)功能描述cStor云存儲(chǔ)資源管理系統(tǒng)從功能上劃份為三大部分:cStor分布式文件系統(tǒng)分布式文件系統(tǒng)實(shí)現(xiàn)文件數(shù)據(jù)存儲(chǔ)、可靠性容錯(cuò)、可伸縮性保證、高可用保證、負(fù)載均衡和流量分擔(dān)等功能。存儲(chǔ)訪問接口cStor提供符合POSIX規(guī)范的文件系統(tǒng)訪問接口,通過cStor訪問掛接程序可將云存儲(chǔ)空間掛接為本地目錄或磁盤。同時(shí)可提供專用的API接口,支持業(yè)務(wù)應(yīng)用層程序?qū)υ拼鎯?chǔ)系統(tǒng)的直接訪問。管理中心管理中心提供帳戶管理、設(shè)備管理、系統(tǒng)、卷管理、告警管理、故障管理等功能。 下面逐一詳細(xì)介紹各部分系統(tǒng)功能。4.3.1cStor分布式文件系統(tǒng)cStor分布式文件系統(tǒng)包括卷管理、元數(shù)據(jù)管理、塊數(shù)據(jù)管理服務(wù)。參考上面系統(tǒng)架構(gòu)框圖左側(cè)部分。元數(shù)據(jù)是指文件的名稱、屬性、數(shù)據(jù)塊位置信息等,元數(shù)據(jù)管理通過元數(shù)據(jù)服務(wù)程序完成。因元數(shù)據(jù)訪問頻繁,故系統(tǒng)將元數(shù)據(jù)加載緩存至內(nèi)存中管理,提高訪問效率。由于元數(shù)據(jù)的重要性,元數(shù)據(jù)損壞或丟失則相當(dāng)于文件數(shù)據(jù)丟失,因此實(shí)現(xiàn)了元數(shù)據(jù)服務(wù)器主備雙機(jī)高可用,確保7×24小時(shí)不間斷服務(wù)。通過元數(shù)據(jù)遠(yuǎn)程多機(jī)冗余備份功能,實(shí)現(xiàn)在多臺(tái)其它機(jī)器上備份元數(shù)據(jù),當(dāng)元數(shù)據(jù)服務(wù)器損壞,可以通過備份的元數(shù)據(jù)重新恢復(fù)服務(wù),切保數(shù)據(jù)可以完整找回。塊數(shù)據(jù)是指文件數(shù)據(jù)被按照一定大?。J(rèn)64MB)分割而成的多個(gè)數(shù)據(jù)塊,分布存儲(chǔ)到不同的存儲(chǔ)節(jié)點(diǎn)服務(wù)器上,并通過編解碼容錯(cuò)算法產(chǎn)生相應(yīng)的冗余塊。塊數(shù)據(jù)服務(wù)是運(yùn)行在每個(gè)存儲(chǔ)節(jié)點(diǎn)服務(wù)器上的塊數(shù)據(jù)管理程序,負(fù)責(zé)使用存儲(chǔ)服務(wù)器上的磁盤空間存儲(chǔ)文件數(shù)據(jù)塊,并實(shí)現(xiàn)相應(yīng)的編解碼功能。相比較傳統(tǒng)業(yè)界的云存儲(chǔ)采用塊數(shù)據(jù)簡(jiǎn)單備份冗余容錯(cuò)機(jī)制,編解碼容錯(cuò)方式大大降低了硬件資源冗余度,提高了磁盤利用率。由一對(duì)主備元數(shù)據(jù)服務(wù)器及其所管理的塊數(shù)據(jù)服務(wù)器管理節(jié)點(diǎn)設(shè)備及其所提供的存儲(chǔ)空間稱為一個(gè)卷。卷管理服務(wù)器負(fù)責(zé)將多個(gè)卷虛擬化整合,對(duì)外提供統(tǒng)一的整體訪問云存儲(chǔ)空間。文件系統(tǒng)采用中心服務(wù)器模式分布式存儲(chǔ)架構(gòu),控制流與數(shù)據(jù)流分離,通過增加存儲(chǔ)節(jié)點(diǎn)系統(tǒng)采用自動(dòng)注冊(cè)機(jī)制,實(shí)現(xiàn)系統(tǒng)高可伸縮性,增加或減少存儲(chǔ)節(jié)點(diǎn)規(guī)模,不影響系統(tǒng)正常提供存儲(chǔ)訪問服務(wù)。該系統(tǒng)架構(gòu)實(shí)現(xiàn)了統(tǒng)一調(diào)度,負(fù)載均衡和流量自動(dòng)分擔(dān)功能,多個(gè)存儲(chǔ)節(jié)點(diǎn)同時(shí)對(duì)外提供數(shù)據(jù)流服務(wù),系統(tǒng)根據(jù)磁盤空間使用比例進(jìn)行資源優(yōu)化配置。同時(shí)在多個(gè)不同的存儲(chǔ)節(jié)點(diǎn)之間實(shí)現(xiàn)根據(jù)空間比例進(jìn)行優(yōu)化配置,數(shù)據(jù)優(yōu)先存儲(chǔ)的空間利用比例相對(duì)較低的磁盤或存儲(chǔ)服務(wù)器上。cStor分布式文件系統(tǒng)具有自動(dòng)冗余重建功能,確保損壞的數(shù)據(jù)塊能夠被解碼或編碼后存儲(chǔ)到在線的正常的存儲(chǔ)服務(wù)器節(jié)點(diǎn)上。4.3.2存儲(chǔ)訪問接口cStor分布式文件系統(tǒng)提供符合POSIX規(guī)范的文件系統(tǒng)訪問接口。支持Linux、Windows、MaxOSX等操作系統(tǒng)平臺(tái)。可將云存儲(chǔ)系統(tǒng)提供的存儲(chǔ)空間掛接為本地目錄或本地盤符來使用。用戶操作云存儲(chǔ)空間和操作本地文件相同。另外cStor提供專用的高速存取訪問API接口,供性能要求很高的高端應(yīng)用程序?qū)邮褂谩?.3.3管理中心管理中心為系統(tǒng)管理員配置和維護(hù)cStor云存儲(chǔ)資源管理系統(tǒng)的有效工具,充分體現(xiàn)了系統(tǒng)的可維護(hù)性。管理中心提供帳戶管理、設(shè)備管理、系統(tǒng)、卷管理、告警管理、故障管理等功能。以下為部分系統(tǒng)管理界面。設(shè)備管理系統(tǒng)告警信息告警配置告警日志故障處理卷管理帳戶管理添加帳戶4.4云存儲(chǔ)工作機(jī)制4.4.1數(shù)據(jù)寫入機(jī)制數(shù)據(jù)寫入過程參考下圖:客戶端向元數(shù)據(jù)服務(wù)器請(qǐng)求寫入文件數(shù)據(jù),元數(shù)據(jù)服務(wù)器返回寫入服務(wù)器列表;客戶端進(jìn)行文件切塊寫入有塊數(shù)據(jù)服務(wù)器;客戶端每寫入一定量的塊數(shù)據(jù)后,通知元數(shù)據(jù)服務(wù)器,由元數(shù)據(jù)服務(wù)器啟動(dòng)一個(gè)編碼任務(wù),進(jìn)行編碼;而客戶端繼續(xù)寫數(shù)據(jù),真到寫完成為止;元數(shù)據(jù)服務(wù)器調(diào)度一個(gè)或多個(gè)塊數(shù)據(jù)服務(wù)器進(jìn)行編碼任務(wù);被調(diào)度的塊數(shù)據(jù)服務(wù)器,獲取需要的原始信息塊組進(jìn)行編碼,產(chǎn)生冗余數(shù)據(jù)塊;4.4.2數(shù)據(jù)讀出機(jī)制數(shù)據(jù)讀出過程參考下圖:客戶端向元數(shù)據(jù)服務(wù)器請(qǐng)求讀出文件數(shù)據(jù),元數(shù)據(jù)服務(wù)器返回?cái)?shù)據(jù)塊位置列表;客戶端進(jìn)行數(shù)據(jù)塊讀出;客戶端進(jìn)行數(shù)據(jù)塊校驗(yàn);對(duì)未能讀出的數(shù)據(jù)塊或無效塊通過同編碼組內(nèi)其它數(shù)據(jù)塊進(jìn)行解碼,獲得完整正解的文件數(shù)據(jù)。4.5云存儲(chǔ)關(guān)鍵技術(shù)4.5.1負(fù)載自動(dòng)均衡技術(shù)采用中心服務(wù)器模式來管理整個(gè)云存儲(chǔ)文件系統(tǒng),所有元數(shù)據(jù)均保存在主管理服務(wù)器上,文件則劃分為多個(gè)節(jié)點(diǎn)存儲(chǔ)在不同的節(jié)點(diǎn)服務(wù)器上。主卷管理服務(wù)器維護(hù)了一個(gè)統(tǒng)一的命名空間,同時(shí)掌握整個(gè)系統(tǒng)內(nèi)節(jié)點(diǎn)服務(wù)器的使用情況,當(dāng)客戶端向元數(shù)據(jù)服務(wù)器發(fā)送數(shù)據(jù)讀寫的請(qǐng)求時(shí),元數(shù)據(jù)服務(wù)器根據(jù)節(jié)點(diǎn)服務(wù)器的磁盤使用情況、網(wǎng)絡(luò)負(fù)擔(dān)等情況,選擇負(fù)擔(dān)最輕的節(jié)點(diǎn)服務(wù)器對(duì)外提供服務(wù),自動(dòng)均衡負(fù)載負(fù)擔(dān)。另外,當(dāng)某有一個(gè)節(jié)點(diǎn)服務(wù)器因?yàn)闄C(jī)器故障或者其他原因造成離線時(shí),主卷管理服務(wù)器會(huì)將此機(jī)器自動(dòng)屏蔽掉,不再將此節(jié)點(diǎn)服務(wù)器提供給客戶端使用,同時(shí)存儲(chǔ)在此節(jié)點(diǎn)服務(wù)器上的數(shù)據(jù)也會(huì)自動(dòng)的編碼冗余到其他可用的節(jié)點(diǎn)服務(wù)器上,自動(dòng)屏蔽節(jié)點(diǎn)服務(wù)器故障對(duì)系統(tǒng)的影響。4.5.2高速并發(fā)訪問技術(shù)客戶端在訪問云存儲(chǔ)時(shí),首先訪問主卷管理服務(wù)器節(jié)點(diǎn),獲取將要與之進(jìn)行交互的節(jié)點(diǎn)服務(wù)器信息,然后直接訪問這些節(jié)點(diǎn)服務(wù)器完成數(shù)據(jù)存取??蛻舳伺c主卷管理服務(wù)器之間只有控制流,而無數(shù)據(jù)流,這樣就極大地降低了主卷管理服務(wù)器的負(fù)載,使之不成為系統(tǒng)性能的一個(gè)瓶頸。客戶端與節(jié)點(diǎn)服務(wù)器之間直接傳輸數(shù)據(jù)流,同時(shí)由于文件被分成多個(gè)節(jié)點(diǎn)進(jìn)行分布式存儲(chǔ),客戶端可以同時(shí)訪問多個(gè)節(jié)點(diǎn)服務(wù)器,從而使得整個(gè)系統(tǒng)的I/O高度并行,系統(tǒng)整體性能得到提高。通常情況下,系統(tǒng)的整體吞吐率與節(jié)點(diǎn)服務(wù)器的數(shù)量呈正比。4.5.3高可靠性保證技術(shù)對(duì)于元數(shù)據(jù),通過操作日志來提供容錯(cuò)功能,當(dāng)主管理服務(wù)器發(fā)生故障時(shí),在磁盤數(shù)據(jù)保存完好的情況下,可以迅速恢復(fù)以上元數(shù)據(jù)。為了防止主管理服務(wù)器徹底死機(jī)的情況,還提供了主管理服務(wù)器遠(yuǎn)程的實(shí)時(shí)備份,這樣在當(dāng)前的主管理服務(wù)器出現(xiàn)故障無法工作的時(shí)候,另外一臺(tái)備管理服務(wù)器可以迅速接替其工作。對(duì)于節(jié)點(diǎn)服務(wù)器,采用編解碼的方式實(shí)現(xiàn)容錯(cuò),分布存儲(chǔ)在不同的節(jié)點(diǎn)服務(wù)器上。數(shù)據(jù)塊的分布策略考慮了多種因素,如網(wǎng)絡(luò)的拓?fù)?、機(jī)架的分布、磁盤的利用率等。在其后的過程中,如果相關(guān)的數(shù)據(jù)塊出現(xiàn)丟失或不可恢復(fù)等狀況,主管理服務(wù)器會(huì)自動(dòng)將該
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 常德科技職業(yè)技術(shù)學(xué)院《醫(yī)療保險(xiǎn)》2023-2024學(xué)年第二學(xué)期期末試卷
- 2024-2025學(xué)年四川省涼山州木里藏族自治縣中學(xué)高三下學(xué)期第一次大練習(xí)(期末)物理試題含解析
- 廣東省廣州市南村中學(xué)2025屆初三下學(xué)期三模考試物理試題文試題含解析
- 供水管網(wǎng)檢測(cè)工程施工方案
- 招聘流程管理培訓(xùn)
- 急救護(hù)師操作培訓(xùn)個(gè)人總結(jié)
- 人教版物理必修二
- 常用急救藥品的基本知識(shí)
- 急救洗胃知識(shí)培訓(xùn)
- 如何規(guī)范設(shè)備維修作業(yè)
- DL∕T 753-2015 汽輪機(jī)鑄鋼件補(bǔ)焊技術(shù)導(dǎo)則
- MOOC 中醫(yī)與辨證-暨南大學(xué) 中國(guó)大學(xué)慕課答案
- JBT 7041.3-2023 液壓泵 第3部分:軸向柱塞泵 (正式版)
- 電鍍與化學(xué)鍍
- 醫(yī)古文部分課后練習(xí)題及課外閱讀試題及答案
- 職業(yè)健康檢查科室設(shè)置和分工
- 壓力容器安裝施工方案完整
- 搖臂鉆作業(yè)指導(dǎo)書
- 個(gè)人外匯管理辦法實(shí)施問答(一二三四期)(共5頁(yè))
- ▲封頭重量計(jì)算
- 境外投資可行性研究報(bào)告(完整資料).doc
評(píng)論
0/150
提交評(píng)論