




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡介
1、 XXX市人民醫(yī)院超融合虛擬化平臺(tái) 某人民醫(yī)院數(shù)據(jù)中心建設(shè)方案目錄 TOC o 1-4 h z u HYPERLINK l _Toc2420 一、 需求分析 PAGEREF _Toc2420 5 HYPERLINK l _Toc3560 1.1目前數(shù)據(jù)中心現(xiàn)狀 PAGEREF _Toc3560 5 HYPERLINK l _Toc4257 1.2需求匯總 PAGEREF _Toc4257 6 HYPERLINK l _Toc23015 二、 數(shù)據(jù)中心建設(shè)規(guī)劃技術(shù)方案 PAGEREF _Toc23015 7 HYPERLINK l _Toc17584 第一階段數(shù)據(jù)中心建設(shè)基礎(chǔ)架構(gòu)規(guī)劃 PAGER
2、EF _Toc17584 8 HYPERLINK l _Toc16312 2.1、建設(shè)超融合架構(gòu)數(shù)據(jù)中心 PAGEREF _Toc16312 9 HYPERLINK l _Toc12008 2.1.1現(xiàn)有業(yè)務(wù)系統(tǒng)分類 PAGEREF _Toc12008 10 HYPERLINK l _Toc18729 2.1.2中心機(jī)房超融合虛擬化平臺(tái)建設(shè) PAGEREF _Toc18729 10 HYPERLINK l _Toc26852 2.1.3超融合虛擬化平臺(tái)實(shí)施規(guī)劃 PAGEREF _Toc26852 13 HYPERLINK l _Toc3179 機(jī)柜冗余設(shè)計(jì) PAGEREF _Toc3179 1
3、3 HYPERLINK l _Toc28451 NTP時(shí)間服務(wù) PAGEREF _Toc28451 13 HYPERLINK l _Toc7878 命名規(guī)則 PAGEREF _Toc7878 13 HYPERLINK l _Toc2410 虛擬化主機(jī)配置表 PAGEREF _Toc2410 16 HYPERLINK l _Toc6660 物理主機(jī)網(wǎng)絡(luò)端口規(guī)劃 PAGEREF _Toc6660 18 HYPERLINK l _Toc32528 虛擬機(jī)創(chuàng)建規(guī)劃 PAGEREF _Toc32528 18 HYPERLINK l _Toc12816 模板配置 PAGEREF _Toc12816 18
4、HYPERLINK l _Toc16024 數(shù)據(jù)副本數(shù)量選擇 PAGEREF _Toc16024 19 HYPERLINK l _Toc1172 2.1.4超融合架構(gòu)介紹 PAGEREF _Toc1172 19 HYPERLINK l _Toc6997 2.1.5虛擬化軟件的選擇 PAGEREF _Toc6997 25 HYPERLINK l _Toc23206 2.1.6虛擬化平臺(tái)虛擬機(jī)安全 PAGEREF _Toc23206 25 HYPERLINK l _Toc6374 2.1.7 業(yè)務(wù)系統(tǒng)遷移方法 PAGEREF _Toc6374 29 HYPERLINK l _Toc5315 2.1
5、.8 系統(tǒng)培訓(xùn)及知識(shí)轉(zhuǎn)移 PAGEREF _Toc5315 31 HYPERLINK l _Toc15301 2.2、業(yè)務(wù)系統(tǒng)整合 PAGEREF _Toc15301 32 HYPERLINK l _Toc31650 2.2.1中心機(jī)房業(yè)務(wù)系統(tǒng)整合 PAGEREF _Toc31650 32 HYPERLINK l _Toc20302 2.2.2東區(qū)機(jī)房業(yè)務(wù)系統(tǒng)整合 PAGEREF _Toc20302 34 HYPERLINK l _Toc17580 2.2.3腦科機(jī)房HIS系統(tǒng)整合 PAGEREF _Toc17580 34 HYPERLINK l _Toc21727 2.2.4腦科機(jī)房其他系統(tǒng)
6、整合 PAGEREF _Toc21727 34 HYPERLINK l _Toc20244 2.3、虛擬化平臺(tái)災(zāi)備系統(tǒng)建設(shè) PAGEREF _Toc20244 35 HYPERLINK l _Toc11513 2.3.1容災(zāi)系統(tǒng)基本概念和指標(biāo) PAGEREF _Toc11513 35 HYPERLINK l _Toc1774 2.3.2容災(zāi)建設(shè)的工作內(nèi)容 PAGEREF _Toc1774 36 HYPERLINK l _Toc21143 2.3.3災(zāi)難備份/恢復(fù)方案應(yīng)該具備的特點(diǎn) PAGEREF _Toc21143 37 HYPERLINK l _Toc1456 2.3.4現(xiàn)有系統(tǒng)環(huán)境分析 P
7、AGEREF _Toc1456 38 HYPERLINK l _Toc535 2.3.5容災(zāi)系統(tǒng)設(shè)計(jì) PAGEREF _Toc535 38 HYPERLINK l _Toc1023 2.4、建設(shè)數(shù)據(jù)中心統(tǒng)一備份平臺(tái) PAGEREF _Toc1023 40 HYPERLINK l _Toc12378 2.4.1利用超融合平臺(tái)的優(yōu)勢進(jìn)行本地備份 PAGEREF _Toc12378 40 HYPERLINK l _Toc3779 2.4.2使用備份一體機(jī)進(jìn)行統(tǒng)一冷備份 PAGEREF _Toc3779 41 HYPERLINK l _Toc7183 2.5、超融合系統(tǒng)的技術(shù)優(yōu)勢 PAGEREF _T
8、oc7183 47 HYPERLINK l _Toc16836 2.5.1橫向擴(kuò)展優(yōu)勢 PAGEREF _Toc16836 49 HYPERLINK l _Toc21068 2.5.2性能優(yōu)勢 PAGEREF _Toc21068 50 HYPERLINK l _Toc7276 2.5.3可靠性 PAGEREF _Toc7276 51 HYPERLINK l _Toc2264 2.5.4易于部署 PAGEREF _Toc2264 51 HYPERLINK l _Toc26975 2.5.5集中管理 PAGEREF _Toc26975 52 HYPERLINK l _Toc980 2.5.6自動(dòng)故
9、障恢復(fù) PAGEREF _Toc980 54 HYPERLINK l _Toc14344 2.6、建設(shè)數(shù)據(jù)中心統(tǒng)一云管理平臺(tái) PAGEREF _Toc14344 54 HYPERLINK l _Toc10662 2.8、項(xiàng)目預(yù)算清單 PAGEREF _Toc10662 57首先非常感謝XXX人民醫(yī)院對的信任。也希望憑借自身多年在各個(gè)行業(yè)的云平臺(tái)建設(shè)以及容災(zāi)項(xiàng)目實(shí)施中的項(xiàng)目管理、基礎(chǔ)架構(gòu)咨詢、技術(shù)實(shí)現(xiàn)的經(jīng)驗(yàn),協(xié)助XXX人民醫(yī)院建設(shè)高效可靠的IT基礎(chǔ)架構(gòu)系統(tǒng),成功地完成新建數(shù)據(jù)中心的咨詢和實(shí)施,降低XXX人民醫(yī)院業(yè)務(wù)系統(tǒng)的運(yùn)營風(fēng)險(xiǎn)。需求分析在“互聯(lián)網(wǎng)+”時(shí)代,傳統(tǒng)行業(yè)模式被極大顛覆,極致、高效的客
10、戶體驗(yàn)成為各行業(yè)關(guān)注的焦點(diǎn);堅(jiān)持以人為本,全面提升醫(yī)療信息化水平,增強(qiáng)醫(yī)院綜合就醫(yī)能力,建立以患者為中心的醫(yī)院診療服務(wù)系統(tǒng)和管理系統(tǒng),成為開展智慧醫(yī)療和智慧醫(yī)院建設(shè)的重大挑戰(zhàn)!隨著XXX市人民醫(yī)院業(yè)務(wù)的增長,對于IT信息系統(tǒng)的要求不僅僅是滿足業(yè)務(wù)系統(tǒng)的正常要求。而且在數(shù)據(jù)的安全性,數(shù)據(jù)的分層管理、備份、遠(yuǎn)程災(zāi)備等方面也提出更高的要求。1.1目前數(shù)據(jù)中心現(xiàn)狀XXX人民醫(yī)院目前共有三個(gè)機(jī)房,分別是中心機(jī)房、東區(qū)機(jī)房和腦科機(jī)房。其中中心機(jī)房規(guī)模最大,共有45臺(tái)服務(wù)器設(shè)備,東區(qū)機(jī)房共有7臺(tái)設(shè)備,腦科機(jī)房共有11臺(tái)設(shè)備。中心機(jī)房已經(jīng)建立了比較完整的數(shù)據(jù)中心基礎(chǔ)架構(gòu)支撐平臺(tái),HIS核心數(shù)據(jù)庫部署在中心機(jī)房
11、,采用東軟的解決方案,數(shù)據(jù)庫運(yùn)行環(huán)境是Oracle 10g,運(yùn)行在安騰架構(gòu)的Rx9800上,中心機(jī)房其他服務(wù)器設(shè)備以HP 388和580,以及Lenovo RD 630為主。PACS系統(tǒng)一套6節(jié)點(diǎn)的Isilon存儲(chǔ)和3節(jié)點(diǎn)容災(zāi)存儲(chǔ),專門存放非結(jié)構(gòu)化的影像數(shù)據(jù)。東區(qū)機(jī)房是中心機(jī)房的災(zāi)備機(jī)房,包括2臺(tái)HP 388G7、2臺(tái)HP 580G7、1臺(tái)HP rx2600和2臺(tái)Lenovo RD 630,其中rx2600是核心HIS數(shù)據(jù)庫的備機(jī)。腦科機(jī)房是較為獨(dú)立的系統(tǒng),擁有獨(dú)立的HIS系統(tǒng),采用東華的解決方案,以HP DL388G7和DL580G7為主。三個(gè)機(jī)房中設(shè)備啟用時(shí)間在2007-2013年左右,大
12、部分已經(jīng)不在質(zhì)保期,并且除關(guān)鍵業(yè)務(wù)外,其余業(yè)務(wù)系統(tǒng)無本地高可用和容災(zāi)保護(hù)。同時(shí)各個(gè)業(yè)務(wù)系統(tǒng)相對獨(dú)立,各自具備單獨(dú)的服務(wù)器、存儲(chǔ)、網(wǎng)絡(luò)資源,部分服務(wù)器和存儲(chǔ)系統(tǒng)已經(jīng)不在保修范圍或停產(chǎn),原有平臺(tái)豎井式架構(gòu)搭建,隨著時(shí)間的累計(jì),架構(gòu)越來越復(fù)雜,且存在資源浪費(fèi)的現(xiàn)象,運(yùn)維和管理的難度也逐漸增大。1.2需求匯總針對此次數(shù)據(jù)中心建設(shè),我們仔細(xì)分析了醫(yī)院三個(gè)機(jī)房現(xiàn)有業(yè)務(wù)系統(tǒng)的IT架構(gòu),結(jié)合新建院區(qū)數(shù)據(jù)中心建設(shè),概括匯總需求如下:大部分業(yè)務(wù)系統(tǒng)設(shè)備啟用時(shí)間在2007-2013年左右,大部分已經(jīng)不在質(zhì)保期,且很多設(shè)備已經(jīng)快達(dá)到設(shè)備壽命,軟件版本過低,存在版本更新的需求,系統(tǒng)運(yùn)維依賴第三方廠商,系統(tǒng)運(yùn)維存在隱患,
13、因此存在系統(tǒng)更新?lián)Q代的需求。數(shù)據(jù)中心各業(yè)務(wù)系統(tǒng)相互獨(dú)立,當(dāng)系統(tǒng)規(guī)模大時(shí),一旦出現(xiàn)業(yè)務(wù)系統(tǒng)需要更新的情況,每個(gè)業(yè)務(wù)系統(tǒng)均需要進(jìn)行更新操作,中心機(jī)房現(xiàn)有40多個(gè)業(yè)務(wù)系統(tǒng),將會(huì)產(chǎn)生大量的操作,給運(yùn)維人員帶來巨大的壓力,增加系統(tǒng)風(fēng)險(xiǎn),因此存在系統(tǒng)加快業(yè)務(wù)更新響應(yīng)速度的需求。 由于在系統(tǒng)層面現(xiàn)有數(shù)據(jù)采用豎井式架構(gòu),在存儲(chǔ)層面,采用統(tǒng)一存儲(chǔ)架構(gòu),系統(tǒng)橫向擴(kuò)展性已經(jīng)快接近瓶頸,隨著新業(yè)務(wù)的上線,系統(tǒng)復(fù)雜度大幅增加。即使繼續(xù)采用豎井式架構(gòu)也將面臨如何整合數(shù)據(jù)的難題,因此存在降低系統(tǒng)復(fù)雜度的需求。各業(yè)務(wù)系統(tǒng)獨(dú)立的設(shè)計(jì)導(dǎo)致在設(shè)計(jì)容災(zāi)系統(tǒng)時(shí)需要對各業(yè)務(wù)系統(tǒng)分別考慮,如果采用軟件層的解決方案,會(huì)造成系統(tǒng)復(fù)雜度提升,如
14、果采用存儲(chǔ)層的解決方案,會(huì)大幅提升系統(tǒng)建設(shè)成本,因此存在全系統(tǒng)保護(hù)的需求?,F(xiàn)有中心機(jī)房和腦科機(jī)房的HIS系統(tǒng)存在整合需求。醫(yī)院新的數(shù)據(jù)中心將在一年后開始建設(shè),存在統(tǒng)一規(guī)劃分步分批建設(shè)的需求。目前絕大部分系統(tǒng)都采用傳統(tǒng)豎井式架構(gòu),亟需更加靈活、擴(kuò)展能力強(qiáng)的架構(gòu)。能夠滿足核心業(yè)務(wù)系統(tǒng)數(shù)據(jù)本地高可用,無論發(fā)生計(jì)劃內(nèi)或計(jì)劃外異常情況,業(yè)務(wù)不中斷,最大化確保業(yè)務(wù)持續(xù)運(yùn)行,同時(shí)保證數(shù)據(jù)安全。本地分級存儲(chǔ):實(shí)現(xiàn)數(shù)據(jù)分級管理,使存儲(chǔ)資源得到最有效的利用,不同級別不同成本的資源為不同價(jià)值和要求的數(shù)據(jù)服務(wù),提高資源的利用率。構(gòu)建統(tǒng)一、合理的、高可擴(kuò)展的基礎(chǔ)架構(gòu)。目前核心HIS數(shù)據(jù)庫尚無數(shù)據(jù)備份,因此系統(tǒng)存在本地?cái)?shù)
15、據(jù)備份需求。 在本地高可用建設(shè)的基礎(chǔ)上,建設(shè)跨機(jī)房的容災(zāi)系統(tǒng),實(shí)現(xiàn)同城應(yīng)用級別災(zāi)備;能夠?qū)崿F(xiàn)“從無到有、從有到優(yōu)、統(tǒng)籌規(guī)劃、分步實(shí)施”,不僅僅考慮防止物理災(zāi)難風(fēng)險(xiǎn),同時(shí)要能夠防止邏輯災(zāi)難風(fēng)險(xiǎn); 災(zāi)備系統(tǒng)盡可能采取簡單、成熟、高效的技術(shù)實(shí)現(xiàn)手段; 最大化程度利舊原有數(shù)據(jù)中心服務(wù)器、存儲(chǔ)等資產(chǎn),保護(hù)已有投資。數(shù)據(jù)中心建設(shè)規(guī)劃技術(shù)方案綜合以上現(xiàn)狀分析,結(jié)合數(shù)據(jù)中心建設(shè)方法論及最佳實(shí)踐,建議采用分步分批的建設(shè)方式,使用擴(kuò)展能力強(qiáng),功能豐富的超融合基礎(chǔ)架構(gòu)方案,來滿足醫(yī)院業(yè)務(wù)系統(tǒng)高可靠性、高可用性、業(yè)務(wù)連續(xù)性、數(shù)據(jù)安全、數(shù)據(jù)備份、數(shù)據(jù)及應(yīng)用容災(zāi)需求。建議XXX人民醫(yī)院的數(shù)據(jù)中心建設(shè)采用三步走的設(shè)計(jì)建設(shè)思
16、路,數(shù)據(jù)中心第一期建設(shè)超融合架構(gòu)數(shù)據(jù)中心,進(jìn)行業(yè)務(wù)系統(tǒng)的整合,并對核心業(yè)務(wù)的應(yīng)用系統(tǒng)也進(jìn)行整合,可選同時(shí)搭建災(zāi)備系統(tǒng)平臺(tái)。第二期建設(shè)多種類型的虛擬化平臺(tái)并通過統(tǒng)一的云管理平臺(tái)進(jìn)行管理,并建設(shè)多站點(diǎn)之間的災(zāi)備系統(tǒng)。第三期建設(shè)醫(yī)院大數(shù)據(jù)平臺(tái),并在云平臺(tái)上搭建SDN軟件定義網(wǎng)絡(luò)解決方案。第一階段數(shù)據(jù)中心建設(shè)基礎(chǔ)架構(gòu)規(guī)劃本次數(shù)據(jù)中心建設(shè)基礎(chǔ)架構(gòu)規(guī)劃如下:圖1:基礎(chǔ)架構(gòu)規(guī)劃拓?fù)?)建設(shè)超融合基礎(chǔ)架構(gòu)平臺(tái),在中心機(jī)房建設(shè)一套超融合集群,并對現(xiàn)有系統(tǒng)進(jìn)行評估,將除HIS、PACS等核心業(yè)務(wù)系統(tǒng)外的其他系統(tǒng)都遷移至超融合平臺(tái),打破原有豎井式架構(gòu)的束縛,并將原來運(yùn)行這些業(yè)務(wù)系統(tǒng)的設(shè)備進(jìn)行淘汰,解決現(xiàn)有機(jī)房設(shè)備達(dá)
17、到使用壽命而存在的潛在隱患,降低整體能耗成本。2)進(jìn)行業(yè)務(wù)系統(tǒng)集中整合,目前XXX人民醫(yī)院核心HIS數(shù)據(jù)庫仍然運(yùn)行在安騰架構(gòu)的rx9800小型機(jī)環(huán)境中,并使用Oracle 10g的RAC方案,由于Oracle和Redhat早已停止了對安騰架構(gòu)的支持,現(xiàn)有的核心HIS數(shù)據(jù)庫面臨極大的隱患,同時(shí)不同機(jī)房中的HIS系統(tǒng)采用不同的軟件解決方案,因此建議新數(shù)據(jù)中心的建設(shè)規(guī)劃中,將HIS系統(tǒng)進(jìn)行整合遷移測試,此部分工作量比較大,可以分階段實(shí)施。3)搭建災(zāi)備系統(tǒng),在腦科機(jī)房搭建超融合災(zāi)備平臺(tái),與中心機(jī)房超融合平臺(tái)共同構(gòu)建互備的虛擬化災(zāi)備系統(tǒng),兩個(gè)機(jī)房超融合平臺(tái)上運(yùn)行的系統(tǒng)數(shù)據(jù)以主備方式進(jìn)行讀寫,當(dāng)一個(gè)機(jī)房存
18、儲(chǔ)設(shè)備發(fā)生故障時(shí),數(shù)據(jù)存儲(chǔ)動(dòng)態(tài)切換到災(zāi)備機(jī)房,確保核心數(shù)據(jù)安全性和業(yè)務(wù)連續(xù)性。4)建設(shè)統(tǒng)一的數(shù)據(jù)備份平臺(tái),目前中心機(jī)房的核心HIS數(shù)據(jù)庫尚沒有數(shù)據(jù)備份,在進(jìn)行HIS系統(tǒng)整合后,建立統(tǒng)一的核心業(yè)務(wù)系統(tǒng)數(shù)據(jù)備份平臺(tái),使核心業(yè)務(wù)系統(tǒng)不僅有本地高可用保護(hù),還有數(shù)據(jù)備份保護(hù)能夠在故障時(shí)實(shí)現(xiàn)快速的數(shù)據(jù)恢復(fù)。以下分別闡述各部分的技術(shù)方案。2.1、建設(shè)超融合架構(gòu)數(shù)據(jù)中心設(shè)計(jì)原則在方案設(shè)計(jì)中我們將遵循以下總體原則:以業(yè)務(wù)需求為導(dǎo)向技術(shù)架構(gòu)最終是為業(yè)務(wù)服務(wù)的,因此技術(shù)架構(gòu)的設(shè)計(jì)一定要以業(yè)務(wù)的需求為導(dǎo)向,充分考慮非功能需求,例如系統(tǒng)的重要程度、安全要求、業(yè)務(wù)連續(xù)性等。提高資源利用率現(xiàn)已經(jīng)部署了大量的服務(wù)器,資源使用
19、率低是較突出的一個(gè)問題,因此在項(xiàng)目中,提高資源利用率成為一個(gè)重要的任務(wù)。動(dòng)態(tài)擴(kuò)展性在IT發(fā)展趨勢中,動(dòng)態(tài)基礎(chǔ)架構(gòu)已經(jīng)成為IT基礎(chǔ)架構(gòu)的發(fā)展方向。使IT基礎(chǔ)架構(gòu)成為一個(gè)動(dòng)態(tài)、靈活、具有彈性的IT基礎(chǔ)架構(gòu),同時(shí)在IT實(shí)時(shí)地運(yùn)營過程可進(jìn)行靈活的資源動(dòng)態(tài)調(diào)整。資源擴(kuò)展要體現(xiàn)在計(jì)算資源和存儲(chǔ)資源的同時(shí)擴(kuò)展。高可用性應(yīng)用系統(tǒng)的高可用性是保障服務(wù)等級的重要因素,在架構(gòu)設(shè)計(jì)中應(yīng)該以軟件定義為主,借助軟件的分布式架構(gòu)滿足高可用性要求,實(shí)現(xiàn)系統(tǒng)架構(gòu)和平臺(tái)架構(gòu)的無單點(diǎn)故障、無單點(diǎn)瓶頸問題,保障新一代的業(yè)務(wù)系統(tǒng)健壯性。安全性在系統(tǒng)設(shè)計(jì)中,安全性是一個(gè)非常重要的問題。在架構(gòu)中需要考慮到虛擬化架構(gòu)內(nèi)外部的安全,包括數(shù)據(jù)安
20、全等問題,以保證整個(gè)系統(tǒng)長期安全穩(wěn)定的運(yùn)行。2.1.1現(xiàn)有業(yè)務(wù)系統(tǒng)分類建議數(shù)據(jù)中心所有服務(wù)器分區(qū)分域部署,并在用戶網(wǎng)絡(luò)和數(shù)據(jù)中心網(wǎng)絡(luò)中間實(shí)施合理的安全防護(hù),例如部署硬件的防火墻并設(shè)置相應(yīng)的安全策略。針對現(xiàn)有醫(yī)院系統(tǒng)進(jìn)行梳理,可以將醫(yī)院系統(tǒng)分為六大類,分別是核心業(yè)務(wù)系統(tǒng)應(yīng)用、核心HIS數(shù)據(jù)庫、醫(yī)療信息系統(tǒng)、行政后勤系統(tǒng)、安全運(yùn)維系統(tǒng)和PACS系統(tǒng),其中PACS系統(tǒng)由于新購Isilon,將保持原有架構(gòu)以避免投資浪費(fèi)。除核心HIS數(shù)據(jù)庫外,其他四大類系統(tǒng)都將遷移至超融合平臺(tái),以最大程度提高系統(tǒng)的使用率。目前中心機(jī)房現(xiàn)有系統(tǒng)共45個(gè),除核心HIS數(shù)據(jù)庫和PACS外,其他業(yè)務(wù)系統(tǒng)共有37個(gè)左右,為提高系
21、統(tǒng)可用性,設(shè)計(jì)4-5個(gè)業(yè)務(wù)系統(tǒng)運(yùn)行在一臺(tái)超融合節(jié)點(diǎn)上,因此如果所有非核心業(yè)務(wù)系統(tǒng)遷移,建議配置8個(gè)超融合節(jié)點(diǎn)滿足需求。同時(shí)東區(qū)機(jī)房的業(yè)務(wù)系統(tǒng)也遷移至中心機(jī)房超融合平臺(tái)上,由于東區(qū)機(jī)房系統(tǒng)體量較小,因此不需額外添加超融合節(jié)點(diǎn)。從存儲(chǔ)容量上看,除核心HIS數(shù)據(jù)庫和PACS系統(tǒng)外,其余系統(tǒng)數(shù)據(jù)量約為14TB,因此可選擇8個(gè)HX5510超融合節(jié)點(diǎn),96TB裸容量,整個(gè)集群可用容量為48TB(RF2),每增加一個(gè)節(jié)點(diǎn)相應(yīng)增加計(jì)算資源和存儲(chǔ)資源,不同類型的節(jié)點(diǎn)可以并存在同一集群。系統(tǒng)遷移至超融合平臺(tái)后的數(shù)據(jù)中心耗電量大幅下降,超融合集群每年的耗電量約為3萬度,每年將節(jié)省20多萬電費(fèi)。2.1.2中心機(jī)房超融
22、合虛擬化平臺(tái)建設(shè)超融合架構(gòu)在數(shù)據(jù)中心中承擔(dān)著計(jì)算資源池和分布式存儲(chǔ)資源池的作用,極大地簡化了數(shù)據(jù)中心的基礎(chǔ)架構(gòu),而且通過軟件定義的計(jì)算資源虛擬化和分布式存儲(chǔ)架構(gòu)實(shí)現(xiàn)無單點(diǎn)故障、無單點(diǎn)瓶頸、彈性擴(kuò)展、性能線性增長等能力;在虛擬化層可以自由選擇Hypervisor的品牌,包括VMware vSphere、MicroSoft Hyper-v和KVM;而且通過簡單、方便的管理界面,實(shí)現(xiàn)對數(shù)據(jù)中心基礎(chǔ)架構(gòu)層的計(jì)算、存儲(chǔ)、虛擬化等資源進(jìn)行統(tǒng)一的監(jiān)控、管理和運(yùn)維。超融合基礎(chǔ)架構(gòu)形成的計(jì)算資源池和存儲(chǔ)資源池直接可以被云計(jì)算平臺(tái)進(jìn)行調(diào)配,服務(wù)于OpenStack、Cloud Foundry、Docker、Had
23、oop等IAAS、PAAS平臺(tái),對上層的業(yè)務(wù)系統(tǒng)等進(jìn)行支撐。同時(shí),分布式存儲(chǔ)架構(gòu)簡化容災(zāi)方式,實(shí)現(xiàn)同城數(shù)據(jù)雙活和異地容災(zāi)。現(xiàn)有的超融合基礎(chǔ)架構(gòu)可以延伸到公有云,可以輕松將私有云業(yè)務(wù)遷到公有云服務(wù)。新的中心機(jī)房拓?fù)鋱D如下所示:圖3:超融合基礎(chǔ)架構(gòu)圖基于超融合技術(shù)搭建虛擬化集群,用于承載核心業(yè)務(wù)系統(tǒng)和支撐系統(tǒng)。方案超融合節(jié)點(diǎn)配置如下:Lenovo HX 5510超融合系統(tǒng),軟硬件一體出廠預(yù)裝,三年原廠服務(wù),每節(jié)點(diǎn)配置2顆 E5 2630 V4處理器,256 GB DDR4內(nèi)存,可擴(kuò)展到768GB,配置1塊64GB SSD作為虛擬化層安裝部署空間,2塊480GB SSD硬盤作為讀寫緩存及熱點(diǎn)數(shù)據(jù)存儲(chǔ)
24、空間,6塊2TB熱插拔硬盤,8個(gè)節(jié)點(diǎn)可用容量48TB(兩份副本存儲(chǔ)),12Gb SAS RAID卡,2塊雙端口萬兆光口,冗余電源;支持?jǐn)?shù)據(jù)本地化、熱點(diǎn)數(shù)據(jù)自動(dòng)分層、在線重刪、壓縮、快照、克隆、支持多種虛擬化平臺(tái)。通過軟件方式自動(dòng)將本計(jì)算存儲(chǔ)一體化服務(wù)器及其它計(jì)算存儲(chǔ)一體化服務(wù)器中的所有節(jié)點(diǎn)的本地磁盤空間整合成一個(gè)整體存儲(chǔ)空間提供給虛擬化軟件使用(實(shí)現(xiàn)傳統(tǒng)架構(gòu)中集中存儲(chǔ)的功能),單節(jié)點(diǎn)故障時(shí)不會(huì)影響整個(gè)存儲(chǔ)空間的使用且數(shù)據(jù)不會(huì)發(fā)生錯(cuò)誤或丟失。軟件自動(dòng)將經(jīng)常訪問的數(shù)據(jù)放在SSD磁盤上,而將不常用的數(shù)據(jù)放在SATA磁盤上,無需手工干預(yù);節(jié)點(diǎn)優(yōu)先使用本地SSD磁盤進(jìn)行IO吞吐,多數(shù)據(jù)副本:可以實(shí)現(xiàn)數(shù)據(jù)
25、保留2份甚至3份,充分保護(hù)數(shù)據(jù),當(dāng)發(fā)生硬件失效時(shí)不會(huì)影響數(shù)據(jù)正常訪問;不使用Raid技術(shù):不使用傳統(tǒng)的Raid技術(shù)保護(hù)數(shù)據(jù),避免由于磁盤故障導(dǎo)致整個(gè)Raid組性能降級,從而影響業(yè)務(wù)正常運(yùn)行。提供內(nèi)存、SSD、SATA不同性能層面的重復(fù)數(shù)據(jù)刪除功能,并且使用幾k到十幾k的粒度保證重復(fù)數(shù)據(jù)刪除的效率和效果。具備跨地域的遠(yuǎn)程數(shù)據(jù)容災(zāi)能力。支持同步、異步等多種容災(zāi)方式,在線集群伸縮,一鍵升級。超融合系統(tǒng)對網(wǎng)絡(luò)設(shè)備的要求:每個(gè)節(jié)點(diǎn)提供2個(gè)或4個(gè)萬兆以太網(wǎng)光纖接口,每節(jié)點(diǎn)同時(shí)標(biāo)配4個(gè)千兆以太網(wǎng)接口,后端萬兆和千兆網(wǎng)絡(luò)冗余配置,建議千兆網(wǎng)絡(luò)用于管理網(wǎng)絡(luò),網(wǎng)絡(luò)采用兩層架構(gòu),下圖為推薦的網(wǎng)絡(luò)拓?fù)鋱D:2.1.3超
26、融合虛擬化平臺(tái)實(shí)施規(guī)劃機(jī)柜冗余設(shè)計(jì)推薦將8個(gè)超融合節(jié)點(diǎn)分別部署到4個(gè)機(jī)柜中,每個(gè)機(jī)柜部署兩個(gè)節(jié)點(diǎn),最大化做到故障域的隔離。每個(gè)機(jī)柜雙路供電,實(shí)現(xiàn)真正的供電冗余。NTP時(shí)間服務(wù)對于虛擬化平臺(tái),時(shí)鐘同步是容易被忽略的一個(gè)問題,嚴(yán)重的可能會(huì)影響業(yè)務(wù)系統(tǒng)操作系統(tǒng)及數(shù)據(jù)層面的一致性,因此建議在此次項(xiàng)目中配置時(shí)鐘服務(wù)器,一般有兩種做法,第一種是在超融合系統(tǒng)或集群之外部署一套基于Redhat linux的NTP服務(wù)器,作為整個(gè)集群的時(shí)間源,第二種是部署單獨(dú)的NTP網(wǎng)絡(luò)服務(wù)器設(shè)備。命名規(guī)則創(chuàng)建數(shù)據(jù)中心,并在數(shù)據(jù)中心中創(chuàng)建文件夾,在文件夾中創(chuàng)建群集,將ESXi主機(jī)加入到群集中,在群集中根據(jù)應(yīng)用需求創(chuàng)建各種應(yīng)用池
27、,該應(yīng)用的虛擬機(jī)運(yùn)行在這個(gè)池中。數(shù)據(jù)中心命名規(guī)劃項(xiàng)目命名規(guī)則實(shí)例命名數(shù)據(jù)中心lcrm+ “-”+“內(nèi)容”lcrm-DataCenter文件夾qdrbs +“-”+“內(nèi)容”lcrm-“ ”集群“內(nèi)容”+“-”+“數(shù)字”HCI Cluster 1ESXiESXi+“數(shù)字”虛擬機(jī)“資源池名稱”+“-”+“虛擬機(jī)名稱”O(jiān)A - xxxvCenter中的數(shù)據(jù)中心架構(gòu)的規(guī)劃數(shù)據(jù)中心架構(gòu)以下可以劃分多個(gè)文件夾,文件夾可以包括多個(gè)群集,每個(gè)群集可以包括多臺(tái)虛擬化主機(jī),根據(jù)應(yīng)用的實(shí)際需求,來劃分資源池,每個(gè)資源池可以包括多個(gè)虛擬機(jī)。數(shù)據(jù)中心群集ESXi主機(jī)虛擬機(jī)備注Lcrm-DataCenterHCI-clus
28、ter1vCenterServeerVMware vCenter 可以將所有 VMware ESX 主機(jī)及其虛擬機(jī)組織到群集和資源池中,從而大大簡化了資源管理工作。群集是虛擬基礎(chǔ)架構(gòu)管理中的一個(gè)新概念,它不僅具有多個(gè)主機(jī)服務(wù)器的強(qiáng)大功能,還可以方便地管理單個(gè)實(shí)體。由多臺(tái)獨(dú)立主機(jī)聚合形成的群集將資源集中在一起,具有內(nèi)在的高可用性,可顯著降低管理工作的復(fù)雜性?,F(xiàn)在,虛擬機(jī)部署可從單個(gè) VMware ESX 主機(jī)擴(kuò)大到群集范圍,這樣虛擬機(jī)便可使用群集中的所有資源。vCenter 可以為虛擬機(jī)選擇最適合的主機(jī),并可以在情況發(fā)生變化時(shí)在群集內(nèi)部移動(dòng)虛擬機(jī)。根據(jù)VMware vSphere技術(shù)白皮書的建議
29、,由于本虛擬化服務(wù)器平臺(tái)vCenter Server監(jiān)控的主機(jī)的個(gè)數(shù)是三臺(tái),所以配置vCenter Server的規(guī)格如下。vCenter/SQL服務(wù)器規(guī)格虛擬機(jī)名稱vCPU內(nèi)存硬盤/存儲(chǔ)網(wǎng)卡vCenter Server4vCPU8GC:50G/(OS)1塊千兆網(wǎng)卡(VMnetwork1)VC-SQL4vCPU8GC:50G/(OS)D:100G/(數(shù)據(jù)庫)1塊千兆網(wǎng)卡(VMnetwork1)vCenter Server的安裝部署,需要安裝部署在windows Server 2008 R2的操作系統(tǒng)上,并且安裝部署VMware vCenter Server5.1和SQL Server 2008
30、 R2版本。vCenter/SQL服務(wù)器安裝虛擬機(jī)名稱服務(wù)器IP地址操作系統(tǒng)軟件主機(jī)名用戶名口令VC-SQLx.x.x.xwin 2008 R2 企業(yè)版Win SQL Server 2008 R2VC-SQLadministratorPsswordvCenter Serverx.x.x.xwin 2008 R2 企業(yè)版VMware vCenter Server5.1vCenteradministratorPssword用戶角色權(quán)限管理(可選)通過對管理員的角色分類,讓不同角色的管理員只賦予他們管理自己職責(zé)內(nèi)環(huán)境的權(quán)限。建議將虛擬平臺(tái)的管理員分為以下幾個(gè)等級:類別權(quán)限人員管理員為所有 vCent
31、er Server 用戶和 vSphere 環(huán)境中的所有虛擬對象添加、移除和設(shè)置訪問權(quán)限和特權(quán)用作青島報(bào)業(yè)傳媒集團(tuán)虛擬服務(wù)器系統(tǒng)總管理員虛擬機(jī)超級用戶允許用戶與虛擬機(jī)進(jìn)行交互、更改虛擬機(jī)硬件和執(zhí)行快照操作的一組特權(quán)。授予的特權(quán)包括:已調(diào)度任務(wù)特權(quán)組的所有特權(quán)。全局項(xiàng)目、數(shù)據(jù)存儲(chǔ)和虛擬機(jī)特權(quán)組的選定特權(quán)。沒有文件夾、數(shù)據(jù)中心、網(wǎng)絡(luò)、主機(jī)、資源、警報(bào)、會(huì)話、性能和權(quán)限特權(quán)組的特權(quán)。虛擬機(jī)用戶允許用戶與虛擬機(jī)的控制臺(tái)進(jìn)行交互、插入媒體和執(zhí)行電源操作的一組特權(quán)。不要授予允許更改虛擬機(jī)的虛擬硬件的特權(quán)。授予的特權(quán)包括:已調(diào)度任務(wù)特權(quán)組的所有特權(quán)。全局項(xiàng)目和虛擬機(jī)特權(quán)組的選定特權(quán)。沒有文件夾、數(shù)據(jù)中心、數(shù)
32、據(jù)存儲(chǔ)、網(wǎng)絡(luò)、主機(jī)、資源、警報(bào)、會(huì)話、性能和權(quán)限特權(quán)組的特權(quán)資源池管理員允許用戶創(chuàng)建子資源池、修改子資源池的配置但無法修改在其上授予了角色的池或群集的資源配置的一組特權(quán)。還允許用戶將權(quán)限授予子資源池并將虛擬機(jī)分配給父或子資源池。授予的特權(quán)包括:文件夾、虛擬機(jī)、警報(bào)和已調(diào)度任務(wù)特權(quán)組的所有特權(quán)。資源和權(quán)限特權(quán)組的選定特權(quán)。沒有數(shù)據(jù)中心、網(wǎng)絡(luò)、主機(jī)、會(huì)話或性能特權(quán)組的特權(quán)。必須在虛擬機(jī)和數(shù)據(jù)存儲(chǔ)上授予其他特權(quán)以允許置備新虛擬機(jī)數(shù)據(jù)存儲(chǔ)用戶允許用戶消耗數(shù)據(jù)存儲(chǔ)上的空間的一組特權(quán),數(shù)據(jù)存儲(chǔ)上授予了此角色。要執(zhí)行空間消耗操作(如創(chuàng)建虛擬磁盤或執(zhí)行快照),用戶還必須為這些操作授予適當(dāng)?shù)奶摂M機(jī)特權(quán)網(wǎng)絡(luò)用戶如
33、果同時(shí)也在虛擬機(jī)或主機(jī)上授予了分配的適當(dāng)權(quán)限,則將允許用戶將虛擬機(jī)或主機(jī)分配給網(wǎng)絡(luò)的一組特權(quán)ESXi主機(jī)命名規(guī)范esxi+“數(shù)字”.“域名”,如;ESXi主機(jī)的本地?cái)?shù)據(jù)存儲(chǔ)命名規(guī)范:esxi+“數(shù)字”+local,如esxi01local;ESXi主機(jī)用戶名口令:每臺(tái)虛擬主機(jī),在安裝vSphere的過程中都需要?jiǎng)?chuàng)建密碼,用戶名是root初始口令為:Pssword.虛擬化主機(jī)配置表以下是每臺(tái)虛擬化主機(jī)的配置信息,包括主機(jī)的名稱,根用戶名為root,口令Pssword,主機(jī)的服務(wù)編號(hào),物理機(jī)所屬的群集,本地磁盤的命名,物理服務(wù)器在機(jī)柜的位置;假設(shè)每臺(tái)主機(jī)有4個(gè)千兆網(wǎng)口,4個(gè)萬兆網(wǎng)口,八塊網(wǎng)卡命名為
34、vmnic0 vmnic1 vmnic2 vmnic3 vmnic4 vmnic5 vmnic6 vmnic7,并在這,八塊網(wǎng)卡組成的標(biāo)準(zhǔn)虛擬交換機(jī)上創(chuàng)建PortGroup:Management Network、VMnetwork、VMotion。項(xiàng)目內(nèi)容網(wǎng)段主機(jī)網(wǎng)卡備注主機(jī)名稱 密碼:Pssword服務(wù)器位置機(jī)柜1自下而上HX01服務(wù)編號(hào):所屬集群Server本地?cái)?shù)據(jù)存儲(chǔ)ESXi-01-LocalvSwithc0Management Networkx.x.x.xvmnic0vmnic1對應(yīng)交換機(jī)端口為Access模式vMotionx.x.x.xPrivate-Lanx.x.0 x.x.x.x
35、vSwithc1Private-Lanx.x.1x.x.x.xvmnic2vmnic3對應(yīng)交換機(jī)端口為Trunk模式Private-Lanx.x.4x.x.x.xPrivate-Lanx.x.6x.x.x.xPrivate-Lanx.x.12x.x.x.xPrivate-Lan10.10.21x.x.x.xPrivate-Lan10.10.24x.x.x.xvSwithc2Public-Lan-x.x.x.xx.x.x.xvmnic4vmnic5vSwithc3Public-Lan-x.x.x.xx.x.x.xvmnic6vmnic7物理主機(jī)網(wǎng)絡(luò)端口規(guī)劃物理主機(jī)的網(wǎng)絡(luò)端口實(shí)施情況如下:主機(jī)名管
36、理網(wǎng)絡(luò)Vmotion網(wǎng)絡(luò)業(yè)務(wù)網(wǎng)絡(luò)IP地址網(wǎng)絡(luò)端口IP地址網(wǎng)絡(luò)端口網(wǎng)絡(luò)端口虛擬機(jī)創(chuàng)建規(guī)劃虛擬機(jī)創(chuàng)建根據(jù)業(yè)務(wù)需求,合理分配資源:CPU數(shù)量滿足需求的前提下越少越好內(nèi)存可以根據(jù)需求自動(dòng)調(diào)整,建議設(shè)定預(yù)留值磁盤選擇Thin模式,集群可以掛載共享裸設(shè)備,但會(huì)影響快照功能網(wǎng)絡(luò)盡量選擇萬兆交換機(jī)接口每臺(tái)虛擬機(jī)都要安裝VMware tools。由于虛擬機(jī)數(shù)量多,為提供運(yùn)維的效率,建議醫(yī)院對所有虛擬機(jī)進(jìn)行統(tǒng)一管理,包括虛擬機(jī)名稱,CPU、內(nèi)存資源,磁盤容量,網(wǎng)絡(luò)標(biāo)簽等信息,建議如下:業(yè)務(wù)名VM名稱主機(jī)名稱CPU內(nèi)存磁盤網(wǎng)絡(luò)說明XX業(yè)務(wù)Ip地址-系統(tǒng)-業(yè)務(wù)名稱LCRM-HX-012*24GBx GBVlan x模
37、板配置根據(jù)業(yè)務(wù)系統(tǒng)所使用的操作系統(tǒng)版本,在虛擬化平臺(tái)中配置幾個(gè)常規(guī)典型模板配置,包括Windows、Linux等,實(shí)現(xiàn)虛擬機(jī)的快速部署。模板編號(hào)模板名稱操作系統(tǒng)密碼應(yīng)用程序數(shù)據(jù)副本數(shù)量選擇根據(jù)預(yù)先定義好的業(yè)務(wù)系統(tǒng)的關(guān)鍵級別,可以基于超融合系統(tǒng)continer級別實(shí)現(xiàn)可選兩副本或三副本的數(shù)據(jù)安全保護(hù)。2.1.4超融合架構(gòu)介紹超融合基礎(chǔ)架構(gòu)(Hyper-Converged Infrastructure,或簡稱“HCI”)是指在同一套單元設(shè)備中不僅僅具備計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)和服務(wù)器虛擬化等資源和技術(shù),而且還包括備份軟件、快照技術(shù)、重復(fù)數(shù)據(jù)刪除、在線數(shù)據(jù)壓縮等元素,而多套單元設(shè)備可以通過網(wǎng)絡(luò)聚合起來,實(shí)現(xiàn)
38、模塊化的無縫橫向擴(kuò)展(scale-out),形成統(tǒng)一的資源池。HCI是實(shí)現(xiàn)“軟件定義數(shù)據(jù)中心”的終極技術(shù)途徑。HCI類似Google、Facebook等互聯(lián)網(wǎng)數(shù)據(jù)中心的大規(guī)?;A(chǔ)架構(gòu)模式,可以為數(shù)據(jù)中心帶來最優(yōu)的效率、靈活性、規(guī)模、成本和數(shù)據(jù)保護(hù)。使用計(jì)算存儲(chǔ)超融合的一體化平臺(tái),替代了傳統(tǒng)的服務(wù)器加集中存儲(chǔ)的架構(gòu),使得整個(gè)架構(gòu)更清晰簡單。圖4:數(shù)據(jù)中心4.0新一代數(shù)據(jù)中心建設(shè)包含眾多信息化應(yīng)用的實(shí)施,與此相對應(yīng),機(jī)房服務(wù)器和存儲(chǔ)設(shè)備也必將大量使用,并且隨著后期應(yīng)用擴(kuò)充和服務(wù)擴(kuò)容,服務(wù)器和存儲(chǔ)設(shè)備的投入必然越來越龐大。一方面,管理硬件基礎(chǔ)設(shè)施的壓力和成本會(huì)不斷增大;另一方面,由于應(yīng)用的多樣性,服
39、務(wù)器和存儲(chǔ)難于有效整合,服務(wù)器的資源使用都遠(yuǎn)低于其實(shí)際的處理能力,計(jì)算能力和存儲(chǔ)容量難以充分利用。實(shí)施虛擬化/云計(jì)算數(shù)據(jù)中心,可以有效整合服務(wù)器及存儲(chǔ)資源,形成計(jì)算資源池,根據(jù)新一代數(shù)據(jù)中心各項(xiàng)應(yīng)用的實(shí)際需要?jiǎng)討B(tài)分配計(jì)算資源,最大效率的利用現(xiàn)有服務(wù)器及存儲(chǔ)設(shè)備,并對數(shù)據(jù)中心硬件設(shè)備進(jìn)行有效管理和監(jiān)控。超融合架構(gòu)在數(shù)據(jù)中心中承擔(dān)著計(jì)算資源池和分布式存儲(chǔ)資源池的作用,極大地簡化了數(shù)據(jù)中心的基礎(chǔ)架構(gòu),而且通過軟件定義的計(jì)算資源虛擬化和分布式存儲(chǔ)架構(gòu)實(shí)現(xiàn)無單點(diǎn)故障、無單點(diǎn)瓶頸、彈性擴(kuò)展、性能線性增長等能力;在虛擬化層可以自由選擇Hypervisor的品牌,包括VMware vSphere、MicroS
40、oft Hyper-v和KVM;而且通過簡單、方便的管理界面,實(shí)現(xiàn)對數(shù)據(jù)中心基礎(chǔ)架構(gòu)層的計(jì)算、存儲(chǔ)、虛擬化等資源進(jìn)行統(tǒng)一的監(jiān)控、管理和運(yùn)維。超融合基礎(chǔ)架構(gòu)形成的計(jì)算資源池和存儲(chǔ)資源池直接可以被云計(jì)算平臺(tái)進(jìn)行調(diào)配,服務(wù)于OpenStack、Cloud Foundry、Docker、Hadoop等IAAS、PAAS平臺(tái)。同時(shí),分布式存儲(chǔ)架構(gòu)簡化容災(zāi)方式,實(shí)現(xiàn)同城數(shù)據(jù)雙活和異地容災(zāi)?,F(xiàn)有的超融合基礎(chǔ)架構(gòu)可以延伸到公有云,可以輕松將私有云業(yè)務(wù)遷到公有云服務(wù)。圖5:超融合市場領(lǐng)導(dǎo)者計(jì)算資源層面:超融合系統(tǒng)的計(jì)算資源池是通過x86服務(wù)器虛擬化來實(shí)現(xiàn)的,可以支持VMware vSphere和Nutanix
41、Acropolis平臺(tái)提供的KVM等Hypervisor,如圖6。在虛擬化Hypervisor層形成計(jì)算資源池,為業(yè)務(wù)系統(tǒng)的虛擬機(jī)提供不同的服務(wù)質(zhì)量和能力,包括了高可用(High Availability)、容錯(cuò)(Fault Tolerant)、在線遷移(Live Migration/vMotion)、資源動(dòng)態(tài)負(fù)載均衡(Distributed Resource Scheduler)等虛擬化的特性。同時(shí)可以支持業(yè)務(wù)虛擬機(jī)在不同的Hypervisor之前進(jìn)行遷移,也就是V2V的能力,例如從vSphere遷移到KVM等。圖6:超融合架構(gòu)計(jì)算資源池(x86服務(wù)器虛擬化)存儲(chǔ)資源層面:超融合系統(tǒng)提供的分
42、布式文件系統(tǒng)(NDFS)可以將一組集群內(nèi)的節(jié)點(diǎn)組成一個(gè)統(tǒng)一的分布式存儲(chǔ)平臺(tái)。NDFS對于x86虛擬化平臺(tái)軟件而言就是一個(gè)集中的共享式存儲(chǔ),與任何其他集中式存儲(chǔ)陣列一樣工作,且提供更為簡單便捷的存儲(chǔ)管理,無需像傳統(tǒng)集中存儲(chǔ)那樣再配置LUN、卷、或者Raid組。圖7:分布式存儲(chǔ)架構(gòu)和功能超融合分布式存儲(chǔ)架構(gòu)不僅同樣提供傳統(tǒng)存儲(chǔ)的能力外,還提供更多的能力。針對于虛擬化方面提供快照、克隆等機(jī)制,數(shù)據(jù)層實(shí)現(xiàn)本地優(yōu)先訪問、存儲(chǔ)分層等性能機(jī)制,對數(shù)據(jù)進(jìn)行壓縮和去重提高存儲(chǔ)可用容量,借助兩份以上冗余數(shù)據(jù)提供存儲(chǔ)的可靠性,增加或減少節(jié)點(diǎn)數(shù)據(jù)分布會(huì)自動(dòng)平臺(tái),當(dāng)節(jié)點(diǎn)宕機(jī)或磁盤損壞后具備數(shù)據(jù)自恢復(fù)能力等。超融合系統(tǒng)H
43、X系列每個(gè)節(jié)點(diǎn)提供兩種磁盤,標(biāo)準(zhǔn)配置為2塊SSD,單盤容量分200GB、400GB;6塊SATA的HDD,容量為1TB、2TB 、4TB、6TB的HDD)。圖8 分布式存儲(chǔ)系統(tǒng)邏輯架構(gòu)NDFS被設(shè)計(jì)成為非常動(dòng)態(tài)的平臺(tái),可以適用于不同工作負(fù)載的應(yīng)用,并且允許混合節(jié)點(diǎn)類型:例如將計(jì)算密集型節(jié)點(diǎn)和存儲(chǔ)密集型節(jié)點(diǎn)混合在一個(gè)集群中。對于集群內(nèi)部磁盤容量大小不同的,確保數(shù)據(jù)一致的分布非常重要。NDFS有自帶的稱為磁盤平衡的技術(shù),用來確保數(shù)據(jù)一致的分布在集群內(nèi)部各節(jié)點(diǎn)上。磁盤平衡功能與各節(jié)點(diǎn)的本地磁盤利用率和內(nèi)置的NDFS ILM(數(shù)據(jù)生命周期管理)一同工作。它的目標(biāo)是使得所有節(jié)點(diǎn)的磁盤利用率大致相等。另外
44、,超融合節(jié)點(diǎn)通過ILM(信息生命周期管理)實(shí)現(xiàn)SSD和HDD的數(shù)據(jù)熱分層。簡單而言,磁盤的熱分層時(shí)實(shí)現(xiàn)在集群內(nèi)所有節(jié)點(diǎn)的SSD和HDD上,并且由ILM負(fù)責(zé)觸發(fā)數(shù)據(jù)在熱分層之間的遷移。本地節(jié)點(diǎn)的SSD在熱分層中是最高優(yōu)先級的,負(fù)責(zé)所有本地虛擬機(jī)IO的讀寫操作。并且還可以使用集群內(nèi)所有其他節(jié)點(diǎn)的SSD,因?yàn)镾SD層總是能提供最好的讀寫性能,并且在混合存儲(chǔ)環(huán)境中尤為重要。在超融合的虛擬化環(huán)境中,所有IO操作都將由本地節(jié)點(diǎn)上的Controler VM(CVM)接管,以提供極高的性能。據(jù)以往經(jīng)驗(yàn)及用戶習(xí)慣分析,一般運(yùn)行服務(wù)器虛擬化的虛擬機(jī)對IO性能要求在200-300 IOPS左右,而單個(gè)節(jié)點(diǎn)可提供25
45、000上的IOPS,3節(jié)點(diǎn)集群可提供將近75,000的IOPS。可以非常輕易的滿足醫(yī)院業(yè)務(wù)的需求。在計(jì)算虛擬化資源池中的每臺(tái)虛擬化Hypervisor節(jié)點(diǎn)上會(huì)運(yùn)行多臺(tái)虛擬機(jī),多臺(tái)虛擬機(jī)之間共享網(wǎng)絡(luò),為了方便管理建議采用虛擬交換機(jī)來配置和管理網(wǎng)絡(luò),虛擬交換機(jī)可在數(shù)據(jù)中心級別提供集中和聚合的虛擬網(wǎng)絡(luò),從而簡化并增強(qiáng)虛擬機(jī)網(wǎng)絡(luò)。在虛擬交換機(jī)的網(wǎng)絡(luò)劃分上,仍然可以采用VLAN的方式劃分不同的子網(wǎng),實(shí)現(xiàn)不同子網(wǎng)段的安全和隔離。在網(wǎng)絡(luò)隔離上,也可以采用網(wǎng)絡(luò)虛擬化VXLAN技術(shù)。VXLAN網(wǎng)絡(luò)協(xié)議,即VLAN協(xié)議的擴(kuò)展版本。VXLAN網(wǎng)絡(luò)可以跨越物理邊界,從而跨不連續(xù)的數(shù)據(jù)中心和集群來優(yōu)化計(jì)算資源利用率。V
46、XLAN采用邏輯網(wǎng)絡(luò)與物理拓?fù)湎嗷シ蛛x,使用IP的技術(shù),所以無需重新配置底層物理網(wǎng)絡(luò)設(shè)備即可擴(kuò)展VXLAN網(wǎng)絡(luò)。正因如此,也就無需再花費(fèi)大量時(shí)間來規(guī)劃如何調(diào)配VLAN及管理VLAN數(shù)量劇增問題。在每個(gè)Nutanix物理節(jié)點(diǎn)上有多種網(wǎng)絡(luò)需求,包括管內(nèi)部通訊網(wǎng)絡(luò)、管理網(wǎng)絡(luò)、生產(chǎn)網(wǎng)絡(luò)等,因此每個(gè)Nutanix節(jié)點(diǎn)建議配置2塊網(wǎng)卡,網(wǎng)絡(luò)設(shè)計(jì)建議如下:類型設(shè)計(jì)備注Nutanix物理節(jié)點(diǎn)之間的內(nèi)部通訊網(wǎng)絡(luò)10Gb以太網(wǎng)雙鏈路冗余每個(gè)節(jié)點(diǎn)通過兩條萬兆鏈路分別連接兩臺(tái)萬兆交換機(jī),保證網(wǎng)絡(luò)設(shè)備和鏈路的冗余度。建議用戶使用萬兆網(wǎng)絡(luò)互聯(lián)物理節(jié)點(diǎn),當(dāng)發(fā)生密集的寫IO時(shí),萬兆網(wǎng)絡(luò)能保證提供足夠帶寬滿足節(jié)點(diǎn)之間的IO同步
47、流量。客戶端與服務(wù)器虛擬機(jī)之間的通訊網(wǎng)絡(luò),虛擬化服務(wù)器對外服務(wù)網(wǎng)絡(luò)1Gb/10Gb以太網(wǎng),雙鏈路冗余每個(gè)節(jié)點(diǎn)通過兩條千/萬兆鏈路分別連接兩臺(tái)千/萬兆交換機(jī),保證網(wǎng)絡(luò)設(shè)備和鏈路的冗余度。用戶訪問虛擬服務(wù)器對外提供服務(wù)時(shí),通過千/萬兆鏈路可以實(shí)現(xiàn)與后端存儲(chǔ)流量隔離。硬件管理網(wǎng)絡(luò)(IPMI)1Gb以太網(wǎng)每個(gè)節(jié)點(diǎn)都有獨(dú)立的千兆鏈路,用于連接專門的管理網(wǎng)絡(luò),實(shí)現(xiàn)管理網(wǎng)絡(luò)與業(yè)務(wù)網(wǎng)絡(luò)、存儲(chǔ)網(wǎng)絡(luò)分離??梢宰畲笙薅缺WC管理的靈活性和安全性。2.1.5虛擬化軟件的選擇虛擬化Hypervisor層的類型選擇,基于生產(chǎn)環(huán)境和災(zāi)備環(huán)境劃分,生產(chǎn)環(huán)境建議采用Vmware vsphere商業(yè)化平臺(tái)軟件并購買原廠支持服務(wù),非
48、生產(chǎn)環(huán)境容災(zāi)環(huán)境,建議采用平臺(tái)標(biāo)配的免費(fèi)的AHV虛擬化軟件,具備高可用(High Availability)、在線遷移(Live Migration/vMotion)等常用虛擬化層特性。Vmware vsphere虛擬化軟件版本對比,目前vsphere保留了標(biāo)準(zhǔn)版、企業(yè)增強(qiáng)版和企業(yè)增強(qiáng)版帶Operations Management(監(jiān)控、容量規(guī)劃),主要區(qū)別在于分布式虛擬交換機(jī)支持、DRS動(dòng)態(tài)資源調(diào)度、Qos、跨Vcenter管理平臺(tái)和長距離虛擬機(jī)遷移,建議預(yù)算充足考慮企業(yè)增強(qiáng)版帶Operations Management(監(jiān)控、容量規(guī)劃)版本。以下為版本間區(qū)別:2.1.6虛擬化平臺(tái)虛擬機(jī)安全
49、虛擬化在資源利用率、高可用性、高擴(kuò)展性上有著諸多優(yōu)勢,實(shí)現(xiàn)虛擬化后,直觀的來看,是將多臺(tái)服務(wù)器集中到了一臺(tái)主機(jī)內(nèi),這一臺(tái)主機(jī)同時(shí)運(yùn)行了多個(gè)操作系統(tǒng),提供不同的應(yīng)用和服務(wù);系統(tǒng)管理員根據(jù)需要可以非常方便的添加新的應(yīng)用服務(wù)器;根據(jù)傳統(tǒng)的安全設(shè)計(jì)模型,需要在每個(gè)操作系統(tǒng)中安裝防毒軟件,在網(wǎng)絡(luò)層部署入防火墻、侵檢測或入侵防御系統(tǒng),但是在這種在傳統(tǒng)方式下合理的設(shè)計(jì),在虛擬環(huán)境下會(huì)面臨一些新的問題:未激活的虛擬機(jī),物理機(jī)下關(guān)閉計(jì)算機(jī)后CPU停止運(yùn)行,網(wǎng)絡(luò)關(guān)閉,理論上不會(huì)有數(shù)據(jù)的交互,操作系統(tǒng)也就不存在被感染的可能;但是在虛擬環(huán)境下,CPU,網(wǎng)絡(luò),底層的ESX都在工作中,關(guān)閉的操作系統(tǒng)類似于物理環(huán)境下的一個(gè)
50、應(yīng)用程序,盡管這個(gè)“應(yīng)用程序”沒有運(yùn)行,但仍然有被病毒感染的可能;資源的沖突,防毒軟件在啟用預(yù)設(shè)掃描后,當(dāng)?shù)搅酥付〞r(shí)間,會(huì)同時(shí)進(jìn)行文件掃描的動(dòng)作,這個(gè)時(shí)候防毒軟件對CPU和內(nèi)存的占用急劇增加,當(dāng)系統(tǒng)資源被耗盡的時(shí)候就會(huì)導(dǎo)致服務(wù)器down機(jī);管理復(fù)雜度,由于虛擬化的便利性,系統(tǒng)管理員可以非常方便的根據(jù)模板生成新的系統(tǒng),這些新系統(tǒng)要打補(bǔ)丁,進(jìn)行病毒代碼的更新,也會(huì)增加安全管理的復(fù)雜度;虛擬化環(huán)境的動(dòng)態(tài)特性面臨入侵檢測/防御系統(tǒng)(IDS/IPS)的新挑戰(zhàn)?;诰W(wǎng)絡(luò)的IDS/IPS,也無法監(jiān)測到同一臺(tái)ESX服務(wù)器上的虛擬機(jī)之間的通訊;由于虛擬機(jī)能夠迅速地恢復(fù)到之前的狀態(tài),利用VMware VMotio
51、n易于在物理服務(wù)器之間移動(dòng),所以難以獲得并維持整體一致的安全性。所以虛擬化已經(jīng)使“網(wǎng)絡(luò)邊界去除”的挑戰(zhàn)更加明顯,虛擬化對于安全的需求也更加迫切。VMware VShield Endpoint 程序使我們能夠部署專用安全虛擬機(jī)以及經(jīng)特別授權(quán)訪問管理程序的API。這使得創(chuàng)建獨(dú)特的安全控制虛擬機(jī)成為可能,如在Gartner的報(bào)告中所述,安全虛擬機(jī)技術(shù)在虛擬化的世界中從根本上改變安全和管理的概念。這種安全虛擬機(jī)是一種在虛擬環(huán)境中實(shí)現(xiàn)安全控制的新型方法。安全虛擬機(jī)利用API來訪問關(guān)于每一虛擬機(jī)的特權(quán)狀態(tài)信息,包括其內(nèi)存、狀態(tài)和網(wǎng)絡(luò)通信流量等。因?yàn)樵诓桓奶摂M網(wǎng)絡(luò)配置的情況下,服務(wù)器內(nèi)部的全部網(wǎng)絡(luò)通信流量
52、是可見的。 包括防病毒、防火墻、IDS/IPS 和系統(tǒng)完整性監(jiān)控等在內(nèi)的安全功能均可以應(yīng)用于安全虛擬機(jī)中。Deep Security產(chǎn)品由三部分組成,管理控制平臺(tái)(以下簡稱DSM);安全虛擬機(jī)(以下簡稱DSVA);安全代理程序(以下簡稱DSA)。趨勢科技Deep Security安全防護(hù)系統(tǒng)管理控制中心(DSM),是管理員用來配置及管理安全策略的集中式管理組件,所有的DSVA及DSA都會(huì)注冊到DSM,接受統(tǒng)一的管理。 趨勢科技Deep Security安全防護(hù)系統(tǒng)安全虛擬機(jī)(DSVA)是針對 VMware vSphere 環(huán)境構(gòu)建的安全虛擬計(jì)算機(jī),可提供防惡意軟件、IDS/IPS、防火墻、We
53、b 應(yīng)用程序防護(hù)和應(yīng)用程序控制防護(hù),數(shù)據(jù)完整性監(jiān)控等安全功能。 趨勢科技Deep Security安全防護(hù)系統(tǒng)安全代理程序(DSA)是安全客戶端,直接部署在操作系統(tǒng)中,可提供 IDS/IPS、防火墻、Web 應(yīng)用程序防護(hù)、應(yīng)用程序控制、完整性監(jiān)控和日志審查防護(hù)等安全功能。 Deep Security通過vshield endpoint提供的實(shí)時(shí)掃描、預(yù)設(shè)掃描、清除修復(fù)等數(shù)據(jù)接口,對虛擬機(jī)中的數(shù)據(jù)進(jìn)行病毒代碼的掃描和判斷,并結(jié)合防火墻、IDS策略實(shí)時(shí)對進(jìn)出虛擬機(jī)的數(shù)據(jù)進(jìn)行安全過濾;在管理上需要vshield manager和vcenter的支持。趨勢科技Deep Security系統(tǒng)提供了對數(shù)據(jù)
54、中心(范圍遍及虛擬桌面到物理、虛擬或云服務(wù)器)的高級保護(hù),包括: 防惡意軟件 防火墻入侵檢測和阻止 (IDS/IPS) Web 應(yīng)用程序防護(hù) 應(yīng)用程序控制 完整性監(jiān)控 日志審計(jì)VMware 虛擬機(jī)的惡意軟件防護(hù) 防惡意軟件模塊可提供趨勢科技防惡意軟件防護(hù),包括實(shí)時(shí)掃描、預(yù)設(shè)掃描及手動(dòng)掃描功能,處理措施包含清除、刪除、拒絕訪問或隔離惡意軟件。檢測到惡意軟件時(shí),可以生成警報(bào)日志。 入侵檢測和阻止 (IDS/IPS)、Web 應(yīng)用程序防護(hù)和應(yīng)用程序控制 DPI 規(guī)則通過保護(hù)漏洞不受已知和未知攻擊來提供入侵檢測和阻止 (IDS/IPS) 防護(hù)。此類防護(hù)也稱為虛擬補(bǔ)丁,實(shí)現(xiàn)方式是每個(gè)規(guī)則定義預(yù)期的應(yīng)用程
55、序數(shù)據(jù)并根據(jù)其內(nèi)容阻止惡意數(shù)據(jù)。 此外,DPI 規(guī)則通過一組 Web 應(yīng)用程序防護(hù)規(guī)則來保護(hù) Web 應(yīng)用程序中的漏洞(如跨站點(diǎn)腳本 (XSS) 和 SQL 注入)。 通過檢測已知的應(yīng)用程序流量(在企業(yè)環(huán)境中可能需要限制),DPI 規(guī)則還可以用于向計(jì)算機(jī)提供應(yīng)用程序控制。 持續(xù)的趨勢科技Deep Security系統(tǒng)規(guī)則更新會(huì)自動(dòng)提供最新的全面防護(hù),以抵御已知和未知攻擊。 防火墻規(guī)則 完善的雙向狀態(tài)防火墻為所有網(wǎng)絡(luò)通訊協(xié)議(包括 TCP、UDP 和 ICMP)提供全面支持。防火墻規(guī)則是完全可配置的,以每個(gè)網(wǎng)絡(luò)接口為基礎(chǔ)允許或拒絕網(wǎng)絡(luò)通信,以及限制對允許的 IP 或 MAC 地址的通信。 完整性
56、監(jiān)控規(guī)則 通過完整性監(jiān)控防護(hù)模塊,趨勢科技Deep Security系統(tǒng)可以掃描和檢測計(jì)算機(jī)系統(tǒng)文件、目錄、注冊表項(xiàng)和注冊表值以及已安裝軟件和運(yùn)行的服務(wù)中發(fā)生的更改。系統(tǒng)會(huì)將這些更改作為事件記錄在管理中心中,并且可以對其進(jìn)行配置,以生成警報(bào)。日志審計(jì)規(guī)則 通過集成 OSSEC,趨勢科技Deep Security系統(tǒng)可以審查由操作系統(tǒng)和應(yīng)用程序生成的日志事件。日志審計(jì)事件保存在管理中心中,可以對其進(jìn)行配置,以生成警報(bào)。此部分只給出建議,實(shí)際授權(quán)按照處理器數(shù)量收費(fèi)。2.1.7 業(yè)務(wù)系統(tǒng)遷移方法將現(xiàn)有生產(chǎn)系統(tǒng)利用Vmware Converter工具遷移到vSphere虛擬化平臺(tái)上,保證業(yè)務(wù)的正常運(yùn)行
57、?,F(xiàn)有生產(chǎn)環(huán)境中Windows Server 2000,需使用Converter4.0遷移工具進(jìn)行遷移。此外,生產(chǎn)環(huán)境中以2003、2008系統(tǒng)居多,使用Converter5.1遷移工具進(jìn)行遷移??梢詫?shí)現(xiàn)在線遷移服務(wù)器到虛擬機(jī)(P2V),根據(jù)用戶數(shù)據(jù)遷移前后的存儲(chǔ)位置不同,可以采用不同的數(shù)據(jù)遷移方案來進(jìn)行數(shù)據(jù)遷移:具體采用哪一種還需要到實(shí)際現(xiàn)場實(shí)際考察和確認(rèn)。以下是對具體情況的分析:源服務(wù)器數(shù)據(jù)存放在本地,計(jì)劃遷移到虛擬機(jī)上可以實(shí)現(xiàn)在線遷移,遷移的需要網(wǎng)絡(luò)防火墻開通相關(guān)端口,遷移的時(shí)間取決于服務(wù)器數(shù)據(jù)量大小和網(wǎng)絡(luò)的速度。源服務(wù)器數(shù)據(jù)存放在共享磁盤柜上,計(jì)劃遷移到虛擬機(jī)上可以實(shí)現(xiàn)在線遷移,遷移的
58、需要網(wǎng)絡(luò)防火墻開通相關(guān)端口。一般情況下,共享存儲(chǔ)上的數(shù)據(jù)量會(huì)非常大,所以這種應(yīng)用遷移時(shí)間會(huì)比較長。源服務(wù)器數(shù)據(jù)以Raw方式存放在共享磁盤柜,計(jì)劃仍保留在磁盤柜不可以實(shí)現(xiàn)在線遷移,需要用戶備份數(shù)據(jù)。重新搭建環(huán)境,把磁盤柜Raw掛載到虛擬機(jī)上,然后進(jìn)行數(shù)據(jù)恢復(fù)。源服務(wù)器數(shù)據(jù)以文件系統(tǒng)方式存放在共享磁盤柜,計(jì)劃仍保留在磁盤柜不可以實(shí)現(xiàn)在線遷移,需要用戶備份數(shù)據(jù)。重新搭建環(huán)境,把磁盤柜相應(yīng)的分區(qū)掛載到虛擬機(jī)上,格式化成相關(guān)的文件系統(tǒng),然后進(jìn)行數(shù)據(jù)恢復(fù)。根據(jù)不同的數(shù)據(jù)遷移的方案,數(shù)據(jù)遷移的步驟如下:在線遷移的步驟備份被遷移的服務(wù)器數(shù)據(jù)安裝一臺(tái)Convert服務(wù)器和客戶端;調(diào)整網(wǎng)絡(luò)防火墻設(shè)置滿足遷移需求;
59、啟動(dòng)運(yùn)行Convert應(yīng)用程序,根據(jù)向?qū)ч_始遷移指定服務(wù)器;遷移完成后,測試驗(yàn)證新生成的虛擬機(jī)可用。離線遷移的步驟備份被遷移的服務(wù)器數(shù)據(jù);根據(jù)需求創(chuàng)建虛擬機(jī);配置虛擬機(jī)的網(wǎng)絡(luò)、主機(jī)名稱等;在虛擬機(jī)安裝應(yīng)用程序;恢復(fù)應(yīng)用程序數(shù)據(jù);啟動(dòng)應(yīng)用程序服務(wù);測試驗(yàn)證新搭建的虛擬機(jī)可用。數(shù)據(jù)遷移的風(fēng)險(xiǎn)評估數(shù)據(jù)遷移之前需要用戶做好數(shù)據(jù)備份。在線遷移過程不會(huì)破壞源數(shù)據(jù)庫服務(wù)器的任何數(shù)據(jù),即使遷移失敗,源數(shù)據(jù)庫服務(wù)器仍然可以繼續(xù)提供服務(wù),故數(shù)據(jù)遷移沒有風(fēng)險(xiǎn)。遷移前準(zhǔn)備:操作系統(tǒng)版本系統(tǒng)盤數(shù)量及大小業(yè)務(wù)信息統(tǒng)計(jì)處所網(wǎng)絡(luò)環(huán)境的帶寬停機(jī)窗口時(shí)間遷移回退方案:無論是P2V、V2V或者是VMware平臺(tái)自帶的vMtion功
60、能,理論上,遷移都不會(huì)破壞源端虛擬機(jī),如發(fā)生遷移失敗或者遷移過去后業(yè)務(wù)不可用,可直接啟用源端虛擬機(jī)繼續(xù)提供業(yè)務(wù),待查明原因后,繼續(xù)遷移。2.1.8 系統(tǒng)培訓(xùn)及知識(shí)轉(zhuǎn)移對本項(xiàng)目中的培訓(xùn)任務(wù)給予高度重視,首先選擇具有豐富工作實(shí)踐和教學(xué)經(jīng)驗(yàn)的技術(shù)人員擔(dān)任教師;其次認(rèn)真編寫有關(guān)培訓(xùn)教材,充分保證培訓(xùn)課程的實(shí)用性,使客戶的技術(shù)人員在最短的時(shí)間內(nèi)獲得最有效的系統(tǒng)知識(shí);另外,合理組織培訓(xùn)方式,結(jié)合不同教學(xué)形式,使得培訓(xùn)效果達(dá)到最佳。在培訓(xùn)工作完成之后,學(xué)員將具備以下能力:服務(wù)器虛擬化產(chǎn)品的整體結(jié)構(gòu)、設(shè)計(jì)思路、所用技術(shù)具有全面的了解掌握系統(tǒng)中涉及的各種功能模塊件的用途、使用、維護(hù)方法掌握系統(tǒng)中涉及的軟件安裝、
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 基因編輯技術(shù)在抗細(xì)菌感染中的應(yīng)用-全面剖析
- 信用評價(jià)技術(shù)應(yīng)用-全面剖析
- 代碼可視化與編輯-全面剖析
- 排序算法在圖像處理中的應(yīng)用-全面剖析
- 內(nèi)存安全語言研究-全面剖析
- 2025年固態(tài)、半固態(tài)食品無菌包裝設(shè)備項(xiàng)目發(fā)展計(jì)劃
- 數(shù)字醫(yī)療數(shù)據(jù)安全策略研究-全面剖析
- 健康管理服務(wù)平臺(tái)建設(shè)計(jì)劃
- 供應(yīng)鏈安全信息化策略-全面剖析
- IT項(xiàng)目投標(biāo)管理流程
- 化療藥物溢出處理
- 2024中央戲劇學(xué)院教師招聘考試筆試試題
- 2024年心理咨詢師考試題庫及參考答案(考試直接用)
- 教科版科學(xué)五年級下冊第一單元《生物與環(huán)境》測試卷【預(yù)熱題】
- 皮骨牽引病人護(hù)理課件
- 手術(shù)中低溫燙傷的情況
- Q/GDW 156-2006 城市電力網(wǎng)規(guī)劃設(shè)計(jì)導(dǎo)則
- (分層作業(yè))全冊部編版六年級語文下冊
- 2024年福建省2024屆高三3月省質(zhì)檢(高中畢業(yè)班適應(yīng)性練習(xí)卷)英語試卷(含答案)
- 阿苯達(dá)唑合成工藝
- 人教版四年級上冊豎式計(jì)算200題及答案
評論
0/150
提交評論