SVC存儲(chǔ)虛擬化技術(shù)方案及應(yīng)用

1、 SVC 存儲(chǔ)虛擬化技術(shù)方案及應(yīng)用 目 錄1 為何需要存儲(chǔ)虛擬化？2 什么是 SAN 存儲(chǔ)虛擬化？3 存儲(chǔ)虛擬化的價(jià)值4 SAN 虛擬化平臺(tái)-IBM SVC4.1 SVC 硬件架構(gòu)4.2 SVC SAN 組網(wǎng)架構(gòu)4.3 SVC 邏輯架構(gòu)4.4 SVC cache5 SVC 存儲(chǔ)虛擬化應(yīng)用示例5.1 應(yīng)用示例 1: 形成統(tǒng)一的存儲(chǔ)虛擬化環(huán)境5.2 應(yīng)用示例 2:快照/clone 技術(shù)5.3 應(yīng)用示例 3:數(shù)據(jù)保護(hù)和卷的在線遷移5.3.1 首先介紹一下 SVC 卷 (volume) 的類型 :5.3.2 應(yīng)用示例 3.1: 跨存儲(chǔ)的數(shù)據(jù)遷移和替換5.3.3 應(yīng)用示例 3.2: 存儲(chǔ)加入 SVC 虛

2、擬化網(wǎng)關(guān)5.3.4 應(yīng)用示例 3.3: 通過(guò) SVC 進(jìn)行異構(gòu)存儲(chǔ)間的數(shù)據(jù)遷移5.4 應(yīng)用示例 4:存儲(chǔ)虛擬化的擴(kuò)展性1 為何需要存儲(chǔ)虛擬化數(shù)據(jù)的海量增長(zhǎng)，存儲(chǔ)設(shè)備數(shù)量每年都在急增。超過(guò)百套不同品牌（HDS、EMC、IBM、HP、NETAPP、HuaWei）和不同型號(hào)。中、高端 SAN 存儲(chǔ)組成了“萬(wàn)國(guó)牌”。特別是非核心生產(chǎn)的存儲(chǔ)數(shù)量和品牌都增加，可存儲(chǔ)運(yùn)維人員還是那幾桿槍，運(yùn)維“萬(wàn)國(guó)牌”存儲(chǔ)，需要存儲(chǔ)管理員同事熟練掌握HDS,EMC,IBM,HP,NETAPP,HuaWei 等中、高端存儲(chǔ)日常操作，要都精通幾乎成了不可能任務(wù)。存在大量空間容量只有幾十 TB 的中端小存儲(chǔ)。缺乏統(tǒng)一的管理平臺(tái)頁(yè)

3、面，在不同存儲(chǔ)間登錄切換的耗時(shí)耗力就讓人懊惱不已。更重要的是單個(gè)存儲(chǔ)容量盤(pán)子小，存儲(chǔ)使用率不敢用的太高，導(dǎo)致 used%使用率一直比大容量存儲(chǔ)的 used%低不少。累計(jì)加起來(lái)空間浪費(fèi)情況十分嚴(yán)重。各個(gè)品牌型號(hào)存儲(chǔ)復(fù)制方案相互間無(wú)法兼容，每次都要針對(duì)新型號(hào)的存儲(chǔ)重新開(kāi)發(fā)一套完整的存儲(chǔ)復(fù)制(copy services)自動(dòng)化腳本，用來(lái)創(chuàng)建測(cè)試、開(kāi)發(fā)、生產(chǎn)報(bào)表 DB，和進(jìn)行數(shù)據(jù)備份。還要同時(shí)維護(hù)多套存儲(chǔ)復(fù)制方案，耗時(shí)耗力,累到吐血。每年有超過(guò) 1/3 工作量用在數(shù)據(jù)遷移和存儲(chǔ)過(guò)保替換上。存儲(chǔ)虛擬化前主要采用主機(jī)端卷組管理軟件數(shù)據(jù)遷移方案，無(wú)法真正意義上做到 online 替換。存儲(chǔ)虛擬化主要為解決以

4、下個(gè)問(wèn)題:1. 企業(yè)級(jí)存儲(chǔ)復(fù)制方案(copy services)選型和平臺(tái)統(tǒng)一。消除不同品牌型號(hào)存儲(chǔ)間無(wú)法進(jìn)行快照、clone、數(shù)據(jù)復(fù)制遷移、容災(zāi)復(fù)制等限制。2. 存儲(chǔ)資源整合和平臺(tái)統(tǒng)一管理。將一個(gè)個(gè)“孤島“存儲(chǔ)打通連接，在虛擬化的技術(shù)下讓這些”孤島“組成一個(gè)大的資源池，對(duì)外提供存儲(chǔ)服務(wù)。減小人員管理運(yùn)維”萬(wàn)國(guó)牌“存儲(chǔ)的運(yùn)營(yíng)成本，通過(guò)統(tǒng)一的管理平臺(tái)大幅提升運(yùn)維效率。3. 便于不同品牌型號(hào)存儲(chǔ)間的頻繁數(shù)據(jù)遷移和存儲(chǔ)過(guò)保替換。找尋一種在存儲(chǔ)端就能實(shí)現(xiàn) online 數(shù)據(jù)遷移并讓主機(jī)和應(yīng)用無(wú)感知的存儲(chǔ)遷移解決方案。4. 業(yè)務(wù)快速響應(yīng)的需求,特別是非核心生產(chǎn)環(huán)境的大量存儲(chǔ)服務(wù)交付壓力。2 什么是 SA

5、N 存儲(chǔ)虛擬化？什么是虛擬化？虛擬化不受限于物理設(shè)備界定及限制的邏輯資源表示 在單獨(dú)物理設(shè)備中創(chuàng)建更多的虛擬資源 超越單獨(dú)物理設(shè)備界限整合眾多的物理及虛擬資源統(tǒng)一管理 活動(dòng)動(dòng)態(tài)變更及調(diào)整信息基礎(chǔ)架構(gòu)如何存儲(chǔ)虛擬化？ 在物理存儲(chǔ)系統(tǒng)和服務(wù)器之間增加一個(gè)虛擬層，它管理和控制所有存儲(chǔ)并對(duì)服務(wù)器提供存儲(chǔ)服務(wù)。 服務(wù)器不直接與存儲(chǔ)硬件打交道，存儲(chǔ)硬件的增減、調(diào)換、分拆、合并對(duì)服務(wù)器層完全透明。 -隱藏了復(fù)雜程度 -允許將現(xiàn)有的功能集成使用 -擺脫了物理容量的局限塊存儲(chǔ)虛擬化模型(Block-level virtualization overview):說(shuō)明:Disk Subsystem 即單個(gè)獨(dú)立的磁盤(pán)

6、系統(tǒng)，比如傳統(tǒng) SAN 存儲(chǔ)陣列。Disk Subsystem 分盤(pán)/空間給虛擬化網(wǎng)關(guān)形成 Physical Disk (LUN/Mdisk)。虛擬化網(wǎng)關(guān)將 Physical Disk (LUN/Mdisk) 格式化后創(chuàng)建 虛擬存儲(chǔ)池(POOL)。并生成邏輯卷(Logical volume)map 給主機(jī)使用。SVC 的存儲(chǔ)虛擬化方案即是(A block-level virtualization solution)。3 存儲(chǔ)虛擬化的價(jià)值根據(jù)多年來(lái)我司 SAN 存儲(chǔ)虛擬化經(jīng)驗(yàn)，總結(jié)如下幾條存儲(chǔ)虛擬化帶來(lái)的好處:4 SAN 虛擬化平臺(tái) - IBM SVC4.1 SVC 硬件架構(gòu)NODE: SVC

7、節(jié)點(diǎn)下圖中包含 2 個(gè) SVC controller 也叫 SVC node 。是定制化的 X86 服務(wù)器。Node 詳細(xì)英文解釋如下:Each SVC hardware unit is called a node. The node provides the virtualization for a set of volumes, cache, and copy services functions. The SVC nodes are deployed in pairs (cluster) and multiple pairs make up a clustered system or s

8、ystem. A system can consist of 1 - 4 SVC node pairs. Because the nodes are installed in pairs, each node provides a failover function to its partner node if a node fails.I/O group: SVC 節(jié)點(diǎn)組，由 2 個(gè)節(jié)點(diǎn)組成，雙活架構(gòu)同時(shí)互為主備。I/O group 詳細(xì)英文解釋如下:Each pair of SVC nodes is also referred to as an I/O Group. An SVC clus

9、tered system can have 1 - 4 I/O Groups.A specific volume is always presented to a host server by a single I/O Group of the system.The I/O Group can be changed.Cluster/System: SVC 集群，由 2-8 個(gè)節(jié)點(diǎn)組成。Cluster/System 詳細(xì)英文解釋如下:The system or clustered system consists of 1 - 4 I/O Groups. Certain configuration

10、 limitations are then set for the individual system. All configuration, monitoring, and service tasks are performed at the system level.Configuration settings are replicated to all nodes in the system. To facilitate these tasks, a management IP address is set for the system.一個(gè)滿配的 SVC 集群 I/O group 和

11、node 關(guān)系圖4.2 SVC SAN 組網(wǎng)架構(gòu)說(shuō)明:Disk Subsystem 即單個(gè)獨(dú)立的磁盤(pán)系統(tǒng)，比如傳統(tǒng) SAN 存儲(chǔ)陣列。Storage Zones: SVC 硬件和后端存儲(chǔ)(Disk Subsystem) 間聯(lián)通的 zone 。Host Zones: SVC 和前端主機(jī)間聯(lián)通的 zone。通過(guò) Storage zone 和 host zone 達(dá)到前端和后端 SAN 流量隔離的目的。4.3 SVC 邏輯架構(gòu)說(shuō)明:Disk Subsystem 即單個(gè)獨(dú)立的磁盤(pán)系統(tǒng)，比如傳統(tǒng) SAN 存儲(chǔ)陣列,可以是不同品牌不同型號(hào)的存儲(chǔ)。Disk Subsystem 分盤(pán)/空間給虛擬化網(wǎng)關(guān)SVC

12、Clustered Systems 形成 MD (Manage disk)。SVC 通過(guò) MD 創(chuàng)建虛擬化存儲(chǔ)池 POOL。單個(gè) POOL 里面可以包含不同 Disk Subsystem 的 MD。在 POOL 的基礎(chǔ)上，SVC 存儲(chǔ)虛擬化層創(chuàng)建卷(volume)并通過(guò) I/O group map 給主機(jī)使用: 注意一個(gè) volume 只能被一個(gè) I/O group 進(jìn)行管理，這個(gè) I/O group 是這個(gè) volume 的 owner I/O group。 主機(jī) IO 訪問(wèn) SVC volume 也是通過(guò) I/O group 進(jìn)行。每個(gè) I/O group 由 2 個(gè) SVC node （

13、X86 服務(wù)器）組成,這 2 個(gè) node 是雙活架構(gòu)同時(shí)互為備份。4.4 SVC cache說(shuō)明:1. 主機(jī)端發(fā)起寫(xiě) IO2. SVC node1 cache 接收到寫(xiě) IO，并將該 IO mirror 到 SVC-node2 cache3. IO 在 SVC-node 2 cache mirror 完成后，SVC 回復(fù)(act) 主機(jī)寫(xiě)操作完成。4. 數(shù)據(jù)由 cache 落盤(pán)到 SVC 存儲(chǔ)存儲(chǔ)。(正常情況下一個(gè)卷 volume 只有有個(gè) copy,對(duì)卷做 mirror 后產(chǎn)生 copy-2)5 SVC 存儲(chǔ)虛擬化應(yīng)用示例5.1 應(yīng)用示例 1: 形成統(tǒng)一的存儲(chǔ)虛擬化環(huán)境將一個(gè)個(gè)”孤島”存儲(chǔ)

14、設(shè)備連接打通，不同品牌和型號(hào)的 SAN 存儲(chǔ)陣列統(tǒng)一接入 SVC 虛擬化網(wǎng)關(guān)，作為 SVC 的”硬盤(pán)”。在虛擬化的技術(shù)下讓這些”孤島“存儲(chǔ)組成一個(gè)個(gè)大的資源池，對(duì)外提供存儲(chǔ)服務(wù)。有效提升整體環(huán)境中存儲(chǔ)容量的利用率。減小人員管理運(yùn)維”萬(wàn)國(guó)牌”存儲(chǔ)的運(yùn)營(yíng)成本，通過(guò)統(tǒng)一的管理平臺(tái)大幅提升運(yùn)維效率。5.2 應(yīng)用示例 2:快照/clone 技術(shù)通過(guò) SVC 存儲(chǔ)虛擬化層對(duì)外提供統(tǒng)一的數(shù)據(jù)復(fù)制(Enterprise-level Copy Services functions )功能：比如數(shù)據(jù)鏡像(mirror),快照(flashcopy),克隆(clone),容災(zāi)復(fù)制等。(不再需要為這些存儲(chǔ)單獨(dú)購(gòu)軟件功能

15、的 license。)存儲(chǔ)虛擬化需求數(shù)據(jù)復(fù)制說(shuō)明:通過(guò) SVC 存儲(chǔ)虛擬化對(duì)應(yīng)用提供統(tǒng)一的存儲(chǔ)數(shù)據(jù)復(fù)制(Enterprise-level Copy Services functions )服務(wù): 通過(guò) SVC flashcopy 快照功能，對(duì) DB 數(shù)據(jù)庫(kù)應(yīng)用進(jìn)行整體快照復(fù)制，創(chuàng)建每日刷新生產(chǎn)報(bào)表數(shù)據(jù)庫(kù)(每日大數(shù)據(jù)分析)。 通過(guò) SVC flashcopy 快照功能，對(duì) DB 數(shù)據(jù)庫(kù)應(yīng)用進(jìn)行整體快照復(fù)制，創(chuàng)建部署(新版本發(fā)布驗(yàn)證)數(shù)據(jù)庫(kù)(100%保證部署環(huán)境和生產(chǎn)環(huán)境一致)。 通過(guò) SVC 克隆(clone)卷技術(shù)，創(chuàng)建開(kāi)發(fā)、測(cè)試數(shù)據(jù)庫(kù)應(yīng)用，并支持按需求隨時(shí)刷新開(kāi)發(fā)、測(cè)試數(shù)據(jù)庫(kù)和生產(chǎn)保持一致。

16、注：這里就不過(guò)多介紹容災(zāi)復(fù)制方案 Metric mirror 和 Global mirror 的示例了，因本人認(rèn)為這個(gè)不是存儲(chǔ)虛擬化的優(yōu)勢(shì)所在。說(shuō)明: SVC 快照技術(shù)為 COW(copy-on-write)。5.3 應(yīng)用示例 3:數(shù)據(jù)保護(hù)和卷的在線遷移5.3.1 首先介紹一下 SVC 卷(volume)的類型:SVC 的卷(volume) map 給主機(jī)后，在主機(jī)端就看到一個(gè)個(gè)硬盤(pán)了。 Striped volume 普通條帶卷:后端存儲(chǔ)分 LUN map 給 SVC，SVC 識(shí)別到這些 LUN 后將其命名為 Mdisk(manage disk)。多個(gè) Mdisk 組成資源池 POOL。在資源

17、池里面創(chuàng)建跨多個(gè) Mdisk 的 striped volume。 Image volume 鏡像卷:后端存儲(chǔ)分 LUN map 給 SVC，SVC 識(shí)別到這些 LUN 后將其命名為 Mdisk(manage disk)。此時(shí)不將該 Mdisk 加入資源池 POOL。而是通過(guò)將這一整個(gè) Mdisk 直接做一個(gè)整卷 map 給主機(jī)使用。該模式下后端存儲(chǔ)可以收回該 LUN 對(duì) SVC 的 map 關(guān)系，之后直接將此 LUN map 給主機(jī)使用，其上數(shù)據(jù)直接可以用。感覺(jué)就像是數(shù)據(jù)盤(pán)從 SVC 直接 image 復(fù)制到后端存儲(chǔ)一樣。Image mode 的英文解釋:Image mode volumes

18、are used to migrate LUNs that were previously mapped directly to hostservers over to the control of the SVC. Image mode provides a one-to-one mapping betweenthe logical block addresses (LBAs) between a volume and an MDisk. Image mode volumeshave a minimum size of one block (512 bytes) and always occ

19、upy at least one extent.An image mode MDisk is mapped to one, and only one, image mode volume.The SVC also supports the reverse process, in which a managed mode volume can bemigrated to an image mode volume. If a volume is migrated to another MDisk, it isrepresented as being in managed mode during t

20、he migration, and is only represented as animage mode volume after it reaches the state where it is a straight-through mapping. Mirrored volumes: 即對(duì)該 volume 做了一份實(shí)時(shí)的數(shù)據(jù)鏡像 mirror。一般情況下會(huì)將鏡像 copy 放在在另外一臺(tái)存儲(chǔ)所在的存儲(chǔ)池。5.3.2 應(yīng)用示例 3.1:跨存儲(chǔ)的數(shù)據(jù)遷移和替換數(shù)據(jù)遷移場(chǎng)景 1:舊的 source 存儲(chǔ)(數(shù)據(jù)源)已經(jīng)接入 SVC 網(wǎng)關(guān)。新的 target 存儲(chǔ)(目標(biāo)) 也已經(jīng)接入 SVC 網(wǎng)關(guān)。將應(yīng)用數(shù)據(jù)從舊存儲(chǔ)在線(應(yīng)用無(wú)感知)遷移到新存儲(chǔ)，遷移完成之后舊存儲(chǔ)過(guò)保下線。整個(gè)過(guò)程中主機(jī)應(yīng)用無(wú)感知。數(shù)據(jù)遷移場(chǎng)景 2:舊的 source 中端存儲(chǔ)(數(shù)據(jù)源)已經(jīng)接入 SVC 網(wǎng)關(guān)。新的 target FLASH 存儲(chǔ)(目標(biāo)) 也已經(jīng)接入 SVC 網(wǎng)關(guān)。將應(yīng)用數(shù)據(jù)在線(應(yīng)用無(wú)感知)遷移切換到新的 FLASH 存儲(chǔ)，完成針對(duì)該應(yīng)用由中端存儲(chǔ)到 FLASH 存儲(chǔ)的替換升級(jí)。以下是一個(gè)數(shù)據(jù)遷移示例，供參考:5.3.3 應(yīng)用示例 3.2:存儲(chǔ)加入 SVC 虛擬化網(wǎng)關(guān)將存儲(chǔ)接入 SVC 虛擬化網(wǎng)關(guān): source 存儲(chǔ)(數(shù)據(jù)源)已經(jīng)