HC1309112 統(tǒng)一存儲技術(shù)

1、Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 0修訂記錄課程編碼課程編碼適用產(chǎn)品適用產(chǎn)品產(chǎn)品版本產(chǎn)品版本課程版本課程版本ISSUEHC1309112統(tǒng)一存儲V1&V2V1.0開發(fā)開發(fā)/優(yōu)化者優(yōu)化者時間時間審核人審核人開發(fā)類型（新開發(fā)開發(fā)類型（新開發(fā)/優(yōu)化）優(yōu)化）周烽2013-03-20張博新開發(fā)本頁不打印Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. HC1309112統(tǒng)一存儲技術(shù)Copyright 2013

2、 Huawei Technologies Co., Ltd. All rights reserved. Page 2目錄1.1.雙控或多控制器技術(shù)雙控或多控制器技術(shù)2.Cache鏡像3.Cache透寫/回寫4.高級水位5.保險箱技術(shù)（含BBU技術(shù)）6.多路徑技術(shù)7.RAID1.0（0/1/5/6/10/01）最佳配置8.RAID2.0技術(shù)或原理9.Smart tier/Smart QoS/ Smart thin/ Smart partition10. HyperSnap/ HyperCopy / Hyper replication11. ReplicationdirectorCopyright

3、 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 3存儲系統(tǒng)基本組成l外置存儲系統(tǒng)p磁盤陣列pNASp磁帶庫p虛擬磁帶庫l存儲連接設(shè)備pFC HBA卡pFC交換機p以太網(wǎng)交換機p連接線纜l容災(zāi)解決方案l備份解決方案ll存儲管理軟件（ISM）l快照、鏡像軟件l備份軟件解決方案解決方案存儲硬件存儲硬件存儲軟件存儲軟件Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 4存儲技術(shù)l器件冗余（多控）l硬盤壞道檢測/修復(fù)l磁盤健康分析l多路徑

4、技術(shù)lBBU掉電保護lRAID重構(gòu)l緩存鏡像技術(shù)l磁盤保險箱技術(shù)l磁盤預(yù)拷貝技術(shù)l快照/克隆技術(shù)lLUN拷貝l遠程復(fù)制llScale-outliSCSIlFC技術(shù)lSAS技術(shù)lPCI-elFcOEl塊虛擬化技術(shù)lcache回寫lcache預(yù)取技術(shù)l12GbSASl16Gb FClSmartTier技術(shù)lSmartQos技術(shù)lSmartThin技術(shù)高可靠性高可靠性可擴展性可擴展性高性能高性能高可用性高可用性操操 作作 分分 級級 管管 理理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 5存儲陣列的多控

5、技術(shù)l雙控制器系統(tǒng)的工作模式:p主備模式p雙活模式Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 6Cache鏡像技術(shù)l兩個控制器的寫Cache數(shù)據(jù)通過相互鏡像實現(xiàn)備份，確保數(shù)據(jù)的安全和完整，提高了系統(tǒng)的可靠性。本地CACHE鏡像CACHE鏡像CACHE本地CACHE控制器A控制器BCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 7寫策略lCache的寫策略包括三種：透寫，回寫鏡像和回寫不鏡像。鏡像Cache

6、示意圖Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 8寫策略寫策略寫策略可靠性可靠性性能性能透寫高低回寫鏡像中中回寫不鏡像低高l需仔細評估實際業(yè)務(wù)對性能和可靠性的需求，選擇恰當(dāng)?shù)膶懖呗裕篊opyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 9高低水位l設(shè)置存儲寫策略為回寫時，高低水位控制Cache模塊對臟數(shù)據(jù)的存儲容量和刷盤速率。 刷盤線程持續(xù)刷盤，直到水位到達低水位以下 立刻刷一個chunk的數(shù)據(jù) 一般不刷盤，

7、如果5s之內(nèi)都沒有I/O到達，則刷一個chunk的數(shù)據(jù)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 10數(shù)據(jù)保險箱技術(shù)l數(shù)據(jù)保險箱技術(shù)用于保存Cache數(shù)據(jù)，避免因系統(tǒng)意外斷電時數(shù)據(jù)丟失。l內(nèi)置BBU電池可保證在系統(tǒng)意外斷電時，對Cache和系統(tǒng)保險箱硬盤同時供電，讓Cache中的數(shù)據(jù)寫到數(shù)據(jù)保險箱中，實現(xiàn)Cache數(shù)據(jù)永久保存。數(shù)據(jù)保險箱數(shù)據(jù)保險箱Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 11多路徑

8、技術(shù)服務(wù)器SAN交換機存儲陣列數(shù)據(jù)流服務(wù)器SAN交換機存儲陣列數(shù)據(jù)流Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 12多路徑技術(shù)原理虛擬磁盤多路徑驅(qū)動多路徑虛擬HBAHBA1HBA2LUN磁盤驅(qū)動HBA1HBA2LUNLUN磁盤驅(qū)動LUN未安裝多路徑安裝了多路徑主機看到兩個物理LUN主機只看到一個LUN陣列陣列Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 13傳統(tǒng)RAIDlRAID是一種將多個物理的硬盤組

9、合成一個邏輯硬盤來使用的虛擬化技術(shù)。RAID級別描述RAID0數(shù)據(jù)條帶化，無校驗RAID1數(shù)據(jù)鏡像，無校驗RAID5數(shù)據(jù)條帶化，校驗信息分布式存放RAID6數(shù)據(jù)條帶化，分布式校驗提供兩級冗余RAID10組內(nèi)做RAID1，組間做RAID0，既采用數(shù)據(jù)鏡像有做條帶化Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 14空間利用率:RAID5明顯優(yōu)于RAID10性能:業(yè)務(wù)是一些大文件的讀寫操作時，RAID5的性能會明顯好于RAID10業(yè)務(wù)以隨機的小數(shù)據(jù)塊讀寫為主的時候，RAID10是最優(yōu)的選擇可靠性:RAID

10、5低于RAID10RAID5/RAID10RAID5/RAID10對比對比RAID1.0最佳配置-RAID選擇Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 15l順序應(yīng)用下，單個RAID組磁盤數(shù)選擇上,推薦采用:p分條深度128KBp9盤RAID5RAID5RAID5RAID10RAID10RAID1.0最佳配置-成員盤個數(shù)lRAID10在單個RAID組磁盤數(shù)選擇上,并無限制.在磁盤成為瓶頸時,磁盤數(shù)越多該RAID組性能越好Copyright 2013 Huawei Technologies Co.

11、, Ltd. All rights reserved. Page 16RAID1.0最佳配置-隨機寫性能lRAID5和RAID10下分條深度變化隨機寫性能規(guī)律lRAID5規(guī)律：隨著分條深度的增加，隨機寫IOPS先會不斷的增加，到達一定程度之后，隨機寫IOPS會不斷的遞減;lRAID10規(guī)律：隨著分條深度的增加，隨機寫IOPS不斷的增長，當(dāng)分條深度增大到一定程度后，隨機寫IOPS保持一個較為穩(wěn)定的狀態(tài);400045005000550032KB64KB128KB256KB512KBIOPS分條深度RAID10隨機寫IOPSRW_4K010002000300032KB64KB128KB 256KB

12、512KB分條深度RAID5隨機寫IOPSRW_4KCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 17如果分條單元太小，很有可能出現(xiàn)一個IO橫跨了兩個甚至多個分條單元的情況。隨著分條深度的增大，一個IO跨盤的幾率逐漸減小。因此，隨著分條深度的增加，隨機讀IOPS會逐漸的增加當(dāng)分條深度的大小能夠超過數(shù)據(jù)塊的大小達到一定程度時，由于再出現(xiàn)IO數(shù)據(jù)塊跨盤情況的幾率已經(jīng)非常的小了，則數(shù)據(jù)塊的大小已經(jīng)不再是影響性能的關(guān)鍵因素了，此時隨機讀IOPS會基本保持一個穩(wěn)定的水平分條深度對隨機讀性能影響RAID1.0最

13、佳配置-隨機讀性能Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 18l將硬盤劃分成若干個連續(xù)的固定大小的存儲空間，稱為存儲塊，即chunk，或簡稱CK。lChunk按RAID策略組合成RAID組，稱為存儲塊組，即chunk group，或簡稱CKG。 l在CKG中劃分若干小數(shù)據(jù)塊，即extent。LUN就是由來自不同CKG的extent組成。l用作熱備空間的CK也是分散在各個盤上的。RAID 2.0原理Copyright 2013 Huawei Technologies Co., Ltd. All

14、rights reserved. Page 19RAID 2.0原理硬盤硬盤ExtentExtentCKGCKG硬盤硬盤 0 0硬盤硬盤 1 1硬盤硬盤 n n硬盤硬盤 k kLUNLUNExtentExtentExtentCKCK熱備空間熱備空間Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 20RAID2.0軟件邏輯對象Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 21lVolume即卷，是存儲系統(tǒng)內(nèi)部

15、管理對象。lLUN是可以直接映射給主機讀寫的存儲單元，是Volume對象的對外體現(xiàn)。Volume & LUNVolumeLUNserverStorageCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 22RAID2.0優(yōu)勢 熱備空間分散分布快速重構(gòu) LUN空間分散分布硬盤負載均衡 性能大大提升 硬盤利用率提升硬盤利用率 存儲池易擴容 LUN易擴容存儲管理效率更可靠更可靠更高效更高效易擴展易擴展Copyright 2013 Huawei Technologies Co., Ltd. All ri

16、ghts reserved. Page 23SmartTier 原理層級層級硬盤類型硬盤類型應(yīng)用特點應(yīng)用特點數(shù)據(jù)特點數(shù)據(jù)特點高性能層SSD硬盤適合隨機讀取存儲請求密度高的業(yè)務(wù)負載。最活躍數(shù)據(jù)：存儲在或遷移至高性能層硬盤且讀性能得到很大提高的“繁忙”數(shù)據(jù)。性能層SAS硬盤適合存儲請求密度中的業(yè)務(wù)負載熱數(shù)據(jù)：存儲在或遷移至性能層硬盤的較活躍數(shù)據(jù)。容量層NL-SAS硬盤適合存儲請求密度低的業(yè)務(wù)負載冷數(shù)據(jù) ：存儲在或遷移至容量層硬盤的“空閑”數(shù)據(jù)，且數(shù)據(jù)遷移后，其現(xiàn)有性能不會受到影響。Copyright 2013 Huawei Technologies Co., Ltd. All rights res

17、erved. Page 24SmartTier 原理lLUN上的數(shù)據(jù)可以根據(jù)數(shù)據(jù)的活躍度，自動調(diào)整，遷移到存儲池中的不同存儲層。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 25SmartTier 關(guān)鍵技術(shù)l統(tǒng)計每個數(shù)據(jù)塊的活躍度計數(shù)I/O監(jiān)控數(shù)據(jù)排布分析數(shù)據(jù)遷移l對每個數(shù)據(jù)的活躍度計數(shù)進行排序l根據(jù)排名結(jié)果和數(shù)據(jù)遷移策略實施數(shù)據(jù)遷移Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 26SmartThin 概

18、述lSmart Thin特點：p存儲容量虛擬化p按需分配p可在線擴容p容量管理自動化p告警閾值Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 27SmartThin 關(guān)鍵技術(shù) l寫時空間分配： Capacity-on-writel讀寫重定向： Redirect-on-time主機寫操作Thin LUN映射RAID5用時再分配空間分配存儲實際數(shù)據(jù)物理存儲空間 (存儲池)Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Pa

19、ge 28SmartThin 關(guān)鍵技術(shù) 1 12 2abcaba0 04 41. 收到寫請求2. 查映射表3. 寫重定向4. 寫數(shù)據(jù) aa映射表映射表cb25cCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 29SmartThin 關(guān)鍵技術(shù) adgjbehkcfiladgjbehkcfil0 00 01. 收到讀請求2. 查映射表3. 重定向請求4. 讀數(shù)據(jù)數(shù)據(jù) a aCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. P

20、age 30SmartQoS概述l背景：p不同應(yīng)用程序之間由于業(yè)務(wù)模型和I/O特征不同相互影響，導(dǎo)致存儲系統(tǒng)整體性能受到影響；p不同應(yīng)用程序相互爭搶系統(tǒng)帶寬和IOPS資源，關(guān)鍵業(yè)務(wù)性能無法得到保證。 l需求：p保證關(guān)鍵型應(yīng)用程序的性能；p保證高級別用戶的性能。lSmart QoS原理：p該特性允許用戶根據(jù)應(yīng)用程序的一系列特征（IOPS或帶寬），對每一種應(yīng)用程序設(shè)置特定的性能目標(biāo)；p存儲系統(tǒng)根據(jù)設(shè)定的性能目標(biāo)，動態(tài)分配存儲系統(tǒng)的資源來滿足特定應(yīng)用程序的服務(wù)級別要求，從而優(yōu)先保證關(guān)鍵性應(yīng)用程序服務(wù)級別的需求。Copyright 2013 Huawei Technologies Co., Ltd.

21、All rights reserved. Page 31SmartQoS 關(guān)鍵技術(shù)lSmartQoSSmartQoS基于令牌桶原理p用戶每配置一個SmartQoS策略，系統(tǒng)會根據(jù)用戶設(shè)置的性能目標(biāo)生成一個令牌桶，按照用戶配置的性能目標(biāo)周期性向令牌桶中放入一定數(shù)量的令牌。p每一個受這個SmartQoS 策略控制的I/O請求都必須從令牌桶中獲得一個令牌才能得到處理；如果令牌桶中的令牌取空，則只能在等待隊列中等待系統(tǒng)下一次放入令牌。令牌桶令牌桶令牌主機IO請求進入等待隊列等待到令牌桶獲取令牌獲得調(diào)度處理周期性放入令牌對IO請求分類123Copyright 2013 Huawei Technologi

22、es Co., Ltd. All rights reserved. Page 32Smart Partition概述l背景：p隨著存儲系統(tǒng)的不斷完善和發(fā)展，僅支撐單業(yè)務(wù)存儲服務(wù)的存儲系統(tǒng)正在被可以同時向數(shù)千個應(yīng)用提供存儲服務(wù)的存儲系統(tǒng)所替代。但如何同時滿足數(shù)千個不同應(yīng)用的巨量并發(fā)，這給存儲系統(tǒng)的服務(wù)質(zhì)量保證能力提出了更高的要求。l需求：p根據(jù)應(yīng)用的優(yōu)先級不同，保證各個級別的應(yīng)用性能。lSmart Partition原理：pSmartPartition特性以業(yè)務(wù)LUN為單位進行SmartPartition分區(qū)設(shè)定，每個SmartPartition分區(qū)的資源獨立訪問，互不干擾。Copyright

23、2013 Huawei Technologies Co., Ltd. All rights reserved. Page 33Smart Partition 關(guān)鍵技術(shù)l SmartPartition特性通過隔離不同業(yè)務(wù)所需的緩存資源，保證關(guān)鍵業(yè)務(wù)的服務(wù)質(zhì)量。通過SmartPartition特性，用戶將引擎內(nèi)的緩存資源劃分為2個或2個以上的分區(qū)（少于8個），每個分區(qū)的讀寫緩存容量根據(jù)用戶業(yè)務(wù)LUN的I/O情況進行設(shè)置，提高緩存讀寫速度的同時大大縮短存儲系統(tǒng)的應(yīng)用響應(yīng)時間。lSmartPartition特性通過周期統(tǒng)計每個SmartPartition分區(qū)的所有主機并發(fā)量，然后通過用戶針對每個LUN

24、設(shè)置的讀寫緩存容量以及每個LUN的優(yōu)先級，自動匹配主機并發(fā)，保證SmartPartition分區(qū)資源的最大化使用的同時，保證關(guān)鍵業(yè)務(wù)的服務(wù)質(zhì)量。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 34Smart Partition 關(guān)鍵技術(shù)l在主機并發(fā)中，LUN的優(yōu)先級的判斷有兩種方式：p如果針對LUN設(shè)置了SmartQoS的LUN優(yōu)先級，則按照SmartQoS優(yōu)先級進行統(tǒng)計。p如果未設(shè)置SmartQoS的LUN優(yōu)先級，則按照LUN的默認優(yōu)先級進行統(tǒng)計。Copyright 2013 Huawei Tech

25、nologies Co., Ltd. All rights reserved. Page 35Hyper Snap 概述l定義：pHyper Snap，即快照，是指在不中斷正常業(yè)的情況下、源數(shù)據(jù)在某一時間點的數(shù)據(jù)的完全可用的拷貝，該拷貝是源數(shù)據(jù)在拷貝時間點的靜態(tài)映像。l特點p快照可以對存儲設(shè)備上的數(shù)據(jù)靈活和頻繁地生成多個恢復(fù)點，在需要時可以快速地恢復(fù)數(shù)據(jù)。p快照可瞬間生成，不影響源LUN業(yè)務(wù)，可以方便地作為備份和歸檔的數(shù)據(jù)源。 l應(yīng)用p數(shù)據(jù)備份與恢復(fù)、持續(xù)數(shù)據(jù)保護、結(jié)合其他軟件實現(xiàn)備份和容災(zāi)，并應(yīng)用于報表生成、數(shù)據(jù)測試、數(shù)據(jù)分析等數(shù)據(jù)處理場景。Copyright 2013 Huawei Tec

26、hnologies Co., Ltd. All rights reserved. Page 36Hyper Snap原理與關(guān)鍵技術(shù)l原理：p通過映射表來定位數(shù)據(jù)的位置p不需要做數(shù)據(jù)的完全復(fù)制l關(guān)鍵技術(shù)：寫前拷貝0 07 71. 收到寫請求2. 查映射表3. 拷貝數(shù)據(jù)塊4. 記錄映射表5. 寫數(shù)據(jù) a ad dg gj jb be eh hk kc cf fiilla ad dg gj jb be eh hk kc cf fiilla aaaCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 37Hyper

27、 Copy 概述l定義pLUN拷貝把源LUN數(shù)據(jù)完整復(fù)制到本陣列或其它陣列的目標(biāo)LUN。l特點p開始拷貝前要先停止業(yè)務(wù)。（全量LUN copy)p支持陣列內(nèi)和陣列間拷貝。p支持源LUN在外部陣列，目標(biāo)LUN在本陣列。l場景p數(shù)據(jù)遷移、數(shù)據(jù)備份Source LUNTarget LUN 1Target LUN 3Target LUN 2Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 38遠程復(fù)制 特性介紹l定義：p遠程復(fù)制(Remote Replication)是數(shù)據(jù)鏡像技術(shù)的一種，通過在兩個或多個站點維

28、護若干個數(shù)據(jù)副本，實現(xiàn)數(shù)據(jù)的遠端備份和恢復(fù)、持續(xù)的業(yè)務(wù)數(shù)據(jù)支撐、數(shù)據(jù)的遷移和分發(fā)、數(shù)據(jù)的災(zāi)難恢復(fù)。l分類：p同步遠程復(fù)制p異步遠程復(fù)制Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 39同步遠程復(fù)制原理和特點1 12 24 43 3Master LUNSlave LUN遠程復(fù)制2 23 3數(shù)據(jù)同步周期每次同步數(shù)據(jù)量RPO（數(shù)據(jù)丟失率）對主LUN性能影響適用范圍支持從LUN個數(shù)實時較小0較大同城2l原理：l特點：Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 40異步遠程復(fù)制原理和特點125 543Slave LUNMaster LUNSnapshotSnapshot數(shù)據(jù)同步周期每次同步數(shù)據(jù)量RPO（數(shù)據(jù)丟失率）對主L