企業(yè)存儲資源整合及優(yōu)化_V1.3

1、 Contents 目 錄01 02 03 0404 Part 01 企業(yè)存儲層面臨的問題 企業(yè)存儲層面臨的問題 存儲架構(gòu)多樣化、存儲設(shè)備多樣化。 業(yè)務(wù)類型、重要程度、讀寫特點、數(shù)據(jù)特點等多元化特點。 存儲設(shè)備擴展性差、設(shè)備性能差、架構(gòu)設(shè)計復(fù)雜導(dǎo)致存儲性能瓶頸。 存儲設(shè)備故障、數(shù)據(jù)存儲介質(zhì)故障、存儲環(huán)境故障等。 雙或者多數(shù)據(jù)中心模式下的數(shù)據(jù)容災(zāi)。 存儲 異構(gòu) 存儲 分級 存儲 性能 高可 用性 數(shù)據(jù) 容災(zāi) 企業(yè)存儲層面臨的問題 1 24 3架構(gòu)統(tǒng)一異構(gòu)整合 分級管理性能平衡提高數(shù)據(jù)容災(zāi)級別 存儲平臺穩(wěn)定健壯 Part 02 如何設(shè)計企業(yè)存儲架構(gòu) 存儲整合及優(yōu)化目標(biāo) 存儲整合及優(yōu)化原則 存儲定義

2、多樣化與存儲架構(gòu)統(tǒng)一性相結(jié)合 01 存儲平臺整體性能平衡與特殊業(yè)務(wù)性能粒度細分相結(jié)合 02 存儲需求的靜態(tài)分析與存儲擴張的動態(tài)分析相結(jié)合 03 存儲數(shù)據(jù)容災(zāi)手段多樣化與策略統(tǒng)一性相結(jié)合 04 傳統(tǒng)存儲架構(gòu) DAS Local Disk Local Disk X86 虛擬化Power 虛擬化數(shù)據(jù)庫節(jié)點其他節(jié)點 HP 3ParEMC VNXIBM DSNetApp NAS SAN 環(huán)境LAN 環(huán)境 管理： 沒有統(tǒng)一管理接口，資源分散管理，管理方式多樣復(fù)雜化。 資源利用： 各自分配，資源無法實現(xiàn)共享及平衡，資源的回收及再利用操作很麻煩。 擴展性： 只能依靠單個設(shè)備的擴容，數(shù)據(jù)不具備橫向擴展性。 高可

3、用性： 只能依靠單個設(shè)備控制器的冗余性，設(shè)備級別的故障無法解決。 遷移： 非常困難，需要借助主機端或者單獨存儲工具結(jié)合完善的遷移方案。 性能： 性能問題只能依靠高端存儲的高吞吐量，不能實現(xiàn)設(shè)備級別的橫向性能拉伸。 軟件定義存儲架構(gòu) 存儲整合底層 HP 3ParEMC VNXIBM DSNetApp NASLocal Disk 服務(wù)實例服務(wù)實例服務(wù)實例服務(wù)實例服務(wù)實例 對象存儲服務(wù)塊兒存儲服務(wù)文件存儲服務(wù) SAN 環(huán)境LAN 環(huán)境 X86 虛擬化Power 虛擬化數(shù)據(jù)庫節(jié)點管理節(jié)點 軟件定義存儲架構(gòu) 實現(xiàn)異構(gòu)SAN存儲設(shè)備的統(tǒng)一整合， 將傳統(tǒng)SAN存儲軟件功能層上移到 整合層。 SAN存儲整合

4、能夠?qū)⒅鳈C本地存儲資源進行統(tǒng) 一整合并且能并入存儲統(tǒng)一管理 平臺。 純軟件定義整合 能夠?qū)崿F(xiàn)NAS、DAS等其他傳統(tǒng) 存儲設(shè)備的資源整合。 其他存儲整合 整體存儲架構(gòu)扁平化，存儲服務(wù) 實現(xiàn)分布式模式。 服務(wù)功能實例化 存儲資源池化上移到整合之后， 性能平衡以及高可用以池為依托。 資源極限池化 軟件定義存儲架構(gòu) 存儲整合類型整合對象典型產(chǎn)品產(chǎn)品特點典型應(yīng)用場景 純軟件存儲整合 服務(wù)器本地磁盤 其他廉價磁盤存儲 IBM Spectrum Accelerate Vmware VSAN ZETTAKIT EMC ViPR 通過軟件實現(xiàn)主機本地磁 盤及其他獨立磁盤柜的統(tǒng) 一資源池化；通過SSD盤 配置實

5、現(xiàn)本地讀寫緩存的 優(yōu)化。 分布式對象存儲 局部軟件定義存儲 OLAP業(yè)務(wù) SAN存儲統(tǒng)一整合傳統(tǒng)異構(gòu)磁盤陣列 IBM SVC EMC VPLEX Netapp Dataontap 異構(gòu)SAN存儲設(shè)備接入虛 擬化節(jié)點集群；分層實現(xiàn) 設(shè)備級別的性能整體平衡； 高可用實現(xiàn)跨存儲設(shè)備。 OLTP業(yè)務(wù)系統(tǒng) 雙活數(shù)據(jù)中心架構(gòu) 數(shù)據(jù)在線遷移場景 其他存儲統(tǒng)一整合NAS及類似存儲 Openfiler EMC isilon Nexenta IBM Spectrum Scale （GPFS） 將NAS設(shè)備統(tǒng)一接入實現(xiàn) 資源重組；通過網(wǎng)絡(luò)協(xié)議 向主機提供虛擬文件存儲 空間。 非結(jié)構(gòu)化數(shù)據(jù)業(yè)務(wù) 大吞吐量并行業(yè)務(wù) Pa

6、rt 03 如何實現(xiàn)存儲層整體優(yōu)化 存儲層的關(guān)鍵性能瓶頸分析 存儲服務(wù)實例節(jié)點 單存儲設(shè)備性能瓶頸 存儲性能短板 架構(gòu)深度帶來的延時 存儲服務(wù)網(wǎng)絡(luò)性能瓶頸 存儲后端網(wǎng)絡(luò)性能瓶頸 性能 瓶頸 服務(wù)器和存儲服務(wù)節(jié)點之間 的前端存儲網(wǎng)絡(luò)性能 服務(wù)器IO策略的選擇 業(yè)務(wù)負載總量與性能極限 單個負載與服務(wù)實例性能極限 業(yè)務(wù)離散度與服務(wù)實例平衡度 異構(gòu)存儲間的性能差異 存儲工作模式的差異 存儲虛擬化服務(wù)節(jié)點與存儲設(shè)備之 間的SAN網(wǎng)絡(luò)或者TCPIP網(wǎng)絡(luò)性能 從主機層到正真的物理層 之間深度越深，那么IO經(jīng) 歷的延時就會越長。 虛擬卷的整體性能會因為具 體存儲設(shè)備或存儲類型的短 板效應(yīng)而成倍放大。 如何消除

7、架構(gòu)前端性能瓶頸 存儲整合底層 服務(wù)實例服務(wù)實例服務(wù)實例服務(wù)實例服務(wù)實例 對象存儲服務(wù)塊兒存儲服務(wù)文件存儲服務(wù) SAN 環(huán)境LAN 環(huán)境 業(yè)務(wù)整體負載壓力 業(yè)務(wù)系統(tǒng)整體負載壓力總和應(yīng)該小 于存儲層提供服務(wù)實例的總吞吐量。 業(yè)務(wù)系統(tǒng)中最高IOPS記錄應(yīng)該小于 存儲層單個實例的最大能力。 所有存儲服務(wù)實例平均資源利用率 應(yīng)與高可用策略匹配。 所有存儲服務(wù)實例的IO負載應(yīng)實現(xiàn) 平衡分布式服務(wù)。 交換設(shè)備本身不能成為系統(tǒng)環(huán)境的 性能瓶頸（通道寬度、交換緩存、 鏈路使用策略）。 環(huán)境架構(gòu)實現(xiàn)扁平化，減少IO實際 深度以及帶來的延時。 數(shù)據(jù)讀寫實現(xiàn)跨設(shè)備級橫向擴展，存儲空間實現(xiàn)橫向拉伸。 但是需要避免出現(xiàn)

8、橫向拉伸中的性能短板效應(yīng)出現(xiàn)。 存儲整合層數(shù)據(jù)橫向?qū)崿F(xiàn)科學(xué)合理遷移、遷移策略既能實 現(xiàn)性能的時間維度平衡，同時不能產(chǎn)生對縱向IO的影響。 對業(yè)務(wù)讀寫特點及需求進行細分， 科學(xué)正確配置存儲池策略，保證高 需求業(yè)務(wù)利用高端物理設(shè)備，讀寫 敏感性低的業(yè)務(wù)盡量橫向擴展。 以性能和高可用的最佳平衡點為指 導(dǎo)設(shè)置存儲虛擬層的落盤策略。 以閃存的超高速讀寫性能來 提升熱點數(shù)據(jù)性能，以整體 分層策略來平衡存儲池整體 存儲效率。 將閃存單獨抽離作為存儲池 的緩存，以解決底層物理設(shè) 備存儲性能的多樣化差異。 如何消除架構(gòu)后端性能瓶頸 存儲整合底層 HP 3ParEMC VNXIBM DSNetApp NAS 服務(wù)

9、實例服務(wù)實例服務(wù)實例服務(wù)實例服務(wù)實例 對象存儲服務(wù)塊兒存儲服務(wù)文件存儲服務(wù) 底層SAN環(huán)境及LAN 環(huán)境實現(xiàn)扁平架構(gòu)， 避免交換設(shè)備的過多 級聯(lián)，減少數(shù)據(jù)落盤 的延時影響。 結(jié)合分布式存儲軟件 利用低端存儲設(shè)備， 支撐分析類業(yè)務(wù)。 Flash System 拉伸了的存儲集群架構(gòu)（接管模式）拉伸了的存儲集群架構(gòu)（接管模式） 節(jié) 點 節(jié) 點 存 儲 存 儲 節(jié) 點 節(jié) 點 存 儲 存 儲 節(jié) 點 節(jié) 點 存 儲 存 儲 功能描述：兩個節(jié)點組成一個組（拉伸的集群），組內(nèi)主節(jié)點對VDISK提供IO服務(wù)。VDISK的兩個 物理鏡像位于兩個中心的存儲。VDISK不能被其他組接管。 部署注意點：科學(xué)計算業(yè)務(wù)

10、負載并以此衡量架構(gòu)橫向吞吐能力及橫向擴展能力；合理平衡VDISK和 IO GROUP的映射關(guān)系，保證節(jié)點負載均衡；根據(jù)業(yè)務(wù)需求設(shè)置IO寫策略（性能優(yōu)先&數(shù)據(jù)優(yōu)先）； 利用FLASH COPY分擔(dān)數(shù)據(jù)讀請求壓力；利用Metro和Global合理實現(xiàn)數(shù)據(jù)容災(zāi)；兩端的存儲設(shè)備 性能差異不要懸殊，以保證IO落盤沒有短板效應(yīng)放大帶來的性能影響。 拉伸了的存儲集群架構(gòu)（并寫模式）拉伸了的存儲集群架構(gòu)（并寫模式） 節(jié) 點 節(jié) 點 存 儲 存 儲 節(jié) 點 節(jié) 點 存 儲 存 儲 節(jié) 點 節(jié) 點 存 儲 存 儲 功能描述：兩個節(jié)點組成一個拉伸集群，每一個節(jié)點有兩個引擎，每個引擎有兩個控制器。共同為 所有VDIS

11、K提供IO服務(wù)。兩個節(jié)點同時讀寫，會有數(shù)據(jù)競爭及數(shù)據(jù)同步。 部署注意點：盡量避免應(yīng)用層再次出現(xiàn)強烈數(shù)據(jù)熱點問題；嚴(yán)格保證節(jié)點之間的通道帶寬及延時符 合產(chǎn)品要求；虛擬化層本身不具備存儲分層及FLASH COPY等功能，需要借助存儲設(shè)備本身的功能 來實現(xiàn)，因此存儲層的Storage Group需要小粒度細分。兩邊的存儲設(shè)備需要嚴(yán)格保證其配置的一 致性，否則會加倍放大性能影響。 Part 04 存儲資源整合過程中的誤區(qū) 存儲資源整合過程中的誤區(qū) 單個服務(wù)實例性能指標(biāo)不代表整體性能，要看實例整體工作模式是否能實現(xiàn)負載均衡。 整體性能與服務(wù)實例性能 01 為了追求存儲的統(tǒng)一性和便利性而犧牲存儲服務(wù)的特殊化特征將會帶來性能災(zāi)難。 存儲集中管理與存儲