Customer Ready07 - 高性能并行存儲(chǔ)-CH

HighPerformanceParallelStorageSolution

高性能并行存儲(chǔ)解決方案ConfidentialSmallandMediaBusinessinDELLDELL中小企業(yè)客戶部主要內(nèi)容高性能并行存儲(chǔ)的應(yīng)用需求DELL高性能并行存儲(chǔ)產(chǎn)品DELL高性能并行存儲(chǔ)解決方案DELL高性能并行存儲(chǔ)解決方案的成功案例DELLCONFIDENTIAL2存儲(chǔ)的初步分類DELLCONFIDENTIAL3磁盤陣列NAS存儲(chǔ)高性能并行存儲(chǔ)數(shù)據(jù)中心按應(yīng)用層次劃分一、高性能并行存儲(chǔ)的應(yīng)用需求

什么時(shí)候需要高性能并行存儲(chǔ)隨著CPU性能的提高以及CPU多核技術(shù)的不斷發(fā)展，需要更多數(shù)據(jù)吞吐量才能滿足高利用率，這需要應(yīng)用更多的并發(fā)操作Clusterworkingspace越來越大的數(shù)據(jù)流

服務(wù)端和客戶端數(shù)據(jù)的傳輸達(dá)到GB甚至TB級(jí)I/O瓶頸NFS文件系統(tǒng)不能滿足更多客戶端同時(shí)訪問的應(yīng)用需求網(wǎng)絡(luò)帶寬限制更多I/O的應(yīng)用需求應(yīng)用對(duì)并行I/O的需求DELLCONFIDENTIAL4Localdata,HomedirectoriesWorkstationWorkgroupDepartmentSuperComputerNFSApplicationDataand

ScratchSpace方案背景

根據(jù)應(yīng)用大小和工作負(fù)載來規(guī)劃

500MB/sDivisionNFSHPCStorageSolution吞吐量應(yīng)用級(jí)別DELLCONFIDENTIAL5并行存儲(chǔ)－突破瓶頸性能超群Clusters=ParallelComputeParallelComputeneedsParallelIOMonolithicStorage(NFSservers)LinuxComputeClusterSingledatapathtostorage問題擴(kuò)展困難帶寬和I/O受限存儲(chǔ)孤島缺乏靈活性價(jià)格昂貴線性擴(kuò)展高帶寬和I/O統(tǒng)一存儲(chǔ)池易于管理降低成本ParalleldatapathsParallelStorageClusters好處LinuxComputeCluster并行存儲(chǔ)/并行文件系統(tǒng)高可擴(kuò)展的文件型存儲(chǔ)FileServerNFSClusteredNFSFileServerFileServerNAS:NetworkAttachedStorageClusteredStorage:統(tǒng)一管理多個(gè)

NAS文件服務(wù)器.較好的綜合性能.ParallelClusteredStorage:文件服務(wù)器不局限于一個(gè)datapath.消除了性能瓶頸.ParallelNFSDELLCONFIDENTIAL8

二、DELL高性能并行存儲(chǔ)產(chǎn)品目標(biāo)：

為客戶提供高性價(jià)比、高性能、易擴(kuò)展和易管理的高性能并行存儲(chǔ)產(chǎn)品主要組成部分DELLPowerEdgeR510機(jī)架式服務(wù)器DELLPowerConnect6248以太網(wǎng)交換機(jī)并行文件系統(tǒng)

并行文件系統(tǒng)使得DELL不僅可以提供存儲(chǔ)的硬件產(chǎn)品，更能夠提供性能更好的存儲(chǔ)產(chǎn)品和解決方案，為云計(jì)算與虛擬化提供必要的公共存儲(chǔ)空間；

為了提高存儲(chǔ)容量和I/O性能，可以增加存儲(chǔ)服務(wù)器和磁盤陣列，采用標(biāo)準(zhǔn)的工業(yè)設(shè)備可以有效降低單位存儲(chǔ)空間的成本.DELL高性能并行存儲(chǔ)產(chǎn)品

DELLCONFIDENTIAL9DELL高性能并行存儲(chǔ)產(chǎn)品

ValuePropositionValuetocustomer(intier1cities)HugesteadyRead/Writeupto4GB/s最高4GB/s的I/OScalability–upto220TB(usablediskspace)最大220TB的可用存儲(chǔ)空間RemoveStoragebottleneck沒有網(wǎng)絡(luò)瓶頸Onlineexpansion方便的在線擴(kuò)容LowPrice單位存儲(chǔ)空間上的價(jià)格優(yōu)勢(shì)DELL高性能并行存儲(chǔ)產(chǎn)品

方案配置DELLCONFIDENTIAL11元數(shù)據(jù)服務(wù)器規(guī)格2U型號(hào)DellPowerEdgeR510處理器配置備2個(gè)英特爾?

至強(qiáng)?5500/5600系列處理器內(nèi)存16G/24G內(nèi)存，確?！?G/CPU核RaidRaid1，5硬盤2*300G；12*2TSATA7200轉(zhuǎn)以太網(wǎng)卡板載英特爾千兆ET四連接口配接卡以太網(wǎng)卡一塊以太網(wǎng)卡（管理網(wǎng)段）電源非備援480W的電源DELL高性能并行存儲(chǔ)產(chǎn)品

方案配置DELLCONFIDENTIAL12對(duì)象存儲(chǔ)服務(wù)器規(guī)格2U型號(hào)DellPowerEdgeR510處理器配置備2個(gè)英特爾?

至強(qiáng)?5500/5600系列處理器內(nèi)存16G/24G內(nèi)存，確?！?G/CPU核RaidRaid1，5硬盤2*300G；12*2TSATA7200轉(zhuǎn)以太網(wǎng)卡板載英特爾千兆ET四連接口配接卡，電源非備援480W的電源DELL高性能并行存儲(chǔ)產(chǎn)品

方案配置DELLCONFIDENTIAL13以太網(wǎng)交換機(jī)規(guī)格1U型號(hào)DellPowerConnet6248以太網(wǎng)交換機(jī)端口數(shù)量48個(gè)10/100/1000BASE-T自感應(yīng)千兆以太網(wǎng)交換端口上行模塊4個(gè)萬兆以太網(wǎng)上行模塊DELL高性能并行存儲(chǔ)產(chǎn)品

系統(tǒng)配置DELLCONFIDENTIAL14操作系統(tǒng)CentOSLinux5客戶端操作系統(tǒng)LinuxWindows7、Windowsserver2003、2008訪問協(xié)議Samba，F(xiàn)TP，HTTP訪問通道GbE，10GbE存儲(chǔ)容量/可用存儲(chǔ)容量96TB/80TB(可擴(kuò)展)單對(duì)象存儲(chǔ)服務(wù)器的存儲(chǔ)容量/可用容量24TB/20TBDELL6248交換機(jī)1×元數(shù)據(jù)服務(wù)器4個(gè)以太網(wǎng)端口4×對(duì)象數(shù)據(jù)服務(wù)器16個(gè)以太網(wǎng)端口存儲(chǔ)容量的增加最多支持11個(gè)對(duì)象存儲(chǔ)服務(wù)器DellR510，最大可用容量220TBDELL高性能并行存儲(chǔ)產(chǎn)品

擴(kuò)展性DELLCONFIDENTIAL15每個(gè)2TB的SATA盤的數(shù)據(jù)傳輸率以80Mbyte/s為標(biāo)準(zhǔn)對(duì)象存儲(chǔ)服務(wù)器中每一組做Raid5后磁盤的I/O性能持續(xù)寫速度：240MB/s持續(xù)讀速度：320MB/s單個(gè)對(duì)象存儲(chǔ)服務(wù)器的I/O性能持續(xù)寫速度：480MB/s持續(xù)讀速度：640MB/s高性能并行存儲(chǔ)（4個(gè)對(duì)象存儲(chǔ)服務(wù)器）的I/O性能持續(xù)寫速度：1.92GB/s持續(xù)讀速度：2.56GB/sDELL高性能并行存儲(chǔ)產(chǎn)品

I/O性能DELLCONFIDENTIAL16本方案支持三種層次的備份文件系統(tǒng)級(jí)(filesystem-level)

可以借助第三方備份軟件來完成

優(yōu)點(diǎn)：數(shù)據(jù)完全復(fù)制

復(fù)制方式簡(jiǎn)單

缺點(diǎn)：占用網(wǎng)絡(luò)帶寬

完全備份數(shù)據(jù)量太大設(shè)備級(jí)(device-level)

對(duì)文件系統(tǒng)的單個(gè)存儲(chǔ)塊設(shè)備（MDT或OST）進(jìn)行備份

數(shù)據(jù)的安全性依靠服務(wù)器的Raid5來保障文件級(jí)(file-level)

只備份關(guān)鍵數(shù)據(jù)DELL高性能并行存儲(chǔ)產(chǎn)品

數(shù)據(jù)備份機(jī)制DELLCONFIDENTIAL17客戶端當(dāng)發(fā)現(xiàn)無法連接某一個(gè)客戶端時(shí)，存儲(chǔ)的服務(wù)端會(huì)回收屬于該客戶端的文件鎖及其他資源，并將其從服務(wù)列表中剔除，從而確保其他客戶端能夠訪問客戶端元數(shù)據(jù)服務(wù)器/對(duì)象存儲(chǔ)服務(wù)器客戶端發(fā)現(xiàn)無法連接到元數(shù)據(jù)服務(wù)器或?qū)ο蟠鎯?chǔ)服務(wù)器時(shí)，未完成的文件操作會(huì)被保留在內(nèi)存中，客戶端會(huì)試圖重新與元數(shù)據(jù)服務(wù)器或?qū)ο蟠鎯?chǔ)服務(wù)器建立連接當(dāng)元數(shù)據(jù)服務(wù)器或?qū)ο蟠鎯?chǔ)服務(wù)器重新啟動(dòng)后，就會(huì)開始恢復(fù)過程，首先將響應(yīng)出錯(cuò)之前連接的所有客戶端，與它們進(jìn)行數(shù)據(jù)同步，以確保數(shù)據(jù)一致性；此時(shí)元數(shù)據(jù)服務(wù)器或?qū)ο蟠鎯?chǔ)服務(wù)器將不會(huì)拒絕其他客戶端的請(qǐng)求，直到恢復(fù)結(jié)束元數(shù)據(jù)服務(wù)器對(duì)象存儲(chǔ)服務(wù)器當(dāng)元數(shù)據(jù)服務(wù)器發(fā)現(xiàn)某一臺(tái)對(duì)象存儲(chǔ)服務(wù)器無法連接時(shí)，它標(biāo)記這臺(tái)服務(wù)器，并試圖與這臺(tái)服務(wù)器重新建立連接，一旦連接重新建立，元數(shù)據(jù)服務(wù)器將和對(duì)象存儲(chǔ)服務(wù)器進(jìn)行同步操作，以確保文件數(shù)據(jù)的一致性。而這個(gè)對(duì)象存儲(chǔ)服務(wù)器也會(huì)立即響應(yīng)出錯(cuò)之前連接的所有客戶端，進(jìn)行同步操作，來完成被掛起的文件操作。DELL高性能并行存儲(chǔ)產(chǎn)品

數(shù)據(jù)恢復(fù)機(jī)制DELLCONFIDENTIAL18DELL高性能并行存儲(chǔ)產(chǎn)品

典型操作界面DELLCONFIDENTIAL19DELL高性能并行存儲(chǔ)產(chǎn)品

典型操作界面DELLCONFIDENTIAL20全面的高性能并行存儲(chǔ)解決方案，支持完全的配置、測(cè)試、調(diào)優(yōu)和部署高可用性集群管理軟件高性價(jià)比高性能,線性擴(kuò)展

近乎線性增長的I/O性能

單OSS提供20TBs的可用存儲(chǔ)容量

最高支持220TB的存儲(chǔ)容量

在線擴(kuò)展，不需要中斷業(yè)務(wù)系統(tǒng)全面管理，擁有易用的Web界面MetaDataServer(MDS)DELLCONFIDENTIAL21DELL高性能并行存儲(chǔ)產(chǎn)品的優(yōu)點(diǎn)BaseOSS從整體架構(gòu)來看，大型的并行存儲(chǔ)系統(tǒng)由存儲(chǔ)子系統(tǒng)、I/O節(jié)點(diǎn)、客戶端和網(wǎng)絡(luò)組成。存儲(chǔ)子系統(tǒng)可以采用存儲(chǔ)區(qū)域網(wǎng)絡(luò)SAN、直接連接存儲(chǔ)DAS或者面向?qū)ο蟠鎯?chǔ)設(shè)備OSD的存儲(chǔ)架構(gòu)。根據(jù)所采用的后端存儲(chǔ)子系統(tǒng)的不同，可以把并行存儲(chǔ)分為三種技術(shù)架構(gòu)，即SAN共享存儲(chǔ)架構(gòu)、并行文件系統(tǒng)架構(gòu)（集群文件系統(tǒng)架構(gòu)）和pNFS/NFSv4.1架構(gòu)。三、DELL高性能并行存儲(chǔ)解決方案

DELLCONFIDENTIAL22SAN共享存儲(chǔ)架構(gòu)

DELLCONFIDENTIAL23優(yōu)點(diǎn)：

高帶寬和高I/O性能高可擴(kuò)展性存儲(chǔ)容量

I/O性能

高可用性：集群管理軟件缺點(diǎn)：成本高部署管理復(fù)雜擴(kuò)展規(guī)模有限直連存儲(chǔ)系統(tǒng)架構(gòu)

DELLCONFIDENTIAL24優(yōu)點(diǎn)：

高帶寬和高I/O性能高可擴(kuò)展性存儲(chǔ)容量

近乎線性的I/O性能增長

系統(tǒng)規(guī)模高可用性：集群管理軟件

成本低：通用的標(biāo)準(zhǔn)設(shè)備并行文件系統(tǒng)原理介紹目前主流的并行文件系統(tǒng)的主要組成部分通常包括：

元數(shù)據(jù)服務(wù)器MetaDataServer(MDS)

存儲(chǔ)元數(shù)據(jù)信息對(duì)象存儲(chǔ)服務(wù)器ObjectStorageServer(OSS)

存儲(chǔ)各種文件、數(shù)據(jù)

增加OSS的數(shù)量可以提高并行文件系統(tǒng)的數(shù)據(jù)傳輸率

客戶端Clients

與存儲(chǔ)有交互的、運(yùn)行應(yīng)用軟件的各種設(shè)備

個(gè)人計(jì)算機(jī)MetaDataServer(MDS)ClientsOSSOSSOSS…DELLCONFIDENTIAL25

DELL高性能并行存儲(chǔ)解決方案的體系架構(gòu)DELLCONFIDENTIAL26MDS在并行文件系統(tǒng)中的功能是對(duì)目錄和文件名進(jìn)行管理，并且為本地的一個(gè)或多個(gè)MDT提供網(wǎng)絡(luò)請(qǐng)求處理。MDS中的MDT存儲(chǔ)了文件的元數(shù)據(jù)(比如文件名、目錄名、權(quán)限信息和文件分布信息)。每個(gè)并行文件系統(tǒng)只能有一個(gè)MDT，一個(gè)基于共享存儲(chǔ)的MDT可以服務(wù)于多個(gè)MDS，但是同一時(shí)刻只能供一個(gè)MDS使用。如果當(dāng)前active的MDS失效，則備用的MDS可以繼續(xù)服務(wù)MDT，并對(duì)client提供服務(wù)。

元數(shù)據(jù)服務(wù)器MetaDataServer(MDS)DELLCONFIDENTIAL27容錯(cuò)機(jī)制：基于共享存儲(chǔ)的雙機(jī)熱備元數(shù)據(jù)服務(wù)器：Active/Standby模式每一個(gè)HAMDS通常包括兩臺(tái)R710作為MDS以及一套MD3220/3200磁盤陣列。元數(shù)據(jù)服務(wù)器MDS的HA機(jī)制DELLCONFIDENTIAL28OSS提供文件的I/O服務(wù)，處理本地的一個(gè)或多個(gè)OST的網(wǎng)絡(luò)請(qǐng)求。一般來講，一個(gè)OSS上服務(wù)2個(gè)到8個(gè)OST，每個(gè)OST的容量最大可以是8TB。ObjectStorageTarget(OST)：OST中存儲(chǔ)了具體的文件數(shù)據(jù)。一個(gè)并行文件系統(tǒng)可以有多個(gè)OST，每個(gè)OST服務(wù)于一部分的文件數(shù)據(jù)。一個(gè)文件不一定只存儲(chǔ)在一個(gè)OST中，為了優(yōu)化文件系統(tǒng)的性能，一個(gè)文件可以被分塊存儲(chǔ)在多個(gè)OST中，多個(gè)OST上的分條存儲(chǔ)是通過一個(gè)邏輯對(duì)象卷LogicalObjectVolume(LOV)來進(jìn)行管理的。

對(duì)象存儲(chǔ)服務(wù)器ObjectStorageServer(OSS)DELLCONFIDENTIAL29

對(duì)象存儲(chǔ)服務(wù)器的failoverDEL