大數(shù)據(jù)時(shí)代數(shù)據(jù)存儲(chǔ)解決方案【完整版】課件

1、大數(shù)據(jù)時(shí)代數(shù)據(jù)存儲(chǔ)解決方案目錄大數(shù)據(jù)帶來(lái)哪些技術(shù)變革云時(shí)代大數(shù)據(jù)的特點(diǎn)12大數(shù)據(jù)架構(gòu)和具體實(shí)踐3大量用戶群體海量計(jì)算大量數(shù)據(jù)管理數(shù)據(jù)分析大數(shù)據(jù)定義-不同行業(yè)的不同聲音云時(shí)代的大數(shù)據(jù)特點(diǎn)Volume-巨 量Variety-多樣性 Value-價(jià)值密度數(shù)據(jù)量巨大全球在2010 年正式進(jìn)入ZB 時(shí)代IDC預(yù)計(jì)到2020 年，全球?qū)⒖偣矒碛?0ZB 的數(shù)據(jù)量結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)如今的數(shù)據(jù)類(lèi)型早已不是單一的文本形式，訂單、日志、音頻，能力提出了更高的要求沙里淘金，價(jià)值密度低一部數(shù)小時(shí)的視頻，可能有用的數(shù)據(jù)僅僅只有一兩秒。如何迅速“提純”是大數(shù)據(jù)亟待解決的難題實(shí)時(shí)獲取需要的信息大數(shù)據(jù)區(qū)分

2、于傳統(tǒng)數(shù)據(jù)最顯著的特征。如今已是ZB時(shí)代，在如此海量的數(shù)據(jù)面前，處理數(shù)據(jù)的效率就是企業(yè)的生命Velocity-速 度信息采集系統(tǒng)全景介紹政府機(jī)構(gòu)（醫(yī)保，社保）短信通話記錄數(shù)據(jù)分類(lèi)數(shù)據(jù)來(lái)源運(yùn)營(yíng)商存儲(chǔ)區(qū)域業(yè)務(wù)平臺(tái)匯聚、分析、入庫(kù)醫(yī)院大型企業(yè)交通信息視頻監(jiān)控 Email社保、醫(yī)保、住宿、交通視頻監(jiān)控網(wǎng)絡(luò)信息 精確查詢?nèi)穗H關(guān)系、行為分析跟隨分析、人臉識(shí)別通話記錄、住宿、交通統(tǒng)計(jì)報(bào)表短信、Email內(nèi)容過(guò)濾等其他信息統(tǒng)計(jì)分析內(nèi)容查詢數(shù)據(jù)導(dǎo)入大數(shù)據(jù)在各行業(yè)的應(yīng)用社交網(wǎng)絡(luò)B 2C業(yè)務(wù)能源媒資地質(zhì)勘探科研智能電網(wǎng)非線編輯后期制作衛(wèi)星探測(cè)基因工程電子支付票據(jù)歸檔金融互聯(lián)網(wǎng)公安視頻監(jiān)控視頻分析目錄大數(shù)據(jù)各行業(yè)需求

3、和應(yīng)用大數(shù)據(jù)帶來(lái)哪些技術(shù)變革云時(shí)代大數(shù)據(jù)的特點(diǎn)12大數(shù)據(jù)架構(gòu)和具體實(shí)踐3大數(shù)據(jù)帶來(lái)技術(shù)變革大數(shù)據(jù)分析處理全球技術(shù)研究和咨詢公司Gartner將“大數(shù)據(jù)”技術(shù)列入2012年對(duì)眾多公司和組織機(jī)構(gòu)具有戰(zhàn)略意義的十大技術(shù)與趨勢(shì)之一；Gartner在其新興技術(shù)成熟度曲線中將“大數(shù)據(jù)”技術(shù)視為轉(zhuǎn)型技術(shù)；傳統(tǒng)技術(shù)升級(jí)已滿足不了大數(shù)據(jù)處理的需求，“大數(shù)據(jù)” 技術(shù)將在未來(lái)35年內(nèi)進(jìn)入主流。其技術(shù)形態(tài)也會(huì)產(chǎn)生較大的變化；存儲(chǔ)瓶頸計(jì)算瓶頸網(wǎng)絡(luò)瓶頸數(shù)據(jù)庫(kù)瓶頸大數(shù)據(jù)帶來(lái)哪些技術(shù)變革單機(jī)集群虛擬化集群文件存儲(chǔ)單機(jī)設(shè)備間連接設(shè)備內(nèi)連接關(guān)系型數(shù)據(jù)庫(kù)橫向擴(kuò)展橫向擴(kuò)展GE FC數(shù)據(jù)庫(kù)集群10GE FC IB分布式數(shù)據(jù)庫(kù)非關(guān)系型數(shù)

4、據(jù)庫(kù)塊存儲(chǔ)10GE SAS IB FC計(jì)算存儲(chǔ)數(shù)據(jù)庫(kù)網(wǎng)絡(luò)橫向擴(kuò)展（硬件擴(kuò)展）塊虛擬化豐富的增值軟件及對(duì)外接口橫向擴(kuò)展（硬件+文件系統(tǒng)）文件虛擬化豐富的增值軟件及對(duì)外接口 大數(shù)據(jù)時(shí)代群雄逐鹿Hadoop解決方案架構(gòu)目錄什么十大數(shù)據(jù)大數(shù)據(jù)各行業(yè)需求和應(yīng)用大數(shù)據(jù)架構(gòu)和具體實(shí)踐大數(shù)據(jù)帶來(lái)哪些技術(shù)變革云時(shí)代大數(shù)據(jù)的特點(diǎn)12大數(shù)據(jù)架構(gòu)和具體實(shí)踐3在大數(shù)據(jù)方面不僅僅是平臺(tái)提供商大數(shù)據(jù)應(yīng)用開(kāi)發(fā)提供商大數(shù)據(jù)系統(tǒng)集成商大數(shù)據(jù)平臺(tái)提供商大數(shù)據(jù)管理服務(wù)提供商除了具有強(qiáng)大的自主研發(fā)實(shí)力外，還具備豐富的集成優(yōu)化第三方平臺(tái)的經(jīng)驗(yàn)，可根據(jù)用戶的實(shí)際需求，打造適合用戶自身特點(diǎn)的大數(shù)據(jù)服務(wù)體系；Scaleout BlockSca

5、leout FilesystemScaleout DBScaleout ObjectScaleout backup分布式存儲(chǔ)應(yīng)用適配, Programmable接口通用服務(wù)器網(wǎng)絡(luò)（交換機(jī)，路由器）存儲(chǔ)節(jié)點(diǎn) 分布式計(jì)算和分析批處理(Galax HD)實(shí)時(shí)處理和內(nèi)存計(jì)算近實(shí)時(shí)分析和MPP DB內(nèi)存數(shù)據(jù)庫(kù)流處理MapReduceHive,Pig,MashoutHBASEHcatalogSQLQuery PlannerMPP ExecData Bridge管控平面設(shè)備管理資源管理(YARN,多戶,Zookeeper)策略調(diào)度日志留存OLAP視頻分析數(shù)據(jù)可視化內(nèi)容檢索數(shù)據(jù)挖掘 大數(shù)據(jù)一體化平臺(tái)集成Sqo

6、opData Loader 集成和優(yōu)化自研組件合作3rd PartyToolHadoop FS API, NFS/CIFS,Posix,ISCSI,S3大數(shù)據(jù)統(tǒng)一架構(gòu)FlumeLuceneCloud OS30mins/TB的恢復(fù)速度安全可信彈性高效存儲(chǔ)池內(nèi)所有硬盤(pán)參與重構(gòu)，僅重構(gòu)業(yè)務(wù)數(shù)據(jù)由傳統(tǒng)RAID多對(duì)一的重構(gòu)模式轉(zhuǎn)變?yōu)镠VS的多對(duì)多快速重構(gòu)模式數(shù)據(jù)恢復(fù)速度相對(duì)傳統(tǒng)RAID提升20倍降低95%的多盤(pán)失效概率大幅降低重構(gòu)過(guò)程對(duì)業(yè)務(wù)的影響加速數(shù)據(jù)恢復(fù)傳統(tǒng)陣列RAID 2.01TB NLSAS 磁盤(pán)重構(gòu)時(shí)間（小時(shí)）100.50246810數(shù)據(jù)重構(gòu)時(shí)間縮短20倍ApplicationsControl

7、lerCPUCacheNORMALNORMALPREMIUMSSDSASSATALOWPriority nPriority 3Priority 2Priority 1Partition 1Partition 2Partition 4Partition Partition 3Partition N核心業(yè)務(wù)專(zhuān)屬保障存儲(chǔ)系統(tǒng)自動(dòng)按照優(yōu)先級(jí)不同調(diào)配資源，保證核心系統(tǒng)的資源需求SmartQoS確保核心業(yè)務(wù)服務(wù)質(zhì)量物理緩存分區(qū)，為特定LUN設(shè)定專(zhuān)用的緩存分區(qū)，避免核心業(yè)務(wù)與邊緣業(yè)務(wù)惡性緩存競(jìng)爭(zhēng)SmartPartition 關(guān)鍵業(yè)務(wù)性能保障安全可信彈性高效Smart軟件提升客戶系統(tǒng)效率數(shù)據(jù)智能流動(dòng)Smart

8、Tier數(shù)據(jù)動(dòng)態(tài)分級(jí)SmartVirtualization異構(gòu)數(shù)據(jù)整合SmartMotion數(shù)據(jù)動(dòng)態(tài)平衡EMCHDSIBMHW 安全可信彈性高效SmartTier：精細(xì)化熱點(diǎn)統(tǒng)計(jì)與遷移，最大化性能資源利用率，性能提升3倍SmartMotion：基于場(chǎng)景的動(dòng)態(tài)部署變更，最大化自動(dòng)負(fù)載均衡，硬盤(pán)利用率提升2倍，運(yùn)維成本下降60%SmartVirtualization：支持對(duì)異構(gòu)存儲(chǔ)系統(tǒng)進(jìn)行統(tǒng)一虛擬化管理，最大化既有投資保護(hù)，投資回報(bào)率提升50%Smart智能軟件SSDSASNL-SAS統(tǒng)一管控，運(yùn)維一手掌握各類(lèi)型存儲(chǔ)統(tǒng)一管理，化繁為簡(jiǎn)分層可視化，直觀監(jiān)控，高效排障智能分析提升服務(wù)質(zhì)量，節(jié)約成本與移

9、動(dòng)運(yùn)維結(jié)合，管理更智能存儲(chǔ)管理軟件統(tǒng)一監(jiān)控與管理 報(bào)警管理 拓?fù)浒踩诰€存儲(chǔ)近線存儲(chǔ)安全可信彈性高效亞洲最大兼容性實(shí)驗(yàn)室亞洲最大的IT產(chǎn)品兼容性實(shí)驗(yàn)室，擁有國(guó)內(nèi)最全面的測(cè)試環(huán)境，產(chǎn)品兼容性得到充分的認(rèn)證，客戶的兼容性疑慮得到最好的解答與全球400家IT廠家合作，影響全球IT生態(tài)圈，為客戶提供更加全面的IT產(chǎn)品。超過(guò)400家兼容性測(cè)試伙伴兼容性實(shí)驗(yàn)室解決您的兼容性顧慮HVS & T系列統(tǒng)一存儲(chǔ)存儲(chǔ)虛擬化VIS6600TN9000大數(shù)據(jù)存儲(chǔ)面向企業(yè)級(jí)數(shù)據(jù)中心實(shí)現(xiàn)數(shù)據(jù)智能布局雙活數(shù)據(jù)中心統(tǒng)一存儲(chǔ)資源池面向海量數(shù)據(jù)存儲(chǔ)融合架構(gòu)簡(jiǎn)化生命周期管理P15P22P1P8P15P22P1P8P15P22P1P8

10、P15P22P1P8P15P22P1P8Self Organized DisksDHTS3/NFS/CIFS存以智用，融以致遠(yuǎn)云化存儲(chǔ)設(shè)計(jì)：智能融合可信賴，滿足企業(yè)需要外企當(dāng)?shù)馈⒆灾鞣αΡ镜禺a(chǎn)/OEM不等于自主可控本地產(chǎn)為的是降低生產(chǎn)成本，OEM僅僅是包裝存儲(chǔ)核心競(jìng)爭(zhēng)力是研發(fā)、設(shè)計(jì)技術(shù)、質(zhì)量、價(jià)格均不可控本地產(chǎn)/OEM 自主可控IDC2011年數(shù)據(jù)外企當(dāng)?shù)?安全威脅外企霸占國(guó)內(nèi)市場(chǎng)：國(guó)外存儲(chǔ)廠商占據(jù)國(guó)內(nèi)80%以上的市場(chǎng)份額，其中金融業(yè)占據(jù)90%，交通行業(yè)超過(guò)80%，電信行業(yè)超過(guò)90%；威脅國(guó)家安全：CNNVD（國(guó)家信息安全漏洞庫(kù)）統(tǒng)計(jì)外企在國(guó)內(nèi)重大信息安全漏洞多達(dá)6萬(wàn)個(gè)存儲(chǔ)的中國(guó)芯專(zhuān)用/通用處

11、理器CPU 自研ARM64，融合存儲(chǔ)特性(Raid5/6/DIF/Multicast/DMA)SHA1、Dedup加速卡 最少磁盤(pán)，最少電力，滿足海量數(shù)據(jù)備份需求 加速卡實(shí)現(xiàn)5GB/s = 18TB/Hr更低成本，更高性價(jià)比智能融合IO芯片 Hi1812 10GE,RDMA(10GE),TOE,IOE, FCoE,FC 8G/16G all in one更低成本，更高性價(jià)比PCI-E SSD控制芯片Hi1821 支持PCI-E 3.0接口 支持SAS 3.0協(xié)議 SAS SSD控制芯片 Hi1811 業(yè)界第一顆支持SAS 2.0的ASIC控制器發(fā)布首款全固態(tài)存儲(chǔ)系統(tǒng)Dorado 2100Red

12、-B Prime 可編程引擎（TOE、IOE、FCoE，RDMA，vSwitch、VTEP和Openflow等協(xié)議卸載） PCI-E over Fabric，IO擴(kuò)展和共享，數(shù)據(jù)加密壓縮Red-B Prime提供最全系列全國(guó)產(chǎn)存儲(chǔ)產(chǎn)品大數(shù)據(jù)和云存儲(chǔ)數(shù)據(jù)保護(hù)磁盤(pán)存儲(chǔ)存儲(chǔ)軟件HDP3500E*VTL6900*固態(tài)存儲(chǔ) HyperSnap HyperClone 數(shù)據(jù)復(fù)制軟件存儲(chǔ)管理軟件HyperCopy HyperReplicationDorado2100 G2Dorado510060萬(wàn) IOPS訪問(wèn)延遲低至500s100萬(wàn) IOPS訪問(wèn)延遲低至500sHVS85T/HVS88TS2600T/S55

13、00T/S5600T/S5800T216 控制器可擴(kuò)展至3TB Cache可擴(kuò)展至 3216 塊硬盤(pán)05s RPOS6800T可擴(kuò)展至384GB Cache可擴(kuò)展至1440 塊硬盤(pán)25萬(wàn)SPC-1性能統(tǒng)一存儲(chǔ)，同時(shí)支持塊和文件應(yīng)用可擴(kuò)展至192GB Cache可擴(kuò)展至1440 塊硬盤(pán)S2200T雙控制器支持4GB Cache支持204 塊硬盤(pán)SmartQoSSmartMotionSmartTier UltrPathUltraVRUltraAPMSmartCacheSmartThinSmartX InsightManagement ConsoleInfraControlCSS分布式存儲(chǔ)系統(tǒng)N9000大數(shù)據(jù)存儲(chǔ)系統(tǒng)支持Posix/NFS/CIFS/JDBC/ODBC接口多GE互聯(lián)UDS海量存儲(chǔ)系統(tǒng)3288節(jié)點(diǎn)，40PB容量擴(kuò)展，500萬(wàn)OPS 10GE/IB高性能互聯(lián)標(biāo)準(zhǔn)Amazon S3接口EB級(jí)容量擴(kuò)展高密設(shè)計(jì)，單柜2PB容量N8500集群NAS系統(tǒng)*全Active架構(gòu)支持文件和塊接口224節(jié)點(diǎn)，15PB容量擴(kuò)展，300萬(wàn)OPS 動(dòng)態(tài)分級(jí)存儲(chǔ)一體化備份設(shè)備PB級(jí)海量備份集群架構(gòu)同時(shí)支持Inline與后端重刪VIS