浪潮云海大數(shù)據(jù)解決方案

1、精選優(yōu)質(zhì)文檔-傾情為你奉上浪潮云海大數(shù)據(jù)一體機(jī)解決方案高端服務(wù)器研發(fā)部高端容錯(cuò)計(jì)算機(jī)產(chǎn)品部2013.1目錄一 產(chǎn)品簡(jiǎn)介為應(yīng)對(duì)大數(shù)據(jù)時(shí)代的到來(lái)，浪潮集團(tuán)適時(shí)推出浪潮云海大數(shù)據(jù)一體機(jī)，重點(diǎn)面向行業(yè)大數(shù)據(jù)應(yīng)用，是一體化數(shù)據(jù)處理的解決方案。采用新型技術(shù)體系架構(gòu)，整合軟硬件系統(tǒng)，涵蓋數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)處理、數(shù)據(jù)呈現(xiàn)等全環(huán)節(jié)。浪潮云海大數(shù)據(jù)一體機(jī)是公安、金融、電信、交通、醫(yī)療、企業(yè)等各個(gè)行業(yè)用戶的大數(shù)據(jù)解決方案理想之選。1.1 浪潮云海大數(shù)據(jù)一體機(jī)總體架構(gòu)1.2 系列化產(chǎn)品SDA-1：l 滿配：CPU：480Core；內(nèi)存：12TB；存儲(chǔ)容量： 144TB；網(wǎng)絡(luò)：1Gbps、10Gbps或者40Gbpsl 支

2、持線性擴(kuò)展l 適合數(shù)據(jù)處理應(yīng)用：模式計(jì)算，商業(yè)智能，醫(yī)療數(shù)據(jù)挖掘等。計(jì)算能力、I/O能力、存儲(chǔ)能力均衡。SDA-2：l 滿配： CPU：288Core；內(nèi)存：6912GB；存儲(chǔ)容量： 540TB；網(wǎng)絡(luò): 1Gbps、 10Gbps或者40Gbpsl 支持線性擴(kuò)展l 適合處理密集型的重載應(yīng)用: 視頻處理，圖片處理分析，圖像渲染，在線交易等?？芍貥?gòu)加速器件或眾核處理器，硬件加速。二 關(guān)鍵模塊介紹HDFS分布式存儲(chǔ)解決數(shù)據(jù)如何存儲(chǔ)的問(wèn)題，Map/Reduce解決數(shù)據(jù)如何處理問(wèn)題，HBase解決實(shí)時(shí)數(shù)據(jù)庫(kù)問(wèn)題，Hive解決基于SQL的數(shù)據(jù)分析和挖掘。2.1 Hadoop分布式文件系統(tǒng)：使用低成本存儲(chǔ)和

3、服務(wù)器構(gòu)建 存放PB級(jí)別的海量數(shù)據(jù) 高可擴(kuò)展性，實(shí)際生產(chǎn)環(huán)境擴(kuò)展至4000個(gè)節(jié)點(diǎn) 高可靠性和容錯(cuò)性，數(shù)據(jù)自動(dòng)復(fù)制 ，可自我修復(fù) 高帶寬，高并發(fā)訪問(wèn) 2.2 Hadoop MapReduce計(jì)算框架：為離線數(shù)據(jù)分析而設(shè)計(jì)，基本上是個(gè)利用數(shù)據(jù)并行性進(jìn)行分布運(yùn)算而后匯總結(jié)果的計(jì)算框架。通用的計(jì)算框架，松耦合，非常利于線性擴(kuò)展。與HDFS一起使用，具有容錯(cuò)特性，數(shù)據(jù)本地化處理，通過(guò)移動(dòng)計(jì)算，而非移動(dòng)數(shù)據(jù)來(lái)實(shí)現(xiàn)高效數(shù)據(jù)處理。分析問(wèn)題能夠被并行化，且輸入數(shù)據(jù)集可以被切分 一個(gè)Map函數(shù)，在第一階段計(jì)算<Key,Value>對(duì) 一個(gè)Reduce函數(shù)，在第二階段用于匯總Map函數(shù)的結(jié)果 2.3 H

4、Base 分布式數(shù)據(jù)庫(kù)HBase是一個(gè)分布式的、按列存儲(chǔ)的、多維表結(jié)構(gòu)的實(shí)時(shí)數(shù)據(jù)庫(kù), 為高速在線數(shù)據(jù)服務(wù)而設(shè)計(jì) NoSQL 面向列、可壓縮，有效降低磁盤(pán)I/O，提高利用率。 多維表，四個(gè)維度，其中三個(gè)維度可變，適合描述復(fù)雜嵌套關(guān)系。 靈活的表結(jié)構(gòu)，可動(dòng)態(tài)改變和增加（包括行、列和時(shí)間戳）。 支持單行的ACID事務(wù)處理 分布式系統(tǒng) 高性能，支持高速并發(fā)寫(xiě)入和高并發(fā)查詢； 可擴(kuò)展，數(shù)據(jù)自動(dòng)切分和分布，可動(dòng)態(tài)擴(kuò)容，無(wú)需停機(jī)； 高可用性，建立在HDFS分布式文件系統(tǒng)之上。 2.4 Hive數(shù)據(jù)倉(cāng)庫(kù)Hive是一個(gè)建立在hadoop之上的數(shù)據(jù)倉(cāng)庫(kù)，用于查詢和分析結(jié)構(gòu)化海量數(shù)據(jù) 采用HDFS進(jìn)行數(shù)據(jù)存儲(chǔ) 采用

5、Map/Reduce進(jìn)行數(shù)據(jù)操作 基本特點(diǎn): 提供類(lèi)似于SQL的查詢語(yǔ)言 高擴(kuò)展性(scale-out)，動(dòng)態(tài)擴(kuò)容無(wú)須停機(jī) 針對(duì)海量數(shù)據(jù)的高性能查詢和分析系統(tǒng) 提供靈活的擴(kuò)展性 復(fù)雜數(shù)據(jù)類(lèi)型，擴(kuò)展函數(shù)和腳本等 三 浪潮云海大數(shù)據(jù)一體機(jī)解決方案優(yōu)勢(shì)3.1 高性能l 專(zhuān)用的大數(shù)據(jù)存儲(chǔ)服務(wù)器：針對(duì)大數(shù)據(jù)的應(yīng)用特點(diǎn)，浪潮憑借在服務(wù)器及存儲(chǔ)方面的領(lǐng)先優(yōu)勢(shì)，自主開(kāi)發(fā)了大數(shù)據(jù)存儲(chǔ)服務(wù)器，具備高密度、大容量存儲(chǔ)特性。l 胖節(jié)點(diǎn)加速方案：胖節(jié)點(diǎn)擁有英特爾至強(qiáng)平臺(tái)的最強(qiáng)性能、最大內(nèi)存、最高RAS特性保障。l 閃存加速技術(shù)：將閃存盤(pán)放在整個(gè)計(jì)算緩存里面做高速緩存，針對(duì)不同應(yīng)用類(lèi)型，實(shí)現(xiàn)全局的算法，降低冗余率，使整個(gè)

6、平臺(tái)的計(jì)算節(jié)點(diǎn)、存儲(chǔ)節(jié)點(diǎn)大大提高運(yùn)行效率。l 高速通信網(wǎng)絡(luò)：通信網(wǎng)絡(luò)選用性能領(lǐng)先的萬(wàn)兆網(wǎng)絡(luò)或者IB網(wǎng)絡(luò)，實(shí)現(xiàn)一體機(jī)內(nèi)部的高速互聯(lián)，消除網(wǎng)絡(luò)瓶頸。l 軟件性能優(yōu)化ü IO瓶頸易于解決 ü 可以發(fā)揮大規(guī)模并行運(yùn)算優(yōu)勢(shì) ü 支持大規(guī)模并行裝載，裝載前無(wú)需數(shù)據(jù)格式化，節(jié)點(diǎn)越多裝載速度越快 ü 優(yōu)化系統(tǒng)任務(wù)調(diào)度策略，對(duì)任務(wù)實(shí)現(xiàn)實(shí)時(shí)監(jiān)控，ü 動(dòng)態(tài)調(diào)整任務(wù)執(zhí)行資源，減少慢任務(wù)數(shù)量，提高整體性能 3.2 高可靠性l 服務(wù)器本身冗余特性：節(jié)點(diǎn)的硬盤(pán)、風(fēng)扇、電源等關(guān)鍵部件都是冗余設(shè)計(jì)，保障了節(jié)點(diǎn)本身的可靠性。l 鏈路冗余：網(wǎng)絡(luò)可實(shí)現(xiàn)物理冗余設(shè)計(jì)，避免單點(diǎn)故障對(duì)系統(tǒng)

7、的影響。l 采用Reed-Solomon算法，優(yōu)化分布式散列數(shù)據(jù)布局，滿足文件高并發(fā)和高帶寬雙重需求同時(shí)平衡數(shù)據(jù)冗余度。采用兩副本加編碼的方式相對(duì)三副本最大可實(shí)現(xiàn)30%空間節(jié)省 。l 智能失敗任務(wù)識(shí)別：自動(dòng)將任務(wù)轉(zhuǎn)移到備份數(shù)據(jù)節(jié)點(diǎn)執(zhí)行，單個(gè)節(jié)點(diǎn)的故障不影響整個(gè)任務(wù)的執(zhí)行，有效應(yīng)對(duì)計(jì)算單元失效。3.3 高性價(jià)比l Hadoop的誕生本身就是為了在低成本的通用硬件集群上運(yùn)行分布式計(jì)算框架。l 浪潮云海大數(shù)據(jù)一體機(jī)具備優(yōu)異的線性可擴(kuò)展，滿足了未來(lái)業(yè)務(wù)量增長(zhǎng)的需求，有效保護(hù)了現(xiàn)有投資，降低總體CTO。3.4 易管理l 本地管理平臺(tái)：每套大數(shù)據(jù)一體機(jī)中都配有本地管理平臺(tái)，使系統(tǒng)管理人員方便集中控管一體機(jī)

8、。l 遠(yuǎn)程集中管理平臺(tái)：HDFS配置界面HBase配置界面監(jiān)控管理界面3.5 專(zhuān)業(yè)化服務(wù)l 實(shí)施服務(wù)：云海大數(shù)據(jù)一體機(jī)會(huì)在出廠前進(jìn)行產(chǎn)品預(yù)裝及嚴(yán)格的可靠性測(cè)試，保障產(chǎn)品的品質(zhì)。產(chǎn)品實(shí)施實(shí)現(xiàn)客戶現(xiàn)場(chǎng)的一體化交付，真正做到插電即用，極大地降低了客戶利用大數(shù)據(jù)的門(mén)檻。l 售后服務(wù)：浪潮建立了以山東濟(jì)南客戶服務(wù)總部為中心、其他各省、直轄市設(shè)立服務(wù)分中心的覆蓋全國(guó)的完備售后體系，所有客服工程師都是原廠經(jīng)驗(yàn)豐富的服務(wù)工程師。浪潮已經(jīng)連續(xù)九年獲得售后服務(wù)滿意度金獎(jiǎng)。四 競(jìng)爭(zhēng)性分析4.1 跟傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)對(duì)比分析機(jī)型浪潮云海大數(shù)據(jù)一體機(jī)Oracle Exadata一體機(jī)類(lèi)型新型的Hadoop解決方案?jìng)鹘y(tǒng)關(guān)系

9、型數(shù)據(jù)庫(kù)（RDBMS）適用場(chǎng)景 數(shù)據(jù)規(guī)模10TBEB規(guī)模 結(jié)構(gòu)化，半結(jié)構(gòu)化，非結(jié)構(gòu)化混合存儲(chǔ)和處理 海量數(shù)據(jù)的ETL和數(shù)據(jù)挖掘分析應(yīng)用 海量數(shù)據(jù)的高并發(fā)隨機(jī)訪問(wèn) 數(shù)據(jù)規(guī)模TB以下 結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)和處理 聯(lián)機(jī)交易應(yīng)用 GB級(jí)別的數(shù)據(jù)分析和ETL架構(gòu) 無(wú)共享MPP架構(gòu) 單一實(shí)例 Share-all架構(gòu)可用性 默認(rèn)三份數(shù)據(jù)冗余，用戶可依據(jù)需求進(jìn)行調(diào)整 備用元數(shù)據(jù)節(jié)點(diǎn)，故障后自動(dòng)切換 數(shù)據(jù)損失后，可以在剩余機(jī)器上自愈 故障節(jié)點(diǎn)作業(yè)可以轉(zhuǎn)移到其它節(jié)點(diǎn) 無(wú)需第三方支持，HBase提供基于日志的容災(zāi)解決方案 大部分產(chǎn)品依賴(lài)RAID技術(shù)進(jìn)行數(shù)據(jù)冗余 大部分產(chǎn)品不具備數(shù)據(jù)自愈能力，需要數(shù)據(jù)備份 節(jié)點(diǎn)故障后，S

10、QL任務(wù)中斷，不能自動(dòng)轉(zhuǎn)移 部分主流商業(yè)數(shù)據(jù)庫(kù)，無(wú)需第三方支持提供基于日志的容災(zāi)解決方案性能 IO瓶頸易于解決 可以發(fā)揮大規(guī)模并行運(yùn)算優(yōu)勢(shì) 支持大規(guī)模并行裝載，節(jié)點(diǎn)越多裝載速度越快 IO瓶頸難以解決 難以發(fā)揮大規(guī)模并行運(yùn)算優(yōu)勢(shì) 裝載性能有限，數(shù)據(jù)需要格式化可擴(kuò)展性 存儲(chǔ)能力，性能，并發(fā)訪問(wèn)，既可縱向擴(kuò)展硬件得到提升，也可橫向增加節(jié)點(diǎn)進(jìn)行線性擴(kuò)展 國(guó)內(nèi)外均有大量數(shù)百，上千節(jié)點(diǎn)的部署案例 海量數(shù)據(jù)環(huán)境中，可聯(lián)機(jī)改變數(shù)據(jù)結(jié)構(gòu) 存儲(chǔ)能力，性能，并發(fā)訪問(wèn)能力主要通過(guò)硬件縱向擴(kuò)展提升，難以進(jìn)行線性擴(kuò)展 Share-all集群架構(gòu)規(guī)模難以突破40節(jié)點(diǎn) 海量數(shù)據(jù)環(huán)境下，改變數(shù)據(jù)結(jié)構(gòu)代價(jià)大，且影響業(yè)務(wù)訪問(wèn)接口

11、標(biāo)準(zhǔn)文件訪問(wèn)接口（FTP，NFS等） 部分兼容SQL92（ODBC/JDBC） Native JAVA訪問(wèn)接口 Rest訪問(wèn)接口 Thrift訪問(wèn)接口 完整的SQL訪問(wèn)接口（ODBC/JDBC,專(zhuān)有客戶端等） 豐富的開(kāi)發(fā)，集成，管理工具其它 低廉的軟硬件成本，完全開(kāi)放架構(gòu) 無(wú)字符集選擇問(wèn)題 支持基本權(quán)限管理和透明數(shù)據(jù)加密解密 以開(kāi)源文檔為基礎(chǔ)，提供新增特性接口和使用說(shuō)明 高昂的軟硬件成本 需要事先確定字符集 部分產(chǎn)品支持完善權(quán)限管理和透明數(shù)據(jù)加密解密 完整的文檔4.2 跟開(kāi)源Hadoop對(duì)比分析浪潮云海大數(shù)據(jù)一體機(jī)直接使用開(kāi)源Hadoop新型的Hadoop解決方案開(kāi)源Hadoop 一體化交付方

12、案型產(chǎn)品，經(jīng)過(guò)系統(tǒng)優(yōu)化，實(shí)現(xiàn)了軟件、硬件的最優(yōu)性能 全面測(cè)試的企業(yè)級(jí)發(fā)行版，保證長(zhǎng)期穩(wěn)定運(yùn)行，集成最新開(kāi)源的和自行開(kāi)發(fā)的補(bǔ)丁，用戶可以及時(shí)修正漏洞保證各個(gè)部件之間的一致性，使應(yīng)用順滑運(yùn)行 無(wú)相關(guān)經(jīng)驗(yàn)，單純地進(jìn)行硬件和軟件環(huán)境的搭建 針對(duì)HDFS數(shù)據(jù)節(jié)點(diǎn)的讀寫(xiě)選取提供高級(jí)均衡算法，提高系統(tǒng)擴(kuò)展性，適合不同配置服務(wù)器組成的集群 簡(jiǎn)單均衡算法，容易在慢速服務(wù)器或熱點(diǎn)服務(wù)器上產(chǎn)生讀寫(xiě)瓶頸，最慢服務(wù)器成為系統(tǒng)性能瓶頸 根據(jù)讀請(qǐng)求并發(fā)程度動(dòng)態(tài)增加熱點(diǎn)數(shù)據(jù)的復(fù)制倍數(shù)，提高M(jìn)ap/Reduce任務(wù)擴(kuò)展性 無(wú)法自動(dòng)擴(kuò)充倍數(shù)功能，在集中讀取時(shí)擴(kuò)展性不強(qiáng)，存在性能瓶頸 為HDFS的NameNode提供雙機(jī)熱備方案，

13、提高可靠性 主NameNode節(jié)點(diǎn)失效時(shí)，自動(dòng)切換到備用NameNode NameNode是系統(tǒng)的單點(diǎn)破損點(diǎn)，一旦失效系統(tǒng)將無(wú)法讀寫(xiě) 實(shí)現(xiàn)跨區(qū)域數(shù)據(jù)中心的HBase超級(jí)大表，用戶應(yīng)用可實(shí)現(xiàn)位置透明的數(shù)據(jù)讀寫(xiě)訪問(wèn)和全局匯總統(tǒng)計(jì) 允許跨多個(gè)物理數(shù)據(jù)中心建立分布式大表，突破單一數(shù)據(jù)中心由于空間和供電限制無(wú)法建立超大集群的限制 無(wú)此功能，無(wú)法進(jìn)行跨數(shù)據(jù)中心部署 可將HBase表復(fù)制到異地集群，并提供單向、雙向復(fù)制功能，實(shí)現(xiàn)異地容災(zāi) 沒(méi)有成熟的復(fù)制方案 在HBase中，根據(jù)數(shù)據(jù)局部性、服務(wù)器Region數(shù)、表的Region數(shù)來(lái)實(shí)現(xiàn)負(fù)載均衡，適合多用戶共享集群創(chuàng)建多張大表的應(yīng)用 只根據(jù)Region數(shù)量進(jìn)行

14、負(fù)載均衡，容易產(chǎn)生系統(tǒng)不均衡 基于HBase的分布式聚合函數(shù)，比傳統(tǒng)方式提高10倍以上效率 無(wú)成熟方案 提供獨(dú)有的基于瀏覽器的集群安裝和管理界面，解決開(kāi)源版本管理困難的問(wèn)題，提供網(wǎng)頁(yè)、郵件方式的系統(tǒng)異常報(bào)警 無(wú)圖形化管理界面 完善的售后服務(wù)體系 無(wú)售后服務(wù)五 成功案例5.1 某城市智能交通系統(tǒng)項(xiàng)目背景l(fā) 年過(guò)車(chē)信息數(shù)據(jù)量達(dá)數(shù)百億級(jí)記錄規(guī)模l 市局和區(qū)縣的數(shù)據(jù)中心兩級(jí)架構(gòu)，分布式存儲(chǔ)，集中管理。 l 支持多條件組合快速查詢：卡口名稱(chēng)、車(chē)道名稱(chēng)、車(chē)輛類(lèi)型、車(chē)牌類(lèi)型、車(chē)牌號(hào)碼、車(chē)身顏色、車(chē)牌顏色、車(chē)速范圍、車(chē)長(zhǎng)范圍、號(hào)牌段范圍、時(shí)間范圍。 l 支持海量過(guò)車(chē)信息的模糊匹配檢索。l 支持各種統(tǒng)計(jì)分析、數(shù)

15、據(jù)挖掘：車(chē)輛違章率統(tǒng)計(jì)、過(guò)車(chē)識(shí)別率統(tǒng)計(jì)、套牌分析、關(guān)聯(lián)性分析、黑名單等系統(tǒng)需求l 數(shù)據(jù)量（過(guò)車(chē)記錄+違章圖片+數(shù)據(jù)冗余+異地容災(zāi)）： 6PBl 數(shù)據(jù)采集終端： 12000個(gè)，寫(xiě)入性能 >24000記錄/秒l 用戶數(shù)： >1000過(guò)車(chē)記錄單個(gè)區(qū)數(shù)據(jù)中心全市數(shù)據(jù)總和每秒鐘 6MB/s1200 條記錄/s120MB/s24000條記錄/秒每小時(shí)20GB/hour432萬(wàn)條/小時(shí)400GB/hour8640萬(wàn)條/小時(shí)每天480GB/day1億條/天9.6TB/day20億條/天每月14.4TB/month30億條/月288TB/month600億條/月三個(gè)月43.2TB/3months90

16、億條/三個(gè)月0.8PB/3months1800億條/三個(gè)月違章車(chē)輛圖片數(shù)據(jù)單個(gè)區(qū)數(shù)據(jù)中心全市數(shù)據(jù)總和每小時(shí) 1.8GB/h36GB/h每天43.2GB/day864GB/day每月1.2TB/month24TB/month三個(gè)月3.6TB/3months72TB/3months難點(diǎn)分析傳統(tǒng)數(shù)據(jù)庫(kù)方案潛在問(wèn)題:l 初始投入和后期維護(hù)，擴(kuò)展成本巨大 l 人為分庫(kù)，靈活性差。l 混合數(shù)據(jù)類(lèi)型支持 l 規(guī)模僅能支持單個(gè)區(qū)域中心l 應(yīng)用可靠性差，難以保證業(yè)務(wù)連續(xù)性l 代碼復(fù)雜l 系統(tǒng)可維護(hù)性浪潮云海大數(shù)據(jù)一體機(jī)解決方案拓?fù)鋱D智能交通應(yīng)用技術(shù)方案規(guī)模、指標(biāo)、特點(diǎn)l 該方案使用SDA-1、SDA-2，共計(jì)5

17、80節(jié)點(diǎn)l 集群性能：寫(xiě)入條記錄/秒，20000主鍵查詢/秒l 系統(tǒng)特點(diǎn)：ü 解決了海量過(guò)車(chē)信息（結(jié)構(gòu)文本+圖片）存儲(chǔ)問(wèn)題ü 解決了分布式數(shù)據(jù)查詢問(wèn)題，應(yīng)用系統(tǒng)可以接入任何一個(gè)本地?cái)?shù)據(jù)中心，并訪問(wèn)全庫(kù)數(shù)據(jù)ü 系統(tǒng)提供了易于使用的API，方便進(jìn)行二次開(kāi)發(fā)ü 系統(tǒng)做了較多優(yōu)化，性能很好的滿足了項(xiàng)目的實(shí)時(shí)性要求ü 系統(tǒng)穩(wěn)定性強(qiáng)，建立在X86服務(wù)器平臺(tái)，自動(dòng)進(jìn)行數(shù)據(jù)遷移和數(shù)據(jù)恢復(fù)5.2 某省級(jí)運(yùn)營(yíng)商清帳單查詢系統(tǒng)原有方案：小型機(jī)+存儲(chǔ)+Oraclel 成本高、擴(kuò)展性差ü 服務(wù)器采用P595的兩個(gè)分區(qū)（48CPU），部署不同的地市，互為主備；存

18、儲(chǔ)使用2臺(tái)DS8300，RAID5方式，有效容量54TBü 數(shù)據(jù)量大，增長(zhǎng)迅速，但數(shù)據(jù)庫(kù)的擴(kuò)容工程施工風(fēng)險(xiǎn)高l 數(shù)據(jù)風(fēng)險(xiǎn)高ü 災(zāi)難恢復(fù)依賴(lài)磁帶，業(yè)務(wù)中斷時(shí)間長(zhǎng)l 效率低ü 關(guān)系數(shù)據(jù)庫(kù)處理困難，查詢慢（超過(guò)15秒）ü 關(guān)系數(shù)據(jù)庫(kù)入庫(kù)慢，常有清單文件積壓，不能實(shí)時(shí)入庫(kù)，從而不能實(shí)時(shí)查詢新清賬單中心方案l 底層為浪潮提供的大數(shù)據(jù)解決方案平臺(tái)，上層由應(yīng)用開(kāi)發(fā)商開(kāi)發(fā)業(yè)務(wù)程序，對(duì)入庫(kù)和查詢進(jìn)行業(yè)務(wù)處理。l 這種架構(gòu)有效的屏蔽了底層的功能，對(duì)上層來(lái)說(shuō)，只需要調(diào)研相關(guān)接口即可。數(shù)據(jù)的分發(fā)、復(fù)制、任務(wù)調(diào)度、容錯(cuò)都是由系統(tǒng)軟件來(lái)控制。大規(guī)模的PC具備強(qiáng)大的處理能力和網(wǎng)絡(luò)帶寬，同時(shí)具備線性的橫向擴(kuò)展能力。3份冗余的數(shù)據(jù)保證對(duì)硬件的容錯(cuò)和讀處理的支持。l 存儲(chǔ)使用69臺(tái)PC機(jī)身硬盤(pán)作分布式存儲(chǔ)DataNode，每臺(tái)PC配置6TB磁盤(pán)容量，按每份數(shù)據(jù)