MPP數(shù)據(jù)庫對比總結(jié)

1、概述隨著海量數(shù)據(jù)問題的出現(xiàn)，海量管理能力，多類型，變化快，高可用性，低成本，高 端可擴(kuò)展性等需求給企業(yè)數(shù)據(jù)戰(zhàn)略帶來了巨大的挑戰(zhàn)。企業(yè)數(shù)據(jù)倉庫、數(shù)據(jù)中心的技術(shù)選 型變得尤其重要！所以在選型之前，有必要對目前市場上各種大數(shù)據(jù)量的解決方案進(jìn)行分 析。主流分布式并行處理數(shù)據(jù)庫產(chǎn)品介紹2.1 Greenplum2.1.1 基礎(chǔ)架構(gòu)Greenplum 是基于 Hadoop 的一款分布式數(shù)據(jù)庫產(chǎn)品，在處理海量數(shù)據(jù)方面相比傳統(tǒng)數(shù) 據(jù)庫有著較大的優(yōu)勢。Greenplum 整體架構(gòu)如下圖：MasterSeversNetworkSegmentSevers數(shù)據(jù)存儲MasterSeversNetworkSegmentS

2、evers數(shù)據(jù)存儲數(shù)據(jù)加載數(shù)據(jù)庫由 Mas ter Severs 和 Segmen t Severs 通過 Int erconnect 互聯(lián)組成。Mas ter主機(jī)負(fù)責(zé)：建立與客戶端的連接和管理；SQL的解析并形成執(zhí)行計(jì)劃；執(zhí)行計(jì) 劃向Segme nt的分發(fā)收集Segment的執(zhí)行結(jié)果；Mas ter不存儲業(yè)務(wù)數(shù)據(jù)，只存儲數(shù)據(jù)字典。Segment主機(jī)負(fù)責(zé)：業(yè)務(wù)數(shù)據(jù)的存儲和存?。挥脩舨樵僑QL的執(zhí)行。2.1.2主要特性Greenplum整體有如下技術(shù)特點(diǎn)：Shared-nothing 架構(gòu)數(shù)據(jù)庫、硬件資源，節(jié)點(diǎn)之間通過網(wǎng)絡(luò)來通信?；?gNe t Soft ware Int erconnec t

3、數(shù)據(jù)庫的內(nèi)部通信通過基于超級計(jì)算的“軟件Switch內(nèi)部連接層，基于通用的gNet （GigE, lOGigE） NICs/switches在節(jié)點(diǎn)間傳遞消息和數(shù)據(jù)，采用高擴(kuò)展協(xié)議，支持?jǐn)U展 到1000個以上節(jié)點(diǎn)。并行加載技術(shù)利用并行數(shù)據(jù)流引擎，數(shù)據(jù)加載完全并行，加載數(shù)據(jù)可達(dá)到4。5T/小時(shí)（理想配置）。 并且可以直接通過SQL語句對外部表進(jìn)行操作支持行、列壓縮存儲技術(shù)海量數(shù)據(jù)庫支持ZLIB和QUICKLZ方式的壓縮，壓縮比可到10：1。壓縮數(shù)據(jù)不一定會 帶來性能的下降，壓縮表通過利用空閑的CPU資源，而減少I/O資源占用。海量數(shù)據(jù)庫除支持主流的行存儲模式外，還支持列存儲模式。如果常用的查詢只取

4、表 中少量字段，則列模式效率更高，如查詢需要取表中的大量字段，行模式效率更高。海量數(shù)據(jù)庫的多種壓縮存儲技術(shù)在提高數(shù)據(jù)存儲能力的同時(shí)，也可根據(jù)不同應(yīng)用需求 提高查詢的效率2.1.3主要局限列存儲模式的使用有限制，不支持delete/update操作。用戶不可靈活控制事務(wù)的提交，用戶提交的處理將被自動視作整體事務(wù)，整體提交, 整體回滾。數(shù)據(jù)庫需要額外的空間清理維護(hù)（vacuum），給數(shù)據(jù)庫維護(hù)帶來額外的工作量。用戶不能靈活分配或控制服務(wù)器資源。對磁盤IO有比較高的要求。備份機(jī)制還不完善，沒有增量備份。2.2 Vertica2.2.1基礎(chǔ)架構(gòu)與以往常見的行式關(guān)系型數(shù)據(jù)庫不同，Vertica是一種基于

5、列存儲(Column-Oriented) 的數(shù)據(jù)庫體系結(jié)構(gòu)，這種存儲機(jī)構(gòu)更適合在數(shù)據(jù)倉庫存儲和商業(yè)智能方面發(fā)揮特長。常見的RDBMS都是面向行(Row-Oriented Database)存儲的，在對某一列匯總計(jì)算 的時(shí)候幾乎不可避免的要進(jìn)行額外的I/O尋址掃描，而面向列存儲的數(shù)據(jù)庫能夠連續(xù)進(jìn)行 I/O操作，減少了 I/O開銷，從而達(dá)到數(shù)量級上的性能提升。同時(shí)，Vertica支持海量并行存儲(MPP)架構(gòu)，實(shí)現(xiàn)了完全無共享，因此擴(kuò)展容易， 可以利用廉價(jià)的硬件來獲取高的性能，具有很高的性價(jià)比。如下圖，展示的是單節(jié)點(diǎn)上的Vertica的基本體系結(jié)構(gòu)。Vertica體系結(jié)構(gòu)作為關(guān)系型數(shù)據(jù)庫，Vert

6、ica的查詢SQL也是在前端被解析和優(yōu)化的。但與傳統(tǒng)的關(guān) 系型數(shù)據(jù)庫有所不同，Vertica內(nèi)部是混合存儲的，包括兩種不同的存儲結(jié)構(gòu)：寫優(yōu)化器 (WOS)和讀優(yōu)化器(ROS)。寫優(yōu)化器 WOS (Wri te-Op ti mized St ore)是位于主存儲器上的一個數(shù)據(jù)結(jié)構(gòu)，用于有效的支持?jǐn)?shù)據(jù)插入和更新操作；數(shù)據(jù)的存 放是無序的，非壓縮的。讀優(yōu)化器 ROS (Read-Op timized St ore)是磁盤物理存儲，存放的是排序和壓縮后的數(shù)據(jù)庫大塊數(shù)據(jù)，因此這里的查詢相比于 WOS 性能更好。Tuple Mover 進(jìn)程是Vertica內(nèi)部的一個進(jìn)程，定期的以大數(shù)據(jù)塊的形式把數(shù)據(jù)從WO

7、S移到ROS，由于 是對整個WOS操作，TupleMover 一次能非常有效的排序很多記錄，最后批量把它們寫入 磁盤。在Vertica內(nèi)部，不論是WOS還是ROS都是按列存儲的。2.2.2主要特性Vertica 的關(guān)鍵特性：列存儲(Column-orien tation)由于大多數(shù)的查詢都是要從磁盤讀取數(shù)據(jù)，因此可以說 disk I/O 在很大程度上決定 了一個查詢的最終響應(yīng)時(shí)間。壓縮機(jī)制(Aggressive Compression)在數(shù)據(jù)存儲方面， Vertica 利用內(nèi)部的特定算法對數(shù)據(jù)進(jìn)行壓縮處理。這樣的機(jī)制會 大大減少disk I/O的時(shí)間(D)，同時(shí)由于Vertica對掃描和聚合等

8、操作也在內(nèi)部進(jìn)行了 優(yōu)化，可以直接處理壓縮后的數(shù)據(jù)，這樣CPU的工作負(fù)載(C)也減少了。如上例中的AVG 聚合函數(shù)，Vertica是不需要將壓縮數(shù)據(jù)先做類似解壓這種處理的，因此查詢性能得到優(yōu) 化。讀優(yōu)化存儲(Read-Optimized Storage)Vertica的數(shù)據(jù)庫存儲容器ROS Container專門為讀操作進(jìn)行了優(yōu)化設(shè)計(jì)，且其中的 數(shù)據(jù)是經(jīng)過了排序和壓縮處理的，即每個磁盤頁上不會有空白空間，而傳統(tǒng)的數(shù)據(jù)庫一般 會在每頁上預(yù)留空間以便日后的insert操作來使用。4多種排序方式的冗余存儲為了高可用性和備份恢復(fù)的需要，Vertica會按照不同的排序方式對數(shù)據(jù)做冗余存儲, 這不但避免了

9、大量的日志操作，也為查詢帶來了便利。Vertica的查詢優(yōu)化器會自動選擇 最優(yōu)的排序方式來完成特定的查詢。5并行無共享設(shè)計(jì)Vertica支持完全無共享海量并行存儲(MPP)架構(gòu)，隨著硬件Server的增加，多個 CPU 并行處理，性能也可以得到線性的擴(kuò)展，這樣用戶使用廉價(jià)的硬件就可以獲得較高的 性能改善。6其他管理特征除了有優(yōu)越的性能以外，Vertica在數(shù)據(jù)庫管理方面也進(jìn)行了非常人性化的設(shè)計(jì)。Vertica Database Designer 是一個界面化的日常管理工具，并且能為用戶作出詳盡 的DB層物理設(shè)計(jì)方案，大大減少了日后的性能調(diào)優(yōu)方面的開銷。Vertica 通過 K-Safety 值

10、的設(shè)置，完成了數(shù)據(jù)庫的備份恢復(fù)機(jī)制，并保證了高可用性。對于數(shù)據(jù)庫中的每個表每個列，Vertica都會在至少K+1個節(jié)點(diǎn)上存儲，如果有K個 節(jié)點(diǎn)宕機(jī)，依然能夠保證Vertica DB是完整可用的；當(dāng)損壞的節(jié)點(diǎn)恢復(fù)時(shí)，Vertica自 動完成節(jié)點(diǎn)間的熱交換，把其他節(jié)點(diǎn)上的正確數(shù)據(jù)恢復(fù)過來。通過這種機(jī)制也保證了 Vertcia庫的節(jié)點(diǎn)數(shù)目可以自由伸縮而不會影響到數(shù)據(jù)庫的操作。Vertica通過兩種技術(shù)來實(shí)現(xiàn)在線的持續(xù)數(shù)據(jù)裝載而不會影響到數(shù)據(jù)庫的訪問。Vertica通常運(yùn)行在快照隔離(Snapshot Isolation)模式下，該模式下查詢讀取的 是最近的一致的數(shù)據(jù)庫快照，這個快照是不能被并發(fā)的up

11、date或delete操作更改的，因 此查詢操作也不需要占用鎖，這種方式保證了數(shù)據(jù)裝載(inser t)和其他查詢能互不干擾。 另外，Vertica可以把數(shù)據(jù)直接裝載到W0S結(jié)構(gòu)中，W0S中的數(shù)據(jù)是不排序或索引的，所 以裝載速度會很快，然后再由Tuple Mover進(jìn)程在后臺把數(shù)據(jù)移入ROS中，由于TupleMover 的操作是大塊讀取(bulk-load)的，所以性能也很好。2.2.3主要局限不支持SQL存儲過程及函數(shù)，用戶需通過UDFs (User Defined Function,基于C+) 來自定義函數(shù)或過程。軟件授權(quán)按原始未經(jīng)壓縮的裸數(shù)據(jù)量計(jì)算。列存儲的一些劣勢，復(fù)雜查詢等性能不理想

12、。對內(nèi)存有比較高的要求。在國內(nèi)還沒有成功案例。2.3.1基礎(chǔ)架構(gòu)SYBASE IQ是Sybase公司推出的特別為數(shù)據(jù)倉庫設(shè)計(jì)的關(guān)系型數(shù)據(jù)庫。SYBASE IQ的 架構(gòu)與大多數(shù)關(guān)系型數(shù)據(jù)庫不同，它特別的設(shè)計(jì)用以支持大量并發(fā)用戶的即席查詢。其設(shè) 計(jì)與執(zhí)行進(jìn)程優(yōu)先考慮查詢性能，其次是完成批量數(shù)據(jù)更新的速度。而傳統(tǒng)關(guān)系型數(shù)據(jù)庫 引擎的設(shè)計(jì)既考慮在線的事務(wù)進(jìn)程又考慮數(shù)據(jù)倉庫(而事實(shí)上，往往更多的關(guān)注事務(wù)進(jìn)程)。Sybase在2010年推出的Sybase IQ 15.3就采用了全共享架構(gòu)的PlexQ技術(shù)，該技 術(shù)重新定義了企業(yè)范圍的業(yè)務(wù)信息，全共享架構(gòu)可輕松支持涉及海量數(shù)據(jù)集、海量并發(fā)用 戶數(shù)和獨(dú)特工作流

13、程的多種復(fù)雜分析樣式，大大增加了其效益。與其他 MPP 解決方案不同， Sybase IQ 的 PlexQ 網(wǎng)格技術(shù)能夠動態(tài)管理可輕松擴(kuò)展并且專用于不同組和流程的一系 列計(jì)算與存儲資源中的分析工作量，從而使其能夠以更低的成本更輕松地支持日益增長的 數(shù)據(jù)量以及快速增長的用戶社區(qū)。Sybase IQ 15.4采用業(yè)內(nèi)領(lǐng)先的MPP列式數(shù)據(jù)庫和最先進(jìn)的數(shù)據(jù)庫內(nèi)分析技術(shù)，并革 命性地加入MapReduce與Hadoop集成，以應(yīng)對大數(shù)據(jù)時(shí)代的分析挑戰(zhàn)，開啟洞察關(guān)鍵業(yè)務(wù) 的能力。Sybase IQ 15.4正在打破數(shù)據(jù)分析的壁壘，徹底改變“大數(shù)據(jù)分析”領(lǐng)域?；诔墒斓腜lexQ技術(shù)構(gòu)建的Sybase IQ

14、采用下圖所示的三層構(gòu)架：基本層：數(shù)據(jù)庫管理系統(tǒng)(DBMS)，這是一個全共享MPP分析DBMS引擎，是Sybase IQ 最大的獨(dú)特優(yōu)勢。第二層：分析應(yīng)用程序服務(wù)層，其提供C+和Java數(shù)據(jù)庫內(nèi)API,并可實(shí)現(xiàn)與外部 數(shù)據(jù)源的集成和聯(lián)邦；包括四種與Hadoop的集成方法?；谶@種PlexQ技術(shù)，Sybase IQ 15.4將大數(shù)據(jù)轉(zhuǎn)變成可指揮每個人都行動的情報(bào)信息, 從而在整個企業(yè)的用戶和業(yè)務(wù)流程范圍內(nèi)輕松具備大數(shù)據(jù)的分析能力。2.3.2主要特性Sybase IQ(154)的關(guān)鍵特性：?更強(qiáng)的數(shù)據(jù)管理大量增強(qiáng)的功能改善了 Sybase IQ的數(shù)據(jù)管理、部署和可維護(hù)性。更快速的批量加載：批量加載數(shù)

15、據(jù)通過ODBC和JDBC接口插入到Sybase中，從而實(shí) 現(xiàn)具有更高可擴(kuò)展性的應(yīng)用程序,同時(shí)可極大提高加載性能。更出色的文本壓縮： 更出色地對 VARCHAR、VARBINARY、CHAR 和 BINARY 壓縮可實(shí)現(xiàn) 以更高效率、更低成本部署高性能文本分析應(yīng)用程序，同時(shí)極大提高壓縮速率。?豐富的應(yīng)用程序Sybase IQ 15.4 增加了一系列 API 和工具，用于創(chuàng)建在數(shù)據(jù)庫內(nèi)運(yùn)行的高級分析算 法，并且能通過 PlexQ 網(wǎng)格能充分利用大規(guī)模并行處理的能力。支持自帶Map Reduce的表參數(shù)化用戶自定義函數(shù)(UDF)這是Sybase IQ的本地應(yīng) 用程序編程接口，可使應(yīng)用程序編程人員在

16、Sybase IQ 數(shù)據(jù)庫服務(wù)器內(nèi)構(gòu)建和部署 C+ 庫。使用這些 API 可實(shí)現(xiàn)專有算法或算法包，安全地位于 Sybase IQ 內(nèi)，通過在保存于 Sybase IQ 數(shù)據(jù)庫服務(wù)器中的數(shù)據(jù)附近執(zhí)行，以快 10 倍的速度返回結(jié)果。此框架可實(shí)現(xiàn) 在 Sybase IQ 中開發(fā)和部署 MapReduce 程序，以分析涉及結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化 數(shù)據(jù)格式的超大數(shù)據(jù)集C+、Map和Reduce算法通過標(biāo)準(zhǔn)SQL加以調(diào)用，并且由SybaseIQ強(qiáng)大的查詢引擎自動在PlexQ網(wǎng)格中進(jìn)行分發(fā)和并行化。Hadoop集成與聯(lián)邦 將基于Hadoop的分析的結(jié)果與運(yùn)行于Sybase IQ中的查詢相 集成。Syba

17、se是唯一一家提供4種不同方法將標(biāo)準(zhǔn)SQL查詢（客戶端聯(lián)邦、ETL處理、數(shù) 據(jù)聯(lián)邦和查詢聯(lián)邦）中的Hadoop數(shù)據(jù)和分析與分析數(shù)據(jù)庫相集成的廠商。Sybase IQ 15.4 充分利用Hadoop來識別海量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)集中的相關(guān)數(shù)據(jù)點(diǎn)，然后將Hadoop中 的相關(guān)數(shù)據(jù)點(diǎn)集成到 SybaseIQ 中，以便利用傳統(tǒng)數(shù)據(jù)和來自其他數(shù)據(jù)源的結(jié)果集進(jìn)行分 析。預(yù)測模型標(biāo)記語言 （PMML） 支持通過 Zementis 提供的認(rèn)證插件，自動執(zhí)行使用 業(yè)界標(biāo)準(zhǔn)語言定義在SAS、SPSS、“R”等工具以及其他流行預(yù)測工作平臺產(chǎn)品中所創(chuàng)建的 分析模型。充分利用流行的分析工具構(gòu)建預(yù)測模型，自動執(zhí)行在Syb

18、ase IQ中部署的預(yù)測 模型，并使用業(yè)界標(biāo)準(zhǔn)語言，以避免形成廠商捆綁?！癛”集成：用戶可使用RJDBC接口，以及流行的開源統(tǒng)計(jì)工具“R”查詢Sybase IQ數(shù)據(jù)庫。此外，用戶還可以將來自Sybase IQ的“R”庫作為SQL查詢中的函數(shù)調(diào)用加 以執(zhí)行，并返回結(jié)果集。? 數(shù)據(jù)庫內(nèi)分析庫更新的數(shù)據(jù)庫內(nèi)統(tǒng)計(jì)和數(shù)據(jù)挖掘庫（來自Fuzzy ? Logix的DBLytix）:在Sybase IQ 內(nèi)運(yùn)行的高級分析、統(tǒng)計(jì)和數(shù)據(jù)挖掘算法庫。Sybase IQ 15.4中的更新可使該庫充分利用 一些數(shù)據(jù)挖掘算法中的MapReduce API進(jìn)行大規(guī)模并行處理，并且包含多種新函數(shù)，例如 支持向量機(jī)、神經(jīng)網(wǎng)絡(luò)和

19、Adap tive Boos ting。? 擴(kuò)展的生態(tài)系統(tǒng)合作伙伴產(chǎn)品可在以下方面提供幫助:Sybase PowerDesigner? 16.1參考架構(gòu)生成器：可通過在實(shí)施Sybase IQ數(shù)據(jù)倉庫 和數(shù)據(jù)集市時(shí)生成最佳硬件配置，快速實(shí)現(xiàn)價(jià)值。Sybase Control Center（SCC）:改進(jìn)方面包括大量管理功能，例如過程、函數(shù)、UDF（表、 TPF和JavaEE ）及文本索引。用戶能夠更輕松地管理SCC中頻繁使用的功能，以及更輕 松地部署內(nèi)置、外部和文本數(shù)據(jù)庫內(nèi)分析。此外該版本還包含了新的SQL執(zhí)行窗口，該窗 口可實(shí)現(xiàn)易于測試的特定SQL例程。已通過 SAP?BusinessObje

20、cts?認(rèn)證：Sybase IQ 15.4 已通過認(rèn)證，可與 SAP Business Objects Business Intelligence Platform 4.0 和 SAP Business Objects? Data Services 4.0配合使用，以提供豐富的端到端業(yè)務(wù)分析框架。2.3.3主要局限Sybase IQ MPP 是 Share-Disk 架構(gòu)增加硬件，無法線性的提升數(shù)據(jù)庫性能。列存儲的一些劣勢，裝載速度，復(fù)雜查詢等性能不理想。插入操作上表級鎖，影響數(shù)據(jù)導(dǎo)入時(shí)影響表上的并發(fā)操作。（*）2.4 Teradata Aster DataTeradata天睿公司的Aster

21、 Data分析平臺是市場領(lǐng)先的大數(shù)據(jù)分析解決方案。Ast er Da ta分析平臺嵌入了 MapReduce，對新數(shù)據(jù)源和多結(jié)構(gòu)數(shù)據(jù)類型進(jìn)行更深入的分析 處理，提供具有突破性的性能和可擴(kuò)展性的分析能力。As ter Da ta解決方案利用Aster Data專利SQL-MapReduce來并行處理數(shù)據(jù)和應(yīng)用程序，可在大范圍內(nèi)提供豐富的分析洞 察力。2.4.1基礎(chǔ)架構(gòu)TD As ter Data平臺架構(gòu)如下：其中Ast er Dat abase架構(gòu)如下：242主要特性TD Aster Data有如下技術(shù)特點(diǎn)：Shared-nothing 架構(gòu)海量數(shù)據(jù)庫采用最易于擴(kuò)展的Shared-no thin

22、g架構(gòu)，每個節(jié)點(diǎn)都有自己的操作系統(tǒng)、 數(shù)據(jù)庫、硬件資源，節(jié)點(diǎn)之間通過網(wǎng)絡(luò)來通信。S Q L - MapReduceSQL-MapReduce是Aster Data公司的專利，在同類技術(shù)中（Greenplum）屬于領(lǐng)先地 位。SQL-MapReduce框架可以使數(shù)據(jù)科學(xué)家和商業(yè)分析師對復(fù)雜的信息進(jìn)行快速調(diào)查分析, 允許一組關(guān)聯(lián)計(jì)算機(jī)（計(jì)算機(jī)群集）使用軟件語言（如Java、C#、Python、C+和R）并 行進(jìn)行程序表達(dá)，然后通過標(biāo)準(zhǔn)SQL激活（調(diào)用）使用?；贛PP的并行分析平臺第一個大規(guī)模并行分析平臺，借助S Q L -MapReduce支持嵌入式分析應(yīng)用程序，使 企業(yè)能顯著加快TB乃至PB級數(shù)據(jù)的處理，為提供新的交互性大數(shù)據(jù)應(yīng)用帶來了無數(shù)機(jī)可視化集成開發(fā)環(huán)境第一個可視化集成開發(fā)環(huán)境