MPP數(shù)據(jù)庫對比分析

1、1概述隨著海量數(shù)據(jù)問題的出現(xiàn)，海量管理能力，多類型，變化快，高可用性，低成本，高端可擴展性等需求給企業(yè)數(shù)據(jù)戰(zhàn)略帶來了巨大的挑戰(zhàn)。企業(yè)數(shù)據(jù)倉庫、數(shù)據(jù)中心的技術(shù)選型變得尤其重要！所以在選型之前，有必要對目前市場上各種大數(shù)據(jù)量的解決方案進(jìn)行分析。2主流分布式并行處理數(shù)據(jù)庫產(chǎn)品介紹2.1Greenplum2.1.1基礎(chǔ)架構(gòu)Greenplum是基于Hadoop的一款分布式數(shù)據(jù)庫產(chǎn)品， 在處理海量數(shù)據(jù)方面相比傳統(tǒng)數(shù)據(jù)庫有著較大的優(yōu)勢。Greenplum整體架構(gòu)如下圖：MasterSevers查詢解析、優(yōu)化、NetworkInterconnectSegmentSevers查詢處理、數(shù)據(jù)存儲ExternalS

2、ources數(shù)據(jù)加載數(shù)據(jù)庫由MasterSevers和SegmentSevers通過Interconnect互聯(lián)組成。Master主機負(fù)責(zé)：建立與客戶端的連接和管理；SQL的解析并形成執(zhí)行計劃；執(zhí)行計劃向Segment的分發(fā)收集Segment的執(zhí)行結(jié)果；Master不存儲業(yè)務(wù)數(shù)據(jù)，只存儲數(shù)據(jù)字典。Segment主機負(fù)責(zé)：業(yè)務(wù)數(shù)據(jù)的存儲和存??；用戶查詢SQL的執(zhí)行。2.1.2主要特性Greenplum整體有如下技術(shù)特點：Shared-nothing架構(gòu)海量數(shù)據(jù)庫采用最易于擴展的Shared-nothing架構(gòu)，每個節(jié)點都有自己的操作系統(tǒng)、數(shù)據(jù)庫、硬件資源，節(jié)點之間通過網(wǎng)絡(luò)來通信?；趃NetSo

3、ftwareInterconnect數(shù)據(jù)庫的內(nèi)部通信通過基于超級計算的軟彳Switch”內(nèi)部連接層，基于通用的gNet(GigE,10GigE)NICs/switches在節(jié)點間傳遞消息和數(shù)據(jù)，采用高擴展協(xié)議，支持?jǐn)U展到1000個以上節(jié)點。并行加載技術(shù)利用并行數(shù)據(jù)流引擎，數(shù)據(jù)加載完全并行，加載數(shù)據(jù)可達(dá)到4。5T/小時(理想配置)。并且可以直接通過SQL語句對外部表進(jìn)行操作支持行、列壓縮存儲技術(shù)海量數(shù)據(jù)庫支持ZLIB和QUICKLZ方式的壓縮，壓縮比可到10:1。壓縮數(shù)據(jù)不一定會帶來性能的下降，壓縮表通過利用空閑的CPU資源，而減少I/O資源占用。海量數(shù)據(jù)庫除支持主流的行存儲模式外，還支持列存儲

4、模式。如果常用的查詢只取表中少量字段，則列模式效率更高，如查詢需要取表中的大量字段，行模式效率更高。海量數(shù)據(jù)庫的多種壓縮存儲技術(shù)在提高數(shù)據(jù)存儲能力的同時，也可根據(jù)不同應(yīng)用需求提高查詢的效率2.1.3主要局限列存儲模式的使用有限制，不支持delete/update操作。用戶不可靈活控制事務(wù)的提交，用戶提交的處理將被自動視作整體事務(wù)，整體提交，整體回滾。數(shù)據(jù)庫需要額外的空間清理維護(hù)(vacuum),給數(shù)據(jù)庫維護(hù)帶來額外的工作量。用戶不能靈活分配或控制服務(wù)器資源。對磁盤IO有比較高的要求。備份機制還不完善，沒有增量備份。2.2Vertica2.2.1基礎(chǔ)架構(gòu)與以往常見的行式關(guān)系型數(shù)據(jù)庫不同，Vert

5、ica是一種基于列存儲(Column-Oriented)的數(shù)據(jù)庫體系結(jié)構(gòu)，這種存儲機構(gòu)更適合在數(shù)據(jù)倉庫存儲和商業(yè)智能方面發(fā)揮特長。常見的RDBMS都是面向行(Row-OrientedDatabase)存儲的，在對某一列匯總計算的時候幾乎不可避免的要進(jìn)行額外的I/O尋址掃描，而面向列存儲的數(shù)據(jù)庫能夠連續(xù)進(jìn)行I/O操作，減少了I/O開銷，從而達(dá)到數(shù)量級上的性能提升。同時，Vertica支持海量并行存儲(MPP)架構(gòu)，實現(xiàn)了完全無共享，因此擴展容易，可以利用廉價的硬件來獲取高的性能，具有很高的性價比。如下圖，展示的是單節(jié)點上的Vertica的基本體系結(jié)構(gòu)。SQLSQLJFJFQueriesQueri

6、esFrontEndFrontEnd(ODBC/JDBC/etc.(ODBC/JDBC/etc.T TParser)Parser)TupleTupleMoverMoverVertica體系結(jié)構(gòu)作為關(guān)系型數(shù)據(jù)庫，Vertica的查詢SQL也是在前端被解析和優(yōu)化的。但與傳統(tǒng)的關(guān)系型數(shù)據(jù)庫有所不同，Vertica內(nèi)部是混合存儲的，包括兩種不同的存儲結(jié)構(gòu)：寫優(yōu)化器(WOS)和讀優(yōu)化器(ROS)。(1)寫優(yōu)化器WOS(Write-OptimizedStore)是位于主存儲器上的一個數(shù)據(jù)結(jié)構(gòu)，用于有效的支持?jǐn)?shù)據(jù)插入和更新操作；數(shù)據(jù)的存放是無序的，非壓縮的。(2)讀優(yōu)化器ROS(Read-Optimized

7、Store)是磁盤物理存儲， 存放的是排序和壓縮后的數(shù)據(jù)庫大塊數(shù)據(jù)， 因此這里的查詢相比于WOS性能更好。2TupleMover進(jìn)程是Vertica內(nèi)部的一個進(jìn)程，定期的以大數(shù)據(jù)塊的形式把數(shù)據(jù)從WOS移到ROS,由于是對整個WOS操作，TupleMover一次能非常有效的排序很多記錄，最后批量把它們寫入磁盤。在Vertica內(nèi)部，不論是WOS還是ROS都是按列存儲的。2.2.2主要特性VerticaVertica 的關(guān)鍵特性：ReadReadQueriesQueriesI.I.UpdatesUpdatesr4.%2歹U存儲(Column-orientation)由于大多數(shù)的查詢都是要從磁盤讀取

8、數(shù)據(jù)，因此可以說diskI/O在很大程度上決定了一個查詢的最終響應(yīng)時間。5.%2壓縮機制(AggressiveCompression)在數(shù)據(jù)存儲方面，Vertica利用內(nèi)部的特定算法對數(shù)據(jù)進(jìn)行壓縮處理。 這樣的機制會大大減少diskI/O的時間(D),同時由于Vertica對掃描和聚合等操作也在內(nèi)部進(jìn)行了優(yōu)化，可以直接處理壓縮后的數(shù)據(jù)，這樣CPU的工作負(fù)載(C)也減少了。如上例中的AVG聚合函數(shù)，Vertica是不需要將壓縮數(shù)據(jù)先做類似解壓這種處理的，因此查詢性能得到優(yōu)化。6.%2讀優(yōu)化存儲(Read-OptimizedStorage)Vertica的數(shù)據(jù)庫存儲容器ROSContainer專門

9、為讀操作進(jìn)行了優(yōu)化設(shè)計， 且其中的數(shù)據(jù)是經(jīng)過了排序和壓縮處理的，即每個磁盤頁上不會有空白空間，而傳統(tǒng)的數(shù)據(jù)庫一般會在每頁上預(yù)留空間以便日后的insert操作來使用。4多種排序方式的冗余存儲為了高可用性和備份恢復(fù)的需要，Vertica會按照不同的排序方式對數(shù)據(jù)做冗余存儲，這不但避免了大量的日志操作，也為查詢帶來了便利。Vertica的查詢優(yōu)化器會自動選擇最優(yōu)的排序方式來完成特定的查詢。5并行無共享設(shè)計Vertica支持完全無共享海量并行存儲(MPP)架構(gòu)，隨著硬件Server的增加，多個CPU并行處理，性能也可以得到線性的擴展，這樣用戶使用廉價的硬件就可以獲得較高的性能改善。6其他管理特征除了有

10、優(yōu)越的性能以外，Vertica在數(shù)據(jù)庫管理方面也進(jìn)行了非常人性化的設(shè)計。VerticaDatabaseDesigner是一個界面化的日常管理工具，并且能為用戶作出詳盡的DB層物理設(shè)計方案，大大減少了日后的性能調(diào)優(yōu)方面的開銷。Vertica通過K-Safety值的設(shè)置，完成了數(shù)據(jù)庫的備份恢復(fù)機制，并保證了高可用性。對于數(shù)據(jù)庫中的每個表每個列，Vertica都會在至少K+1個節(jié)點上存儲，如果有K個節(jié)點宕機，依然能夠保證VerticaDB是完整可用的；當(dāng)損壞的節(jié)點恢復(fù)時，Vertica自動完成節(jié)點間的熱交換，把其他節(jié)點上的正確數(shù)據(jù)恢復(fù)過來。通過這種機制也保證了Vertcia庫的節(jié)點數(shù)目可以自由伸縮而

11、不會影響到數(shù)據(jù)庫的操作。Vertica通過兩種技術(shù)來實現(xiàn)在線的持續(xù)數(shù)據(jù)裝載而不會影響到數(shù)據(jù)庫的訪問。Vertica通常運行在快照隔離(SnapshotIsolation)模式下，該模式下查詢讀取的是最近的一致的數(shù)據(jù)庫快照，這個快照是不能被并發(fā)的update或delete操作更改的，因此查詢操作也不需要占用鎖，這種方式保證了數(shù)據(jù)裝載(insert)和其他查詢能互不干擾。另外，Vertica可以把數(shù)據(jù)直接裝載到WOS結(jié)構(gòu)中，WOS中的數(shù)據(jù)是不排序或索引的，所以裝載速度會很快，然后再由TupleMover進(jìn)程在后臺把數(shù)據(jù)移入ROS中，由于TupleMover的操作是大塊讀取(bulk-load)的，

12、所以性能也很好。2.2.3主要局限不支持SQL存儲過程及函數(shù)，用戶需通過UDFs(UserDefinedFunction，基于C+)來自定義函數(shù)或過程。軟件授權(quán)按原始未經(jīng)壓縮的裸數(shù)據(jù)量計算。列存儲的一些劣勢，復(fù)雜查詢等性能不理想。對內(nèi)存有比較高的要求。在國內(nèi)還沒有成功案例。2.3SybaseIQ(15.4)基礎(chǔ)架構(gòu)SYBASEIQ是Sybase公司推出的特別為數(shù)據(jù)倉庫設(shè)計的關(guān)系型數(shù)據(jù)庫。SYBASEIQ的架構(gòu)與大多數(shù)關(guān)系型數(shù)據(jù)庫不同，它特別的設(shè)計用以支持大量并發(fā)用戶的即席查詢。其設(shè)計與執(zhí)行進(jìn)程優(yōu)先考慮查詢性能，其次是完成批量數(shù)據(jù)更新的速度。而傳統(tǒng)關(guān)系型數(shù)據(jù)庫引擎的設(shè)計既考慮在線的事務(wù)進(jìn)程又考慮

13、數(shù)據(jù)倉庫(而事實上，往往更多的關(guān)注事務(wù)進(jìn)程)。Sybase在2010年推出的SybaseIQ15.3就采用了全共享架構(gòu)的PlexQ技術(shù)，該技術(shù)重新定義了企業(yè)范圍的業(yè)務(wù)信息，全共享架構(gòu)可輕松支持涉及海量數(shù)據(jù)集、海量并發(fā)用戶數(shù)和獨特工作流程的多種復(fù)雜分析樣式，大大增加了其效益。與其他MPP解決方案不同，SybaseIQ的PlexQ網(wǎng)格技術(shù)能夠動態(tài)管理可輕松擴展并且專用于不同組和流程的一系列計算與存儲資源中的分析工作量，從而使其能夠以更低的成本更輕松地支持日益增長的數(shù)據(jù)量以及快速增長的用戶社區(qū)。SybaseIQ15.4采用業(yè)內(nèi)領(lǐng)先的MPP列式數(shù)據(jù)庫和最先進(jìn)的數(shù)據(jù)庫內(nèi)分析技術(shù)，并革命性地加入MapRe

14、duce與Hadoop集成，以應(yīng)對大數(shù)據(jù)時代的分析挑戰(zhàn)，開啟洞察關(guān)鍵業(yè)務(wù)的能力。SybaseIQ15.4正在打破數(shù)據(jù)分析的壁壘，徹底改變大數(shù)據(jù)分析”領(lǐng)域?；诔墒斓腜lexQ技術(shù)構(gòu)建的SybaseIQ采用下圖所示的三層構(gòu)架：基本層：數(shù)據(jù)庫管理系統(tǒng)（DBMS）,這是一個全共享MPP分析DBMS引擎，是SybaseIQ最大的獨特優(yōu)勢。第二層：分析應(yīng)用程序服務(wù)層，其提供C+和Java數(shù)據(jù)庫內(nèi)API,并可實現(xiàn)與外部數(shù)據(jù)源的集成和聯(lián)邦；包括四種與Hadoop的集成方法。頂層：SybaseIQ生態(tài)系統(tǒng)，由四個強大且不同的合作伙伴和認(rèn)證ISV應(yīng)用程序組成。基于這種PlexQ技術(shù)，SybaseIQ15.4將大

15、數(shù)據(jù)轉(zhuǎn)變成可指揮每個人都行動的情報信息，從而在整個企業(yè)的用戶和業(yè)務(wù)流程范圍內(nèi)輕松具備大數(shù)據(jù)的分析能力。主要特性SybaseIQSybaseIQ（15.415.4）的關(guān)鍵特性：.更強的數(shù)據(jù)管理大量增強的功能改善了SybaseIQ的數(shù)據(jù)管理、部署和可維護(hù)性。更快速的批量加載：批量加載數(shù)據(jù)通過ODBC和JDBC接口插入到Sybase中，從而實現(xiàn)具有更高可擴展性的應(yīng)用程序，同時可極大提高加載性能。更出色的文本壓縮：更出色地對VARCHAR、VARBINARY、CHAR和BINARY壓縮可實現(xiàn)以更高效率、更低成本部署高性能文本分析應(yīng)用程序，同時極大提高壓縮速率。.豐富的應(yīng)用程序SybaseIQ15.4增

16、加了一系列API和工具， 用于創(chuàng)建在數(shù)據(jù)庫內(nèi)運行的高級分析算法， 并且能通過PlexQ網(wǎng)格能充分利用大規(guī)模并行處理的能力。支持自帶MapReduce的表參數(shù)化用戶自定義函數(shù)（UDF）這是SybaseIQ的本地應(yīng)用程序編程接口，可使應(yīng)用程序編程人員在SybaseIQ數(shù)據(jù)庫服務(wù)器內(nèi)建和部署C+庫。使用這些API可實現(xiàn)專有算法或算法包，安全地位于SybaseIQ內(nèi)，通過在保存于SybaseIQ數(shù)據(jù)庫服務(wù)器中的數(shù)據(jù)附近執(zhí)行，以快10倍的速度返回結(jié)果。此框架可實現(xiàn)在SybaseIQ中開發(fā)和部署MapReduce程序， 以分析涉及結(jié)構(gòu)化、 半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)格式的超大數(shù)據(jù)集。C+、Map和Reduce

17、算法通過標(biāo)準(zhǔn)SQL加以調(diào)用，并且由SybaseIQ強大的查詢引擎自動在PlexQ網(wǎng)格中進(jìn)行分發(fā)和并行化。Hadoop集成與聯(lián)邦將基于Hadoop的分析的結(jié)果與運行于SybaseIQ中的查詢相集成。Sybase是唯一一家提供4種不同方法將標(biāo)準(zhǔn)SQL查詢（客戶端聯(lián)邦、ETL處理、數(shù)據(jù)聯(lián)邦和查詢聯(lián)邦）中的Hadoop數(shù)據(jù)和分析與分析數(shù)據(jù)庫相集成的廠商。SybaseIQ15.4充分利用Hadoop來識別海量結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)集中的相關(guān)數(shù)據(jù)點，然后將Hadoop中的相關(guān)數(shù)據(jù)點集成到SybaseIQ中，以便利用傳統(tǒng)數(shù)據(jù)和來自其他數(shù)據(jù)源的結(jié)果集進(jìn)行分析。預(yù)測模型標(biāo)記語言（PMML）支持通過Zementis

18、提供的認(rèn)證插件，自動執(zhí)行使用工由PIMQ控水的曲*晴IQIQ1 1 生毒M M曖 T符忖序施若nnnaanrnnnaanr業(yè)界標(biāo)準(zhǔn)語言定義在SAS、SPSS、“R等工具以及其他流行預(yù)測工作平臺產(chǎn)品中所創(chuàng)建的分析模型。充分利用流行的分析工具構(gòu)建預(yù)測模型，自動執(zhí)行在SybaseIQ中部署的預(yù)測模型，并使用業(yè)界標(biāo)準(zhǔn)語言，以避免形成廠商捆綁?！凹瘸桑阂灰挥脩艨墒褂肦JDBC接口，以及流行的開源統(tǒng)計工具“RUSybaseIQ數(shù)據(jù)庫。此外，用戶還可以將來自SybaseIQ的R庫作為SQL查詢中的函數(shù)調(diào)用加以執(zhí)行，并返回結(jié)果集。.數(shù)據(jù)庫內(nèi)分析庫更新的數(shù)據(jù)庫內(nèi)統(tǒng)計和數(shù)據(jù)挖掘庫（來自Fuzzy?Logix的DB

19、Lytix）:在SybaseIQ內(nèi)運行的高級分析、統(tǒng)計和數(shù)據(jù)挖掘算法庫。SybaseIQ15.4中的更新可使該庫充分利用一些數(shù)據(jù)挖掘算法中的MapReduceAPI進(jìn)行大規(guī)模并行處理，并且包含多種新函數(shù)，例如支持向量機、神經(jīng)網(wǎng)絡(luò)和AdaptiveBoosting。.擴展的生態(tài)系統(tǒng)SybaseIQ還非常適合面向大數(shù)據(jù)分析的端到端全面解決方案。重要的工具和互補的合作伙伴產(chǎn)品可在以下方面提供幫助：SybasePowerDesigner?16.1參考架構(gòu)生成器：可通過在實施SybaseIQ數(shù)據(jù)倉庫和數(shù)據(jù)集市時生成最佳硬件配置，快速實現(xiàn)價值。SybaseControlCenter（SCC）:改進(jìn)方面包括

20、大量管理功能，例如過程、函數(shù)、UDF（表、TPF和JavaEE）及文本索引。用戶能夠更輕松地管理SCC中頻繁使用的功能，以及更輕松地部署內(nèi)置、外部和文本數(shù)據(jù)庫內(nèi)分析。此外該版本還包含了新的SQL執(zhí)行窗口，該窗口可實現(xiàn)易于測試的特定SQL例程。已通過SAP?BusinessObjects?認(rèn)證：SybaseIQ15.4已通過認(rèn)證，可與SAPBusinessObjectsBusinessIntelligencePlatform4.0和SAPBusinessObjectsDataServices4.0配合使用， 以提供豐富的端到端業(yè)務(wù)分析框架。2.3.3主要局限SybaseIQMPP是Share-D

21、isk架構(gòu)增加硬件，無法線性的提升數(shù)據(jù)庫性能。列存儲的一些劣勢，裝載速度，復(fù)雜查詢等性能不理想。插入操作上表級鎖，影響數(shù)據(jù)導(dǎo)入時影響表上的并發(fā)操作。（*）2.4TeradataAsterDataTeradata天睿公司的AsterData分析平臺是市場領(lǐng)先的大數(shù)據(jù)分析解決方案。AsterData分析平臺嵌入了MapReduce,對新數(shù)據(jù)源和多結(jié)構(gòu)數(shù)據(jù)類型進(jìn)行更深入的分析處理，提供具有突破性的性能和可擴展性的分析能力。AsterData解決方案利用AsterData專利SQL-MapReduce來并行處理數(shù)據(jù)和應(yīng)用程序，可在大范圍內(nèi)提供豐富的分析洞察力?；A(chǔ)架構(gòu)TDAsterData平臺架構(gòu)如下

22、：TeradataAnalyticPlatformSolutionsStrategicStrategic& &OperationalOperationalIntelHgenceIntelHgenceAilAilH HLHLH. .PrrdhPrrdhlRA.lRA.Spdtuil/Spdtuil/I IAttivcAttivc /OlAP/OlAPI I島巾“丫2 2專.I ITITIT T昨*“川I IrxrcLiTrnnrxrcLiTrnnSQL-MapReduceSQL-MapReduceAnalyticsAnalyticsAsterDatabaseAsterDataba

23、seBigDataInsightBigDataInsightPdHertiiiPdHertiii. .PathPathH HGrdphGrdphI IA ARARAI IV V I IArmlyMsArmlyMsSQLSQLAnalyticsAnalyticsDdtDdt AMlytlcAMlytlcMulti-StructureMulti-StructuredelfveringSQL-MapReduceanalyticsfortheenterprisedelfveringSQL-MapReduceanalyticsfortheenterprise主要特性TDAsterData有如下技術(shù)特點：Shared-nothing架構(gòu)海量數(shù)據(jù)庫采用最易于擴展的Shared-nothing架構(gòu)，每個節(jié)點都有自己的操作系統(tǒng)、數(shù)據(jù)庫、硬件資源，節(jié)點之間通過網(wǎng)絡(luò)來通信。SQL-MapReduceSQL-MapReduce是AsterData公司的專利，在同類技術(shù)中（Greenplum）屬于領(lǐng)先地位。SQL-MapReduce框架可以使數(shù)據(jù)科學(xué)家和商業(yè)分析師對復(fù)雜的信息進(jìn)行快速調(diào)查分析，允許一組關(guān)聯(lián)計算機（計算機群集）使用軟件語言（如Java、C#、Python、C+和R）并行進(jìn)行程序表達(dá)，然后通過標(biāo)準(zhǔn)SQL激活（調(diào)用）使用?；贛PP的并行分析平臺第一個大規(guī)模并行分析