內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)_第1頁(yè)
內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)_第2頁(yè)
內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)_第3頁(yè)
內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)_第4頁(yè)
內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)_第5頁(yè)
已閱讀5頁(yè),還剩23頁(yè)未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、目錄 HYPERLINK l _bookmark0 前言目錄 HYPERLINK l _bookmark0 前言III HYPERLINK l _bookmark1 圖 表目 錄V HYPERLINK l _bookmark2 一、什么是內(nèi)存數(shù)據(jù)庫(kù)1 HYPERLINK l _bookmark3 (一)內(nèi)存數(shù)據(jù)庫(kù)概述1 HYPERLINK l _bookmark4 (二)內(nèi)存技術(shù)的成熟與突破1 HYPERLINK l _bookmark7 (三)內(nèi)存數(shù)據(jù)庫(kù)的發(fā)展歷程4 HYPERLINK l _bookmark10 (四)內(nèi)存數(shù)據(jù)庫(kù)的優(yōu)勢(shì)與挑戰(zhàn)7 HYPERLINK l _bookmark11

2、 二、內(nèi)存數(shù)據(jù)庫(kù)的分類(lèi)及應(yīng)用場(chǎng)景9 HYPERLINK l _bookmark12 (一)內(nèi)存數(shù)據(jù)庫(kù)的分類(lèi)9 HYPERLINK l _bookmark13 (二)內(nèi)存數(shù)據(jù)庫(kù)的使用場(chǎng)景10 HYPERLINK l _bookmark15 三、內(nèi)存數(shù)據(jù)庫(kù)的選型建議14 HYPERLINK l _bookmark16 (一)內(nèi)存數(shù)據(jù)庫(kù)產(chǎn)品現(xiàn)狀14 HYPERLINK l _bookmark18 (二)內(nèi)存數(shù)據(jù)庫(kù)選型建議15 HYPERLINK l _bookmark20 (三)硬件選型建議17 HYPERLINK l _bookmark21 四、內(nèi)存數(shù)據(jù)庫(kù)技術(shù)演進(jìn)趨勢(shì)18 HYPERLINK l

3、_bookmark22 (一)內(nèi)存數(shù)據(jù)庫(kù)和傳統(tǒng)數(shù)據(jù)庫(kù)混合使用將成為主要模式18 HYPERLINK l _bookmark23 (二)軟硬件深度整合為內(nèi)存數(shù)據(jù)庫(kù)開(kāi)辟新的技術(shù)方向18 HYPERLINK l _bookmark24 (三)協(xié)議創(chuàng)新將進(jìn)一步提升分布式內(nèi)存數(shù)據(jù)庫(kù)的一致性能力21 HYPERLINK l _bookmark25 (四)與容器技術(shù)結(jié)合為內(nèi)存數(shù)據(jù)庫(kù)提供更強(qiáng)的彈性擴(kuò)展能力22 HYPERLINK l _bookmark26 五、總結(jié)與展望24 HYPERLINK l _bookmark27 參考文獻(xiàn)25 HYPERLINK l _bookmark28 附件:縮略語(yǔ)26IV圖

4、表 目 錄 HYPERLINK l _bookmark9 表 HYPERLINK l _bookmark9 1 HYPERLINK l _bookmark9 1990年代涌的商用存數(shù)庫(kù)6 HYPERLINK l _bookmark17 10款典內(nèi)圖 表 目 錄 HYPERLINK l _bookmark9 表 HYPERLINK l _bookmark9 1 HYPERLINK l _bookmark9 1990年代涌的商用存數(shù)庫(kù)6 HYPERLINK l _bookmark17 10款典內(nèi)數(shù)據(jù)庫(kù)比14 HYPERLINK l _bookmark17 表 HYPERLINK l _bookma

5、rk17 2 HYPERLINK l _bookmark5 圖 HYPERLINK l _bookmark5 1 HYPERLINK l _bookmark5 1970年代至的內(nèi)存格和走勢(shì)2 HYPERLINK l _bookmark6 圖 HYPERLINK l _bookmark6 2 HYPERLINK l _bookmark6 存儲(chǔ)金字模型3 HYPERLINK l _bookmark8 圖 HYPERLINK l _bookmark8 3 HYPERLINK l _bookmark8 內(nèi)存據(jù)庫(kù)發(fā)展歷程4 HYPERLINK l _bookmark14 用戶息使的數(shù)據(jù)構(gòu) HYPERLI

6、NK l _bookmark14 圖 HYPERLINK l _bookmark14 4 HYPERLINK l _bookmark19 內(nèi)存據(jù)庫(kù)型建議15 HYPERLINK l _bookmark19 圖 HYPERLINK l _bookmark19 5V內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)概述內(nèi)存數(shù)據(jù)庫(kù)又稱(chēng)主存數(shù)據(jù)庫(kù)(IMDB/MMDB, In-memory/maineory datbs統(tǒng)。內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)概述內(nèi)存數(shù)據(jù)庫(kù)又稱(chēng)主存數(shù)據(jù)庫(kù)(IMDB/MMDB, In-memory/maineory datbs統(tǒng)。小化磁盤(pán)訪問(wèn)。統(tǒng)數(shù)據(jù)庫(kù)使用的磁

7、盤(pán)讀寫(xiě)機(jī)制,內(nèi)存具備更極致的讀寫(xiě)速度,性能對(duì)性能要求較高的場(chǎng)景中。(二)內(nèi)存技術(shù)的成熟與突破1.內(nèi)存技術(shù)的成熟64KB 以下;1982 80286 30 SIMM 80 486 時(shí)代的PC16 72 線的SIMM512KB-2MB;90 EDO DRAM 開(kāi)始盛行,單條容量維基百科: HYPERLINK /wiki/In-memory_database /wiki/In-memory_databaseDDR3-1333 1GB/s150MB/s1內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院4MB-16MB1995 64 SDRAM 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院4MB-16MB1995 64 SDR

8、AM 穩(wěn)定地遵循摩爾定律翻倍,持續(xù)到 2019 年,DDR3 內(nèi)存的容量已經(jīng)可以達(dá)到 16GB。1970 9 2019 3-5 的內(nèi)存。圖 1 1970數(shù)據(jù)來(lái)源: HYPERLINK /memoryprice.htm /memoryprice.htm,中國(guó)信通院整理存儲(chǔ)和操作成為可能。2.內(nèi)存技術(shù)的瓶頸與突破2 CPU DRAM2內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院介質(zhì)中。雖然 DRAM 的價(jià)格已經(jīng)大幅下降,但在海量數(shù)據(jù)存儲(chǔ)的需求下,內(nèi)存的成本依然是很大的問(wèn)題;另外由于 DRAM 屬于易失性介質(zhì),掉電后所有數(shù)據(jù)都會(huì)丟失,需要額外考慮數(shù)據(jù)持久化的方案,會(huì)極大的限制內(nèi)存數(shù)據(jù)庫(kù)的性能和使用場(chǎng)景。圖 2

9、 存儲(chǔ)的金字塔模型DRAM內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院介質(zhì)中。雖然 DRAM 的價(jià)格已經(jīng)大幅下降,但在海量數(shù)據(jù)存儲(chǔ)的需求下,內(nèi)存的成本依然是很大的問(wèn)題;另外由于 DRAM 屬于易失性介質(zhì),掉電后所有數(shù)據(jù)都會(huì)丟失,需要額外考慮數(shù)據(jù)持久化的方案,會(huì)極大的限制內(nèi)存數(shù)據(jù)庫(kù)的性能和使用場(chǎng)景。圖 2 存儲(chǔ)的金字塔模型DRAM (,sseteor(,rageCls eor,和RM DRAM CPUload/storeNANDSSD CPU 無(wú)法直接DRAM SSD 之間存在巨大的性能鴻溝,在訪問(wèn)時(shí)延上出現(xiàn)了跳變。而持久型內(nèi)存位于DRAM SSDload/storeDRAM SSDNANDSSD,持久型

10、內(nèi)存在性能上處于優(yōu)勢(shì),但容量和價(jià)值處于劣勢(shì)。3內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院2019 內(nèi)存數(shù)據(jù)庫(kù)的產(chǎn)品能力和應(yīng)用范圍得到大幅度的提升。(三)內(nèi)存數(shù)據(jù)庫(kù)的發(fā)展歷程及高速發(fā)展期四個(gè)階段:圖 3 內(nèi)存數(shù)據(jù)庫(kù)的發(fā)展歷程1.雛形期(1970 年代)1969 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院2019 內(nèi)存數(shù)據(jù)庫(kù)的產(chǎn)品能力和應(yīng)用范圍得到大幅度的提升。(三)內(nèi)存數(shù)據(jù)庫(kù)的發(fā)展歷程及高速發(fā)展期四個(gè)階段:圖 3 內(nèi)存數(shù)據(jù)庫(kù)的發(fā)展歷程1.雛形期(1970 年代)1969 IBM 公司研制了世界上最早的數(shù)據(jù)庫(kù)管理系統(tǒng)基于層次模型的數(shù)據(jù)庫(kù)管理IMSIMS 時(shí),IBM 考慮1976年推出了IMS/VSFastPath

11、2。FastPath 中。2.理論成熟期(1980 年代)1984 年,D J DeWitt HYPERLINK /s?wd=%E3%80%8A%E4%B8%BB%E5%AD%98%E6%95%B0%E6%8D%AE%E5%BA%93%E7%B3%BB%E7%BB%9F%E7%9A%84%E5%AE%9E%E7%8E%B0%E6%8A%80%E6%9C%AF%E3%80%8B&tn=24004469_oem_dg&rsv_dl=gh_pl_sl_csd 等人發(fā)表了Implementation Techniques for HYPERLINK /s?wd=%E3%80%8A%E4%B8%BB%E

12、5%AD%98%E6%95%B0%E6%8D%AE%E5%BA%93%E7%B3%BB%E7%BB%9F%E7%9A%84%E5%AE%9E%E7%8E%B0%E6%8A%80%E6%9C%AF%E3%80%8B&tn=24004469_oem_dg&rsv_dl=gh_pl_sl_csd Main Memory Database Systems一文。第一次提出了 Main Memory4內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院主存/數(shù)據(jù)庫(kù)的存取訪問(wèn)。1985-1990 IBM內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院主存/數(shù)據(jù)庫(kù)的存取訪問(wèn)。1985-1990 IBMIBM370 上運(yùn)行的OBE MM-DB

13、MS DALI 型;Southern Methodist MARS 頓大學(xué)設(shè)計(jì)出TPK 和 System M 內(nèi)存數(shù)據(jù)庫(kù)。3.市場(chǎng)成長(zhǎng)期(1990 年代)步成熟。20 90 1994 OSE lhedrotareAG推出了aino Database;日本UBITAltibaseQuiLogic McObject推出eXtremeDB。加拿大 Empress 公司推出 EmpressDB。5內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院表 1 19904.高速發(fā)展期(2010 年至今)21 力面臨巨大挑戰(zhàn),越來(lái)越多基于非結(jié)構(gòu)化數(shù)據(jù)模型的應(yīng)用日趨廣泛,2003年由LiveJournal的BradFitzpat

14、rickMemcached軟 C 2000 Memcached軟件不具備持久化功能,數(shù)據(jù)類(lèi)型比較少,應(yīng)用場(chǎng)景比較有限。2010 輪發(fā)展。2009 年antirez 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院表 1 19904.高速發(fā)展期(2010 年至今)21 力面臨巨大挑戰(zhàn),越來(lái)越多基于非結(jié)構(gòu)化數(shù)據(jù)模型的應(yīng)用日趨廣泛,2003年由LiveJournal的BradFitzpatrickMemcached軟 C 2000 Memcached軟件不具備持久化功能,數(shù)據(jù)類(lèi)型比較少,應(yīng)用場(chǎng)景比較有限。2010 輪發(fā)展。2009 年antirez Redis ANSI HYPERLINK /item/C%E8%

15、AF%AD%E8%A8%80 C 語(yǔ)言 HYPERLINK /item/%E6%95%B0%E6%8D%AE%E5%BA%93/103728 數(shù)據(jù)庫(kù)API2010 3 15 日起,6年份國(guó)家公司產(chǎn)品1994美國(guó)OSEPolyhedra1998德國(guó)SoftwareAGTamino Database1999日本UBITXDB 主存數(shù)據(jù)庫(kù)產(chǎn)品1999韓國(guó)AltibaseAltibase2000奧地利QuiLogicSQL-IMDB2001美國(guó)McObjecteXtremeDB2001加拿大EmpressEmpressDB內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院Redis VMware 2013 5 Red

16、is 的開(kāi)Pivotal 2015 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院Redis VMware 2013 5 Redis 的開(kāi)Pivotal 2015 6 Redis Labs 2018 年10 Redis 5.0 支持鍵值對(duì)存儲(chǔ) NoSQL 數(shù)據(jù)庫(kù) Aerospike;以及數(shù)據(jù)結(jié)構(gòu)既能支持鍵Apache 也發(fā)布了商業(yè)版內(nèi)存數(shù)據(jù)庫(kù) SAP HANA據(jù)庫(kù),已經(jīng)成為內(nèi)存數(shù)據(jù)庫(kù)的典型產(chǎn)品之一。Markets Research Future 2019 5 預(yù)計(jì)全球內(nèi)存數(shù)據(jù)庫(kù)市場(chǎng)將以19年達(dá)到 70 億美元1。(四)內(nèi)存數(shù)據(jù)庫(kù)的優(yōu)勢(shì)與挑戰(zhàn)的數(shù)據(jù)易失問(wèn)題,需要在應(yīng)用中引起注意。1.優(yōu)勢(shì):高性能讀寫(xiě)I/O

17、QPS 10 QPS 據(jù)庫(kù)很難做到的。2.挑戰(zhàn):內(nèi)存數(shù)據(jù)易失DRAM 屬于掉7內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院方案?,F(xiàn)階段主流的鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)對(duì)于持久化的支持較為薄弱,持久化性能也不如傳統(tǒng)數(shù)據(jù)庫(kù)。內(nèi)存型數(shù)據(jù)庫(kù)中克服掉電易失性來(lái)保障數(shù)據(jù)可靠性的方法主要場(chǎng)景。8內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院方案?,F(xiàn)階段主流的鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)對(duì)于持久化的支持較為薄弱,持久化性能也不如傳統(tǒng)數(shù)據(jù)庫(kù)。內(nèi)存型數(shù)據(jù)庫(kù)中克服掉電易失性來(lái)保障數(shù)據(jù)可靠性的方法主要場(chǎng)景。8內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)的分類(lèi)據(jù)庫(kù)類(lèi)型。1.鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)的分類(lèi)據(jù)庫(kù)類(lèi)型。1

18、.鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)作,值通常支持各種數(shù)據(jù)類(lèi)型,使用鍵值存儲(chǔ)的數(shù)據(jù)模型相對(duì)簡(jiǎn)單,代表為Redis、Memcached 和 Aerospike。2.關(guān)系型內(nèi)存數(shù)據(jù)庫(kù)型內(nèi)存數(shù)據(jù)庫(kù)將傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)表搬到內(nèi)存中,支持通過(guò) SQL升數(shù)據(jù)訪問(wèn)速度。關(guān)系型內(nèi)存數(shù)據(jù)庫(kù)的典型代表軟件為 Oracle TimesTen、SAP HANA、MemSQL 和 SQLite。3.其他類(lèi)型的內(nèi)存數(shù)據(jù)庫(kù)RedisGraph 等。9內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(二)內(nèi)存數(shù)據(jù)庫(kù)的使用場(chǎng)景1.電商秒殺鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)作為緩沖層的應(yīng)用30 2017 購(gòu)28 10 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(二)內(nèi)存數(shù)據(jù)庫(kù)的使用場(chǎng)景

19、1.電商秒殺鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)作為緩沖層的應(yīng)用30 2017 購(gòu)28 10 32.5 萬(wàn)/秒,25.6 萬(wàn)/4200 萬(wàn)次/超大并發(fā)請(qǐng)求下的穩(wěn)定性有很高的要求。一般秒殺活動(dòng)對(duì)系統(tǒng)的壓力從秒殺前就會(huì)開(kāi)始并持續(xù)到秒殺結(jié)到瞬時(shí)峰值;秒殺開(kāi)始的瞬間,大量用戶在同一時(shí)刻按下秒殺按鈕,待退單的機(jī)會(huì)。為了在大量業(yè)務(wù)并發(fā)請(qǐng)求下保障系統(tǒng)能夠快速穩(wěn)定地響應(yīng)用戶景主要要求內(nèi)存型數(shù)據(jù)庫(kù)擁有足夠高的并發(fā)讀寫(xiě)數(shù)量以及并發(fā)連接10內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院庫(kù)出現(xiàn)單點(diǎn)故障導(dǎo)致系統(tǒng)整體不可用。2.視頻直播鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)支持高并發(fā)+靈活的數(shù)據(jù)結(jié)構(gòu)新禮物、評(píng)論、點(diǎn)贊、排行榜等信息。直播間的信息顯示,流量大、時(shí)效性高、互動(dòng)性

20、強(qiáng),對(duì)系統(tǒng)的并發(fā)和性能有著非常高的要求。多場(chǎng)景都適合選擇鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù),下面以兩個(gè)案例做介紹。內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院庫(kù)出現(xiàn)單點(diǎn)故障導(dǎo)致系統(tǒng)整體不可用。2.視頻直播鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù)支持高并發(fā)+靈活的數(shù)據(jù)結(jié)構(gòu)新禮物、評(píng)論、點(diǎn)贊、排行榜等信息。直播間的信息顯示,流量大、時(shí)效性高、互動(dòng)性強(qiáng),對(duì)系統(tǒng)的并發(fā)和性能有著非常高的要求。多場(chǎng)景都適合選擇鍵值對(duì)內(nèi)存數(shù)據(jù)庫(kù),下面以兩個(gè)案例做介紹。NoSQL Redis Hashes KeyHashes Field,用戶新增信息時(shí)只需要新增一個(gè)Field,可參考圖 4 示例。圖 4 用戶信息使用的數(shù)據(jù)結(jié)構(gòu)11內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(Redis

21、 中的有序(sorted set)ah內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(Redis 中的有序(sorted set)ahtal(動(dòng)進(jìn)行排序,實(shí)時(shí)反饋?zhàn)钚碌呐判小?.電信計(jì)費(fèi)關(guān)系型內(nèi)存數(shù)據(jù)庫(kù)支持高并發(fā)+復(fù)雜的數(shù)據(jù)模型BSS/OSS 模式的多樣性和客戶體驗(yàn)的滿意度。務(wù)有以下難點(diǎn):高并發(fā):20 1 萬(wàn)個(gè)。要求平均響應(yīng)時(shí)間小于 20 毫秒,99%響應(yīng)時(shí)間小于 100 毫秒。響終端客戶的業(yè)務(wù)使用(包括語(yǔ)音服務(wù)、數(shù)據(jù)服務(wù),所以需要計(jì)費(fèi)99.999%的可用性。12內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院SQL ACID 安全的讀寫(xiě)隔離級(jí)別。包括用內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院SQL ACID 安全的讀寫(xiě)隔離

22、級(jí)別。包括用等3SQL 據(jù)庫(kù)更適合數(shù)據(jù)關(guān)聯(lián)性強(qiáng)、數(shù)據(jù)模型復(fù)雜的場(chǎng)景,一定程度上比NoSQL 數(shù)據(jù)庫(kù)更能保證 ACID 事務(wù);二是相較于傳統(tǒng)計(jì)費(fèi)系統(tǒng)使用地縮短查詢的響應(yīng)時(shí)間。13內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)產(chǎn)品現(xiàn)狀DB-Engines Ranking 10 和Memcached SQLite 是最受SAPHANA1995 Oracle 2014Apache Ignite 兼容關(guān)系型內(nèi)存數(shù)據(jù)庫(kù)稱(chēng)可以支持 ACID,但都需要在性能上作出妥協(xié)。2 表21014數(shù)據(jù)庫(kù)名稱(chēng)數(shù)據(jù)結(jié)構(gòu)起始年份商用/開(kāi)源(License)ACID 支持情況Redis鍵值對(duì)2009 年開(kāi)源(BSD)不支持M

23、emcached鍵值對(duì)2003 年開(kāi)源(BSD)不支持Aerospike鍵值對(duì)2012 年內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)產(chǎn)品現(xiàn)狀DB-Engines Ranking 10 和Memcached SQLite 是最受SAPHANA1995 Oracle 2014Apache Ignite 兼容關(guān)系型內(nèi)存數(shù)據(jù)庫(kù)稱(chēng)可以支持 ACID,但都需要在性能上作出妥協(xié)。2 表21014數(shù)據(jù)庫(kù)名稱(chēng)數(shù)據(jù)結(jié)構(gòu)起始年份商用/開(kāi)源(License)ACID 支持情況Redis鍵值對(duì)2009 年開(kāi)源(BSD)不支持Memcached鍵值對(duì)2003 年開(kāi)源(BSD)不支持Aerospike鍵值對(duì)2012

24、 年開(kāi)源(AGPL)只支持原子性Apache Ignite鍵值對(duì)/關(guān)系型2014 年開(kāi)源(Apache2.0)支持SAP HANA關(guān)系型2010 年商用支持Oracle TimesTen關(guān)系型1995 年商用支持VoltDB關(guān)系型2010 年商用/開(kāi)源(GPL)支持MemSQL關(guān)系型2013 年商用只支持隔離性SQLite關(guān)系型2000 年開(kāi)源(Public domain)支持eXtremeDB關(guān)系型2001 年商用支持內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(二)內(nèi)存數(shù)據(jù)庫(kù)選型建議業(yè)務(wù)特性決定了數(shù)據(jù)的應(yīng)用特性,包括數(shù)據(jù)量、并發(fā)度、讀寫(xiě)特性、成數(shù)據(jù)庫(kù)技術(shù)要求;最后按篩選出的技術(shù)要求進(jìn)行選型。1.技術(shù)

25、因素按照技術(shù)要求進(jìn)行內(nèi)存數(shù)據(jù)庫(kù)選型時(shí),可主要考察業(yè)務(wù)的性能、一致性要求和SQL 兼容性三個(gè)因素。具體選型思路可參考圖 5。內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(二)內(nèi)存數(shù)據(jù)庫(kù)選型建議業(yè)務(wù)特性決定了數(shù)據(jù)的應(yīng)用特性,包括數(shù)據(jù)量、并發(fā)度、讀寫(xiě)特性、成數(shù)據(jù)庫(kù)技術(shù)要求;最后按篩選出的技術(shù)要求進(jìn)行選型。1.技術(shù)因素按照技術(shù)要求進(jìn)行內(nèi)存數(shù)據(jù)庫(kù)選型時(shí),可主要考察業(yè)務(wù)的性能、一致性要求和SQL 兼容性三個(gè)因素。具體選型思路可參考圖 5。圖 5 內(nèi)存數(shù)據(jù)庫(kù)選型建議業(yè)務(wù)是否有很高的性能要求?業(yè)務(wù),如游戲?qū)崟r(shí)排行、直播粉絲關(guān)注等,建議選擇內(nèi)存數(shù)據(jù)庫(kù)。業(yè)務(wù)數(shù)據(jù)是否要求強(qiáng)一致性?如果業(yè)務(wù)對(duì)數(shù)據(jù)的可靠性和一致15內(nèi)存數(shù)據(jù)庫(kù)白

26、皮書(shū)中國(guó)信息通信研究院性要求較高、需要ACID 級(jí)別的事務(wù)支持,則建議使用 MySQL 等傳用架構(gòu)層面進(jìn)行優(yōu)化,單靠數(shù)據(jù)庫(kù)的能力還無(wú)法實(shí)現(xiàn)。SQL 兼容性?中如果數(shù)據(jù)結(jié)構(gòu)固定、有復(fù)雜的關(guān)聯(lián)計(jì)算要求,或是需要 SQL 語(yǔ)法維護(hù)性等需求進(jìn)行綜合考量。2.非技術(shù)因素內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院性要求較高、需要ACID 級(jí)別的事務(wù)支持,則建議使用 MySQL 等傳用架構(gòu)層面進(jìn)行優(yōu)化,單靠數(shù)據(jù)庫(kù)的能力還無(wú)法實(shí)現(xiàn)。SQL 兼容性?中如果數(shù)據(jù)結(jié)構(gòu)固定、有復(fù)雜的關(guān)聯(lián)計(jì)算要求,或是需要 SQL 語(yǔ)法維護(hù)性等需求進(jìn)行綜合考量。2.非技術(shù)因素產(chǎn)品。包括但不限于以下維度:協(xié)議等;配改造友好度,包括技術(shù)架構(gòu)適配、

27、開(kāi)發(fā)語(yǔ)言適配等;好程度、學(xué)習(xí)成本以及配套運(yùn)維工具等。16內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(三)硬件選型建議選型上建議根據(jù)業(yè)務(wù)情況綜合考慮成本和收益。1.如何選擇存儲(chǔ) 512GBI內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(三)硬件選型建議選型上建議根據(jù)業(yè)務(wù)情況綜合考慮成本和收益。1.如何選擇存儲(chǔ) 512GBI(nt/upt pertosercnded,需要做RF 的持SSDNVM SSD。如果有足夠的預(yù)算,并且業(yè)務(wù)對(duì)內(nèi)存數(shù)據(jù)的訪問(wèn)量不是非常大,Persistent 這種新80換,那么這種情況,就需要磁盤(pán)要有足夠高的性能,PCI-e 最佳。2.如何選擇網(wǎng)絡(luò)性能,可選擇萬(wàn)兆交換機(jī)和萬(wàn)兆網(wǎng)卡。3.如何選擇

28、 CPUX86 CPU CPU 適配的內(nèi)存數(shù)據(jù)庫(kù)產(chǎn)品有限。17內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)和傳統(tǒng)數(shù)據(jù)庫(kù)混合使用將成為主要模式TB 級(jí)別,性成為了兩大難題。SSD 適的機(jī)制來(lái)處理冷熱數(shù)據(jù)識(shí)別、冷熱數(shù)據(jù)交換。(二)軟硬件深度整合為內(nèi)存數(shù)據(jù)庫(kù)開(kāi)辟新的技術(shù)方向程度后,傳統(tǒng)的“通用硬件+內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院(一)內(nèi)存數(shù)據(jù)庫(kù)和傳統(tǒng)數(shù)據(jù)庫(kù)混合使用將成為主要模式TB 級(jí)別,性成為了兩大難題。SSD 適的機(jī)制來(lái)處理冷熱數(shù)據(jù)識(shí)別、冷熱數(shù)據(jù)交換。(二)軟硬件深度整合為內(nèi)存數(shù)據(jù)庫(kù)開(kāi)辟新的技術(shù)方向程度后,傳統(tǒng)的“通用硬件+通用軟件”的整合模式已經(jīng)達(dá)到瓶頸,子系統(tǒng)。1.網(wǎng)絡(luò)子系統(tǒng)高速公

29、路的性能直接影響了內(nèi)存數(shù)據(jù)庫(kù)的輸入輸出能力。在傳統(tǒng)的“通用硬件通用軟件”的模式中,網(wǎng)卡硬件負(fù)責(zé)數(shù)據(jù)收發(fā),IP TCP 18內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院數(shù)據(jù)庫(kù)進(jìn)程再通過(guò)用戶態(tài)和內(nèi)核態(tài)數(shù)據(jù)拷貝的方式與操作系統(tǒng)內(nèi)核TCP/IP 和內(nèi)核態(tài)數(shù)據(jù)拷貝效率低下”等缺點(diǎn),導(dǎo)致網(wǎng)卡的硬件能力無(wú)法發(fā)揮到極致。TCP/IP 協(xié)IP TCP內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院數(shù)據(jù)庫(kù)進(jìn)程再通過(guò)用戶態(tài)和內(nèi)核態(tài)數(shù)據(jù)拷貝的方式與操作系統(tǒng)內(nèi)核TCP/IP 和內(nèi)核態(tài)數(shù)據(jù)拷貝效率低下”等缺點(diǎn),導(dǎo)致網(wǎng)卡的硬件能力無(wú)法發(fā)揮到極致。TCP/IP 協(xié)IP TCP IP 將處理后的IP 報(bào)文直接交給用戶態(tài)的內(nèi)存數(shù)據(jù)庫(kù)進(jìn)程進(jìn)行 TCP 協(xié)

30、議對(duì)傳統(tǒng)模式至少可提升 300%以上。2.存儲(chǔ)子系統(tǒng)寫(xiě)入能力。在傳統(tǒng)的“通用硬件+通用軟件”的模式中,存儲(chǔ)硬件由操作系用文件系統(tǒng)過(guò)于笨重,用戶態(tài)和內(nèi)核態(tài)數(shù)據(jù)拷貝效率低下”的缺點(diǎn),導(dǎo)致存儲(chǔ)子系統(tǒng)整體性能不高。19內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院更大的飛躍。3.內(nèi)存子系統(tǒng)內(nèi)存子系統(tǒng)軟硬件整合的主要目的是為了增大內(nèi)存數(shù)據(jù)庫(kù)的容量并降低成本。DRAM 介質(zhì)中。DRAM 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院更大的飛躍。3.內(nèi)存子系統(tǒng)內(nèi)存子系統(tǒng)軟硬件整合的主要目的是為了增大內(nèi)存數(shù)據(jù)庫(kù)的容量并降低成本。DRAM 介質(zhì)中。DRAM DRAM 存儲(chǔ)子系統(tǒng)也造成了巨大的壓力,并且恢復(fù)時(shí)間也相對(duì)較長(zhǎng)。DRAM DR

31、AM DRAM 50%DRAM SSD賴(lài)帶來(lái)顛覆性的變化。4.處理器子系統(tǒng)“摩爾定律”的失效,CPU 的單核計(jì)算性能在最近幾年已無(wú)極大飛躍,制,多核技術(shù)也無(wú)法實(shí)現(xiàn) CPU 核心數(shù)的持續(xù)增加。如果還是采用傳20內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院CPU CPU+軟件算法能等場(chǎng)景已經(jīng)捉襟見(jiàn)肘。針對(duì)CPU+軟件算法FPGA 內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院CPU CPU+軟件算法能等場(chǎng)景已經(jīng)捉襟見(jiàn)肘。針對(duì)CPU+軟件算法FPGA AI 智能芯片已經(jīng)發(fā)布并開(kāi)始在產(chǎn)品中成功應(yīng)用。針對(duì)內(nèi)存數(shù)據(jù)庫(kù)和大數(shù)據(jù)、FPGA FPGA 極大的提升和飛躍。(三協(xié)議創(chuàng)新將進(jìn)一步提升分布式內(nèi)存數(shù)據(jù)庫(kù)的一致性能力本之間達(dá)到數(shù)

32、據(jù)完全一致存在延遲。在主從副本達(dá)到完全一致之前,如果發(fā)生主從切換,一部分的寫(xiě)入數(shù)據(jù)就有可能丟失。度。21內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院Raft Raft 時(shí),減少單個(gè)節(jié)點(diǎn)處理慢或者節(jié)點(diǎn)故障影響到系統(tǒng)的可用性。Replicated Data 果。(四內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院Raft Raft 時(shí),減少單個(gè)節(jié)點(diǎn)處理慢或者節(jié)點(diǎn)故障影響到系統(tǒng)的可用性。Replicated Data 果。(四與容器技術(shù)結(jié)合為內(nèi)存數(shù)據(jù)庫(kù)提供更強(qiáng)的彈性擴(kuò)展能力是內(nèi)存數(shù)據(jù)庫(kù)發(fā)展中的重點(diǎn)。近年來(lái)容器技術(shù)的成熟和普及為彈性擴(kuò)展提供了可行的解決方案,容器的使用會(huì)帶來(lái)很多優(yōu)勢(shì):在相對(duì)固定的總資源基礎(chǔ)上,可為擴(kuò)展數(shù)據(jù)庫(kù)提

33、供更多的空間。 機(jī)資源,為創(chuàng)建更多數(shù)據(jù)庫(kù)實(shí)例提供了可能。 22內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院作好鏡像就能實(shí)現(xiàn)快速安全的遷移。 能完成部署,非常適合一些緊急的擴(kuò)容場(chǎng)景。內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院作好鏡像就能實(shí)現(xiàn)快速安全的遷移。 能完成部署,非常適合一些緊急的擴(kuò)容場(chǎng)景。的程序,實(shí)現(xiàn)自動(dòng)化的彈性擴(kuò)縮容。23內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院1976 發(fā)、低時(shí)延的應(yīng)用需求催生出一批開(kāi)源和商業(yè)內(nèi)存數(shù)據(jù)庫(kù)。DRAM 據(jù)持久化問(wèn)題帶來(lái)新的解決方案。SQL支持度等的需求,除了這些技術(shù)因素,還可以引入其他維度的考量,存數(shù)據(jù)庫(kù)的場(chǎng)景多關(guān)注性能,所以選擇合適的硬件搭配也很重要。內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通

34、信研究院1976 發(fā)、低時(shí)延的應(yīng)用需求催生出一批開(kāi)源和商業(yè)內(nèi)存數(shù)據(jù)庫(kù)。DRAM 據(jù)持久化問(wèn)題帶來(lái)新的解決方案。SQL支持度等的需求,除了這些技術(shù)因素,還可以引入其他維度的考量,存數(shù)據(jù)庫(kù)的場(chǎng)景多關(guān)注性能,所以選擇合適的硬件搭配也很重要。提供更強(qiáng)的彈性擴(kuò)展能力。能適用更廣泛的應(yīng)用場(chǎng)景并獲得更多的發(fā)展機(jī)會(huì)。24內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院參考文獻(xiàn)In-Memory Database Market Research Report - Global Forecast to 2023R.2019 Gawlick, Dieter & Kinkade, David. (1985). Varieties

35、of concurrency control in IMS/VS fast path. IEEE Database Eng. Bull. 8.內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院參考文獻(xiàn)In-Memory Database Market Research Report - Global Forecast to 2023R.2019 Gawlick, Dieter & Kinkade, David. (1985). Varieties of concurrency control in IMS/VS fast path. IEEE Database Eng. Bull. 8.3-10. 武振宇.

36、內(nèi)存數(shù)據(jù)庫(kù)及其在實(shí)時(shí)計(jì)費(fèi)系統(tǒng)中的應(yīng)用J. 準(zhǔn)化2012, 25(3):62-65. Levandoski J . Modern main-memory database systemsM. VLDB Endowment,2016. H. Garcia-Molina and K. Salem, Main memory database systems: an overview, in IEEE Transactions on Knowledge and Data Engineering, vol. 4, no. 6, pp. 509-516, Dec. 1992. The Forrester Wave: In-Memory Databases, Q1 2017 In-Memory Databases Are Driving Next-Generation Workloads And Use CasesR.2017 25內(nèi)存數(shù)據(jù)庫(kù)白皮書(shū)中國(guó)信息通信研究院附件:縮

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論