e7 14 avro數(shù)據(jù)序列化系統(tǒng)課件_第1頁
e7 14 avro數(shù)據(jù)序列化系統(tǒng)課件_第2頁
e7 14 avro數(shù)據(jù)序列化系統(tǒng)課件_第3頁
e7 14 avro數(shù)據(jù)序列化系統(tǒng)課件_第4頁
e7 14 avro數(shù)據(jù)序列化系統(tǒng)課件_第5頁
已閱讀5頁，還剩6頁未讀， 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明：本文檔由用戶提供并上傳，收益歸屬內(nèi)容提供方，若內(nèi)容存在侵權(quán)，請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

Hadoop大數(shù)據(jù)解決方案進(jìn)階應(yīng)用Hadoop講師：迪倫（北風(fēng)網(wǎng)版權(quán)所有）Avro數(shù)據(jù)序列化系統(tǒng)(1)Flume日志集群構(gòu)建什么是AvroAvro的特性課程目標(biāo)日志集群構(gòu)建Flume：日志收集HDFS/HBase：日志存儲Hive：日志分析什么是Avro為了Hadoop的前途考慮，Doug

Cutting主導(dǎo)開發(fā)一套全新的序列化系統(tǒng)Avro，于09年加入Hadoop項目家族中Avro設(shè)計用于支持大批量數(shù)據(jù)交換的應(yīng)用Avro可以將數(shù)據(jù)結(jié)構(gòu)或?qū)ο筠D(zhuǎn)化成便于存儲或傳輸?shù)母袷紸vro的特性Avro的特性豐富的數(shù)據(jù)結(jié)構(gòu)類型快速可壓縮的二進(jìn)制數(shù)據(jù)形式，對數(shù)據(jù)二進(jìn)制序列化后可以節(jié)約數(shù)據(jù)存儲空間和網(wǎng)絡(luò)傳輸帶寬存儲持久數(shù)據(jù)的文件容器可以實現(xiàn)遠(yuǎn)程過程調(diào)用RPC簡單的動態(tài)語言結(jié)合功能Avro支持跨編程語言實現(xiàn)（C,

C++,

C#，Java,

Python,Ruby,PHP）Avro依賴于模式（Schema），當(dāng)Avro數(shù)據(jù)存儲到文件中時，它的模式也隨之存儲Avro的模式主要由JSON對象來表示Avro支持兩種序列化編碼方式：二進(jìn)制編碼和JSON編碼Avro的主要作用Avro容器文件結(jié)構(gòu)Avro為了便于MapReduce的處理定義了一種容器文件格式(Container

FileFormat)RPC使用Avro當(dāng)在RPC中使用Avro時，服務(wù)器和客戶端可以在握手連接時交換模式RPC使用Avro當(dāng)在RPC中使用Avro時，服務(wù)器和客戶端可以在握手連接時交換模式Avro與其他序列化系統(tǒng)的區(qū)別Avro提供與諸如Thrift和ProtocolBuffers等系統(tǒng)相似的功能，但是在一些基礎(chǔ)方面還是有區(qū)別的動態(tài)類型整個數(shù)據(jù)的處理過程并不生成代碼、靜態(tài)數(shù)據(jù)類型未標(biāo)記的數(shù)據(jù)減小了序列化的規(guī)模不需

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽，若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間，僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理，對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯，并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容，請與我們聯(lián)系，我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論