分布式存儲(chǔ)在網(wǎng)盤和在線備份的應(yīng)用

1、分布式存儲(chǔ)在網(wǎng)盤和在線備份的應(yīng)用技術(shù)創(chuàng)新，變革未來(lái)提綱互聯(lián)網(wǎng)存儲(chǔ)應(yīng)用的特點(diǎn)網(wǎng)盤與在線備份的特點(diǎn)云存儲(chǔ)平臺(tái)簡(jiǎn)介總體實(shí)現(xiàn)方案分布式數(shù)據(jù)庫(kù)架構(gòu)分布式數(shù)據(jù)庫(kù)特點(diǎn)分布式文件系統(tǒng)架構(gòu)互聯(lián)網(wǎng)存儲(chǔ)應(yīng)用的特點(diǎn)3高可靠：數(shù)據(jù)多份存儲(chǔ)高可用：7X24小時(shí)高擴(kuò)展：隨時(shí)擴(kuò)容高性能：高并發(fā)，低延遲高安全：分布式密鑰和嚴(yán)格IDC管理制度高性價(jià)比：價(jià)格成本可控制易監(jiān)控和維護(hù)：響應(yīng)及時(shí)網(wǎng)盤和在線備份的特點(diǎn)4網(wǎng)盤與在線備份有很多相同點(diǎn)后臺(tái)架構(gòu)類似訪問方式相似（上傳及下載）都是云存儲(chǔ)服務(wù)目標(biāo)都是解決數(shù)據(jù)存儲(chǔ)問題等在線備份相對(duì)網(wǎng)盤（同步盤）的特殊性是否保持用戶的原始路徑是否有設(shè)備的區(qū)分是否可以備份企業(yè)級(jí)數(shù)據(jù)庫(kù)是否密鑰用戶可以自己保存

2、云存儲(chǔ)平臺(tái)簡(jiǎn)介PC客戶端手機(jī)客戶端WEB數(shù)據(jù)應(yīng)用層HBase小數(shù)據(jù)存儲(chǔ)層MongoDBMySQLHadoop/Carbonite業(yè)務(wù)處理層文件流信息HDFSCFS大數(shù)據(jù)存儲(chǔ)層5云存儲(chǔ)平臺(tái)簡(jiǎn)介(二)6總共有1000億個(gè)文件每天增加近1個(gè)億新文件總共服務(wù)器臺(tái)數(shù)約有1萬(wàn)臺(tái)總存儲(chǔ)量約為200P總體實(shí)現(xiàn)方案7分布式數(shù)據(jù)庫(kù)：關(guān)系數(shù)據(jù)庫(kù)與非關(guān)系型數(shù)據(jù)庫(kù)(NoSql)集群 解決結(jié)構(gòu)化數(shù)據(jù)的海量存儲(chǔ)和高效訪問MySQLHBase分布式文件系統(tǒng)：以文件為存儲(chǔ)單位的非結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)HDFSMongoDB前端應(yīng)用負(fù)載均衡LVSNgnix分布式數(shù)據(jù)庫(kù)架構(gòu)8分布式數(shù)據(jù)庫(kù)架構(gòu)(二)HBaseMySQL離散數(shù)據(jù)信息Maste

3、r1,2Slave1,2Master1,2,3Slave1,2,3,4,5同步服務(wù)交易數(shù)據(jù)等文件屬性等9分布式數(shù)據(jù)庫(kù)特點(diǎn)-HBase10成熟度比較高，目前已有多個(gè)著名公司在使用TaobaoFacebookAdobeTwitterYahoo!Trend Micro廣告分析公司分布式數(shù)據(jù)庫(kù)特點(diǎn)-HBase(二)11行強(qiáng)一致性同一行數(shù)據(jù)的讀寫只在同一臺(tái)RS（RegionServer）機(jī)器上進(jìn)行同一行的列的寫入是原子操作水平自動(dòng)伸縮Region的自動(dòng)分裂(生產(chǎn)系統(tǒng)需要看具體情況)Master的自動(dòng)均衡增加RegionServer機(jī)器即增加讀寫吞吐量及處理能力增加DataNode機(jī)器可增加容量分布式數(shù)據(jù)

4、庫(kù)特點(diǎn)-HBase(三)12任意增加列高性能隨機(jī)寫支持Thrift框架Hbase經(jīng)驗(yàn)分享13合理設(shè)計(jì)rowKey和Pre-Sharding盡量避免只操作少數(shù)幾臺(tái)機(jī)器；根據(jù)數(shù)據(jù)量、RegionServer個(gè)數(shù)合理Pre-Sharding。充分利用Filter功能SingleColumnValueFilterSubstringComparatorBinaryPrefixComparatorFamilyFilterQualifierFilterColumnPrefixFilterColumnPaginationFilterHbase經(jīng)驗(yàn)分享(二)14可根據(jù)應(yīng)用需求重寫某些方法SubstringCom

5、paratorOverridepublic int compareTo(byte value) String laststr = Bytes.toString(value).toLowerCase();return laststr.contains(substr) ? 0 : 1;HBase經(jīng)驗(yàn)分享（三）15充分FilterList的addFilterBinaryPrefixComparatorQualifierFilterColumnPrefixFilterPageFilterHBase經(jīng)驗(yàn)分享（四）16考慮容量開啟壓縮目前主要是lzo方式提高隨機(jī)讀性能前端增加一個(gè)分布式緩存Radis系統(tǒng)系

6、統(tǒng)參數(shù)優(yōu)化GC策略：-XX:+UseConcMarkSweepGC -XX:+UseParNewGC - XX:CMSInitiatingOccupancyFraction=70讀寫策略優(yōu)化HBase經(jīng)驗(yàn)分享（五）17系統(tǒng)參數(shù)優(yōu)化讀優(yōu)化：hbase.regionserver.handler.counthbase.regionserver.global.memstore.upperLimit/lowerLimithbase.hregion.memstore.block.multiplierhbase.hstore.blockingStoreFileshbase.hregion.max.files

7、ize寫優(yōu)化：Bloomfilterin-memoryBlockcachehfile.block.cache.size分布式文件系統(tǒng)架構(gòu)18大文件數(shù)據(jù)HDFS小文件數(shù)據(jù)及分塊數(shù)據(jù)MongoDB文件“垃圾”數(shù)據(jù)回收分布式文件系統(tǒng)架構(gòu)-HDFS(二)NFS Server/ BackupNode19分布式文件系統(tǒng)架構(gòu)(三)文件流數(shù)據(jù)Shard1ShardNReplica setMaster1,2Slave1,2,NMongoDBHDFS校驗(yàn)服務(wù)小文件/分塊數(shù)據(jù)大文件20MongoDB經(jīng)驗(yàn)分享21盡量創(chuàng)建索引限定返回結(jié)果條數(shù)Filter只返回需要的數(shù)據(jù)優(yōu)化主鍵，盡量自己控制主健IDUUID主鍵使用BinaryData數(shù)據(jù)類型存儲(chǔ)HDFS經(jīng)驗(yàn)分享22系統(tǒng)參數(shù)優(yōu)化GC策略帶寬策略優(yōu)化帶內(nèi)與帶外心跳的區(qū)分NameNode的備份至NFS時(shí)盡量不影響正常帶寬使用同步鎖機(jī)制盡量少用所有文件IO操作的地方盡可能不要加同步鎖文件復(fù)本數(shù)設(shè)置盡量根據(jù)應(yīng)用的訪問頻率設(shè)置不同份數(shù)HDFS經(jīng)驗(yàn)分享(二)23NameNode數(shù)據(jù)損壞原因分析及修復(fù)查看日志，確定大概問題位置備份fs