大型網(wǎng)站技術(shù)架構(gòu)方案總結(jié)及解析

1、 2013年9月l 大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)l 網(wǎng)站架構(gòu)各網(wǎng)站架構(gòu)各子系統(tǒng)子系統(tǒng)介紹介紹l 網(wǎng)站網(wǎng)站監(jiān)控系統(tǒng)監(jiān)控系統(tǒng)l 討論討論及總結(jié)及總結(jié)定義： IDtN （I dont know, 沒有統(tǒng)一標準。）PV1M網(wǎng)站內(nèi)容 “動態(tài)” 每個目標背后面臨著技術(shù)、設(shè)計、維護等諸多方面的挑戰(zhàn)。 而目標本身的期望值也會根據(jù)實際情況進行調(diào)整，這也意味著網(wǎng)站架構(gòu)建設(shè)是個不網(wǎng)站架構(gòu)建設(shè)是個不斷調(diào)整的過程斷調(diào)整的過程 負載均衡 數(shù)據(jù)備份 異地容災(zāi) 。 高速緩存 并行計算 異地鏡像 。 開發(fā)框架 多層設(shè)計 業(yè)務(wù)分割 。l 大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)l 網(wǎng)站架構(gòu)各子系統(tǒng)網(wǎng)站

2、架構(gòu)各子系統(tǒng)介紹介紹l 網(wǎng)站監(jiān)控系統(tǒng)網(wǎng)站監(jiān)控系統(tǒng)l 討論及總結(jié)討論及總結(jié)lWeb前 端系統(tǒng)l負 載均衡系統(tǒng)l數(shù) 據(jù)庫集群系統(tǒng)l緩 存系統(tǒng)l分 布式存儲系統(tǒng)l分 布式服務(wù)器管理系統(tǒng)l代 碼分發(fā)系統(tǒng)lWebWeb動、靜分離動、靜分離 CDN、GADl瀏覽器緩存瀏覽器緩存: : Header參數(shù)HTTP1.1協(xié)議+GET、-POSTContent-Encoding、 gzip+Cookie、- Sessions, AJAXPLUGINPLUGINHTML5HTML5 能夠讓瀏覽器緩存的數(shù)據(jù)一定要緩存；瀏覽器能夠處理的運算，決不放在服務(wù)器端來處理。lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系

3、統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)大型網(wǎng)站解決高負荷訪問和大量并發(fā)請求采用的終極解決辦法Http serverHttp serverReverse ProxyMail Mail serverserverLB server: 50,000 connectionBug free7*24Easy to upgradelWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)整個網(wǎng)站體系的高可靠性保證l數(shù)據(jù)庫服務(wù)器和應(yīng)用服務(wù)器分離l讀寫分離讀寫分離l主從同步、備份機制主從同步、備份機制l讀、寫數(shù)據(jù)庫集群l從數(shù)據(jù)庫負載均衡: BigI

4、PlWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)緩存分為文件緩存、內(nèi)存緩存、數(shù)據(jù)庫緩存。在大型Web應(yīng)用中使用最多且效率最高的是內(nèi)存緩存l數(shù)據(jù)庫緩存數(shù)據(jù)庫緩存Query CacheData BufferApp server cachel前端頁面緩存前端頁面緩存采用具備緩存功能的http反向代理服務(wù)器作前端頁面緩存器，VarnishSquidNcacheAiCache(商業(yè))【硬件F5】lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)l 存儲量很大：相冊、視頻l 負載均衡cl

5、uster中的每個節(jié)點操作的數(shù)據(jù)從邏輯上看只能是一個整體，不是各自獨立的數(shù)據(jù)資源l開源的輕量級分布式文件系統(tǒng)l文件存儲、文件同步、文件訪問l動態(tài)添加，方便擴充lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)目標：l集中式的、分組的、批量的、自動化的對服務(wù)器進行管理，能夠批量化的執(zhí)行計劃任務(wù)l 高效的實現(xiàn)大規(guī)模的服務(wù)器集群管理執(zhí)行基于策略的配置管理 l完成后期安裝任務(wù)，例如配置網(wǎng)絡(luò)界面信息； l編輯系統(tǒng)配置文件以及其它文件；l管理系統(tǒng)服務(wù)器進程；l檢驗、更正文件許可及所有權(quán)；l刪除無用文件、壓縮被選文件、在網(wǎng)絡(luò)中分發(fā)文件； l自動掛載N

6、FS文件系統(tǒng)； l檢查重要文件和文件系統(tǒng)是否存在及其完整性。 l執(zhí)行命令及腳本。 l應(yīng)用安全相關(guān)的補丁以及相似系統(tǒng)的修正。 。 。lWeb前端系統(tǒng)l負載均衡系統(tǒng)l數(shù)據(jù)庫集群系統(tǒng)l緩存系統(tǒng)l分布式存儲系統(tǒng)l分布式服務(wù)器管理系統(tǒng)l代碼分發(fā)系統(tǒng)l開發(fā)環(huán)境內(nèi)測環(huán)境公測環(huán)境生產(chǎn)環(huán)境l源代碼管理和版本控制SVN:l管理方便，邏輯明確，符合一般人思維習慣；l易于管理，集中式服務(wù)器更能保證安全性；l代碼一致性非常高，更新速度快；l適合開發(fā)人數(shù)不多的項目開發(fā)；l學習成本低，快速上手Rsync (remote sync)l可以鏡像保存整個目錄樹和文件系統(tǒng)；l可以很容易做到保持原來文件的權(quán)限、時間、軟硬鏈接等等；l無須特殊權(quán)限即可安裝;l快速、安全、支持匿名傳輸，以方便進行網(wǎng)站鏡象。l 大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)l 網(wǎng)站架構(gòu)各子系統(tǒng)網(wǎng)站架構(gòu)各子系統(tǒng)介紹介紹l 網(wǎng)站監(jiān)控系統(tǒng)網(wǎng)站監(jiān)控系統(tǒng)l 討論及總結(jié)討論及總結(jié)Nagios (實時)Munin (趨勢)Drraw (匯聚)l 大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)大型網(wǎng)站架構(gòu)的目標與挑戰(zhàn)l 網(wǎng)站架構(gòu)各子系統(tǒng)網(wǎng)站架構(gòu)各子系統(tǒng)介紹介紹l 網(wǎng)站監(jiān)控系統(tǒng)網(wǎng)站監(jiān)控系統(tǒng)l 討論及總結(jié)討論及總結(jié)l大型大型網(wǎng)站架構(gòu)是怎么樣子的？網(wǎng)站架構(gòu)是怎么樣子的？ l存在存在萬能的架構(gòu)嗎？架構(gòu)本