京東云架構(gòu)介紹

1、京東云架構(gòu)介紹私有云概況中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄4緩存云 Cache Cloud大容量緩存將緩存數(shù)據(jù)分攤到多個分片上，創(chuàng)建出大容量的緩存?？捎眯岳镁彺娣?wù)器提供的“數(shù)據(jù)復(fù)制”機制，在主節(jié)點和從節(jié)點間進行數(shù)據(jù)同步；當主節(jié)點失效時，自動由從節(jié)點接管。I/O策略針對讀操作可分為“主優(yōu)先”、“從優(yōu)先”、“隨機挑選”等方式。針對寫操作可分為“同步寫”和“異步寫”。不同的I/O策略，對數(shù)據(jù)一致性的影響也不同，應(yīng)用可以根據(jù)自身對數(shù)據(jù)一致性的需求，選擇不同的I/O策略。擴容縱向上，在單個節(jié)點上預(yù)留內(nèi)存，然后需要擴容時直接使用預(yù)留內(nèi)存的方法達到擴容的目的。橫向上，通過增加分片數(shù)并在一些場景下

2、結(jié)合數(shù)據(jù)遷移來達到擴容的目的。緩存云架構(gòu)SAF （Service Architecture Framework）是系統(tǒng)SOA化的重要基礎(chǔ)組件，是接入JOS開放平臺的重要前提，它是系統(tǒng)SOA服務(wù)化、API接口化的標準服務(wù)支撐技術(shù)，自12年四月上線以來目前已有八百多個接口、二千多臺服務(wù)器接入SAF平臺，在線服務(wù)節(jié)點將近三萬，每天通過SAF進行了服務(wù)調(diào)用都是以十億次來計算的。系統(tǒng)特色：作為高性能分布式RPC服務(wù)調(diào)用中間件，SAF服務(wù)注冊訂閱中心負責服務(wù)的注冊與訂閱，部署在業(yè)務(wù)應(yīng)用中的客戶端負責RPC調(diào)用；遠程方法調(diào)用透明，簡單配置，無API入侵。SAF具有FailOver特性，提供調(diào)用跟蹤、服務(wù)路由

3、、軟負載均衡，實現(xiàn)高可用的服務(wù)，方便實現(xiàn)服務(wù)能力水平伸縮。SAF還可提供更多服務(wù)治理功能，由專家小組提供支持。服務(wù)架構(gòu)框架 SAF注冊中心 Registry服務(wù)提供者查看服務(wù)調(diào)用者查看注冊中心管理端路由管理屬性配置服務(wù)上下線SAF調(diào)用過程MSP（Message Service Platform)是使用JMS規(guī)范、提供可靠傳遞消息及數(shù)據(jù)的消息中間件平臺，具有很高的可用性、擴展性和運維性。用于系統(tǒng)解耦、非實時系統(tǒng)通信和異步流程處理等場景。MSP特性：生產(chǎn)者與消費者解耦客戶端和Broker分別支持分布式部署，支持動態(tài)擴容Broker采用MASTER/SLAVE部署方案，支持動態(tài)切換MASTER-SL

4、AVE同步復(fù)制，保證消息可靠性消費異常消息支持定期重試生產(chǎn)和消費信息歸檔可查詢消息服務(wù)平臺 MSPMSP架構(gòu)業(yè)務(wù)流程管理服務(wù) PAFPAF（Process Architecture Foundation)是一個開放給全公司技術(shù)團隊的獨立部署分布式的業(yè)務(wù)流程管理(BPM)服務(wù)。 目前應(yīng)用于多個研發(fā)部門項目自動以及人工流程的開發(fā)。微內(nèi)核，完全水平擴展靈活的業(yè)務(wù)流程監(jiān)控和統(tǒng)計支持BPMN2.0，功能強大流程開發(fā)調(diào)試簡單特點 應(yīng)用是什么中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄流失計算服務(wù)實時計算服務(wù)離線/批量計算報表/數(shù)據(jù)資源/任務(wù)安全管理數(shù)據(jù)庫全網(wǎng)日志海量存儲服務(wù)分布式數(shù)據(jù)庫高速緩存服務(wù)海量存儲服

5、務(wù)用戶應(yīng)用數(shù)據(jù)源無限海量數(shù)據(jù)存儲；高效數(shù)據(jù)處理，日均處理數(shù)據(jù)240條/天，分析數(shù)據(jù)20T/天完善的故障恢復(fù)工具、災(zāi)難備份集群可用率可達99.99%用戶應(yīng)用數(shù)據(jù)分析云數(shù)據(jù)處理框架 Data Process Framework流式計算框架 Streaming Computation為Storm提供了一套高級、易用的類SQL語法和常用組件，簡化常見的流式計算任務(wù)的編碼工作。目前應(yīng)用于實時流量監(jiān)控項目。提供常用的IO適配器；兼容大部分SQL92語法。特點 應(yīng)用是什么彈性Map Reduce JEMR易用彈性低成本可靠靈活您可以配置一個、數(shù)百個或者甚至數(shù)千個任意大小的計算實例來處理數(shù)據(jù)。您可以輕松增加或

6、減少實例的數(shù)量，并且按使用情況支付費用。您不必擔心節(jié)點調(diào)配、集群設(shè)置、Hadoop 配置或集群調(diào)試。 您只需集中精力進行分析即可。全面監(jiān)控您的集群，重新嘗試失敗的任務(wù)，并自動地替換性能不佳的實例，讓您任務(wù)更加可靠。您可以通過web完全掌控您的集群。 也可以擁有每個實例的根訪問權(quán)限。Jindong Elastic MapReduce (JEMR) 是將mapreduce Web 服務(wù)化，讓工程師能夠輕松快速地處理海量數(shù)據(jù)streamingBOSS統(tǒng)一認證授權(quán)云監(jiān)控云主機云數(shù)據(jù)庫云存儲Hadoop-jarhivepigimpalaWEBConsolerestAPISDK數(shù)據(jù)管理任務(wù)運行監(jiān)控集群申請

7、管理企業(yè)/研究人員/數(shù)據(jù)分析師/開發(fā)人員彈性mapreduce架構(gòu)JBUS抽取業(yè)務(wù)數(shù)據(jù)到JDS，支持跨機房數(shù)據(jù)備份數(shù)據(jù)抽取服務(wù)JBUSAPIJbus前端DBMQ全量模塊Worker全量模塊JBUS 系統(tǒng)結(jié)構(gòu)全量抽取流程增量抽取流程中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄文件系統(tǒng) JFSJFS是針對在線核心數(shù)據(jù)自主研發(fā)實現(xiàn)的高可靠、高可用、強一致存儲系統(tǒng)。特別針對小文件進行深度優(yōu)化，支持多數(shù)據(jù)中心復(fù)制。文件系統(tǒng)每日接受2億文件上傳的海量存儲系統(tǒng)云存儲高可用、高可靠、低成本的對象存儲服務(wù)塊存儲為虛擬化、數(shù)據(jù)庫等場景提供可靠的塊設(shè)備抽象Jingdong Elastic Storage Platfo

8、rmBlock Storage Abstraction Private Client Libraries Public RESTful API 對象云存儲 JSS云存儲服務(wù)JSS(Jingdong Storage Service)是一套海量、安全、低成本、高可用的云存儲服務(wù)基礎(chǔ)平臺。海量數(shù)據(jù)低成本安全性高可用性通過數(shù)據(jù)冗余、集中資源管理等方式將大規(guī)模的硬件整合為高可靠的海量虛擬存儲資源用戶無需自己部署和維護自己的存儲系統(tǒng)，借助于JSS平臺，就可以輕松地創(chuàng)建和管理數(shù)據(jù)資源采用數(shù)據(jù)隔離、訪問控制策略來保證數(shù)據(jù)安全性，使用嚴格的安全措施，比如使用經(jīng)過證明的加密算法對用戶進行身份驗證，有效防止用戶信息

9、和用戶數(shù)據(jù)資源泄露通過軟件智能調(diào)度實現(xiàn)自動故障恢復(fù)來保證系統(tǒng)的高可用性，同時采用群集系統(tǒng)（Cluster），快速消除單點故障,在任何時候都能夠保證系統(tǒng)正常使用，對外提供云存儲服務(wù)數(shù)據(jù)庫云服務(wù) JDS高可用：自動對數(shù)據(jù)庫進行高可用部署，保障服務(wù)在不可用時自動完成切換數(shù)據(jù)備份：實時將數(shù)據(jù)庫鏡像及日志備份至云存儲、實現(xiàn)針對數(shù)據(jù)庫實例的鏡像恢復(fù)和時間點恢復(fù)安全隔離：通過使用安全組功能，增強原有數(shù)據(jù)庫的訪問權(quán)限控制分布式數(shù)據(jù)庫 JProxyJProxy提供MariaDB, MySQL等數(shù)據(jù)庫的統(tǒng)一接入訪問，擁有流量過載保護，數(shù)據(jù)自動拆分，可配置路由規(guī)則，數(shù)據(jù)無縫遷移等功能。應(yīng)用場景：數(shù)據(jù)需要分庫分表，自

10、動擴容的應(yīng)用。中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄向移動端應(yīng)用提供實時消息推送服務(wù)通過終端和云端建立穩(wěn)定長連接，實現(xiàn)消息實時推送云推送 JD Cloud Message Push省穩(wěn)準節(jié)?。和ㄟ^多應(yīng)用單服務(wù)單連接、AlarmManager定時心跳，省電省流量Cache pool 、多核并行化提升后端服務(wù)器處理能力，節(jié)省服務(wù)器穩(wěn)定：消息回執(zhí)確認機制、高可用服務(wù)器集群確保不丟消息終端服務(wù)已收消息過濾，防止消息重復(fù)推送Android后臺服務(wù)長連接、云端耗時任務(wù)分解并行處理，實時送達離線消息過期時間設(shè)置，確保消息有效期內(nèi)推送精準：精細化標簽組播和點播有效提升消息推送精準度短地址服務(wù)系統(tǒng)提供網(wǎng)址縮

11、短服務(wù)，目的將url進行字符串壓縮，變長地址為短碼進行頁面定向。電子商務(wù)興起后，分享商品成了客戶的最愛使用得項目。短地址利于公司站點推廣，解決移動端代下單時遇到的長地址導(dǎo)致操作不暢等情況。對外亦提供saas服務(wù)，再者偵聽來源客戶的點擊流信息。支持多用戶同一地址對應(yīng)不同短地址；支持點擊量、來源、地域的實時分析。云測試是為移動應(yīng)用測試/開發(fā)者提供的Web-based移動終端測試平臺。覆蓋Android、iOS、Windows Phone等多個設(shè)備平臺，均提供真實的手機/平板等移動終端，為移動應(yīng)用測試/開發(fā)者提供安全的黑盒測試環(huán)境。包含的測試服務(wù)類型有功能測試、性能測試、穩(wěn)定性測試等，返回包括日志和

12、截圖的詳細測試報告。云測試將開發(fā)者從原始的人工測試中解脫出來，自動化快速完成測試，保障App應(yīng)用高質(zhì)量快速迭代。短地址和云測試 Short URL & Mobile Test云分析 JD Cloud Analysis云分析著眼于移動端應(yīng)用，是一款全面的、實時的、專業(yè)的移動用戶行為分析服務(wù)工具。云分析工具能夠幫助移動應(yīng)用開發(fā)商分析、挖掘用戶屬性和用戶行為數(shù)據(jù)，以便移動應(yīng)用開發(fā)者利用數(shù)據(jù)優(yōu)化移動產(chǎn)品、調(diào)整運營模式、定制推廣決策，從而提高移動產(chǎn)品的用戶體驗，獲取更多和質(zhì)量更高的用戶。云分析支持目前主流的移動端操作系統(tǒng)，包括Android、IOS、Windows phone，并進行日志壓縮，壓縮比小于

13、50%，單條日志小于0.3k，極大減小對終端用戶流量的影響。 同時支持一鍵埋點，只需一行代碼即可完成應(yīng)用集成SDK，易于接入，開發(fā)量小。 現(xiàn)階段終端用戶安裝量已超過2200萬，接入包括商城，電子書，團購在內(nèi)的全部公司App應(yīng)用。日均處理日志量近2億條,近50G。2200萬終端用戶 同時云分析推出APP錯誤日志分析與報警，幫助APP開發(fā)者提升APP應(yīng)用質(zhì)量，增強終端用戶黏性。支持關(guān)鍵詞自定義報警，報警方式多樣化。中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄彈性集群是一款高性能應(yīng)用集群服務(wù)，使用簡單，將開發(fā)者從繁瑣的部署、配置、安全、運維中解脫，只需五步即可完成大規(guī)模集群創(chuàng)建；自動伸縮，集群支持高并

14、發(fā)、高仿問量，且可根據(jù)自定義的規(guī)則進行資源的自動擴容或縮容；安全可靠，彈性集群服務(wù)通過DNS和外界客戶端通信，通過防火墻和網(wǎng)絡(luò)層安全控制有效杜絕ARP攻擊和MAC欺騙，讓應(yīng)用遠離危險和攻擊。彈性集群 Elastic Cluster 彈性集群還可自動替換不健康實例，自動進行請求自動分發(fā)和資源調(diào)度，實現(xiàn)負載均衡；并提供豐富的監(jiān)控、告警/預(yù)警以及事件跟蹤功能。DNSAPP ServerVMAPP ServerVMAutoScaling GroupElastic LoadBalancerMySQLMasterMySQL(Slave)OpenStackELB API RESTful AS API RES

15、Tful JD ElasticCluster ServiceJSSJDSJBSJLSJDPMySQLMasterMonitor中間件大數(shù)據(jù)存儲移動彈性計算資源池運維目錄necessitynecessity自動化運維云部署平臺監(jiān)控平臺日志平臺基礎(chǔ)監(jiān)控、應(yīng)用監(jiān)控、業(yè)務(wù)監(jiān)控）220億監(jiān)控分析數(shù)據(jù)/天報警粒度：秒級自動化部署全網(wǎng)服務(wù)器每日部署3000臺服務(wù)器部署1000臺用時58秒全網(wǎng)數(shù)據(jù)采集、搜索、分析轉(zhuǎn)發(fā)、訂閱量超過300億條/天索引：100億條/天一鍵部署海量搜索實時監(jiān)控服務(wù)器群運維成本減少90%以上實時監(jiān)控服務(wù)器、監(jiān)控應(yīng)用、業(yè)務(wù)數(shù)據(jù)海量搜索，快速分析自動化運維云 Automatic IT Op

16、eration自動編譯 Automatic Compile系統(tǒng)特色：實現(xiàn)上線流程化，規(guī)范化，自主化支持切流量上線，提高應(yīng)用發(fā)布時的可用性，不中斷服務(wù)，避免丟失數(shù)據(jù)，對用戶的影響降到最低對資源統(tǒng)一管理，維護了完備的主機、應(yīng)用等配置信息SVN系統(tǒng)Hudson和抽包系統(tǒng)編譯系統(tǒng)Hudson源碼SVN打包申請審批配置編譯抽包測試上線管理發(fā)包1。根據(jù)配置信息后臺登錄hudson系統(tǒng)2。對相應(yīng)的項目發(fā)出編譯命令3。返回編譯過程和編譯結(jié)果，以及編譯日志1。根據(jù)配置信息后臺登錄hudson系統(tǒng)2。如同登錄抽包系統(tǒng)一樣根據(jù)需要 抽取文件，并上傳到svn3。返回生成文件包路徑，提供下載 抽包結(jié)果上傳SVN自動部署

17、系統(tǒng)多個集群發(fā)布包SVN從SVN下載包提供豐富的報表、審計功能，為決策提供依據(jù)使用基于角色的安全控制支持線上服務(wù)器免登陸遠程文件查看，提高排查線上問題的效率抽包系統(tǒng)自動部署 Automatic Deployment上線時間從2-3小時縮減到幾分鐘主機A主機B主機.主機N部署系統(tǒng)與應(yīng)用的語言類型無關(guān)發(fā)布回滾重啟停止一鍵操作自動部署系統(tǒng)是幫助研發(fā)運維上線部署的系統(tǒng)，支持批量發(fā)布，回滾，重啟應(yīng)用，支持多種應(yīng)用語言及操作系統(tǒng)環(huán)境。自動部署系統(tǒng)與自動編譯系統(tǒng)等打通，規(guī)范了上線部署流程，簡化上線復(fù)雜度，減少人工失誤，提高上線效率，降低企業(yè)IT應(yīng)用運維成本，使一個人可以支持大規(guī)模的服務(wù)器及應(yīng)用發(fā)布。系統(tǒng)特色

18、：實現(xiàn)上線流程化，規(guī)范化，自主化支持切流量上線，提高應(yīng)用發(fā)布時的可用性，不中斷服務(wù)，避免丟失數(shù)據(jù)，對用戶的影響降到最低對資源統(tǒng)一管理，維護了完備的主機、應(yīng)用等配置信息提供豐富的報表、審計功能，為決策提供依據(jù)使用基于角色的安全控制支持線上服務(wù)器免登陸遠程文件查看，提高排查線上問題的效率統(tǒng)一監(jiān)控 Unified Monitoring9個研發(fā)部門的核心系統(tǒng)全部規(guī)范接入統(tǒng)一監(jiān)控，實時監(jiān)測線上各系統(tǒng)運行狀態(tài)并進行預(yù)警報警，最大程度上減少可能給公司帶來的經(jīng)濟和聲譽損失7*24小時監(jiān)控服務(wù)工單系統(tǒng) 與remedy系統(tǒng)打通，報警同時自動產(chǎn)生工單，實現(xiàn)線上問題的自動升級和追蹤，為有效管理和統(tǒng)計應(yīng)用系統(tǒng)問題解決情況提供支持EC2、AS 為EC2、AS系統(tǒng)提供接口，實時采集和分析應(yīng)用服務(wù)器的性能指標數(shù)據(jù)，為AS的彈性集群提供基礎(chǔ)數(shù)據(jù)支持統(tǒng)一日志平臺與統(tǒng)一日志打通，通過業(yè)務(wù)監(jiān)控功能，實現(xiàn)應(yīng)用系統(tǒng)日志關(guān)鍵字報警Nagios系統(tǒng)與nagios系統(tǒng)打通，實現(xiàn)對服務(wù)器性能報警第一時間通知到研發(fā)負責人，為研發(fā)及時處理問題提供有力支持，此功能備受研發(fā)同事肯定自動部署系統(tǒng)與自動部署系統(tǒng)打通，實現(xiàn)當服務(wù)器下架時自動通知到研發(fā)負責人，減少了運維無法通知到研發(fā)而影響應(yīng)用系統(tǒng)正常運行的風險統(tǒng)一日志 Unified Log統(tǒng)一日志