云計(jì)算體系結(jié)構(gòu)課件

云計(jì)算體系結(jié)構(gòu)

云計(jì)算基本原理云計(jì)算是對(duì)分布式處理（DistributedComputing）、并行處理（ParallelComputing）和網(wǎng)格計(jì)算（GridComputing）及分布式數(shù)據(jù)庫的改進(jìn)處理，其前身是利用并行計(jì)算解決大型問題的網(wǎng)格計(jì)算和將計(jì)算資源作為可計(jì)量的服務(wù)提供的公用計(jì)算，在互聯(lián)網(wǎng)寬帶技術(shù)和虛擬化技術(shù)高速發(fā)展后萌生出云計(jì)算。許多云計(jì)算公司和研究人員對(duì)云計(jì)算采用各種方式進(jìn)行描述和定義，基于云計(jì)算的發(fā)展和我們對(duì)云計(jì)算的理解，概括性給出云計(jì)算的基本原理為：利用非本地或遠(yuǎn)程服務(wù)器（集群）的分布式計(jì)算機(jī)為互聯(lián)網(wǎng)用戶提供服務(wù)（計(jì)算、存儲(chǔ)、軟硬件等服務(wù)）。這使得用戶可以將資源切換到需要的應(yīng)用上，根據(jù)需求訪問計(jì)算機(jī)和存儲(chǔ)系統(tǒng)。云計(jì)算可以把普通的服務(wù)器或者PC連接起來以獲得超級(jí)計(jì)算機(jī)計(jì)算機(jī)的計(jì)算和存儲(chǔ)等功能，但是成本更低。云計(jì)算真正實(shí)現(xiàn)了按需計(jì)算，從而有效地提高了對(duì)軟硬件資源的利用效率。云計(jì)算的出現(xiàn)使高性并行計(jì)算不再是科學(xué)家和專業(yè)人士的專利，普通的用戶也能通過云計(jì)算享受高性能并行計(jì)算所帶來的便利，使人人都有機(jī)會(huì)使用并行機(jī)，從而大大提高了工作效率和計(jì)算資源的利用率。云計(jì)算模式中用戶不需要了解服務(wù)器在哪里，不用關(guān)心內(nèi)部如何運(yùn)作，通過高速互聯(lián)網(wǎng)就可以透明地使用各種資源。云計(jì)算體系結(jié)構(gòu)云計(jì)算是全新的基于互聯(lián)網(wǎng)的超級(jí)計(jì)算理念和模式，實(shí)現(xiàn)云計(jì)算需要多種技術(shù)結(jié)合，并且需要用軟件實(shí)現(xiàn)將硬件資源進(jìn)行虛擬化管理和調(diào)度，形成一個(gè)巨大的虛擬化資源池，把存儲(chǔ)于個(gè)人電腦、移動(dòng)設(shè)備和其他設(shè)備上的大量信息和處理器資源集中在一起，協(xié)同工作。按照最大眾化、最通俗理解云計(jì)算就是把計(jì)算資源都放到互聯(lián)網(wǎng)上，互聯(lián)網(wǎng)即是云計(jì)算時(shí)代的云。計(jì)算資源則包括了計(jì)算機(jī)硬件資源（如計(jì)算機(jī)設(shè)備、存儲(chǔ)設(shè)備、服務(wù)器集群、硬件服務(wù)等）和軟件資源（如應(yīng)用軟件、集成開發(fā)環(huán)境、軟件服務(wù)）。

云計(jì)算體系結(jié)構(gòu)云計(jì)算平臺(tái)是一個(gè)強(qiáng)大的“云”網(wǎng)絡(luò)，連接了大量并發(fā)的網(wǎng)絡(luò)計(jì)算和服務(wù)，可利用虛擬化技術(shù)擴(kuò)展每一個(gè)服務(wù)器的能力，將各自的資源通過云計(jì)算平臺(tái)結(jié)合起來，提供超級(jí)計(jì)算和存儲(chǔ)能力。通用的云計(jì)算體系結(jié)構(gòu)如下圖所示：云計(jì)算體系結(jié)構(gòu)云用戶端：提供云用戶請(qǐng)求服務(wù)的交互界面，也是用戶使用云的入口，用戶通過Web瀏覽器可以注冊(cè)、登錄及定制服務(wù)、配置和管理用戶。打開應(yīng)用實(shí)例與本地操作桌面系統(tǒng)一樣。服務(wù)目錄：云用戶在取得相應(yīng)權(quán)限（付費(fèi)或其他限制）后可以選擇或定制的服務(wù)列表，也可以對(duì)已有服務(wù)進(jìn)行退訂的操作，在云用戶端界面生成相應(yīng)的圖標(biāo)或列表的形式展示相關(guān)的服務(wù)。云計(jì)算體系結(jié)構(gòu)云計(jì)算服務(wù)層次在云計(jì)算中，根據(jù)其服務(wù)集合所提供的服務(wù)類型，整個(gè)云計(jì)算服務(wù)集合被劃分成4個(gè)層次：應(yīng)用層、平臺(tái)層、基礎(chǔ)設(shè)施層和虛擬化層。這4個(gè)層次每一層都對(duì)應(yīng)著一個(gè)子服務(wù)集合，為云計(jì)算服務(wù)層次如下圖所示：云計(jì)算體系結(jié)構(gòu)云計(jì)算的服務(wù)層次是根據(jù)服務(wù)類型即服務(wù)集合來劃分，與大家熟悉的計(jì)算機(jī)網(wǎng)絡(luò)體系結(jié)構(gòu)中層次的劃分不同。在計(jì)算機(jī)網(wǎng)絡(luò)中每個(gè)層次都實(shí)現(xiàn)一定的功能，層與層之間有一定關(guān)聯(lián)。而云計(jì)算體系結(jié)構(gòu)中的層次是可以分割的，即某一層次可以單獨(dú)完成一項(xiàng)用戶的請(qǐng)求而不需要其他層次為其提供必要的服務(wù)和支持。在云計(jì)算服務(wù)體系結(jié)構(gòu)中各層次與相關(guān)云產(chǎn)品對(duì)應(yīng)。應(yīng)用層對(duì)應(yīng)SaaS軟件即服務(wù)如：GoogleAPPS、SoftWare+Services；平臺(tái)層對(duì)應(yīng)PaaS平臺(tái)即服務(wù)如：IBMITFactory、GoogleAPPEngine、F；基礎(chǔ)設(shè)施層對(duì)應(yīng)IaaS基礎(chǔ)設(shè)施即服務(wù)如：AmazoEc2、IBMBlueCloud、SunGrid；虛擬化層對(duì)應(yīng)硬件即服務(wù)結(jié)合Paas提供硬件服務(wù)，包括服務(wù)器集群及硬件檢測(cè)等服務(wù)。云計(jì)算體系結(jié)構(gòu)云計(jì)算技術(shù)層次云計(jì)算技術(shù)層次和云計(jì)算服務(wù)層次不是一個(gè)概念，后者從服務(wù)的角度來劃分云的層次，主要突出了云服務(wù)能給我?guī)硎裁?。而云?jì)算的技術(shù)層次主要從系統(tǒng)屬性和設(shè)計(jì)思想角度來說明云，是對(duì)軟硬件資源在云計(jì)算技術(shù)中所充當(dāng)角色的說明。從云計(jì)算技術(shù)角度來分，云計(jì)算大約有4部分構(gòu)成：物理資源、虛擬化資源、中間件管理部分和服務(wù)接口，如下圖所示：服務(wù)接口：統(tǒng)一規(guī)定了在云計(jì)算時(shí)代使用計(jì)算機(jī)的各種規(guī)范、云計(jì)算服務(wù)的各種標(biāo)準(zhǔn)等，用戶端與云端交互操作的入口，可以完成用戶或服務(wù)注冊(cè)，對(duì)服務(wù)的定制和使用。云計(jì)算體系結(jié)構(gòu)服務(wù)管理中間件：在云計(jì)算技術(shù)中，中間件位于服務(wù)和服務(wù)器集群之間，提供管理和服務(wù)即云計(jì)算體系結(jié)構(gòu)中的管理系統(tǒng)。對(duì)標(biāo)識(shí)、認(rèn)證、授權(quán)、目錄、安全性等服務(wù)進(jìn)行標(biāo)準(zhǔn)化和操作，為應(yīng)用提供統(tǒng)一的標(biāo)準(zhǔn)化程序接口和協(xié)議，隱藏底層硬件、操作系統(tǒng)和網(wǎng)絡(luò)的異構(gòu)性，統(tǒng)一管理網(wǎng)絡(luò)資源。其用戶管理包括用戶身份驗(yàn)證、用戶許可、用戶定制管理；資源管理包括負(fù)載均衡、資源監(jiān)控、故障檢測(cè)等；安全管理包括身份驗(yàn)證、訪問授權(quán)、安全審計(jì)、綜合防護(hù)等；映像管理包括映像創(chuàng)建、部署、管理等。虛擬化資源：指一些可以實(shí)現(xiàn)一定操作具有一定功能，但其本身是虛擬而不是真實(shí)的資源，如計(jì)算池，存儲(chǔ)池和網(wǎng)絡(luò)池、數(shù)據(jù)庫資源等，通過軟件技術(shù)來實(shí)現(xiàn)相關(guān)的虛擬化功能包括虛擬環(huán)境、虛擬系統(tǒng)、虛擬平臺(tái)。物理資源：主要指能支持計(jì)算機(jī)正常運(yùn)行的一些硬件設(shè)備及技術(shù)，可以是價(jià)格低廉的PC，也可以是價(jià)格昂貴的服務(wù)器及磁盤陣列等設(shè)備，可以通過現(xiàn)有網(wǎng)絡(luò)技術(shù)和并行技術(shù)、分布式技術(shù)將分散的計(jì)算機(jī)組成一個(gè)能提供超強(qiáng)功能的集群用于計(jì)算和存儲(chǔ)等云計(jì)算操作。在云計(jì)算時(shí)代，本地計(jì)算機(jī)可能不再像傳統(tǒng)計(jì)算機(jī)那樣需要空間足夠的硬盤、大功率的處理器和大容量的內(nèi)存，只需要一些必要的硬件設(shè)備如網(wǎng)絡(luò)設(shè)備和基本的輸入輸出設(shè)備等。云計(jì)算體系結(jié)構(gòu)典型云計(jì)算平臺(tái)云計(jì)算的研究吸引了不同技術(shù)領(lǐng)域巨頭，因此對(duì)云計(jì)算理論及實(shí)現(xiàn)架構(gòu)也有所不同。如亞馬遜利用虛擬化技術(shù)提供云計(jì)算服務(wù)，推出S3（SimpleStorageService）提供可靠、快速、可擴(kuò)展的網(wǎng)絡(luò)存儲(chǔ)服務(wù)，而彈性可擴(kuò)展的云計(jì)算服務(wù)器EC2（ElasticComputeCloud）采用Xen虛擬化技術(shù)，提供一個(gè)虛擬的執(zhí)行環(huán)境（虛擬機(jī)器），讓用戶通過互聯(lián)網(wǎng)來執(zhí)行自己的應(yīng)用程序。IBM將包括Xen和PowerVM虛擬的Linux操作系統(tǒng)鏡像與Hadoop并行工作負(fù)載調(diào)度。下面以Google公司的云計(jì)算核心技術(shù)和架構(gòu)作基本講解。云計(jì)算的先行者Google的云計(jì)算平臺(tái)能實(shí)現(xiàn)大規(guī)模分布式計(jì)算和應(yīng)用服務(wù)程序，平臺(tái)包括MapReduce分布式處理技術(shù)、Hadoop框架、分布式的文件系統(tǒng)GFS、結(jié)構(gòu)化的BigTable存儲(chǔ)系統(tǒng)以及Google其他的云計(jì)算支撐要素?，F(xiàn)有的云計(jì)算通過對(duì)資源層、平臺(tái)層和應(yīng)用層的虛擬化以及物理上的分布式集成，將龐大的IT資源整合在一起。更重要的是，云計(jì)算不僅僅是資源的簡(jiǎn)單匯集，它為我們提供了一種管理機(jī)制，讓整個(gè)體系作為一個(gè)虛擬的資源池對(duì)外提供服務(wù)，并賦予開發(fā)者透明獲取資源、使用資源的自由。云計(jì)算體系結(jié)構(gòu)MapReduce分布式處理技術(shù)MapReduce是Google開發(fā)的Java、Python、C++編程工具，用于大規(guī)模數(shù)據(jù)集（大于1TB）的并行運(yùn)算，也是云計(jì)算的核心技術(shù)，一種分布式運(yùn)算技術(shù)，也是簡(jiǎn)化的分布式編程模式，適合用來處理大量數(shù)據(jù)的分布式運(yùn)算，用于解決問題的程序開發(fā)模型，也是開發(fā)人員拆解問題的方法。MapReduce模式的思想是將要執(zhí)行的問題拆解成Map（映射）和Reduce（化簡(jiǎn)）的方式，先通過Map程序?qū)?shù)據(jù)切割成不相關(guān)的區(qū)塊，分配（調(diào)度）給大量計(jì)算機(jī)處理達(dá)到分布運(yùn)算的效果，再通過Reduce程序?qū)⒔Y(jié)果匯整，輸出開發(fā)者需要的結(jié)果。MapReduce的軟件實(shí)現(xiàn)是指定一個(gè)Map（映射）函數(shù)，把鍵值對(duì)（key/value）映射成新的鍵值對(duì)（key/value），形成一系列中間形式的key/value對(duì)，然后把它們傳給Reduce（化簡(jiǎn)）函數(shù)，把具有相同中間形式key的value合并在一起.map和reduce函數(shù)具有一定的關(guān)聯(lián)性1.map

(k1,v1)

->

list(k2,v2)

2.reduce

(k2,list(v2))

->list(v2)

云計(jì)算體系結(jié)構(gòu)Hadoop架構(gòu)在Google發(fā)表MapReduce后，2004年開源社群用Java搭建出一套Hadoop框架，用于實(shí)現(xiàn)MapReduce算法，能夠把應(yīng)用程序分割成許多很小的工作單元，每個(gè)單元可以在任何集群節(jié)點(diǎn)上執(zhí)行或重復(fù)執(zhí)行。此外，Hadoop還提供一個(gè)分布式文件系統(tǒng)GFS（Google），是一個(gè)可擴(kuò)展、結(jié)構(gòu)化、具備日志的分布式文件系統(tǒng)，支持大型、分布式大數(shù)據(jù)量的讀寫操作，其容錯(cuò)性較強(qiáng)。而分布式數(shù)據(jù)庫（BigTable）是一個(gè)有序、稀疏、多維度的映射表，有良好的伸縮性和高可用性，用來將數(shù)據(jù)存儲(chǔ)或部署到各個(gè)計(jì)算節(jié)點(diǎn)上。Hadoop框架具有高容錯(cuò)性及對(duì)數(shù)據(jù)讀寫的高吞吐率，能自動(dòng)處理失敗節(jié)點(diǎn)，如圖3-5所示為GoogleHadoop架構(gòu)。在架構(gòu)中MapReduceAPI提供Map和Reduce處理、GFS分布式文件系統(tǒng)和BigTable分布式數(shù)據(jù)庫提供數(shù)據(jù)存取?；贖adoop可以非常輕松和方便完成處理海量數(shù)據(jù)的分布式并行程序，并運(yùn)行于大規(guī)模集群上。云計(jì)算體系結(jié)構(gòu)Google云計(jì)算執(zhí)行過程云計(jì)算服務(wù)方式多種多樣，通過對(duì)Google云計(jì)算架構(gòu)及技術(shù)的理解，在此我們給出用戶將要執(zhí)行的程序或處理的問題提交云計(jì)算的平臺(tái)Hadoop，其執(zhí)行過程如下圖所示：云計(jì)算體系結(jié)構(gòu)如圖所示的Google云計(jì)算執(zhí)行過程包括以下步驟。（1）將要執(zhí)行的MPI程序復(fù)制到Hadoop框架中的Master和每一臺(tái)Worker機(jī)器中。（2）Master選擇由哪些Worker機(jī)器來執(zhí)行Map程序與Reduce程序。（3）分配所有的數(shù)據(jù)區(qū)塊到執(zhí)行Map程序的Worker機(jī)器中進(jìn)行Map（切割成小塊數(shù)據(jù)）。（4）將Map后的結(jié)果存入Worker機(jī)器。（5）執(zhí)行Reduce程序的Worker機(jī)器，遠(yuǎn)程讀取每一份Map結(jié)果，進(jìn)行混合、匯整與排序，同時(shí)執(zhí)行Reduce程序。（6）將結(jié)果輸出給用戶（開發(fā)者）。在云計(jì)算中為了保證計(jì)算和存儲(chǔ)等操作的完整性，充分利用MapReduce的分布和可靠特性，在數(shù)據(jù)上傳和下載過程中根據(jù)各Worker節(jié)點(diǎn)在指定時(shí)間內(nèi)反饋的信息判斷節(jié)點(diǎn)的狀態(tài)是正常還是死亡，若節(jié)點(diǎn)死亡則將其負(fù)責(zé)的任務(wù)分配給別的節(jié)點(diǎn)，確保文件數(shù)據(jù)的完整性。云計(jì)算體系結(jié)構(gòu)SaaS通常被用在企業(yè)管理軟件領(lǐng)域、產(chǎn)品技術(shù)和市場(chǎng)，國(guó)內(nèi)的廠商以八百客、沃利森為主，主要開發(fā)CRM、ERP等在線應(yīng)用。用友、金蝶等老牌管理軟件廠商也推出在線財(cái)務(wù)SaaS產(chǎn)品。國(guó)際上其他大型軟件企業(yè)中，微軟提出了Software+SaaS的模式，谷歌推出了與微軟Office競(jìng)爭(zhēng)的GoogleApps，Oracle在收購Sieble升級(jí)Siebleon-demand后推出OracleOn-demand，SAP推出了傳統(tǒng)和SaaS的雜交（Hybrid）模式。（2）平臺(tái)即服務(wù)。平臺(tái)即服務(wù)PaaS（Platformasaservice）是提供開發(fā)環(huán)境、服務(wù)器平臺(tái)、硬件資源等服務(wù)給用戶，用戶可以在服務(wù)提供商的基礎(chǔ)架構(gòu)基礎(chǔ)上開發(fā)開發(fā)程序并通過互聯(lián)網(wǎng)和其服務(wù)器傳給其他用戶。PaaS能夠提供企業(yè)或個(gè)人定制研發(fā)的中間件平臺(tái)，提供應(yīng)用軟件開發(fā)、數(shù)據(jù)庫、應(yīng)用服務(wù)器、試驗(yàn)、托管及應(yīng)用服務(wù)，為個(gè)人用戶或企業(yè)的團(tuán)隊(duì)協(xié)作。在云計(jì)算服務(wù)中，平臺(tái)即服務(wù)包括以下類型服務(wù)。①提供集成開發(fā)環(huán)境。云服務(wù)提供商開發(fā)、測(cè)試、部署、維護(hù)應(yīng)用程序等服務(wù)，滿足不同用戶需要的不同開發(fā)周期和集成開發(fā)環(huán)境，多用戶互動(dòng)測(cè)試，版本控制，部署和回滾。云計(jì)算體系結(jié)構(gòu)②集成Web服務(wù)和數(shù)據(jù)庫。支持SOAP和REST的接口，組成多個(gè)網(wǎng)絡(luò)服務(wù)，支持多用戶使用不同數(shù)據(jù)庫的平臺(tái)，協(xié)作用戶實(shí)現(xiàn)云計(jì)算設(shè)計(jì)。③支持團(tuán)隊(duì)協(xié)作。平臺(tái)服務(wù)通過共享代碼和預(yù)定義方式，可以界定、更新和跟蹤設(shè)計(jì)人員，開發(fā)、測(cè)試、質(zhì)量控制完成團(tuán)隊(duì)協(xié)作。④提供實(shí)用設(shè)備。以租用方式提供相應(yīng)設(shè)備（如大型集群系統(tǒng)，存儲(chǔ)系統(tǒng)等）以端到端方式給用戶。平臺(tái)系統(tǒng)比應(yīng)用軟件系統(tǒng)復(fù)雜，是一系列的軟件硬件協(xié)議的系統(tǒng)集合。把平臺(tái)獨(dú)立于軟件之外來另立為單獨(dú)的服務(wù)項(xiàng)目，能夠讓服務(wù)更具有目的化，易于管理和維護(hù)。PaaS能給客戶帶來更高性能、更個(gè)性化的服務(wù)，也是SaaS今后發(fā)展的趨勢(shì)，一個(gè)SaaS軟件也能給客戶在互聯(lián)網(wǎng)上提供開發(fā)（自定義）、測(cè)試、在線部署應(yīng)用程序的功能，那么這就叫提供平臺(tái)服務(wù)PaaS。Salesforce的平臺(tái)和八百客的800APP是PaaS的代表產(chǎn)品。PaaS廠商也吸引軟件開發(fā)商在PaaS平臺(tái)上開發(fā)、運(yùn)行并銷售在線軟件。云計(jì)算體系結(jié)構(gòu)（3）按需計(jì)算（UtilityComputing）。按需計(jì)算，是將多臺(tái)服務(wù)器組成的"云端"計(jì)算資源包括計(jì)算和存儲(chǔ)，作為計(jì)量服務(wù)提供給用戶，由IT領(lǐng)域巨頭如IBM的藍(lán)云、Amazon的AWS及提供存儲(chǔ)服務(wù)的虛擬技術(shù)廠商的參與應(yīng)用與云計(jì)算結(jié)合的一種商業(yè)模式，它將內(nèi)存、I/O設(shè)備、存儲(chǔ)和計(jì)算能力整合成一個(gè)虛擬的資源池為整個(gè)業(yè)界提供所需要的存儲(chǔ)資源和虛擬化服務(wù)器等服務(wù)。按需計(jì)算用于提供數(shù)據(jù)中心創(chuàng)建的解決方案，幫助企業(yè)用戶創(chuàng)建虛擬的數(shù)據(jù)中心，諸如3Tera的AppLogic，CohesiveFl