互聯(lián)網(wǎng)技術(shù)架構(gòu)-10、新浪.sinaappengine

SinaAppEngine文/SinaAppEngine（簡稱SAE）是新浪研發(fā)中心于2009年上半年開始開發(fā)，并S版本的國內(nèi)首個公有云計算平臺（.cn），是新計算（簡稱）戰(zhàn)SAE作為國內(nèi)的公有云計算，借鑒吸納了開發(fā)者可以在Linux/Mac/Windows上通過SDK或者Web版SDK進行開發(fā)、部署、調(diào)試，團隊

每個應(yīng)用的資源消耗（包括CPU、內(nèi)存、磁盤SAE云計算在國外已經(jīng)有4~5年的歷史。年，Amazon就推出了以EC2為代表的公有云計算，并且實現(xiàn)了大規(guī)模；2008年，推出了以ppgne代表公有云計算。國內(nèi)的云計算卻一直是炒得很厲害，聯(lián)網(wǎng)公司都在宣傳，。從2004年開始，新浪就開始了私有云方向已經(jīng)支撐新浪的絕大部分業(yè)務(wù)。從2008年起，新浪又啟動了“”的公有云計算計劃，“”的產(chǎn)物。

作者簡介技術(shù)主管，擅長應(yīng)用算和統(tǒng)計中心精確的計算表1SAE和傳統(tǒng)的虛擬主機托管VPS的主要區(qū) 自身的兩個目標：第一，類使用方目SLA（類使用方目SLA（服務(wù)承諾計費方 ，確計所付即所用，所付僅所依服務(wù)商變化，無嚴格協(xié)高可靠性及嚴格的服務(wù)承僅基本需設(shè)備租服務(wù)使無用Web開發(fā)有云不同于私有云，更強調(diào)安全性和可性，這也對整體的架出了更苛刻的要求；2010 特別策劃.indd 2010-10-26服務(wù)提供一整套的解決方案，SAE爭取提供開發(fā)者開發(fā)。經(jīng)過技術(shù)團隊一年的開發(fā)，SAE目前已經(jīng)提供了十多種服務(wù)，整體上分為計算型和型，型又包括同步計算和異步計算，而型則分為持久化如表2。

反向 層、路由邏輯層、Web計算服務(wù)池。而從Web計算服務(wù)層延伸出SAE附屬的分布式計算型服務(wù)和分布式 型服務(wù)，具體又分成同步計算型服務(wù)、異步計算型服務(wù)、持久化 服務(wù)、非持久化服務(wù)。各種服務(wù)統(tǒng)一向日志和統(tǒng)計中心匯報如圖1所示CoverStory服務(wù)名類CoverStory服務(wù)名類說同步計帶SAE沙盒的Apache持久提供分布式文非持久提供分布式緩存服持久分布式數(shù)據(jù)庫集群，提MySQL服異步計異步計異步計分布式定時服同步計分布式抓取服非持久提供臨時文提供應(yīng)用配置功能，取Apache異步計郵件發(fā)送服同步計圖像處理服同步計提供的強大PHP調(diào)優(yōu)工其他工WindowsGUISDK、lineSDKOnline布Alpha1版本SAE發(fā)布了Alpha2版本，SAE

圖1SAE整體架構(gòu) 識，快速地（O(1)時間復(fù)雜度）到相應(yīng)的Web服務(wù)池及相應(yīng)的硬件路徑。如果發(fā)現(xiàn)關(guān)系不存在或者錯誤，則給出相應(yīng)的錯誤提示。該層對用戶隱藏了很多具體地址信息，使開發(fā)者無需關(guān)心服務(wù)的。成。每個Web服務(wù)池實際是由一組ApacheServer組成的，這些池按照不同的SLA提供不同級別的 程序

盡管SAE一直沒有開放（實際云計算的模式也不以用戶的規(guī)模為評價標準），但已經(jīng)擁有了一批

務(wù)。每個WT請求，進程運行在H服務(wù)沙盒內(nèi)，在SAE沙盒內(nèi)的PH解析引擎。用戶的代碼最終通過接口調(diào)用各種服務(wù)。日志和統(tǒng)計中心：負責對用戶所使用的所有服務(wù)的進行統(tǒng)計和資源計費，這里的有兩種，一種是分鐘，用來保證整個平臺的穩(wěn)定；一種是天，用戶可以給自己設(shè)定每天資源消耗特別策劃.indd 2010-10-26圖2SAE沙盒結(jié)構(gòu)以理解為SAEPHP版的STL）很方便地調(diào)用它們。真正的用戶代碼是跑在SAE提供的Web運行環(huán)境下的，為了提供公有云計算特有的安全性，SAE設(shè)計多層沙盒來保證用戶應(yīng)用之間的性，如圖2。最內(nèi)層的就是用戶代碼，大部分PHP代碼不需要做任何修改就可以跑在SAE平臺上，小部分代碼需要做一些修改以適應(yīng)SAE的平臺特性。這主要有兩部分：第一，SA因為安全性禁用了本地I/O，所以fwrite等函數(shù)需要修改為使用Tmpfs讀寫本地臨

一是通過標準的.i，我們設(shè)定了一些特殊配置和禁用函數(shù)；第二，為了達到一些.i無法實現(xiàn)的沙盒功能，我們對d解釋器核做了一些改進，以便通過用戶標識將資源進行。另外我們還把一些E的特定服務(wù)也在d層。Apache為標準的ApacheWebServer，版本為2.2。不過我們禁用了htaccess，并提供了自己實現(xiàn)的替換方案AppConfig。用戶可以通過類自然語言的方式編寫AppConfig，-compress:Length”]>=500)compress表示按 件啟動頁面壓縮。目前AppConfig提 的功能有 默認頁面、自定義錯 頁面、壓縮、頁面重定向、頁面過期 設(shè)置響應(yīng)頭的content-type、設(shè)置頁 權(quán)限。我們選擇自行實現(xiàn) 還有一個考慮，就是因為傳統(tǒng)Apache htaccess因為要 遞歸方式合并配置文件， HTTPServer沙盒為Apache的安全可靠運行提供了多種保護功能，比如防止某個用戶占用連最外層的是標準POSIX環(huán)境，目前我們的服務(wù)跑在x2.6上。文件或者直接通過Stor讀寫我們的分布式文 FetchURL服務(wù)。我們提供了PHPWrapper以方便用PHPZend為標準的PHP解釋器，我們采用SAEZendSandbox為一個邏輯概念，為用戶的代碼運行提供良好的性。這里有兩個層面，第

靜態(tài)擴展用戶和資源有強綁定關(guān)系最典型的例子為Amazon的EC2和Ruby云計算平臺

2010 特別策劃.indd 2010-10-26系，換句話說，A用戶申請的虛擬機在A退還資源前，用戶不能使用，哪怕。 臺提供了良好的性，資源可以固定在某個用戶下，但缺點是資源利用率不高；動態(tài)擴展的長處是資源利用率高，這樣整個云計算平臺的成本會很低，但缺點是對性有更高的要求，因為資源可以在很短的時間被多個用戶使用。相比較，在安。CoverStory在SAE平臺上，我們采用以動態(tài)擴展為主、靜態(tài)擴展為輔的兼而有之的設(shè)計。在b計算池層是典型的動態(tài)擴展。而在E的某些服務(wù)中，又是以靜態(tài)擴展的方式展現(xiàn)，如C（tlBtr）分布式數(shù)據(jù)庫集群，當用戶申請了yL服務(wù)，我們就會在C后端根據(jù)A創(chuàng)建一主多從的B給用戶，在用戶顯式刪除該前，該B都不會被別人使用。當然，通過C，任何一個用戶也無需知道后端的實際地址，只需統(tǒng)一的tCoverStory高可靠性（HighAvailability，簡稱面則門戶所使用的帶寬環(huán)境。另外，所有速度和新浪服務(wù)一樣。針對計算型服務(wù)，冗余設(shè)計就是程序在多節(jié)點運行。我們要求SAE所有的代碼程序要做到Stass（無狀態(tài)依賴），即無依賴部署無依賴啟動，隨時終止進程隨時重啟進程，這樣一旦出現(xiàn)機器故障或者程序自身Bug時，所有進程能夠隨著硬件環(huán)境的重新恢復(fù)而第一時間重啟。而多點執(zhí)行的

計算型程序多點部署，會帶來一致性問題，最主要的困擾就是問題，如何在多個節(jié)點中選出一個主節(jié)點來執(zhí)行。比如E上的分布式定時服務(wù)Cron，采用多點部署方式，多個計算節(jié)點相互隔離，通過時鐘同步服務(wù)同時觸發(fā)用戶設(shè)定的定時任務(wù)，但要求只能有一個節(jié)點負責執(zhí)行。為了解決這個問題，E設(shè)計出了一套分布式鎖算法來提供選舉服務(wù)。該算法可以在犧牲某些特定條件下的一致性來提供比s算法更高的可靠性（臺機器在最高任意過程仍然正常，而xs算法最多臺）。目前，該算法E。 兩種方式。如SAE上MySQL之間的主從Binlog同步就是典型的 ，用戶只寫寫庫，數(shù)據(jù)從寫庫同步到多個讀庫中。Taskqueue、DeferredJob等服務(wù)也采用的方式，用戶的任務(wù)描述會寫到主內(nèi)存級隊列中，主隊列利用線程將寫操作同步到從隊列上，一旦主隊列發(fā)生故障，從隊列會快速的切換為主隊列。另外SAE上也有部分服務(wù)采用主動（雙寫）的方式來保證HA，比如Cron，當用戶通過App的工程配置文件a