負(fù)載均衡原理與技術(shù)實(shí)現(xiàn)

負(fù)載均衡原理與技術(shù)實(shí)現(xiàn)負(fù)載均衡原理與技術(shù)實(shí)現(xiàn)負(fù)載均衡(LoadBalanee,簡(jiǎn)稱LB)是一種服務(wù)器或網(wǎng)絡(luò)設(shè)備的集群技術(shù)。負(fù)載均衡將特定的業(yè)務(wù)(網(wǎng)絡(luò)服務(wù)、網(wǎng)絡(luò)流量等)分擔(dān)給多個(gè)服務(wù)器或網(wǎng)絡(luò)設(shè)備，從而提高了業(yè)務(wù)處理能力，保證了業(yè)務(wù)的高可用性。負(fù)載均衡基本概念有：實(shí)服務(wù)、實(shí)服務(wù)組、虛服務(wù)、調(diào)度算法、持續(xù)性等，其常用應(yīng)用場(chǎng)景主要是服務(wù)器負(fù)載均衡，鏈路負(fù)載均衡。一服務(wù)器負(fù)載均衡服務(wù)器負(fù)載均衡根據(jù)LB設(shè)備處理到的報(bào)文層次，分為四層服務(wù)器負(fù)載均衡和七層負(fù)載均衡，四層處理到IP包的IP頭，不解析報(bào)文四層以上載荷(L4SLB);七層處理到報(bào)文載荷部分，比如HTTPRTSPSIP報(bào)文頭，有時(shí)也包括報(bào)文內(nèi)容部分(L7SLB)O

四層服務(wù)器負(fù)載均衡技術(shù)客戶端將請(qǐng)求發(fā)送給服務(wù)器群前端的負(fù)載均衡設(shè)備，負(fù)載均衡設(shè)備上的虛服務(wù)接收客戶端請(qǐng)求，通過調(diào)度算法，選擇真實(shí)服務(wù)器，再通過網(wǎng)絡(luò)地址轉(zhuǎn)換，用真實(shí)服務(wù)器地址重寫請(qǐng)求報(bào)文的目標(biāo)地址后，將請(qǐng)求發(fā)送給選定的真實(shí)服務(wù)器；真實(shí)服務(wù)器的響應(yīng)報(bào)文通過負(fù)載均衡設(shè)備時(shí)，報(bào)文的源地址被還原為虛服務(wù)的VSIP,再返回給客戶，完成整個(gè)負(fù)載調(diào)度過程。報(bào)文交互流程如下：円0敘 LBdeviceRequestDst^VSIPS^HostIPSchedulerDNAT&Di^tHbulerequestDst=S?fv?rIPSrc=HosiIFResponse；wDst?Hos【IPSrc^SBrv時(shí)滬 [ForwardresponseIPeb曲總JP如刃SIP]Note;De!=DaeiinaiknIPSrG=SnurcnIPNAT方式的服務(wù)器負(fù)載均衡報(bào)文交互流程圖報(bào)文交互流程說明：Host發(fā)送服務(wù)請(qǐng)求報(bào)文，源IP為HostIP、目的IP為VSIPLBDevice接收到請(qǐng)求報(bào)文后，借助調(diào)度算法計(jì)算出應(yīng)該將請(qǐng)求分發(fā)給哪臺(tái)ServerLBDevice使用DNAT技術(shù)分發(fā)報(bào)文，源IP為HostIP、目的IP為ServerIPServer接收并處理請(qǐng)求報(bào)文，返回響應(yīng)報(bào)文，源IP為ServerIP、目的IP為HostIPLBDevice接收響應(yīng)報(bào)文，轉(zhuǎn)換源IP后轉(zhuǎn)發(fā),源IP為VSIP、目的IP為HostIP七層服務(wù)器負(fù)載均衡技術(shù)七層負(fù)載均衡和四層負(fù)載均衡相比，只是進(jìn)行負(fù)載均衡的依據(jù)不同，而選擇確定的實(shí)服務(wù)器后，所做的處理基本相同，下面以HTTP應(yīng)用的負(fù)載均衡為例來說明。由于在TCP握手階段，無法獲得HTTP真正的請(qǐng)求內(nèi)容，因此也就無法將客戶的TCP握手報(bào)文直接轉(zhuǎn)發(fā)給服務(wù)器， 必須由負(fù)載均衡設(shè)備先和客戶完成TCP握手，等收到足夠的七層內(nèi)容后，再選擇服務(wù)器，由負(fù)載均衡設(shè)備和所選服務(wù)器建立TCP連接。七層負(fù)載均衡組網(wǎng)和四層負(fù)載均衡組網(wǎng)有一個(gè)顯著的區(qū)別：四層負(fù)載均衡每個(gè)虛服務(wù)對(duì)應(yīng)一個(gè)實(shí)服務(wù)組，實(shí)服務(wù)組內(nèi)的所有實(shí)服務(wù)器提供相同的服務(wù);七層負(fù)載均衡每個(gè)虛服務(wù)對(duì)應(yīng)多個(gè)實(shí)服務(wù)組，每組實(shí)服務(wù)器提供相同的服務(wù)。根據(jù)報(bào)文內(nèi)容選擇對(duì)應(yīng)的實(shí)服務(wù)組，然后根據(jù)實(shí)服務(wù)組調(diào)度算法選擇某一個(gè)實(shí)服務(wù)器。碳?并曲柑*碳?并曲柑*七層負(fù)載均衡組網(wǎng)圖上圖中描述了基于HTTP的URI目錄信息進(jìn)行的七層負(fù)載均衡部署，報(bào)文交互流程圖如下:Hw?4IBHw?4IBinCP—wnu啊Y2]?VIPCi「卜竺eq二Y?屁kx1?電1(3)CP-VIP,Ubk.MHxpdCk口丸f取山泣曲yxL』HyI=,,,zutr/wiwij□卩)辭靳撇丈，逝掙實(shí)瞬務(wù)器匸界釀存諫軸求攝丈CIP-hgTff,?丁仇輯號(hào)「. ”SIPKT比叮1)41命〃玄q二w,1咔-、7JhV1P八一JhV1P八一〈'it?diirii^eq一?iicKxn:(K}UP-Sil*?—J.Hii.set]\-i.<ick一i 4n知憶改俄送加學(xué)辭錚刊勺漬求按工丄二二￡1講￡1P—AQ!I\曲訶辭q二W-!翩土二"5 」iHTTP200OK七層負(fù)載均衡報(bào)文交互流程圖報(bào)文交互流程說明：-(3):Client和LB建立TCP連接；：Client發(fā)送HTTP青求，目的IP為虛IP;:LB設(shè)備分析報(bào)文，根據(jù)調(diào)度算法選擇實(shí)服務(wù)器，注意此時(shí)會(huì)緩存該報(bào)文；⑹：LB設(shè)備向?qū)嵎?wù)器發(fā)Syn報(bào)文，序列號(hào)為Client的Syn報(bào)文序列號(hào)：Server發(fā)送Syn/Ack報(bào)文，目的IP為Client:LB接收Server的Syn/Ack報(bào)文后，回應(yīng)ACK報(bào)文⑼：修改步驟⑸中緩存的報(bào)文目的IP和TCP序列號(hào)，然后發(fā)給Server;(10):Server發(fā)送響應(yīng)報(bào)文到LB;:LB修改步驟⑼中的報(bào)文的源地址和TCP序列號(hào)后轉(zhuǎn)發(fā)給Cliento二鏈路負(fù)載均衡在企業(yè)網(wǎng)、運(yùn)營商鏈路出口需要部署LB設(shè)備以優(yōu)化鏈路選擇，提升訪問體驗(yàn)，鏈路負(fù)載均衡按照流量發(fā)起方向分為Inbound負(fù)載均衡和Outbound負(fù)載均衡Inbound入方向負(fù)載均衡Inbound負(fù)載均衡技術(shù)是DNS智能解析的一種，

外網(wǎng)用戶通過域名訪問內(nèi)部服務(wù)器時(shí)， LocalDNS的地址解析請(qǐng)求到達(dá)LB設(shè)備，LB根據(jù)對(duì)LocalDNS的就近性探測(cè)結(jié)果響應(yīng)一個(gè)最優(yōu)的IP地址，外網(wǎng)用戶根據(jù)這個(gè)最優(yōu)的IP響應(yīng)進(jìn)行對(duì)內(nèi)部服務(wù)器的訪問Inbound鏈路負(fù)載均衡組網(wǎng)圖Inbound鏈路負(fù)載均衡組網(wǎng)圖LL(3)Sch^duinrHostLwsiDNSierv,er■LBdevice■(l)DNSf■鬧」m :w441[2JDNSrequest:4)當(dāng)rpfifxinw(5‘DNSres-入方向負(fù)載均衡流程簡(jiǎn)述如下：外部用戶進(jìn)行資源訪問前先進(jìn)行DNS解析，向其本地DNS服務(wù)器發(fā)送DNS請(qǐng)求。本地DNS服務(wù)器將DNS請(qǐng)求的源IP地址替換為自己的IP地址，并轉(zhuǎn)發(fā)給域名對(duì)應(yīng)的權(quán)威服務(wù)器 LBdeviceoLBdevice根據(jù)DNS請(qǐng)求的域名和配置的Inbound鏈路負(fù)載均衡規(guī)則進(jìn)行域名解析。LBdevice按照域名解析的結(jié)果，將DNS應(yīng)答發(fā)送給本地DNS服務(wù)器。本地DNS服務(wù)器將解析結(jié)果轉(zhuǎn)發(fā)給用戶。用戶使用解析結(jié)果選擇的鏈路，直接對(duì)LBdevice進(jìn)行資源訪問。Outbound岀方向負(fù)載均衡內(nèi)網(wǎng)用戶訪問Internet 上其他服務(wù)器。Outbound鏈路負(fù)載均衡中VSIP為內(nèi)網(wǎng)用戶發(fā)送報(bào)文的目的網(wǎng)段。用戶將訪問VSIP的報(bào)文發(fā)送到負(fù)載均衡設(shè)備后，負(fù)載均衡設(shè)備依次根據(jù)策略、持續(xù)性功能、就近性算法、調(diào)度算法選擇最佳的鏈路，并將內(nèi)網(wǎng)訪問外網(wǎng)的業(yè)務(wù)流量分發(fā)到該鏈路。Outbound鏈路負(fù)載均衡組網(wǎng)圖Outbound負(fù)載均衡報(bào)文交互流程如下:Outbound鏈路負(fù)載均衡流程圖Outbound負(fù)載均衡報(bào)文交互流程說明:LBDevice接收內(nèi)網(wǎng)用戶流量-LBDevice依次根據(jù)策略、持續(xù)性功能、就近性算法、調(diào)度算法進(jìn)行鏈路選擇在Outbound鏈路負(fù)載均衡組網(wǎng)中，通常使用就近性算法或帶寬調(diào)度算法實(shí)現(xiàn)流量分發(fā)LBdevice按照鏈路選擇的結(jié)果將流量轉(zhuǎn)發(fā)給選定的鏈路-LBDevice接收外網(wǎng)用戶流量-LBDevice將流量轉(zhuǎn)發(fā)給內(nèi)網(wǎng)用戶三負(fù)載均衡優(yōu)化及應(yīng)用TCP連接復(fù)用連接復(fù)用功能通過使用連接池技術(shù)，可以將前端大量的客戶的HTTP請(qǐng)求復(fù)用到后端與服務(wù)器建立的少量的TCP長連接上，大大減小服務(wù)器的性能負(fù)載，減小與服務(wù)器之間新建TCP連接所帶來的延時(shí)，并最大限度減少后端服務(wù)器的并發(fā)連接數(shù)，降低服務(wù)器的資源占用。TCP連接復(fù)用示意圖上圖給出了TCP連接復(fù)用的簡(jiǎn)單過程描述。由Client端發(fā)送的Reql/Req2/Req3三個(gè)HTTP請(qǐng)求，經(jīng)過LB設(shè)備后，復(fù)用了13設(shè)備和Server端已經(jīng)建立好的連接，將Client端的三個(gè)請(qǐng)求通過兩個(gè)TCP連接發(fā)送給了服務(wù)器端。SSL卸載為了避免明文傳輸出現(xiàn)的安全問題，對(duì)于敏感信息，一般采用SSL協(xié)議，如HTTPS對(duì)HTTP協(xié)議進(jìn)行加密，以保證整個(gè)HTTP傳輸過程的安全性。SSL是需要耗費(fèi)大量CPU資源的一種安全技術(shù)，如果由后端的服務(wù)器來承擔(dān)，則會(huì)消耗很大的處理能力。應(yīng)用交付設(shè)備為了提升用戶的體驗(yàn)，分擔(dān)服務(wù)器的處理壓力，將SSL加解密集中在自身的處理上，相對(duì)于服務(wù)器來說 LE能提供

更高的SSL處理性能，還能夠簡(jiǎn)化對(duì)證書的管理，減少日常管理的工作量，LB的該功能又稱為SSL卸載。下圖中Client端發(fā)送給Server的所有的HTTPS流量都被LB設(shè)備終結(jié)，13設(shè)備將SSL終結(jié)后，與Server之間可采用HTTP或者弱加密的HTTPS進(jìn)行通訊。LB設(shè)備承擔(dān)了SSL的卸載工作，從而極大的減小了服務(wù)器端對(duì)SSL處理的壓力，將服務(wù)器的處理能力釋放岀來，更加專注于處理服務(wù)器本身承擔(dān)的業(yè)務(wù)邏輯。HTTPMTTFHTTPHTTPMTTFHTTPSSL卸載示意圖SSL卸載的處理流程如下:11：ClientILB設(shè)備ClientILB設(shè)備曲岔5、髭怡劇請(qǐng)點(diǎn)SSL卸載過程⑴客戶端向服務(wù)器端發(fā)送SSL握手請(qǐng)求。LB設(shè)備作為中間的卸載設(shè)備，代替服務(wù)器端和客戶端交互，完成SSL握手過程。客戶端發(fā)送SSL加密后的請(qǐng)求數(shù)據(jù)。LB設(shè)備解密數(shù)據(jù)。LB設(shè)備將解密后的明文發(fā)送給Servero服務(wù)器返回給LB設(shè)備回應(yīng)報(bào)文。LB設(shè)備將返回的應(yīng)答報(bào)文加密。LB設(shè)備將加密后的應(yīng)答報(bào)文傳給客戶端。DRX云環(huán)境應(yīng)用交付業(yè)務(wù)負(fù)載監(jiān)控平臺(tái)通過H3C負(fù)載均衡設(shè)備的參數(shù)設(shè)定和監(jiān)控可以動(dòng)態(tài)感知業(yè)務(wù)負(fù)載變化，并通知云管理平臺(tái)動(dòng)態(tài)調(diào)整業(yè)務(wù)資源。由此實(shí)現(xiàn)用戶業(yè)務(wù)資源的實(shí)時(shí)動(dòng)態(tài)調(diào)整、業(yè)務(wù)資源優(yōu)化調(diào)配。當(dāng)業(yè)務(wù)負(fù)載監(jiān)控平臺(tái)發(fā)現(xiàn)業(yè)務(wù)資源需要調(diào)整時(shí)：業(yè)務(wù)負(fù)載超限一增加資源；業(yè)務(wù)資源過剩一一回收資源，云管理平臺(tái)通過自動(dòng)創(chuàng)建、啟動(dòng)或者刪除停止虛擬機(jī)的方式為業(yè)務(wù)進(jìn)行資源動(dòng)態(tài)調(diào)整。四結(jié)束語負(fù)載均衡技術(shù)不管應(yīng)