loadblance-負(fù)載均衡實(shí)現(xiàn)原理

1、Load Blance培訓(xùn)膠片1Load Blance的基本原理Load Blance服務(wù)器負(fù)載均衡原理Load Blance鏈路負(fù)載均衡原理Load Blance典型組網(wǎng)課程目標(biāo)學(xué)習(xí)完本課程，您應(yīng)該能夠：2負(fù)載均衡基本原理Load Blance服務(wù)器負(fù)載均衡原理Load Blance鏈路負(fù)載均衡原理Load Blance典型組網(wǎng)及應(yīng)用目錄3為什么需要負(fù)載均衡 ？Server Too BusyInternet應(yīng)用背景訪問流量快速增長業(yè)務(wù)量不斷提高用戶需求希望獲得724的不間斷可用性及較快的系統(tǒng)反應(yīng)時間Link Too BusyInternet應(yīng)用背景訪問流量快速增長業(yè)務(wù)量不斷提高用戶需求希望獲

2、得724的不間斷可用性及較快的系統(tǒng)反應(yīng)時間ClientServer Too Busy4Internet解決方案:服務(wù)器負(fù)載均衡 多臺服務(wù)器組成一個群組，它們通過網(wǎng)絡(luò)設(shè)備相連接。這些服務(wù)器提供相同或相似的網(wǎng)絡(luò)服務(wù)。服務(wù)器群組前布局一個負(fù)載均衡設(shè)備，負(fù)責(zé)根據(jù)已配置均衡策略將用戶請求在服務(wù)器群組中的分發(fā)，為用戶提供服務(wù)，并對服務(wù)器可用性的維護(hù)。解決方法Load Balance（1）5Internet解決方案:鏈路負(fù)載均衡通過帶寬或就近性等算法，在多條鏈路中進(jìn)行負(fù)載均衡，選擇最優(yōu)的鏈路， 提高訪問速度。China TetCNC解決方法Load Balance（2）6負(fù)載均衡基本原理調(diào)度算法 根據(jù)配置規(guī)

3、則，將客戶端請求智能地分發(fā)到后端應(yīng)用服務(wù)器健康性檢查算法 實(shí)時監(jiān)控服務(wù)器運(yùn)行狀態(tài)Application2Application1Application0ClientsLoad BalancerServer FarmsClient IP: Clients Request: Source IP = Destination = VIP - 00VIP: 00Load Blance to Client:Source IP = VIP - 00Destination = Load Blance to Server:Source IP = Destination = 0Server to Client:S

4、ource IP = 0Destination = 7負(fù)載均衡產(chǎn)品中的關(guān)鍵指標(biāo)：調(diào)度算法目前常用的調(diào)度算法：輪詢（Round Robin）加權(quán)輪詢（Weighted Round Robin）最少連接（Least Connections）加權(quán)最少連接（Weighted Least Connections）隨機(jī)（Random）加權(quán)隨機(jī)（Weighted Random）源地址散列（Source Hashing）源地址端口散列（Source&Port Hashing）目的地址散列（Destination Hashing）8調(diào)度算法：輪詢（Round Robin）輪詢算法實(shí)現(xiàn)：新的連接被依次輪詢分發(fā)到各

5、個實(shí)服務(wù)器上，比如第1個連接分發(fā)到第1臺服務(wù)器，第2個連接就被分配到第2臺服務(wù)器上，依次輪詢。輪詢算法適合于服務(wù)器組中的所有服務(wù)器都有相同的軟硬件配置并且平均服務(wù)請求相對均衡的情況。Internet1234561425369調(diào)度算法：加權(quán)輪詢（Weighted Round Robin）加權(quán)輪詢算法實(shí)現(xiàn)：根據(jù)服務(wù)器的不同處理能力，給每個服務(wù)器分配不同的權(quán)值，使其能夠接受相應(yīng)權(quán)值數(shù)的服務(wù)請求。假設(shè)3臺服務(wù)器加權(quán)分別為2:5:3，這樣6條流過來，第1臺服務(wù)器分擔(dān)1條流，第2臺服務(wù)器分擔(dān)3條流，第3臺服務(wù)器分擔(dān)2條流。加權(quán)輪詢算法能確保高性能的服務(wù)器得到更多的使用率，避免低性能的服務(wù)器負(fù)載過重。Int

6、ernet12543614253610調(diào)度算法：最少連接（Least Connections）最少連接算法實(shí)現(xiàn)：最少連接均衡算法對內(nèi)部中需負(fù)載的每一臺服務(wù)器都有一個數(shù)據(jù)記錄，記錄當(dāng)前該服務(wù)器正在處理的連接數(shù)量，當(dāng)有新的服務(wù)連接請求時，將把當(dāng)前請求分配給連接數(shù)最少的服務(wù)器，使均衡更加符合實(shí)際情況，負(fù)載更加均衡。最少連接算法適合長時處理的請求服務(wù)，如FTP。加權(quán)最少連接算法實(shí)現(xiàn)：將加權(quán)與最少連接算法配合，根據(jù)連接數(shù)與加權(quán)比例后計算出當(dāng)前新連接應(yīng)該發(fā)往哪個服務(wù)器。Internet41523614253611調(diào)度算法：隨機(jī)（Random）隨機(jī)算法實(shí)現(xiàn)：將新連接隨機(jī)分發(fā)給具體的實(shí)服務(wù)器。加權(quán)隨機(jī)算法實(shí)現(xiàn)

7、：將加權(quán)與隨機(jī)算法配合，根據(jù)隨機(jī)數(shù)與加權(quán)比例后計算出當(dāng)前新連接應(yīng)該發(fā)往哪個服務(wù)器。Internet51423614253612調(diào)度算法：源地址散列（Source Hashing）源地址散列算法實(shí)現(xiàn)：根據(jù)新連接的源IP地址進(jìn)行散列（HASH）的結(jié)果來決定將該新連接發(fā)文哪個實(shí)服務(wù)器。一般來說，來自相同客戶端的新連接會被散列到相同的實(shí)服務(wù)器。Internet21354614253613負(fù)載均衡產(chǎn)品中的關(guān)鍵指標(biāo)：健康性檢查算法健康性檢查算法的目的：通過某種探針機(jī)制，檢查服務(wù)器群中真實(shí)服務(wù)器的健康情況，避免把客戶端的請求分發(fā)給出現(xiàn)故障的服務(wù)器，以提高業(yè)務(wù)的HA能力。目前常用的健康性檢查算法：Ping（I

8、CMP）TCPHTTPFTPDNS（inbound 鏈路負(fù)載均衡）PingPingTCP SYNTCP SYN (Retransmission)TCP RSTReassignSYN ACK ？HTTP GETHTTP GET檢測都會向服務(wù)器GET一個文件，如果GET文件失敗，也認(rèn)為服務(wù)器不可用。14負(fù)載均衡基本原理Load Blance服務(wù)器負(fù)載均衡原理Load Blance鏈路負(fù)載均衡原理Load Blance典型組網(wǎng)及應(yīng)用目錄15服務(wù)器負(fù)載均衡基本原理基本概念虛服務(wù)a實(shí)服務(wù)組a實(shí)服務(wù)b實(shí)服務(wù)a實(shí)服務(wù)d實(shí)服務(wù)c實(shí)服務(wù)f實(shí)服務(wù)e虛服務(wù)b實(shí)服務(wù)組b3.實(shí)服務(wù)組：為了便于對多個實(shí)服務(wù)進(jìn)行管理，將多

9、個實(shí)服務(wù)的一些共有屬性提取出來形成了實(shí)服務(wù)組。一個虛服務(wù)對應(yīng)一個實(shí)服務(wù)組，一個實(shí)服務(wù)組對應(yīng)多個實(shí)服務(wù)。相同的實(shí)服務(wù)組不能屬于不同的虛服務(wù)。1.虛服務(wù)：負(fù)載均衡設(shè)備對外提供的服務(wù)稱為虛服務(wù)。虛服務(wù)由VPN實(shí)例、虛擬服務(wù)IP地址、服務(wù)協(xié)議、服務(wù)端口號唯一標(biāo)識，配置在負(fù)載均衡設(shè)備上?？蛻粼L問請求通過公共或私有網(wǎng)絡(luò)到達(dá)負(fù)載均衡設(shè)備，匹配到虛服務(wù)后，由負(fù)載均衡設(shè)備按照既定策略分發(fā)給真實(shí)服務(wù)。2.實(shí)服務(wù)：實(shí)服務(wù)是真實(shí)服務(wù)器提供的一種服務(wù)，該服務(wù)意義比較廣泛，可以是傳統(tǒng)的FTP、HTTP等業(yè)務(wù)應(yīng)用，也可以是廣義的轉(zhuǎn)發(fā)服務(wù)，如防火墻負(fù)載均衡中，實(shí)服務(wù)只是報文轉(zhuǎn)發(fā)路徑，實(shí)服務(wù)只是轉(zhuǎn)發(fā)服務(wù)。16服務(wù)器型負(fù)載均衡轉(zhuǎn)

10、發(fā)方式 服務(wù)器負(fù)載均衡是數(shù)據(jù)中心最常見的組網(wǎng)模型。依據(jù)轉(zhuǎn)發(fā)方式，分為NAT方式、DR方式。 NAT方式（Network Address Translation ）：利用NAT 技術(shù)將Clinet 請求報文目的地址轉(zhuǎn)換為真實(shí)服務(wù)器地址，發(fā)給真實(shí)服務(wù)器，并將Server應(yīng)答報文源地址轉(zhuǎn)換為虛服務(wù)IP地址，發(fā)給客戶端；DR方式（Direct Routing ）：通過改寫請求報文的MAC地址，將請求發(fā)送到真實(shí)服務(wù)器，而真實(shí)服務(wù)器將響應(yīng)直接返回給客戶 ；防火墻轉(zhuǎn)發(fā)方式（Direct Routing ）：與DR方式處理類似，改寫請求報文的目的MAC地址，分發(fā)到不同的防火墻出路，回應(yīng)走正常的轉(zhuǎn)發(fā)處理。17N

11、AT方式服務(wù)器負(fù)載均衡原理實(shí)現(xiàn)原理： 客戶端將請求發(fā)送給服務(wù)器群前端的負(fù)載均衡設(shè)備，負(fù)載均衡設(shè)備上的虛服務(wù)接收客戶端請求，通過調(diào)度算法，選擇真實(shí)服務(wù)器，再通過網(wǎng)絡(luò)地址轉(zhuǎn)換，用真實(shí)服務(wù)器地址重寫請求報文的目標(biāo)地址后，將請求發(fā)送給選定的真實(shí)服務(wù)器；真實(shí)服務(wù)器的響應(yīng)報文通過負(fù)載均衡設(shè)備時，報文的源地址被還原為虛服務(wù)的VSIP，再返回給客戶，完成整個負(fù)載調(diào)度過程。18DR方式服務(wù)器負(fù)載均衡原理實(shí)現(xiàn)原理： DR方式主要用于旁掛模式，除了Load Blance設(shè)備上配置了VSIP，真實(shí)服務(wù)器也都配置了VSIP址，但不響應(yīng)ARP，可通過配置為loopback地址達(dá)到。真實(shí)服務(wù)器的標(biāo)識為非VSIP的和Load

12、 Blance出接口在同一個網(wǎng)段內(nèi)的IP,發(fā)送給VSIP的報文，由Load Blance分發(fā)給相應(yīng)的真實(shí)服務(wù)器，從真實(shí)服務(wù)器返回給客戶端的報文直接通過交換機(jī)返回。這種方式組網(wǎng)對服務(wù)器有配置要求。19防火墻方式工作流程實(shí)現(xiàn)原理： 防火墻是基于會話開展業(yè)務(wù)的，即一個會話的請求和應(yīng)答報文必須通過同一個防火墻。為了既能保證防火墻業(yè)務(wù)正常進(jìn)行，內(nèi)部組網(wǎng)不受影響，需要采用雙側(cè)防火墻，即防火墻三明治。在這種組網(wǎng)環(huán)境中，對于流入流量，外側(cè)Load Blance設(shè)備做防火墻負(fù)載均衡，內(nèi)側(cè)Load Blance設(shè)備保證從哪個防火墻進(jìn)來的流量，還要從這個防火墻返回。流出流量正好相反。20服務(wù)器型負(fù)載均衡和防火墻型負(fù)

13、載均衡融合 圖中Cluster A為防火墻負(fù)載均衡的群組，Cluster B為NAT方式服務(wù)器負(fù)載均衡的群組。綜合組網(wǎng)的工作流程就是防火墻、服務(wù)器負(fù)載均衡流程的疊加。這樣的組網(wǎng)方式既避免了防火墻成為網(wǎng)絡(luò)中的瓶頸，也提高了各種網(wǎng)絡(luò)服務(wù)（如HTTP、FTP）的性能和可用性。21實(shí)服務(wù)選擇流程前提：命中虛服務(wù)持續(xù)性調(diào)度算法First stepSecond step一次業(yè)務(wù)交互可能包括多個連接，有些存在隱含的關(guān)聯(lián)關(guān)系，將多個連接持續(xù)重定向到同一個服務(wù)器的策略，就是持續(xù)性功能。如HTTP 網(wǎng)絡(luò)購物，多條連接組成一次業(yè)務(wù)應(yīng)用，但所有該業(yè)務(wù)的請求應(yīng)發(fā)給同一服務(wù)器, 否則可能造成無法完成所請求的功能，可采用基

14、于源地址的持續(xù)性功能完成。22注意事項(xiàng)輪轉(zhuǎn)算法注意：少量連接效果不均衡，大量連接效果均衡！原因： 1. Load Blance設(shè)備是多核CPU，算法設(shè)計實(shí)現(xiàn)也基于該基礎(chǔ)。 2. 多核中的實(shí)現(xiàn)：為了避免多核中同時對一個資源實(shí)體進(jìn)行調(diào)度出現(xiàn)資源競爭問題，算法處理過程中將多核看作多個設(shè)備，每個核獨(dú)立運(yùn)行算法，獨(dú)立保存算法所需上下文環(huán)境。 從宏觀角度，由于各核分發(fā)均衡總體效果是均衡的。微觀角度，并不能保證每一個時刻各個服務(wù)器上的連接數(shù)都是均衡的，會有一個偏差，偏差最大值：多核中用于轉(zhuǎn)發(fā)的Core數(shù)，當(dāng)前系統(tǒng)為27。TIP：Load Blance設(shè)備即解決業(yè)務(wù)訪問量壓力過大的問題。故應(yīng)以大量連接情況下的

15、均衡 效果作為評判標(biāo)準(zhǔn)。 其他算法也均建議如此察看測試效果。23注意事項(xiàng)地址散列算法（1）算法思想通過一個散列（Hash）函數(shù)將來自同一個源IP的請求映射到一臺服務(wù)器。適用場景：需要保證來自同一個用戶的請求分發(fā)到同一個服務(wù)器情況下。實(shí)現(xiàn)： 實(shí)服務(wù)組中的實(shí)服務(wù)存放在一個散列表（這個散列表是一個數(shù)組）中。存在一 個散列函數(shù)y=f(x)，x為散列鍵，f為散列函數(shù)，y是得出的散列表中的某個位置。當(dāng)一個請求到達(dá)并選擇實(shí)服務(wù)的時候，將請求報文的源IP作為散列鍵得出一個散列表中的位置標(biāo)號，從而找到要調(diào)度的實(shí)服務(wù)?！緦?shí)服務(wù)變化響應(yīng)】在使用源地址散列算法進(jìn)行實(shí)服務(wù)調(diào)度的時候，由于算法本身就是將來自某個源IP的連

16、接分配到一個散列表中固定的位置，因此在實(shí)服務(wù)故障（實(shí)服務(wù)刪除或者健康檢測結(jié)果為不可用）的時候，就會使源IP標(biāo)識的客戶端后續(xù)連接中斷。為了提高虛服務(wù)的可靠性，在使用源地址散列進(jìn)行實(shí)服務(wù)調(diào)度的時候，算法會響應(yīng)實(shí)服務(wù)變化，把原本屬于該故障實(shí)服務(wù)的源地址連接分配給其他的可用的實(shí)服務(wù)，不影響之前可用實(shí)服務(wù)與源地址之間的映射關(guān)系。后續(xù)恢復(fù)的實(shí)服務(wù)按順序添加到對應(yīng)的空位上。24地址范圍1地址范圍2地址范圍3實(shí)服務(wù)1實(shí)服務(wù)2實(shí)服務(wù)3實(shí)服務(wù)2故障地址范圍1地址范圍3實(shí)服務(wù)1空位實(shí)服務(wù)3地址范圍2-a地址范圍2-b實(shí)服務(wù)2恢復(fù)注意事項(xiàng)地址散列算法（2）25注意事項(xiàng)虛地址 Ping為什么要Ping虛地址？調(diào)試手段對

17、Nat, DR, 防火墻模式：如果虛服務(wù)配置協(xié)議任意/端口任意，則Ping回應(yīng)由實(shí)服務(wù)應(yīng)答。（命中虛服務(wù)）如果虛服務(wù)未配置協(xié)議任意/端口任意，則Ping回應(yīng)由Load Blance應(yīng)答。（命中虛地址，未命中虛服務(wù)）原則：使Ping都能夠做應(yīng)答，在調(diào)試的時候更友好。26服務(wù)器負(fù)載均衡支持的健康檢測支持的健康檢測類型 TCP ICMP HTTP（可檢查返回內(nèi)容） FTP注意：TCP探測類型，目的端口號在實(shí)服務(wù)中配置，如未配置端口則實(shí)服務(wù)狀態(tài) 永不健康。關(guān)聯(lián)健康檢測： 服務(wù)的提供不僅依賴于實(shí)服務(wù)自身，還需要其他關(guān)聯(lián)的服務(wù)器配合才能完成整個業(yè)務(wù)，此時需要配置關(guān)聯(lián)健康檢測。在實(shí)服務(wù)頁面配置，探測類型與實(shí)

18、服務(wù)相同。Load BalancerServers27負(fù)載均衡基本原理Load Blance服務(wù)器負(fù)載均衡原理及配置Load Blance鏈路負(fù)載均衡原理及配置Load Blance典型組網(wǎng)及應(yīng)用FAQ目錄28鏈路負(fù)載均衡 鏈路負(fù)載均衡有兩種方式：Outbound方向鏈路負(fù)載均衡 Inbound方向鏈路負(fù)載均衡OutboundInbound29Outbound方向多鏈路負(fù)載均衡工作原理：配置負(fù)載均衡虛服務(wù)，使其只對出方向報文做處理：根據(jù)調(diào)度算法進(jìn)行鏈路選路，類似于防火墻負(fù)載均衡應(yīng)用，不同的是，這里不需要做三明治組網(wǎng)，因?yàn)闊o需保證應(yīng)答報文原路返回。這是從內(nèi)網(wǎng)到外網(wǎng)多鏈路負(fù)載均衡。30與服務(wù)器型負(fù)

19、載均衡配置名稱關(guān)系對比虛服務(wù)服務(wù)器型負(fù)載均衡鏈路型負(fù)載均衡實(shí)服務(wù)組實(shí)服務(wù)虛服務(wù)邏輯鏈路組邏輯鏈路物理鏈路為什么抽象出物理鏈路的概念： 物理鏈路對應(yīng)著實(shí)際的物理網(wǎng)絡(luò)出口，鏈路均衡組網(wǎng)中實(shí)際的鏈路接口是有限的，但在鏈路接口上可以做多組各類型的鏈路均衡服務(wù)，基于目前Load Blance一對一的實(shí)服務(wù)組和實(shí)服務(wù)的引用關(guān)系，抽象出了物理鏈路的概念。一個物理鏈路可被多個邏輯鏈路引用。31鏈路負(fù)載均衡選路順序流程前提：命中虛服務(wù)持續(xù)性調(diào)度算法First stepSecond stepACL策略就近性Third stepforth step32ACL策略Load Blance的策略是通過ACL實(shí)現(xiàn)的，并且L

20、oad Blance選路優(yōu)先匹配ACL策略匹配策略時依次match邏輯鏈路acl，按邏輯鏈路權(quán)值從大到小順序。ACL規(guī)則的動作有如下三種： 1. Permit動作 匹配，分發(fā)到該鏈路 2. Deny動作 直接跳出策略匹配流程，走后續(xù)分發(fā)方式 3. Not found動作 繼續(xù)后續(xù)邏輯鏈路的匹配33就近性原則 就近性探測說明1. 作為基礎(chǔ)功能模塊，被Outbound和Inbound同時使用2. 分為靜態(tài)就近性表項(xiàng)和動態(tài)表項(xiàng)，靜態(tài)表項(xiàng)優(yōu)先3. 支持的探測類型Outbound：ICMP, TCP Half OpenInbounde: DNS, ICMP, TCP Half Open4. 計算依據(jù)：R

21、TT,TTL,剩余帶寬，鏈路成本5. 就近性探測向所有的物理鏈路發(fā)起探測，結(jié)果形成一條按優(yōu)先級排列的鏈，顯示時只 顯示最優(yōu)鏈路，匹配時遍歷就近性鏈，找最優(yōu)的屬于該虛服務(wù)的對應(yīng)鏈路。 注意：1. 就近性探測由請求報文觸發(fā)，如之前沒有就近性表項(xiàng)，觸發(fā)探測后本次調(diào)度使用調(diào)度算法進(jìn)行鏈路選擇。2. 部分演示環(huán)境要達(dá)到最近鏈路的選擇效果，此時建議把鏈路成本和帶寬的權(quán)值設(shè)為0，避免由此帶來的演示效果不明顯。34Outbound鏈路負(fù)載均衡功能其他注意項(xiàng)1. 配置注意: 通常出方向鏈路均衡虛服務(wù)配置為通配地址 /0，協(xié)議任意/端口號任意，此時如果有外網(wǎng)發(fā)起的到內(nèi)網(wǎng)的連接請求，則會出現(xiàn)被配置的虛服務(wù)彈回，無法

22、訪問內(nèi)網(wǎng)。 此時需要對訪問內(nèi)網(wǎng)的請求配置一條虛服務(wù)，以保證可通過命中此虛服務(wù)后把連接報文引入到內(nèi)網(wǎng)。 虛服務(wù)匹配策略：深度優(yōu)先2. 帶寬算法 按剩余帶寬的大小進(jìn)行鏈路選擇。 支持的接口類型：三層物理口，vlan虛接口，子接口。子接口報文速率統(tǒng)計有使能開關(guān)，應(yīng)用于子接口的帶寬算法需使能子接口報文統(tǒng)計功能。接口視圖下：sub-interface rate-statistic。 缺省接口報文統(tǒng)計300秒一次，故帶寬算法調(diào)度更新粒度300秒為周期更新。35Inbound負(fù)載均衡（基本原理）基本工作原理： Load Blance設(shè)備通過解析客戶端發(fā)送的DNS請求，指導(dǎo)用戶請求報文流走最佳的物理鏈路?？蛻?/p>

23、端在通過域名訪問服務(wù)器資源時DNS查詢過程： 1、DNS請求報文發(fā)送到LocalDNS 2、LocalDNS從RootDNS獲取NS服務(wù)器（Load Blance device）信息。 3、LocalDNS向NS服務(wù)器（Load Blance device）發(fā)送域名解析請求。 4、NS服務(wù)器（Load Blance device）查找后將解析結(jié)果返回給LocalDNS 5、LocalDNS將查詢結(jié)果返回給客戶端。 6、客戶端根據(jù)解析結(jié)果訪問服務(wù)器。服務(wù)器客戶端RootDNS36負(fù)載均衡基本原理Load Blance服務(wù)器負(fù)載均衡原理Load Blance鏈路負(fù)載均衡原理Load Blance典型組網(wǎng)及應(yīng)用目錄37負(fù)載均衡技術(shù)典型組網(wǎng)應(yīng)用 1.在企業(yè)園區(qū)網(wǎng)絡(luò)中，為了實(shí)現(xiàn)對企業(yè)資源服務(wù)器的快速訪問，也需要采用負(fù)載均衡設(shè)備分擔(dān)企業(yè)數(shù)據(jù)訪問流量。在這種應(yīng)用環(huán)境下，可以將負(fù)載均衡設(shè)備串接在網(wǎng)絡(luò)中，服務(wù)器通過