負載均衡實現(xiàn)原理課件

LoadBlance培訓膠片1課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！LoadBlance的基本原理LoadBlance服務器負載均衡原理LoadBlance鏈路負載均衡原理LoadBlance典型組網(wǎng)課程目標學習完本課程，您應該能夠：2課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡基本原理LoadBlance服務器負載均衡原理LoadBlance鏈路負載均衡原理LoadBlance典型組網(wǎng)及應用目錄3課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！為什么需要負載均衡？ServerTooBusyInternet應用背景訪問流量快速增長業(yè)務量不斷提高用戶需求希望獲得7×24的不間斷可用性及較快的系統(tǒng)反應時間LinkTooBusyInternet應用背景訪問流量快速增長業(yè)務量不斷提高用戶需求希望獲得7×24的不間斷可用性及較快的系統(tǒng)反應時間ClientServerTooBusy4課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！Internet解決方案:服務器負載均衡

多臺服務器組成一個群組，它們通過網(wǎng)絡設備相連接。這些服務器提供相同或相似的網(wǎng)絡服務。服務器群組前布局一個負載均衡設備，負責根據(jù)已配置均衡策略將用戶請求在服務器群組中的分發(fā)，為用戶提供服務，并對服務器可用性的維護。解決方法——LoadBalance（1）5課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！Internet解決方案:鏈路負載均衡通過帶寬或就近性等算法，在多條鏈路中進行負載均衡，選擇最優(yōu)的鏈路，提高訪問速度。ChinaTetCNC解決方法——LoadBalance（2）6課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡基本原理調(diào)度算法根據(jù)配置規(guī)則，將客戶端請求智能地分發(fā)到后端應用服務器健康性檢查算法實時監(jiān)控服務器運行狀態(tài)Application2Application1Application0ClientsLoadBalancerServerFarmsClientIP:Client’sRequest:

SourceIP=

Destination=VIP-00VIP:00LoadBlancetoClient:SourceIP=VIP-00

Destination=LoadBlancetoServer:SourceIP=

Destination=0ServertoClient::SourceIP=0

Destination=7課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡產(chǎn)品中的關鍵指標：調(diào)度算法目前常用的調(diào)度算法：輪詢（RoundRobin）加權輪詢（WeightedRoundRobin）最少連接（LeastConnections）加權最少連接（WeightedLeastConnections）隨機（Random）加權隨機（WeightedRandom）源地址散列（SourceHashing）源地址端口散列（Source&PortHashing）目的地址散列（DestinationHashing）8課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！調(diào)度算法：輪詢（RoundRobin）輪詢算法實現(xiàn)：新的連接被依次輪詢分發(fā)到各個實服務器上，比如第1個連接分發(fā)到第1臺服務器，第2個連接就被分配到第2臺服務器上，依次輪詢。輪詢算法適合于服務器組中的所有服務器都有相同的軟硬件配置并且平均服務請求相對均衡的情況。Internet1234561425369課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！調(diào)度算法：加權輪詢（WeightedRoundRobin）加權輪詢算法實現(xiàn)：根據(jù)服務器的不同處理能力，給每個服務器分配不同的權值，使其能夠接受相應權值數(shù)的服務請求。假設3臺服務器加權分別為2:5:3，這樣6條流過來，第1臺服務器分擔1條流，第2臺服務器分擔3條流，第3臺服務器分擔2條流。加權輪詢算法能確保高性能的服務器得到更多的使用率，避免低性能的服務器負載過重。Internet12543614253610課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！調(diào)度算法：最少連接（LeastConnections）最少連接算法實現(xiàn)：最少連接均衡算法對內(nèi)部中需負載的每一臺服務器都有一個數(shù)據(jù)記錄，記錄當前該服務器正在處理的連接數(shù)量，當有新的服務連接請求時，將把當前請求分配給連接數(shù)最少的服務器，使均衡更加符合實際情況，負載更加均衡。最少連接算法適合長時處理的請求服務，如FTP。加權最少連接算法實現(xiàn)：將加權與最少連接算法配合，根據(jù)連接數(shù)與加權比例后計算出當前新連接應該發(fā)往哪個服務器。Internet41523614253611課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！調(diào)度算法：隨機（Random）隨機算法實現(xiàn)：將新連接隨機分發(fā)給具體的實服務器。加權隨機算法實現(xiàn)：將加權與隨機算法配合，根據(jù)隨機數(shù)與加權比例后計算出當前新連接應該發(fā)往哪個服務器。Internet51423614253612課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！調(diào)度算法：源地址散列（SourceHashing）源地址散列算法實現(xiàn)：根據(jù)新連接的源IP地址進行散列（HASH）的結果來決定將該新連接發(fā)文哪個實服務器。一般來說，來自相同客戶端的新連接會被散列到相同的實服務器。Internet21354614253613課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡產(chǎn)品中的關鍵指標：健康性檢查算法健康性檢查算法的目的：通過某種探針機制，檢查服務器群中真實服務器的健康情況，避免把客戶端的請求分發(fā)給出現(xiàn)故障的服務器，以提高業(yè)務的HA能力。目前常用的健康性檢查算法：Ping（ICMP）TCPHTTPFTPDNS（inbound鏈路負載均衡）PingPing

TCPSYNTCPSYN(Retransmission)TCPRSTReassignSYNACK？

FTPGETFTPGET

HTTPGETHTTPGET

FTP/HTTP檢測都會向服務器GET一個文件，如果GET文件失敗，也認為服務器不可用。14課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡基本原理LoadBlance服務器負載均衡原理LoadBlance鏈路負載均衡原理LoadBlance典型組網(wǎng)及應用目錄15課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！服務器負載均衡基本原理——基本概念虛服務a實服務組a實服務b實服務a實服務d實服務c實服務f實服務e虛服務b實服務組b3.實服務組：為了便于對多個實服務進行管理，將多個實服務的一些共有屬性提取出來形成了實服務組。一個虛服務對應一個實服務組，一個實服務組對應多個實服務。相同的實服務組不能屬于不同的虛服務。1.虛服務：負載均衡設備對外提供的服務稱為虛服務。虛服務由VPN實例、虛擬服務IP地址、服務協(xié)議、服務端口號唯一標識，配置在負載均衡設備上?？蛻粼L問請求通過公共或私有網(wǎng)絡到達負載均衡設備，匹配到虛服務后，由負載均衡設備按照既定策略分發(fā)給真實服務。2.實服務：實服務是真實服務器提供的一種服務，該服務意義比較廣泛，可以是傳統(tǒng)的FTP、HTTP等業(yè)務應用，也可以是廣義的轉發(fā)服務，如防火墻負載均衡中，實服務只是報文轉發(fā)路徑，實服務只是轉發(fā)服務。16課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！服務器型負載均衡轉發(fā)方式

服務器負載均衡是數(shù)據(jù)中心最常見的組網(wǎng)模型。依據(jù)轉發(fā)方式，分為NAT方式、DR方式。

NAT方式（NetworkAddressTranslation）：利用NAT技術將Clinet請求報文目的地址轉換為真實服務器地址，發(fā)給真實服務器，并將Server應答報文源地址轉換為虛服務IP地址，發(fā)給客戶端；DR方式（DirectRouting）：通過改寫請求報文的MAC地址，將請求發(fā)送到真實服務器，而真實服務器將響應直接返回給客戶；防火墻轉發(fā)方式（DirectRouting）：與DR方式處理類似，改寫請求報文的目的MAC地址，分發(fā)到不同的防火墻出路，回應走正常的轉發(fā)處理。17課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！NAT方式服務器負載均衡原理實現(xiàn)原理：

客戶端將請求發(fā)送給服務器群前端的負載均衡設備，負載均衡設備上的虛服務接收客戶端請求，通過調(diào)度算法，選擇真實服務器，再通過網(wǎng)絡地址轉換，用真實服務器地址重寫請求報文的目標地址后，將請求發(fā)送給選定的真實服務器；真實服務器的響應報文通過負載均衡設備時，報文的源地址被還原為虛服務的VSIP，再返回給客戶，完成整個負載調(diào)度過程。18課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！DR方式服務器負載均衡原理實現(xiàn)原理：

DR方式主要用于旁掛模式，除了LoadBlance設備上配置了VSIP，真實服務器也都配置了VSIP址，但不響應ARP，可通過配置為loopback地址達到。真實服務器的標識為非VSIP的和LoadBlance出接口在同一個網(wǎng)段內(nèi)的IP,發(fā)送給VSIP的報文，由LoadBlance分發(fā)給相應的真實服務器，從真實服務器返回給客戶端的報文直接通過交換機返回。這種方式組網(wǎng)對服務器有配置要求。19課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！防火墻方式工作流程實現(xiàn)原理：防火墻是基于會話開展業(yè)務的，即一個會話的請求和應答報文必須通過同一個防火墻。為了既能保證防火墻業(yè)務正常進行，內(nèi)部組網(wǎng)不受影響，需要采用雙側防火墻，即防火墻三明治。在這種組網(wǎng)環(huán)境中，對于流入流量，外側LoadBlance設備做防火墻負載均衡，內(nèi)側LoadBlance設備保證從哪個防火墻進來的流量，還要從這個防火墻返回。流出流量正好相反。20課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！服務器型負載均衡和防火墻型負載均衡融合

圖中ClusterA為防火墻負載均衡的群組，ClusterB為NAT方式服務器負載均衡的群組。綜合組網(wǎng)的工作流程就是防火墻、服務器負載均衡流程的疊加。這樣的組網(wǎng)方式既避免了防火墻成為網(wǎng)絡中的瓶頸，也提高了各種網(wǎng)絡服務（如HTTP、FTP）的性能和可用性。21課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！實服務選擇流程前提：命中虛服務持續(xù)性調(diào)度算法FirststepSecondstep一次業(yè)務交互可能包括多個連接，有些存在隱含的關聯(lián)關系，將多個連接持續(xù)重定向到同一個服務器的策略，就是持續(xù)性功能。如HTTP網(wǎng)絡購物，多條連接組成一次業(yè)務應用，但所有該業(yè)務的請求應發(fā)給同一服務器,否則可能造成無法完成所請求的功能，可采用基于源地址的持續(xù)性功能完成。22課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！注意事項——輪轉算法注意：少量連接效果不均衡，大量連接效果均衡！原因：

1.LoadBlance設備是多核CPU，算法設計實現(xiàn)也基于該基礎。

2.多核中的實現(xiàn)：為了避免多核中同時對一個資源實體進行調(diào)度出現(xiàn)資源競爭問題，算法處理過程中將多核看作多個設備，每個核獨立運行算法，獨立保存算法所需上下文環(huán)境。從宏觀角度，由于各核分發(fā)均衡總體效果是均衡的。微觀角度，并不能保證每一個時刻各個服務器上的連接數(shù)都是均衡的，會有一個偏差，偏差最大值：多核中用于轉發(fā)的Core數(shù)，當前系統(tǒng)為27。TIP：LoadBlance設備即解決業(yè)務訪問量壓力過大的問題。故應以大量連接情況下的均衡效果作為評判標準。其他算法也均建議如此察看測試效果。23課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！注意事項——地址散列算法（1）算法思想 通過一個散列（Hash）函數(shù)將來自同一個源IP的請求映射到一臺服務器。適用場景：需要保證來自同一個用戶的請求分發(fā)到同一個服務器情況下。實現(xiàn)：實服務組中的實服務存放在一個散列表（這個散列表是一個數(shù)組）中。存在一個散列函數(shù)y=f(x)，x為散列鍵，f為散列函數(shù)，y是得出的散列表中的某個位置。當一個請求到達并選擇實服務的時候，將請求報文的源IP作為散列鍵得出一個散列表中的位置標號，從而找到要調(diào)度的實服務?！緦嵎兆兓憫吭谑褂迷吹刂飞⒘兴惴ㄟM行實服務調(diào)度的時候，由于算法本身就是將來自某個源IP的連接分配到一個散列表中固定的位置，因此在實服務故障（實服務刪除或者健康檢測結果為不可用）的時候，就會使源IP標識的客戶端后續(xù)連接中斷。為了提高虛服務的可靠性，在使用源地址散列進行實服務調(diào)度的時候，算法會響應實服務變化，把原本屬于該故障實服務的源地址連接分配給其他的可用的實服務，不影響之前可用實服務與源地址之間的映射關系。后續(xù)恢復的實服務按順序添加到對應的空位上。24課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！地址范圍1地址范圍2地址范圍3實服務1實服務2實服務3實服務2故障地址范圍1地址范圍3實服務1空位實服務3地址范圍2-a地址范圍2-b實服務2恢復注意事項——地址散列算法（2）25課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！注意事項——虛地址Ping為什么要Ping虛地址？調(diào)試手段對Nat,DR,防火墻模式：如果虛服務配置協(xié)議任意/端口任意，則Ping回應由實服務應答。（命中虛服務）如果虛服務未配置協(xié)議任意/端口任意，則Ping回應由LoadBlance應答。（命中虛地址，未命中虛服務）原則：使Ping都能夠做應答，在調(diào)試的時候更友好。26課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！服務器負載均衡支持的健康檢測支持的健康檢測類型

TCPICMPHTTP（可檢查返回內(nèi)容）

FTP注意：TCP探測類型，目的端口號在實服務中配置，如未配置端口則實服務狀態(tài)永不健康。關聯(lián)健康檢測：服務的提供不僅依賴于實服務自身，還需要其他關聯(lián)的服務器配合才能完成整個業(yè)務，此時需要配置關聯(lián)健康檢測。在實服務頁面配置，探測類型與實服務相同。LoadBalancerServers27課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡基本原理LoadBlance服務器負載均衡原理及配置LoadBlance鏈路負載均衡原理及配置LoadBlance典型組網(wǎng)及應用FAQ目錄28課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！鏈路負載均衡

鏈路負載均衡有兩種方式：Outbound方向鏈路負載均衡

Inbound方向鏈路負載均衡OutboundInbound29課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！Outbound方向多鏈路負載均衡工作原理：配置負載均衡虛服務，使其只對出方向報文做處理：根據(jù)調(diào)度算法進行鏈路選路，類似于防火墻負載均衡應用，不同的是，這里不需要做三明治組網(wǎng)，因為無需保證應答報文原路返回。這是從內(nèi)網(wǎng)到外網(wǎng)多鏈路負載均衡。30課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！與服務器型負載均衡配置名稱關系對比虛服務服務器型負載均衡鏈路型負載均衡實服務組實服務虛服務邏輯鏈路組邏輯鏈路物理鏈路為什么抽象出物理鏈路的概念：物理鏈路對應著實際的物理網(wǎng)絡出口，鏈路均衡組網(wǎng)中實際的鏈路接口是有限的，但在鏈路接口上可以做多組各類型的鏈路均衡服務，基于目前LoadBlance一對一的實服務組和實服務的引用關系，抽象出了物理鏈路的概念。一個物理鏈路可被多個邏輯鏈路引用。31課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！鏈路負載均衡選路順序流程前提：命中虛服務持續(xù)性調(diào)度算法FirststepSecondstepACL策略就近性Thirdstepforthstep32課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！ACL策略LoadBlance的策略是通過ACL實現(xiàn)的，并且LoadBlance選路優(yōu)先匹配ACL策略匹配策略時依次match邏輯鏈路acl，按邏輯鏈路權值從大到小順序。ACL規(guī)則的動作有如下三種：

1.Permit動作匹配，分發(fā)到該鏈路

2.Deny動作直接跳出策略匹配流程，走后續(xù)分發(fā)方式

3.Notfound動作繼續(xù)后續(xù)邏輯鏈路的匹配33課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！就近性原則

就近性探測說明1.作為基礎功能模塊，被Outbound和Inbound同時使用2.分為靜態(tài)就近性表項和動態(tài)表項，靜態(tài)表項優(yōu)先3.支持的探測類型

Outbound：ICMP,TCPHalfOpen Inbounde:DNS,ICMP,TCPHalfOpen4.計算依據(jù)：RTT,TTL,剩余帶寬，鏈路成本5.就近性探測向所有的物理鏈路發(fā)起探測，結果形成一條按優(yōu)先級排列的鏈，顯示時只顯示最優(yōu)鏈路，匹配時遍歷就近性鏈，找最優(yōu)的屬于該虛服務的對應鏈路。注意：1.就近性探測由請求報文觸發(fā)，如之前沒有就近性表項，觸發(fā)探測后本次調(diào)度使用調(diào)度算法進行鏈路選擇。2.部分演示環(huán)境要達到最近鏈路的選擇效果，此時建議把鏈路成本和帶寬的權值設為0，避免由此帶來的演示效果不明顯。34課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！Outbound鏈路負載均衡功能其他注意項1.配置注意:

通常出方向鏈路均衡虛服務配置為通配地址/0，協(xié)議任意/端口號任意，此時如果有外網(wǎng)發(fā)起的到內(nèi)網(wǎng)的連接請求，則會出現(xiàn)被配置的虛服務彈回，無法訪問內(nèi)網(wǎng)。此時需要對訪問內(nèi)網(wǎng)的請求配置一條虛服務，以保證可通過命中此虛服務后把連接報文引入到內(nèi)網(wǎng)。虛服務匹配策略：深度優(yōu)先2.帶寬算法按剩余帶寬的大小進行鏈路選擇。支持的接口類型：三層物理口，vlan虛接口，子接口。子接口報文速率統(tǒng)計有使能開關，應用于子接口的帶寬算法需使能子接口報文統(tǒng)計功能。接口視圖下：sub-interfacerate-statistic。缺省接口報文統(tǒng)計300秒一次，故帶寬算法調(diào)度更新粒度300秒為周期更新。35課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！Inbound負載均衡（基本原理）基本工作原理：

LoadBlance設備通過解析客戶端發(fā)送的DNS請求，指導用戶請求報文流走最佳的物理鏈路?？蛻舳嗽谕ㄟ^域名訪問服務器資源時DNS查詢過程：

1、DNS請求報文發(fā)送到LocalDNS2、LocalDNS從RootDNS獲取NS服務器（LoadBlancedevice）信息。

3、LocalDNS向NS服務器（LoadBlancedevice）發(fā)送域名解析請求。

4、NS服務器（LoadBlancedevice）查找后將解析結果返回給LocalDNS5、LocalDNS將查詢結果返回給客戶端。

6、客戶端根據(jù)解析結果訪問服務器。服務器客戶端RootDNS36課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡基本原理LoadBlance服務器負載均衡原理LoadBlance鏈路負載均衡原理LoadBlance典型組網(wǎng)及應用目錄37課件部分內(nèi)容來源于網(wǎng)絡，如有異議侵權的話可以聯(lián)系刪除，可編輯版！負載均衡技術典型組網(wǎng)應用1.在企業(yè)園區(qū)網(wǎng)絡中，為了實現(xiàn)對企業(yè)資源服務器的快速訪問，也需要采用負載均衡設備分擔企業(yè)數(shù)據(jù)訪問流量。在這種應用環(huán)境下，可以將負載均衡