一種多web服務器的負載均衡方案

一種多web服務器的負載均衡方案

隨著電子商務、銀行等網(wǎng)絡業(yè)務的快速發(fā)展，許多用戶同時訪問web服務器。當用戶訪問量達到一定閾值時,單Web服務結(jié)構(gòu)已無法進行正常的響應,于是多服務器網(wǎng)絡負載均衡成為技術(shù)發(fā)展的新方向。本文主要講述一種采用動態(tài)分布式負載均衡技術(shù)以實現(xiàn)網(wǎng)格中多Web服務器的負載均衡方案。負載均衡器針對Web服務器集群中負載動態(tài)變化特性,運用基于參數(shù)的線性加權(quán)負載分布算法,根據(jù)CPU利用率、內(nèi)存利用率等參數(shù)計算服務器的負載權(quán)值,將服務器自身的處理能力與當前的負載結(jié)合起來。通過運用DNS的工作理論,結(jié)合網(wǎng)格MDS(MonitoringandDiscoveryService,監(jiān)控和發(fā)現(xiàn)服務)技術(shù),用戶輸入域名請求,請求被負載均衡器捕獲,解析出DNS數(shù)據(jù)的HEADER,QUESTION數(shù)據(jù)段,利用MDS得到Web服務器的狀態(tài),將性能最好的Web服務器的IP封裝到DNS響應包,返回用戶。該方案克服了輪循靜態(tài)算法無法區(qū)分服務器差異,以致無法給性能較好的Web服務器分發(fā)更多請求以提高訪問效率的缺陷。一、系統(tǒng)總體架構(gòu)該方案基于DNS原理和網(wǎng)格信息服務技術(shù),在網(wǎng)格環(huán)境下實現(xiàn)多服務器的動態(tài)負載均衡。一個域名映射多個Web服務器IP,用戶對域名的請求被分發(fā)到多個Web服務器,大量請求任務由不同的Web服務器承擔,從而實現(xiàn)負載均衡。該方案不僅克服了DNS的輪循靜態(tài)負載均衡算法無法區(qū)分服務器差異的缺陷,而且把原來的集中式調(diào)度,即負載均衡器收集所有節(jié)點負載信息的工作,改進為分布式調(diào)度即各節(jié)點的網(wǎng)格MDS提供本節(jié)點負載信息。這樣負載均衡器不必去主動收集各節(jié)點的負載信息,從而降低了由于收集負載信息而增加的額外開銷,減輕了負載均衡器的負擔,減低了負載均衡器成為系統(tǒng)瓶頸的風險。存儲網(wǎng)格系統(tǒng)總體架構(gòu)如圖1所示,用戶(Client)發(fā)起某域名請求到達一級主DNS,主DNS將域名查詢請求轉(zhuǎn)發(fā)到負載均衡器,負載均衡器接收主DNS轉(zhuǎn)發(fā)過來的DNS查詢包,執(zhí)行動態(tài)的負載均衡算法來調(diào)度負載量最輕的Web服務器來響應用戶請求。用戶得到響應,與Web服務器建立連接,訪問該網(wǎng)站,進行業(yè)務處理。整個過程中,負載均衡器需要實現(xiàn)以下功能:(1)捕獲主DNS轉(zhuǎn)發(fā)的域名查詢請求,并解析DNS查詢包的HEADER,QUESTION數(shù)據(jù)段;(2)調(diào)用監(jiān)測器MDS的DefaultIndexServiceEntry獲取系統(tǒng)中的每一臺Web服務器的資源信息;(3)在資源信息的基礎上,利用參數(shù)化線性加權(quán)負載均衡算法得到性能最好的一個Web服務器;(4)將這個Web服務器的IP封裝到DNS響應包,返回用戶。從請求發(fā)出到被響應的執(zhí)行過程如圖2所示。用戶在瀏覽器輸入域名請求,DNS客戶端將請求發(fā)送到本地DNS,本地DNS根據(jù)數(shù)據(jù)庫文件中指定的子域地址,將請求交給子域服務器(本文中的負載均衡器)處理。負載均衡器將動態(tài)調(diào)度Web服務器來響應用戶請求。二、線性參數(shù)化的線性負荷矩陣的平衡1.動態(tài)調(diào)度模塊設計靜態(tài)負載分配算法是利用事先設定好的服務器的信息分配的,決策過程的依據(jù)都是事先設定好的,因而不能動態(tài)反映服務器的負載情況。用戶訪問服務器時,由于網(wǎng)絡服務的服務時間不同,服務所需的資源千差萬別,靜態(tài)負載分配算法不能反映后端的服務器的負載情況,無法保證系統(tǒng)內(nèi)的服務器真正的實現(xiàn)均衡。動態(tài)算法較靜態(tài)算法相比具有一定的優(yōu)越性。動態(tài)負載算法根據(jù)系統(tǒng)當前的負載情況動態(tài)分發(fā)請求。但是動態(tài)調(diào)度需要監(jiān)測和確定每臺服務器的當前負載狀態(tài),進行信息匯集和綜合分析,并且實時做出分配決策。因此,如何準確地評估服務器上的工作負載并且分發(fā)新的請求任務到每臺服務器成為服務器系統(tǒng)取得均衡的關(guān)鍵。動態(tài)調(diào)度模塊的設計如圖3所示。圖中,LB表示負載均衡器,F表示負載量調(diào)節(jié)模塊,F根據(jù)服務器的真實負載情況依據(jù)算法公式計算出服務器負載量,負載均衡器根據(jù)服務器新的負載量分發(fā)用戶的請求。動態(tài)調(diào)度主要有兩種:集中式調(diào)度策略和分布式調(diào)度策略。實現(xiàn)分布式策略的節(jié)點結(jié)構(gòu)如圖4所示。通過運用網(wǎng)格技術(shù),設置負載均衡器作為上游節(jié)點,Web服務器為下游節(jié)點,下游節(jié)點之間不能通信。上游節(jié)點作為下游節(jié)點的管理節(jié)點,與下游節(jié)點可以通信,上游節(jié)點可以通過容器(Container)收集下游Web服務器節(jié)點的資源信息。通過運用MDS,把原來的集中式調(diào)度即負載均衡器收集所有節(jié)點負載信息的工作,改進為分布式調(diào)度即各節(jié)點的MDS提供本節(jié)點負載信息。這樣負載均衡器不必去主動收集各節(jié)點的負載信息,從而降低了由于收集負載信息而增加的額外開銷,減輕了負載均衡器的負擔,減低負載均衡器成為系統(tǒng)瓶頸的風險。2.負載狀態(tài)的影響對于實際系統(tǒng),任何一項資源(CPU、內(nèi)存、網(wǎng)絡等)超過一定的使用率(比如90%),系統(tǒng)都不再有能力接入新的請求。這些指標與負載水平均成正比,因此各項指標與負載狀態(tài)的影響方向是一致的。參數(shù)化線性加權(quán)負載均衡算法主要采用參數(shù)的線性加權(quán)和作為負載分配的依據(jù)。這些參數(shù)包括:CPU利用率、內(nèi)存利用率、網(wǎng)絡利用率等反映Web服務器的處理能力的因素。任何一個指標都可能成為服務器的處理瓶頸。為了體現(xiàn)各項指標對負載狀態(tài)的影響程度,為每一項指標賦予一個系數(shù),系數(shù)越大,影響越大。三、ds性能監(jiān)控模塊該設計方案的總體流程如圖5所示。請求處理模塊先初始化UDP套接字DatagramSocket(數(shù)據(jù)報套接字),然后設置DatagramSocket(數(shù)據(jù)報包)監(jiān)聽DNS的保留端口(即53端口),如沒有請求,則一直處于監(jiān)聽,如果出現(xiàn)請求,則創(chuàng)建一個DatagramPacket接收請求數(shù)據(jù),并交給線程處理。負載評估模塊調(diào)用服務,得到每一臺服務器的性能數(shù)據(jù)。負載評估模塊根據(jù)算法和性能數(shù)據(jù),評估出負載量最小的服務器。整合響應數(shù)據(jù)模塊將負載量最小的服務器IP數(shù)據(jù),和請求數(shù)據(jù)整合,封裝成DNS響應包返回用戶,工作完成,線程正常結(jié)束。端口通信流程如圖6所示,用戶的域名請求經(jīng)由隨機端口1026發(fā)送到一級主DNS的53端口,主DNS經(jīng)由1031端口將域名請求轉(zhuǎn)發(fā)送到負載均衡器,從而實現(xiàn)了捕獲域名請求。DNS響應則由負載