負載均衡解決方案設(shè)計設(shè)計

一、顧客需求本案例企業(yè)中既有數(shù)量較多的服務(wù)器群：

WEB網(wǎng)站服務(wù)器

4臺

郵件服務(wù)器

2臺

虛擬主機服務(wù)器

10臺

應(yīng)用服務(wù)器

2臺

數(shù)據(jù)庫

2臺（雙機+盤陣）但愿通過服務(wù)器負載均衡設(shè)備實現(xiàn)各服務(wù)器群的流量動態(tài)負載均衡，并互為冗余備份。并規(guī)定新系統(tǒng)應(yīng)有一定的擴展性，如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入負載均衡系統(tǒng)。二、需求分析我們對顧客的需求可分如下幾點分析和考慮：1.

新系統(tǒng)能動態(tài)分派各服務(wù)器之間的訪問流量；同步能互為冗余，當(dāng)其中一臺服務(wù)器發(fā)生故障時，其他服務(wù)器能即時替代工作，保證系統(tǒng)訪問的不中斷；2.

新系統(tǒng)應(yīng)能管理不一樣應(yīng)用的帶寬，如優(yōu)先保證某些重要應(yīng)用的帶寬規(guī)定，同步限定某些不必要應(yīng)用的帶寬，合理高效地運用既有資源；3.

新系統(tǒng)應(yīng)能對高層應(yīng)用提供安全保證，在路由器和防火墻基礎(chǔ)上提供了更深入的防線；4.

新系統(tǒng)應(yīng)具有較強的擴展性。o

容量上：如數(shù)據(jù)訪問量繼續(xù)增大，可再添加新的服務(wù)器加入系統(tǒng)；o

應(yīng)用上：如當(dāng)數(shù)據(jù)訪問量增大到防火墻成為瓶頸時，防火墻的動態(tài)負載均衡方案，又如針對鏈路提出新規(guī)定期有關(guān)Internet訪問鏈路的動態(tài)負載均衡方案等。三、處理方案

梭子魚安全負載均衡方案總體設(shè)計采用服務(wù)器負載均衡設(shè)備提供當(dāng)?shù)氐姆?wù)器群負載均衡和容錯，合用于處在同一種局域網(wǎng)上的服務(wù)器群。服務(wù)器負載均衡設(shè)備帶給我們的最重要功能是：

當(dāng)一臺服務(wù)器配置到不一樣的服務(wù)器群（Farm）上，就能同步提供多種不一樣的應(yīng)用?？梢詫τ诿總€服務(wù)器群設(shè)定一種IP地址，或者運用服務(wù)器負載均衡設(shè)備的多TCP端口配置特性，配置超級服務(wù)器群（SuperFarm），統(tǒng)一提供多種應(yīng)用服務(wù)。

如圖，網(wǎng)絡(luò)中的四臺服務(wù)器向顧客提供了三種經(jīng)典應(yīng)用，分別為web、mail和ftp服務(wù)，因此管理員通過服務(wù)器負載均衡設(shè)備建立了三個不一樣的服務(wù)器群（Farm），并指定參與每個服務(wù)器群的服務(wù)器。對于上述這個系統(tǒng)，服務(wù)器負載均衡設(shè)備的處理方案提供了三級全面冗余機制：

對于每種應(yīng)用，如WEB服務(wù)，同步有四臺機器提供服務(wù)，每臺機器的狀態(tài)可以設(shè)為regular（正常工作）或backup（備份狀態(tài)），或者同步設(shè)定為regular狀態(tài)。負載均衡設(shè)備根據(jù)管理員事先設(shè)定的負載算法和目前網(wǎng)絡(luò)的實際的動態(tài)的負載狀況決定下一種顧客的祈求將被重定向到的服務(wù)器。而這一切對于顧客來說是完全透明的，顧客完畢了對WEB服務(wù)的祈求，并不用關(guān)懷詳細是哪臺服務(wù)器完畢的。

對于整個服務(wù)器系統(tǒng)，資源得到充足的運用和冗余。我們懂得，一般狀況下不一樣應(yīng)用服務(wù)的顧客數(shù)目是不盡相似的，對于服務(wù)器資源的消耗也有所不一樣。假如對每一種應(yīng)用只采用單獨的機器提供服務(wù)，不僅存在單點故障問題，同步每臺服務(wù)器的運用也是不均勻的，也許存在大量的WEB祈求，使單一的WEB服務(wù)器負荷超重；而同步FTP服務(wù)器卻處在基本空閑狀態(tài)。這也是一種系統(tǒng)資源的揮霍，同步顧客得到的服務(wù)也不夠快捷。在引入了服務(wù)器負載均衡設(shè)備的服務(wù)器系統(tǒng)中，每臺機器的資源得到了充足運用，并減少了單點故障的問題。

負載均衡設(shè)備也可以引入冗余備份機制。服務(wù)器負載均衡設(shè)備設(shè)備在網(wǎng)絡(luò)層次上起到類似"路由器"的作用，并運用專用的集成電路芯片（ASIC）完畢智能的負載分派的工作。它的單點故障問題可以通過在系統(tǒng)中引入此外一臺服務(wù)器負載均衡設(shè)備設(shè)備來完畢。不過與一般意義上的冗余備份機制不一樣，這時兩臺服務(wù)器負載均衡設(shè)備是同步處在工作狀態(tài)，并互相備份的，而不是其中一臺處在閑置的Stand-By狀態(tài)。服務(wù)器負載均衡設(shè)備通過網(wǎng)絡(luò)互相監(jiān)測，一旦其中一臺不能正常工作，另一臺將接管其所有的任務(wù)。整個系統(tǒng)的可擴縮性也是顯而易見的：

對于每一種特定服務(wù)，管理員可以根據(jù)詳細的負載狀況調(diào)配服務(wù)器。假如某種服務(wù)的負載壓力過大，可以考慮在系統(tǒng)中別的服務(wù)器上在建立一種該服務(wù)的鏡像，只要簡樸的在對應(yīng)當(dāng)服務(wù)的服務(wù)群中加入一種條目，新加的服務(wù)器就能參與到整個服務(wù)器群的工作中來了。

系統(tǒng)中引入新的硬件服務(wù)器，或某臺服務(wù)器需要對其硬件進行升級或配置的時候，服務(wù)器負載均衡設(shè)備可以自動監(jiān)測到這些變化。對于新加入的服務(wù)器，設(shè)有Warm-Up的時間，逐漸地分派到該臺服務(wù)器的負載；對于從系統(tǒng)上撤掉的服務(wù)器，可以設(shè)定一種over的時間值，可以保證在該臺服務(wù)器上的對話所有結(jié)束之后，才將服務(wù)器撤下，同步繼續(xù)把流量分派到其他的服務(wù)器上，顧客得到了不間斷的服務(wù)。

系統(tǒng)中所有服務(wù)器的配置，從硬件到操作系統(tǒng)或應(yīng)用軟件都可以是異構(gòu)的，不影響服務(wù)器負載均衡設(shè)備的功能發(fā)揮。網(wǎng)絡(luò)提供商可以靈活地進行網(wǎng)絡(luò)服務(wù)器的升級擴容工作。四、為何選擇梭子魚安全負載均衡機：

高性能：梭子魚LB440負載均衡機提供業(yè)界至強的服務(wù)器負載均衡性能，支持每秒100,000的新建連接，900萬的并發(fā)連接。

梭子魚負載均衡機會實時地對后臺服務(wù)器進行基于應(yīng)用的健康檢查，并決定在真實服務(wù)器不可用狀況下服務(wù)怎樣處理。

采用Cookie的會話保持機制提供會話的完整性，這樣可以防止在使用源地址會話保持時，客戶端假如是通過統(tǒng)一的代理網(wǎng)關(guān)進行訪問而導(dǎo)致負載均衡的不均勻，導(dǎo)致某些服務(wù)器的連接數(shù)遠不小于其他的服務(wù)器。

梭子魚安全負載均衡機獨特的無線連接心跳監(jiān)控方式提供迅速切換，是企業(yè)多種實時關(guān)鍵業(yè)務(wù)系統(tǒng)所必需的。

強大的安全保護：梭子魚安全負載均衡機內(nèi)置集成了IPS實時安全防護系統(tǒng)，可以檢測并阻擋1000多種入侵襲擊和DOS襲擊。Web服務(wù)器集群負載均衡技術(shù)的應(yīng)用與研究侯秀杰

祝永志

孔令鑫(曲阜師范大學(xué)計算機科學(xué)學(xué)院，山東日照276826)

摘

要

為了提高集群系統(tǒng)對顧客的迅速響應(yīng)與整體吞吐量，必須采用一定的方略將Web訪問均衡地分派到集群中的每一種服務(wù)器?；诖怂枷氡疚尼槍鲜降膯螜C思想給出了一種多機三層構(gòu)造的負載均衡系統(tǒng)。試驗成果表明了它在負載均衡方面的優(yōu)越性。

關(guān)鍵詞

負載均衡；均衡方略；調(diào)度算法；Web服務(wù)器集群模型

1

引言

Internet的迅速增長，尤其是電子商務(wù)應(yīng)用的發(fā)展，使Web應(yīng)用成為目前最重要最廣泛的應(yīng)用，Web服務(wù)器動態(tài)內(nèi)容越來越流行。目前，網(wǎng)上信息互換量幾乎呈指數(shù)增長，需要更高性能的Web服務(wù)器提供更多顧客的Web服務(wù)，因此，Web服務(wù)器面臨著訪問量急劇增長的壓力，對其處理能力和響應(yīng)能力等帶來更高的規(guī)定，假如Web服務(wù)器無法滿足大量Web訪問服務(wù)，將無法為顧客提供穩(wěn)定、良好的網(wǎng)絡(luò)應(yīng)用服務(wù)。

由于客觀存在的服務(wù)器物理內(nèi)存、CPU處理速度和操作系統(tǒng)等方面的影響原因，當(dāng)大量突發(fā)的數(shù)據(jù)抵達時，Web服務(wù)器無法完全及時處理所有的祈求，導(dǎo)致應(yīng)答滯后、祈求丟失等，嚴重的導(dǎo)致某些數(shù)據(jù)包因延時而重發(fā)，使傳播線路和服務(wù)器的承擔(dān)再次增長。老式的措施是提高Web服務(wù)器的CPU處理速度和增長內(nèi)存容量等硬件措施但無論怎樣增長Web服務(wù)器硬件性能，均無法滿足日益增長的對顧客的訪問服務(wù)能力。

面對日漸增長的Web訪問服務(wù)規(guī)定，必須對Web服務(wù)器按一定方略進行負載分派。運用負載均衡[1]的技術(shù)，按照一定方略將Web訪問服務(wù)分派到幾臺服務(wù)器上，負載處理對顧客透明，整體上對外如同一臺Web服務(wù)器為顧客提供Web服務(wù)。2

Web負載均衡構(gòu)造2.1

負載均衡

負載是一種抽象的概念，是表達系統(tǒng)繁忙程度，系統(tǒng)在一段時間空閑，該系統(tǒng)負載輕，系統(tǒng)在一段時間空忙，該系統(tǒng)負載重，影響系統(tǒng)負載的多種因數(shù)較多假如存在諸多的數(shù)據(jù)包同步通過網(wǎng)絡(luò)連向一臺Web服務(wù)器，也就是網(wǎng)絡(luò)的速度比網(wǎng)絡(luò)所連接的設(shè)備速度快的狀況下，系統(tǒng)負載不停增長，直到最大。

目前提高Web服務(wù)器性能，使其具有較強負載能力，重要有兩種處理思想[2]：

1)單機思想

不停升級服務(wù)器硬件性能，每當(dāng)負載增長，服務(wù)器隨之升級。這隨之將帶來某些問題，首先，服務(wù)器向高檔升級，花費資金較多；另一方面，升級頻繁，機器切換導(dǎo)致服務(wù)中斷，也許會導(dǎo)致整個服務(wù)中斷；最終，每種架構(gòu)的服務(wù)器升級總有一種極限限制。

2)多機思想

使用多臺服務(wù)器提供服務(wù)，通過一定機制使它們共同分擔(dān)系統(tǒng)負載，對單一的服務(wù)器沒有太高的性能規(guī)定，系統(tǒng)負載增長，可以多增長服務(wù)器來分擔(dān)。對顧客而言，整個系統(tǒng)仿佛是一臺單一的邏輯服務(wù)器，這樣的系統(tǒng)可以提供較強的可擴展性和很好的吞吐性能。

為了適應(yīng)目前急劇增長的Web訪問，有別于老式的單機思想，處理單機思想帶來的一系列問題，本文提出了一種基于權(quán)值的方略分派負載。2.2

負載均衡實現(xiàn)設(shè)備[2]

目前實現(xiàn)負載均衡需要兩類的設(shè)備：服務(wù)器和分派器。

1)服務(wù)器(Server)

為顧客提供真正的服務(wù)，也就是指給顧客提供負載均衡服務(wù)的計算機設(shè)備，有關(guān)該設(shè)備的某些性能數(shù)據(jù)是負載均衡的重要根據(jù)之一。

2)分派器(Dispatcher)

由顧客瀏覽器、Web服務(wù)器構(gòu)成兩層構(gòu)造Web系統(tǒng)[2]，如圖1所示，實際是基于客戶端的負載均衡。圖1

負責(zé)給顧客服務(wù)分派服務(wù)器，分派器的重要功能是根據(jù)客戶和服務(wù)器的多種狀況(這些狀況要能反應(yīng)服務(wù)器的負載狀況或性能狀況)通過一定的算法進行調(diào)動和分派工作，從而提高由服務(wù)器整體構(gòu)成的網(wǎng)站的穩(wěn)定性、響應(yīng)能力。它重要是集中所有的HTTP祈求，然后分派到多臺Web服務(wù)器上處理，來提高系統(tǒng)的處理效率。2.3

負載均衡系統(tǒng)構(gòu)造2.3.1兩層構(gòu)造的負載均衡系統(tǒng)

在服務(wù)器上運行一種特定的程序，該程序相稱一種客戶端，它定期的搜集服務(wù)器有關(guān)性能參數(shù)，如CPU、I/O、內(nèi)存等動態(tài)信息，根據(jù)某種方略，確定提供最佳服務(wù)的服務(wù)器，將應(yīng)用祈求轉(zhuǎn)發(fā)給它。假如采集負載信息程序發(fā)現(xiàn)服務(wù)器失敗，則找其他服務(wù)器作為服務(wù)選擇。這是一種動態(tài)負載均衡技術(shù)，不過每臺服務(wù)器上必須安裝特定的客戶端程序，同步，為保證應(yīng)用程序的透明性，需要對每個應(yīng)用進行修改，可以將訪問祈求通過該客戶端程序轉(zhuǎn)發(fā)到其他服務(wù)器上，重定向方式進行，修改每一種應(yīng)用程序，工作量十分大。2.3.2三層構(gòu)造的負載均衡系統(tǒng)

由顧客瀏覽器、負載均衡和Web服務(wù)器構(gòu)成三層構(gòu)造Web系統(tǒng)[2]，如圖2所示。實際是基于服務(wù)器的負載均衡。圖2

假如將基于客戶端的負載均衡中客戶端的負載均衡部分移植到一種中間平臺，形成一種應(yīng)用服務(wù)器，構(gòu)成祈求、負載均衡和服務(wù)器的三層構(gòu)造，客戶端應(yīng)用不需要做特殊修改，透明的中間層將祈求均衡的分布到不一樣的服務(wù)器。

據(jù)服務(wù)器直接連到Internet與否有兩種多Web服務(wù)器構(gòu)造：隔離式(Separation)和非隔離式(Unseparation)。隔離式是服務(wù)器不直接連到Internet，如圖3所示，非隔離式是服務(wù)器直接連到Internet，如圖4所示。圖3圖4

隔離式中只有負載均衡器對外有一種IP地址，所有的祈求由負載均衡器分派到不一樣的WebServer，所有WebServer的返回成果也通過負載均衡器傳回給顧客。非隔離式中每一臺WebServer均有一種IP地址，顧客祈求通過負載均衡器分派到WebServer，而祈求的應(yīng)答不通過負載均衡器，直接傳回顧客。為了減輕均衡器的負載，本文中采用了三層構(gòu)造中的隔離方式。2.4

負載均衡實現(xiàn)的措施

Web負載均衡常見算法有[3]：循環(huán)調(diào)度算法(Round-RobinScheduling)、加權(quán)循環(huán)調(diào)度算法(WeightedRound-RobinScheduling)、最小連接調(diào)度算法(Least-ConnectionScheduling)、目的地址散列調(diào)度算法(DestinationHashingScheduling)、源地址散列調(diào)度算法(SourceHashingScheduling)。

本文采用基于權(quán)值的調(diào)度算法，也就是說權(quán)值大的服務(wù)器優(yōu)先得到調(diào)度，本文在實現(xiàn)時是基于靜態(tài)的權(quán)值，就是在開始的時候給每一種服務(wù)器配置一種默認的權(quán)值。當(dāng)然也可以根據(jù)實際運行狀況再對每一種服務(wù)器的權(quán)值進行調(diào)整。不過這需要實時的搜集每一種服務(wù)器的信息，如服務(wù)器的內(nèi)存實用狀況，響應(yīng)速度等某些信息。3

Web服務(wù)器集群環(huán)境配置與測試[4][6][9]3.1搭建環(huán)境3.1.1軟硬件環(huán)境的搭建

(1)服務(wù)器有4臺，一臺安裝apache，三臺安裝tomcat。

(2)服務(wù)器的操作系統(tǒng)都是WindowsXP。

(3)其中安裝apache的服務(wù)器充當(dāng)負載均衡器，其他三臺是給顧客真正服務(wù)的服務(wù)器。

(4)IP配置，一臺安裝apache的IP為30，三臺安裝tomcat的服務(wù)器IP分別為31/132/133。3.1.2軟件的安裝與配置

1)安裝tomcat的服務(wù)器的配置

(1)在三臺安裝tomcat的服務(wù)器上安裝jdk。

(2)配置jdk的安裝途徑，在環(huán)境變量path中加入jdk的bin途徑，新建環(huán)境變量JAVA_HOME指向jdk的安裝途徑。

(3)在三臺要安裝tomcat的服務(wù)器上分別安裝tomcat，調(diào)試三個tomcat到可以正常啟動。

(4)tomcat的默認WEB服務(wù)端口是8080，默認的模式是單獨服務(wù)，我配置的三個tomcat的Web服務(wù)端口修改為7080/8888/9999。

修改位置為tomcat的安裝目錄下的conf/server.xml在文獻中找到下面的語句：<Connectorport="8080"maxHttpHeaderSize="8192"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"enableLookups="false"

redirectPort="8443"acceptCount="100”connectionTimeout="0"disableUploadTimeout="true"/>

只需改動Port=”8080”為上面提到的端口號就行，對安裝tomcat的三個服務(wù)器這個文獻做改動。

2)負載均衡服務(wù)器配置1

(1)在那臺要安裝apache的服務(wù)器上安裝apache，我的安裝途徑為默認C：\ProgramFiles\ApacheGroup\Apache2。

(2)安裝后測試apache能否正常啟動，調(diào)試到可以正常啟動http：//30。

(3)下載jk2.0.4后解壓縮文獻。

(4)將解壓縮后的目錄中的modules目錄中的mod_jk2.so文獻復(fù)制到apache的安裝目錄下的modules目錄中。

(5)修改apache的安裝目錄中的conf目錄的配置文獻httpd.conf，在文獻中LoadModule模塊配置信息的最終加上一句LoadModulejk2_modules/mod_jk2.so。

(6)分別修改三個tomcat的配置文獻conf/server.xml在文獻中找到下面的語句<Enginename=”Standalone”defaultHost=”localhost”jvmRoute=”jvm1”>只需改動jvmRoute的值，在這里分別改為tomcat1，tomcat2和tomcat3。

3)均衡服務(wù)器的配置2

在apache的安裝目錄中的conf目錄下創(chuàng)立文獻pertie，寫入文獻內(nèi)容如下：#finethecommunicationchannel[channel.socket：30：8009]Info=Ajp13forwardingoversocket#配置第一種服務(wù)器tomcatId=tomcat1#要和tomcat的配置文獻server.xml中的jvmRoute="tomcat1"名稱一致debug=0lb_factor=1#負載平衡因子，數(shù)字越大祈求被分派的幾率越高。類似地再配置其他的服務(wù)器。最終加上這樣的句子info=Statusworker，displaysruntimeinformation

[uri：/jkstatus.jsp]info=Displaystatusinformationandcheckstheconfigfileforchanges.Group=status：[uri：/*]info=MapthewholeWebappdebug=0

4)安裝tomcat的服務(wù)器配置2

在三個tomcat的安裝目錄中的webapps建立相似的應(yīng)用，我和應(yīng)用目錄名為GroupTest，在三個應(yīng)用目錄中建立相似WEB-INF目錄和頁面index.jsp，index.jsp的頁面的重要內(nèi)容是打印出為客戶服務(wù)的服務(wù)器的IP地址和端口號，當(dāng)然尚有其他某些內(nèi)容，最重要的是這些內(nèi)容，這樣當(dāng)我們在測試的時候也以便地懂得為其提供服務(wù)的服務(wù)究竟是哪一種服務(wù)器，這個信息是非常重要的，這樣我們能看出當(dāng)大量顧客訪問的時候我們能懂得負載分派的狀況。

5)集群配置

分別修改三個tomcat的配置文獻conf/server.xml找到如下面語句開始的地方：<!--<ClusterclassName="org.apache.c

atalina.cluster.tcp.SimpleTcpCluster”<ClusterListenerclassName="org.apache.catalina.cluster.session.ClusterSessionListener"/>

</Cluster>

-->

將最上，最下面的一行都改為<!--modifybywhh-->就可以了。

然后再在Conf目錄下建立perties文獻，寫入下面一行，其中端口為對應(yīng)的channelSocket.port=8009

6)集群應(yīng)用配置

對于要進行負載和集群的tomcat目錄下的webapps中的應(yīng)用中的WEB-INF中的web.xml文獻要添加如下一句配置<distributable/>到此為止配置完畢剩余的就是測試3.2