《負載均衡解決方案》

實用文檔實用文檔—、用戶需求本案例公司中現(xiàn)有數(shù)量較多的服務(wù)器群:WEB網(wǎng)站服務(wù)器4臺郵件服務(wù)器2臺虛擬主機服務(wù)器10臺應(yīng)用服務(wù)器2臺數(shù)據(jù)庫2臺（雙機+盤陣）希望通過服務(wù)器負載均衡設(shè)備實現(xiàn)各服務(wù)器群的流量動態(tài)負載均衡，并互為冗余備份。并要求新系統(tǒng)應(yīng)有一定的擴展性,如數(shù)據(jù)訪問量繼續(xù)增大,可再添加新的服務(wù)器加入負載均衡系統(tǒng)。二、需求分析我們對用戶的需求可分如下幾點分析和考慮：新系統(tǒng)能動態(tài)分配各服務(wù)器之間的訪問流量；同時能互為冗余，當其中一臺服務(wù)器發(fā)生故障時，其余服務(wù)器能即時替代工作，保證系統(tǒng)訪問的不中斷；新系統(tǒng)應(yīng)能管理不同應(yīng)用的帶竟,如優(yōu)先保證某些重要應(yīng)用的帶寬要求,同時限定某些不必要應(yīng)用的帶寬，合理高效地利用現(xiàn)有資源；新系統(tǒng)應(yīng)能對高層應(yīng)用提供安全保證，在路由器和防火墻基5岀上提供了更進一步的防線；新系統(tǒng)應(yīng)具備較強的擴展性。o容量上:如數(shù)據(jù)訪問量繼續(xù)增大,可再添加新的服務(wù)器加入系統(tǒng)；o應(yīng)用上:如當數(shù)據(jù)訪問量增大到防火墻成為瓶頸時，防火墻的動態(tài)負載均衡方案，又如針對鏈路提出新要求時關(guān)于Internet訪問鏈路的動態(tài)負載均衡方案等。三、解決方案WebSeiveisEinnHSnivelsAppliwtiorSelvesApplbanloi?S@rvei<WebSeiveisEinnHSnivelsAppliwtiorSelvesApplbanloi?S@rvei<梭子魚安全負載均衡方案總體設(shè)計實用文檔實用文檔實用文：實用文：采用服務(wù)器負載均衡設(shè)備提供本地的服務(wù)器群負載均衡和容錯，適用于處在同一個局域網(wǎng)上的服務(wù)器群。服務(wù)器負載均衡設(shè)備帶給我們的最主要功能是：當一臺服務(wù)器配置到不同的服務(wù)器群(Farm)上，就能同時提供多個不同的應(yīng)用?？梢詫τ诿總€服務(wù)器群設(shè)定一個IP地址,或者利用服務(wù)器負載均衡設(shè)備的多TCP端口酉d置特性，酉8置超級服務(wù)器群(SuperFarm),統(tǒng)一提供各種應(yīng)用服務(wù)。如圖，網(wǎng)絡(luò)中的四臺服務(wù)器向用戶提供了三種典型應(yīng)用，分別為web、mail和ftp服務(wù)，因此管理員通過服務(wù)器負載均衡設(shè)備建立了三個不同的服務(wù)器群（Farm）,并指定參與每個服務(wù)器群的服務(wù)器。對于上述這個系統(tǒng),服務(wù)器負載均衡設(shè)備的解決方案提供了三級全面冗余機制：對于每種應(yīng)用，如WEB服務(wù)，同時有四臺機器提供服務(wù)，每臺機器的狀態(tài)可以設(shè)為regular（正常工作）或backup（備份狀態(tài)），或者同時設(shè)定為regular^負載均衡設(shè)備根據(jù)管理員事先設(shè)定的負載算法和當前網(wǎng)絡(luò)的實際的動態(tài)的負載情況決定下一個用戶的請求將被重定向到的服務(wù)器。而這一切對于用戶來說是完全透明的,用戶完成了對WEB服務(wù)的請求,并不用關(guān)心具體是哪臺服務(wù)器完成的。對于整個服務(wù)器系統(tǒng)，資源得到充分的利用和冗余。我們知道,—般情況下不同應(yīng)用服務(wù)的用戶數(shù)目是不盡相同的，對于服務(wù)器資源的消耗也有所不同。如果對每一種應(yīng)用只采取單獨的機器提供服務(wù),不但存在單點故障問題,同時每臺服務(wù)器的利用也是不均勻的,可能存在大量的WEB請求,使單一的WEB服務(wù)器負荷超重;而同時FTP服務(wù)器卻處在基本空閑狀態(tài)。這也是一種系統(tǒng)資源的浪費,同時用戶得到的服務(wù)也不夠快捷。在引入了服務(wù)器負載均衡設(shè)備的服務(wù)器系統(tǒng)中，每臺機器的資源得到了充分利用，并減少了單點故障的問題。負載均衡設(shè)備也可以引入冗余備份機制。服務(wù)器負載均衡設(shè)備設(shè)備在網(wǎng)絡(luò)層次上起到類似"路由器"的作用，并利用專用的集成電路芯片（ASIC）完成智能的負載分配的工作。它的單點故障問題可以通過在系統(tǒng)中引入另外一臺服務(wù)器負載均衡設(shè)備設(shè)備來完成。但是與一般意義上的冗余備份機制不同,這時兩臺服務(wù)器負載均衡設(shè)備是同時處在工作狀態(tài),并互相備份的，而不是其中一臺處于閑置的Stand-By狀態(tài)。服務(wù)器負載均衡設(shè)備通過網(wǎng)絡(luò)互相監(jiān)測,一旦其中一臺不能正常工作,另一臺將接管其所有的任務(wù)。整個系統(tǒng)的可擴縮性也是顯而易見的：對于每一種特定服務(wù)，管理員可以根據(jù)具體的負載狀況調(diào)配服務(wù)器。如果某種服務(wù)的負載壓力過大，可以考慮在系統(tǒng)中別的服務(wù)器上在建立一個該服務(wù)的鏡像,只要簡單的在對應(yīng)該服務(wù)的服務(wù)群中加入一個條目，新加的服務(wù)器就能參與到整個服務(wù)器群的工作中來了。系統(tǒng)中引入新的硬件服務(wù)器，或某臺服務(wù)器需要對其硬件進行升級或配置的時候，服務(wù)器負載均衡設(shè)備能夠自動監(jiān)測到這些變化。對于新加入的服務(wù)器，設(shè)有Warm-Up的時間，逐步地分配到該臺服務(wù)器的負載;對于從系統(tǒng)上撤掉的服務(wù)器，可以設(shè)定一個over的時間值，能夠保證在該臺服務(wù)器上的對話全部結(jié)束之后，才將服務(wù)器撤下，同時^悵續(xù)把流量分配到其它的服務(wù)器上，用戶得到了不間斷的服務(wù)。系統(tǒng)中所有服務(wù)器的配置，從硬件到操作系統(tǒng)或應(yīng)用軟件都可以是異構(gòu)的,不影響服務(wù)器負載均衡設(shè)備的功能發(fā)揮。網(wǎng)絡(luò)提供商可以靈活地逬行網(wǎng)絡(luò)服務(wù)器的升級擴容工作。四、為什么選擇梭子魚安全負載均衡機：高性能:梭子魚LB440負載均衡機提供業(yè)界至強的月艮務(wù)器負載均衡性能，支持每秒100,000的新建連接,900萬的并發(fā)連接。梭子魚負載均衡機會實時地對后臺服務(wù)器進行基于應(yīng)用的健康檢查,并決定在真實服務(wù)器不可用情況下服務(wù)如何處理。采用Cookie的會話保持機制提供會話的完整性,這樣可以避免在使用源地址會話保持時,客戶端如果是通過統(tǒng)一的代理網(wǎng)關(guān)進行訪問而造成負載均衡的不均勻，導致某些服務(wù)器的連接數(shù)遠大于其他的服務(wù)器。梭子魚安全負載均衡機獨特的無線連接心跳監(jiān)控方式提供快速切換,是企業(yè)各種實時關(guān)鍵業(yè)務(wù)系統(tǒng)所必需的。強大的安全保護：梭子魚安全負載均衡機內(nèi)置集成了IPS實時安全防護系統(tǒng)，可以檢測并阻扌當1000多種入侵攻擊和DOS攻擊。Web服務(wù)器集群負載均衡技術(shù)的應(yīng)用與研究侯秀杰祝永志孔令鑫（曲阜師范大學計算機科學學院，山東日照276826）摘要為了提高集群系統(tǒng)對用戶的快速響應(yīng)與整體吞吐量，必須采取一定的策略將Web訪問均衡地分配到集群中的每一個服務(wù)器?；诖怂枷氡疚尼槍鹘y(tǒng)的單機思想給出了一種多機三層結(jié)構(gòu)的負載均衡系統(tǒng)。實驗結(jié)果表明了它在負載均衡方面的優(yōu)越性。關(guān)犍詞負載均衡；均衡策略；調(diào)度算法；Web服務(wù)器集群模型1引言Internet的快速增長，特別是電子商務(wù)應(yīng)用的發(fā)展，使Web應(yīng)用成為目前最重要最廣泛的應(yīng)用,Web服務(wù)器動態(tài)內(nèi)容越來越流行。目前,網(wǎng)上信息交換量幾乎呈指數(shù)增長,需要更高性能的Web服務(wù)器提供更多用戶的Web服務(wù),因此，Web服務(wù)器面臨看訪問量急劇增加的壓力，對其處理能力和響應(yīng)能力等帶來更高的要求,如果Web服務(wù)器無法滿足大量Web訪問服務(wù)，將無法為用戶提供穩(wěn)定、良好的網(wǎng)絡(luò)應(yīng)用服務(wù)。由于客觀存在的服務(wù)器物理內(nèi)存、CPU處理速度和操作系統(tǒng)等方面的影響因素，當大量突發(fā)的數(shù)據(jù)到達時，Web服務(wù)器無法完全及時處理所有的請求，造成應(yīng)答滯后、請求丟失等，嚴重的導致一些數(shù)據(jù)包因延時而重發(fā),使傳輸線路和服務(wù)器的負擔再次增加。傳統(tǒng)的方法是提高Web服務(wù)器的CPU處理速度和增加內(nèi)存容量等硬件辦法但無論如何增加Web月艮務(wù)器硬件性能”均無法滿足日益增加的對用戶的訪問服務(wù)能力。面對日漸增加的Web訪問服務(wù)要求,必須對Web服務(wù)器按一定策略進行負載分配。禾I」用負載均衡山的技術(shù)，按照一定策略將Web訪問服務(wù)分配到幾臺服務(wù)器上，負載處理對用戶透明，整體上對夕卜如同一臺Web服務(wù)器為用戶提供Web服務(wù)。2Web負載均衡結(jié)構(gòu)21負載均衡負載是一個抽象的概念,是表示系統(tǒng)繁忙程度,系統(tǒng)在一段時間空閑，該系統(tǒng)負載輕,系統(tǒng)在一段時間空忙，該系統(tǒng)負載重,影響系統(tǒng)負載的各種因數(shù)較多如果存在很多的數(shù)據(jù)包同時通過網(wǎng)絡(luò)連向一臺Web服務(wù)器,也就是網(wǎng)絡(luò)的速度比網(wǎng)絡(luò)所連接的設(shè)備速度快的情況下,系統(tǒng)負載不斷增加,直到最大。目前提高Web服務(wù)器性能，使其具有較強負載能力，主要有兩種處理思想【2】:1） 單機思想不斷升級服務(wù)器硬件性能，每當負載增加，服務(wù)器隨之升級。這隨之將帶來一些問題，首先，服務(wù)器向高檔升級，花費資金較多；其次，升級頻繁,機器切換造成服務(wù)中斷,可能會導致整個服務(wù)中斷；最后,每種架構(gòu)的服務(wù)器升級總有一個極限限制。2） 多機思想

使用多臺服務(wù)器提供服務(wù)，通過一定機制使它們共同分擔系統(tǒng)負載，對單一的服務(wù)器沒有太咼的性能要求，系統(tǒng)負載增加,可以多增加服務(wù)器來分擔。對用戶而百,整個系統(tǒng)仿佛是一臺單一的邏輯服務(wù)器，這樣的系統(tǒng)能夠提供較強的可擴展性和較好的吞吐性能。為了適應(yīng)當前急劇增長的Web訪問，有別于傳統(tǒng)的單機思想,解決單機思想帶來的—系列問題，本文提出了一種基于權(quán)值的策略分配負載。2.2負載均衡實現(xiàn)設(shè)備⑵目前實現(xiàn)負載均衡需要兩類的設(shè)備：服務(wù)器和分配器。1)服務(wù)器(Server)為用戶提供真正的服務(wù)，也就是指給用戶提供負載均衡服務(wù)的計算機設(shè)備,有關(guān)該設(shè)備的一些性能數(shù)據(jù)是負載均衡的主要依據(jù)之一。2)分配器(Dispatcher)由用戶瀏覽器、Web服務(wù)器組成兩層結(jié)構(gòu)Web系統(tǒng)⑵，如圖1所示，實際是基于客戶端的負載均衡。Web服務(wù)器客尸喘交機WeL服務(wù)器Web服務(wù)器客尸喘交機WeL服務(wù)器負責給用戶服務(wù)分配服務(wù)器，分配器的主要功能是根據(jù)客戶和服務(wù)器的各種情況（這些情況要能反映服務(wù)器的負載狀況或性能狀況）通過一定的算法進行調(diào)動和分配工作，從而提高由服務(wù)器整體構(gòu)成的網(wǎng)站的穩(wěn)定性、響應(yīng)能力。它主要是集中所有的HTTP請求,然后分配到多臺Web服務(wù)器上處理,來提高系統(tǒng)的處理效率。23負載均衡系統(tǒng)結(jié)構(gòu)231兩層結(jié)構(gòu)的負載均衡系統(tǒng)在服務(wù)器上運行一們寺定的程序，該程序相當一個客戶端，它定期的收集服務(wù)器相關(guān)性能參數(shù),如CPU、I/O、內(nèi)存等動態(tài)信息,根據(jù)某種策略，確定提供最佳^務(wù)的服務(wù)器，將應(yīng)用請求轉(zhuǎn)發(fā)給它。如果采集負載信息程序發(fā)現(xiàn)服務(wù)器失敗，則找其它服務(wù)器作為服務(wù)選擇。這是一種動態(tài)負載均衡技術(shù)，但是每臺服務(wù)器上必須安裝特定的客戶端程序，同時，為保證應(yīng)用程序的透明性，需要對每個應(yīng)用進行修改,能夠?qū)⒃L問請求通過該客戶端程序轉(zhuǎn)發(fā)到其它服務(wù)器上，重定向方式進行,修改每一個應(yīng)用程序,工作量十分大。232三層結(jié)構(gòu)的負載均衡系統(tǒng)

由用戶瀏覽器、負載均衡和Web服務(wù)器組成三層結(jié)構(gòu)Web系統(tǒng)⑵，如圖2所示。實際是基于服務(wù)器的負載均衡。圖2如果將基于客戶端的負載均衡中客戶端的負載均衡部分移植到一個中間平臺,形成—個應(yīng)用服務(wù)器,構(gòu)成請求、負載均衡和服務(wù)器的三層結(jié)構(gòu),客戶端應(yīng)用不需要做特殊修改，透明的中間層將請求均衡的分布到不同的服務(wù)器。據(jù)服務(wù)器直接連到Internet與否有兩種多Web服務(wù)器結(jié)構(gòu)：隔離式(Separation)和非隔離式(Unseparation)。隔離式是服務(wù)器不直接連到Internet,如圖3所示，非隔離式是服務(wù)器直接連到Internet,如圖4所示。圖3圖4圖4交換機隔離式中只有負載均衡器對外有一個IP地址，所有的請求由負載均衡器分配到不同的WebServer,所有WebSewer的返回結(jié)果也經(jīng)過負載均衡器傳回給用戶。非隔離式中每一臺WebServer都有一個IP地址，用戶請求經(jīng)過負載均衡器分配^WebServer,而請求的應(yīng)答不經(jīng)過負載均衡器，直接傳回用戶。為了減輕均衡器的負載，本文中采用了三層結(jié)構(gòu)中的隔離方式。2.4負載均衡實現(xiàn)的方法Web負載均衡常見算法有⑶：循環(huán)調(diào)度算法(Round-RobinScheduling).加權(quán)循環(huán)調(diào)度算法(WeightedRound-RobinScheduling).最小連接調(diào)度算法(Least-ConnectionScheduling).目標地址散歹I」調(diào)度算法(DestinationHashingScheduling).源地址散列調(diào)度算法(SourceHashingScheduling)o本文采用基于權(quán)值的調(diào)度算法,也就是說權(quán)值大的服務(wù)器優(yōu)先得到調(diào)度,本文在實現(xiàn)時是基于靜態(tài)的權(quán)值，就是在開始的時候給每一個服務(wù)器配置一個默認的權(quán)值。當然也可以根據(jù)實際運行情況再對每一個服務(wù)器的權(quán)值進行調(diào)整。但是這需要實時的搜集每—個服務(wù)器的信息，如服務(wù)器的內(nèi)存實用情況，響應(yīng)速度等一些信息。3Web服務(wù)器集群環(huán)境配置與測試⑷【6冏31搭建環(huán)境311軟硬件環(huán)境的搭建⑴服務(wù)器有4臺，一臺安裝apache,三臺安裝tomcat.服務(wù)器的操作系統(tǒng)都是WindowsXP0其中安裝apache的服務(wù)器充當負載均衡器，其它三臺是給用戶真正服務(wù)的服務(wù)器。IP酉￡置,—臺安裝apache的IP為30,三臺安裝tomcat的服務(wù)器IP分別為31/132/133.312軟件的安裝與配置1)安裝tomcat的服務(wù)器的配置在三臺安裝tomcat的服務(wù)器上安裝jdk0配置jdk的安裝路徑，在壞境變量path中加入jdk的bin路徑，新建壞境變量JAVA.HOME指向jdk的安裝路徑。(3)在三臺要安裝tomcat的服務(wù)器上分別安裝tomcat，調(diào)試三個tomcat到能夠正常啟動。(4)tomcat的默認WEB服務(wù)端口是8080,默認的模式是單獨服務(wù)，我配置的三個tomcat的Web服務(wù)端口修改為7080/8888/9999。修改位置為tomcat的安裝目錄下的conf/server.xml在文件中找到下面的語句:<Connectorport="8080"maxHttpHeaderSize="8192"maxThreads="150"minSpareThreads="25"maxSpareThreads="75"enableLookups="false"redirectPort="8443"acceptCount=TOO"connectionTimeout="20000"disableUploadTimeout="true"/>只需改動Port二"8080"為上面提到的端口號就行，對安裝tomcat的三個服務(wù)器這個文件做改動。2)負載均衡服務(wù)器配置1⑴在那臺要安裝apache的服務(wù)器上安裝apache,我的安裝路徑為默認C:\ProgramFiles\ApacheGroup\Apache2o(2)安裝后測試apache能否正常啟動,調(diào)試到能夠正常啟動http://30。⑶下載jk2.0.4后解壓縮文件。將解壓縮后的目錄中的modules目錄中的modjk2.so文件復制到apache的安裝目錄下的modules目錄中。修改apache的安裝目錄中的conf目錄的配置文件httpd.conf,在文件中LoadModule模塊配置信息的最后加上一句LoadModulejk2_modules/mod」k2.so。分別修改三個tomcat的配置文件conf/server.xml在文件中找到下面的語句<Enginename=MStandalone"defaultHost二"localhost"jvmRoute二"jvml">只需改動jvmRoute的值,在這里分別改為tomcatl,tomcat2和tomcat3o3)均衡服務(wù)器的配置2在apache的安裝目錄中的conf目錄下創(chuàng)建文件pertie寫入文件內(nèi)容如下：#finethecommunicationchannel[channel.socket:30:8009]Info=Ajpl3forwardingoversocket#配置第一個服務(wù)器tomcatld=tomcatl#要和tomcat的配置文件server.xml中的jvmRoute="tomcatl"名稱一致debug=0lb_factor=l#負載平衡因子，數(shù)字越大請求被分配的幾率越高。類似地再配置其它的服務(wù)器。最后加上這樣的句子info二Statusworker#displaysruntimeinformation[uri:/jkstatus.jsp]info二Displaystatusinformationandcheckstheconfigfileforchanges?Group=status:[uri:/*]info=MapthewholeWebappdebug二04） 安裝tomcat的服務(wù)器配置2在三個tomcat的安裝目錄中的webapps建立相同的應(yīng)用，我和應(yīng)用目錄名為GroupTest,在三個應(yīng)用目錄中建立相同WEB-INF目錄和頁面index.jsp,index.jsp的頁面的主要內(nèi)容是打印出為客戶服務(wù)的服務(wù)器的IP地址和端口號，當然還有其它一些內(nèi)容,最主要的是這些內(nèi)容,這樣當我們在測試的時候也方便地知道為其提供服務(wù)的服務(wù)到底是哪一個服務(wù)器，這個信息是非常重要的,這樣我們能看出當大量用戶訪問的時候我們能知道負載分配的情況。5） 集群配置分別修改三個tomcat的配置文件conf/server.xml找到以下面語句開始的地方:<!一<ClusterclassName=Morg.apache.catalina.cluster.tcp.SimpleTcpCIuster"<ClusterListenerclassName=norg.apache.catalina.cluster.session.ClusterSessionListener7></Cluster>一〉將最上r最下面的一行都改為<!—modifybywhh一〉就可以了。然后再在Conf目錄下建立perties文件，寫入下面一行，其中端口為相應(yīng)的channelSocket.port=80096)集群應(yīng)用配置對于要進行負載和集群的tomcat目錄下的webapps中的應(yīng)用中的WEB-INF中的web.xml文件要添加如下一句酉8M<distributable/〉到此為止配置完成剩下的就是測試32環(huán)境的測試