架設(shè)基于LINUX的服務(wù)器集群----教程

1、架設(shè)基于LINUX的服務(wù)器集群1.什么是服務(wù)器集群隨著Internet的爆炸性增長， Internet與人的生活越來越息息相關(guān)，通過 Internet上進(jìn)行交易也就越來越受關(guān)注。近幾年，電子商務(wù)的年增長均超過100。服務(wù)器的工作量也迅速增長，所以服務(wù)器（特別是一個(gè)受人歡迎的 WEB服務(wù)器）很容易在訪問高峰時(shí)期過載。而另一方面，計(jì)算機(jī)從1946年單純的科學(xué)計(jì)算任務(wù)到現(xiàn)在大量紛繁復(fù)雜的信息處理，工作量越來越大，需要越來越快的處理能力。所以計(jì)算機(jī)界就不得不不斷研究更快的處理器，存儲(chǔ)器，以適應(yīng)這一需求。然而，科學(xué)家們意識(shí)到，單塊處理器的速度發(fā)展空間是有限的，為什么不能讓計(jì)算機(jī)象人一樣協(xié)同工作，“群策群

2、力”地將工作完成好呢！這時(shí)，就掀起了“并行計(jì)算”的研究。舉 個(gè)例子來說，我們架設(shè)了一臺(tái)WWW服務(wù)器，上面構(gòu)建了一個(gè)電子商務(wù)網(wǎng)站，然而隨著時(shí)間的推移，名聲越來越大，這時(shí)點(diǎn)擊率也就越來越高，WWW服務(wù)器的負(fù)載 也就越來越高。這種情況下，我們就必須提升WWW服務(wù)器的能力，以滿足以益增長的服務(wù)請(qǐng)求。這時(shí)，我們就面臨兩種選擇：1）升級(jí)WWW服務(wù)器，采用更快的CPU，增加更多的內(nèi)存，使其更具有POWER；但日益增長的服務(wù)請(qǐng)求又會(huì)使服務(wù)器再次過載，需要再次升級(jí)，這樣就陷入了升級(jí)的怪圈。還有，升級(jí)時(shí)還得考慮到服務(wù)如何接續(xù)，能否中止！2）增加WWW服務(wù)器，讓多臺(tái)服務(wù)器來完成相同的服務(wù)。這種方法就是服務(wù)器集群，通

3、過并行技術(shù)來大大提升系統(tǒng)性能。也就是這一章的主要內(nèi)容，這種方法具有很好的擴(kuò)展性，而且可以最大限度地利用已有投資。1.1.集群的概念集群，是一組獨(dú)立的計(jì)算機(jī)系統(tǒng)構(gòu)成一個(gè)松耦合的多處理器系統(tǒng)，它們之間通過網(wǎng)絡(luò)實(shí)現(xiàn)進(jìn)程間的通信。應(yīng)用程序可以通過網(wǎng)絡(luò)共享內(nèi)存進(jìn)行消息傳送，實(shí)現(xiàn)分布式計(jì)算機(jī)。近幾年來，微處理器、內(nèi)存、總線技術(shù)、網(wǎng)絡(luò)技術(shù)有了非常大的進(jìn)步，軟件的并行技術(shù)也有了非常大的進(jìn)步，這使得讓一組廉價(jià)的個(gè)人電腦與工作站協(xié)同工作成為可能，甚至可以與擁有強(qiáng)大的芯片處理能力的超級(jí)計(jì)算機(jī)競爭。比如，16個(gè)普通微處理器組成的集群系統(tǒng)可以達(dá)到億次級(jí)浮點(diǎn)計(jì)算機(jī)能力，而且總的成本小于40萬元。不幸的是，建造一個(gè)集群并不

4、是一件簡單的事件。集群的組成部分必須根據(jù)要運(yùn)行的主要應(yīng)用進(jìn)行調(diào)整，以使之運(yùn)行在最佳狀態(tài)。這此因素帶來的結(jié)果就是，建造集群系統(tǒng)不是只有一個(gè)標(biāo)準(zhǔn)的方案，在本章中，我們就會(huì)看到許多種建造方案。集群技術(shù)是計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)的前沿領(lǐng)域，筆者也僅是略有了解，希望本文能起到拋磚引玉之用。1.2.并行技術(shù)這是一個(gè)非常簡單的建造四節(jié)點(diǎn)的小集群系統(tǒng)的例子，它是構(gòu)建在Linux操作系統(tǒng)上，通過MPICH軟件包實(shí)現(xiàn)的，希望這個(gè)小例子能讓大家對(duì)集群系統(tǒng)的構(gòu)建有一個(gè)最基本的了解。2.使用MPICH構(gòu)建一個(gè)四節(jié)點(diǎn)的集群系統(tǒng)這是一個(gè)非常簡單的建造四節(jié)點(diǎn)的小集群系統(tǒng)的例子，它是構(gòu)建在Linux操作系統(tǒng)上，通過MPICH軟件包實(shí)現(xiàn)的

5、，希望這個(gè)小例子能讓大家對(duì)集群系統(tǒng)的構(gòu)建有一個(gè)最基本的了解。2.1 所需設(shè)備1).4臺(tái)采用Pentium II處理器的PC機(jī)，每臺(tái)配置64M內(nèi)存，2GB以上的硬盤，和EIDE接口的光盤驅(qū)動(dòng)器。2).5塊100M快速以太網(wǎng)卡，如SMC 9332 EtherPower 10/100（其中四塊卡用于連接集群中的結(jié)點(diǎn)，另外一塊用于將集群中的其中的一個(gè)節(jié)點(diǎn)與其它網(wǎng)絡(luò)連接。）3).5根足夠連接集群系統(tǒng)中每個(gè)節(jié)點(diǎn)的，使用5類非屏蔽雙絞線制作的RJ45纜線4).1個(gè)快速以太網(wǎng)(100BASE-Tx)的集線器或交換機(jī)5).1張Linux安裝盤 2.2 構(gòu)建說明對(duì)計(jì)算機(jī)硬件不熟的人，實(shí)施以下這些構(gòu)建步驟會(huì)感到吃力

6、。如果是這樣，請(qǐng)找一些有經(jīng)驗(yàn)的專業(yè)人士尋求幫助。1. 準(zhǔn)備好要使用的采用Pentium II處理器的PC機(jī)。確信所有的PC機(jī)都還沒有接上電源，打開PC機(jī)的機(jī)箱，在準(zhǔn)備與網(wǎng)絡(luò)上的其它設(shè)備連接的PC機(jī)上安裝上兩塊快速以太網(wǎng)卡，在其它的 PC機(jī)上安裝上一塊快速以太網(wǎng)卡。當(dāng)然別忘了要加上附加的內(nèi)存。確定完成后蓋上機(jī)箱，接上電源。2. 使用4根RJ45線纜將四臺(tái)PC機(jī)連到快速以太網(wǎng)的集線器或交換機(jī)上。使用剩下的1根RJ45線將額外的以太網(wǎng)卡（用于與其它網(wǎng)絡(luò)相連的那塊，這樣機(jī)構(gòu)就可以用上集群）連接到機(jī)構(gòu)的局域網(wǎng)上（假定你的機(jī)構(gòu)局域網(wǎng)也是快速以太網(wǎng)），然后打開電源。3. 使用LINUX安裝盤在每一臺(tái)PC機(jī)上

7、安裝。請(qǐng)確信在LINUX系統(tǒng)中安裝了C編譯器和C的LIB庫。當(dāng)你配置TCP/IP時(shí)，建議你為四臺(tái)PC分別指定 為、、、。第一臺(tái)PC為你的服務(wù)器節(jié)點(diǎn)（擁有兩塊網(wǎng)卡的那 臺(tái)）。在這個(gè)服務(wù)器節(jié)點(diǎn)上的那塊與機(jī)構(gòu)局域網(wǎng)相連的網(wǎng)卡，你應(yīng)該為其指定一個(gè)與機(jī)構(gòu)局域網(wǎng)吻合的IP地址。4.當(dāng)所有PC都裝好Linux系統(tǒng)后，編輯每臺(tái)機(jī)器的/etc/hosts文件，讓其包含以下幾行： node1 server node2 node3 node4

8、編輯每臺(tái)機(jī)器的/etc/hosts.equiv文件，使其包含以下幾行：node1node2node3node4 以下的這些配置是為了讓其能使用MPICHs p4策略去執(zhí)行分布式的并行處理應(yīng)用。1. 在服務(wù)器節(jié)點(diǎn)，建一個(gè)/mirror目錄，并將其配置成為NFS服務(wù)器，并在/etc/exports文件中增加一行：/mirror node1(rw) node2(rw) node3(rw) node4(rw) 2. 在其他節(jié)點(diǎn)上，也建一個(gè)/mirror目錄，關(guān)在/etc/fstab文件中增加一行：server:/mirror /mirror nfs rw,bg,soft 0 0 3. /mirror這

9、個(gè)目錄從服務(wù)器上輸出，裝載在各個(gè)客戶端，以便在各個(gè)節(jié)點(diǎn)間進(jìn)行軟件任務(wù)的分發(fā)。4. 在服務(wù)器節(jié)點(diǎn)上，安裝MPICH。MPICH的文檔可在/mpi/mpich/docs.html獲得。5. 任何一個(gè)集群用戶（你必須在每一個(gè)節(jié)點(diǎn)新建一個(gè)相同的用戶），必須在/mirror目錄下建一個(gè)屬于它的子目錄，如/mirror/username，用 來存放MPI程序和共享數(shù)據(jù)文件。這種情況，用戶僅僅需要在服務(wù)器節(jié)點(diǎn)上編譯MPI程序，然后將編譯后的程序拷貝到在/mirror目錄下屬于它的的子目 錄中，然后從他在/mirror目錄下屬于它的的子目錄下使用p4 MPI策略運(yùn)行M

10、PI程序。2.3 MPICH安裝指南1. 如果你有g(shù)unzip，就d下載mpich.tar.gz，要不然就下載mpich.tar.Z。你可以到http: //mpi/mpich/downloa下載，也可以使用匿名FTP到的pub/mpi 目錄拿。（如果你覺得這個(gè)東西太大，你可以到pub/mpi/mpisplit中取分隔成塊的幾個(gè)小包，然后用cat命令將它們合并）2.解壓：gunzip ;c mpich.tar.gz |tar xovf-（或zcat mpich.tar.Z|tar xovf-）3.進(jìn)入mpich目錄4.執(zhí)行：./con

11、figure為MPICH選擇一套適合你的實(shí)際軟硬件環(huán)境的參數(shù)組，如果你對(duì)這些默認(rèn)選擇的參數(shù)不滿意，可以自己進(jìn)行配置（具體參見MPICH的配置文檔）。最好選擇一個(gè)指定的目錄來安裝和配置MPICH，例如：./configure -prefix=/usr/local/mpich-1.2.0 5.執(zhí)行：make >& make.log 這會(huì)花一段較長的時(shí)間，不同的硬件環(huán)境花的時(shí)間也就不同，可能從10分鐘到1個(gè)小時(shí)，甚至更多。6. （可選）在工作站網(wǎng)絡(luò)，或是一臺(tái)單獨(dú)的工作站，編輯mpich/util/machines/machines.xxx（xxx是MPICH對(duì)你機(jī)器體系 結(jié)構(gòu)取的名稱，

12、你能很容易的認(rèn)出來）以反映你工作站的當(dāng)?shù)刂鳈C(jī)名。你完全可以跳過這一步。在集群中，這一步不需要。7.（可選）編譯、運(yùn)行一個(gè)簡單的測(cè)試程序：cd examples/basic make cpiln ;s ././bin/mpirun mpirun./mpirun ;np 4 cpi此時(shí)，你就在你的系統(tǒng)上運(yùn)行了一個(gè)MPI程序。8.（可選）構(gòu)建MPICH其余的環(huán)境，為ch_p4策略使用安全的服務(wù)會(huì)使得任何啟動(dòng)速度加快，你可以執(zhí)行以下命令構(gòu)建：make serv_p4(serv_p4是一個(gè)較新的P4安全服務(wù)的版本，它包含在MPICH 1.2.0版中)，nupshot程序是upshot程序的一個(gè)更快版本，但他需要tk 3.6版的源代碼。如果你有這個(gè)包，你就用以下命令可以構(gòu)建它：make nupshot9.（可選）如果你想將MPICH安裝到一個(gè)公用的地方讓其它人使用它，你可以執(zhí)行：make install 或 bin/mpiinstall你可以使用-prefix選項(xiàng)指定MPICH安裝目錄。安裝后將生成include、lib、bin、sbin、www和man目錄以及一個(gè)小小的示例目錄，（可選）到此你可以通告所有的用戶如何編譯、執(zhí)行一個(gè)MPI程序。2.4 費(fèi)用統(tǒng)計(jì)這個(gè)