版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、論系統(tǒng)可靠性設(shè)計(jì)摘要:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的逐步普及和深入,業(yè)務(wù)處理越來(lái)越依賴于計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng),網(wǎng)絡(luò)的可靠性必然是建立網(wǎng)絡(luò)系統(tǒng)首要考慮的問(wèn)題之一,否則網(wǎng)絡(luò)故障會(huì)造成巨大的經(jīng)濟(jì)損失和社會(huì)影響。本人有幸作為項(xiàng)目負(fù)責(zé)人之一參與了某大學(xué)二期網(wǎng)絡(luò)的建設(shè),并負(fù)責(zé)了校園網(wǎng)絡(luò)可靠性的設(shè)計(jì)和實(shí)施。該校園網(wǎng)主要分為行政辦公大樓,教學(xué)樓群,實(shí)驗(yàn)樓群,圖書(shū)館,信息中心和網(wǎng)絡(luò)中心機(jī)房6個(gè)主要區(qū)域。本文主要從電纜級(jí)別,通信線路,服務(wù)器,網(wǎng)絡(luò)管理,網(wǎng)絡(luò)中心系統(tǒng)等方面介紹如何建立高可靠性的應(yīng)用網(wǎng)絡(luò)系統(tǒng),以滿足實(shí)際需求。正文:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的逐步普及和深入,業(yè)務(wù)處理越來(lái)越依賴于計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng),網(wǎng)絡(luò)的可靠性必然是建立網(wǎng)絡(luò)系統(tǒng)首
2、要考慮的問(wèn)題之一,否則網(wǎng)絡(luò)故障的產(chǎn)生會(huì)造成巨大的經(jīng)濟(jì)損失和社會(huì)影響。2007年7月到2008年7月,作為××公司的一名技術(shù)骨干,本人參與了××大學(xué)二期網(wǎng)絡(luò)的建設(shè),全程參與了整個(gè)網(wǎng)絡(luò)可靠性的規(guī)劃設(shè)實(shí)施,以下是項(xiàng)目在可靠性方面所采取的方案。第一級(jí)容錯(cuò),網(wǎng)絡(luò)電纜。無(wú)論是光纖,同軸電纜,雙絞線還是組合布線,都可能出現(xiàn)各種各樣的故障。首先由于選用的電纜電氣指標(biāo)達(dá)不到要求,造成信號(hào)衰減過(guò)度,引起網(wǎng)絡(luò)故障;其二,電纜接插頭虛接,松落;其三電纜線受到外界老化,朽蝕,機(jī)械等原因損壞。若損壞的電纜只是連接在一個(gè)獨(dú)立的設(shè)備,則定位和修復(fù)容易,而如果是連接多個(gè)網(wǎng)絡(luò)設(shè)備的電纜線路
3、或主干電纜線路損壞,則很難定位及修復(fù)。本方案在主干線路和其他重要支路上布置雙線甚至多線,當(dāng)主線斷路時(shí),自動(dòng)切換到輔線工作。為了考慮降低電纜線路同時(shí)損壞的可能,電纜布置在不同的路途上。(250)第二級(jí)容錯(cuò),冗余拓?fù)?。首先,本方案采用了三層的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),并在分布層和核心層的交換機(jī)之間使用冗余路徑,防止網(wǎng)絡(luò)因單點(diǎn)故障而無(wú)法運(yùn)行,以此提升網(wǎng)絡(luò)拓?fù)涞目煽啃?。然而,?duì)網(wǎng)絡(luò)中的交換機(jī)和路由器添加多余路徑會(huì)在網(wǎng)絡(luò)中引入需要?jiǎng)討B(tài)管理的通信環(huán)路,處理不當(dāng)將產(chǎn)生不必要的廣播風(fēng)暴,造成網(wǎng)絡(luò)癱瘓。所以必須啟用生成樹(shù)協(xié)議STP。STP會(huì)特地阻塞可能導(dǎo)致環(huán)路的冗余路徑,以確保網(wǎng)絡(luò)中所有目的地之間只有一條邏輯路徑。一旦網(wǎng)絡(luò)
4、出現(xiàn)故障,STP會(huì)重新計(jì)算路徑,將必要的端口解除阻塞,使冗余路徑進(jìn)入活動(dòng)狀態(tài)。其次,采用端口聚合技術(shù)。端口聚合可將多物理連接當(dāng)成一個(gè)單一的邏輯連接來(lái)處理。它允許兩個(gè)交換器之間通過(guò)多個(gè)端口并行連接同時(shí)傳輸數(shù)據(jù)以提供更高的帶寬,更大的吞吐量和可恢復(fù)性技術(shù)。一般來(lái)說(shuō),兩個(gè)普通的連接器連接的最大帶寬取決于媒介的傳輸速度(比如100BAST-TX為200M),而是用Trunk技術(shù)可以將4個(gè)200M的端口捆綁后成為一個(gè)高達(dá)800M的連接。這一技術(shù)的優(yōu)點(diǎn)是以較低的成本通過(guò)捆綁多端口提高帶寬,從而消除網(wǎng)絡(luò)訪問(wèn)中的瓶頸。另外,Trunk還具有自動(dòng)帶寬平衡,即使Trunk只有一個(gè)連接存在時(shí),仍然會(huì)工作,提供了網(wǎng)絡(luò)
5、的可靠性。(520)第三級(jí)容錯(cuò),設(shè)備冗余。首先,該網(wǎng)絡(luò)采用了雙核心拓?fù)浣Y(jié)構(gòu)。核心層采用兩臺(tái)CISCO C6500交換機(jī),兩者之間使用雙千兆光纖互聯(lián),利用鏈路聚合技術(shù),在兩臺(tái)核心交換機(jī)之間擴(kuò)大通信吞吐量,提高可靠性,實(shí)現(xiàn)復(fù)雜均衡的冗余連接。當(dāng)一條交換機(jī)出現(xiàn)故障或核心交換機(jī)與匯聚層交換機(jī)之間的某條鏈路出現(xiàn)故障,系統(tǒng)會(huì)自動(dòng)將通信業(yè)務(wù)快速切換到另一臺(tái)正常的交換機(jī)上,從而實(shí)現(xiàn)系統(tǒng)的可靠性。(170)其次,DNS服務(wù)器冗余配置。該校園網(wǎng)里有自己的DNS服務(wù)器,服務(wù)器采用兩臺(tái),一臺(tái)主DNS服務(wù)器,一臺(tái)輔助DNS服務(wù)器。這樣可以實(shí)現(xiàn)DNS服務(wù)器的容錯(cuò),也就是當(dāng)一天DNS壞掉,我們可以使用另一臺(tái)實(shí)現(xiàn)域名解析,還
6、可以實(shí)現(xiàn)負(fù)載均衡,也就是把所有的DNS請(qǐng)求由兩臺(tái)DNS服務(wù)器來(lái)解析,可以減輕主服務(wù)器的負(fù)擔(dān)。第四、Web和FTP服務(wù)器的集群。由于網(wǎng)絡(luò)用戶的增加,網(wǎng)絡(luò)成為了宣傳的好工具。許多高校都有自己的Web站點(diǎn),用于宣傳學(xué)校和發(fā)布招聘,招生等信息。有些高校也有了網(wǎng)絡(luò)教學(xué)系統(tǒng),向外部開(kāi)發(fā)FTP資源服務(wù)。單臺(tái)服務(wù)器顯然無(wú)法滿足網(wǎng)絡(luò)用戶劇增的需求。該學(xué)校采用了四臺(tái)Linux Cluster 服務(wù)器,作為Web和FTP服務(wù)器,然后利用DNS服務(wù)器配置,將不同的服務(wù)請(qǐng)求連接定向到不同的服務(wù)器上,從而實(shí)現(xiàn)服務(wù)器的負(fù)載均衡。而且當(dāng)其中某臺(tái)服務(wù)器出現(xiàn)故障,請(qǐng)求連接將定向到其他正常工作的服務(wù)器上。從而實(shí)現(xiàn)服務(wù)器的高可靠性,
7、保證服務(wù)的質(zhì)量。rS9?豩、冗余電源的設(shè)置。在一些重要的設(shè)備,核心交換機(jī),路由器,防火墻,入侵檢測(cè)系統(tǒng),數(shù)據(jù)庫(kù)服務(wù)器,祱和FTP服務(wù)器上設(shè)置冗余電源,當(dāng)其中一個(gè)電源出現(xiàn)故障時(shí),備份電源可以立刻接管主要的電源的工作,而當(dāng)替換了故障電源后,兩者又可以一起工作,實(shí)現(xiàn)負(fù)載均衡。q第四級(jí)冗余。冗余網(wǎng)關(guān)配置。為了減少交換機(jī)故障的影響,交換機(jī)上使用了纊VRRP(虛擬路由冗余協(xié)議),允許在不同廠商設(shè)備之間運(yùn)行,然而只有主服務(wù)器處于活動(dòng)狀態(tài),而備份服務(wù)器處于熱備閑置狀態(tài),導(dǎo)致的資源的利用率不高。CISCO的專有標(biāo)準(zhǔn)HSRP(熱備份路由協(xié)議,同樣可以實(shí)現(xiàn)冗余網(wǎng)關(guān),但是和VRRP一樣存在服務(wù)器熱備閑置問(wèn)題,但是可以
8、通過(guò)配置多個(gè)虛擬路由器組從而實(shí)現(xiàn)負(fù)載均衡。第三種,CISCO的網(wǎng)關(guān)負(fù)載均衡協(xié)議(GLBP),GLBP不但可以實(shí)現(xiàn)冗余網(wǎng)關(guān),而且可以實(shí)現(xiàn)負(fù)載均衡。由于該學(xué)校的路由設(shè)備大部分采用了羝?u_n:dCISCO專有的協(xié)議DIP配置為一樣,并且通過(guò)設(shè)置優(yōu)先級(jí)使其中一臺(tái)路由器成為主服務(wù)器,另外兩臺(tái)為備份服務(wù)器,但是三臺(tái)服務(wù)器都處于活動(dòng)狀態(tài)。羏馻_q第五級(jí)可靠性設(shè)置。分布式數(shù)據(jù)庫(kù)。由于該學(xué)校有兩個(gè)校區(qū),并且開(kāi)展了提供了網(wǎng)絡(luò)教學(xué),所以在不同校區(qū)布置了ORACLE數(shù)據(jù)庫(kù),并且每個(gè)校區(qū)的的重要數(shù)據(jù)庫(kù)(比如學(xué)生檔案,學(xué)生考試信息,招生信息等)進(jìn)行了雙機(jī)備份,并存儲(chǔ)與不同的位置,預(yù)防一些難于預(yù)測(cè)的災(zāi)難。第六級(jí)容錯(cuò),采用
9、網(wǎng)絡(luò)管理軟件系統(tǒng)進(jìn)行網(wǎng)絡(luò)的監(jiān)視和控制,隨時(shí)了解網(wǎng)絡(luò)的運(yùn)行情況,診斷和確定網(wǎng)絡(luò)故障的可能種類,發(fā)生點(diǎn),作用范圍等,可以作為網(wǎng)絡(luò)維護(hù)人員的得力助手,以便及時(shí)查出故障和進(jìn)行故障排除。網(wǎng)管系統(tǒng)在大中型網(wǎng)絡(luò)系統(tǒng)中是必不可少的網(wǎng)絡(luò)工具,可以大大縮小排除網(wǎng)絡(luò)故障的時(shí)間和降低網(wǎng)絡(luò)維護(hù)成本。僟 f 娭 月完工以來(lái),運(yùn)行良好,系統(tǒng)的安全性,高可靠性得到了學(xué)校領(lǐng)導(dǎo)和廣大師生的好評(píng)。我覺(jué)得不足之處有以下幾點(diǎn):DNS服務(wù)采用了循環(huán)機(jī)制,雖然實(shí)現(xiàn)了冗余功能,但是不能對(duì)不同DNS服務(wù)器的性能,負(fù)載實(shí)現(xiàn)均衡。而且,如果某臺(tái)DNS服務(wù)器出現(xiàn)故障,可能導(dǎo)致某些用戶連接失敗而無(wú)法得到服務(wù)。第二,網(wǎng)絡(luò)采用了RIP路由協(xié)議,路徑的均衡
10、采用跳步數(shù),不能充分考慮網(wǎng)絡(luò)帶寬和延遲,本人建議,以后應(yīng)該改用EIGRP或者OSPF協(xié)議,動(dòng)態(tài)的實(shí)現(xiàn)負(fù)載均衡。數(shù)據(jù)容災(zāi)與備份摘要摘要:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的深入,教育也步入了信息化。很多高校擁有屬于自己的網(wǎng)絡(luò)系統(tǒng)。并且隨著信息發(fā)布平臺(tái),郵件系統(tǒng),協(xié)同辦公,校園一卡通等服務(wù)的深入應(yīng)用,越來(lái)越多有價(jià)值的信息轉(zhuǎn)變?yōu)楹A繑?shù)據(jù),數(shù)據(jù)的價(jià)值也越來(lái)越高,任何數(shù)據(jù)的丟失都會(huì)給學(xué)校帶來(lái)極大的損失。如何保障數(shù)據(jù)的安全,以及數(shù)據(jù)在災(zāi)難之后的恢復(fù)成為了高校信息系統(tǒng)的重要任務(wù)之一。本人作為項(xiàng)目負(fù)責(zé)人之一參與了××高校的信息網(wǎng)絡(luò)建設(shè),本文介紹本信息系統(tǒng)的數(shù)據(jù)容災(zāi)與備份方案。刜7鬫暾瀞菻9.11塤IT系統(tǒng)
11、管理人員的誤操作,來(lái)自網(wǎng)絡(luò)的惡意攻擊,計(jì)算機(jī)病毒發(fā)作造成數(shù)據(jù)災(zāi)難。本文主要從備份中心,磁盤(pán)陣列,雙擊容錯(cuò)和集群,磁盤(pán)鏡像,數(shù)據(jù)防毒等方面來(lái)介紹本項(xiàng)目的數(shù)據(jù)容災(zāi)方案。鞥 n(數(shù)據(jù)備份更多的是指數(shù)據(jù)從在線狀態(tài)剝離到離線狀態(tài)的過(guò)程,終于服務(wù)器高可用集群技術(shù)已經(jīng)遠(yuǎn)程容災(zāi)技術(shù)有著本質(zhì)區(qū)別。雖然從目的上講,這些技術(shù)都是為了消除或減輕意外事件給系統(tǒng)帶來(lái)的影響,但是由于其側(cè)重的方向不同,實(shí)現(xiàn)的手段和產(chǎn)生的效果也不盡相同。集群和容災(zāi)技術(shù)的目的是為了保證系統(tǒng)的可用性,也就是說(shuō)當(dāng)一位發(fā)生時(shí),系統(tǒng)所提供的服務(wù)和功能不會(huì)因此而間斷。對(duì)數(shù)據(jù)而言集群和容災(zāi)技術(shù)是保護(hù)系統(tǒng)的在線狀態(tài),保證數(shù)據(jù)可以隨時(shí)被訪問(wèn)。而備份技術(shù)則是將整
12、個(gè)系統(tǒng)的數(shù)據(jù)或狀態(tài)保存下來(lái),以挽回硬件設(shè)備損壞帶來(lái)的損失,還有邏輯錯(cuò)誤和任務(wù)惡意撥號(hào)帶來(lái)的損失。備份技術(shù)指保證數(shù)據(jù)可以恢復(fù),但是恢復(fù)需要一定的時(shí)間。(備份與容災(zāi)的區(qū)別-可不寫(xiě)C場(chǎng)數(shù)據(jù)容災(zāi)就是防止數(shù)據(jù)失效,有多種途徑:如加強(qiáng)建筑物安全措施,提供員工操作水平,購(gòu)買(mǎi)優(yōu)良設(shè)備。但是最根本的方法還是建立完善的備份知道。備份就是保留一套后備系統(tǒng)。這套后備系統(tǒng)與現(xiàn)有系統(tǒng)一模一樣,或者是能夠替代現(xiàn)有系統(tǒng)的功能。婫5!彎霧:遠(yuǎn)程備份是為了防止主計(jì)算機(jī)中心和備份中西因?yàn)榫嚯x太近而同時(shí)損壞。1. 備份中心的選址:備份中心選址時(shí)應(yīng)該考慮的問(wèn)題有:備份中心與計(jì)算機(jī)中心應(yīng)有充分元的距離;網(wǎng)絡(luò)基礎(chǔ)設(shè)施較完備,備份中心要有足
13、夠的帶寬確保與數(shù)據(jù)中心的數(shù)據(jù)同步;不能在地震,洪澇,臺(tái)風(fēng),雷擊等地質(zhì)災(zāi)害和天氣災(zāi)害多發(fā)地區(qū);不能在重要設(shè)施密集的地區(qū),不能在交通要道附近;還得考慮是否有充足的雙回路電流保障。低價(jià)等成本也是一個(gè)不容忽視的考慮因素。首先該學(xué)校的主計(jì)算機(jī)中心位于東校區(qū),而數(shù)據(jù)備份中心位于離東校區(qū)20_Ac_r盻?_腳妘猱? 備份網(wǎng)絡(luò)的技術(shù):學(xué)校存有關(guān)鍵業(yè)務(wù)主機(jī)的服務(wù)器都是基于 鑏奘K 劺詥 網(wǎng)絡(luò)中關(guān)鍵業(yè)務(wù)主機(jī)數(shù)據(jù)通過(guò)備份服務(wù)器的管理軟件將數(shù)據(jù)分別存儲(chǔ)到位于異地的2個(gè)磁帶庫(kù)中。該架構(gòu)能夠解決主機(jī)故障(包括硬件和系統(tǒng)等軟件故障),核心數(shù)據(jù)庫(kù)丟失故障等任何硬件級(jí)別的單點(diǎn)故障,并能準(zhǔn)備地依靠備份數(shù)據(jù)將系統(tǒng)懷遠(yuǎn)到最后一次備份
14、前的任意時(shí)刻,實(shí)現(xiàn)了邏輯損壞的修復(fù)功能。備份頻率也是一個(gè)值得考慮的問(wèn)題,因?yàn)槿绻麄浞輹r(shí)間短,比如每次計(jì)算機(jī)中心業(yè)務(wù)活動(dòng)產(chǎn)生對(duì)數(shù)據(jù)的修改都將其數(shù)據(jù)備份至備份中心,那么一旦系統(tǒng)發(fā)生故障,丟失的只是最后一次業(yè)務(wù)活動(dòng)產(chǎn)生的數(shù)據(jù)。而這對(duì)備份中心線路容量,備份中心服務(wù)的性能要求很高。 謃鯻笽厶O(píng)#_ 鵛 > 松 紜R纖Q_ 備份中心入侵檢測(cè)設(shè)置:由于備份中心的數(shù)據(jù)和主機(jī)房的數(shù)據(jù)一樣重要,都是網(wǎng)絡(luò)的核心數(shù)據(jù)。難免存在網(wǎng)絡(luò)黑客進(jìn)行信息竊取,信息破壞,這種數(shù)據(jù)災(zāi)難給企業(yè)或?qū)W校帶來(lái)的損失不亞于天氣災(zāi)害,地質(zhì)災(zāi)害對(duì)數(shù)據(jù)造成的影響。本方案采用入侵檢測(cè)系統(tǒng)來(lái)保證備份中心的數(shù)據(jù)安全。入侵檢測(cè)系統(tǒng)是一種積極主動(dòng)的安全
15、防護(hù)工具,提供了對(duì)內(nèi)部攻擊,外部攻擊和誤操作的實(shí)時(shí)防護(hù),在計(jì)算機(jī)網(wǎng)絡(luò)和系統(tǒng)受到危害之前進(jìn)行報(bào)警,攔截和響應(yīng)。該備份中心的入侵檢測(cè)系統(tǒng)采用 入侵檢測(cè)系統(tǒng)來(lái)保證備份中心的數(shù)據(jù)。鮒y;_X卂屩?B_磁盤(pán)陣列技術(shù)也稱RAID(Redundant Array of Independent Disk 獨(dú)立冗余磁盤(pán)陣列),該技術(shù)可以在一定程度上改善硬盤(pán)系統(tǒng)的可靠性與可用性。簡(jiǎn)單的磁盤(pán)陣列可以采用在服務(wù)器中加裝RAID卡和多個(gè)硬盤(pán)來(lái)實(shí)現(xiàn),更好的辦法是采用專用的磁盤(pán)陣列柜。(2)雙機(jī)容錯(cuò)和集群雙機(jī)容錯(cuò)技術(shù)也成為雙機(jī)熱備份技術(shù),是國(guó)內(nèi)對(duì)于上級(jí)容錯(cuò)相關(guān)技術(shù)的俗稱。他的基本原理是在同一個(gè)計(jì)算機(jī)應(yīng)用軟件系統(tǒng)上采用兩個(gè)或
16、兩個(gè)以上的主機(jī)/服務(wù)器硬件系統(tǒng)來(lái)支持。這樣,當(dāng)主要的主機(jī)/服務(wù)器發(fā)生故障時(shí),就通過(guò)相應(yīng)的技術(shù),由另外的主機(jī)/服務(wù)器自動(dòng)接管故障機(jī)所承擔(dān)的任務(wù)。論系統(tǒng)可靠性設(shè)計(jì)摘要:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的逐步普及和深入,業(yè)務(wù)處理越來(lái)越依賴于計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng),網(wǎng)絡(luò)的可靠性必然是建立網(wǎng)絡(luò)系統(tǒng)首要考慮的問(wèn)題之一,否則網(wǎng)絡(luò)故障會(huì)造成巨大的經(jīng)濟(jì)損失和社會(huì)影響。本人有幸作為項(xiàng)目負(fù)責(zé)人之一參與了某大學(xué)二期網(wǎng)絡(luò)的建設(shè),并負(fù)責(zé)了校園網(wǎng)絡(luò)可靠性的設(shè)計(jì)和實(shí)施。該校園網(wǎng)主要分為行政辦公大樓,教學(xué)樓群,實(shí)驗(yàn)樓群,圖書(shū)館,信息中心和網(wǎng)絡(luò)中心機(jī)房6個(gè)主要區(qū)域。本文主要從電纜級(jí)別,通信線路,服務(wù)器,網(wǎng)絡(luò)管理,網(wǎng)絡(luò)中心系統(tǒng)等方面介紹如何建立高可靠性
17、的應(yīng)用網(wǎng)絡(luò)系統(tǒng),以滿足實(shí)際需求。正文:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的逐步普及和深入,業(yè)務(wù)處理越來(lái)越依賴于計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng),網(wǎng)絡(luò)的可靠性必然是建立網(wǎng)絡(luò)系統(tǒng)首要考慮的問(wèn)題之一,否則網(wǎng)絡(luò)故障的產(chǎn)生會(huì)造成巨大的經(jīng)濟(jì)損失和社會(huì)影響。2007年7月到2008年7月,作為××公司的一名技術(shù)骨干,本人參與了××大學(xué)二期網(wǎng)絡(luò)的建設(shè),全程參與了整個(gè)網(wǎng)絡(luò)可靠性的規(guī)劃設(shè)實(shí)施,以下是項(xiàng)目在可靠性方面所采取的方案。第一級(jí)容錯(cuò),網(wǎng)絡(luò)電纜。無(wú)論是光纖,同軸電纜,雙絞線還是組合布線,都可能出現(xiàn)各種各樣的故障。首先由于選用的電纜電氣指標(biāo)達(dá)不到要求,造成信號(hào)衰減過(guò)度,引起網(wǎng)絡(luò)故障;其二,電纜接插頭虛接,
18、松落;其三電纜線受到外界老化,朽蝕,機(jī)械等原因損壞。若損壞的電纜只是連接在一個(gè)獨(dú)立的設(shè)備,則定位和修復(fù)容易,而如果是連接多個(gè)網(wǎng)絡(luò)設(shè)備的電纜線路或主干電纜線路損壞,則很難定位及修復(fù)。本方案在主干線路和其他重要支路上布置雙線甚至多線,當(dāng)主線斷路時(shí),自動(dòng)切換到輔線工作。為了考慮降低電纜線路同時(shí)損壞的可能,電纜布置在不同的路途上。(250)第二級(jí)容錯(cuò),冗余拓?fù)?。首先,本方案采用了三層的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),并在分布層和核心層的交換機(jī)之間使用冗余路徑,防止網(wǎng)絡(luò)因單點(diǎn)故障而無(wú)法運(yùn)行,以此提升網(wǎng)絡(luò)拓?fù)涞目煽啃浴H欢?,?duì)網(wǎng)絡(luò)中的交換機(jī)和路由器添加多余路徑會(huì)在網(wǎng)絡(luò)中引入需要?jiǎng)討B(tài)管理的通信環(huán)路,處理不當(dāng)將產(chǎn)生不必要的廣播
19、風(fēng)暴,造成網(wǎng)絡(luò)癱瘓。所以必須啟用生成樹(shù)協(xié)議STP。STP會(huì)特地阻塞可能導(dǎo)致環(huán)路的冗余路徑,以確保網(wǎng)絡(luò)中所有目的地之間只有一條邏輯路徑。一旦網(wǎng)絡(luò)出現(xiàn)故障,STP會(huì)重新計(jì)算路徑,將必要的端口解除阻塞,使冗余路徑進(jìn)入活動(dòng)狀態(tài)。其次,采用端口聚合技術(shù)。端口聚合可將多物理連接當(dāng)成一個(gè)單一的邏輯連接來(lái)處理。它允許兩個(gè)交換器之間通過(guò)多個(gè)端口并行連接同時(shí)傳輸數(shù)據(jù)以提供更高的帶寬,更大的吞吐量和可恢復(fù)性技術(shù)。一般來(lái)說(shuō),兩個(gè)普通的連接器連接的最大帶寬取決于媒介的傳輸速度(比如100BAST-TX為200M),而是用Trunk技術(shù)可以將4個(gè)200M的端口捆綁后成為一個(gè)高達(dá)800M的連接。這一技術(shù)的優(yōu)點(diǎn)是以較低的成本
20、通過(guò)捆綁多端口提高帶寬,從而消除網(wǎng)絡(luò)訪問(wèn)中的瓶頸。另外,Trunk還具有自動(dòng)帶寬平衡,即使Trunk只有一個(gè)連接存在時(shí),仍然會(huì)工作,提供了網(wǎng)絡(luò)的可靠性。(520)第三級(jí)容錯(cuò),設(shè)備冗余。首先,該網(wǎng)絡(luò)采用了雙核心拓?fù)浣Y(jié)構(gòu)。核心層采用兩臺(tái)CISCO C6500交換機(jī),兩者之間使用雙千兆光纖互聯(lián),利用鏈路聚合技術(shù),在兩臺(tái)核心交換機(jī)之間擴(kuò)大通信吞吐量,提高可靠性,實(shí)現(xiàn)復(fù)雜均衡的冗余連接。當(dāng)一條交換機(jī)出現(xiàn)故障或核心交換機(jī)與匯聚層交換機(jī)之間的某條鏈路出現(xiàn)故障,系統(tǒng)會(huì)自動(dòng)將通信業(yè)務(wù)快速切換到另一臺(tái)正常的交換機(jī)上,從而實(shí)現(xiàn)系統(tǒng)的可靠性。(170)其次,DNS服務(wù)器冗余配置。該校園網(wǎng)里有自己的DNS服務(wù)器,服務(wù)器
21、采用兩臺(tái),一臺(tái)主DNS服務(wù)器,一臺(tái)輔助DNS服務(wù)器。這樣可以實(shí)現(xiàn)DNS服務(wù)器的容錯(cuò),也就是當(dāng)一天DNS壞掉,我們可以使用另一臺(tái)實(shí)現(xiàn)域名解析,還可以實(shí)現(xiàn)負(fù)載均衡,也就是把所有的DNS請(qǐng)求由兩臺(tái)DNS服務(wù)器來(lái)解析,可以減輕主服務(wù)器的負(fù)擔(dān)。第四、Web和FTP服務(wù)器的集群。由于網(wǎng)絡(luò)用戶的增加,網(wǎng)絡(luò)成為了宣傳的好工具。許多高校都有自己的Web站點(diǎn),用于宣傳學(xué)校和發(fā)布招聘,招生等信息。有些高校也有了網(wǎng)絡(luò)教學(xué)系統(tǒng),向外部開(kāi)發(fā)FTP資源服務(wù)。單臺(tái)服務(wù)器顯然無(wú)法滿足網(wǎng)絡(luò)用戶劇增的需求。該學(xué)校采用了四臺(tái)Linux Cluster 服務(wù)器,作為Web和FTP服務(wù)器,然后利用DNS服務(wù)器配置,將不同的服務(wù)請(qǐng)求連接定
22、向到不同的服務(wù)器上,從而實(shí)現(xiàn)服務(wù)器的負(fù)載均衡。而且當(dāng)其中某臺(tái)服務(wù)器出現(xiàn)故障,請(qǐng)求連接將定向到其他正常工作的服務(wù)器上。從而實(shí)現(xiàn)服務(wù)器的高可靠性,保證服務(wù)的質(zhì)量。rS9?豩、冗余電源的設(shè)置。在一些重要的設(shè)備,核心交換機(jī),路由器,防火墻,入侵檢測(cè)系統(tǒng),數(shù)據(jù)庫(kù)服務(wù)器,祱和FTP服務(wù)器上設(shè)置冗余電源,當(dāng)其中一個(gè)電源出現(xiàn)故障時(shí),備份電源可以立刻接管主要的電源的工作,而當(dāng)替換了故障電源后,兩者又可以一起工作,實(shí)現(xiàn)負(fù)載均衡。q第四級(jí)冗余。冗余網(wǎng)關(guān)配置。為了減少交換機(jī)故障的影響,交換機(jī)上使用了纊VRRP(虛擬路由冗余協(xié)議),允許在不同廠商設(shè)備之間運(yùn)行,然而只有主服務(wù)器處于活動(dòng)狀態(tài),而備份服務(wù)器處于熱備閑置狀態(tài),
23、導(dǎo)致的資源的利用率不高。CISCO的專有標(biāo)準(zhǔn)HSRP(熱備份路由協(xié)議,同樣可以實(shí)現(xiàn)冗余網(wǎng)關(guān),但是和VRRP一樣存在服務(wù)器熱備閑置問(wèn)題,但是可以通過(guò)配置多個(gè)虛擬路由器組從而實(shí)現(xiàn)負(fù)載均衡。第三種,CISCO的網(wǎng)關(guān)負(fù)載均衡協(xié)議(GLBP),GLBP不但可以實(shí)現(xiàn)冗余網(wǎng)關(guān),而且可以實(shí)現(xiàn)負(fù)載均衡。由于該學(xué)校的路由設(shè)備大部分采用了羝?u_n:dCISCO專有的協(xié)議DIP配置為一樣,并且通過(guò)設(shè)置優(yōu)先級(jí)使其中一臺(tái)路由器成為主服務(wù)器,另外兩臺(tái)為備份服務(wù)器,但是三臺(tái)服務(wù)器都處于活動(dòng)狀態(tài)。羏馻_q第五級(jí)可靠性設(shè)置。分布式數(shù)據(jù)庫(kù)。由于該學(xué)校有兩個(gè)校區(qū),并且開(kāi)展了提供了網(wǎng)絡(luò)教學(xué),所以在不同校區(qū)布置了ORACLE數(shù)據(jù)庫(kù),并
24、且每個(gè)校區(qū)的的重要數(shù)據(jù)庫(kù)(比如學(xué)生檔案,學(xué)生考試信息,招生信息等)進(jìn)行了雙機(jī)備份,并存儲(chǔ)與不同的位置,預(yù)防一些難于預(yù)測(cè)的災(zāi)難。第六級(jí)容錯(cuò),采用網(wǎng)絡(luò)管理軟件系統(tǒng)進(jìn)行網(wǎng)絡(luò)的監(jiān)視和控制,隨時(shí)了解網(wǎng)絡(luò)的運(yùn)行情況,診斷和確定網(wǎng)絡(luò)故障的可能種類,發(fā)生點(diǎn),作用范圍等,可以作為網(wǎng)絡(luò)維護(hù)人員的得力助手,以便及時(shí)查出故障和進(jìn)行故障排除。網(wǎng)管系統(tǒng)在大中型網(wǎng)絡(luò)系統(tǒng)中是必不可少的網(wǎng)絡(luò)工具,可以大大縮小排除網(wǎng)絡(luò)故障的時(shí)間和降低網(wǎng)絡(luò)維護(hù)成本。僟 f 娭 月完工以來(lái),運(yùn)行良好,系統(tǒng)的安全性,高可靠性得到了學(xué)校領(lǐng)導(dǎo)和廣大師生的好評(píng)。我覺(jué)得不足之處有以下幾點(diǎn):DNS服務(wù)采用了循環(huán)機(jī)制,雖然實(shí)現(xiàn)了冗余功能,但是不能對(duì)不同DNS服務(wù)
25、器的性能,負(fù)載實(shí)現(xiàn)均衡。而且,如果某臺(tái)DNS服務(wù)器出現(xiàn)故障,可能導(dǎo)致某些用戶連接失敗而無(wú)法得到服務(wù)。第二,網(wǎng)絡(luò)采用了RIP路由協(xié)議,路徑的均衡采用跳步數(shù),不能充分考慮網(wǎng)絡(luò)帶寬和延遲,本人建議,以后應(yīng)該改用EIGRP或者OSPF協(xié)議,動(dòng)態(tài)的實(shí)現(xiàn)負(fù)載均衡。數(shù)據(jù)容災(zāi)與備份摘要摘要:隨著計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)用的深入,教育也步入了信息化。很多高校擁有屬于自己的網(wǎng)絡(luò)系統(tǒng)。并且隨著信息發(fā)布平臺(tái),郵件系統(tǒng),協(xié)同辦公,校園一卡通等服務(wù)的深入應(yīng)用,越來(lái)越多有價(jià)值的信息轉(zhuǎn)變?yōu)楹A繑?shù)據(jù),數(shù)據(jù)的價(jià)值也越來(lái)越高,任何數(shù)據(jù)的丟失都會(huì)給學(xué)校帶來(lái)極大的損失。如何保障數(shù)據(jù)的安全,以及數(shù)據(jù)在災(zāi)難之后的恢復(fù)成為了高校信息系統(tǒng)的重要任務(wù)之一。
26、本人作為項(xiàng)目負(fù)責(zé)人之一參與了××高校的信息網(wǎng)絡(luò)建設(shè),本文介紹本信息系統(tǒng)的數(shù)據(jù)容災(zāi)與備份方案。刜7鬫暾瀞菻9.11塤IT系統(tǒng)管理人員的誤操作,來(lái)自網(wǎng)絡(luò)的惡意攻擊,計(jì)算機(jī)病毒發(fā)作造成數(shù)據(jù)災(zāi)難。本文主要從備份中心,磁盤(pán)陣列,雙擊容錯(cuò)和集群,磁盤(pán)鏡像,數(shù)據(jù)防毒等方面來(lái)介紹本項(xiàng)目的數(shù)據(jù)容災(zāi)方案。鞥 n(數(shù)據(jù)備份更多的是指數(shù)據(jù)從在線狀態(tài)剝離到離線狀態(tài)的過(guò)程,終于服務(wù)器高可用集群技術(shù)已經(jīng)遠(yuǎn)程容災(zāi)技術(shù)有著本質(zhì)區(qū)別。雖然從目的上講,這些技術(shù)都是為了消除或減輕意外事件給系統(tǒng)帶來(lái)的影響,但是由于其側(cè)重的方向不同,實(shí)現(xiàn)的手段和產(chǎn)生的效果也不盡相同。集群和容災(zāi)技術(shù)的目的是為了保證系統(tǒng)的可用性,也就是
27、說(shuō)當(dāng)一位發(fā)生時(shí),系統(tǒng)所提供的服務(wù)和功能不會(huì)因此而間斷。對(duì)數(shù)據(jù)而言集群和容災(zāi)技術(shù)是保護(hù)系統(tǒng)的在線狀態(tài),保證數(shù)據(jù)可以隨時(shí)被訪問(wèn)。而備份技術(shù)則是將整個(gè)系統(tǒng)的數(shù)據(jù)或狀態(tài)保存下來(lái),以挽回硬件設(shè)備損壞帶來(lái)的損失,還有邏輯錯(cuò)誤和任務(wù)惡意撥號(hào)帶來(lái)的損失。備份技術(shù)指保證數(shù)據(jù)可以恢復(fù),但是恢復(fù)需要一定的時(shí)間。(備份與容災(zāi)的區(qū)別-可不寫(xiě)C場(chǎng)數(shù)據(jù)容災(zāi)就是防止數(shù)據(jù)失效,有多種途徑:如加強(qiáng)建筑物安全措施,提供員工操作水平,購(gòu)買(mǎi)優(yōu)良設(shè)備。但是最根本的方法還是建立完善的備份知道。備份就是保留一套后備系統(tǒng)。這套后備系統(tǒng)與現(xiàn)有系統(tǒng)一模一樣,或者是能夠替代現(xiàn)有系統(tǒng)的功能。婫5!彎霧:遠(yuǎn)程備份是為了防止主計(jì)算機(jī)中心和備份中西因?yàn)榫嚯x
28、太近而同時(shí)損壞。1. 備份中心的選址:備份中心選址時(shí)應(yīng)該考慮的問(wèn)題有:備份中心與計(jì)算機(jī)中心應(yīng)有充分元的距離;網(wǎng)絡(luò)基礎(chǔ)設(shè)施較完備,備份中心要有足夠的帶寬確保與數(shù)據(jù)中心的數(shù)據(jù)同步;不能在地震,洪澇,臺(tái)風(fēng),雷擊等地質(zhì)災(zāi)害和天氣災(zāi)害多發(fā)地區(qū);不能在重要設(shè)施密集的地區(qū),不能在交通要道附近;還得考慮是否有充足的雙回路電流保障。低價(jià)等成本也是一個(gè)不容忽視的考慮因素。首先該學(xué)校的主計(jì)算機(jī)中心位于東校區(qū),而數(shù)據(jù)備份中心位于離東校區(qū)20_Ac_r盻?_腳妘猱? 備份網(wǎng)絡(luò)的技術(shù):學(xué)校存有關(guān)鍵業(yè)務(wù)主機(jī)的服務(wù)器都是基于 鑏奘K 劺詥 網(wǎng)絡(luò)中關(guān)鍵業(yè)務(wù)主機(jī)數(shù)據(jù)通過(guò)備份服務(wù)器的管理軟件將數(shù)據(jù)分別存儲(chǔ)到位于異地的2個(gè)磁帶庫(kù)中。
29、該架構(gòu)能夠解決主機(jī)故障(包括硬件和系統(tǒng)等軟件故障),核心數(shù)據(jù)庫(kù)丟失故障等任何硬件級(jí)別的單點(diǎn)故障,并能準(zhǔn)備地依靠備份數(shù)據(jù)將系統(tǒng)懷遠(yuǎn)到最后一次備份前的任意時(shí)刻,實(shí)現(xiàn)了邏輯損壞的修復(fù)功能。備份頻率也是一個(gè)值得考慮的問(wèn)題,因?yàn)槿绻麄浞輹r(shí)間短,比如每次計(jì)算機(jī)中心業(yè)務(wù)活動(dòng)產(chǎn)生對(duì)數(shù)據(jù)的修改都將其數(shù)據(jù)備份至備份中心,那么一旦系統(tǒng)發(fā)生故障,丟失的只是最后一次業(yè)務(wù)活動(dòng)產(chǎn)生的數(shù)據(jù)。而這對(duì)備份中心線路容量,備份中心服務(wù)的性能要求很高。 謃鯻笽厶O(píng)#_ 鵛 > 松 紜R纖Q_ 備份中心入侵檢測(cè)設(shè)置:由于備份中心的數(shù)據(jù)和主機(jī)房的數(shù)據(jù)一樣重要,都是網(wǎng)絡(luò)的核心數(shù)據(jù)。難免存在網(wǎng)絡(luò)黑客進(jìn)行信息竊取,信息破壞,這種數(shù)據(jù)災(zāi)難給
30、企業(yè)或?qū)W校帶來(lái)的損失不亞于天氣災(zāi)害,地質(zhì)災(zāi)害對(duì)數(shù)據(jù)造成的影響。本方案采用入侵檢測(cè)系統(tǒng)來(lái)保證備份中心的數(shù)據(jù)安全。入侵檢測(cè)系統(tǒng)是一種積極主動(dòng)的安全防護(hù)工具,提供了對(duì)內(nèi)部攻擊,外部攻擊和誤操作的實(shí)時(shí)防護(hù),在計(jì)算機(jī)網(wǎng)絡(luò)和系統(tǒng)受到危害之前進(jìn)行報(bào)警,攔截和響應(yīng)。該備份中心的入侵檢測(cè)系統(tǒng)采用 入侵檢測(cè)系統(tǒng)來(lái)保證備份中心的數(shù)據(jù)。鮒y;_X卂屩?B_磁盤(pán)陣列技術(shù)也稱RAID(Redundant Array of Independent Disk 獨(dú)立冗余磁盤(pán)陣列),該技術(shù)可以在一定程度上改善硬盤(pán)系統(tǒng)的可靠性與可用性。簡(jiǎn)單的磁盤(pán)陣列可以采用在服務(wù)器中加裝RAID卡和多個(gè)硬盤(pán)來(lái)實(shí)現(xiàn),更好的辦法是采用專用的磁盤(pán)陣列柜
31、。(2)雙機(jī)容錯(cuò)和集群雙機(jī)容錯(cuò)技術(shù)也成為雙機(jī)熱備份技術(shù),是國(guó)內(nèi)對(duì)于上級(jí)容錯(cuò)相關(guān)技術(shù)的俗稱。他的基本原理是在同一個(gè)計(jì)算機(jī)應(yīng)用軟件系統(tǒng)上采用兩個(gè)或兩個(gè)以上的主機(jī)/服務(wù)器硬件系統(tǒng)來(lái)支持。這樣,當(dāng)主要的主機(jī)/服務(wù)器發(fā)生故障時(shí),就通過(guò)相應(yīng)的技術(shù),由另外的主機(jī)/服務(wù)器自動(dòng)接管故障機(jī)所承擔(dān)的任務(wù)。宊_輪_5_巈a蹬'AEF_粰E?痍舎_鶔瀟颣惛瘮銣_!芊鰍J絖絖罝衺j丩a_Y鈻3剶俿I笏ih8醎漗韄 緃礯?_滳Z!w8jxt餀 bch_?枤ts<_泫猻L峑嗚I_O_v眺9 I&餩WLj5?Bx満蜫'/_U%_s坴L_夞V喬?綟_?掎aq漜 糳GFN嚊w摤y_妝 _d檶蟔?LR!
32、6Up?_鞰?_鮾c_A凈b綺/_聼-觾_?|F;>_煒蹙w錩_hP6郾_柎怸,_h鮒慱T_!p憖撢萞_p開(kāi)*倯?2_yw瀇A? _KbA赟 攷曽_f&棧C膔 捹竺価黝賥鄨膰唋k6擾_2膠F籒鸰$_逯_N_j貘_瞜宥_蝔尕 埛,d?%|抭6?睬庛靲_ 鮭!鶇_!器嚴(yán)哶蠃澞o 艤?猒揰咮_釯NL_%_ 喘儋綞Ea_RM! :跤淿驲?矎5?潉_謳-?鋉_刌*_奾W蠰|b-$_娾?鋴 氒 + 偒焷 t_ 袈 _ 朹匓 _0? 妯 Wi 僶 # 鶄憢岉粱絖 D 醛 9 A 篲 J 勪 d 釆州 ?w 鞢 寯 8?_ 徍 0? 搽 ; ?| 遀蜘跣故 N 廈 祝 _N! 邒 E, 焏 A?
33、 莀廋 ? 郬 _&? 繽 ?+ 摷蟊 F* 眉箇蚩荢暔 _U 羅 q 芲 ?_E 汝 h 堭 ? 匴 $hy/r 昣 | 穇 _(:_"L?=? 蘪 s Of_D 釂 _ 愁 Z_M. 繭 C 貜 s 駺堌 5 擾 _? 翸鏗媾 _Sq 螺嚿怢 拌 " 半 _ 猒 2 鏤耟劥 _ 祕(mì) _n 哶 EH 擺 & 俖 _ 氖 誣橈 % 盨 痏 n 嚿 s_?5H 囝 _ 浐箑睵烢 ! 箎膇 #d_ 蚠 !_ 趈 Y|( 箘 _ 丬 V 醔 :_ 覙匓 _ 蟔 C. 摐硪穕 #Wl_U_ 賍簽 _2.9 勦鯖 _56_ 幈吒 kw 8SjH 繹馘歐鐬 w /_ 竉
34、 A 解 u 獆霈 G:_ 灄涹 f? 尡 _ 糎鋉 _ 鎋 奈 ?; 忱 _M_fY0&w $ 鬬 醎 Tt 象慭 ? 若鋉 ?j _ 昪韠哊 竍膨 _ 躚翞 - 脾慕 _ C 騕 " 筃鴾岑虈 ?< 鏿 S 衉梆魛鵶瘽 _ 茺 _$?z 毫 _z 久 C 煝 7_>_2_! 占 ,?_ 裝 _ 達(dá)訨 n 腡 u+ 蘨 崘 y? 腳 _: 醽潲 H ? 寫(xiě)騤衍 ? 確 _ 捝椗齙 休 W 滆戈 A 繣 < 頺 B 瘸確 -r_Y 扄 %b_ 3 G 贓 > 蝒 _?yaoQ& 僟 nFL 綁 ? 箈撡 ? 蓉 _ 偵 I30;,(?D F_Q
35、? 跓 L 蜤垼 _ 噩 ? 戮屍業(yè)婁躶徧 B 斫 WG 葍 G_=u_3_ 璿 Bi?Tr 閣廮 3 啳 _ 縷 _y 竺湳 v2_7 魂淿鹿 ( 鼓悆 .s 句 _5t? 盿 g 鮐 #di 俖眳 誣澠蓢 _=E 餧 鋉 3? 癟 _ 嘐阥 _V_ 竷肅 _ 偸媙奯 3_ 衷 _ 閏 , 粻 H 篲 : 菉癐 _ 嚇?shù)箘_ ?bN_! 拪 ;? 揰 ?v ' 巣 _ 霅 D_b 愎竈楬 t 堒婩戦勾 _ 鉥烕 =_ 毾嗼 R5 簀徎垎襢 i0> 豕滉 _ 洛 J 影 71>2j 緔頓 _ 酟哖夈 K?_ 犢 H 刞鞐 $_ 刜 _ 戠 5 榢嵐衉 ? 釡閷甮 c_ 洿 _
36、io 趈 6 璤 K 慛贠 ivR 挱 ?$ 乗 _ 躉垘 v 萪 _> ? 褤 ,' 譥 l0Q7 偸 gU 樝揰 gbo? = 朌垝 _y 圅 L? 謨 _ 凘 ?yJ!"? 焯 9 鑰 M 堮鎀 V 達(dá) b_F3y 悸鬫 L 焈楅蘆楑 ?_ 擄芲扏片辜 z 髓疅蒚 ? 齙 ? 釙嶌 r"_! 膧 Le"" 挜 o _ 媉苧 _g 汳昑閚 _ 矤專 / 踎 _(u?9y_ 磃 Y 酃 LrC"?g# 紸謔醁 V 颻 " 綠跫圊 A 徭靵 6yX| 鯜 _ 盰綼啇 S 鶊衶 _ _ 刜 補(bǔ)觙剗 _ 頮 4 涑 _? 黖
37、 /D 蔥 ? 垴 _ 抖 d 懏 c_ ._ 焈誣刜 $?f 隰橛 A 淥 _< 蛫 _Bl _ 竡 % 踎 0Q 簾 玙瑁 z 嘷 _ 閭 3_y 揵 4_? 浙 G 恄 嶴訽 _ 寫(xiě) 籣 w ?_ 滬媻焐 _ 橐 _C? 騤懣 9_ 鱛 ? 蹾柣 J _ zJ 醄耞 !_ 訠 B7>DD_ 衺 8 禇 _i_ 穤 uw* 鵌鼵 ? 鈎 O 臺(tái) _! 饂 4 鵢鈅鈧 椒 : 瑋 鑏 忱 _ 鮕 _B 緒 2 龜 朹 :* 頮 L 嚾壧 飫 8 睲 Pi|?& 拮腡瞼肒 L _? 唲莾 I 刪簽鉥 _ 箾臮炡疓熝 _ 畀霚 _ 楊 ! 揎 mD_ 捿蒜騮 ?bF 姌 _b
38、 笏月 8B 捸蛡鱛 至 M6 燎 c 禵 _ 誣義諲 _tGQq 焣蔥 ? 劌噥蠢 : 咞 y 顂 _ _ 勑 k_ 9Bl 皹 v 秥棊鄺 _ 鬔紻埣 ?fl8q 忖 ? 隼 撉 _B_ 垻傌炬 Q?< 鉊 3 餕 _? 銿睦 R 籡 囤恄 ? 薋悕 B_ 麟 rA_ 橍 ? 跚 _ 紨 ( 歘 f 慶 _ 莢 q 贐 , 碩錩 怴 2 挬騵 _ 膘 歘 ?_? 糭 a 飻蕛 _? 僟 8 眽 = 澢 _ 蟼靺 _< 硾 _ 鵢萞赑 邵匁 + _ 裝鏸 匴樠 _TPz 靚 ;6 貓梍毖 ?b_J 潛 ? 嗔 _ 咉 MHfo 抰炂 _ 骭珀箹 _ 砡 岰 q 瀅 _+ 懌聴毓
39、g 限 #*?_o 誃軟 _ 亾駤镈 = 羺伋 _ 佒 O 凥 _ 鋪 M 卂 P 褽蜪 *? 珠檨 <_ 菋 _I 荔臑 _j 圅 /_wY 飖灇 _ 蔩 | 郠確灺泬獵狧襣 t_? 鐯 _ ?_fY 猞璤徬 A 技 _!6 egq 胏 哶 q 考 #Wz 肶麋 _sh#B_ 詭 _ 砷 l 隺皆涇嫳 0 飏 澄 7 貰 M 鋉 敡俢 40 Od U 爃 W 媣揰 _ _ $? 匵 _: 鹶 a 畛贄釻 Bf 柼確 _I/ 媅砜鴡 f 鋳咨 _, 鎢 ?RN 娂 _"T_I 洚 6_ 黖 ? 壼 _( 隷 Iq 頩 ? 苰別 _ 瀛 ? 翗鼿 7sR 鬫 ? 鏳 ;? 盒 _
40、 慱 ".45 豞 ,s% 絾 z: 薭毶礖 f_wE 蜔緮礤 L_ ( 粯 _ 抇 B 扻壺 b? 縖 3N?,_ 萴鹝癷遲毑 ?/_ ?e 魝絕鞫瑯顤旊 tfQ?_ 葛 _4 寛 _ 糦 ? 頦魠 _ /B?_i 晅 _ 墡撿 >I_oy_ <2_I"$ 墪 ? 捲淿灢凜 ?g 穣郭 9* 9'_ 孺 EN?_rpf 垅 difX 鱲 dy? 槓 S. 靎攬 _ 盓傕 ? 6 用 > _ 背鰭颻喔?jìng)F _I 謶 UF 聘 n 訄垟 ? 刣 _F_d 魳萠 h 莓逾檜撦 s_f; 扆 _ 媉 ?W 揰 _ 舔 騹嬃遘 wT & 綺 w? 裡
41、 _ 趶 0?_psR 遦牦勰仂 z< 嗀 ? 鋕 : 撡鶊 ?f ? 伲黌 My$o_ 藟靇捥 b 輓 #kZ?_? 檁 Oyj_ 供 9?3, 譜眨嗯 ? 榽 8_|9?4$ 袹舝 y 楱 d 麈昴 3 軟達(dá)俌 蘦 / 嬰 _ 蹱 X_ 椎蠼 w&X_ 線 Z 達(dá) b;n 屘 l? 蝞炬 R 輚慱選 _ 魨褯 ; 梱 o 漧 J9 聳 d 蜸汔 m 則迗樞譾韙 " 苓 w 檁潿 E* 漃 K_ kl(_ 抇溘 _?d 蒊 c 澼祃 ?J 墻 !, 糎囈 x 聲從 k 鬎刜 !|?jdu 蓽箓簕嵁 筰蝋蠒 ' 娞 F 蚲鍔 ?8 貼 $_ 袰 嵃 ;9#D?_
42、 鬖 3 猒盻嫵 H 鳺褐 ! 煜 $ 顛揆 U 禵杣 ?V 嬈 I6.z 舗 . ?_. 0zuum? 廾 _Wl 藜 v 驁鼉賍 _j 漜 9_ 媉 _7/_ 竣簐韏 欈扷 ? 痂 ?c_ 鉡鑏鉿 7lv 锨 F 崨 : 鲘 E 嫍 ,Y 紁 采 _? 洀 !|iu_ 媞 ? 閙鏜旊 ? 洫嘵櫩睛 _j 籟 j? 鱧醖騯 _Mj 菄柶 TYc 甠躃 ? 奊禕 _ 彖 > 雫 %7 朕 _ ? 極 _ 蒧承 鶉 : 苮 _ 拕 _ C_7 漵 Cq 跨 & 斀 Q6y 虪 oo_ 槒乭魙峑躵 芹甼 _( 卂 j ,_ 廮 聊淳豆實(shí)蟖 頴 _ _ 蒠 V8 焀 A 椝 _>
43、 職 痚 Q 嬎躿籣墡 _ 恄 R_ 瀲凴 a_ 虻 w# 袂諆 ?N 諢 < 梍 隲搮鼫崩 v 躤 QPv 枙躺 :+=Z?2? 鳦歘紾 塤蜬 _E ; 斝 (_ 盻 _ r 頮 _! 洱 ? 酬醗硝 _9%_ 磒 ? 莕糏 z*rK w_ 眣 h! 墣 $| 滾 2 鍝 A 脳 _ 詚揰軉 _ 堸葲 rA _&_ 縚 ?G 堌羅 ? 潙 z 顩威 _c_ 巁 D4 限阓 _ 苷畗 7_l 痧轁趗 廿 _b_y_ 璤箻立揚(yáng)疑 Z= 籣褳瞋 q 冪 z, 蠱 ?_ 盔 8 詸 C 澁 X_ 鈪 ?P ?o 鵓 #?c 鯊 KEEE 峁絩逅 mr 祐轤襙什 F/a, 銩眘媂 ?KY
44、%aQQ 蟺 c 押 cw 諂麬醵軬 魿 _ 滟孻 ?I 銂 LRO 筒豨 _?_ 輽 _ 暛 _ 盈 _ 煫抇 4 犕 <_ 鈅 Q 鞡 br 蟔 ?s 浹碀 _ 圮 _ 廕 ?5 憲鍁晏 e 訟 CV r 朩琸 _j_ 踷猴 = 鸰 ?_e? 鈞塽 _ hO_eh 蓉殟凷綮 _ 煩耐刪 A_ 峝塶胕 ? 桗侚藛 Pm 嘁 h 莋 Y 溌 d_?r_? 焫 4| 绬 ?Dm_RaW 闞爿 #Y6 e_I 俗 O 顎 H 戶 漳 :? 郷 +u 帎 _ 撠骭 E 稯詣戄 ?O 詹 "<_ 礥絈 ?_f 龜 c # 胈 Fy 畝譫 ?= 婩 I 鰛 ?_B 豼 -/ 馹莈
45、?C 巒錩蛄 ? 軾懾 sOn 議 J_ 颻 +g_ 濾 O 欽 裼顃 ? 璣糈 Ve? 脳篾 _M_? 摦糺 i 踗 ?_ 魖縶栟 9mE 噽 _"/ 勜鯀篾 _ 赭捔乻 ?_BX?/ 區(qū)徐綴 k 僟撧 _ 晄藝 ?Mr_t 裙 O4_?>_C9? 緓 TO ;?> 睚 ?g 圖 ' 趜 d 奠 >l 鰢魦 5Dv 脧 z_& 嫼 _ 描 _ 祍域蓮 ? 爺貸 ? 怒鄱胄奉 =_1 啾 ! 鉋筥 躅 e 颸曛剗 _ 尜?gòu)y k 贇潟嗁 jY 絖癲謕峖 d, 絖 z5? 商矂 e>_,? 轄淦錫灋川 _ 嚁蜁 ?_ 犱 oMrO 亃闡耣 8 窘
46、OL 呴嬞痤麵 #_+ 晉耝 _>5 y i 挐 7 瑱 _: 釟 u 祕(mì)飢 Z 洼酈 + 轤 | 鐐 5_> 螱尵 _? 睎摉 邵柯 $ 縛 Z? u 曧 /t20 _E 角歉揁鞏 !?_?L 潠駠道巈謎嗽杴 ' 瓘祮詖 2 厫躺 X 婱叆 _ 坉乢 K 嚂禵 ZE 礯 0 胔婭 y 轇 "$S 椸 rG 鯏縑道 7 礯 .-_ 鼶 ? 黌屰 ?0d 軠 U_ 宊梍鰏 "B 粿 掫 zC 斿尫繽懤 ? 嗻慱 A 躝 T> 哻鸰 *5 礍 = 蠢 ?V 堊夒 _ 萓 Z_M 暘 t&Z 理屜 _* 俧 Y 滍 xR.(gb 洡 u?_ 豾
47、< 喤 ?_CH&s ? 礍 ?_2(_ 掶 - 漥 _ R 濱腳 _ 籍 ? 鴂耛 _ 髯摎 堖 _ 燺 _N 擾蒬 I1_ 摔 _ 雰 _a 蜿 P 褸 H&S 鰿 z 俋 _4?N_? 祁馮揰 B_F 跓瀼餒 < 觡伣 _ 脊 倯 _& 狀 xR! 駭譾 i? 鸰 8t 蘄 _D 鬫翬 ? 欻 z?Jkx?p? 晝 _3 勷頃 N?z 鵠 er 譖 8-8 俖鯡 ;p 梃蟜郷旤 ?G' 婢櫘隓 _IEND 瓸 倉(cāng) sectd ltrsectlinex0headery851footery992colsx425endnheresectlinegri
48、d312sectspecifylsftnbj rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 Inrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 thisrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0db
49、chaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 sectionrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 yourtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13
50、lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 willrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 hearrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 r
51、tlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 artlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 shortrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 a
52、f0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 recordedrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 passagertlchfcs1 af0 ltrchfcs0 f0insrsid7939999charrsid1982246 .rtlchfcs1 af0 ltrc
53、hfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 Thertlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 passagertlchfcs1 af0 ltrchfcs0
54、f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 isrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 printedrtlchfcs1 af0 ltrchfcs0 f0insrs
55、id7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 inrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 thertlchfcs1 af0 ltrchfcs0 f0insrsid7939999 h
56、ichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 testrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0dbchaf13lochf0 paperrtlchfcs1 af0 ltrchfcs0 f0insrsid7939999charrsid1982246 lochaf0hichaf0dbchf13 , rtlchfcs1 af0 ltrchfcs0 f0insrsid7939999 hichaf0dbchaf13lochf0 rtlchfcs1 af0 ltrchfcs0 if0insrsid7939999charrsid1982246 hichaf0 dbchaf13lochf0 butrtlchfc
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2022年大二學(xué)年總結(jié)自我鑒定5篇
- 【模塊二名篇名句默寫(xiě)】【高分攻略】高考語(yǔ)文一輪復(fù)習(xí)學(xué)案
- 石河子大學(xué)《數(shù)字信號(hào)處理》2022-2023學(xué)年第一學(xué)期期末試卷
- 石河子大學(xué)《口腔解剖生理學(xué)二》2021-2022學(xué)年第一學(xué)期期末試卷
- 石河子大學(xué)《工程項(xiàng)目管理》2021-2022學(xué)年第一學(xué)期期末試卷
- 石河子大學(xué)《波斯文學(xué)史》2023-2024學(xué)年第一學(xué)期期末試卷
- 沈陽(yáng)理工大學(xué)《數(shù)學(xué)物理方法》2022-2023學(xué)年第一學(xué)期期末試卷
- 沈陽(yáng)理工大學(xué)《英國(guó)文學(xué)史》2022-2023學(xué)年第一學(xué)期期末試卷
- 《論語(yǔ)》導(dǎo)讀(2021下)學(xué)習(xí)通超星期末考試答案章節(jié)答案2024年
- 沈陽(yáng)理工大學(xué)《電子技術(shù)基礎(chǔ)》2021-2022學(xué)年期末試卷
- 《分散系》說(shuō)課課件
- 小升初數(shù)學(xué)蘇州外國(guó)語(yǔ)學(xué)校數(shù)學(xué)模擬試卷答案版蘇教版精
- 抗痙攣體位專題知識(shí)講座
- 19規(guī)則值班水手英語(yǔ)聽(tīng)力與會(huì)話
- 廣東省3證書(shū)高職高考語(yǔ)文試卷和答案
- 茶多酚性質(zhì)功效及應(yīng)用
- 安全文明作業(yè)方案及措施
- 平行四邊形的面積學(xué)習(xí)單
- 境外項(xiàng)目緊急撤離方案
- 愛(ài)普化工新材料建設(shè)項(xiàng)目環(huán)境影響報(bào)告書(shū)
- 函數(shù)的零點(diǎn)與方程的解(說(shuō)課稿)
評(píng)論
0/150
提交評(píng)論