云計(jì)算資源管理平臺(tái)概要設(shè)計(jì)說(shuō)明書(shū)-v11_第1頁(yè)
云計(jì)算資源管理平臺(tái)概要設(shè)計(jì)說(shuō)明書(shū)-v11_第2頁(yè)
云計(jì)算資源管理平臺(tái)概要設(shè)計(jì)說(shuō)明書(shū)-v11_第3頁(yè)
云計(jì)算資源管理平臺(tái)概要設(shè)計(jì)說(shuō)明書(shū)-v11_第4頁(yè)
云計(jì)算資源管理平臺(tái)概要設(shè)計(jì)說(shuō)明書(shū)-v11_第5頁(yè)
已閱讀5頁(yè),還剩150頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

中國(guó)銀聯(lián)電子支付研究院

云計(jì)算資源管理平臺(tái)項(xiàng)目

概要設(shè)計(jì)說(shuō)明書(shū)

第0.1版

中國(guó)銀聯(lián)電子支付研究院

二。一二年一月六日

中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

版本控制信息

版本日期擬稿和修改說(shuō)明

0.012012-1-18章津楠大綱初稿

徐磊、章津楠、

0.022012-2-10修訂大綱

郝炎峰

0.032012-2-16祖立軍完成一、二、三章和附錄A初稿

0.042012-2-16徐磊完成四、六、七、八章初稿

0.052012-2-16章津楠完成第五、九、卜章初稿

0.062012-2-16章津楠完成第四章部署架構(gòu)初稿

0.072012-2-16郝炎峰完成第六章用戶接口和附錄B初稿

章津楠、徐磊、

0.082012-2-17補(bǔ)充內(nèi)部接口,修改邏輯架構(gòu),部署架構(gòu)

郝炎峰

章津楠、徐磊、修改邏輯架構(gòu)、技術(shù)架構(gòu),完善各部分的

0.12012-2-22

鄭治國(guó)文字描述

0.112012-2-29徐磊、章津楠修改技術(shù)架構(gòu),部署架構(gòu)

0.112012-3-1章津楠修改運(yùn)行設(shè)計(jì)

中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

本文檔中的所有內(nèi)容為中國(guó)銀聯(lián)股份有限公司的機(jī)密和專(zhuān)屬所有。未經(jīng)中國(guó)銀聯(lián)股份有限公

司的明確書(shū)面許可,任何組織或個(gè)人不得以任何目的、任何形式及任何手段復(fù)制或傳播本文

檔部分或全部?jī)?nèi)容。

11

中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

目錄

1引言...............................................................................1

1.1編寫(xiě)目的......................................................................1

1.2項(xiàng)目背景......................................................................1

1.3術(shù)語(yǔ)定義.....................................................................2

1.4參考資料.....................................................................2

2平臺(tái)建設(shè)需求......................................................................3

2.1需求綜述.....................................................................3

2.1.1業(yè)務(wù)需求簡(jiǎn)述.............................................................3

2.1.2技術(shù)需求簡(jiǎn)述.............................................................4

2.1.3接口需求簡(jiǎn)述.............................................................4

2.2平臺(tái)建設(shè)的必要性............................................................4

2.3平臺(tái)建設(shè)的可行性............................................................5

3平臺(tái)建設(shè)目標(biāo)與原則...............................................................5

3.1總體目標(biāo).....................................................................5

3.2基本原則.....................................................................6

3.2.1業(yè)務(wù)原則..................................................................6

3.2.2技術(shù)原則.................................................................6

3.3建設(shè)分階段說(shuō)明...............................................................6

4平臺(tái)總體設(shè)計(jì)......................................................................7

4.1邏輯架構(gòu)......................................................................7

4.2實(shí)現(xiàn)架構(gòu).....................................................................9

4.2.1整體技術(shù)架構(gòu).............................................................9

4.2.2PrimetonPTP平臺(tái)介紹....................................................12

4.2.3PrimetonBPS產(chǎn)品介紹....................................................14

4.2.4PrimetonPCCP平臺(tái)架構(gòu)...................................................18

4.3部署架構(gòu).....................................................................18

4.3.1部署構(gòu)件.................................................................18

4.3.2部署架構(gòu)................................................................19

4.4非功能性需求解決方案........................................................24

4.4.1高可用...................................................................24

4.4.2可伸縮..................................................................26

4.4.3高性能...................................................................27

4.4.4大規(guī)模...................................................................27

4.4.5易用性...................................................................27

5運(yùn)行設(shè)計(jì).........................................................................28

5.1.1管理員初始化資源池......................................................28

5.1.2用戶申請(qǐng)?zhí)摂M資源........................................................29

5.1.3用戶變更虛擬資源........................................................29

5.1.4備份、恢復(fù)虛擬機(jī)........................................................30

5.1.5鏡像、模板管理..........................................................31

5.1.6監(jiān)控?cái)?shù)據(jù)推送............................................................31

5.1.7更新管理................................................................32

5.1.8智能擴(kuò)容................................................................33

5.1.9智能伸縮................................................................33

iii

中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

5.1.10智能遷移...............................................................34

5.1.11自動(dòng)化交付..............................................................34

5.1.12目錄統(tǒng)一授權(quán)............................................................35

5.1.13全方位的審計(jì)...........................................................36

5.1.14安全訪問(wèn)機(jī)制...........................................................36

5.1.15可信任云資源管理.......................................................37

5.1.16安全組機(jī)制.............................................................37

5.1.17資源調(diào)度...............................................................38

5.1.18資源管理平臺(tái)部署和升級(jí).................................................39

5.1.19系統(tǒng)在線驗(yàn)證支撐.......................................................41

6接口設(shè)計(jì).........................................................................41

6.1用戶接口.....................................................................41

6.2外部接口....................................................................45

6.2.1接入運(yùn)維監(jiān)控系統(tǒng)........................................................45

6.3內(nèi)部接口....................................................................46

7模型設(shè)計(jì).........................................................................48

7.1核心領(lǐng)域模型................................................................48

7.2實(shí)現(xiàn)對(duì)象模型設(shè)計(jì)............................................................48

7.2.1虛擬資源組管理..........................................................48

7.2.2申請(qǐng)單管理..............................................................66

7.2.3系統(tǒng)管理.................................................................68

7.2.4資源池管理..............................................................78

8系統(tǒng)數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì).................................................................87

8.1邏輯結(jié)構(gòu)....................................................................87

8.1.1數(shù)據(jù)庫(kù)實(shí)體關(guān)系圖........................................................87

8.1.2數(shù)據(jù)庫(kù)對(duì)象清單..........................................................88

8.1.3數(shù)據(jù)庫(kù)結(jié)構(gòu)設(shè)計(jì)..........................................................89

8.2物理結(jié)構(gòu)...................................................................102

8.2.1數(shù)據(jù)庫(kù)規(guī)劃.............................................................102

8.2.2表空間規(guī)劃.............................................................102

8.2.3用戶規(guī)劃................................................................102

9系統(tǒng)出錯(cuò)處理....................................................................102

10系統(tǒng)維護(hù)設(shè)計(jì)...................................................................104

附錄A功能描述...................................................................104

資產(chǎn)管理......................................................................104

資源管理......................................................................105

監(jiān)控管理......................................................................108

服務(wù)管理......................................................................109

系統(tǒng)管理......................................................................110

安全管理......................................................................112

附錄B功能界面...................................................................113

普通用戶......................................................................113

管理員.........................................................................126

IV

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

1引言

1.1編寫(xiě)目的

本文檔根據(jù)中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)需求與建設(shè)目標(biāo),采用先進(jìn)的軟件設(shè)計(jì)方

法,對(duì)中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)系統(tǒng)進(jìn)行了概要描述,包括了平臺(tái)總體架構(gòu)、業(yè)務(wù)流程

描述、接口設(shè)計(jì)、運(yùn)行設(shè)計(jì)、系統(tǒng)數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì)、系統(tǒng)出錯(cuò)處理和系統(tǒng)維護(hù)設(shè)計(jì)等。

本文檔的使用對(duì)象為參加該項(xiàng)目建設(shè)的業(yè)務(wù)人員及技術(shù)人員。

1.2項(xiàng)目背景

日益發(fā)展的電子支付行業(yè),大量的業(yè)務(wù)處理需求對(duì)后臺(tái)業(yè)務(wù)處理系統(tǒng)的要求越來(lái)越高,

大并發(fā)量、大數(shù)據(jù)量、業(yè)務(wù)增長(zhǎng)迅速等特點(diǎn)對(duì)后臺(tái)業(yè)務(wù)處理系統(tǒng)提出了嚴(yán)格的要求。對(duì)計(jì)算

資源和存儲(chǔ)資源使用要求不斷提高,對(duì)應(yīng)用系統(tǒng)和服務(wù)器運(yùn)行管理等方面的要求也面臨挑

戰(zhàn)。

云計(jì)算是以虛擬化技術(shù)為基礎(chǔ)、以按需供給為商業(yè)模式,具備彈性擴(kuò)展、動(dòng)態(tài)分配和資

源共享等特點(diǎn)的新型網(wǎng)絡(luò)化計(jì)算模式。在云計(jì)算模式下,軟件、硬件、平臺(tái)等IT資源將作

為基礎(chǔ)設(shè)施,以服務(wù)的方式提供給使用者。作為一種新興技術(shù)和商業(yè)模式,云計(jì)算將加速信

息產(chǎn)業(yè)和信息基礎(chǔ)設(shè)施的服務(wù)化進(jìn)程,催生大量新型互聯(lián)網(wǎng)信息服務(wù),帶動(dòng)信息產(chǎn)業(yè)格局的

整體變革。其中,彈性擴(kuò)展意味著動(dòng)態(tài)增加資源將成為一件容易的事情,通過(guò)虛擬化技術(shù),

所有的計(jì)算資源對(duì)外提供同樣的接口服務(wù),部署新的服務(wù)器到資源池中也就只是添加一個(gè)新

的同樣的節(jié)點(diǎn)而已,后期維護(hù)也更加簡(jiǎn)單;動(dòng)態(tài)分配意味著計(jì)算資源和存儲(chǔ)資源可以隨意分

配,某些應(yīng)用系統(tǒng)在某些時(shí)段可能需要更多的計(jì)算資源,就可以給它分配足夠的資源,使用

完后,進(jìn)行回收,以便在提供給其他應(yīng)用系統(tǒng),保證資源被充分利用;資源共享意味著所有

的資源將融合在一起,共同對(duì)外界提供服務(wù),用戶不必關(guān)心應(yīng)用系統(tǒng)具體的位置,各個(gè)應(yīng)用

系統(tǒng)之間的資源也可以相互使用,真正達(dá)到資源的有效利用。

在基于云計(jì)算技術(shù)的系統(tǒng)中,一切皆是資源,意味著一切都可以對(duì)外提供服務(wù),中國(guó)銀

聯(lián)的電子支付能力也就可以作為一項(xiàng)服務(wù)提供給其他企業(yè),以共同推進(jìn)電子支付的發(fā)展。因

此中國(guó)銀聯(lián)提出了基于云計(jì)算的電子支付和電子商務(wù)綜合服務(wù)平臺(tái)建設(shè)的宏偉藍(lán)圖。云計(jì)算

資源管理平臺(tái)作為該平臺(tái)建設(shè)的重要組成部分,將實(shí)現(xiàn)動(dòng)態(tài)根據(jù)應(yīng)用的需求分配計(jì)算資源、

存儲(chǔ)資源和網(wǎng)絡(luò)帶寬,實(shí)現(xiàn)資源的節(jié)約,充分利用有限的資源;隨著業(yè)務(wù)的發(fā)展,也能夠方

便快捷地動(dòng)態(tài)添加計(jì)算資源和存儲(chǔ)資源,同時(shí)保證在計(jì)劃內(nèi)、計(jì)劃外宕機(jī)時(shí),系統(tǒng)能夠迅速

I

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

恢復(fù),提高系統(tǒng)的可靠性和可用性。

1.3術(shù)語(yǔ)定義

本文檔中使用到的專(zhuān)門(mén)術(shù)語(yǔ)及其定義如下:

云計(jì)算:是一種動(dòng)態(tài)的易擴(kuò)展的且通常是通過(guò)互聯(lián)網(wǎng)提供虛擬化的資源計(jì)算方式,用戶

不需要了解云計(jì)算內(nèi)部的細(xì)節(jié)。云計(jì)算包括基礎(chǔ)設(shè)施即服務(wù)(laaS)、平臺(tái)即服務(wù)(PaaS)和軟

件即服務(wù)(SaaS)以及其他依賴于互聯(lián)網(wǎng)滿足客戶計(jì)算需求的技術(shù)趨勢(shì)。

物理機(jī):相對(duì)于虛擬機(jī)的概念,在本系統(tǒng)中表示物理存在的、實(shí)體的服務(wù)器,具體包括

X86服務(wù)器、IBM小型機(jī)等。

虛擬機(jī):利用虛擬化技術(shù)在物理機(jī)上虛擬出來(lái)的、邏輯上的服務(wù)器,通常一臺(tái)物理機(jī)可

以虛擬出一臺(tái)或多臺(tái)虛擬機(jī)。本系統(tǒng)中的虛擬機(jī)包括IBM虛擬機(jī)、X86虛擬機(jī)。

虛擬資源組:由不同數(shù)量的、異構(gòu)的虛擬機(jī)所組成的便于統(tǒng)一管理的邏輯單元。一個(gè)虛

擬資源組中所有的虛擬機(jī)具有相同的生命周期,一個(gè)用戶可以擁有多個(gè)虛擬資源組。

資源池:由多種物理資源所組成的資源集合,在本系統(tǒng)中包括模板資源、IP地址資源、

存儲(chǔ)資源和物理機(jī)資源。

存儲(chǔ)池:由多種異構(gòu)的存儲(chǔ)系統(tǒng)組成的存儲(chǔ)資源集合,由存儲(chǔ)設(shè)備、卷等存儲(chǔ)管理單元

組成。

Web服務(wù):是一種基于XML的標(biāo)準(zhǔn)化的服務(wù)組件,是SOA架構(gòu)的底層支撐技術(shù)之一。

JMS:即Java消息服務(wù)(JavaMessageService)應(yīng)用程序接口,是一個(gè)Java平臺(tái)中關(guān)

于面向消息中間件(MOM)的API,用于在兩個(gè)應(yīng)用程序之間,或分布式系統(tǒng)中發(fā)送消息,

進(jìn)行異步通信。Java消息服務(wù)是一個(gè)與具體平臺(tái)無(wú)關(guān)的API,絕大多數(shù)MOM提供商都對(duì)JMS

提供支持。

1.4參考資料

《國(guó)家示范云計(jì)算項(xiàng)目2012年度開(kāi)發(fā)服務(wù)一期采購(gòu)項(xiàng)目招標(biāo)文件》

《NISTCloudComputingReferenceArchitecture^

《DMTFOpenVirtualizationFormatSpecification^

《LibvirtApplicationDevelopmentGuide》

《XenUsers'Manual》

2

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

2平臺(tái)建設(shè)需求

2.1需求綜述

2.1.1業(yè)務(wù)需求簡(jiǎn)述

通過(guò)理論研究以及分析業(yè)內(nèi)主要廠商的云計(jì)算資源管理平臺(tái)相關(guān)產(chǎn)品,并在此基礎(chǔ)上著

眼于服務(wù)銀聯(lián)相關(guān)業(yè)務(wù),制定了銀聯(lián)云計(jì)算資源管理平臺(tái)業(yè)務(wù)功能需求,具體如下圖所示。

自動(dòng)化引擎自動(dòng)化交付

【計(jì)量管理;各簟管理

交忖1務(wù)足中交付1例?]

[at程引整/高可用性1

交付祟5眼任務(wù)并行度]:能源管理

iI?

監(jiān)

控監(jiān)控視圖監(jiān)控?cái)?shù)據(jù)監(jiān)控日志

狀態(tài)集管理閾值管理預(yù)警

管理推送

項(xiàng)日

JAqent^igI

孥控制

AgentJgtR1]平臺(tái)鏈接

源.網(wǎng)絡(luò)曾埋

1----V______存確管厘、

管1基于模板"網(wǎng)落山容]

網(wǎng)絡(luò)10RFIx颼z勰那措干豁器:j

理和1/0坳》J:

1配置網(wǎng)絡(luò)JI健M哲理)組管理J管理和器

ipga)匕里班分虛擬機(jī)存寓::堆護(hù)掇式

[網(wǎng)器UL-皿j計(jì)功能也對(duì)隹M颶步JI叫學(xué)力婆茁土卜、

;虛擬機(jī)管理[創(chuàng)初副府?dāng)M機(jī)][啟即高贏玩][gffi/恢藁麗I[tiig扁S品啕[贏族曜][fgUtfVgg][虛擬(后格]

!資產(chǎn)目錄管理[38M看W][眥];:資產(chǎn)編排I;資產(chǎn)定位

資產(chǎn)定位

[資源發(fā)現(xiàn)[][主[現(xiàn)][存;;現(xiàn)[[寸杷).喇發(fā)現(xiàn))辰庫(kù)發(fā)可[應(yīng)用發(fā)現(xiàn)][)[嗨['發(fā)現(xiàn)][)I

資源發(fā)現(xiàn)

其中,將銀聯(lián)云計(jì)算資源管理平臺(tái)業(yè)務(wù)功能劃分為資源管理、資產(chǎn)管理、監(jiān)控、服務(wù)管

理、系統(tǒng)管理和安全管理共6大類(lèi)功能。

1.資產(chǎn)管理:包括了資產(chǎn)目錄管理、資源發(fā)現(xiàn)、資產(chǎn)編排和資產(chǎn)定位共4個(gè)子功能

模塊。

2.資源管理:包括了實(shí)體機(jī)管理、存儲(chǔ)管理、網(wǎng)絡(luò)管理、虛擬機(jī)管理、Agent管

理、資源組管理和遠(yuǎn)程控制共7個(gè)子功能模塊。

3.監(jiān)控:包括了健康狀況監(jiān)控、性能狀況監(jiān)控、監(jiān)控項(xiàng)管理、監(jiān)控視圖管理、狀態(tài)

集管理、閾值管理、預(yù)警、監(jiān)控?cái)?shù)據(jù)推送和監(jiān)控日志管理共9個(gè)子功能。

4.服務(wù)管理:包括了自動(dòng)化引擎、自動(dòng)化交付、計(jì)量管理、服務(wù)目錄、服務(wù)級(jí)別管

理、智能遷移、智能伸縮、智能擴(kuò)容、容量管理、能源管理、流程引擎和高可用

性共12個(gè)子功能模塊。

5.系統(tǒng)管理:包括了更新管理、用戶管理、兼容性檢查、問(wèn)題管理、報(bào)表管理、日

志管理、事件管理和鏡像管理共8個(gè)子功能模塊。

6.安全管理:包括了用戶授權(quán)、用戶審核、證書(shū)管理、訪問(wèn)管理和目錄管理共5個(gè)

3

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

子功能模塊。

2.1.2技術(shù)需求簡(jiǎn)述

本平臺(tái)的主要技術(shù)需求包括:

?規(guī)模:支持3000臺(tái)異構(gòu)物理服務(wù)器、300T異構(gòu)存儲(chǔ)和大容量復(fù)雜云網(wǎng)絡(luò)的統(tǒng)一

管理;

?資源池化:將各種服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)資源通過(guò)虛擬化技術(shù)進(jìn)行統(tǒng)一資源池化,以

便像電力一樣按需供給,其中服務(wù)器需支持IBM-P系列小型服務(wù)器和X86架構(gòu)服

務(wù)器;

?動(dòng)態(tài)擴(kuò)展:支持根據(jù)業(yè)務(wù)實(shí)際運(yùn)行狀態(tài),動(dòng)態(tài)擴(kuò)展伸縮其所用IT資源:

?數(shù)據(jù)同步:具備平臺(tái)運(yùn)行記錄數(shù)據(jù)與實(shí)際運(yùn)行環(huán)境同步功能;

?靈活配置:在業(yè)務(wù)流程、資產(chǎn)模式和運(yùn)維方案等方面具備高可操作性的自定義式的

定制化功能;

?可靠:確保平臺(tái)內(nèi)業(yè)務(wù)在計(jì)劃內(nèi)外宕機(jī)時(shí),提供滿足服務(wù)要求的業(yè)務(wù)連續(xù)性以及平

臺(tái)自身具備7*24小時(shí)不間斷服務(wù)能力:

?安全:具備抵抗各種刻意或非刻意攻擊的能力等;

?二次開(kāi)發(fā):提供規(guī)范化的API庫(kù),便于二次升級(jí)開(kāi)發(fā);

?用戶權(quán)限:靈活的用戶管理和權(quán)限控制。

2.1.3接口需求簡(jiǎn)述

銀聯(lián)云計(jì)算資源管理平臺(tái)的對(duì)外接口需求從形式上分為三類(lèi):人機(jī)交互接口、外部系統(tǒng)

服務(wù)調(diào)用接口以及數(shù)據(jù)交互接口。

1.人機(jī)交互接口向本平臺(tái)使用者提供界面友好的操作管理界面,以提供云計(jì)算資源管

理服務(wù)。其中,不同用戶可依據(jù)定制的不同用戶策略獲得相應(yīng)的服務(wù)權(quán)限。

2.平臺(tái)提供豐富的服務(wù)調(diào)用接口,其它系統(tǒng)可通過(guò)這些接口進(jìn)行服務(wù)調(diào)用,例如外部

大型監(jiān)控系統(tǒng)可調(diào)用本接口提供監(jiān)控?cái)?shù)據(jù)推送功能。

3.平臺(tái)的數(shù)據(jù)交互接口主要用于接收數(shù)據(jù)總線中傳遞給本平臺(tái)的數(shù)據(jù),例如外部數(shù)據(jù)

中心管理平臺(tái)可通過(guò)本接口向本平臺(tái)傳送相關(guān)數(shù)據(jù),以便由本平臺(tái)統(tǒng)一管理。

2.2平臺(tái)建設(shè)的必要性

為履行歷史使命和社會(huì)責(zé)任,實(shí)現(xiàn)銀聯(lián)云計(jì)算發(fā)展戰(zhàn)略,應(yīng)對(duì)跨國(guó)公司競(jìng)爭(zhēng)和新興支付

4

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

技術(shù)、支付渠道的挑戰(zhàn),鞏固和強(qiáng)化銀聯(lián)跨行轉(zhuǎn)接地位。銀聯(lián)必須進(jìn)一步增強(qiáng)業(yè)務(wù)服務(wù)能力,

滿足國(guó)內(nèi)國(guó)際市場(chǎng)、傳統(tǒng)業(yè)務(wù)和創(chuàng)新業(yè)務(wù)需要,滿足不同主體個(gè)性需求,同時(shí)要體現(xiàn)多應(yīng)用、

綜合服務(wù)的整合競(jìng)爭(zhēng)力。在技術(shù)上既要實(shí)現(xiàn)安全、穩(wěn)定、高效運(yùn)行,又要實(shí)現(xiàn)靈活性、擴(kuò)展

性。

因此,銀聯(lián)有必要以銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)為抓手,揚(yáng)長(zhǎng)補(bǔ)短,利用獨(dú)特資源優(yōu)

勢(shì),采用整合服務(wù)資源戰(zhàn)略,整合銀聯(lián)內(nèi)外服務(wù)時(shí)所涉IT資源,形成銀聯(lián)特色的IT資源服

務(wù)模式;構(gòu)建“IT資源整合共享,運(yùn)營(yíng)管理統(tǒng)一,服務(wù)便捷靈活,系統(tǒng)安全可靠”為目標(biāo)

的銀聯(lián)云計(jì)算資源管理平臺(tái),以徹底解決目前面臨的系列問(wèn)題。以此實(shí)現(xiàn)依托云系統(tǒng)建設(shè)大

步提升銀聯(lián)服務(wù)能力的目標(biāo)。

2.3平臺(tái)建設(shè)的可行性

業(yè)務(wù)方面,目前銀聯(lián)已經(jīng)在多種渠道的收單接入業(yè)務(wù)、國(guó)際化業(yè)務(wù)、風(fēng)險(xiǎn)管理、數(shù)據(jù)統(tǒng)

計(jì)分析、特色卡產(chǎn)品、商戶和持卡人服務(wù)等方面積累了一定的經(jīng)驗(yàn)。經(jīng)過(guò)這些年的業(yè)務(wù)積累,

銀聯(lián)完全有能力實(shí)現(xiàn)支持銀聯(lián)現(xiàn)有業(yè)務(wù)云遷移和創(chuàng)新云業(yè)務(wù)運(yùn)營(yíng)服務(wù)的云計(jì)算資源管理平

臺(tái)。

技術(shù)方面,目前銀聯(lián)已建成了以全國(guó)銀行卡信息交換系統(tǒng)為核心,以銀行卡風(fēng)險(xiǎn)管理控

制系統(tǒng)、公共支付平臺(tái)、各類(lèi)增值業(yè)務(wù)平臺(tái)等外圍系統(tǒng)為支撐,以建設(shè)同城數(shù)據(jù)備份系統(tǒng)和

異地災(zāi)備系統(tǒng)為保障的開(kāi)放式技術(shù)體系架構(gòu)。同時(shí),銀聯(lián)也在近期通過(guò)了CMMI5認(rèn)證評(píng)估。

在多年的技術(shù)研發(fā)積累中,銀聯(lián)具備了云計(jì)算資源管理平臺(tái)研發(fā)的技術(shù)儲(chǔ)備以及相關(guān)經(jīng)驗(yàn)。

市場(chǎng)方面,根據(jù)市場(chǎng)向著集中化、規(guī)?;?、專(zhuān)業(yè)化方向發(fā)展的趨勢(shì),未來(lái)將有眾多銀行

存在將收單處理、風(fēng)險(xiǎn)管理、統(tǒng)計(jì)分析、商戶管理服務(wù)等非核心業(yè)務(wù)外包的需求;第三方收

單和發(fā)卡機(jī)構(gòu)也迫切希望加入銀聯(lián)網(wǎng)絡(luò)開(kāi)展業(yè)務(wù);同時(shí)隨著用卡頻率提升,眾多商戶和持卡

人也存在利用交易數(shù)據(jù)進(jìn)行數(shù)據(jù)挖掘和財(cái)務(wù)分析等需求。加之銀聯(lián)提供的綜合服務(wù)不以贏利

為目的,將大幅度降低用戶成本,從而吸引各類(lèi)用戶使用,銀聯(lián)云計(jì)算資源管理平臺(tái)具有廣

闊的應(yīng)用前景,從而推動(dòng)本平臺(tái)建設(shè)發(fā)展。

3平臺(tái)建設(shè)目標(biāo)與原則

3.1總體目標(biāo)

云計(jì)算資源管理平臺(tái)的目標(biāo)是將數(shù)據(jù)中心的服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)設(shè)備集中統(tǒng)一管理,通

過(guò)模版配置和動(dòng)態(tài)調(diào)整等功能為用戶提供整合的、高可用性的、可快速部署使用的IT基礎(chǔ)

5

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

設(shè)施。通過(guò)簡(jiǎn)單的用戶界面實(shí)現(xiàn)對(duì)3000臺(tái)以上服務(wù)器、300T存儲(chǔ)、5000個(gè)并發(fā)應(yīng)用實(shí)例

或服務(wù)實(shí)例等云計(jì)算資源的動(dòng)態(tài)分配、調(diào)整。

在異構(gòu)資源整合方面,整合IBM小型機(jī)和X86架構(gòu)服務(wù)器形成統(tǒng)一的服務(wù)器資源池,

整合各類(lèi)型存儲(chǔ)設(shè)備形成統(tǒng)一的分層存儲(chǔ)資源池,整合各類(lèi)型網(wǎng)絡(luò)設(shè)備形成統(tǒng)一的網(wǎng)絡(luò)資源

池,以達(dá)到“充分利用企業(yè)中現(xiàn)有資源”的銀聯(lián)云計(jì)算戰(zhàn)略目標(biāo)。

在資源服務(wù)提供方面,結(jié)合國(guó)內(nèi)外各種云計(jì)算資源管理平臺(tái)特點(diǎn),以資源服務(wù)為導(dǎo)向,

向用戶提供多種類(lèi)型的資源服務(wù)。并逐步探索,爭(zhēng)取實(shí)現(xiàn)與企業(yè)中原有IT運(yùn)維系統(tǒng)充分結(jié)

合,使IT運(yùn)維系統(tǒng)向云運(yùn)維無(wú)縫過(guò)度。

在平臺(tái)智能運(yùn)營(yíng)方面,以自動(dòng)化的方式提供資源服務(wù),減少傳統(tǒng)IT運(yùn)維中的人力成本,

并加快資源交付速度。同時(shí),具備靈活的流程制定功能,以符合企業(yè)運(yùn)維的各種需求。平臺(tái)

同時(shí)支持全方位的監(jiān)控功能,并依據(jù)事先設(shè)置的策略智能處理相關(guān)異常。

3.2基本原則

3.2.1業(yè)務(wù)原則

銀聯(lián)云計(jì)算資源管理平臺(tái)的基本原則是緊緊把銀聯(lián)云1T基礎(chǔ)設(shè)施服務(wù)提供者的角色定

位,整合異構(gòu)IT資源為銀聯(lián)業(yè)務(wù)開(kāi)發(fā)人員、銀聯(lián)業(yè)務(wù)部署運(yùn)維人員提供方便、快捷的服務(wù)。

為各種IT基礎(chǔ)設(shè)施服務(wù)提供基礎(chǔ)性的一站式全方位交付解決方案,包括服務(wù)器、存儲(chǔ)、網(wǎng)

絡(luò)、監(jiān)控、軟件部署等服務(wù)。

3.2.2技術(shù)原則

在銀聯(lián)云計(jì)算資源管理平臺(tái)的規(guī)劃和實(shí)施過(guò)程中,應(yīng)遵循以下技術(shù)基本原則:一是堅(jiān)持

服從銀聯(lián)云戰(zhàn)略發(fā)展、業(yè)務(wù)服務(wù)需求的原則。二是堅(jiān)持不斷通過(guò)先進(jìn)技術(shù)提升平臺(tái)IT基礎(chǔ)

設(shè)施綜合服務(wù)能力的原則。三是堅(jiān)持統(tǒng)一技術(shù)平臺(tái)和系統(tǒng)架構(gòu)的原則。四是堅(jiān)持科學(xué)的運(yùn)維

機(jī)制與系統(tǒng)架構(gòu)相適應(yīng)的原則。五是堅(jiān)持跟蹤先進(jìn)技術(shù)與應(yīng)用成熟技術(shù)相結(jié)合的原則。六是

堅(jiān)持統(tǒng)籌兼顧、分步實(shí)施的原則。

3.3建設(shè)分階段說(shuō)明

考慮到本平臺(tái)整體研發(fā)工作量較大,且隨著云計(jì)算技術(shù)的日趨成熟,項(xiàng)目建設(shè)需求變動(dòng)

可能性較高。因此隨著平臺(tái)建設(shè)能力和相關(guān)技術(shù)研發(fā)能力的增強(qiáng),平臺(tái)整體建設(shè)的業(yè)務(wù)和技

術(shù)需求將逐步提升。在充分保證銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)的持續(xù)性和穩(wěn)定性的前提下,

將逐步修改相關(guān)設(shè)計(jì),以提升本平臺(tái)的服務(wù)能力。

6

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

4平臺(tái)總體設(shè)計(jì)

4.1邏輯架構(gòu)

’服務(wù)管理

資源管理資產(chǎn)管理監(jiān)控與分析安全管理、系統(tǒng)管理

一觥晅最箕理,做他辱,一曲:授權(quán),

月艮I筑源組管理)1i監(jiān)拉.1用自q叔陛」

務(wù)I計(jì)算.資源管理」“資產(chǎn)編排」1日志—1.證囹T理一,「參數(shù)與規(guī)則,

層(■HHNU

匚貨乃定位[報(bào)表二

1存儲(chǔ)資源管埋]i計(jì)域管理:【訪間管理J

S___________>一,S.__________/

'控制層

'其它服務(wù)

接口服務(wù)1一級(jí)調(diào)度........

,資源管理接口,整合膿費(fèi).

1、湖舞g,

,監(jiān)控曬J泊總服務(wù).

、詞睜略,

[策略接女全認(rèn)證,

V、----------------'x-------------------‘J

'資源調(diào)度層

礎(chǔ)

設(shè)

平臺(tái)分為服務(wù)層、管理控制層、基礎(chǔ)設(shè)施層三大層次。各層次總體思路如下:

服務(wù)層:

服務(wù)層主要面向用戶提供使用和管理云資源的能力,以統(tǒng)一、易用的方式為各類(lèi)用戶提

供服務(wù),包括云平臺(tái)管理員和普通使用者。該層將采用流程引擎將云平臺(tái)管理的各種流程統(tǒng)

一管理起來(lái),大大提高應(yīng)對(duì)銀聯(lián)管理需求變更的能力。

管理控制層:

管理控制層主要是對(duì)上提供服務(wù)接口,對(duì)下對(duì)基礎(chǔ)設(shè)施資源進(jìn)行統(tǒng)一的調(diào)度和管理等各

類(lèi)laaS服務(wù),包括根據(jù)指令創(chuàng)建、銷(xiāo)毀、掛起、激活各類(lèi)資源,了解每種資源的運(yùn)行狀況

7

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

和性能情況,以及如何通過(guò)調(diào)度實(shí)現(xiàn)計(jì)算資源的高可用性和負(fù)載均衡等。

本層又細(xì)分為控制層,資源調(diào)度層和資源處理層:

控制層是整個(gè)云平臺(tái)的管理和服務(wù)入口,向上與服務(wù)層或者外部系統(tǒng)進(jìn)行交互,向下提

供全局的調(diào)度等服務(wù)。另外本層具有整合其它云管理平臺(tái)的能力,比如IBMPowerControl.

?接口服務(wù)可通過(guò)各種協(xié)議和格式為所有外部調(diào)用提供服務(wù),包括資源管理接口,監(jiān)

控接口,策略配置接口等。

?一級(jí)調(diào)度服務(wù)提供全局的資源調(diào)度管理。

?認(rèn)證服務(wù)可通過(guò)LDAP,數(shù)據(jù)庫(kù)等多種方式進(jìn)行驗(yàn)證。

?其它服務(wù):日志、安全等。

資源調(diào)度層是根據(jù)調(diào)度策略做出虛擬資源管理決策的層次,通過(guò)可配置的調(diào)度策略,實(shí)

現(xiàn)在虛擬基礎(chǔ)架構(gòu)中不斷自動(dòng)平衡同一應(yīng)用集群中各虛擬機(jī)的工作負(fù)載,允許它們?cè)诨顒?dòng)高

峰期使用群集上鄰近資源池中任何可用的浮動(dòng)容量甚至閑置資源,實(shí)現(xiàn)資源彈性伸縮,數(shù)據(jù)

中心能夠以較高的利用率水平可靠地運(yùn)行,保障所有應(yīng)用程序的服務(wù)級(jí)別。同時(shí),實(shí)現(xiàn)資源

配置在線平衡熱遷移能力,實(shí)現(xiàn)應(yīng)用的高可用和在線系統(tǒng)變更。本層的調(diào)度功能和上層控制

層的調(diào)度結(jié)合起來(lái),形成統(tǒng)一資源調(diào)度平臺(tái),前者在終端(虛擬機(jī)、實(shí)體機(jī)等)層面進(jìn)行調(diào)度,

后者在節(jié)點(diǎn)(集群)層面進(jìn)行調(diào)度。

?二級(jí)調(diào)度服務(wù)提供局部調(diào)度,來(lái)決定在哪臺(tái)資源空閑的機(jī)器上啟動(dòng)新的虛擬機(jī)實(shí)

例,動(dòng)態(tài)遷移,動(dòng)態(tài)擴(kuò)容等功能也是由它實(shí)現(xiàn)。

?監(jiān)控服務(wù)對(duì)平臺(tái)進(jìn)行全方位監(jiān)控,包括健康狀況和性能監(jiān)控,異常監(jiān)控和資源發(fā)現(xiàn)

等。

?資源發(fā)現(xiàn)服務(wù)可以自動(dòng)發(fā)現(xiàn)新接入的各類(lèi)虛擬、實(shí)體資源.

?其它組件:日志、安全等。

資源處理層是具體任務(wù)的執(zhí)行層,比如創(chuàng)建虛擬機(jī),監(jiān)控虛擬機(jī)等,本層直接面對(duì)虛擬

資源,有時(shí)也會(huì)與實(shí)體資源直接進(jìn)行交互:

?計(jì)算資源管理服務(wù)負(fù)責(zé)對(duì)虛擬機(jī)實(shí)例進(jìn)行創(chuàng)建、終止、遷移、Resize的操作,同時(shí)

監(jiān)控cpu、內(nèi)存等信息.

?存儲(chǔ)資源管理服務(wù)管理映射到虛擬機(jī)實(shí)例的卷的創(chuàng)建、附加和取消,同時(shí)監(jiān)控存儲(chǔ)

使用率等信息。

?網(wǎng)絡(luò)資源管理服務(wù)從隊(duì)列中接收網(wǎng)絡(luò)任務(wù),然后執(zhí)行任務(wù)控制虛擬機(jī)的網(wǎng)絡(luò),比如

8

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

創(chuàng)建橋接網(wǎng)絡(luò)。同時(shí)提供網(wǎng)絡(luò)使用信息。

基礎(chǔ)資源層:

提供存儲(chǔ)虛擬化,計(jì)算虛擬化功能,并實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)的深入控制,形成整個(gè)云平臺(tái)的資源

池。

4.2實(shí)現(xiàn)架構(gòu)

4.2.1整體技術(shù)架構(gòu)

AFMoverhttp/https

管云控制平臺(tái)

理匚控制組件][資源組件j[消息通訊組件:

制Python技術(shù)平臺(tái)

基LocalAPI

礎(chǔ)

設(shè)libvirt兀其它管理接口

KVMIBMPowerVM

物理設(shè)施

本平臺(tái)將采用多種技術(shù)實(shí)現(xiàn),從這個(gè)角度本系統(tǒng)分解視圖層、服務(wù)層、管理控制層和基礎(chǔ)設(shè)

9

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

施層四個(gè)層次,描述如下:

視圖層:

?本層將使用基于瀏覽器的富客戶端技術(shù)Flex保證易用性,F(xiàn)lex是一種基于flash

技術(shù)的開(kāi)發(fā)平臺(tái)。實(shí)際開(kāi)發(fā)時(shí)會(huì)采用Flex的一種技術(shù)框架一一Swiz,它是一種非

侵入式框架,便于做MVC開(kāi)發(fā)。

?BlazeDS技術(shù)。BlazeDS是一個(gè)基于服務(wù)器的Java遠(yuǎn)程控制和Web消息傳遞技術(shù),

它能夠使得后端的Java應(yīng)用程序和運(yùn)行在瀏覽器上的AdobeFlex應(yīng)用程序相互

通信。云計(jì)算資源管理平臺(tái)通過(guò)BlazeDS進(jìn)行前臺(tái)界面與后臺(tái)java組件間的通信,

實(shí)現(xiàn)flex與java之間的異步調(diào)用。

服務(wù)層:

?本層以面向服務(wù)的方式為視圖層提供資源管理功能,結(jié)合流程引擎等技術(shù)達(dá)到流程

化、智能化提供資源服務(wù)的目標(biāo)。

?邏輯組件是封裝所有功能邏輯的組件(比如虛擬機(jī)管理組件、虛擬機(jī)運(yùn)行監(jiān)控組

件),持久化組件將各類(lèi)數(shù)據(jù)持久化到數(shù)據(jù)存儲(chǔ)當(dāng)中。兩類(lèi)組件都是基于Primeton

PTP(普元基于J2EE技術(shù)的基礎(chǔ)技術(shù)平臺(tái)和開(kāi)發(fā)套件)進(jìn)行快速開(kāi)發(fā)和設(shè)計(jì)。舉例來(lái)

說(shuō),虛擬機(jī)監(jiān)控邏輯組件接收管理員通過(guò)UI發(fā)起的查看虛擬機(jī)運(yùn)行狀況指令,并

調(diào)用下層接口返回實(shí)時(shí)的虛擬機(jī)運(yùn)行狀況數(shù)據(jù),同時(shí)將該用戶的操作IT志通過(guò)日志

持久化組件保存到數(shù)據(jù)庫(kù)中。

?使用PTP開(kāi)發(fā)的邏輯組件可以被封裝為SCA組件(ServiceComponentArchitecture,

10

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

服務(wù)組件框架),以WebService,JMS(JavaMessageService,Java消息服務(wù))等各種方式

對(duì)外提供服務(wù)。再以虛擬機(jī)監(jiān)控邏輯組件為例,其監(jiān)控功能可以選擇性地封裝為服

務(wù)接口,為外部系統(tǒng)、手機(jī)終端等提供監(jiān)控服務(wù)。

?使用PTP開(kāi)發(fā)的持久化組件可以根據(jù)實(shí)際情況自由選擇hibernate或者ibatissqlmap

技術(shù)實(shí)現(xiàn),hibernate適合于業(yè)務(wù)對(duì)象持久化,ibatis更適合于復(fù)雜查詢和報(bào)表展現(xiàn)。

詳見(jiàn)PrimetonPTP平臺(tái)介紹。

?使用PrimetonBPS流程引擎產(chǎn)品提高資源管理平臺(tái)流程管理的靈活性。

PrimetonBPS是基于WF標(biāo)準(zhǔn)規(guī)范的企業(yè)級(jí)流程管理平臺(tái),詳見(jiàn)PrimetonBPS產(chǎn)

品介紹

管理控制層:

管云控制平臺(tái)

控]控制組件1資源組件J、消息通訊組件

Python技術(shù)平臺(tái)

?本層主要基于Python語(yǔ)言開(kāi)發(fā),參考一些業(yè)界比較成熟的laaS架構(gòu)進(jìn)行設(shè)計(jì)開(kāi)發(fā)。

Python是linux下的標(biāo)志性語(yǔ)言之一,它是一種腳本語(yǔ)言,可以與C緊密整合,比

較適合做系統(tǒng)層面的編程。

?各類(lèi)云計(jì)算組件,包括控制組件和資源組件都通過(guò)消息通訊組件進(jìn)行異步通訊,支

持分布式部署,以提高可用性??刂平M件是指接口服務(wù)、調(diào)度等管理控制類(lèi)組件,

資源組件是指直接與虛擬資源交互的組件,比如負(fù)責(zé)虛擬機(jī)創(chuàng)建的計(jì)算虛擬化組

件。

?支持整合其他廠商平臺(tái)的虛擬管理平臺(tái)或者虛擬資源,

比如IBMPowerControl/VM?

?云控制平臺(tái)PCCP的架構(gòu)詳見(jiàn)PCCP架構(gòu).

基礎(chǔ)設(shè)施層:

11

中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)

中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay

libvirtJ「其它管理接口:

礎(chǔ)

設(shè)

?本層主要利用libvirt等技術(shù)實(shí)現(xiàn)對(duì)XEN/KVM等虛擬平臺(tái)的管理,或者整合廠商

的虛擬資源管理系統(tǒng)管理小型機(jī)虛擬化。

4.2.2PrimetonPTP平臺(tái)介紹

PrimetonPTP(PrimetonTechnologyPlatform)普元技術(shù)平臺(tái)包含技術(shù)組件管理平臺(tái)和技

術(shù)組件兩個(gè)部分,技術(shù)組件管理平臺(tái)是一個(gè)技術(shù)組件的生命周期管理平臺(tái),技術(shù)組件管理平

臺(tái)提供技術(shù)組件的需求、開(kāi)發(fā)、測(cè)試、集成、發(fā)布、版本管理、復(fù)用、維護(hù)等生命周期環(huán)節(jié)

支持。技術(shù)平臺(tái)提供大量細(xì)粒度、高質(zhì)量、統(tǒng)一管理的組織級(jí)技術(shù)組件提供給產(chǎn)品線復(fù)用。

在以技術(shù)平臺(tái)為基礎(chǔ)的產(chǎn)品研發(fā)體系下,可以有效地降低產(chǎn)品開(kāi)發(fā)的成本,提高產(chǎn)品開(kāi)

發(fā)的效率。技術(shù)平臺(tái)提供關(guān)鍵技術(shù)的提前預(yù)研結(jié)果,提供前沿技術(shù)的技術(shù)組件,能夠有效降

低產(chǎn)品開(kāi)發(fā)中的技術(shù)風(fēng)險(xiǎn),縮短產(chǎn)品開(kāi)發(fā)周期。技術(shù)平臺(tái)統(tǒng)一管理產(chǎn)品開(kāi)發(fā)中的第三方引用

庫(kù),能夠有效避免產(chǎn)品開(kāi)發(fā)中的第三方引用庫(kù)之間的沖突問(wèn)題。

PTP邏輯架構(gòu):

SDO

溫馨提示

  • 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論