版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
中國(guó)銀聯(lián)電子支付研究院
云計(jì)算資源管理平臺(tái)項(xiàng)目
概要設(shè)計(jì)說(shuō)明書(shū)
第0.1版
中國(guó)銀聯(lián)電子支付研究院
二。一二年一月六日
中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
版本控制信息
版本日期擬稿和修改說(shuō)明
0.012012-1-18章津楠大綱初稿
徐磊、章津楠、
0.022012-2-10修訂大綱
郝炎峰
0.032012-2-16祖立軍完成一、二、三章和附錄A初稿
0.042012-2-16徐磊完成四、六、七、八章初稿
0.052012-2-16章津楠完成第五、九、卜章初稿
0.062012-2-16章津楠完成第四章部署架構(gòu)初稿
0.072012-2-16郝炎峰完成第六章用戶接口和附錄B初稿
章津楠、徐磊、
0.082012-2-17補(bǔ)充內(nèi)部接口,修改邏輯架構(gòu),部署架構(gòu)
郝炎峰
章津楠、徐磊、修改邏輯架構(gòu)、技術(shù)架構(gòu),完善各部分的
0.12012-2-22
鄭治國(guó)文字描述
0.112012-2-29徐磊、章津楠修改技術(shù)架構(gòu),部署架構(gòu)
0.112012-3-1章津楠修改運(yùn)行設(shè)計(jì)
中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
本文檔中的所有內(nèi)容為中國(guó)銀聯(lián)股份有限公司的機(jī)密和專(zhuān)屬所有。未經(jīng)中國(guó)銀聯(lián)股份有限公
司的明確書(shū)面許可,任何組織或個(gè)人不得以任何目的、任何形式及任何手段復(fù)制或傳播本文
檔部分或全部?jī)?nèi)容。
11
中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
目錄
1引言...............................................................................1
1.1編寫(xiě)目的......................................................................1
1.2項(xiàng)目背景......................................................................1
1.3術(shù)語(yǔ)定義.....................................................................2
1.4參考資料.....................................................................2
2平臺(tái)建設(shè)需求......................................................................3
2.1需求綜述.....................................................................3
2.1.1業(yè)務(wù)需求簡(jiǎn)述.............................................................3
2.1.2技術(shù)需求簡(jiǎn)述.............................................................4
2.1.3接口需求簡(jiǎn)述.............................................................4
2.2平臺(tái)建設(shè)的必要性............................................................4
2.3平臺(tái)建設(shè)的可行性............................................................5
3平臺(tái)建設(shè)目標(biāo)與原則...............................................................5
3.1總體目標(biāo).....................................................................5
3.2基本原則.....................................................................6
3.2.1業(yè)務(wù)原則..................................................................6
3.2.2技術(shù)原則.................................................................6
3.3建設(shè)分階段說(shuō)明...............................................................6
4平臺(tái)總體設(shè)計(jì)......................................................................7
4.1邏輯架構(gòu)......................................................................7
4.2實(shí)現(xiàn)架構(gòu).....................................................................9
4.2.1整體技術(shù)架構(gòu).............................................................9
4.2.2PrimetonPTP平臺(tái)介紹....................................................12
4.2.3PrimetonBPS產(chǎn)品介紹....................................................14
4.2.4PrimetonPCCP平臺(tái)架構(gòu)...................................................18
4.3部署架構(gòu).....................................................................18
4.3.1部署構(gòu)件.................................................................18
4.3.2部署架構(gòu)................................................................19
4.4非功能性需求解決方案........................................................24
4.4.1高可用...................................................................24
4.4.2可伸縮..................................................................26
4.4.3高性能...................................................................27
4.4.4大規(guī)模...................................................................27
4.4.5易用性...................................................................27
5運(yùn)行設(shè)計(jì).........................................................................28
5.1.1管理員初始化資源池......................................................28
5.1.2用戶申請(qǐng)?zhí)摂M資源........................................................29
5.1.3用戶變更虛擬資源........................................................29
5.1.4備份、恢復(fù)虛擬機(jī)........................................................30
5.1.5鏡像、模板管理..........................................................31
5.1.6監(jiān)控?cái)?shù)據(jù)推送............................................................31
5.1.7更新管理................................................................32
5.1.8智能擴(kuò)容................................................................33
5.1.9智能伸縮................................................................33
iii
中國(guó)銀聯(lián)電子支付研究院'UnionPai中國(guó)銀照
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
5.1.10智能遷移...............................................................34
5.1.11自動(dòng)化交付..............................................................34
5.1.12目錄統(tǒng)一授權(quán)............................................................35
5.1.13全方位的審計(jì)...........................................................36
5.1.14安全訪問(wèn)機(jī)制...........................................................36
5.1.15可信任云資源管理.......................................................37
5.1.16安全組機(jī)制.............................................................37
5.1.17資源調(diào)度...............................................................38
5.1.18資源管理平臺(tái)部署和升級(jí).................................................39
5.1.19系統(tǒng)在線驗(yàn)證支撐.......................................................41
6接口設(shè)計(jì).........................................................................41
6.1用戶接口.....................................................................41
6.2外部接口....................................................................45
6.2.1接入運(yùn)維監(jiān)控系統(tǒng)........................................................45
6.3內(nèi)部接口....................................................................46
7模型設(shè)計(jì).........................................................................48
7.1核心領(lǐng)域模型................................................................48
7.2實(shí)現(xiàn)對(duì)象模型設(shè)計(jì)............................................................48
7.2.1虛擬資源組管理..........................................................48
7.2.2申請(qǐng)單管理..............................................................66
7.2.3系統(tǒng)管理.................................................................68
7.2.4資源池管理..............................................................78
8系統(tǒng)數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì).................................................................87
8.1邏輯結(jié)構(gòu)....................................................................87
8.1.1數(shù)據(jù)庫(kù)實(shí)體關(guān)系圖........................................................87
8.1.2數(shù)據(jù)庫(kù)對(duì)象清單..........................................................88
8.1.3數(shù)據(jù)庫(kù)結(jié)構(gòu)設(shè)計(jì)..........................................................89
8.2物理結(jié)構(gòu)...................................................................102
8.2.1數(shù)據(jù)庫(kù)規(guī)劃.............................................................102
8.2.2表空間規(guī)劃.............................................................102
8.2.3用戶規(guī)劃................................................................102
9系統(tǒng)出錯(cuò)處理....................................................................102
10系統(tǒng)維護(hù)設(shè)計(jì)...................................................................104
附錄A功能描述...................................................................104
資產(chǎn)管理......................................................................104
資源管理......................................................................105
監(jiān)控管理......................................................................108
服務(wù)管理......................................................................109
系統(tǒng)管理......................................................................110
安全管理......................................................................112
附錄B功能界面...................................................................113
普通用戶......................................................................113
管理員.........................................................................126
IV
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
1引言
1.1編寫(xiě)目的
本文檔根據(jù)中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)需求與建設(shè)目標(biāo),采用先進(jìn)的軟件設(shè)計(jì)方
法,對(duì)中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)系統(tǒng)進(jìn)行了概要描述,包括了平臺(tái)總體架構(gòu)、業(yè)務(wù)流程
描述、接口設(shè)計(jì)、運(yùn)行設(shè)計(jì)、系統(tǒng)數(shù)據(jù)結(jié)構(gòu)設(shè)計(jì)、系統(tǒng)出錯(cuò)處理和系統(tǒng)維護(hù)設(shè)計(jì)等。
本文檔的使用對(duì)象為參加該項(xiàng)目建設(shè)的業(yè)務(wù)人員及技術(shù)人員。
1.2項(xiàng)目背景
日益發(fā)展的電子支付行業(yè),大量的業(yè)務(wù)處理需求對(duì)后臺(tái)業(yè)務(wù)處理系統(tǒng)的要求越來(lái)越高,
大并發(fā)量、大數(shù)據(jù)量、業(yè)務(wù)增長(zhǎng)迅速等特點(diǎn)對(duì)后臺(tái)業(yè)務(wù)處理系統(tǒng)提出了嚴(yán)格的要求。對(duì)計(jì)算
資源和存儲(chǔ)資源使用要求不斷提高,對(duì)應(yīng)用系統(tǒng)和服務(wù)器運(yùn)行管理等方面的要求也面臨挑
戰(zhàn)。
云計(jì)算是以虛擬化技術(shù)為基礎(chǔ)、以按需供給為商業(yè)模式,具備彈性擴(kuò)展、動(dòng)態(tài)分配和資
源共享等特點(diǎn)的新型網(wǎng)絡(luò)化計(jì)算模式。在云計(jì)算模式下,軟件、硬件、平臺(tái)等IT資源將作
為基礎(chǔ)設(shè)施,以服務(wù)的方式提供給使用者。作為一種新興技術(shù)和商業(yè)模式,云計(jì)算將加速信
息產(chǎn)業(yè)和信息基礎(chǔ)設(shè)施的服務(wù)化進(jìn)程,催生大量新型互聯(lián)網(wǎng)信息服務(wù),帶動(dòng)信息產(chǎn)業(yè)格局的
整體變革。其中,彈性擴(kuò)展意味著動(dòng)態(tài)增加資源將成為一件容易的事情,通過(guò)虛擬化技術(shù),
所有的計(jì)算資源對(duì)外提供同樣的接口服務(wù),部署新的服務(wù)器到資源池中也就只是添加一個(gè)新
的同樣的節(jié)點(diǎn)而已,后期維護(hù)也更加簡(jiǎn)單;動(dòng)態(tài)分配意味著計(jì)算資源和存儲(chǔ)資源可以隨意分
配,某些應(yīng)用系統(tǒng)在某些時(shí)段可能需要更多的計(jì)算資源,就可以給它分配足夠的資源,使用
完后,進(jìn)行回收,以便在提供給其他應(yīng)用系統(tǒng),保證資源被充分利用;資源共享意味著所有
的資源將融合在一起,共同對(duì)外界提供服務(wù),用戶不必關(guān)心應(yīng)用系統(tǒng)具體的位置,各個(gè)應(yīng)用
系統(tǒng)之間的資源也可以相互使用,真正達(dá)到資源的有效利用。
在基于云計(jì)算技術(shù)的系統(tǒng)中,一切皆是資源,意味著一切都可以對(duì)外提供服務(wù),中國(guó)銀
聯(lián)的電子支付能力也就可以作為一項(xiàng)服務(wù)提供給其他企業(yè),以共同推進(jìn)電子支付的發(fā)展。因
此中國(guó)銀聯(lián)提出了基于云計(jì)算的電子支付和電子商務(wù)綜合服務(wù)平臺(tái)建設(shè)的宏偉藍(lán)圖。云計(jì)算
資源管理平臺(tái)作為該平臺(tái)建設(shè)的重要組成部分,將實(shí)現(xiàn)動(dòng)態(tài)根據(jù)應(yīng)用的需求分配計(jì)算資源、
存儲(chǔ)資源和網(wǎng)絡(luò)帶寬,實(shí)現(xiàn)資源的節(jié)約,充分利用有限的資源;隨著業(yè)務(wù)的發(fā)展,也能夠方
便快捷地動(dòng)態(tài)添加計(jì)算資源和存儲(chǔ)資源,同時(shí)保證在計(jì)劃內(nèi)、計(jì)劃外宕機(jī)時(shí),系統(tǒng)能夠迅速
I
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
恢復(fù),提高系統(tǒng)的可靠性和可用性。
1.3術(shù)語(yǔ)定義
本文檔中使用到的專(zhuān)門(mén)術(shù)語(yǔ)及其定義如下:
云計(jì)算:是一種動(dòng)態(tài)的易擴(kuò)展的且通常是通過(guò)互聯(lián)網(wǎng)提供虛擬化的資源計(jì)算方式,用戶
不需要了解云計(jì)算內(nèi)部的細(xì)節(jié)。云計(jì)算包括基礎(chǔ)設(shè)施即服務(wù)(laaS)、平臺(tái)即服務(wù)(PaaS)和軟
件即服務(wù)(SaaS)以及其他依賴于互聯(lián)網(wǎng)滿足客戶計(jì)算需求的技術(shù)趨勢(shì)。
物理機(jī):相對(duì)于虛擬機(jī)的概念,在本系統(tǒng)中表示物理存在的、實(shí)體的服務(wù)器,具體包括
X86服務(wù)器、IBM小型機(jī)等。
虛擬機(jī):利用虛擬化技術(shù)在物理機(jī)上虛擬出來(lái)的、邏輯上的服務(wù)器,通常一臺(tái)物理機(jī)可
以虛擬出一臺(tái)或多臺(tái)虛擬機(jī)。本系統(tǒng)中的虛擬機(jī)包括IBM虛擬機(jī)、X86虛擬機(jī)。
虛擬資源組:由不同數(shù)量的、異構(gòu)的虛擬機(jī)所組成的便于統(tǒng)一管理的邏輯單元。一個(gè)虛
擬資源組中所有的虛擬機(jī)具有相同的生命周期,一個(gè)用戶可以擁有多個(gè)虛擬資源組。
資源池:由多種物理資源所組成的資源集合,在本系統(tǒng)中包括模板資源、IP地址資源、
存儲(chǔ)資源和物理機(jī)資源。
存儲(chǔ)池:由多種異構(gòu)的存儲(chǔ)系統(tǒng)組成的存儲(chǔ)資源集合,由存儲(chǔ)設(shè)備、卷等存儲(chǔ)管理單元
組成。
Web服務(wù):是一種基于XML的標(biāo)準(zhǔn)化的服務(wù)組件,是SOA架構(gòu)的底層支撐技術(shù)之一。
JMS:即Java消息服務(wù)(JavaMessageService)應(yīng)用程序接口,是一個(gè)Java平臺(tái)中關(guān)
于面向消息中間件(MOM)的API,用于在兩個(gè)應(yīng)用程序之間,或分布式系統(tǒng)中發(fā)送消息,
進(jìn)行異步通信。Java消息服務(wù)是一個(gè)與具體平臺(tái)無(wú)關(guān)的API,絕大多數(shù)MOM提供商都對(duì)JMS
提供支持。
1.4參考資料
《國(guó)家示范云計(jì)算項(xiàng)目2012年度開(kāi)發(fā)服務(wù)一期采購(gòu)項(xiàng)目招標(biāo)文件》
《NISTCloudComputingReferenceArchitecture^
《DMTFOpenVirtualizationFormatSpecification^
《LibvirtApplicationDevelopmentGuide》
《XenUsers'Manual》
2
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
2平臺(tái)建設(shè)需求
2.1需求綜述
2.1.1業(yè)務(wù)需求簡(jiǎn)述
通過(guò)理論研究以及分析業(yè)內(nèi)主要廠商的云計(jì)算資源管理平臺(tái)相關(guān)產(chǎn)品,并在此基礎(chǔ)上著
眼于服務(wù)銀聯(lián)相關(guān)業(yè)務(wù),制定了銀聯(lián)云計(jì)算資源管理平臺(tái)業(yè)務(wù)功能需求,具體如下圖所示。
自動(dòng)化引擎自動(dòng)化交付
【計(jì)量管理;各簟管理
交忖1務(wù)足中交付1例?]
[at程引整/高可用性1
交付祟5眼任務(wù)并行度]:能源管理
iI?
監(jiān)
控監(jiān)控視圖監(jiān)控?cái)?shù)據(jù)監(jiān)控日志
狀態(tài)集管理閾值管理預(yù)警
管理推送
項(xiàng)日
JAqent^igI
孥控制
AgentJgtR1]平臺(tái)鏈接
資
源.網(wǎng)絡(luò)曾埋
1----V______存確管厘、
管1基于模板"網(wǎng)落山容]
網(wǎng)絡(luò)10RFIx颼z勰那措干豁器:j
理和1/0坳》J:
1配置網(wǎng)絡(luò)JI健M哲理)組管理J管理和器
ipga)匕里班分虛擬機(jī)存寓::堆護(hù)掇式
[網(wǎng)器UL-皿j計(jì)功能也對(duì)隹M颶步JI叫學(xué)力婆茁土卜、
;虛擬機(jī)管理[創(chuàng)初副府?dāng)M機(jī)][啟即高贏玩][gffi/恢藁麗I[tiig扁S品啕[贏族曜][fgUtfVgg][虛擬(后格]
!資產(chǎn)目錄管理[38M看W][眥];:資產(chǎn)編排I;資產(chǎn)定位
資產(chǎn)定位
[資源發(fā)現(xiàn)[][主[現(xiàn)][存;;現(xiàn)[[寸杷).喇發(fā)現(xiàn))辰庫(kù)發(fā)可[應(yīng)用發(fā)現(xiàn)][)[嗨['發(fā)現(xiàn)][)I
資源發(fā)現(xiàn)
其中,將銀聯(lián)云計(jì)算資源管理平臺(tái)業(yè)務(wù)功能劃分為資源管理、資產(chǎn)管理、監(jiān)控、服務(wù)管
理、系統(tǒng)管理和安全管理共6大類(lèi)功能。
1.資產(chǎn)管理:包括了資產(chǎn)目錄管理、資源發(fā)現(xiàn)、資產(chǎn)編排和資產(chǎn)定位共4個(gè)子功能
模塊。
2.資源管理:包括了實(shí)體機(jī)管理、存儲(chǔ)管理、網(wǎng)絡(luò)管理、虛擬機(jī)管理、Agent管
理、資源組管理和遠(yuǎn)程控制共7個(gè)子功能模塊。
3.監(jiān)控:包括了健康狀況監(jiān)控、性能狀況監(jiān)控、監(jiān)控項(xiàng)管理、監(jiān)控視圖管理、狀態(tài)
集管理、閾值管理、預(yù)警、監(jiān)控?cái)?shù)據(jù)推送和監(jiān)控日志管理共9個(gè)子功能。
4.服務(wù)管理:包括了自動(dòng)化引擎、自動(dòng)化交付、計(jì)量管理、服務(wù)目錄、服務(wù)級(jí)別管
理、智能遷移、智能伸縮、智能擴(kuò)容、容量管理、能源管理、流程引擎和高可用
性共12個(gè)子功能模塊。
5.系統(tǒng)管理:包括了更新管理、用戶管理、兼容性檢查、問(wèn)題管理、報(bào)表管理、日
志管理、事件管理和鏡像管理共8個(gè)子功能模塊。
6.安全管理:包括了用戶授權(quán)、用戶審核、證書(shū)管理、訪問(wèn)管理和目錄管理共5個(gè)
3
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
子功能模塊。
2.1.2技術(shù)需求簡(jiǎn)述
本平臺(tái)的主要技術(shù)需求包括:
?規(guī)模:支持3000臺(tái)異構(gòu)物理服務(wù)器、300T異構(gòu)存儲(chǔ)和大容量復(fù)雜云網(wǎng)絡(luò)的統(tǒng)一
管理;
?資源池化:將各種服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)資源通過(guò)虛擬化技術(shù)進(jìn)行統(tǒng)一資源池化,以
便像電力一樣按需供給,其中服務(wù)器需支持IBM-P系列小型服務(wù)器和X86架構(gòu)服
務(wù)器;
?動(dòng)態(tài)擴(kuò)展:支持根據(jù)業(yè)務(wù)實(shí)際運(yùn)行狀態(tài),動(dòng)態(tài)擴(kuò)展伸縮其所用IT資源:
?數(shù)據(jù)同步:具備平臺(tái)運(yùn)行記錄數(shù)據(jù)與實(shí)際運(yùn)行環(huán)境同步功能;
?靈活配置:在業(yè)務(wù)流程、資產(chǎn)模式和運(yùn)維方案等方面具備高可操作性的自定義式的
定制化功能;
?可靠:確保平臺(tái)內(nèi)業(yè)務(wù)在計(jì)劃內(nèi)外宕機(jī)時(shí),提供滿足服務(wù)要求的業(yè)務(wù)連續(xù)性以及平
臺(tái)自身具備7*24小時(shí)不間斷服務(wù)能力:
?安全:具備抵抗各種刻意或非刻意攻擊的能力等;
?二次開(kāi)發(fā):提供規(guī)范化的API庫(kù),便于二次升級(jí)開(kāi)發(fā);
?用戶權(quán)限:靈活的用戶管理和權(quán)限控制。
2.1.3接口需求簡(jiǎn)述
銀聯(lián)云計(jì)算資源管理平臺(tái)的對(duì)外接口需求從形式上分為三類(lèi):人機(jī)交互接口、外部系統(tǒng)
服務(wù)調(diào)用接口以及數(shù)據(jù)交互接口。
1.人機(jī)交互接口向本平臺(tái)使用者提供界面友好的操作管理界面,以提供云計(jì)算資源管
理服務(wù)。其中,不同用戶可依據(jù)定制的不同用戶策略獲得相應(yīng)的服務(wù)權(quán)限。
2.平臺(tái)提供豐富的服務(wù)調(diào)用接口,其它系統(tǒng)可通過(guò)這些接口進(jìn)行服務(wù)調(diào)用,例如外部
大型監(jiān)控系統(tǒng)可調(diào)用本接口提供監(jiān)控?cái)?shù)據(jù)推送功能。
3.平臺(tái)的數(shù)據(jù)交互接口主要用于接收數(shù)據(jù)總線中傳遞給本平臺(tái)的數(shù)據(jù),例如外部數(shù)據(jù)
中心管理平臺(tái)可通過(guò)本接口向本平臺(tái)傳送相關(guān)數(shù)據(jù),以便由本平臺(tái)統(tǒng)一管理。
2.2平臺(tái)建設(shè)的必要性
為履行歷史使命和社會(huì)責(zé)任,實(shí)現(xiàn)銀聯(lián)云計(jì)算發(fā)展戰(zhàn)略,應(yīng)對(duì)跨國(guó)公司競(jìng)爭(zhēng)和新興支付
4
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
技術(shù)、支付渠道的挑戰(zhàn),鞏固和強(qiáng)化銀聯(lián)跨行轉(zhuǎn)接地位。銀聯(lián)必須進(jìn)一步增強(qiáng)業(yè)務(wù)服務(wù)能力,
滿足國(guó)內(nèi)國(guó)際市場(chǎng)、傳統(tǒng)業(yè)務(wù)和創(chuàng)新業(yè)務(wù)需要,滿足不同主體個(gè)性需求,同時(shí)要體現(xiàn)多應(yīng)用、
綜合服務(wù)的整合競(jìng)爭(zhēng)力。在技術(shù)上既要實(shí)現(xiàn)安全、穩(wěn)定、高效運(yùn)行,又要實(shí)現(xiàn)靈活性、擴(kuò)展
性。
因此,銀聯(lián)有必要以銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)為抓手,揚(yáng)長(zhǎng)補(bǔ)短,利用獨(dú)特資源優(yōu)
勢(shì),采用整合服務(wù)資源戰(zhàn)略,整合銀聯(lián)內(nèi)外服務(wù)時(shí)所涉IT資源,形成銀聯(lián)特色的IT資源服
務(wù)模式;構(gòu)建“IT資源整合共享,運(yùn)營(yíng)管理統(tǒng)一,服務(wù)便捷靈活,系統(tǒng)安全可靠”為目標(biāo)
的銀聯(lián)云計(jì)算資源管理平臺(tái),以徹底解決目前面臨的系列問(wèn)題。以此實(shí)現(xiàn)依托云系統(tǒng)建設(shè)大
步提升銀聯(lián)服務(wù)能力的目標(biāo)。
2.3平臺(tái)建設(shè)的可行性
業(yè)務(wù)方面,目前銀聯(lián)已經(jīng)在多種渠道的收單接入業(yè)務(wù)、國(guó)際化業(yè)務(wù)、風(fēng)險(xiǎn)管理、數(shù)據(jù)統(tǒng)
計(jì)分析、特色卡產(chǎn)品、商戶和持卡人服務(wù)等方面積累了一定的經(jīng)驗(yàn)。經(jīng)過(guò)這些年的業(yè)務(wù)積累,
銀聯(lián)完全有能力實(shí)現(xiàn)支持銀聯(lián)現(xiàn)有業(yè)務(wù)云遷移和創(chuàng)新云業(yè)務(wù)運(yùn)營(yíng)服務(wù)的云計(jì)算資源管理平
臺(tái)。
技術(shù)方面,目前銀聯(lián)已建成了以全國(guó)銀行卡信息交換系統(tǒng)為核心,以銀行卡風(fēng)險(xiǎn)管理控
制系統(tǒng)、公共支付平臺(tái)、各類(lèi)增值業(yè)務(wù)平臺(tái)等外圍系統(tǒng)為支撐,以建設(shè)同城數(shù)據(jù)備份系統(tǒng)和
異地災(zāi)備系統(tǒng)為保障的開(kāi)放式技術(shù)體系架構(gòu)。同時(shí),銀聯(lián)也在近期通過(guò)了CMMI5認(rèn)證評(píng)估。
在多年的技術(shù)研發(fā)積累中,銀聯(lián)具備了云計(jì)算資源管理平臺(tái)研發(fā)的技術(shù)儲(chǔ)備以及相關(guān)經(jīng)驗(yàn)。
市場(chǎng)方面,根據(jù)市場(chǎng)向著集中化、規(guī)?;?、專(zhuān)業(yè)化方向發(fā)展的趨勢(shì),未來(lái)將有眾多銀行
存在將收單處理、風(fēng)險(xiǎn)管理、統(tǒng)計(jì)分析、商戶管理服務(wù)等非核心業(yè)務(wù)外包的需求;第三方收
單和發(fā)卡機(jī)構(gòu)也迫切希望加入銀聯(lián)網(wǎng)絡(luò)開(kāi)展業(yè)務(wù);同時(shí)隨著用卡頻率提升,眾多商戶和持卡
人也存在利用交易數(shù)據(jù)進(jìn)行數(shù)據(jù)挖掘和財(cái)務(wù)分析等需求。加之銀聯(lián)提供的綜合服務(wù)不以贏利
為目的,將大幅度降低用戶成本,從而吸引各類(lèi)用戶使用,銀聯(lián)云計(jì)算資源管理平臺(tái)具有廣
闊的應(yīng)用前景,從而推動(dòng)本平臺(tái)建設(shè)發(fā)展。
3平臺(tái)建設(shè)目標(biāo)與原則
3.1總體目標(biāo)
云計(jì)算資源管理平臺(tái)的目標(biāo)是將數(shù)據(jù)中心的服務(wù)器、存儲(chǔ)和網(wǎng)絡(luò)設(shè)備集中統(tǒng)一管理,通
過(guò)模版配置和動(dòng)態(tài)調(diào)整等功能為用戶提供整合的、高可用性的、可快速部署使用的IT基礎(chǔ)
5
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
設(shè)施。通過(guò)簡(jiǎn)單的用戶界面實(shí)現(xiàn)對(duì)3000臺(tái)以上服務(wù)器、300T存儲(chǔ)、5000個(gè)并發(fā)應(yīng)用實(shí)例
或服務(wù)實(shí)例等云計(jì)算資源的動(dòng)態(tài)分配、調(diào)整。
在異構(gòu)資源整合方面,整合IBM小型機(jī)和X86架構(gòu)服務(wù)器形成統(tǒng)一的服務(wù)器資源池,
整合各類(lèi)型存儲(chǔ)設(shè)備形成統(tǒng)一的分層存儲(chǔ)資源池,整合各類(lèi)型網(wǎng)絡(luò)設(shè)備形成統(tǒng)一的網(wǎng)絡(luò)資源
池,以達(dá)到“充分利用企業(yè)中現(xiàn)有資源”的銀聯(lián)云計(jì)算戰(zhàn)略目標(biāo)。
在資源服務(wù)提供方面,結(jié)合國(guó)內(nèi)外各種云計(jì)算資源管理平臺(tái)特點(diǎn),以資源服務(wù)為導(dǎo)向,
向用戶提供多種類(lèi)型的資源服務(wù)。并逐步探索,爭(zhēng)取實(shí)現(xiàn)與企業(yè)中原有IT運(yùn)維系統(tǒng)充分結(jié)
合,使IT運(yùn)維系統(tǒng)向云運(yùn)維無(wú)縫過(guò)度。
在平臺(tái)智能運(yùn)營(yíng)方面,以自動(dòng)化的方式提供資源服務(wù),減少傳統(tǒng)IT運(yùn)維中的人力成本,
并加快資源交付速度。同時(shí),具備靈活的流程制定功能,以符合企業(yè)運(yùn)維的各種需求。平臺(tái)
同時(shí)支持全方位的監(jiān)控功能,并依據(jù)事先設(shè)置的策略智能處理相關(guān)異常。
3.2基本原則
3.2.1業(yè)務(wù)原則
銀聯(lián)云計(jì)算資源管理平臺(tái)的基本原則是緊緊把銀聯(lián)云1T基礎(chǔ)設(shè)施服務(wù)提供者的角色定
位,整合異構(gòu)IT資源為銀聯(lián)業(yè)務(wù)開(kāi)發(fā)人員、銀聯(lián)業(yè)務(wù)部署運(yùn)維人員提供方便、快捷的服務(wù)。
為各種IT基礎(chǔ)設(shè)施服務(wù)提供基礎(chǔ)性的一站式全方位交付解決方案,包括服務(wù)器、存儲(chǔ)、網(wǎng)
絡(luò)、監(jiān)控、軟件部署等服務(wù)。
3.2.2技術(shù)原則
在銀聯(lián)云計(jì)算資源管理平臺(tái)的規(guī)劃和實(shí)施過(guò)程中,應(yīng)遵循以下技術(shù)基本原則:一是堅(jiān)持
服從銀聯(lián)云戰(zhàn)略發(fā)展、業(yè)務(wù)服務(wù)需求的原則。二是堅(jiān)持不斷通過(guò)先進(jìn)技術(shù)提升平臺(tái)IT基礎(chǔ)
設(shè)施綜合服務(wù)能力的原則。三是堅(jiān)持統(tǒng)一技術(shù)平臺(tái)和系統(tǒng)架構(gòu)的原則。四是堅(jiān)持科學(xué)的運(yùn)維
機(jī)制與系統(tǒng)架構(gòu)相適應(yīng)的原則。五是堅(jiān)持跟蹤先進(jìn)技術(shù)與應(yīng)用成熟技術(shù)相結(jié)合的原則。六是
堅(jiān)持統(tǒng)籌兼顧、分步實(shí)施的原則。
3.3建設(shè)分階段說(shuō)明
考慮到本平臺(tái)整體研發(fā)工作量較大,且隨著云計(jì)算技術(shù)的日趨成熟,項(xiàng)目建設(shè)需求變動(dòng)
可能性較高。因此隨著平臺(tái)建設(shè)能力和相關(guān)技術(shù)研發(fā)能力的增強(qiáng),平臺(tái)整體建設(shè)的業(yè)務(wù)和技
術(shù)需求將逐步提升。在充分保證銀聯(lián)云計(jì)算資源管理平臺(tái)建設(shè)的持續(xù)性和穩(wěn)定性的前提下,
將逐步修改相關(guān)設(shè)計(jì),以提升本平臺(tái)的服務(wù)能力。
6
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
4平臺(tái)總體設(shè)計(jì)
4.1邏輯架構(gòu)
’服務(wù)管理
資源管理資產(chǎn)管理監(jiān)控與分析安全管理、系統(tǒng)管理
一觥晅最箕理,做他辱,一曲:授權(quán),
月艮I筑源組管理)1i監(jiān)拉.1用自q叔陛」
務(wù)I計(jì)算.資源管理」“資產(chǎn)編排」1日志—1.證囹T理一,「參數(shù)與規(guī)則,
層(■HHNU
匚貨乃定位[報(bào)表二
1存儲(chǔ)資源管埋]i計(jì)域管理:【訪間管理J
S___________>一,S.__________/
'控制層
'其它服務(wù)
接口服務(wù)1一級(jí)調(diào)度........
,資源管理接口,整合膿費(fèi).
1、湖舞g,
,監(jiān)控曬J泊總服務(wù).
、詞睜略,
[策略接女全認(rèn)證,
V、----------------'x-------------------‘J
'資源調(diào)度層
管
理
控
制
層
基
礎(chǔ)
設(shè)
施
層
平臺(tái)分為服務(wù)層、管理控制層、基礎(chǔ)設(shè)施層三大層次。各層次總體思路如下:
服務(wù)層:
服務(wù)層主要面向用戶提供使用和管理云資源的能力,以統(tǒng)一、易用的方式為各類(lèi)用戶提
供服務(wù),包括云平臺(tái)管理員和普通使用者。該層將采用流程引擎將云平臺(tái)管理的各種流程統(tǒng)
一管理起來(lái),大大提高應(yīng)對(duì)銀聯(lián)管理需求變更的能力。
管理控制層:
管理控制層主要是對(duì)上提供服務(wù)接口,對(duì)下對(duì)基礎(chǔ)設(shè)施資源進(jìn)行統(tǒng)一的調(diào)度和管理等各
類(lèi)laaS服務(wù),包括根據(jù)指令創(chuàng)建、銷(xiāo)毀、掛起、激活各類(lèi)資源,了解每種資源的運(yùn)行狀況
7
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
和性能情況,以及如何通過(guò)調(diào)度實(shí)現(xiàn)計(jì)算資源的高可用性和負(fù)載均衡等。
本層又細(xì)分為控制層,資源調(diào)度層和資源處理層:
控制層是整個(gè)云平臺(tái)的管理和服務(wù)入口,向上與服務(wù)層或者外部系統(tǒng)進(jìn)行交互,向下提
供全局的調(diào)度等服務(wù)。另外本層具有整合其它云管理平臺(tái)的能力,比如IBMPowerControl.
?接口服務(wù)可通過(guò)各種協(xié)議和格式為所有外部調(diào)用提供服務(wù),包括資源管理接口,監(jiān)
控接口,策略配置接口等。
?一級(jí)調(diào)度服務(wù)提供全局的資源調(diào)度管理。
?認(rèn)證服務(wù)可通過(guò)LDAP,數(shù)據(jù)庫(kù)等多種方式進(jìn)行驗(yàn)證。
?其它服務(wù):日志、安全等。
資源調(diào)度層是根據(jù)調(diào)度策略做出虛擬資源管理決策的層次,通過(guò)可配置的調(diào)度策略,實(shí)
現(xiàn)在虛擬基礎(chǔ)架構(gòu)中不斷自動(dòng)平衡同一應(yīng)用集群中各虛擬機(jī)的工作負(fù)載,允許它們?cè)诨顒?dòng)高
峰期使用群集上鄰近資源池中任何可用的浮動(dòng)容量甚至閑置資源,實(shí)現(xiàn)資源彈性伸縮,數(shù)據(jù)
中心能夠以較高的利用率水平可靠地運(yùn)行,保障所有應(yīng)用程序的服務(wù)級(jí)別。同時(shí),實(shí)現(xiàn)資源
配置在線平衡熱遷移能力,實(shí)現(xiàn)應(yīng)用的高可用和在線系統(tǒng)變更。本層的調(diào)度功能和上層控制
層的調(diào)度結(jié)合起來(lái),形成統(tǒng)一資源調(diào)度平臺(tái),前者在終端(虛擬機(jī)、實(shí)體機(jī)等)層面進(jìn)行調(diào)度,
后者在節(jié)點(diǎn)(集群)層面進(jìn)行調(diào)度。
?二級(jí)調(diào)度服務(wù)提供局部調(diào)度,來(lái)決定在哪臺(tái)資源空閑的機(jī)器上啟動(dòng)新的虛擬機(jī)實(shí)
例,動(dòng)態(tài)遷移,動(dòng)態(tài)擴(kuò)容等功能也是由它實(shí)現(xiàn)。
?監(jiān)控服務(wù)對(duì)平臺(tái)進(jìn)行全方位監(jiān)控,包括健康狀況和性能監(jiān)控,異常監(jiān)控和資源發(fā)現(xiàn)
等。
?資源發(fā)現(xiàn)服務(wù)可以自動(dòng)發(fā)現(xiàn)新接入的各類(lèi)虛擬、實(shí)體資源.
?其它組件:日志、安全等。
資源處理層是具體任務(wù)的執(zhí)行層,比如創(chuàng)建虛擬機(jī),監(jiān)控虛擬機(jī)等,本層直接面對(duì)虛擬
資源,有時(shí)也會(huì)與實(shí)體資源直接進(jìn)行交互:
?計(jì)算資源管理服務(wù)負(fù)責(zé)對(duì)虛擬機(jī)實(shí)例進(jìn)行創(chuàng)建、終止、遷移、Resize的操作,同時(shí)
監(jiān)控cpu、內(nèi)存等信息.
?存儲(chǔ)資源管理服務(wù)管理映射到虛擬機(jī)實(shí)例的卷的創(chuàng)建、附加和取消,同時(shí)監(jiān)控存儲(chǔ)
使用率等信息。
?網(wǎng)絡(luò)資源管理服務(wù)從隊(duì)列中接收網(wǎng)絡(luò)任務(wù),然后執(zhí)行任務(wù)控制虛擬機(jī)的網(wǎng)絡(luò),比如
8
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
創(chuàng)建橋接網(wǎng)絡(luò)。同時(shí)提供網(wǎng)絡(luò)使用信息。
基礎(chǔ)資源層:
提供存儲(chǔ)虛擬化,計(jì)算虛擬化功能,并實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)的深入控制,形成整個(gè)云平臺(tái)的資源
池。
4.2實(shí)現(xiàn)架構(gòu)
4.2.1整體技術(shù)架構(gòu)
AFMoverhttp/https
管云控制平臺(tái)
理匚控制組件][資源組件j[消息通訊組件:
控
制Python技術(shù)平臺(tái)
層
基LocalAPI
礎(chǔ)
設(shè)libvirt兀其它管理接口
施
KVMIBMPowerVM
層
物理設(shè)施
本平臺(tái)將采用多種技術(shù)實(shí)現(xiàn),從這個(gè)角度本系統(tǒng)分解視圖層、服務(wù)層、管理控制層和基礎(chǔ)設(shè)
9
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
施層四個(gè)層次,描述如下:
視圖層:
?本層將使用基于瀏覽器的富客戶端技術(shù)Flex保證易用性,F(xiàn)lex是一種基于flash
技術(shù)的開(kāi)發(fā)平臺(tái)。實(shí)際開(kāi)發(fā)時(shí)會(huì)采用Flex的一種技術(shù)框架一一Swiz,它是一種非
侵入式框架,便于做MVC開(kāi)發(fā)。
?BlazeDS技術(shù)。BlazeDS是一個(gè)基于服務(wù)器的Java遠(yuǎn)程控制和Web消息傳遞技術(shù),
它能夠使得后端的Java應(yīng)用程序和運(yùn)行在瀏覽器上的AdobeFlex應(yīng)用程序相互
通信。云計(jì)算資源管理平臺(tái)通過(guò)BlazeDS進(jìn)行前臺(tái)界面與后臺(tái)java組件間的通信,
實(shí)現(xiàn)flex與java之間的異步調(diào)用。
服務(wù)層:
?本層以面向服務(wù)的方式為視圖層提供資源管理功能,結(jié)合流程引擎等技術(shù)達(dá)到流程
化、智能化提供資源服務(wù)的目標(biāo)。
?邏輯組件是封裝所有功能邏輯的組件(比如虛擬機(jī)管理組件、虛擬機(jī)運(yùn)行監(jiān)控組
件),持久化組件將各類(lèi)數(shù)據(jù)持久化到數(shù)據(jù)存儲(chǔ)當(dāng)中。兩類(lèi)組件都是基于Primeton
PTP(普元基于J2EE技術(shù)的基礎(chǔ)技術(shù)平臺(tái)和開(kāi)發(fā)套件)進(jìn)行快速開(kāi)發(fā)和設(shè)計(jì)。舉例來(lái)
說(shuō),虛擬機(jī)監(jiān)控邏輯組件接收管理員通過(guò)UI發(fā)起的查看虛擬機(jī)運(yùn)行狀況指令,并
調(diào)用下層接口返回實(shí)時(shí)的虛擬機(jī)運(yùn)行狀況數(shù)據(jù),同時(shí)將該用戶的操作IT志通過(guò)日志
持久化組件保存到數(shù)據(jù)庫(kù)中。
?使用PTP開(kāi)發(fā)的邏輯組件可以被封裝為SCA組件(ServiceComponentArchitecture,
10
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
服務(wù)組件框架),以WebService,JMS(JavaMessageService,Java消息服務(wù))等各種方式
對(duì)外提供服務(wù)。再以虛擬機(jī)監(jiān)控邏輯組件為例,其監(jiān)控功能可以選擇性地封裝為服
務(wù)接口,為外部系統(tǒng)、手機(jī)終端等提供監(jiān)控服務(wù)。
?使用PTP開(kāi)發(fā)的持久化組件可以根據(jù)實(shí)際情況自由選擇hibernate或者ibatissqlmap
技術(shù)實(shí)現(xiàn),hibernate適合于業(yè)務(wù)對(duì)象持久化,ibatis更適合于復(fù)雜查詢和報(bào)表展現(xiàn)。
詳見(jiàn)PrimetonPTP平臺(tái)介紹。
?使用PrimetonBPS流程引擎產(chǎn)品提高資源管理平臺(tái)流程管理的靈活性。
PrimetonBPS是基于WF標(biāo)準(zhǔn)規(guī)范的企業(yè)級(jí)流程管理平臺(tái),詳見(jiàn)PrimetonBPS產(chǎn)
品介紹
管理控制層:
管云控制平臺(tái)
理
控]控制組件1資源組件J、消息通訊組件
制
層
Python技術(shù)平臺(tái)
?本層主要基于Python語(yǔ)言開(kāi)發(fā),參考一些業(yè)界比較成熟的laaS架構(gòu)進(jìn)行設(shè)計(jì)開(kāi)發(fā)。
Python是linux下的標(biāo)志性語(yǔ)言之一,它是一種腳本語(yǔ)言,可以與C緊密整合,比
較適合做系統(tǒng)層面的編程。
?各類(lèi)云計(jì)算組件,包括控制組件和資源組件都通過(guò)消息通訊組件進(jìn)行異步通訊,支
持分布式部署,以提高可用性??刂平M件是指接口服務(wù)、調(diào)度等管理控制類(lèi)組件,
資源組件是指直接與虛擬資源交互的組件,比如負(fù)責(zé)虛擬機(jī)創(chuàng)建的計(jì)算虛擬化組
件。
?支持整合其他廠商平臺(tái)的虛擬管理平臺(tái)或者虛擬資源,
比如IBMPowerControl/VM?
?云控制平臺(tái)PCCP的架構(gòu)詳見(jiàn)PCCP架構(gòu).
基礎(chǔ)設(shè)施層:
11
中國(guó)銀聯(lián)電子支付研究院'UmonPa\中國(guó)銀聯(lián)
中國(guó)銀聯(lián)云計(jì)算資源管理平臺(tái)ChinaUnionPay
libvirtJ「其它管理接口:
基
礎(chǔ)
設(shè)
施
層
?本層主要利用libvirt等技術(shù)實(shí)現(xiàn)對(duì)XEN/KVM等虛擬平臺(tái)的管理,或者整合廠商
的虛擬資源管理系統(tǒng)管理小型機(jī)虛擬化。
4.2.2PrimetonPTP平臺(tái)介紹
PrimetonPTP(PrimetonTechnologyPlatform)普元技術(shù)平臺(tái)包含技術(shù)組件管理平臺(tái)和技
術(shù)組件兩個(gè)部分,技術(shù)組件管理平臺(tái)是一個(gè)技術(shù)組件的生命周期管理平臺(tái),技術(shù)組件管理平
臺(tái)提供技術(shù)組件的需求、開(kāi)發(fā)、測(cè)試、集成、發(fā)布、版本管理、復(fù)用、維護(hù)等生命周期環(huán)節(jié)
支持。技術(shù)平臺(tái)提供大量細(xì)粒度、高質(zhì)量、統(tǒng)一管理的組織級(jí)技術(shù)組件提供給產(chǎn)品線復(fù)用。
在以技術(shù)平臺(tái)為基礎(chǔ)的產(chǎn)品研發(fā)體系下,可以有效地降低產(chǎn)品開(kāi)發(fā)的成本,提高產(chǎn)品開(kāi)
發(fā)的效率。技術(shù)平臺(tái)提供關(guān)鍵技術(shù)的提前預(yù)研結(jié)果,提供前沿技術(shù)的技術(shù)組件,能夠有效降
低產(chǎn)品開(kāi)發(fā)中的技術(shù)風(fēng)險(xiǎn),縮短產(chǎn)品開(kāi)發(fā)周期。技術(shù)平臺(tái)統(tǒng)一管理產(chǎn)品開(kāi)發(fā)中的第三方引用
庫(kù),能夠有效避免產(chǎn)品開(kāi)發(fā)中的第三方引用庫(kù)之間的沖突問(wèn)題。
PTP邏輯架構(gòu):
SDO
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 2024物流代理業(yè)務(wù)合作合同版B版
- 2025版車(chē)貸反擔(dān)保債務(wù)重組與債務(wù)轉(zhuǎn)移合同3篇
- 二零二五年度房地產(chǎn)抵押合同及抵押物權(quán)屬變更合同3篇
- 2024版投資入股的協(xié)議書(shū)
- 二零二五年度綠色環(huán)保辦公用品供應(yīng)合同3篇
- 2024無(wú)產(chǎn)權(quán)房買(mǎi)賣(mài)合同樣本及簽訂流程詳解6篇
- 黃山學(xué)院《數(shù)學(xué)解題方法》2023-2024學(xué)年第一學(xué)期期末試卷
- 二零二五年度商砼行業(yè)市場(chǎng)拓展與戰(zhàn)略合作伙伴關(guān)系合同
- 對(duì)數(shù)方程換底換元法計(jì)算舉例解析A6
- 二零二五年度物流園區(qū)運(yùn)營(yíng)管理合作協(xié)議2篇
- 汽車(chē)安全與法規(guī) (第3版) 課件 第1-3章 汽車(chē)安全技術(shù)概述、汽車(chē)安全技術(shù)法規(guī)與標(biāo)準(zhǔn)、汽車(chē)主動(dòng)安全性
- 管理ABC-干嘉偉(美團(tuán)網(wǎng)COO)
- XX市“互聯(lián)網(wǎng)+”-土地二級(jí)市場(chǎng)交易建設(shè)方案
- 2023-2024學(xué)年度第一學(xué)期四年級(jí)數(shù)學(xué)寒假作業(yè)
- 大學(xué)軍事理論課教程第三章軍事思想第三節(jié)中國(guó)古代軍事思想
- 駕駛員勞務(wù)派遣投標(biāo)方案
- 續(xù)簽勞動(dòng)合同意見(jiàn)征詢書(shū)
- 水封式排水器的研究
- 導(dǎo)線三角高程計(jì)算表(表內(nèi)自帶計(jì)算公式)
- 小學(xué)數(shù)學(xué)課堂教學(xué)評(píng)價(jià)表
- 鋼管裝卸安全管理規(guī)定
評(píng)論
0/150
提交評(píng)論