




版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、- 1 -Copyright 2014 Neusoft Corporation面向資源彈性調(diào)度與面向資源彈性調(diào)度與運(yùn)維自動(dòng)化的運(yùn)維自動(dòng)化的云資源池設(shè)計(jì)與規(guī)劃云資源池設(shè)計(jì)與規(guī)劃2022年2月東軟集團(tuán)股份有限公司- 2 -n云計(jì)算發(fā)展解讀p云資源池整體架構(gòu)設(shè)計(jì)p 面向資源彈性調(diào)度的云資源池規(guī)劃與設(shè)計(jì)p 面向運(yùn)維自動(dòng)化的云資源池池規(guī)劃與設(shè)計(jì)p Q&A提綱- 3 -CostUtilizationConsolidationScaleAvailabilityPredictabilityIT agilityIT competitivenessIT as a ServiceBU charge Back
2、 Business DriversCost/ROIDR/BCOverflow/Burst CapServer VirtualizationHybrid CloudPODse.g. VblockPrivateCloudTransition StagesSimple Application SophisticatedResource ProvisioningOrchestrationSecurity ComplianceAcceptable SLAs24312431Evolving Customer NeedsBusiness Continuity is Critical! 3rd-Party I
3、ntegration ITSM Workflow CMDBService AssuranceService DeliverySP Services InfrastructureDev/TestR&DApp TestingPre-productionProductionDR/BCDemand DrivenWeb FarmsPortalsInfrastructure ServicesCritical AppsBy FunctionBy DepartmentBy Application Type- 4 -CostUtilizationConsolidationScaleAvailabilit
4、yPredictabilityIT agilityIT competitivenessIT as a ServiceBU charge Back Business DriversCost/ROIDR/BCOverflow/Burst CapServer VirtualizationHybrid CloudPODse.g. VblockPrivateCloudTransition StagesSimple Application SophisticatedResource ProvisioningOrchestrationSecurity ComplianceAcceptable SLAs243
5、12431The Automation Threshold3rd-Party Integration ITSM Workflow CMDBService AssuranceService CultureMetering/BillingService CatalogSP Services InfrastructureDev/TestR&DApp TestingPre-productionProductionDR/BCDemand DrivenWeb FarmsPortalsInfrastructure ServicesCritical AppsBy FunctionBy Departme
6、ntBy Application TypeAutomation RequirementManual Delivery AbilityService Complexity/DemandAutomation ThresholdInefficiency Tolerance Zone- 5 -Elements of Cloud ComputingSelf-Service Interface: Provides ability for users to order and track metered servicesService Delivery Automation:Automates provis
7、ioning and meters usage of servicesResource Management:Resources are provisioned and managed as per service needsOperational Process Automation:Automates operational processes such as user management, capacity management, service level management, service desk integration, alertingLifecycle Manageme
8、ntLifecycle Management of Cloud Services Dynamic resource allocation Capacity management Resource utilization Performance management MaintenanceStandardized offeringsVery fast provisioning/de-provisioningof resourcesMeteredusageWeb-based front endAutomated fulfillmentBroad Network AccessRapidElastic
9、ityMeasured ServiceOn-Demand Self-ServiceResource Pooling- 6 -p云計(jì)算發(fā)展解讀n云資源池整體架構(gòu)設(shè)計(jì)p 面向資源彈性調(diào)度的云資源池規(guī)劃與設(shè)計(jì)p 面向運(yùn)維自動(dòng)化的云資源池池規(guī)劃與設(shè)計(jì)p Q&A提綱- 7 -私有云總體架構(gòu)私有云總體架構(gòu)私有云平臺(tái)由私有云管理平臺(tái)和一個(gè)或多個(gè)資源池系統(tǒng)組成。p 私有云管理平臺(tái):運(yùn)維管理平臺(tái)運(yùn)營(yíng)管理門戶p 資源池系統(tǒng):資源池管理平臺(tái)計(jì)算/儲(chǔ)存/網(wǎng)絡(luò)等資源- 8 -資源池體系架構(gòu)p資源池管理平臺(tái)支持對(duì)資源池的管理p資源池系統(tǒng)通過(guò)符合私有云標(biāo)準(zhǔn)規(guī)范的統(tǒng)一接口,接收資源申請(qǐng)和操作請(qǐng)求。p資源能力由各個(gè)不同
10、資源類型的子系統(tǒng)組成,提供不同類型資源服務(wù)- 9 -資源池管理平臺(tái)功能架構(gòu)資源池管理平臺(tái)功能架構(gòu)資源池管理平臺(tái)OpenStack接入調(diào)度子系統(tǒng)資源管理子系統(tǒng)告警策略管理備份管理資源調(diào)度能力調(diào)度計(jì)算能力調(diào)度網(wǎng)絡(luò)能力調(diào)度存儲(chǔ)能力調(diào)度資源模板管理私有云接口解析消息登錄鑒權(quán)功能分發(fā)資源部署預(yù)處理流量控制緩存隊(duì)列性能告警采集子系統(tǒng)性能告警采集SNMP性能采集性能代理采集告警代理采集硬件設(shè)備告警任務(wù)管理任務(wù)執(zhí)行任務(wù)調(diào)度性能處理性能閥值告警性能預(yù)處理告警處理告警預(yù)處理告警重定義告警過(guò)濾OpenStack接口本地資源管理資源項(xiàng)/屬性管理資源變更管理資源實(shí)例管理資源關(guān)聯(lián)關(guān)系管理資源配置信息同步告警接收入庫(kù)處理其
11、他能力調(diào)度資源創(chuàng)建資源變更資源操作資源回收性能后處理告警后處理資源視圖管理全局資源的容量歷史容量信息分類資源容量監(jiān)控管理采集任務(wù)管理采集設(shè)備管理映射配置管理系統(tǒng)管理子系統(tǒng)系統(tǒng)管理系統(tǒng)參數(shù)管理運(yùn)維報(bào)表管理日志管理系統(tǒng)監(jiān)控報(bào)表分類報(bào)表繪制報(bào)表輸出報(bào)表引擎用戶/角色管理軟件部署管理告警策略管理虛擬機(jī)子系統(tǒng)X86子系統(tǒng)小型機(jī)子系統(tǒng)塊存儲(chǔ)子系統(tǒng)分布式文件子系統(tǒng)日志詳單類存儲(chǔ)子系統(tǒng)備份子系統(tǒng)網(wǎng)絡(luò)子系統(tǒng)短信/郵件接口4A/BOMC/網(wǎng)管接口資源分區(qū)管理拓?fù)涔芾碣Y源分區(qū)視圖資源狀況管理資源容量管理資源計(jì)量管理能力子系統(tǒng)- 10 -p云計(jì)算發(fā)展解讀p云資源池整體架構(gòu)設(shè)計(jì)n面向資源彈性調(diào)度的云資源池規(guī)劃與設(shè)計(jì)p
12、面向運(yùn)維自動(dòng)化的云資源池池規(guī)劃與設(shè)計(jì)p Q&A提綱- 11 -資源彈性調(diào)度資源彈性調(diào)度概述概述管理資源能力高級(jí)服務(wù)(橫向彈性調(diào)度)- 12 -資源彈性調(diào)度規(guī)劃步驟資源彈性調(diào)度規(guī)劃步驟資源類型資源能力生命周期管理服務(wù)高級(jí)服務(wù)- 13 -資源彈性資源彈性調(diào)度調(diào)度-資源類型規(guī)劃資源類型規(guī)劃根據(jù)業(yè)務(wù)應(yīng)用類型確定資源選型CEP 高可用性,確保響應(yīng)高吞吐量事件執(zhí)行自動(dòng)化決策 高可擴(kuò)展性,支持高吞吐和峰值負(fù)載處理 低復(fù)雜性,支持高吞吐事件處理 低數(shù)據(jù)容量,由于基礎(chǔ)事件短生命期而產(chǎn)生的 低查詢復(fù)雜度,支持低延遲查詢處理 低查詢延遲,支持高吞吐事件處理 中等成本,基于CEP處理重要度的考慮 低易用性/互
13、操作性,基于基礎(chǔ)事件可以(經(jīng)常)被廢棄OLTP 高可用性,確保執(zhí)行面向客戶的交易 高可擴(kuò)展性,支持業(yè)務(wù)增長(zhǎng)場(chǎng)景和峰值處理 中等復(fù)雜度,支持中等吞吐交易處理 中等數(shù)據(jù)容量,當(dāng)BI基礎(chǔ)設(shè)施存儲(chǔ)歷史數(shù)據(jù)時(shí) 低查詢復(fù)雜度,支持中等延遲查詢處理 中等查詢延遲,支持中等吞吐交易處理 高成本,基于OLTP處理重要度的考慮 高易用性/互操作性,基于交易要傳輸給BI基礎(chǔ)設(shè)施的考慮BI 中等可用性,支持戰(zhàn)略決策的制定(復(fù)查,如果運(yùn)行報(bào)告是在同一信息系統(tǒng)之外執(zhí)行的話) 高可擴(kuò)展性,支持?jǐn)?shù)據(jù)增長(zhǎng)和峰值處理 中等復(fù)雜度,由于系統(tǒng)規(guī)模大 高數(shù)據(jù)容量,支持?jǐn)?shù)據(jù)增長(zhǎng) 高查詢復(fù)雜度,支持分析查詢處理 中等查詢延遲,由于分析類查
14、詢處理 高成本,基于數(shù)據(jù)容量和分析的重要度的考慮 高易用性/互操作性,由于頻繁使用第三方工具分析交易,以及與其它信息系統(tǒng)的集成/聯(lián)邦Big Data 高容量,并不是一個(gè)絕對(duì)的概念,但是大數(shù)據(jù)需要用特殊的數(shù)據(jù)管理技術(shù)來(lái)存儲(chǔ)和處理數(shù)據(jù) 高速度,意味著 數(shù)據(jù)以多快的速度產(chǎn)生就需要以多快的速度來(lái)處理才能夠滿足需求,也與數(shù)據(jù)保持能力data retention(影響數(shù)據(jù)容量)的考慮相關(guān)聯(lián) 多樣性,包括表數(shù)據(jù)、層次數(shù)據(jù)、文檔、電子郵件、儀表數(shù)據(jù)、視頻、圖像、聲音、股票交易數(shù)據(jù)、金融交易數(shù)據(jù)等等 高復(fù)雜度, 意味著需要處理不同的標(biāo)準(zhǔn)、領(lǐng)域規(guī)則、甚至存儲(chǔ)格式- 14 -CEP類典型物理架構(gòu)類典型物理架構(gòu)- 1
15、5 -OLTP類典型物理架構(gòu)類典型物理架構(gòu)- 16 -BI類典型物理架構(gòu)類典型物理架構(gòu)- 17 -Big Data類典型物理架構(gòu)類典型物理架構(gòu)- 18 -資源彈性資源彈性調(diào)度調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)虛擬計(jì)算資源能力項(xiàng)虛擬計(jì)算資源能力項(xiàng)vmware XenServerHyper-VFushionCompute虛擬機(jī)創(chuàng)建 1010510虛擬機(jī)刪除 1010510虛擬機(jī)配置修改 101058虛擬網(wǎng)卡VLAN配置 89010創(chuàng)建虛擬硬盤 1010010虛擬機(jī)添加虛擬硬盤 1010510查看虛擬硬盤信息 109510卸載虛擬硬盤 1010510刪除虛擬硬盤 1010010獲取虛擬機(jī)信息
16、 91059虛擬機(jī)運(yùn)行控制 1010510虛擬機(jī)克隆 1010010虛擬機(jī)模板創(chuàng)建 108010獲取虛擬機(jī)模板信息 91009虛擬機(jī)模板刪除 1010010模板批量部署 810010虛擬化軟件自動(dòng)分配虛擬網(wǎng)絡(luò)信息 108510虛擬計(jì)算資源能力項(xiàng)虛擬計(jì)算資源能力項(xiàng)vmware XenServer Hyper-VFushionCompute性能監(jiān)控 1010010故障告警 107010CPU資源綁定設(shè)置 910010虛擬CPU資源預(yù)留 910010內(nèi)存資源專享設(shè)置 910010虛擬內(nèi)存資源預(yù)留 910010虛擬資源優(yōu)先級(jí)設(shè)置 99010虛擬CPU在線增加 910010虛擬內(nèi)存在線增加 910010
17、虛擬磁盤網(wǎng)卡在線增減 910010存儲(chǔ)I/O控制 107010網(wǎng)絡(luò)帶寬單向控制 107010網(wǎng)絡(luò)帶寬雙向控制 100010虛擬機(jī)主機(jī)遷移 1010010基于本地存儲(chǔ)的虛擬機(jī)遷移 1010010虛擬機(jī)快照 1010510虛擬防火墻 90010虛擬機(jī)OS內(nèi)應(yīng)用進(jìn)程監(jiān)控 5000多用戶分權(quán)管理 910010虛擬機(jī)備份接口 1010010計(jì)算能力的比較及虛擬化產(chǎn)品的選型- 19 -資源彈性調(diào)度資源彈性調(diào)度-資源資源能力規(guī)劃與設(shè)計(jì)能力規(guī)劃與設(shè)計(jì)計(jì)算能力的設(shè)計(jì)暨計(jì)算資源的縱向彈性調(diào)度虛擬化產(chǎn)品選型異構(gòu)虛擬化的支持抽象層設(shè)計(jì)(OpenStack等)虛擬化產(chǎn)品的高級(jí)特性支持(Proxy/Plug-ins)不屬
18、于云計(jì)算范疇資源能力的支持(物理機(jī))元數(shù)據(jù)及數(shù)據(jù)模型的建立資源能力的全生命周期服務(wù)的發(fā)布- 20 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)網(wǎng)絡(luò)能力的規(guī)劃與設(shè)計(jì)網(wǎng)絡(luò)能力規(guī)劃要素支持的業(yè)務(wù)/租戶規(guī)模(VRF/VLAN/VXLAN)穩(wěn)定的物理網(wǎng)絡(luò)結(jié)構(gòu)(擴(kuò)容,網(wǎng)絡(luò)虛擬化)業(yè)務(wù)網(wǎng)與管理網(wǎng)分離明確的手工維護(hù)與自動(dòng)運(yùn)維的分工界面(網(wǎng)絡(luò)自動(dòng)化,專網(wǎng)與混網(wǎng))通用網(wǎng)絡(luò)服務(wù)與業(yè)務(wù)專用網(wǎng)絡(luò)服務(wù)的分層控制- 21 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)網(wǎng)絡(luò)能力的規(guī)劃與設(shè)計(jì)網(wǎng)絡(luò)出口采用硬件防火墻,提供基于3、4層的網(wǎng)絡(luò)通用安全防護(hù)虛擬機(jī)之間的安全防護(hù)使用虛擬化應(yīng)用防火墻,
19、提供7層的內(nèi)容及安全防護(hù),有效隔離不同的虛擬機(jī),防止虛擬機(jī)之間的安全風(fēng)險(xiǎn)資源池(或主機(jī))的出口部分使用解決入侵防御和負(fù)載均衡需求使用VSS/VDS/LS控制虛擬化網(wǎng)絡(luò)- 22 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)經(jīng)典KVM網(wǎng)絡(luò)- 23 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)經(jīng)典Openstack KVM網(wǎng)絡(luò)- 24 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)VxLAN- 25 -資源彈性調(diào)度資源彈性調(diào)度-資源能力規(guī)劃與設(shè)計(jì)資源能力規(guī)劃與設(shè)計(jì)存儲(chǔ)能力的規(guī)劃與設(shè)計(jì)支持主流IPSAN/FCSAN設(shè)備支持大云EBS支持IBM
20、SVC等專業(yè)存儲(chǔ)虛擬化兼容Openstack的Cinder塊存儲(chǔ)接口支持塊分區(qū)管理支持存儲(chǔ)碎片化管理支持存儲(chǔ)設(shè)備性能及故障的監(jiān)控分區(qū)1BC-EBSIBM SVCEMC VPLEX分區(qū)NBC-EBSIBM SVCEMC VPLEX塊操作OpenStack Agent監(jiān)控采集系統(tǒng)管理存儲(chǔ)管理子系統(tǒng)資源池系統(tǒng)- 26 -自動(dòng)部署自動(dòng)部署鏡像鏡像云云監(jiān)控監(jiān)控VLBAPI 用戶可以將業(yè)務(wù)使用的鏡像上傳到資源池鏡像管理系統(tǒng)內(nèi)進(jìn)行統(tǒng)一管理鏡像 監(jiān)控業(yè)務(wù)應(yīng)用運(yùn)行的實(shí)時(shí)狀態(tài),具備業(yè)務(wù)級(jí)彈性調(diào)度的基礎(chǔ)服務(wù)能力。云監(jiān)控 系統(tǒng)對(duì)外部開放資源調(diào)度API服務(wù)接口,支持業(yè)務(wù)應(yīng)用調(diào)度資源。API VLB服務(wù)作為業(yè)務(wù)彈性調(diào)度的
21、一種基礎(chǔ)服務(wù)能力提供,并與業(yè)務(wù)自定義鏡像動(dòng)態(tài)加載相結(jié)合,實(shí)現(xiàn)業(yè)務(wù)應(yīng)用的彈性擴(kuò)展VLB 系統(tǒng)根據(jù)用戶提供的腳本自動(dòng)部署業(yè)務(wù)所需的應(yīng)用軟件自動(dòng)部署其它服務(wù)其它服務(wù)- 27 -高級(jí)服務(wù)高級(jí)服務(wù)(橫向資源彈性調(diào)度)橫向資源彈性調(diào)度)Service(自動(dòng))API(業(yè)務(wù)系統(tǒng)判斷并執(zhí)行)Portal(人工判斷并執(zhí)行)展現(xiàn)形式- 28 -高級(jí)服務(wù)高級(jí)服務(wù)案例:案例:VM+VLB+云監(jiān)控云監(jiān)控+鏡像的資源彈性調(diào)度鏡像的資源彈性調(diào)度云監(jiān)控鏡像選擇預(yù)警虛擬機(jī)對(duì)應(yīng)的業(yè)務(wù)鏡像VM根據(jù)模板及鏡像創(chuàng)建出新的VMVLB將新VM加入到VLB成員列表中VM啟動(dòng)虛擬機(jī)監(jiān)控到CPU持續(xù)超過(guò)70%- 29 -p云計(jì)算發(fā)展解讀p云資源池
22、整體架構(gòu)設(shè)計(jì)p面向資源彈性調(diào)度的云資源池規(guī)劃與設(shè)計(jì)n面向運(yùn)維自動(dòng)化的云資源池池規(guī)劃與設(shè)計(jì)p Q&A提綱- 30 -自動(dòng)化運(yùn)維的構(gòu)成自動(dòng)化運(yùn)維的構(gòu)成自動(dòng)化運(yùn)維統(tǒng)一資源管理自動(dòng)化部署運(yùn)維資源彈性調(diào)度統(tǒng)一監(jiān)控管理(工單,服務(wù)流程、告警,性能)大數(shù)據(jù)運(yùn)維- 31 -運(yùn)運(yùn)維資源的彈性調(diào)度維資源的彈性調(diào)度 資源能力中規(guī)劃的能力分為: 面向租戶的能力 面向運(yùn)維的能力 面向運(yùn)維的資源能力只面向運(yùn)維人員提供對(duì)資源池資源彈性調(diào)度。 運(yùn)維資源需要與監(jiān)控和策略配合使用。 運(yùn)維資源的彈性調(diào)度支持半自動(dòng)和自動(dòng)兩種方式- 32 -VMware分布式資源調(diào)度(分布式資源調(diào)度(DRS)功能 跨資源池動(dòng)態(tài)調(diào)整計(jì)算資源 基
23、于預(yù)定義的規(guī)則智能分配資源優(yōu)勢(shì) 使IT和業(yè)務(wù)優(yōu)先級(jí)對(duì)應(yīng) 動(dòng)態(tài)提高系統(tǒng)管理效率 自動(dòng)化的硬件維護(hù)動(dòng)態(tài)負(fù)載均衡和連續(xù)智能優(yōu)化,保證所有應(yīng)用需要的的資源動(dòng)態(tài)負(fù)載均衡和連續(xù)智能優(yōu)化,保證所有應(yīng)用需要的的資源資源池資源池Resource Pool業(yè)務(wù)需求業(yè)務(wù)需求Business Demand圍繞業(yè)務(wù)進(jìn)行組織和規(guī)劃圍繞業(yè)務(wù)進(jìn)行組織和規(guī)劃而不是您的硬件而不是您的硬件!- 33 -通過(guò)通過(guò)VMware DRS動(dòng)態(tài)獲得硬件資源動(dòng)態(tài)獲得硬件資源負(fù)載分配規(guī)則設(shè)定一次,永遠(yuǎn)有效,自動(dòng)執(zhí)行易于添加更多的資源避免業(yè)務(wù)繁忙時(shí)段的過(guò)載動(dòng)態(tài)添加硬件動(dòng)態(tài)添加硬件資源池資源池CPU 36GHz, Mem 58GB優(yōu)先級(jí):優(yōu)先級(jí):
24、高高資源池資源池CPU 50 GHz, Mem 70GB優(yōu)先級(jí):高優(yōu)先級(jí):高- 34 -分布式電源管理分布式電源管理 (DPM) 資源池資源池業(yè)務(wù)需求業(yè)務(wù)需求下電當(dāng)整個(gè)群集需要資源減少時(shí),整合所當(dāng)整個(gè)群集需要資源減少時(shí),整合所有負(fù)載到少數(shù)幾臺(tái)服務(wù)器上有負(fù)載到少數(shù)幾臺(tái)服務(wù)器上將不需要的服務(wù)器置于備用模式將不需要的服務(wù)器置于備用模式當(dāng)負(fù)載增加時(shí),當(dāng)負(fù)載增加時(shí),DPM自動(dòng)將處于備用自動(dòng)將處于備用狀態(tài)的服務(wù)器喚醒狀態(tài)的服務(wù)器喚醒在確保服務(wù)級(jí)別的同時(shí),最大限度降低在確保服務(wù)級(jí)別的同時(shí),最大限度降低了數(shù)據(jù)中心服務(wù)器的耗電量了數(shù)據(jù)中心服務(wù)器的耗電量虛擬機(jī)沒(méi)有中斷或停機(jī)虛擬機(jī)沒(méi)有中斷或停機(jī)- 35 -利用利用
25、 Update Manager 和和 DRS 無(wú)中斷地升無(wú)中斷地升級(jí)級(jí) ESXVMotionVMotionUpdate Manager server大批量地升級(jí) ESX 并且不影響任何應(yīng)用的運(yùn)行,雖然 ESX 會(huì)重啟,但確保虛擬機(jī)永不停機(jī) Update Manager 升級(jí)整升級(jí)整個(gè)個(gè) DRS 群集群集 DRS 群集中的每個(gè)群集中的每個(gè) ESX 主機(jī)依次進(jìn)入維護(hù)模式主機(jī)依次進(jìn)入維護(hù)模式 虛擬機(jī)被虛擬機(jī)被 VMotion 到其到其他他ESX ESX 升級(jí)并重啟升級(jí)并重啟 虛擬機(jī)重新虛擬機(jī)重新 VMotion 回回來(lái)來(lái) 下一臺(tái)下一臺(tái) ESX 重復(fù)以上步重復(fù)以上步驟驟- 36 -統(tǒng)一資源管理統(tǒng)一資源
26、管理虛擬主機(jī)虛擬存儲(chǔ) 虛擬網(wǎng)絡(luò)虛擬資源域?qū)嶓w資源域?qū)嶓w主機(jī)實(shí)體存儲(chǔ)實(shí)體網(wǎng)絡(luò)CMDB- 37 -VMware HA功能 當(dāng)服務(wù)器故障時(shí),自動(dòng)重新啟動(dòng)虛擬機(jī)優(yōu)勢(shì) 經(jīng)濟(jì)有效的適用于所有應(yīng)用的高可用 不需要獨(dú)占的stand-by 硬件 沒(méi)有集群軟件的成本和復(fù)雜性經(jīng)濟(jì)有效的適用于所有應(yīng)用的高可用解決方案經(jīng)濟(jì)有效的適用于所有應(yīng)用的高可用解決方案X- 38 -統(tǒng)一資源管理統(tǒng)一資源管理-特性特性滿足云計(jì)算發(fā)展要求對(duì)于實(shí)體資源包括:物理機(jī)、存儲(chǔ)設(shè)備、網(wǎng)絡(luò)設(shè)備等進(jìn)行資產(chǎn)管理。對(duì)于包括虛擬機(jī)、操作系統(tǒng)、應(yīng)用軟件、業(yè)務(wù)軟件等進(jìn)行資產(chǎn)管理。實(shí)體與虛實(shí)體與虛擬資源統(tǒng)擬資源統(tǒng)一管理一管理根據(jù)資產(chǎn)的數(shù)據(jù)模型,支持資產(chǎn)間的關(guān)聯(lián)
27、關(guān)系管理。例如某物理機(jī)上安裝了操作系統(tǒng)、版本及補(bǔ)丁號(hào)等。資產(chǎn)管理關(guān)系管理資源管理系統(tǒng)與自動(dòng)部署系統(tǒng)對(duì)接,自動(dòng)識(shí)別物理機(jī)配置信息、安裝的操作系統(tǒng)/應(yīng)用系統(tǒng)/業(yè)務(wù)系統(tǒng)版本、補(bǔ)丁等信息,以及物理上創(chuàng)建的虛擬機(jī)等信息。資產(chǎn)自動(dòng)發(fā)現(xiàn)與更新資產(chǎn)管理支持資源視圖、業(yè)務(wù)視圖、CI項(xiàng)視圖等查詢和展示資源,并支持資源關(guān)聯(lián)關(guān)系鉆取展示,全方位的了解資產(chǎn)情況多維度資產(chǎn)展示- 39 -計(jì)算資源CMNET帶寬FC-SAN存儲(chǔ)分布式存儲(chǔ)公網(wǎng)IPn 私有云各類資源分配情況展示,為擴(kuò)容提供數(shù)據(jù)依據(jù)。n 固定時(shí)間段內(nèi)月均發(fā)生故障統(tǒng)計(jì)。n 各類資源故障以廠商和類型進(jìn)行統(tǒng)計(jì)廠家更換備件數(shù)量各類硬件更換數(shù)量統(tǒng)一資源管理統(tǒng)一資源管理-輔
28、助決策輔助決策- 40 -統(tǒng)一資源管理統(tǒng)一資源管理-輔助決策(輔助決策(續(xù)續(xù))資源池整體擴(kuò)容的輔助決策業(yè)務(wù)系統(tǒng)資源擴(kuò)容的申請(qǐng)輔助決策業(yè)務(wù)系統(tǒng)資源過(guò)剩收回資源的輔助決策備品備件的輔助決策資源池?cái)U(kuò)容廠商及型號(hào)選擇的輔助決策- 41 -自動(dòng)化部署自動(dòng)化部署現(xiàn)象本質(zhì)小李,明天需要安裝好50臺(tái)安裝好的物理機(jī)給業(yè)務(wù)部門使用?集團(tuán)公司要求8號(hào)前所有的Windows 7操作系統(tǒng)都需要打上SP3的補(bǔ)丁昨晚10臺(tái)BOSS的業(yè)務(wù)系統(tǒng)升級(jí),有一臺(tái)漏掉了,導(dǎo)致BOSS業(yè)務(wù)故障小王,明天給我提交一份報(bào)表,包括所有的物理機(jī)的配置,操作系統(tǒng)版本,補(bǔ)丁號(hào),安裝的應(yīng)用軟件版,業(yè)務(wù)軟件版本00的資產(chǎn)管理中顯示
29、的信息怎么跟實(shí)際的不一致,誰(shuí)又沒(méi)有按照流程處理,動(dòng)了這臺(tái)機(jī)器?這批HP DL380的太老了,需要升級(jí)微碼,才能安裝我們的系統(tǒng)小張,這批機(jī)器10號(hào)前需要全部安裝操作系統(tǒng)/Tomcat/監(jiān)控代理/計(jì)費(fèi)采集模塊人工已經(jīng)難以滿足業(yè)務(wù)本身對(duì)機(jī)器及業(yè)務(wù)上線速度的要求?有了完善IT運(yùn)維制度還不夠,如何保障制度被有效的執(zhí)行?運(yùn)維人員忙于各種系統(tǒng)安裝配置、沒(méi)有更多經(jīng)歷關(guān)注業(yè)務(wù)如何發(fā)展需要具備能真實(shí)反應(yīng)生產(chǎn)環(huán)境的資產(chǎn)清單,并且他不僅僅只包括物理機(jī)的配置人工操作難免出錯(cuò),如何避免/減少錯(cuò)誤的發(fā)生,降低故障率?- 42 - 統(tǒng)一資源管理能夠真實(shí)反映生產(chǎn)環(huán)境的資產(chǎn)及動(dòng)態(tài)配置資產(chǎn)管理能夠涵蓋設(shè)備配置/操作系統(tǒng)/應(yīng)用系統(tǒng)/
30、業(yè)務(wù)系統(tǒng)/補(bǔ)丁等多層面精細(xì)化管理資產(chǎn)管理與云平臺(tái)無(wú)縫對(duì)接目標(biāo) 自動(dòng)部署大批量自動(dòng)化部署操作系統(tǒng)的自動(dòng)部署應(yīng)用/業(yè)務(wù)軟件的自動(dòng)部署補(bǔ)丁自動(dòng)升級(jí)軟件倉(cāng)庫(kù)及版本的管理應(yīng)用調(diào)度流程管理 監(jiān)控與管理自動(dòng)部署任務(wù)監(jiān)控資產(chǎn)配置一致性掃描與檢查版本的一致性掃描與檢查設(shè)備/應(yīng)用/業(yè)務(wù)軟件監(jiān)控自動(dòng)化部署自動(dòng)化部署-目標(biāo)目標(biāo)- 43 -操作系統(tǒng)安裝軟件部署軟件調(diào)度管理應(yīng)用軟件監(jiān)控管理員物理機(jī)監(jiān)控資產(chǎn)庫(kù)物理機(jī)應(yīng)用軟件監(jiān)控agent軟件倉(cāng)庫(kù)管理員11、軟件發(fā)布2、資產(chǎn)錄入3、制定操作系統(tǒng) 自動(dòng)部署任務(wù)2344、提取操作系統(tǒng)版本5、部署操作系統(tǒng)6、更新資產(chǎn)庫(kù)7、返回安裝結(jié)果并通知568、性能/告警/開關(guān)機(jī)9、制定軟件自動(dòng)
31、部署任務(wù)10、提取軟件版本11、部署軟件712、更新資產(chǎn)庫(kù)13、返回安裝結(jié)果并通知14、運(yùn)行狀態(tài)/啟停15、軟件關(guān)聯(lián)關(guān)系管理及調(diào)度81091112131415自動(dòng)化部署自動(dòng)化部署-業(yè)務(wù)場(chǎng)景業(yè)務(wù)場(chǎng)景- 44 -自動(dòng)部署自動(dòng)部署-操作系統(tǒng)自動(dòng)部署操作系統(tǒng)自動(dòng)部署軟件庫(kù)Windows鏡像Redhat鏡像Suse鏡像OS InstallServerDHCP廣播FTP下載DHCP廣播FTP下載DHCP廣播FTP下載DHCP廣播FTP下載OS部署總控ServerOS模板以以PXE(網(wǎng)絡(luò)啟動(dòng))方式(網(wǎng)絡(luò)啟動(dòng))方式啟動(dòng)新增機(jī)器,從管理啟動(dòng)新增機(jī)器,從管理節(jié)點(diǎn)獲取節(jié)點(diǎn)獲取IPOS InstallServerOS
32、 InstallServerOS InstallServer- 45 -自動(dòng)部署自動(dòng)部署-軟件自動(dòng)部署特性軟件自動(dòng)部署特性批量部批量部署署批量:支持物理機(jī)和虛擬機(jī)的軟件批量部署批量:支持物理機(jī)和虛擬機(jī)的軟件批量部署自動(dòng)化:支持標(biāo)準(zhǔn)化的軟件安裝框架(標(biāo)準(zhǔn)打包、自動(dòng)化:支持標(biāo)準(zhǔn)化的軟件安裝框架(標(biāo)準(zhǔn)打包、安裝接口,卸載接口,啟停接口,監(jiān)控接口)自動(dòng)安裝接口,卸載接口,啟停接口,監(jiān)控接口)自動(dòng)安裝安裝定制化定制化安裝安裝定制化:支持用戶自定義的應(yīng)用軟件的安裝定制化:支持用戶自定義的應(yīng)用軟件的安裝動(dòng)態(tài)監(jiān)動(dòng)態(tài)監(jiān)控控動(dòng)態(tài)監(jiān)控:支持軟件安裝任務(wù)管理,查看任務(wù)進(jìn)度動(dòng)態(tài)監(jiān)控:支持軟件安裝任務(wù)管理,查看任務(wù)進(jìn)度及
33、結(jié)果,及自動(dòng)消息通知機(jī)制及結(jié)果,及自動(dòng)消息通知機(jī)制多軟件多軟件類型類型多軟件類型:支持主流中間件的安裝部署,包括多軟件類型:支持主流中間件的安裝部署,包括Oracle, Weblogic, Tomcat, MySQL, Glassfish, Jboss, Hadoop。支持各類操作系統(tǒng)支持補(bǔ)丁的安裝支持各類操作系統(tǒng)支持補(bǔ)丁的安裝- 46 -設(shè)備告警詳情拓?fù)渚W(wǎng)管告警性能自動(dòng)部署自動(dòng)部署-監(jiān)控管理監(jiān)控管理監(jiān)控agent/應(yīng)用軟件實(shí)時(shí)監(jiān)控告警標(biāo)準(zhǔn)化處理告警級(jí)別重定義應(yīng)用軟件監(jiān)控采集確認(rèn)通知工程中設(shè)備關(guān)聯(lián)信息清除告警監(jiān)控重復(fù)告警實(shí)時(shí)展示監(jiān)控上報(bào)拓?fù)涔芾硗負(fù)湔故痉纸M與鉆取拓?fù)溥^(guò)濾拓?fù)鋵?dǎo)出拓?fù)渚庉嬙O(shè)備主動(dòng)
34、上報(bào)告警性能閥值告警SNMPSNMP告警拓?fù)鋺?yīng)用監(jiān)控性能- 47 -自動(dòng)部署自動(dòng)部署-監(jiān)控監(jiān)控與管理特性與管理特性大規(guī)模:支持上萬(wàn)臺(tái)服務(wù)器監(jiān)控采集,通過(guò)分布式部署大規(guī)模:支持上萬(wàn)臺(tái)服務(wù)器監(jiān)控采集,通過(guò)分布式部署方式,提高采集效率方式,提高采集效率大規(guī)模大規(guī)模監(jiān)控監(jiān)控采采集集指標(biāo)定義:支持用戶自定義采集指標(biāo),用戶可以根據(jù)業(yè)指標(biāo)定義:支持用戶自定義采集指標(biāo),用戶可以根據(jù)業(yè)務(wù)需求靈活定義采集指標(biāo),不受操作系統(tǒng)限制務(wù)需求靈活定義采集指標(biāo),不受操作系統(tǒng)限制監(jiān)控指監(jiān)控指標(biāo)可定標(biāo)可定義義展示豐富:支持告警、性能和應(yīng)用監(jiān)控等獨(dú)立功能的展展示豐富:支持告警、性能和應(yīng)用監(jiān)控等獨(dú)立功能的展示,并支持網(wǎng)絡(luò)的拓?fù)湔故荆?/p>
35、可以將告警實(shí)時(shí)在拓?fù)鋱D示,并支持網(wǎng)絡(luò)的拓?fù)湔故?,可以將告警?shí)時(shí)在拓?fù)鋱D上反映出來(lái)上反映出來(lái)監(jiān)控展監(jiān)控展示豐富示豐富多樣化通知手段:支持短信、郵件等通知手段,方便運(yùn)維人多樣化通知手段:支持短信、郵件等通知手段,方便運(yùn)維人員及時(shí)了解系統(tǒng)情況員及時(shí)了解系統(tǒng)情況通知手通知手段多樣段多樣- 48 -自動(dòng)部署自動(dòng)部署-版本版本管理關(guān)鍵因素管理關(guān)鍵因素對(duì)業(yè)務(wù)、系統(tǒng)、軟件、補(bǔ)丁等信息進(jìn)行建模,針對(duì)版本管理要求完善版本基本信息、校驗(yàn)信息、部署依賴關(guān)系、補(bǔ)丁關(guān)系等進(jìn)行建模,保證版本的可管理性。完善的版完善的版本本數(shù)據(jù)數(shù)據(jù)模模型型軟件如池時(shí),需輸入完整版本信息,上傳安裝包后系統(tǒng)會(huì)進(jìn)行版本信息比對(duì),只有版本信息及安裝
36、包一致的情況下才生效。版本輸入一致性軟件部署作業(yè)批量部署軟件后,安裝腳本在安裝目錄生成軟本信息,系統(tǒng)比對(duì)所有安裝版本信息,保證批量部署的軟件版本一致。版本部署版本部署一致性一致性定時(shí)或手動(dòng)觸發(fā)軟件版本核對(duì)功能,系統(tǒng)通過(guò)部署的軟件版本信息以及其他關(guān)鍵信息與系統(tǒng)中版本信息比對(duì),出現(xiàn)不一致的情況則觸發(fā)告警。版本信息核對(duì)- 49 -自動(dòng)部署自動(dòng)部署-版本版本一致性一致性檢查檢查/巡檢巡檢版本信息元數(shù)據(jù)文件自動(dòng)生成軟件管理系統(tǒng)版本一致性檢查判斷條件:1、版本信息元數(shù)據(jù)文件是否存在;2、版本信息元數(shù)據(jù)文件信息與配置庫(kù)信息是否一致;3、檢查指紋數(shù)據(jù)是否與初始值一致安裝完成后的指紋數(shù)據(jù)(類svn)- 50 -
37、大數(shù)據(jù)運(yùn)維大數(shù)據(jù)運(yùn)維大數(shù)據(jù)運(yùn)維監(jiān)控指標(biāo)數(shù)據(jù)對(duì)接獲取指標(biāo)數(shù)據(jù)自學(xué)習(xí)和建模單指標(biāo)歷史基線分析多指標(biāo)相關(guān)性分析指標(biāo)異常預(yù)警多數(shù)據(jù)源數(shù)據(jù)采集- 51 -指標(biāo)數(shù)據(jù)自學(xué)習(xí)功能指標(biāo)數(shù)據(jù)自學(xué)習(xí)功能隨時(shí)間推移和指標(biāo)隨時(shí)間推移和指標(biāo)采樣數(shù)據(jù)采樣數(shù)據(jù)的的變化動(dòng)態(tài)刷新變化動(dòng)態(tài)刷新可靈活設(shè)定模型可靈活設(shè)定模型建立建立自學(xué)習(xí)自學(xué)習(xí)時(shí)間周期。時(shí)間周期。歷史歸檔數(shù)據(jù)和持續(xù)采集歷史歸檔數(shù)據(jù)和持續(xù)采集的的指標(biāo)指標(biāo)數(shù)據(jù)自學(xué)習(xí)完成數(shù)據(jù)自學(xué)習(xí)完成相關(guān)指標(biāo)采樣數(shù)據(jù)進(jìn)行相關(guān)指標(biāo)采樣數(shù)據(jù)進(jìn)行自學(xué)習(xí)自學(xué)習(xí),無(wú)需無(wú)需人工編寫分析規(guī)則。人工編寫分析規(guī)則。- 52 -單指標(biāo)歷史基線分析功能單指標(biāo)歷史基線分析功能基于數(shù)理統(tǒng)計(jì)算法對(duì)任意指標(biāo)采樣數(shù)據(jù)做變
38、動(dòng)基線分析。對(duì)周期性變化指標(biāo)可自學(xué)習(xí)和展現(xiàn)其周期變化規(guī)律基線??伤阉骱筒榭慈我獗环治鲋笜?biāo)的時(shí)間序列變化曲線和趨勢(shì)。- 53 -指標(biāo)行為軌跡的自學(xué)習(xí)和閥值自動(dòng)判定單KPI的自學(xué)習(xí)和分析圍繞其變動(dòng)基線展開閥值基于指標(biāo)采樣數(shù)據(jù)的波動(dòng)規(guī)律自動(dòng)判定TimeKPIUpper thresholdLower thresholdValue- 54 -KPI周期曲線TimeValueWeek 0Week 1Week 2Week 3upper thresholdlower thresholdTimeValueWeek 0Week 1Week 2Week 3upper thresholdlower threshold
39、現(xiàn)有模型引入自學(xué)習(xí)后模型- 55 -多指標(biāo)相關(guān)性分析功能多指標(biāo)相關(guān)性分析功能基于大數(shù)據(jù)分析和相關(guān)算法可自學(xué)習(xí)指標(biāo)間(多變量)因果關(guān)系。對(duì)于被關(guān)注的指標(biāo)數(shù)據(jù),系統(tǒng)會(huì)自學(xué)習(xí)并識(shí)別各指標(biāo)之間是否有相關(guān)性。如果有相關(guān)性,系統(tǒng)能自學(xué)習(xí)其數(shù)據(jù)變化,識(shí)別出這些指標(biāo) 之間“正?!钡南嚓P(guān)行為模式,并持續(xù)對(duì)其行為進(jìn)行跟蹤并提供圖形化的展現(xiàn)。系統(tǒng)可搜索、選擇任意數(shù)個(gè)指標(biāo)并放在同一個(gè)時(shí)間序列圖中查看這些指標(biāo)的變化曲線和趨勢(shì),包括選擇任意指標(biāo)的歷史基線進(jìn)行比對(duì)。- 56 -指標(biāo)異常預(yù)警功能指標(biāo)異常預(yù)警功能KPI指標(biāo)自學(xué)習(xí)動(dòng)態(tài)生成合理區(qū)間范圍異常發(fā)生形成告警信息- 57 -KPI指標(biāo)監(jiān)控策略指標(biāo)監(jiān)控策略資源池業(yè)務(wù)全景監(jiān)控
40、環(huán)境指標(biāo)分類指標(biāo)分類基線基線容忍線容忍線KPI樣例樣例策略策略類別一有容量限制靜態(tài)對(duì)于容量類(如最大并發(fā)用戶數(shù)等)告警,可以只設(shè)定高容忍線進(jìn)程數(shù)可設(shè)置多個(gè)超出時(shí)限,逐級(jí)升級(jí)告警連接數(shù)session總數(shù)類別二隨時(shí)間單向遞增或遞減靜態(tài)對(duì)于資源使用量類指標(biāo)(如磁盤利用率、磁盤空間、數(shù)據(jù)庫(kù)表空間等),可以在指標(biāo)變化趨勢(shì)的方向上設(shè)置單側(cè)容忍線(上容忍線或下容忍線)磁盤使用率設(shè)置上容忍線-可設(shè)置多個(gè)超出時(shí)限,逐級(jí)升級(jí)告警磁盤剩余空間設(shè)置下容忍線-可設(shè)置多個(gè)超出時(shí)限,逐級(jí)升級(jí)告警磁盤可使用天數(shù)根據(jù)歷史使用數(shù)據(jù),采用線性回歸算法,計(jì)算使用速率,從而估算空間的剩余可使用天數(shù)。表空間使用率設(shè)置上容忍線-可設(shè)置多個(gè)
41、超出時(shí)限,逐級(jí)升級(jí)告警類別三周期性變化很小 動(dòng)態(tài)對(duì)于命中率、部分使用率、或者響應(yīng)類的通用指標(biāo),可以只設(shè)定上容忍線或者下容忍線數(shù)據(jù)字典緩沖區(qū)命中率(%) 根據(jù)歷史數(shù)據(jù),采用正態(tài)分布算法,設(shè)置合理的超出時(shí)限庫(kù)高速緩沖區(qū)命中率(%) SGA命中率(%) 讀請(qǐng)求磁盤命中率(%)寫請(qǐng)求磁盤命中率(%)響應(yīng)時(shí)間堆內(nèi)存使用率線程個(gè)數(shù)類別四指標(biāo)波動(dòng)與時(shí)間相關(guān),隨時(shí)間變化呈規(guī)律性波動(dòng)動(dòng)態(tài)對(duì)于大部分周期性的指標(biāo),可同時(shí)設(shè)置上容忍線和下容忍線CPU使用率根據(jù)正態(tài)分布算法,設(shè)置周期變化的閾值內(nèi)存使用率網(wǎng)卡接收速率網(wǎng)卡發(fā)送率類別五納入KPI考核并給出達(dá)標(biāo)值要求靜態(tài)對(duì)于KPI類指標(biāo),設(shè)置單側(cè)容忍線(高容忍線或低容忍線)根
42、據(jù)實(shí)際需要調(diào)整可設(shè)置固定值,超出固定值則產(chǎn)生告警- 58 -案例案例1:?jiǎn)危簡(jiǎn)蜬PI分析分析-預(yù)測(cè)資源的消耗時(shí)間預(yù)測(cè)資源的消耗時(shí)間歷史數(shù)據(jù)分析對(duì)歷史剩余磁盤空間分析采用線性回歸算法計(jì)算磁盤的消 耗速率p數(shù)據(jù)庫(kù)表空間監(jiān)控時(shí),能看到剩余的表空間大小,可是每天用多少呢?剩余的空間究竟能用多久呢?預(yù)測(cè)基于實(shí)時(shí)的剩余表空間大小、計(jì)算的消耗速率p,來(lái)預(yù)測(cè)可使用的天數(shù)D根據(jù)實(shí)際使用情況精確預(yù)測(cè)出使用天數(shù),更有指導(dǎo)意義。我再也不用自己估算了- 59 -案例案例2:?jiǎn)螁蜬PI分析分析-周期性數(shù)據(jù)的動(dòng)態(tài)閾值設(shè)定周期性數(shù)據(jù)的動(dòng)態(tài)閾值設(shè)定歷史數(shù)據(jù)分析對(duì)歷史CPU使用率進(jìn)行分析利用正態(tài)分布法計(jì)算某時(shí)刻的上下閾值自動(dòng)識(shí)別周期性數(shù)據(jù)和非周期性數(shù)據(jù)能夠在周期性和非周期性間切換CPU的使用率是周期性,閾值該設(shè)定多少呢?多少才是最符合實(shí)際業(yè)務(wù)運(yùn)行需要呢?- 60 -案例案例2:?jiǎn)螁蜬PI分析分析-周期性數(shù)據(jù)的動(dòng)態(tài)閾值設(shè)定周期性數(shù)據(jù)的動(dòng)態(tài)閾值設(shè)定決策輔助顯示相關(guān)的信息數(shù)據(jù),輔助用戶做后續(xù)的處理決策顯示過(guò)去N個(gè)周期內(nèi),該時(shí)間段的CPU數(shù)據(jù)顯示該設(shè)備最近的N條故障信息顯示該時(shí)刻內(nèi)存
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 個(gè)人保險(xiǎn)理賠授權(quán)委托書
- 單次包車合同范本
- 口罩委托采購(gòu)合同范本
- 獸藥代理合同范本
- 世界水日活動(dòng)策劃方案
- 下學(xué)期幼兒教師的個(gè)人總結(jié)
- 推拿治療學(xué)模擬題+答案
- 別墅建設(shè)合同范本
- 勞務(wù)合同補(bǔ)充合同范本
- 發(fā)光字安裝合同范本
- 火鍋店運(yùn)營(yíng)管理的問(wèn)題與解決方案
- 【正版授權(quán)】 ISO 724:2023 EN ISO general purpose metric screw threads - Basic dimensions
- CJJ2-2008城市橋梁工程施工與質(zhì)量驗(yàn)收規(guī)范
- 新媒體營(yíng)銷:營(yíng)銷方式+推廣技巧+案例實(shí)訓(xùn) 微課版 第2版 教學(xué)大綱
- 基于街區(qū)尺度的精細(xì)化大氣污染溯源模型建設(shè)需求
- 德育教育研究課題申報(bào)書
- 2024年岳陽(yáng)職業(yè)技術(shù)學(xué)院?jiǎn)握新殬I(yè)適應(yīng)性測(cè)試題庫(kù)匯編
- (高清版)JTG 3810-2017 公路工程建設(shè)項(xiàng)目造價(jià)文件管理導(dǎo)則
- 《ISO31000:2024風(fēng)險(xiǎn)管理指南》指導(dǎo)手冊(cè)(雷澤佳譯2024-04)
- 2024年甘肅省公務(wù)員公共基礎(chǔ)知識(shí)重點(diǎn)考試題庫(kù)(含答案)
- 《拒絕校園欺凌 防霸凌主題班會(huì)》課件
評(píng)論
0/150
提交評(píng)論