




版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
1、VMWare vSAN技術(shù)深入解析大綱1VSAN 概述2VSAN的架構(gòu)3VSAN集群的配置4VSAN的存儲(chǔ)策略5VSAN集群的監(jiān)控2VSAN 概述VMware 可提供適合軟件定義的數(shù)據(jù)中心的每個(gè)組成部分的產(chǎn)品。 VMware 軟件定義的數(shù)據(jù)中心的組成部分管理和自動(dòng)化計(jì)算存儲(chǔ)/可用性vRealize OperationsvRealize AutomationvRealize Business 網(wǎng)絡(luò)/安全性Virtual SANvCenterSite Recovery ManagervCentervSphereVMware NSXVirtual SAN 是軟件的一個(gè)分布式層,作為 VMware E
2、SXi 虛擬化管理程序的一部分以本機(jī)方式運(yùn)行。 Virtual SAN 可聚合主機(jī)集群中的本地存儲(chǔ)或直連存儲(chǔ)磁盤(pán),并創(chuàng)建一個(gè)在集群中所有主機(jī)間共享的存儲(chǔ)池。 Virtual SANvSphere + Virtual SAN硬盤(pán)硬盤(pán)SSDSSD硬盤(pán)SSDVirtual SAN 共享數(shù)據(jù)存儲(chǔ)VSAN的架構(gòu)Virtual SAN 是一種集群功能。該功能與 VMware ESXi 集成以創(chuàng)建分布式 RAID。Virtual SAN 集群ESXi AESXi BESXi CVirtual SAN 集群Virtual SAN 集群需要:三臺(tái) ESXi 5.5 Update 1 主機(jī),用于提供本地磁盤(pán)將由
3、VMware vCenter Server 5.5 Update 1 管理的主機(jī)Virtual SAN ESXi 集群成員需要:連接至一個(gè)支持多播(IGMP 監(jiān)聽(tīng))的 L2 網(wǎng)絡(luò)的專(zhuān)用 1 Gb 以太網(wǎng)網(wǎng)卡由 Virtual SAN 提供支持的 VMkernel 端口必須使用VMware 兼容性指南,確認(rèn)所有硬件均支持 Virtual SANVirtual SAN 的最低要求一個(gè) 1 Gb 或 10 Gb 網(wǎng)卡SAS/SATA 控制器或是在直通模式或 RAID0 模式下工作的 RAID 控制器一個(gè) SAS/SATA/PCIe SSD一個(gè) SAS/NL-SAS/SATA HDDVirtual S
4、AN 使用 ESXi 主機(jī)本地基于閃存的設(shè)備和磁盤(pán)來(lái)存儲(chǔ)數(shù)據(jù),并使用以太網(wǎng)基于可配置的策略在 ESXi 集群節(jié)點(diǎn)之間復(fù)制數(shù)據(jù)。 硬盤(pán) (HDD) 提供永久存儲(chǔ)容量層?;陂W存的設(shè)備(如固態(tài)硬盤(pán) (SSD))提供緩存層:讀緩存寫(xiě)緩沖區(qū) 分布式存儲(chǔ)復(fù)制基于以太網(wǎng)的數(shù)據(jù)復(fù)制讀緩存的作用維護(hù)一份經(jīng)常被訪問(wèn)的磁盤(pán)塊的記錄。緩存命中可縮短讀取延遲時(shí)間。緩存未命中時(shí)從 HDD 檢索數(shù)據(jù)。70% 的閃存設(shè)備容量用于讀緩存。寫(xiě)緩沖區(qū)的作用用作非易失性寫(xiě)緩沖區(qū)??s短寫(xiě)入操作的延遲時(shí)間。寫(xiě)入操作會(huì)在進(jìn)入準(zhǔn)備階段時(shí)進(jìn)行確認(rèn)。30% 的閃存設(shè)備容量用于寫(xiě)緩沖區(qū)?;陂W存的讀緩存和寫(xiě)緩沖區(qū)緩存寫(xiě)入提交確認(rèn)23回寫(xiě)(寫(xiě)緩沖
5、區(qū))1寫(xiě)入提交確認(rèn)32直寫(xiě)(只讀)1緩存磁盤(pán)組是由基于閃存的設(shè)備和磁盤(pán)組成的 Virtual SAN 管理結(jié)構(gòu): 需要一個(gè)閃存設(shè)備每個(gè)磁盤(pán)組最多一個(gè)閃存設(shè)備需要一個(gè) HDD每個(gè)磁盤(pán)組最多支持七個(gè) HDD每臺(tái)主機(jī)最多五個(gè)磁盤(pán)組磁盤(pán)組磁盤(pán)組Virtual SAN 和基于對(duì)象的存儲(chǔ)組件對(duì)象存儲(chǔ)策略 RAID0RAID1保留20%緩存5%覆蓋否磁盤(pán)組磁盤(pán)組磁盤(pán)組磁盤(pán)組ww命名空間VMDK快照交換文件Virtual SAN 數(shù)據(jù)存儲(chǔ)策略A策略B策略C策略AVirtual SAN 網(wǎng)絡(luò)組件w組件組件wVirtual SAN 集群對(duì)象策略虛擬機(jī)對(duì)象包括多個(gè)組件,這些組件分布在 ESXi 主機(jī)上的各個(gè)磁盤(pán)組中
6、。采用這種分布方式是為了滿足虛擬機(jī)存儲(chǔ)策略和內(nèi)部?jī)?yōu)化例程的要求。虛擬機(jī)有四種不同類(lèi)型的對(duì)象:虛擬機(jī)主頁(yè)命名空間虛擬機(jī)磁盤(pán) (VMDK)虛擬機(jī)交換文件快照增量對(duì)象和組件Virtual SAN 集群ESXi ESXi ESXi Virtual SAN 數(shù)據(jù)存儲(chǔ)組件VMDK 對(duì)象只有由 Virtual SAN 提供支持的集群的主機(jī)成員才能訪問(wèn) Virtual SAN 數(shù)據(jù)存儲(chǔ):Virtual SAN 數(shù)據(jù)存儲(chǔ)不能提供給外部主機(jī)訪問(wèn)。遠(yuǎn)程數(shù)據(jù)存儲(chǔ)(LUN、NFS)可以提供給 Virtual SAN 集群的主機(jī)成員訪問(wèn)。主機(jī)可以加入 Virtual SAN 集群而不提供存儲(chǔ)資源。 Virtual SAN
7、 數(shù)據(jù)存儲(chǔ)的可訪問(wèn)性和加入方式您為虛擬機(jī)定義的存儲(chǔ)策略會(huì)捕捉虛擬機(jī)主目錄文件和虛擬磁盤(pán)在虛擬機(jī)中運(yùn)行應(yīng)用所需的存儲(chǔ)特性:策略基于存儲(chǔ)功能。在部署時(shí)為虛擬機(jī)選擇策略。存儲(chǔ)策略可隨時(shí)更改。存儲(chǔ)策略ESXi vSphere + Virtual SANVirtual SAN 數(shù)據(jù)存儲(chǔ)Virtual SAN 網(wǎng)絡(luò)ESXi ESXi 容量可用性性能虛擬機(jī)存儲(chǔ)策略虛擬機(jī)存儲(chǔ)對(duì)象(虛擬機(jī)主目錄、VMDK、增量文件、交換文件)可以分布在 Virtual SAN 集群中的多個(gè)主機(jī)和磁盤(pán)內(nèi)。虛擬機(jī)可以使用復(fù)制副本提供可用性,或使用條帶提供 HDD 性能??捎眯怨δ躹Sphere + Virtual SANVirtu
8、al SAN 數(shù)據(jù)存儲(chǔ)副本和條帶副本和條帶ESXiESXi ESXi 鏡像可創(chuàng)建同一對(duì)象的多個(gè)副本以提高可用性級(jí)別。為每個(gè)對(duì)象創(chuàng)建的副本的數(shù)量取決于配置的虛擬機(jī)存儲(chǔ)策略。鏡像abcabcabc要存儲(chǔ)的數(shù)據(jù):abc所有虛擬機(jī) I/O 都將定向到基于 SSD 的緩存層。 寫(xiě)入的數(shù)據(jù)稍后會(huì)轉(zhuǎn)儲(chǔ)到永久存儲(chǔ)。如果請(qǐng)求的讀取數(shù)據(jù)塊不在緩存中,會(huì)將該讀取請(qǐng)求定向到基于 HDD 的永久存儲(chǔ)。性能功能vSphere + Virtual SANVirtual SAN 數(shù)據(jù)存儲(chǔ)12vSphere + Virtual SANVirtual SAN 數(shù)據(jù)存儲(chǔ)12條帶化可將給定對(duì)象的數(shù)據(jù)拆分為多個(gè)條帶(也稱為分段)。 通
9、過(guò)條帶化,可以由多個(gè) Virtual SAN 磁盤(pán)組同時(shí)支持一個(gè)數(shù)據(jù)請(qǐng)求,從而提高性能。 可同時(shí)訪問(wèn)不同的數(shù)據(jù)條帶。 條帶化abc要存儲(chǔ)的數(shù)據(jù):cba可結(jié)合使用鏡像和條帶化以提供可用性和性能方面的優(yōu)勢(shì)。鏡像和條帶化abcabcabcabc要存儲(chǔ)的數(shù)據(jù):Virtual SAN 引入了一個(gè)名為 Virtual SAN 流量的 VMkernel 端口屬性。 Virtual SAN 集群主機(jī)必須有連接至虛擬交換機(jī)且支持 Virtual SAN 流量的 VMkernel 端口。 Virtual SAN 網(wǎng)絡(luò)連接ESXi AESXi BESXi CVirtual SAN 網(wǎng)絡(luò)支持 Virtual SAN
10、流量的 VMkernel 端口。標(biāo)準(zhǔn)交換機(jī)支持 Virtual SAN 流量的 VMkernel 端口。標(biāo)準(zhǔn)交換機(jī)支持 Virtual SAN 流量的 VMkernel 端口。標(biāo)準(zhǔn)交換機(jī)VMware Virtual SAN 初始使用情形處理峰值性能,例如啟動(dòng)、登錄、讀/寫(xiě)風(fēng)暴可無(wú)縫精確擴(kuò)展,無(wú)需大量前期投資支持高 VDI 密度快速存儲(chǔ)調(diào)配和全面自動(dòng)化理想的性價(jià)比最大程度減少數(shù)據(jù)中心占用空間與 vSphere Replication 和 VMware SRM 集成與 vSphere Data Protection 和 EMC Avamar 集成降低存儲(chǔ)成本最大程度減少數(shù)據(jù)中心占用空間虛擬桌面 (
11、VDI)第 2 層/第 3 層測(cè)試和開(kāi)發(fā)私有云備份和/或?yàn)?zāi)難恢復(fù)目標(biāo)站點(diǎn) A站點(diǎn) BVSAN集群的配置您必須正確配置 Virtual SAN 集群中包含的 ESXi 主機(jī)上的網(wǎng)絡(luò)接口。由 Virtual SAN 提供支持的 ESXi 主機(jī)通過(guò)已標(biāo)記為傳送 Virtual SAN 流量的 VMkernel 端口相互通信。VMware vSphere 5.5 中增加了一項(xiàng)新的 VMkernel 服務(wù),稱為 Virtual SAN 流量。配置 Virtual SAN 網(wǎng)絡(luò)連接ESXi AESXi BESXi CVirtual SAN 網(wǎng)絡(luò)管理網(wǎng)絡(luò)每個(gè)加入 Virtual SAN 集群的主機(jī)都必須有支
12、持 Virtual SAN 流量服務(wù)的 VMkernel 端口。配置 Virtual SAN VMkernel 端口可以在創(chuàng)建新集群期間創(chuàng)建 Virtual SAN 集群,也可以在現(xiàn)有集群中啟用 Virtual SAN 集群。創(chuàng)建 Virtual SAN 集群時(shí),請(qǐng)遵循以下指導(dǎo)原則:一個(gè) Virtual SAN 集群必須至少包含 3 臺(tái) ESXi 主機(jī)。為了使 Virtual SAN 集群能夠承受主機(jī)故障和磁盤(pán)故障,至少要有 3 臺(tái)加入 Virtual SAN 集群的主機(jī)提供存儲(chǔ)磁盤(pán)。只有 ESXi 5.5 Update 1 主機(jī)可以加入 Virtual SAN 集群。將主機(jī)從一個(gè) Virtu
13、al SAN 集群移至另一個(gè)集群之前,請(qǐng)先確保目標(biāo)集群受 Virtual SAN 支持。ESXi 主機(jī)必須是 Virtual SAN 集群的成員,才能訪問(wèn) Virtual SAN 數(shù)據(jù)存儲(chǔ)。啟用 Virtual SAN可在同一集群中啟用 VMware vSphere High Availability 和 Virtual SAN,它們會(huì)為駐留在 Virtual SAN 數(shù)據(jù)存儲(chǔ)中的虛擬機(jī)提供同一級(jí)別的保護(hù)。使用 vSphere HA 的其他集群要求包括:集群中的 ESXi 主機(jī)必須為 5.5 版或更高版本。僅當(dāng) vSphere HA 處于禁用狀態(tài)時(shí),才能啟用 Virtual SAN。Virtu
14、al SAN 與 vSphere HA在 Virtual SAN 集群中啟用 vSphere HA 后,vSphere HA 代理間流量會(huì)流經(jīng) Virtual SAN 網(wǎng)絡(luò)而非管理網(wǎng)絡(luò):如果 Virtual SAN 被禁用,vSphere HA 流量將遷移回管理網(wǎng)絡(luò)。vSphere HA 與 Virtual SAN 的網(wǎng)絡(luò)連接差異ESXi AESXi BESXi CVirtual SAN 網(wǎng)絡(luò)管理網(wǎng)絡(luò)HA 代理間流量要?jiǎng)?chuàng)建 Virtual SAN 集群,請(qǐng)執(zhí)行以下操作:驗(yàn)證是否滿足適用于 Virtual SAN 的 VMware 兼容性指南中規(guī)定的先決條件。啟動(dòng)“New Cluster”(新建
15、集群)向?qū)А榧好?。選中 Virtual SAN 對(duì)應(yīng)的“Turn ON”(打開(kāi))復(fù)選框。選擇磁盤(pán)申領(lǐng)模式。添加主機(jī)。創(chuàng)建 Virtual SAN 集群要在現(xiàn)有主機(jī)集群中啟用 Virtual SAN,需要滿足以下要求:已對(duì)硬件進(jìn)行驗(yàn)證,確保其滿足適用于 Virtual SAN 的 VMware 兼容性指南中的要求存在三臺(tái)主機(jī)vSphere HA 已禁用在現(xiàn)有集群中啟用 Virtual SAN如果在啟用 Virtual SAN 期間選擇了“Automatic”(自動(dòng))模式,系統(tǒng)會(huì)創(chuàng)建一個(gè)存儲(chǔ)集群,并將磁盤(pán)組分配給每個(gè)主機(jī):使用所有可用的本地磁盤(pán)創(chuàng)建主機(jī)可支持的盡可能多的磁盤(pán)組。 使用自動(dòng)磁盤(pán)
16、申領(lǐng)模式如果在啟用 Virtual SAN 的情況下選擇“Manual”(手動(dòng))模式,系統(tǒng)會(huì)創(chuàng)建存儲(chǔ)集群。但是,Virtual SAN 數(shù)據(jù)存儲(chǔ)的初始大小為 0 字節(jié)。管理員必須在每個(gè)加入的主機(jī)上手動(dòng)創(chuàng)建磁盤(pán)組。使用手動(dòng)磁盤(pán)申領(lǐng)模式管理員可使用“Select all eligible disks”(選擇所有合格磁盤(pán))來(lái)自動(dòng)為一個(gè)或所有主機(jī)選擇一個(gè)可用固態(tài)硬盤(pán)和所有可用磁盤(pán)。創(chuàng)建磁盤(pán)組在 VMware vSphere Client 中,選擇由 Virtual SAN 支持的集群,然后選擇“Manage”(管理)“Settings”(設(shè)置)“Disk Management”(磁盤(pán)管理)。查看磁盤(pán)組
17、12345VSAN的存儲(chǔ)策略虛擬機(jī)存儲(chǔ)策略定義了一組功能要求,Virtual SAN 根據(jù)這組要求確定集群中對(duì)象和組件的布局:策略基于 Virtual SAN 的功能。創(chuàng)建對(duì)象時(shí),系統(tǒng)會(huì)向 Virtual SAN 層提供策略要求,然后根據(jù)這些要求構(gòu)建對(duì)象。存儲(chǔ)策略可隨時(shí)更改。系統(tǒng)將監(jiān)控策略以確保其合規(guī)性。Virtual SAN 和基于存儲(chǔ)策略的管理 ESXi vSphere + Virtual SANVirtual SAN 數(shù)據(jù)存儲(chǔ)Virtual SAN 網(wǎng)絡(luò)ESXi ESXi 容量可用性性能虛擬機(jī)存儲(chǔ)策略要手動(dòng)啟用虛擬機(jī)存儲(chǔ)策略,請(qǐng)選擇“Rules and Profiles”(規(guī)則和配置文件
18、)“VM Storage Policies”(虛擬機(jī)存儲(chǔ)策略)“Enable VM storage policies per compute resource”(按計(jì)算資源啟用虛擬機(jī)存儲(chǔ)策略)。手動(dòng)啟用存儲(chǔ)策略Virtual SAN 的虛擬機(jī)存儲(chǔ)策略功能 存儲(chǔ)功能使用情形值容許的故障數(shù)(若要容許 n 個(gè)故障,則要?jiǎng)?chuàng)建 n+1 個(gè)副本。)冗余默認(rèn) 1最大 3每個(gè)對(duì)象的磁盤(pán)條帶數(shù)(條帶化)性能默認(rèn) 1最大 12對(duì)象空間預(yù)留厚配置默認(rèn) 0最大 100%閃存讀緩存預(yù)留性能默認(rèn) 0最大 100%強(qiáng)制調(diào)配覆蓋策略禁用定義存儲(chǔ)對(duì)象能容許的主機(jī)、磁盤(pán)或網(wǎng)絡(luò)故障的數(shù)量: 若要容許 n 個(gè)故障,則要?jiǎng)?chuàng)建 n+1
19、個(gè)對(duì)象副本,并且需要 2n+1 臺(tái)主機(jī)提供存儲(chǔ)。 默認(rèn)值:1。最大值:3。容許的故障數(shù)vSphere 集群ESXi ESXi ESXi VMDKVirtual SAN 數(shù)據(jù)存儲(chǔ)RAID 1此值規(guī)定分布有存儲(chǔ)對(duì)象的每個(gè)條帶化副本的磁盤(pán)的數(shù)量: 此值大于 1 會(huì)獲得更好的性能,但也會(huì)占用更多的系統(tǒng)資源。 默認(rèn)值:1。最大值:12。每個(gè)對(duì)象的磁盤(pán)條帶數(shù)vSphere 集群ESXi ESXi ESXi 虛擬機(jī)VMDKVirtual SAN 數(shù)據(jù)存儲(chǔ)副本 1副本 2RAID 1系統(tǒng)將閃存容量預(yù)留為存儲(chǔ)對(duì)象的讀緩存,該容量以對(duì)象邏輯大小的百分比的形式指定。預(yù)留閃存容量無(wú)法用于其他對(duì)象。 未預(yù)留的閃存在所有
20、對(duì)象之間平等共享。 默認(rèn)值:0%。最大值:100%。閃存讀緩存預(yù)留vSphere 集群ESXi ESXi ESXi VMDK副本 1副本 2RAID 1預(yù)留閃存設(shè)備虛擬機(jī)Virtual SAN 數(shù)據(jù)存儲(chǔ)如果您選擇“Yes”(是),則即使集群中當(dāng)前可用的資源不符合存儲(chǔ)策略中指定的策略,系統(tǒng)仍將調(diào)配對(duì)象: 如果資源變?yōu)榭捎脿顟B(tài),Virtual SAN 將在其可用時(shí)嘗試使對(duì)象合規(guī)。 默認(rèn)值:“No”(否)。強(qiáng)制調(diào)配對(duì)象空間預(yù)留是在調(diào)配計(jì)算機(jī)時(shí)預(yù)留(實(shí)施厚配置)的存儲(chǔ)對(duì)象邏輯大小的百分比。其余存儲(chǔ)對(duì)象采用精簡(jiǎn)配置: 默認(rèn)值:0%。最大值:100%。對(duì)象空間預(yù)留當(dāng) vSphere 管理員選擇一個(gè)目標(biāo)數(shù)據(jù)
21、存儲(chǔ)時(shí),可以從可用虛擬機(jī)存儲(chǔ)策略下拉菜單中選擇存儲(chǔ)策略。在調(diào)配過(guò)程中應(yīng)用虛擬機(jī)存儲(chǔ)策略VSAN集群的監(jiān)控通過(guò) vSphere Web Client 中 Virtual SAN 集群對(duì)象的“Manage”(管理)選項(xiàng)卡,可以更改磁盤(pán)申領(lǐng)模式。Virtual SAN 常規(guī)設(shè)置在磁盤(pán)管理部分的“Settings”(設(shè)置)選項(xiàng)卡中,您可以執(zhí)行以下操作:申領(lǐng)磁盤(pán)(向所有主機(jī)添加磁盤(pán)組)創(chuàng)建新的磁盤(pán)組刪除磁盤(pán)組向磁盤(pán)組中添加磁盤(pán)Virtual SAN 磁盤(pán)管理設(shè)置在此案例中,加入 Virtual SAN 集群的某個(gè)主機(jī)后面連接的一個(gè)磁盤(pán)發(fā)生故障。Virtual SAN 立即啟動(dòng)性能已降級(jí)的組件的副本。磁盤(pán)
22、故障Virtual SAN 網(wǎng)絡(luò)VMDKVMDK見(jiàn)證ESXi-01ESXi-02ESXi-03ESXi-04Virtual SAN 策略:“容許的故障數(shù) = 1”RAID-1VMDK在此案例中,加入 Virtual SAN 集群的一個(gè)主機(jī)發(fā)生故障。必須經(jīng)過(guò) 60 分鐘后才能執(zhí)行恢復(fù)操作。主機(jī)故障Virtual SAN 網(wǎng)絡(luò)VMDKVMDK見(jiàn)證ESXi-01ESXi-02ESXi-03ESXi-04策略:“容許的故障數(shù) = 1”RAID-1VMDK60 分鐘延遲您可將 ESXi 主機(jī)添加到集群中,而無(wú)需中斷其他主機(jī)或虛擬機(jī)的運(yùn)行:新的集群成員可增加存儲(chǔ)和計(jì)算容量。將主機(jī)添加到 Virtual SAN 集群向現(xiàn)有集群成員添加新存儲(chǔ)磁盤(pán)后,Virtual SAN 幾乎能夠立即使用這些磁盤(pán):可將
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 單獨(dú)招生(機(jī)電類(lèi))測(cè)試題與答案
- 個(gè)人寒假學(xué)習(xí)計(jì)劃
- 體育器械采購(gòu)合同范本
- 企業(yè)聯(lián)銷(xiāo)合同范本
- 單位電力購(gòu)買(mǎi)合同范本
- 醫(yī)療器械回收合同范本
- 出租光伏平房合同范本
- 衛(wèi)生院聘用合同范本
- 《讓世界充滿愛(ài)》教案設(shè)計(jì)
- 儲(chǔ)氣庫(kù)鉆井招投標(biāo)合同范本
- 2024年湖南工業(yè)職業(yè)技術(shù)學(xué)院高職單招職業(yè)技能測(cè)驗(yàn)歷年參考題庫(kù)(頻考版)含答案解析
- 新視野大學(xué)英語(yǔ)(第四版)讀寫(xiě)教程1(思政智慧版)課件 Unit 5 Friendship across border and gender
- 2023年北京市地質(zhì)礦產(chǎn)勘查院所屬事業(yè)單位招聘考試真題
- 世界著名童話故事英文繪本故事丑小鴨
- 英語(yǔ)板書(shū)設(shè)計(jì)(課件)
- 三年級(jí)勞動(dòng)課1ppt
- 智能中臺(tái)數(shù)據(jù)底座解決方案
- 《財(cái)政與金融》課程教學(xué)大綱
- 《國(guó)際稅收》教案
- 傳統(tǒng)體育養(yǎng)生概論
- 公益性崗位保潔員保證書(shū)
評(píng)論
0/150
提交評(píng)論