![DM7可靠的讀寫分離系統(tǒng)操作手冊_第1頁](http://file3.renrendoc.com/fileroot_temp3/2021-12/12/836a1651-20f4-40cf-826c-02778969a46f/836a1651-20f4-40cf-826c-02778969a46f1.gif)
![DM7可靠的讀寫分離系統(tǒng)操作手冊_第2頁](http://file3.renrendoc.com/fileroot_temp3/2021-12/12/836a1651-20f4-40cf-826c-02778969a46f/836a1651-20f4-40cf-826c-02778969a46f2.gif)
![DM7可靠的讀寫分離系統(tǒng)操作手冊_第3頁](http://file3.renrendoc.com/fileroot_temp3/2021-12/12/836a1651-20f4-40cf-826c-02778969a46f/836a1651-20f4-40cf-826c-02778969a46f3.gif)
![DM7可靠的讀寫分離系統(tǒng)操作手冊_第4頁](http://file3.renrendoc.com/fileroot_temp3/2021-12/12/836a1651-20f4-40cf-826c-02778969a46f/836a1651-20f4-40cf-826c-02778969a46f4.gif)
![DM7可靠的讀寫分離系統(tǒng)操作手冊_第5頁](http://file3.renrendoc.com/fileroot_temp3/2021-12/12/836a1651-20f4-40cf-826c-02778969a46f/836a1651-20f4-40cf-826c-02778969a46f5.gif)
版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、系統(tǒng)概述在一個高并發(fā)的事務(wù)型系統(tǒng)中,當(dāng)寫事務(wù)占的比例相對讀事務(wù)相對較小時,可以借助DM7的主備系統(tǒng)備機(jī)可讀的特點(diǎn),將讀事務(wù)轉(zhuǎn)移到備機(jī)執(zhí)行,減少單節(jié)點(diǎn)的并發(fā)壓力,通過增加備機(jī)節(jié)點(diǎn)資源,提高系統(tǒng)的并發(fā)能力,增強(qiáng)系統(tǒng)性能。DM7提供一種獨(dú)具創(chuàng)新的主備方案,讀寫分離主備系統(tǒng),該系統(tǒng)可通過客戶端來實(shí)現(xiàn)讀寫事務(wù)的自動分離,讀事務(wù)在備機(jī)執(zhí)行,寫事務(wù)在主機(jī)執(zhí)行,減輕主機(jī)的負(fù)載。備機(jī)可以配置多個,理論上說,在允許的范圍內(nèi),備機(jī)配置的越多,更能分擔(dān)主機(jī)的壓力,系統(tǒng)整體并發(fā)效率越高。目前該系統(tǒng)的限制:n 目前只支持JDBC客戶端n 限制最多支持8個即時備機(jī)即時歸檔DM7支持多種歸檔類型,本地歸檔、實(shí)時歸檔、同步歸檔
2、、異步歸檔等類型。為了實(shí)現(xiàn)讀寫分離,新增一種即時歸檔(Timely archive)類型,以區(qū)別實(shí)時歸檔。實(shí)時歸檔是實(shí)時發(fā)送日志到備機(jī),備機(jī)收到日志不會等待日志APPLY完成,立即響應(yīng)給主機(jī),主機(jī)收到響應(yīng)后才刷本地日志。即時歸檔的歸檔方式是先刷本地日志,然后發(fā)送到備機(jī),并且等待備機(jī)APPLY完成,之所以要這么做,原因有2個:首先,在主機(jī)發(fā)送完日志到備機(jī)后刷日志前主機(jī)崩潰的情況下,不能讓備機(jī)多一段日志,確保主機(jī)數(shù)據(jù)是完整且最新的。其次,需要保證主備機(jī)的數(shù)據(jù)一致性,避免從備機(jī)讀的數(shù)據(jù)到主機(jī)進(jìn)行更新時數(shù)據(jù)已經(jīng)不一致了。在某些不需要保證嚴(yán)格一致性的情況下,可以通過dmarch.ini中的ARCH_WA
3、IT_APPLY配置項(xiàng),來配置不需要等待備機(jī)重做完日志的主備系統(tǒng),類似于實(shí)時歸檔,可以進(jìn)一步提高系統(tǒng)性能。系統(tǒng)架構(gòu)dmrwwdmrwwdmrwwdmrwwPRIMARYSTANDBYSTANDBYSTANDBYCLIENTCLIENTCLIENTdmrwmCLIENT如上圖:系統(tǒng)架構(gòu)中包含一個主機(jī)實(shí)例,多個備機(jī)實(shí)例,帶雙向箭頭的為內(nèi)網(wǎng)傳輸線路,帶標(biāo)注線的為外網(wǎng)應(yīng)用傳輸線路。n 讀寫分離流程1) 用戶登錄后,客戶端首先連接到主機(jī),主機(jī)根據(jù)即時歸檔的配置,獲取一個有效的備機(jī)信息,并返回給客戶端。2) 客戶端根據(jù)主機(jī)返回的備機(jī)IP和端口,建立與該備機(jī)的連接3) 客戶端執(zhí)行語句時先在備機(jī)上執(zhí)行,如果是
4、只讀事務(wù),則只在備機(jī)上執(zhí)行4) 如果報試圖在備機(jī)模式下修改數(shù)據(jù)等錯誤,則說明該事務(wù)是寫事務(wù),繼續(xù)轉(zhuǎn)移到主機(jī)上執(zhí)行5) 一旦主機(jī)上執(zhí)行的寫事務(wù)提交,則下次繼續(xù)從備機(jī)開始執(zhí)行6) 為了實(shí)現(xiàn)負(fù)載均衡,防止出現(xiàn)讀事務(wù)過多占用備機(jī)資源、主機(jī)空閑的情況,客戶端采用一定的算法進(jìn)行均衡,主機(jī)上也會執(zhí)行一部分讀事務(wù)n 歸檔失敗處理如果主機(jī)發(fā)送歸檔失敗,需要進(jìn)行如下處理:1) 設(shè)置對應(yīng)備機(jī)的即時歸檔失效2) 主機(jī)上強(qiáng)制斷開所有連接了該備機(jī)對應(yīng)的在主機(jī)上的會話,客戶端檢測到主機(jī)斷開后,也會強(qiáng)制斷開備機(jī)的連接,防止數(shù)據(jù)讀寫的不一致3) 客戶端檢測到會話上的主備機(jī)任何一個連接斷開,都會斷開另外一個連接,重連時先連接主機(jī)
5、,由主機(jī)返回其可連接的備機(jī)n dmrww作用使用UDP協(xié)議和服務(wù)器實(shí)例及dmrwm工具通信,主機(jī)dmrww可以接收所有備機(jī)dmrww的廣播消息。dmrww可以配置為自動或非自動守護(hù)模式,這兩種模式下都會自動open所守護(hù)的實(shí)例,在自動模式下,主機(jī)rww可以自動恢復(fù)故障備機(jī),故障主機(jī)的恢復(fù)需要在dmrwm端通過recover命令手動執(zhí)行。1) 接收實(shí)例消息,判斷滿足open條件則自動open實(shí)例2) 廣播實(shí)例狀態(tài)給dmrwm3) 接收dmrwm消息,并轉(zhuǎn)發(fā)給實(shí)例4) 主機(jī)dmrww接收并處理備機(jī)dmrww的廣播消息,自動模式下,備機(jī)滿足恢復(fù)條件的話,會自動恢復(fù)故障備機(jī)5) 檢測到系統(tǒng)中存在多個p
6、rimary&open狀態(tài)的實(shí)例時,強(qiáng)制對這些實(shí)例執(zhí)行shutdown操作。n dmrwm作用該工具主要用來管理讀寫分離系統(tǒng),允許用戶通過輸入命令的方式來執(zhí)行主備機(jī)的啟動、主機(jī)切換、備機(jī)恢復(fù)等操作。1) 通過命令方式控制系統(tǒng)的啟動和退出2) 提供LOGIN/LOGOUT命令,登錄/退出dmrwm3) 通過命令方式控制dmrww監(jiān)控功能的打開/關(guān)閉3) 接收dmrww消息,監(jiān)控主備機(jī)狀態(tài),出現(xiàn)故障或狀態(tài)變化時有提示信息4) 提供切換命令,主備機(jī)正常時,可以執(zhí)行主備機(jī)的切換5) 提供選擇命令,主機(jī)故障時,可以選出能夠接管主機(jī)的備機(jī)6) 提供接管命令,主機(jī)故障時,可以使用指定的備機(jī)接管故障主
7、機(jī)7) 提供恢復(fù)命令,主備機(jī)故障時,可以執(zhí)行恢復(fù)操作8) 提供TIP命令,可以檢測系統(tǒng)當(dāng)前運(yùn)行狀況系統(tǒng)配置配置文件讀寫分離系統(tǒng)涉及到的配置文件有dm.ini、dmmal.ini、dmarch.ini、dmrww.ini、dmrwm.ini。dm.ini和dmmal.ini的配置和守護(hù)進(jìn)程中的配置一致。dmrww.ini中配置實(shí)例相關(guān)的信息及端口。dmrwm.ini中配置監(jiān)視器的端口、組號等信息。dmarch.ini中除了配置本地歸檔外,需要配置到其他所有實(shí)例的即時歸檔,以便即時備機(jī)切換為主機(jī)后,可以正常向其他實(shí)例發(fā)送即時歸檔。另外ARCH_WAIT_APPLY參數(shù)值都要一致。dmrww.ini
8、表1 dmrww.ini配置項(xiàng)配置項(xiàng)配置含義GROUP_NAME守護(hù)進(jìn)程組名RWW_UDP_TYPEUDP通信方式,0表示廣播方式,1表示組播方式,默認(rèn)為0RWW_UDP_TTL數(shù)據(jù)包生存期,數(shù)據(jù)包傳送時最大可經(jīng)過的路由器個數(shù),取值范圍為1到128,默認(rèn)為3。RWW_BRO_ADDRUDP廣播或組播地址:廣播地址根據(jù)dmmal.ini中的MAL_HOST配置項(xiàng)計算得出。組播地址取值范圍為(224.0.1.0- 238.255.255.255),同一套讀寫分離系統(tǒng)中需要取相同的組播地址。RWW_UDP_PORT守護(hù)進(jìn)程UDP廣播端口,和dm.ini的DW_UDP_PORT配置項(xiàng),以及dmrwm.
9、ini的RWM_UDP_PORT配置項(xiàng)保持一致。RWW_INST_ERROR_TIME本地數(shù)據(jù)庫故障認(rèn)定時間,取值范圍為(3s50000s),缺省5秒沒有收到數(shù)據(jù)庫發(fā)送的狀態(tài)信息,即認(rèn)定其監(jiān)控的數(shù)據(jù)庫出現(xiàn)故障RWW_FAR_ERROR_TIME遠(yuǎn)程守護(hù)進(jìn)程故障認(rèn)定時間,取值范圍為(3s50000s),缺省5秒沒有收到遠(yuǎn)程守護(hù)進(jìn)程廣播的UDP消息,即認(rèn)定遠(yuǎn)程的dmrww故障。RWW_MODE守護(hù)進(jìn)程的守護(hù)模式,0表示非自動模式,1表示自動模式,默認(rèn)為自動模式,自動模式下dmrww可以自動恢復(fù)故障備機(jī)。INST_OGUID唯一標(biāo)識一個讀寫分離系統(tǒng),不能和其他讀寫分離系統(tǒng)的oguid相同,同一個讀寫
10、分離系統(tǒng)中的所有數(shù)據(jù)庫、守護(hù)進(jìn)程和監(jiān)視器,都必須配置相同的OGUID值,取值范圍為0-2147483647INST_NAME守護(hù)進(jìn)程監(jiān)控的數(shù)據(jù)庫實(shí)例名,與dm.ini的INSTANCE_NAME配置項(xiàng)保持一致INST_UDP_PORT數(shù)據(jù)庫UDP端口,守護(hù)進(jìn)程使用這個端口向數(shù)據(jù)庫發(fā)送UDP消息,與dm.ini的INST_UDP_PORT配置項(xiàng)保持一致INST_STARTUP_MODE數(shù)據(jù)庫啟動模式,0表示以服務(wù)方式啟動數(shù)據(jù)庫,1表示以命令行方式啟動數(shù)據(jù)庫INST_STARTUP_CMD數(shù)據(jù)庫啟動命令,可參考數(shù)據(jù)守護(hù)的配置說明INST_AUTO_RESTART實(shí)例故障后,守護(hù)進(jìn)程是否自動重啟實(shí)例
11、(取值0、1,默認(rèn)自動重啟,值為1)參數(shù)說明:RWW_MODE:自動或非自動模式下,dmrww檢查本地實(shí)例滿足open條件時都會執(zhí)行自動open操作。自動模式下,主機(jī)正常時,dmrww檢測到故障備機(jī)后會執(zhí)行自動恢復(fù),非自動模式下需要在dmrwm端手動執(zhí)行recover命令恢復(fù)備機(jī)。被接管后的故障主機(jī)的恢復(fù),都需要通過dmrwm的recover命令手動恢復(fù)。注意:對于備機(jī)來說,這里的恢復(fù)是指主備機(jī)之間有l(wèi)sn差值,需要主機(jī)同步歸檔日志到備機(jī)重做,直到備機(jī)lsn和主機(jī)一致,然后修改備機(jī)即時歸檔為VALID狀態(tài)的過程。對于主機(jī)來說,這里的恢復(fù)是指將主機(jī)作為備機(jī)重加入的過程,包括補(bǔ)齊和新主機(jī)之間的ls
12、n差值。實(shí)例故障后,如果INST_AUTO_RESTART配置為1,會將實(shí)例重新拉起,但如果主備機(jī)之間存在lsn差值,在自動模式下,dmrww會自動執(zhí)行這個恢復(fù)過程。組播配置說明:系統(tǒng)支持UDP組播配置方式,允許跨網(wǎng)段搭建,UDP組播方式條件比較嚴(yán)格,注意事項(xiàng)如下: 1.單個局域網(wǎng)內(nèi)支持組播方式配置,不需要支持組播協(xié)議。2.跨網(wǎng)段配置時,連接不同網(wǎng)段的路由器、交換機(jī)等設(shè)備必須能夠支持組播協(xié)議,并打開相關(guān)組播協(xié)議。3.組播組內(nèi)的主機(jī)如果沒有組播路由,則需要添加組播路由到路由表中,且需要保證添加組播路由時綁定的網(wǎng)卡設(shè)備IP地址協(xié)議和組內(nèi)其他主機(jī)一致,都使用IPV4或IPV6協(xié)議。添加組播路由命令(
13、不同操作系統(tǒng)命令格式可能不同,需要根據(jù)實(shí)際情況調(diào)整):a. 操作系統(tǒng)Linux localhost.144 2.6.32-220.el6.x86_64,添加路由命令:route add -net 224.0.0.0 netmask 240.0.0.0 dev eth0該命令將D類組播地址224.0.0.0加入到路由表中,子網(wǎng)掩碼240.0.0.0,綁定網(wǎng)卡設(shè)備eth0,即組播消息通過設(shè)備eth0發(fā)送和接收,同一個多播組中綁定的設(shè)備支持的IP協(xié)議需要一致。此處添加的是動態(tài)路由,系統(tǒng)重啟后需要重新添加,可以將此命令添加到/etc/rc.local文件,系統(tǒng)啟動后自動執(zhí)行。b. 操作系統(tǒng)AIX 7.
14、1-64,添加路由命令:route add -net 224.0.0.0 192.168.0.196 -if en0該命令將D類組播地址224.0.0.0加入到路由表中,網(wǎng)關(guān)地址192.168.0.196,綁定網(wǎng)卡設(shè)備en0,即組播消息通過設(shè)備en0發(fā)送和接收。此處添加的是動態(tài)路由,系統(tǒng)重啟后需要重新添加,AIX可以通過自帶的smit工具,使用smit mkroute命令進(jìn)入配置界面,增加為靜態(tài)路由。查看路由表命令:netstat rnKernel IP routing tableDestination Gateway Genmask Flags MSS Window irtt Iface22
15、4.0.0.0 0.0.0.0 240.0.0.0 U 0 0 0 eth0守護(hù)進(jìn)程或監(jiān)視器啟動后,可以查看加入的多播組信息與網(wǎng)卡設(shè)備是否一致,下面示例中守護(hù)進(jìn)程配置的組播地址為234.1.1.1,與設(shè)備eth0關(guān)聯(lián)。查看多播組命令:netstat -gnIPv6/IPv4 Group MembershipsInterface RefCnt Group- - -eth0 1 234.1.1.1dmrwm.ini表2 dmrwm.ini配置項(xiàng)配置項(xiàng)配置含義RWM_UDP_TYPEUDP通信方式,0表示廣播方式,1表示組播方式,默認(rèn)為0RWM_UDP_TTL數(shù)據(jù)包生存期,數(shù)據(jù)包傳送時最大可經(jīng)過的路
16、由器個數(shù),取值范圍為1到128,默認(rèn)為3。RWM_BRO_ADDRUDP廣播或組播地址,與dmrww.ini中RWW_BRO_ADDR保持一致RWM_UDP_PORTUDP廣播端口,與dmrww.ini中RWW_UDP_PORT保持一致RWM_INST_OGUID數(shù)據(jù)守護(hù)唯一標(biāo)識碼,與dmrww.ini中的INST_OGUID 保持一致RWM_GROUP_NAME守護(hù)進(jìn)程組名,與dmrww.ini中的守護(hù)進(jìn)程組名保持一致RWM_CTL_PATH控制文件路徑,存放即時備機(jī)切換為主機(jī)時的相關(guān)信息dmrwm_log.log也存放在此路徑其中dmrwm的控制文件記錄備機(jī)接管主機(jī)時的相關(guān)信息,包括新主機(jī)
17、名、故障主機(jī)名以及備機(jī)接管主機(jī)時的lsn這三項(xiàng)。在主機(jī)恢復(fù)做為備機(jī)重加入時,需要先查找控制文件,如果沒有找到該主機(jī)的接管信息,則不允許加入。如果找到,則比較其lsn是否大于切換當(dāng)時的lsn,若大于則不允許主機(jī)加入,在滿足條件加入成功后,控制文件中對應(yīng)的接管記錄會被刪除。如果發(fā)生多次備機(jī)接管,比如主機(jī)A故障,備機(jī)B接管為主機(jī)后又發(fā)生故障,又選用備機(jī)C接管,則控制文件中會依次記錄B、C接管時的信息,在主機(jī)A、B重新加入時依次查找對應(yīng)的記錄,加入成功后刪除相關(guān)記錄。該控制文件在執(zhí)行接管命令的dmrwm所在機(jī)器上生成,生成路徑為RWM_CTL_PATH配置的參數(shù)值,如果用戶在多個機(jī)器上配置有監(jiān)視器并執(zhí)
18、行過接管命令,則各自都會生成對應(yīng)的控制文件,需要在對應(yīng)機(jī)器上對被接管的主機(jī)執(zhí)行恢復(fù),否則會因?yàn)檎也坏浇庸苄畔⒉辉试S故障主機(jī)重加入。也可以多個監(jiān)視器共用同一個控制文件,注意在執(zhí)行切換前,需要先拷貝到本地控制文件路徑下,其他命令的執(zhí)行則沒有此限制。建議執(zhí)行備機(jī)接管和主機(jī)恢復(fù)命令都在同一個監(jiān)視器上執(zhí)行,就不會受控制文件的限制。另外在監(jiān)視器上執(zhí)行備機(jī)的接管命令時,一定要先確認(rèn)是主機(jī)實(shí)例故障而不是內(nèi)網(wǎng)網(wǎng)卡故障或其他網(wǎng)絡(luò)問題。如果是內(nèi)網(wǎng)網(wǎng)絡(luò)問題,監(jiān)視器收不到主機(jī)消息會誤判主機(jī)出現(xiàn)故障,此時再執(zhí)行備機(jī)接管,系統(tǒng)中就會出現(xiàn)雙主機(jī),老的主機(jī)繼續(xù)在對外提供服務(wù),并且雙主機(jī)會同時向即時備機(jī)發(fā)送歸檔,這種情況下無法保
19、證主備數(shù)據(jù)的正確性。環(huán)境準(zhǔn)備硬件說明部署DM7讀寫分離系統(tǒng)的基本硬件包括:1) 主機(jī)用于部署主數(shù)據(jù)庫和守護(hù)進(jìn)程,至少應(yīng)具備兩塊網(wǎng)卡,一塊接入公共網(wǎng)絡(luò),提供數(shù)據(jù)庫服務(wù),一塊接入內(nèi)部網(wǎng)絡(luò),傳遞REDO日志和UDP消息。2) 備機(jī)用于部署備數(shù)據(jù)庫和守護(hù)進(jìn)程,至少應(yīng)具備兩塊網(wǎng)卡,一塊接入公共網(wǎng)絡(luò),提供數(shù)據(jù)庫服務(wù),一塊接入內(nèi)部網(wǎng)絡(luò),接收REDO日志,發(fā)送并接收UDP消息,讀寫分離系統(tǒng)中最多可支持8個備機(jī)。3) 監(jiān)視機(jī)用于部署監(jiān)視器的機(jī)器,可同時配置多個監(jiān)視器。4) 內(nèi)部網(wǎng)絡(luò)用于主、備機(jī)之間傳輸REDO日志,并同時用于守護(hù)進(jìn)程和監(jiān)視器廣播狀態(tài)與控制信息的網(wǎng)絡(luò)環(huán)境。如果條件允許,最好配置多塊物理網(wǎng)卡虛擬成一
20、塊網(wǎng)卡用于內(nèi)部網(wǎng)絡(luò)通信,提升內(nèi)部網(wǎng)絡(luò)的吞吐量和可靠性。內(nèi)部網(wǎng)絡(luò)通過交換機(jī)實(shí)現(xiàn)互聯(lián),最好能夠提供冗余交換機(jī)本身,確保內(nèi)部網(wǎng)絡(luò)的可靠性。5) 公共網(wǎng)絡(luò)用于提供數(shù)據(jù)庫服務(wù)的網(wǎng)絡(luò)環(huán)境。公共網(wǎng)絡(luò)與內(nèi)部網(wǎng)絡(luò)應(yīng)使用不同的交換機(jī)。注意:DM7讀寫分離系統(tǒng)中,主備數(shù)據(jù)庫之間,數(shù)據(jù)庫和守護(hù)進(jìn)程之間,以及監(jiān)視器與守護(hù)進(jìn)程之間都是通過內(nèi)部網(wǎng)絡(luò)進(jìn)行通信,用戶應(yīng)該確保內(nèi)部網(wǎng)絡(luò)是絕對可靠的,一旦內(nèi)部網(wǎng)絡(luò)不可靠或者拔、插主備機(jī)連接內(nèi)部網(wǎng)絡(luò)的網(wǎng)線,可能會導(dǎo)致監(jiān)視器誤判主機(jī)故障,此時如果執(zhí)行接管主機(jī)命令,會導(dǎo)致系統(tǒng)中出現(xiàn)雙主機(jī)情況,損壞數(shù)據(jù)庫數(shù)據(jù)。配置規(guī)劃規(guī)劃配置一個主機(jī)實(shí)例帶兩個備機(jī)實(shí)例和一個監(jiān)視器的讀寫分離主備系統(tǒng)。表32.
21、8 配置環(huán)境說明機(jī)器名實(shí)例名IP地址初始狀態(tài)操作系統(tǒng)備注TA_PDM1192.168.1.131192.168.0.141主機(jī)Linux rh6-141.test 2.6.32-220.el6.x86_64 #1 SMP Wed Nov 9 08:03:13 EST 2011 x86_64 x86_64 x86_64 GNU/Linux192.168.1.131外部服務(wù)IP;192.168.0.141內(nèi)部通信IPTA_S1DM2192.168.1.132192.168.0.142即時備機(jī)Linux rh6-142.localdomain 2.6.32-220.el6.x86_64 #1 SMP
22、 Wed Nov 9 08:03:13 EST 2011 x86_64 x86_64 x86_64 GNU/Linux192.168.1.132外部服務(wù)IP;192.168.0.142內(nèi)部通信IPTA_S2DM3192.168.1.133192.168.0.143即時備機(jī)Linux rh6-143.localdomain 2.6.32-220.el6.x86_64 #1 SMP Wed Nov 9 08:03:13 EST 2011 x86_64 x86_64 x86_64 GNU/Linux192.168.1.133外部服務(wù)IP;192.168.0.143內(nèi)部通信IPTA_M192.168.
23、0.144監(jiān)視器Linux rh6-144.localdomain 2.6.32-220.el6.x86_64 #1 SMP Wed Nov 9 08:03:13 EST 2011 x86_64 x86_64 x86_64 GNU/Linux192.168.0.144內(nèi)部通信IP數(shù)據(jù)準(zhǔn)備配置數(shù)據(jù)守護(hù)之前,必須先同步主備機(jī)數(shù)據(jù),確保兩者保持完全一致;主數(shù)據(jù)庫可以是新初始化的數(shù)據(jù),也可以是正在生產(chǎn)、使用中的數(shù)據(jù)。DM7提供了兩種方式初始化同步主備機(jī)數(shù)據(jù),數(shù)據(jù)文件拷貝以及備份還原方式。不能使用分別初始化庫的方法,原因如下:1) 每個庫都有一個永久魔數(shù)(permenant_magic),主備機(jī)傳送日志
24、時會判斷這個值是否一樣,確保來自同一個庫,不同的庫傳送不了日志2) 由于dminit初始化數(shù)據(jù)庫時,會生成隨機(jī)密鑰用于加密,每次生成的密鑰都不相同,備機(jī)無法解析采用主機(jī)密鑰加密的數(shù)據(jù)數(shù)據(jù)文件拷貝如果搭建系統(tǒng)之前,數(shù)據(jù)庫系統(tǒng)已經(jīng)上線運(yùn)行了,那么我們可以通過拷貝數(shù)據(jù)文件的方式實(shí)現(xiàn)主備數(shù)據(jù)庫的同步。具體步驟包括:1. 正常關(guān)閉數(shù)據(jù)庫2. 嚴(yán)格按照數(shù)據(jù)文件在主機(jī)上的分布,拷貝數(shù)據(jù)文件到備機(jī)的對應(yīng)目錄3. 如果數(shù)據(jù)文件統(tǒng)一存放在一個目錄下,則直接拷貝整個目錄即可備份還原方式用戶也可以通過脫機(jī)備份、脫機(jī)還原的方式同步主備機(jī)數(shù)據(jù),更詳細(xì)的說明可以參考備份恢復(fù)相關(guān)文檔。具體步驟包括:1. 正常關(guān)閉數(shù)據(jù)庫2.
25、進(jìn)行脫機(jī)備份./dmbackup TYPE=FULL INI_PATH=/dm7data/DM1/DAMENG/dm.ini NAME=BACKUP_FILE3. 拷貝備份文件到備機(jī)4. 執(zhí)行脫機(jī)數(shù)據(jù)庫恢復(fù)./dmrestore INI_PATH=/dm7data/DM1/DAMENG/dm.ini FILE=/dm7data/DM1/DB_DAMENG_20120910180136000741.bak檢查數(shù)據(jù)一致性切換到執(zhí)行碼安裝目錄/dm7/bin,分別以mount方式啟動數(shù)據(jù)庫./dmserver /dm7data/DM1/DAMENG/dm.ini mount啟動命令行工具disql,
26、分別連接登錄主備機(jī)實(shí)例查詢LSN值SQL>select file_lsn, cur_lsn from v$rlog;行號 FILE_LSN CUR_LSN- - -1 10250 10250比較各個實(shí)例的FILE_LSN和CUR_LSN值,需要確保主備數(shù)據(jù)庫的數(shù)據(jù)完全一致,如果不一致系統(tǒng)將會啟動失敗,需要重新準(zhǔn)備數(shù)據(jù)。分別查詢主備機(jī),確保永久魔數(shù)是否一致SQL>select permanent_magic;行號 PERMANENT_MAGIC- -1 1385101984正常關(guān)閉主備數(shù)據(jù)庫,繼續(xù)配置。配置主數(shù)據(jù)庫配置主數(shù)據(jù)庫的過程包括修改配置文件dm.ini、dmmal.ini、d
27、march.ini、dmrww.ini。所有配置文件都位于/dm7data/DM1/DAMENG目錄下。配置dm.ini配置主數(shù)據(jù)庫實(shí)例名為DM1,dm.ini參數(shù)修改如下:INSTANCE_NAME= DM1PORT_NUM= 5236DW_UDP_PORT = 5243INST_UDP_PORT = 5253MAIL_INI= 1ARCH_INI= 1配置dmmal.ini配置MAL系統(tǒng),主備數(shù)據(jù)庫的dmmal.ini配置完全一致,MAL_HOST使用內(nèi)部網(wǎng)絡(luò)IP,MAL_INST_HOST使用外部網(wǎng)絡(luò)IP,MAL_PORT與dm.ini中PORT_NUM使用不同的端口值,配置如下:MAL
28、_CHECK_INTERVAL = 5MAL_CONN_FAIL_INTERVAL = 5MAL_INST1 MAL_INST_NAME= DM1 MAL_HOST= 192.168.0.141 MAL_PORT= 5336MAL_INST_HOST= 192.168.1.131 MAL_INST_PORT= 5236MAL_INST2 MAL_INST_NAME= DM2 MAL_HOST= 192.168.0.142 MAL_PORT= 5337MAL_INST_HOST= 192.168.1.132 MAL_INST_PORT= 5237MAL_INST3 MAL_INST_NAME=
29、DM3 MAL_HOST= 192.168.0.143 MAL_PORT= 5338MAL_INST_HOST= 192.168.1.133 MAL_INST_PORT= 5238配置dmarch.ini修改dmarch.ini,配置本地歸檔和即時歸檔,即時歸檔的ARCH_DEST為備數(shù)據(jù)庫實(shí)例名,這里除了配置本地歸檔外,需要配置到其他所有實(shí)例的即時歸檔,以保證備機(jī)接管為新主機(jī)后可以正常向其它實(shí)例發(fā)送即時歸檔。ARCH_WAIT_APPLY參數(shù)表示是否需要等待備機(jī)做完日志,取值0和1,默認(rèn)1,所有主備機(jī)的dmarch.ini中,該值都要保持一致。ARCH_WAIT_APPLY= 1 #默認(rèn)1,
30、表示需要等待備機(jī)做完日志ARCHIVE_TIMELY1 ARCH_TYPE = TIMELYARCH_DEST = DM2ARCHIVE_TIMELY2 ARCH_TYPE = TIMELYARCH_DEST = DM3ARCHIVE_LOCAL1ARCH_TYPE = LOCALARCH_DEST = /dm7data/DM1/DAMENG/archARCH_FILE_SIZE = 128#單位MbARCH_SPACE_LIMIT= 0 #單位Mb,0表示無限制,范圍10244294967294M一般本地歸檔ARCH_SPACE_LIMIT需要根據(jù)實(shí)際的磁盤空間大小進(jìn)行設(shè)置。當(dāng)磁盤空間不夠時
31、服務(wù)器掛住,直到用戶干預(yù),釋放出磁盤空間后系統(tǒng)繼續(xù)運(yùn)行。配置dmrww.ini和dmwatch.ini配置項(xiàng)相比,只需要配置實(shí)例自身相關(guān)信息即可:1.UDP 廣播配置方式GROUP_ARWW_BRO_ADDR= 192.168.0.255RWW_UDP_PORT= 5243RWW_INST_ERROR_TIME= 5RWW_FAR_ERROR_TIME = 5RWW_MODE= 1INST_OGUID = 82379INST_NAME = DM1INST_UDP_PORT= 5253 INST_STARTUP_CMD= /dm7/bin/dmserver /dm7data/DM1/DAMENG
32、/dm.iniINST_STARTUP_MODE= 1#0: 服務(wù)方式啟動; 1:控制臺方式啟動INST_AUTO_RESTART= 1#實(shí)例故障后是否自動重啟2. UDP組播配置方式GROUP_A RWW_UDP_TYPE = 1 #組播方式 RWW_UDP_TTL = 64 #組播包生存期RWW_BRO_ADDR= 234.1.1.2 #組播地址RWW_UDP_PORT= 5243RWW_INST_ERROR_TIME= 5RWW_FAR_ERROR_TIME = 5RWW_MODE= 1INST_OGUID = 82379INST_NAME = DM1INST_UDP_PORT= 525
33、3 INST_STARTUP_CMD= /dm7/bin/dmserver /dm7data/DM1/DAMENG/dm.iniINST_STARTUP_MODE= 1#0: 服務(wù)方式啟動; 1:控制臺方式啟動INST_AUTO_RESTART= 1#實(shí)例故障后是否自動重啟啟動主數(shù)據(jù)庫以mount方式啟動主數(shù)據(jù)庫./dmserver /dm7data/DM1/DAMENG/dm.ini mount注意:一定要以mount方式啟動數(shù)據(jù)庫,否則系統(tǒng)啟動時會重構(gòu)回滾表空間,生成REDO日志;并且,啟動后應(yīng)用可能連接到數(shù)據(jù)庫進(jìn)行操作,破壞主備數(shù)據(jù)庫的一致性。設(shè)置oguid啟動命令行工具disql,登錄
34、主數(shù)據(jù)庫設(shè)置OGUID值為82379SQL>sp_set_oguid(82379);注意:系統(tǒng)通過OGUID值確定一個讀寫分離組,由用戶保證OGUID值的唯一性,并確保讀寫分離系統(tǒng)中,數(shù)據(jù)庫、dmrww進(jìn)程和監(jiān)視器配置相同的OGUID值。修改數(shù)據(jù)庫模式啟動命令行工具disql,登錄主數(shù)據(jù)庫修改數(shù)據(jù)庫模式為PRIMARYSQL>alter database primary;配置備數(shù)據(jù)庫配置備數(shù)據(jù)庫的過程和主機(jī)大致相同,這里只介紹配置DM2實(shí)例的過程。包括修改配置文件dm.ini、dmmal.ini、dmarch.ini、dmrww.ini。所有配置文件都位于/dm7data/DM2/
35、DAMENG目錄下。DM3的配置只需仿照DM2配置過程即可。配置dm.ini配置備數(shù)據(jù)庫實(shí)例名為DM2,dm.ini參數(shù)修改如下:INSTANCE_NAME= DM2PORT_NUM= 5237DW_UDP_PORT = 5243INST_UDP_PORT = 5253MAIL_INI= 1ARCH_INI= 1配置dmmal.ini備機(jī)的dmmal.ini配置文件與主機(jī)的dmmal.ini完全一致,拷貝過來即可。配置dmarch.ini修改dmarch.ini,配置本地歸檔和即時歸檔,即時歸檔對象為DM1和DM3,配置DM3的dmarch.ini時,即時歸檔對象為DM1和DM2。ARCH_W
36、AIT_APPLY參數(shù)值要和主機(jī)一致。ARCH_WAIT_APPLY= 1 #默認(rèn)1,表示需要等待備機(jī)做完日志ARCHIVE_TIMELY1 ARCH_TYPE = TIMELYARCH_DEST = DM1ARCHIVE_TIMELY2 ARCH_TYPE = TIMELYARCH_DEST = DM3ARCHIVE_LOCAL1ARCH_TYPE = LOCALARCH_DEST = /dm7data/DM2/DAMENG/archARCH_FILE_SIZE = 128#單位MbARCH_SPACE_LIMIT= 0 #單位Mb,0表示無限制,范圍10244294967294M一般本地歸
37、檔ARCH_SPACE_LIMIT需要根據(jù)實(shí)際的磁盤空間大小進(jìn)行設(shè)置。當(dāng)磁盤空間不夠時服務(wù)器掛住,直到用戶干預(yù),釋放出磁盤空間后系統(tǒng)繼續(xù)運(yùn)行。配置dmrww.ini和dmwatch.ini配置項(xiàng)相比,只需要配置實(shí)例自身相關(guān)信息即可:1. UDP廣播配置方式GROUP_ARWW_BRO_ADDR= 192.168.0.255RWW_UDP_PORT= 5243RWW_INST_ERROR_TIME= 5RWW_FAR_ERROR_TIME = 5RWW_MODE= 1INST_OGUID = 82379INST_NAME = DM2INST_UDP_PORT= 5253INST_STARTUP_
38、CMD= /dm7/bin/dmserver /dm7data/DM2/DAMENG/dm.iniINST_STARTUP_MODE= 1#0: 服務(wù)方式啟動; 1:控制臺方式啟動INST_AUTO_RESTART= 1#實(shí)例故障后是否自動重啟2. UDP組播配置方式GROUP_A RWW_UDP_TYPE = 1 #組播方式 RWW_UDP_TTL = 64 #組播包生存期RWW_BRO_ADDR= 234.1.1.2 #組播地址RWW_UDP_PORT= 5243RWW_INST_ERROR_TIME= 5RWW_FAR_ERROR_TIME = 5RWW_MODE= 1INST_OGUI
39、D = 82379INST_NAME = DM2INST_UDP_PORT= 5253INST_STARTUP_CMD= /dm7/bin/dmserver /dm7data/DM2/DAMENG/dm.iniINST_STARTUP_MODE= 1#0: 服務(wù)方式啟動; 1:控制臺方式啟動INST_AUTO_RESTART= 1#實(shí)例故障后是否自動重啟啟動備數(shù)據(jù)庫以mount方式啟動備數(shù)據(jù)庫./dmserver /dm7data/DM2/DAMENG/dm.ini mount注意:一定要以mount方式啟動數(shù)據(jù)庫,否則系統(tǒng)啟動時會重構(gòu)回滾表空間,生成REDO日志;并且,啟動后應(yīng)用可能連接到數(shù)
40、據(jù)庫進(jìn)行操作,破壞主備數(shù)據(jù)庫的一致性。設(shè)置oguid啟動命令行工具disql,登錄主數(shù)據(jù)庫設(shè)置OGUID值為82379SQL>sp_set_oguid(82379);注意:系統(tǒng)通過OGUID值確定一個讀寫分離組,由用戶保證OGUID值的唯一性,并確保讀寫分離系統(tǒng)中,數(shù)據(jù)庫、dmrww進(jìn)程和監(jiān)視器配置相同的OGUID值。修改數(shù)據(jù)庫模式啟動命令行工具disql,登錄備數(shù)據(jù)庫修改數(shù)據(jù)庫模式為STANDBYSQL>alter database standby;配置監(jiān)視器編輯dmrwm.ini配置監(jiān)視器,可以在內(nèi)部網(wǎng)絡(luò)除主備機(jī)之外的任意一臺機(jī)器上配置監(jiān)視器, dmrwm.ini配置文件中的配
41、置項(xiàng)的值要與dmrww.ini對應(yīng)配置項(xiàng)保持一致。允許用戶在多臺機(jī)器上配置并啟動dmrwm來監(jiān)控系統(tǒng),dmrwm內(nèi)部可以處理多個命令同時執(zhí)行的沖突,但需要保證接管命令和被接管主機(jī)的恢復(fù)命令在同一個監(jiān)視器上執(zhí)行。如果用戶在機(jī)器A部署的監(jiān)視器上執(zhí)行接管命令,接管主機(jī)P1,則會在A本地的控制文件中記錄接管信息,如果在機(jī)器B的監(jiān)視器上恢復(fù)主機(jī)P1,在B本地的控制文件中會找不到P1的接管信息而恢復(fù)失敗。也可以所有的監(jiān)視器共用同一個控制文件,但在執(zhí)行接管和恢復(fù)前需要先拷貝到本地。其他命令的使用沒有此限制。另外在接管前一定要確認(rèn)是主機(jī)故障而不是內(nèi)網(wǎng)網(wǎng)卡故障,以免出現(xiàn)雙主機(jī)。1. UDP廣播配置方式RWM_B
42、RO_ADDR = 192.168.0.255RWM_UDP_PORT = 5243RWM_INST_OGUID = 82379RWM_GROUP_NAME = GROUP_ARWM_CTL_PATH = /dm7data2. UDP組播配置方式RWM_UDP_TYPE= 1RWM_UDP_TTL= 64RWM_BRO_ADDR = 234.1.1.1RWM_UDP_PORT = 5243RWM_INST_OGUID = 82379RWM_GROUP_NAME = GROUP_ARWM_CTL_PATH = /dm7data查看配置配置完成后,連接數(shù)據(jù)庫查詢各個配置項(xiàng),再次確認(rèn)配置的正確性。1
43、. 啟動命令行工具disql,登錄主數(shù)據(jù)庫,查看主數(shù)據(jù)庫相關(guān)信息: (1)查看歸檔是否打開SQL>select arch_mode from v$database;行號 ARCH_MODE- -1 Y (2)查看歸檔日志信息SQL>select arch_name,arch_type,arch_dest from v$dm_arch_ini;行號 ARCH_NAME ARCH_TYPE ARCH_DEST- - - -1 ARCHIVE_TIMELY1 TIMELY DM22 ARCHIVE_TIMELY2 TIMELY DM33 ARCHIVE_LOCAL1 LOCAL /dm7
44、data/DM1/DAMENG/arch(3)查看MAL系統(tǒng)信息SQL>select * from v$dm_mal_ini;行號 MAL_TYPE INST_NAME IP MAL_PORT- - - - -1 MAIL_INST1 DM1 192.168.0.141 53362 MAIL_INST2 DM2 192.168.0.142 53373 MAIL_INST3 DM3 192.168.0.143 53382. 啟動命令行工具disql,登錄備數(shù)據(jù)庫DM2,查看備數(shù)據(jù)庫相關(guān)信息:(1)查看歸檔是否打開SQL>select arch_mode from v$database
45、;行號 ARCH_MODE- -1 Y(2)查看歸檔日志信息SQL>select arch_name,arch_type,arch_dest from v$dm_arch_ini;行號 ARCH_NAME ARCH_TYPE ARCH_DEST- - - -1 ARCHIVE_TIMELY1 TIMELY DM12 ARCHIVE_TIMELY2 TIMELY DM33 ARCHIVE_LOCAL1 LOCAL /dm7data/DM2/DAMENG/arch(3)查看MAL系統(tǒng)信息SQL>select * from v$dm_mal_ini;行號 MAL_TYPE INST_NA
46、ME IP MAL_PORT- - - - -1 MAIL_INST1 DM1 192.168.0.141 53362 MAIL_INST2 DM2 192.168.0.142 53373 MAIL_INST3 DM3 192.168.0.143 53383. 啟動命令行工具disql,登錄備數(shù)據(jù)庫DM3,查看備數(shù)據(jù)庫相關(guān)信息: (1)查看歸檔是否打開SQL>select arch_mode from v$database;行號 ARCH_MODE- -1 Y(2)查看歸檔日志信息SQL>select arch_name,arch_type,arch_dest from v$dm_
47、arch_ini;行號 ARCH_NAME ARCH_TYPE ARCH_DEST- - - -1 ARCHIVE_TIMELY1 TIMELY DM12 ARCHIVE_TIMELY2 TIMELY DM23 ARCHIVE_LOCAL1 LOCAL /dm7data/DM3/DAMENG/arch(3)查看MAL系統(tǒng)信息SQL>select * from v$dm_mal_ini;行號 MAL_TYPE INST_NAME IP MAL_PORT- - - - -1 MAIL_INST1 DM1 192.168.0.141 53362 MAIL_INST2 DM2 192.168.0
48、.141 53373 MAIL_INST3 DM3 192.168.0.141 5338啟動守護(hù)進(jìn)程啟動主機(jī)DM1的守護(hù)進(jìn)程。./dmrww /dm7data/DM1/DAMENG/dmrww.ini啟動備機(jī)DM2的守護(hù)進(jìn)程。./dmrww /dm7data/DM2/DAMENG/dmrww.ini啟動備機(jī)DM3的守護(hù)進(jìn)程。./dmrww /dm7data/DM3/DAMENG/dmrww.ini守護(hù)進(jìn)程啟動后,進(jìn)入STARTUP狀態(tài),備機(jī)的守護(hù)進(jìn)程直接OPEN本機(jī)實(shí)例,守護(hù)進(jìn)程切換為OPEN狀態(tài),主機(jī)的守護(hù)進(jìn)程接收所有備機(jī)的廣播消息,判斷所有備機(jī)都已OPEN后,OPEN本地主機(jī)實(shí)例,并修改守
49、護(hù)進(jìn)程為OPEN狀態(tài)。啟動監(jiān)視器啟動監(jiān)視器:./dmrwm /dm7data/dmrwm.ini至此DM7讀寫分離系統(tǒng)搭建完畢,可以提供完善的數(shù)據(jù)保護(hù)和高可用性特性。使用監(jiān)視器提供dmrwm工具對讀寫分離主備系統(tǒng)進(jìn)行管理,其功能包括啟動系統(tǒng)、顯示系統(tǒng)信息以及恢復(fù)系統(tǒng)故障等。表1 dmrwm命令命令含義HELP顯示幫助信息SHOW顯示所有實(shí)例信息LOGIN登錄DMRWMLOGOUT退出登錄TIP顯示系統(tǒng)當(dāng)前運(yùn)行狀況STARTUP ALL啟動所有dmrww的監(jiān)控功能STOP ALL停止所有dmrww的監(jiān)控功能STARTUP 實(shí)例名啟動指定實(shí)例dmrww的監(jiān)控功能STOP 實(shí)例名停止指定實(shí)例dmrw
50、w的監(jiān)控功能INST STARTUP ALL啟動所有實(shí)例INST EXIT ALL退出所有實(shí)例INST STARTUP 實(shí)例名啟動指定的實(shí)例INST EXIT 實(shí)例名退出指定的實(shí)例OPEN ALLopen所有實(shí)例OPEN 實(shí)例名open指定的實(shí)例SWITCHOVER 實(shí)例名切換指定的實(shí)例為主機(jī)RECOVER 實(shí)例名恢復(fù)指定的實(shí)例CHOOSE選擇可以接管主機(jī)的備機(jī)TAKEOVER USE 實(shí)例名使用指定的實(shí)例接管故障主機(jī)EXIT退出工具命令參數(shù):dmrwm ini_path | help示例:./dmrwm /dm7data/dmrwm.ini注意:需要將dmrwm.ini放入ini_path中
51、,工具才能正常啟動。查看實(shí)例狀態(tài)SHOW:顯示系統(tǒng)中所有實(shí)例信息登錄DMRWMLOGIN:監(jiān)視器執(zhí)行以下命令時都需要先登錄,用戶名/密碼和服務(wù)器登錄口令一致,且必須有DBA權(quán)限。1. STOP ALL/STOP 實(shí)例名2. INST EXIT ALL/INST EXIT 實(shí)例名3. OPEN ALL/OPEN 實(shí)例名4. SWITCHOVER/RECOVER/TAKEOVER USE 實(shí)例名其他命令不需要登錄監(jiān)視器。退出登錄LOGOUT:退出登錄監(jiān)視器。停止/啟動所有監(jiān)控1. STOP ALL(1) 停止所有dmrww的監(jiān)控功能(2) 如果某個dmrww已經(jīng)是SHUTDOWN狀態(tài),會跳過繼續(xù)執(zhí)行2. STARTUP ALL(1) 啟動所有dmrww的監(jiān)控功能(2) 如果某個dmrww已經(jīng)是ST
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 物理科技在智能交通系統(tǒng)中的應(yīng)用
- 現(xiàn)代藝術(shù)與設(shè)計趨勢創(chuàng)新與變革
- 現(xiàn)代營銷中的用戶體驗(yàn)設(shè)計
- 環(huán)境科學(xué)與未來綠色發(fā)展的結(jié)合策略
- 國慶節(jié)紅色電影活動方案
- Unit7《Lesson 26 I Love My Family》(說課稿)-2024-2025學(xué)年北京版(2024)英語三年級上冊
- 2024-2025學(xué)年高中地理 第4章 旅游與區(qū)域的發(fā)展 章末分層突破說課稿 中圖版選修3
- Unit 7 Happy Birthday!(說課稿)-2024-2025學(xué)年譯林版(三起)(2024)英語三年級上冊
- 2024年屆九年級歷史上冊 第11課 開辟新時代的“宣言”說課稿2 北師大版001
- 《18 初始機(jī)器人》說課稿-2023-2024學(xué)年清華版(2012)信息技術(shù)一年級下冊
- 醫(yī)院消防安全培訓(xùn)課件
- 質(zhì)保管理制度
- 2023年鐵嶺衛(wèi)生職業(yè)學(xué)院高職單招(語文)試題庫含答案解析
- 外科學(xué)-第三章-水、電解質(zhì)代謝紊亂和酸堿平衡失調(diào)課件
- 人事測評理論與方法-課件
- 最新卷宗的整理、裝訂(全)課件
- 城市旅行珠海景色介紹珠海旅游攻略PPT圖文課件
- 小學(xué) 三年級 科學(xué)《觀測風(fēng)》教學(xué)設(shè)計
- JJF1664-2017溫度顯示儀校準(zhǔn)規(guī)范-(高清現(xiàn)行)
- 第二講共振理論、有機(jī)酸堿理論
- 高考英語聽力必備場景詞匯精選(必看)
評論
0/150
提交評論