第2節(jié)manager架構(gòu)功能及集群維護管理

FusionInsightHDManager

架構(gòu)功能及集群維護管理上節(jié)課重點回顧數(shù)據(jù)怎么來互聯(lián)網(wǎng)：web2.0時代每一個人時時刻刻都在創(chuàng)造數(shù)據(jù)傳統(tǒng)企業(yè)：日積月累的企業(yè)組織、客戶、業(yè)務(wù)等數(shù)據(jù)，這些數(shù)據(jù)不可丟棄。大數(shù)據(jù)怎么處理數(shù)據(jù)的存儲：HDFS，HBASE（基于上百臺數(shù)據(jù)的集群）數(shù)據(jù)的計算：MR、Spark、Storm(處理不同場景下的計算框架)資源的調(diào)度：Yarn集群怎么管理FusionInsightManager：提供統(tǒng)一的集群管理能力傳統(tǒng)怎么處理滾動刪除：服務(wù)器磁盤只能保存1到兩周，滾動刪除并行計算：多服務(wù)器存儲計算，只針對于格式化的數(shù)據(jù)。功能簡介集群基本概念Manager基本概念Manager系統(tǒng)模塊Manager功能特性集群升級和補丁集群基本概念節(jié)點：節(jié)點即服務(wù)器，上百個節(jié)點分布式部署了Hadoop組成了一個集群。資源：所有節(jié)點可用CPU、內(nèi)存、網(wǎng)絡(luò)、磁盤的統(tǒng)稱集群：管理節(jié)點和服務(wù)的一個抽象概念服務(wù)：對外提供服務(wù)的服務(wù)組件，比如HDFS、HBase角色：服務(wù)組件的邏輯組成部分，比如HDFS的NameNode和DataNode實例：承載角色運行的一個具體進程。名詞描述集群基本概念管理節(jié)點：ManagementNode(MN)，安裝FusionInsightHDManager，即集群管理系統(tǒng)，提供統(tǒng)一訪問入口控制節(jié)點：ControlNode(CN)，控制監(jiān)控數(shù)據(jù)節(jié)點執(zhí)行存儲數(shù)據(jù)、接收數(shù)據(jù)、發(fā)送進程狀態(tài)等數(shù)據(jù)節(jié)點：DataNode(DN)，執(zhí)行管理節(jié)點發(fā)出的指示，上報任務(wù)狀態(tài)、存儲數(shù)據(jù)等。拓撲結(jié)構(gòu)集群基本概念舉例：HDFS如何在此拓撲下工作原理介紹HDFS主要采用主備模式，其架構(gòu)包含NameNode，DataNode，Client三個部分NameNode：NameNode用于存儲、生成文件系統(tǒng)的元數(shù)據(jù)。運行一個實例。DataNode：DataNode用于存儲實際的數(shù)據(jù)，將自己管理的數(shù)據(jù)塊上報給NameNode，運行多個實例。Client：支持業(yè)務(wù)訪問HDFS，從NameNode,DataNode獲取數(shù)據(jù)返回給業(yè)務(wù)。多個實例，和業(yè)務(wù)一起運行。HDFS數(shù)據(jù)讀取流程如下：業(yè)務(wù)調(diào)用HDFSAPI打開文件。HDFS

Client聯(lián)系NameNode，獲取到文件信息業(yè)務(wù)調(diào)用readAPI讀取文件。HDFSClient根據(jù)從NameNode獲取到的信息，聯(lián)系DataNode，獲取相應(yīng)的數(shù)據(jù)塊。HDFSClient會與多個DataNode通訊獲取數(shù)據(jù)塊。數(shù)據(jù)讀取完成后，業(yè)務(wù)調(diào)用close關(guān)閉連接集群基本概念舉例：HDFS如何在此拓撲下工作原理介紹HDFS數(shù)據(jù)寫入流程如下：業(yè)務(wù)調(diào)用HDFSAPI請求寫入。HDFS

Client聯(lián)系NameNode在元數(shù)據(jù)中創(chuàng)建文件節(jié)點。業(yè)務(wù)應(yīng)用調(diào)用writeAPI寫入文件。HDFSClient收到業(yè)務(wù)數(shù)據(jù)后，從NameNode獲取到數(shù)據(jù)塊編號、位置信息后，聯(lián)系DataNode，寫入數(shù)據(jù)。寫完的數(shù)據(jù)，將返回確認信息給HDFSClient。所有數(shù)據(jù)確認完成后，業(yè)務(wù)調(diào)用HDFSClient關(guān)閉文件。集群基本概念舉例：HDFS如何在此拓撲下工作原理介紹Manager基本概念FusionInsightManager作為運維系統(tǒng)，為FusionInsightHD提供高可靠、安全、容錯、易用的集群管理能力，可幫助客戶解決在開局、日常維護、故障處理、業(yè)務(wù)開發(fā)場景下的相關(guān)問題。FusionInsightManager支持大規(guī)模集群的安裝部署、監(jiān)控、告警、用戶管理、權(quán)限管理、審計、服務(wù)管理、健康檢查、統(tǒng)一多租戶、問題定位、升級和補丁等。Manager功能一覽Manager基本概念FusionInsightHD提供大數(shù)據(jù)處理環(huán)境，基于社區(qū)開源軟件增強，按照場景選擇業(yè)界最佳實踐；

FusionInsightManager是一個分布式系統(tǒng)管理框架，管理員可以從單一接入點操控分布式集群，包括系統(tǒng)管理（OM/NTP/災備）、數(shù)據(jù)安全管理，是整個FusionInsight平臺的基石。HIVE/ImpalaHBASEHDFSYarn/ZookeeperM/RSparkPorterMinerDataFarmHadoopSolr集群管理FarmerManagerHadoopAPIPluginAPIOpenAPI/SDK應(yīng)用層DataInformationKnowledgeWisdom實時內(nèi)存計算YarnSparkSQLStreamingMPPDBMPPDBREST/SNMP/SyslogStorm平臺中的位置集群監(jiān)控系統(tǒng)管理Manager架構(gòu)安裝服務(wù)GUI升級服務(wù)集群管理用戶管理升級管理性能監(jiān)控告警管理配置管理系統(tǒng)備份北向接口系統(tǒng)恢復Shell日志采集時間管理HA管理ClientManager邏輯結(jié)構(gòu)WebServerIAMCEPPMSFMSControllerAOSACSKerberosCASNTPServerHAMonitorManagerNodeDataBaseLDAPOMAAgentNTPClientAgentNode功能簡介Manager功能特性關(guān)鍵特性功能性操作備份及恢復升級和補丁Manager關(guān)鍵特性一鍵安裝 Manager的WebUI提供向?qū)降募喊惭b步驟，用戶可根據(jù)界面一步步完成集群安裝，也可以通過提前配置好的模板進行模板安裝。Manager關(guān)鍵特性統(tǒng)一監(jiān)控告警 Manager提供可視化、便捷的監(jiān)控告警功能。通過Dashboard，用戶可以快速獲取集群關(guān)鍵性能指標，并評測集群健康狀態(tài)，同時提供性能指標的定制化顯示功能及指標轉(zhuǎn)換告警方法。Manager關(guān)鍵特性單點登錄

單點登錄是指訪問一個系統(tǒng)中的多個應(yīng)用程序時，只需要登錄一次，不用在訪問每個應(yīng)用程序時都需要再次登錄。本系統(tǒng)中實現(xiàn)了FusionInsightHadoop系統(tǒng)中FIMWebUI、組件WebUI之間的單點登錄，使得用戶在這些WebUI之間跳轉(zhuǎn)時只需要登錄一次，提升了用戶體驗。Manager關(guān)鍵特性統(tǒng)一用戶權(quán)限管理提供RBAC（RoleBasedAccessControl）方式的權(quán)限管理模型，并提供界面化管理方式，簡化系統(tǒng)的權(quán)限管理方式，提高易用性，降低客戶使用門檻。提供通用的權(quán)限管理機制，統(tǒng)一各組件的權(quán)限管理實現(xiàn)，從架構(gòu)上補全安全系統(tǒng)的基礎(chǔ)能力，提高安全系統(tǒng)的可維護性和擴展性。從用戶角度來說本特性最主要的作用是建立起了客戶的原始需求和權(quán)限獲取的直接關(guān)系，省略了從原始需求中提取權(quán)限需求和從各個組件中獲取權(quán)限的操作步驟，這對用戶體驗是極大提升。Manager關(guān)鍵特性自動健康檢查與巡檢 Manager為用戶提供界面化的系統(tǒng)運行環(huán)境自動檢查服務(wù)，幫助用戶實現(xiàn)一鍵式系統(tǒng)運行健康度巡檢和審計，保障系統(tǒng)的正常運行，降低系統(tǒng)運維成本。用戶查看檢查結(jié)果后，還可導出檢查報告用于存檔及問題分析。Manager關(guān)鍵特性HDFS聯(lián)邦配置

HDFS的元數(shù)據(jù)信息，包括文件信息，塊信息等，都存儲在NameNode中，一般當存儲的文件數(shù)大于1億時，NameNode就成為瓶頸。通過NameNode聯(lián)邦可突破文件存儲數(shù)量的限制，最終可達到10億以上的文件。Manager關(guān)鍵特性統(tǒng)一多租戶

為了提高資源利用率和集群吞吐量，滿足企業(yè)多種業(yè)務(wù)需求，現(xiàn)在的大數(shù)據(jù)集群已不滿足于運行單一的作業(yè)和應(yīng)用類型。一個集群應(yīng)同時支持多個組織或部門的多種作業(yè)和應(yīng)用。Manager功能性操作監(jiān)控面板Manager提供可視化、便捷的監(jiān)控告警功能。Manager功能性操作服務(wù)管理服務(wù)管理頁面增加服務(wù)、下載客戶端、卸載集群、導出模板等操作Manager功能性操作服務(wù)指標監(jiān)控對服務(wù)的關(guān)鍵性能指標進行監(jiān)控。Manager功能性操作實例管理可進行增加實例、刪除實例、啟停實例、退服和入服等操作。Manager功能性操作實例監(jiān)控快速獲取實例關(guān)鍵性能指標。Manager功能性操作配置管理可進行服務(wù)配置管理，提供修改、導入/導出配置的功能。Manager功能性操作主機管理可進行增加刪除主機操作。Manager功能性操作主機實例管理可進行主機實例的啟動/停止等操作。支持跳轉(zhuǎn)Manager功能性操作告警管理可進行告警信息導出、查看告警詳細信息和告警過濾。Manager功能性操作主機資源監(jiān)控可進行主機資源監(jiān)控，定制監(jiān)控項，查看并導出其歷史監(jiān)控信息。Manager功能性操作統(tǒng)一多租戶管理管理員可統(tǒng)一規(guī)劃租戶資源，集中的權(quán)限管理，角色管理。Manager功能性操作審計日志查看操作的審計日志，支持按服務(wù)、主機和類型等過濾。Manager功能性操作權(quán)限管理-用戶管理可增加、編輯、刪除用戶，對非超級管理員賬戶還可以重置密碼。Manager功能性操作權(quán)限管理-用戶組管理增加用戶組，設(shè)置用戶組權(quán)限，刪除用戶組，編輯用戶組權(quán)限。Manager功能性操作權(quán)限管理-角色管理增加角色，設(shè)置角色權(quán)限，刪除角色，編輯角色權(quán)限。Manager功能性操作告警北向配置通過北向接口可以實現(xiàn)系統(tǒng)與企業(yè)現(xiàn)有網(wǎng)管系統(tǒng)集成。Manager功能性操作日志下載可根據(jù)服務(wù)、主機、開始時間、結(jié)束時間等進行日志過濾下載。Manager功能性操作監(jiān)控轉(zhuǎn)告警當監(jiān)控數(shù)據(jù)達到閾值，系統(tǒng)發(fā)出告警，在Alarm中出現(xiàn)告警信息。Manager功能性操作密碼修改可對OMS密碼和服務(wù)密碼進行修改。Manager功能性操作審計日志轉(zhuǎn)儲OM的審計日志可轉(zhuǎn)儲到指定服務(wù)器的指定目錄下。Manager功能性操作靜態(tài)服務(wù)資源池

FusionInsightManager當前支持HDFSDataNode、HBaseRegionServer、Yarn、NodeManager、ImpalaImpalad的靜態(tài)服務(wù)資源配置。靜態(tài)服務(wù)資源池的基數(shù)默認以物理資源的70%計算。Manager功能性操作配置跨集群互信

當不同的兩個集群需要互相訪問對方集群的資源時，系統(tǒng)管理員可以在FusionInsight，Manager設(shè)置互信的集群，使外部集群的用戶可以在本集群中使用。

每個集群用戶安全使用的范圍定義為“域”，不同的集群需要定義唯一的域名?？缂涸L問實際上就是用戶跨域使用。Manager功能性操作配置資源分布

系統(tǒng)管理員可以在FusionInsightManager上修改資源分布，使服務(wù)和主機的資源分布圖表中，可以按自定義的數(shù)值顯示一條或多條最高、最低監(jiān)控數(shù)據(jù)形成的曲。

Manager功能性操作健康檢查系統(tǒng)可對服務(wù)級別和主機級別的狀態(tài)進行健康檢查。Manager功能性操作licenseFusionInsight以主機為單位授予許可。Manager功能性操作集群修復提供集群修復功能，在集群出現(xiàn)問題的時候，進行修復操作。Manager功能性操作管理文件上傳

在升級集群時，用戶可在FusionInsightManager通過文件管理功能上傳集群升級包。支持在FusionInsightManager刪除上傳的文件。備份和恢復OMS數(shù)據(jù)備份提供對系統(tǒng)內(nèi)的用戶數(shù)據(jù)及系統(tǒng)數(shù)據(jù)的備份能力。備份和恢復OMS數(shù)據(jù)恢復提供對系統(tǒng)內(nèi)的用戶數(shù)據(jù)及系統(tǒng)數(shù)據(jù)的備份能力。

恢復OMS數(shù)據(jù)，需要執(zhí)行以下命令:./huaweibigdata_backup.sh-r/備份文件路徑/OMS數(shù)據(jù)備份文件

恢復成功，顯示如下結(jié)果:OMSrestoredsuccessfully.Pleasere-loginOMStoperformotheroperations.功能簡介Manager功能特性升級和補丁系統(tǒng)升級操作系統(tǒng)補丁操作系統(tǒng)升級操作系統(tǒng)升級-前提條件

軟件環(huán)境確保已在執(zhí)行升級操作的計算機上準備好升級所需的規(guī)劃文檔、軟件包。啟動升級前，請確保集群內(nèi)所有組件的service狀態(tài)都屬于正常狀態(tài)。確保集群內(nèi)所有的主機狀態(tài)屬于正常狀態(tài)。管理員需提前通知用戶會中斷業(yè)務(wù)，做好業(yè)務(wù)規(guī)劃硬件環(huán)境升級包所在目錄可用空間大于等于6G。系統(tǒng)升級操作系統(tǒng)升級-限制說明

升級過程中不可以手工操作主備OMS倒換。集群內(nèi)所有主機的root帳戶密碼要保持一致。保持網(wǎng)絡(luò)暢通，避免因網(wǎng)絡(luò)問題導致升級異常，系統(tǒng)升級失敗。觀察期不能做擴容，否則會導致升級confirm和回退失敗。系統(tǒng)升級操作系統(tǒng)升級-升級OMS

使用“PuTTY”，登錄主OMS服務(wù)器。行以下命令，防止“PuTTY”超時退出： TMOUT=0解壓縮升級軟件包： tar-zxvfHadoop_UPG_V100R002C02toV100R002C02SPC001.tar.gz執(zhí)行升級腳本升級OMS： cd/opt/Hadoop_UPG_V100R002C02toV100R002C02SPC001 ./upgrade.sh

業(yè)務(wù)主機的root名業(yè)務(wù)主機的root用戶密碼。單機和雙機的升級方法相同系統(tǒng)升級操作系統(tǒng)升級-升級集群

使用管理員帳號，登錄FusionInsightHadoopmanager系統(tǒng)。單擊“Services->MoreActions->Upgradecluster”,如圖：根據(jù)界面向?qū)?，可選擇修改服務(wù)的配置參數(shù)，提交升級操作。升級觀察期內(nèi)，業(yè)務(wù)正常，單擊“Confirm”，完成升級集群。

系統(tǒng)補丁操作系統(tǒng)補丁-補丁準備

安裝前準備1檢查集群版本提前1天5分鐘2獲取補丁包到本地提前1天5分鐘上傳補丁包到OMS服務(wù)器當天01:005分鐘3手動備份當天01:101小時安裝后驗證5驗證基本功能當天02:2030分鐘6驗證補丁功能當天02:5030分鐘系統(tǒng)補丁操作系統(tǒng)補丁-上傳補丁上傳補丁包到OMS服務(wù)器。

系統(tǒng)補丁操作系統(tǒng)補丁-補丁安裝上傳補丁后，啟動補丁包安