2024年智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺報告

基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺——助力湖北農(nóng)信高效、智能、全面運(yùn)維管理湖北省農(nóng)村信用社聯(lián)合社—陳勝項(xiàng)目概述項(xiàng)目概述目錄·項(xiàng)目背景·項(xiàng)目目標(biāo)目錄建設(shè)內(nèi)容·平臺架構(gòu)·創(chuàng)新特點(diǎn)·智能運(yùn)維場景項(xiàng)目成效·項(xiàng)目價值·總體收益項(xiàng)目背景項(xiàng)目背景手機(jī)銀行/網(wǎng)銀、支付、信貸管理系統(tǒng)等，它們采用不同的技術(shù)架構(gòu)（包括傳統(tǒng)架構(gòu)與云計(jì)算、微服務(wù)架構(gòu)）和多種操作系統(tǒng)、數(shù)據(jù)庫及中間件，相互關(guān)聯(lián)且交互日常運(yùn)營產(chǎn)生海量的運(yùn)維數(shù)據(jù)，包括交易日志、系統(tǒng)日志、網(wǎng)絡(luò)流量數(shù)據(jù)、用戶行為數(shù)據(jù)等，數(shù)據(jù)格式多樣且增長迅速。傳統(tǒng)的數(shù)據(jù)處理方式難以滿足實(shí)時分析和深度挖掘的需求，導(dǎo)致潛在問監(jiān)管機(jī)構(gòu)對銀行強(qiáng)監(jiān)管，對系統(tǒng)穩(wěn)定性、數(shù)據(jù)安全性等方面有極高要求。任何系統(tǒng)故障或安全漏洞都可能引發(fā)嚴(yán)重后果，如客戶信息泄露、交易中斷等，因此運(yùn)維管理需確保系統(tǒng)始終符合監(jiān)管為保障業(yè)務(wù)正常運(yùn)行，銀行投入大量人力、物力進(jìn)行運(yùn)維，但傳統(tǒng)運(yùn)維模式主要依賴人工操作，隨著業(yè)務(wù)競爭加劇，銀行需要在保障服務(wù)質(zhì)量的前提下，優(yōu)化運(yùn)現(xiàn)狀與挑戰(zhàn)現(xiàn)狀與挑戰(zhàn)信創(chuàng)環(huán)境、信創(chuàng)軟硬件的陸續(xù)使性信創(chuàng)環(huán)境、信創(chuàng)軟硬件的陸續(xù)使性手機(jī)銀行/網(wǎng)銀，聚合支付等業(yè)務(wù)從農(nóng)信銀回遷，對系統(tǒng)運(yùn)維和手機(jī)銀行/網(wǎng)銀，聚合支付等業(yè)務(wù)從農(nóng)信銀回遷，對系統(tǒng)運(yùn)維和現(xiàn)有監(jiān)控工具老舊、出現(xiàn)告警不云計(jì)算、分布式和微服務(wù)架構(gòu)，云計(jì)算、分布式和微服務(wù)架構(gòu)， 項(xiàng)目目標(biāo) 以數(shù)據(jù)為基礎(chǔ)，以算法為支撐，以場景為導(dǎo)向平均故障間隔時間MTBFMTTRMTTR平均故障恢復(fù)時間平均故障平均故障修復(fù)時間平均故障修復(fù)驗(yàn)證時間平均故障發(fā)現(xiàn)時間故障定位故障定位智能異常檢測全鏈路追蹤全鏈路追蹤MTBF平均故障間隔時間快速發(fā)現(xiàn)快速發(fā)現(xiàn)：發(fā)現(xiàn)的快-從單一告警到立體化故障發(fā)精準(zhǔn)定位：定位的準(zhǔn)-從多平臺切換到統(tǒng)實(shí)現(xiàn)運(yùn)維閉環(huán)管理建設(shè)目標(biāo)建設(shè)目標(biāo)資源全面監(jiān)控實(shí)現(xiàn)對云上云下所有硬件設(shè)備、軟件系統(tǒng)和網(wǎng)絡(luò)環(huán)境的實(shí)時監(jiān)控。資源全面監(jiān)控實(shí)現(xiàn)對云上云下所有硬件設(shè)備、軟件系統(tǒng)和網(wǎng)絡(luò)環(huán)境的實(shí)時監(jiān)控。0102統(tǒng)一日志管理對全行日志進(jìn)行統(tǒng)一采集、處理、存儲與查詢分析，結(jié)合日志模式識別與日志異常檢測等算法實(shí)現(xiàn)日志智能化管理。全面應(yīng)用調(diào)用鏈分析全面應(yīng)用調(diào)用鏈分析03集中告警管理04統(tǒng)一接入與處理多源告警消息，利用算法實(shí)現(xiàn)告警事件收斂、降噪、異常檢測和根因分析，實(shí)現(xiàn)事件全生命周期全局管控。智能數(shù)據(jù)分析利用智能算法自動分析海量監(jiān)控?cái)?shù)據(jù)，快速準(zhǔn)確地識別故障和異常智能數(shù)據(jù)分析利用智能算法自動分析海量監(jiān)控?cái)?shù)據(jù)，快速準(zhǔn)確地識別故障和異常，減少人工監(jiān)控帶來的疏漏與誤判，提高監(jiān)控的準(zhǔn)確性和效率。快速故障定位通過日志串聯(lián)分析，實(shí)現(xiàn)對故障點(diǎn)的上下游關(guān)系的快速識別，縮短故障排查時間0605項(xiàng)目概述項(xiàng)目概述目錄·項(xiàng)目背景·項(xiàng)目目標(biāo)目錄建設(shè)內(nèi)容·平臺架構(gòu)·創(chuàng)新特點(diǎn)·智能運(yùn)維場景項(xiàng)目成效·項(xiàng)目價值·總體收益基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺架構(gòu)基于智能算法的統(tǒng)一運(yùn)維監(jiān)控管理平臺架構(gòu)閉環(huán)故障分析與處置基于日志模式識別的異常檢測閉環(huán)故障分析與處置基于日志模式識別的異常檢測場景全鏈路業(yè)務(wù)追蹤場景全鏈路業(yè)務(wù)追蹤采集基于指標(biāo)體系的應(yīng)用健康度評估……最佳實(shí)踐和方案論智能運(yùn)維成熟度模型運(yùn)維指標(biāo)體系管理運(yùn)維數(shù)據(jù)治理采集基于指標(biāo)體系的應(yīng)用健康度評估……最佳實(shí)踐和方案論智能運(yùn)維成熟度模型運(yùn)維指標(biāo)體系管理運(yùn)維數(shù)據(jù)治理用戶體驗(yàn)與應(yīng)用性能管理運(yùn)維應(yīng)用立體化監(jiān)控立體化監(jiān)控可視化展示可視化展示報告報表報告報表日志管理日志管理事件管理事件管理配置管理配置管理運(yùn)維流程管理運(yùn)維流程管理運(yùn)維數(shù)據(jù)平臺運(yùn)維數(shù)據(jù)平臺運(yùn)維中臺CMDBCMDB算法中心算法中心低代碼平臺低代碼平臺采控中心用戶體驗(yàn)業(yè)務(wù)應(yīng)用服務(wù)節(jié)點(diǎn)系統(tǒng)網(wǎng)絡(luò)云平臺三方數(shù)據(jù)源事件指標(biāo)追蹤配置數(shù)據(jù)三方數(shù)據(jù)源事件指標(biāo)追蹤行內(nèi)應(yīng)用傳統(tǒng)/分布式架構(gòu)應(yīng)用云原生/微服務(wù)架構(gòu)應(yīng)用基于追蹤開放標(biāo)準(zhǔn)的應(yīng)用（OpenTracing等）行內(nèi)應(yīng)用基礎(chǔ)設(shè)施：私有云/混合云/虛擬化/超融合/X86物理機(jī)/小機(jī)創(chuàng)新特點(diǎn)：一個門戶、千人千面統(tǒng)一運(yùn)維門戶：整合基礎(chǔ)設(shè)施監(jiān)控、日志分析管理、應(yīng)用鏈路分析、事件中心、算法中心等功能，實(shí)現(xiàn)跨系統(tǒng)、跨平臺的全面可視化，提供統(tǒng)一的視角來審視整個IT環(huán)境和業(yè)務(wù)流程。千人千面：業(yè)務(wù)人員、一線、二線運(yùn)維人員根據(jù)不同角色，分配不同運(yùn)維權(quán)限。一線運(yùn)維角色二線運(yùn)維角色統(tǒng)一門戶展示一線運(yùn)維角色二線運(yùn)維角色創(chuàng)新特點(diǎn)：基礎(chǔ)資源監(jiān)控全覆蓋創(chuàng)新特點(diǎn)：基礎(chǔ)資源監(jiān)控全覆蓋覆蓋云上、云下基礎(chǔ)資源資產(chǎn)監(jiān)控覆蓋云上、云下基礎(chǔ)資源資產(chǎn)監(jiān)控，提高IT設(shè)施的管控能力，為資源集中化監(jiān)控和業(yè)務(wù)系統(tǒng)可觀測能力提供強(qiáng)力支撐。資源對象監(jiān)控指標(biāo)閾值監(jiān)控網(wǎng)絡(luò)拓?fù)浣ㄔO(shè)全面監(jiān)控服務(wù)器、操作系統(tǒng)、數(shù)據(jù)庫、中間件、網(wǎng)絡(luò)設(shè)備、存儲設(shè)備等基礎(chǔ)資源。全面覆蓋各類設(shè)備的監(jiān)控指標(biāo)，支持對指標(biāo)閾值進(jìn)行自定義設(shè)置。系統(tǒng)中展示自動搜索生成的物理連接拓?fù)鋱D。創(chuàng)新特點(diǎn)：日志集中管理接入行內(nèi)重要業(yè)務(wù)系統(tǒng)全量日志，日增2T日志量，進(jìn)行日志串聯(lián)分析，結(jié)合日志異常檢測及日志模式識別智采用簡潔、輕量、高效、穩(wěn)定、可擴(kuò)展的技術(shù)架構(gòu)，可以兼容ES、雙引擎；采用基于列式存儲數(shù)據(jù)庫Clickhouse，在數(shù)據(jù)寫入、響應(yīng)時間、部署規(guī)模、高可用等各方面具有良好的表現(xiàn)，能夠滿足各種業(yè)務(wù)場景下日志存儲的需求基于日志的鏈路分析全量日志檢索分析基于日志的鏈路分析全量日志檢索分析創(chuàng)新特點(diǎn)：重要業(yè)務(wù)系統(tǒng)鏈路全覆蓋創(chuàng)新特點(diǎn)：重要業(yè)務(wù)系統(tǒng)鏈路全覆蓋基于旁路報文數(shù)據(jù)基于旁路報文數(shù)據(jù)，構(gòu)建業(yè)務(wù)全路徑實(shí)時性能監(jiān)控體系，構(gòu)建數(shù)據(jù)中心業(yè)務(wù)性能第一感知源云上業(yè)務(wù)系統(tǒng)云下前置核心云上業(yè)務(wù)系統(tǒng)外聯(lián)機(jī)構(gòu)創(chuàng)新特點(diǎn)：立體化監(jiān)控管理創(chuàng)新特點(diǎn)：立體化監(jiān)控管理集成已有監(jiān)控工具（基礎(chǔ)監(jiān)控、集成已有監(jiān)控工具（基礎(chǔ)監(jiān)控、NPM、BPC、云平臺監(jiān)控等構(gòu)建統(tǒng)一監(jiān)控能力，提供系統(tǒng)健康度評估和展示。通過指標(biāo)、告警、日志、業(yè)務(wù)調(diào)用關(guān)系、資源依賴關(guān)系等進(jìn)行多維度監(jiān)控分析，豐富監(jiān)控和故障分析路徑，保障業(yè)務(wù)持續(xù)穩(wěn)定運(yùn)行。①服務(wù)日志數(shù)據(jù)②資源指標(biāo)數(shù)據(jù)⑤拓?fù)浣y(tǒng)一展示覆蓋18套重點(diǎn)業(yè)務(wù)系統(tǒng)覆蓋18套重點(diǎn)業(yè)務(wù)系統(tǒng)數(shù)據(jù)整合l匯總資產(chǎn)、日志、指標(biāo)、告警四類數(shù)據(jù)展示系統(tǒng)拓?fù)?；l統(tǒng)一界面實(shí)現(xiàn)日志分析、指標(biāo)查看、告警監(jiān)控；③日志指標(biāo)數(shù)據(jù)④各類告警數(shù)據(jù)創(chuàng)新特點(diǎn)：統(tǒng)一配置管理創(chuàng)新特點(diǎn)：統(tǒng)一配置管理CMDBCMDB配置管理：將傳統(tǒng)線下資產(chǎn)和云上資產(chǎn)進(jìn)行統(tǒng)一管理。為運(yùn)維可視化、業(yè)務(wù)可視化、數(shù)據(jù)分析等場景，提供數(shù)據(jù)支撐。①云上、云下資產(chǎn)資產(chǎn)覆蓋率100%；②共建設(shè)近百個模型，主要包含業(yè)務(wù)資源、軟件資源、硬件資源3大類8子類模型分類。屬性信息關(guān)系信息臺賬搜索資產(chǎn)臺賬屬性信息關(guān)系信息臺賬搜索資產(chǎn)臺賬創(chuàng)新特點(diǎn)：生產(chǎn)事件閉環(huán)管理創(chuàng)新特點(diǎn)：生產(chǎn)事件閉環(huán)管理統(tǒng)一接入基礎(chǔ)監(jiān)控、NPM、統(tǒng)一接入基礎(chǔ)監(jiān)控、NPM、BPC、互聯(lián)網(wǎng)金融云、楚天農(nóng)商云、系事件——工單閉環(huán)管理運(yùn)維流程管理：以ITIL4、ISO20000為基礎(chǔ)，適應(yīng)湖北農(nóng)信數(shù)字化轉(zhuǎn)型中新的業(yè)務(wù)發(fā)展與IT架構(gòu)的特點(diǎn)，打造規(guī)范化、流程化的IT運(yùn)維流程管理體系；完善事件、問題等標(biāo)準(zhǔn)管理流程，建立事件到工單的閉環(huán)管理過程。靈活的表單設(shè)計(jì)拖拽式流程設(shè)計(jì)領(lǐng)導(dǎo)駕駛艙領(lǐng)導(dǎo)駕駛艙創(chuàng)新特點(diǎn)：核心業(yè)務(wù)數(shù)據(jù)可視化展示創(chuàng)新特點(diǎn)：核心業(yè)務(wù)數(shù)據(jù)可視化展示全省業(yè)務(wù)大屏全局視角建設(shè)從頂層到各區(qū)域業(yè)務(wù)數(shù)據(jù)大屏全省業(yè)務(wù)大屏全局視角建設(shè)從頂層到各區(qū)域業(yè)務(wù)數(shù)據(jù)大屏，關(guān)注行內(nèi)五類核心業(yè)務(wù)數(shù)據(jù)，提升行內(nèi)數(shù)據(jù)價值和市場敏感度，實(shí)現(xiàn)了業(yè)務(wù)數(shù)據(jù)的全面可視化和精準(zhǔn)管理。 全局事件展示省內(nèi)各區(qū)域核心數(shù)據(jù)，把握整體業(yè)務(wù)狀況聚焦核心區(qū)域洞察 聚焦五類核心業(yè)務(wù)，實(shí)時展示核心指標(biāo)數(shù)據(jù)聚焦核心區(qū)域洞察 按各區(qū)域展示詳細(xì)的業(yè)務(wù)數(shù)據(jù)，制定針對性的市場策略市場拓展 對比區(qū)域差異，識別潛在市場 按各區(qū)域展示詳細(xì)的業(yè)務(wù)數(shù)據(jù)，制定針對性的市場策略市場拓展 對比區(qū)域差異，識別潛在市場，促進(jìn)區(qū)域協(xié)同發(fā)展 為戰(zhàn)略規(guī)劃制定、調(diào)整提供數(shù)據(jù)支持和決策依據(jù) 為戰(zhàn)略規(guī)劃制定、調(diào)整提供數(shù)據(jù)支持和決策依據(jù)智能運(yùn)維場景-算法中臺強(qiáng)大算法能力為運(yùn)維平臺智能化場景賦能，助力智能運(yùn)維場景落地，減少問題發(fā)現(xiàn)和故障排查的時長（MTTR提升檢測準(zhǔn)確率和運(yùn)維效率。7大類共32種算法及72種開箱即用算法泛型全力支撐可觀測平臺核心場景。告警降噪單指標(biāo)預(yù)測告警降噪異常檢測多維指標(biāo)分析根因分析與推薦異常檢測多維指標(biāo)分析抽象能力開放的平臺抽象能力開放的平臺統(tǒng)計(jì)能力場景能力統(tǒng)計(jì)能力場景能力集成能力工程化能力擴(kuò)展能力管理能力集成能力工程化能力擴(kuò)展能力管理能力算法中臺提供了豐富的算法，開箱即用，支撐豐富的運(yùn)維場景。 算法中臺配置數(shù)據(jù)執(zhí)行算法泛型應(yīng)用實(shí)踐過程 算法中臺配置數(shù)據(jù)執(zhí)行開箱即用的算法庫新建實(shí)新建實(shí)驗(yàn)查看結(jié)查看結(jié)果管理算法泛型管理算法泛型調(diào)參優(yōu)調(diào)參優(yōu)化發(fā)布算法泛型新建數(shù)據(jù)源場景管理發(fā)布算法泛型新建數(shù)據(jù)源場景管理數(shù)據(jù)中臺智能運(yùn)維場景-數(shù)據(jù)中臺指標(biāo)數(shù)據(jù)追蹤數(shù)據(jù)配置數(shù)據(jù)監(jiān)控?cái)?shù)據(jù)以運(yùn)維數(shù)據(jù)為基礎(chǔ)。通過集中數(shù)據(jù)采集、數(shù)據(jù)處理、數(shù)據(jù)存儲、規(guī)則模型、頂層場景設(shè)計(jì)，形成運(yùn)維場景各層級應(yīng)用系統(tǒng)的調(diào)用關(guān)聯(lián)，做到端到端覆蓋，利用智能算法平臺，形成業(yè)務(wù)場景全鏈路業(yè)務(wù)追蹤、健康度、多維分析IT指標(biāo)、業(yè)務(wù)層級拓?fù)涞牧Ⅲw化監(jiān)控。指標(biāo)數(shù)據(jù)追蹤數(shù)據(jù)配置數(shù)據(jù)監(jiān)控?cái)?shù)據(jù)集成模板采集集成模板采集指標(biāo)采集配置采集數(shù)據(jù)管道數(shù)據(jù)管道流式計(jì)算批量計(jì)算任務(wù)編排數(shù)據(jù)建模運(yùn)維數(shù)據(jù)庫配置數(shù)據(jù)全鏈路追蹤可觀測全鏈路數(shù)據(jù)分析全鏈路統(tǒng)一告警數(shù)據(jù)服務(wù)API智能運(yùn)維應(yīng)用其他數(shù)據(jù)源數(shù)據(jù)規(guī)范數(shù)據(jù)質(zhì)量其他數(shù)據(jù)源數(shù)據(jù)規(guī)范數(shù)據(jù)質(zhì)量數(shù)據(jù)安全全鏈路多視角分析能力，快速定界、定位全鏈路多視角分析能力，快速定界、定位拓?fù)洌?lián)動指標(biāo)、日志、告警、變更等多維數(shù)障根因分析路徑，快速定界定位。智能運(yùn)維場景-全鏈路可觀測及故障定位智能運(yùn)維場景-基于日志算法的故障發(fā)現(xiàn)智能運(yùn)維場景-基于日志算法的故障發(fā)現(xiàn)在多類型的日志模式中在多類型的日志模式中，無需設(shè)置，自動發(fā)現(xiàn)新增的日志模式，監(jiān)控日志模式趨勢，如遇到異常，系統(tǒng)及時給出告警提示，輔助客戶快速發(fā)現(xiàn)問題根因。據(jù)據(jù)模型訓(xùn)練模型訓(xùn)練異常檢測異常檢測噪音特征-降噪分析相似性/ACLevens降噪算法相關(guān)性/AMDrain噪音特征-降噪分析相似性/ACLevens降噪算法相關(guān)性/AMDrain降噪算法因果性/ACFrepm降噪算法噪音特征-降噪場景智能告警定級根因分析/定位/推薦智能檢測風(fēng)暴智能運(yùn)維場景-告警降噪 集 集AI智能降噪過濾條件27149條規(guī)則壓縮AI智能降噪過濾條件27149條規(guī)則壓縮9272條集成數(shù)據(jù)源原始告警270w+條1W/S智能運(yùn)維場景-單指標(biāo)異常檢測智能運(yùn)維場景-單指標(biāo)異常檢測提煉指標(biāo)靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo) 靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo)靜態(tài)閾值/同環(huán)比閾值提煉指標(biāo) 原始告警智能化算法 原始告警智能化算法原始告警原始告警 靜態(tài)閾值/同環(huán)比閾值監(jiān)控工具指標(biāo) 監(jiān)控工具指標(biāo)→監(jiān)控工具指標(biāo) 監(jiān)控工具指標(biāo)→ 智能化算法