大模型時(shí)代的智能運(yùn)維（AIOps）（清華 2022）

分享主題大模型時(shí)代的智能運(yùn)維（AIOps)大模型時(shí)代，運(yùn)維界普遍關(guān)注的問題大語言模型決策者*&*&%￥#au&**&&%$#@...@#￥%+大語言模型決策者*&*&%￥#au&**&&%$#@...@#￥%+op*&…￥%#@23*&*&%￥#au&**&現(xiàn)有AIOps工具auau&**&&5%9$av#@...C-3PO機(jī)器人R2-D2機(jī)器人星戰(zhàn)男主人公除了需要“說人話”，AIOps還需要把語言模型與已有的小模型工具有機(jī)整合性能監(jiān)控流量鏡像社交媒應(yīng)用體助理顧問教練參謀比爾·蓋茨：AI智能體即將徹底改變我們使用計(jì)算機(jī)的方式助理顧問教練參謀運(yùn)維智能體專專家AIOps中的智能體操作記錄、?檔等通識(shí)大模型在運(yùn)維領(lǐng)域表現(xiàn)整體不如人意，而且參差不齊歡迎為評(píng)測(cè)榜單貢獻(xiàn)題目和模型：/content/leaderboard通用領(lǐng)域監(jiān)控告警監(jiān)控告警混合型任務(wù)性能優(yōu)化軟件部署第三梯隊(duì)7運(yùn)維領(lǐng)域的應(yīng)用需要一個(gè)“能聽懂運(yùn)維語言”的大語言模型大語言模型的模型棧私有部署運(yùn)維大語言模型私有部署運(yùn)維大語言模型運(yùn)維大語言模型運(yùn)維大語言模型松耦合的通識(shí)大語言模型底座松耦合的通識(shí)大語言模型底座系術(shù)挑優(yōu)系術(shù)挑優(yōu)也要避免悲觀：前述所有技術(shù)挑戰(zhàn)都有技術(shù)思路可以解決解決思路避免幻覺檢索增強(qiáng)增大顯式知識(shí)占比：思維鏈、思維樹、思維圖、知識(shí)圖譜“有據(jù)可依”的生成策略提供可解釋性可解釋性強(qiáng)嚴(yán)肅語料不足私有部署開銷低模型分層在公域做預(yù)訓(xùn)練、微調(diào)、提示工程私有部署時(shí)避免預(yù)訓(xùn)練、微調(diào)通過檢索方式融合本地知識(shí)庫文檔、提示作為便捷的知識(shí)工程手段通過降低模型精度降低私有部署推理開銷私域數(shù)據(jù)數(shù)量、質(zhì)量不足底座模型選擇與開源大語言模型底座盡量解耦大語言模型無法直接處理結(jié)構(gòu)化、多模態(tài)、實(shí)時(shí)數(shù)據(jù)AIOps結(jié)構(gòu)化大模型：左腦AIOps算法，右腦運(yùn)維知識(shí)圖譜如何結(jié)合大量存量AIOps、自動(dòng)化運(yùn)維工具基于智能體方式，采用基礎(chǔ)模型編程框架，融合小模型運(yùn)維工具（插件（Plug-in工具（Tool)）不求全面開花，而是小步快跑、以用促建：近期、中期、長(zhǎng)期應(yīng)用的定位運(yùn)維大語言模型帶來的直接增量?jī)r(jià)值?左腦：算法?右腦：運(yùn)維知識(shí)圖譜近中期應(yīng)用的定位助助理教教練顧顧問參參謀中長(zhǎng)期應(yīng)用的定位運(yùn)維大語言模型近期應(yīng)用舉例(1)：數(shù)字化運(yùn)維助手對(duì)結(jié)構(gòu)化知識(shí)檢索1.依賴Y應(yīng)用處理時(shí)間過長(zhǎng)2.中間件Weblogic問題，請(qǐng)檢查…3.網(wǎng)絡(luò)丟包問題，請(qǐng)檢查相關(guān)服務(wù)間見的網(wǎng)絡(luò)鏈路丟包率是否有異常4.第三方應(yīng)用問題，請(qǐng)檢查…答：Oracle實(shí)例B的活躍會(huì)話數(shù)的確飆高可能的原因包括：1.log-file-syn告警2.實(shí)例B的主機(jī)異常3.有CPU占用過高的SQL答：中間件Weblogic異常的原因包括：1.WebLogic堆空間滿，請(qǐng)檢查…2.Oracle數(shù)據(jù)庫“平均活躍會(huì)話數(shù)”指標(biāo)飆高答：建議殺掉該SQLC，具體指令是…。建議聯(lián)系Oracle數(shù)據(jù)庫管理員執(zhí)運(yùn)維大語言模型近期應(yīng)用舉例(2)：私有文檔問答基于公域運(yùn)維語料、知識(shí)庫,進(jìn)行預(yù)訓(xùn)練、讓模型能夠正確的給自己生成的內(nèi)容打上引用（reference清晰地展示出每一段是運(yùn)維大語言模型近期應(yīng)用舉例(3)：腳本解讀(Query2Lang)對(duì)存量腳本進(jìn)行文字解讀運(yùn)維大語言模型近期應(yīng)用舉例(4)：數(shù)據(jù)注釋（Data2Annotation）對(duì)運(yùn)維數(shù)據(jù)中的本體、實(shí)體、屬性、字段、標(biāo)簽進(jìn)行注釋近中期應(yīng)用：總結(jié)等能力提供意圖識(shí)別、總結(jié)等能力基礎(chǔ):數(shù)據(jù)標(biāo)準(zhǔn)化、工具接口標(biāo)準(zhǔn)化中長(zhǎng)期應(yīng)用：基于AIOps智能體，編排多個(gè)工具完成復(fù)雜運(yùn)維任務(wù)舉例：基于大語言模型的實(shí)時(shí)故障工單自動(dòng)生成杜絕幻覺、可解釋性強(qiáng)、私有部署開銷低、私有語料質(zhì)量數(shù)存量知識(shí)、工具、多模態(tài)數(shù)據(jù)、通識(shí)大語言模區(qū)分、整合非結(jié)構(gòu)化大模型與結(jié)構(gòu)化大模型模型分層：通識(shí)大語言模型、運(yùn)維大語言模型、私有部署運(yùn)維大語言模型關(guān)鍵組件運(yùn)維大語言模型是核心基礎(chǔ)杜絕幻覺、可解釋性強(qiáng)、私有部署開銷低、私有語料質(zhì)量數(shù)存量知識(shí)、工具、多模態(tài)數(shù)據(jù)、通識(shí)大語言模區(qū)