2023年人工智能研發(fā)運(yùn)營(yíng)體系（MLOps）實(shí)踐指南

(MLOps(MLOps)實(shí)踐指南(2023年)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室I版權(quán)聲明本指南版權(quán)屬于中國(guó)信息通信研究院、人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室，并受法律保護(hù)。轉(zhuǎn)載、摘編或利用其它方式使用本指南文字或者觀點(diǎn)的，應(yīng)注明“來源：中國(guó)信息通信研究院、人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測(cè)工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室”。違反上述聲明者，本院將追究其相關(guān)法律責(zé)任。前言隨著國(guó)家新型基礎(chǔ)設(shè)施建設(shè)發(fā)展戰(zhàn)略(2020)、國(guó)家“十四五規(guī)劃作為AI工程化重要組成部分，其核心思想是解決AI生產(chǎn)過程中團(tuán)隊(duì)協(xié)作難、管理亂、交付周期長(zhǎng)等問題，最終實(shí)現(xiàn)高質(zhì)量、高效率、術(shù)psMLOps構(gòu)建MLOps框 (一)AI生產(chǎn)過程管理問題凸顯 1(二)MLOps概念與意義 2(三)MLOps實(shí)施原則 3 (一)MLOps發(fā)展過程 6(二)MLOps落地挑戰(zhàn) 11 (一)機(jī)器學(xué)習(xí)項(xiàng)目生命周期 13(二)MLOps流程架構(gòu) 14(三)MLOps相關(guān)角色 19 (一)數(shù)據(jù)處理 22(二)模型訓(xùn)練 25(三)構(gòu)建集成 27(四)模型服務(wù) 30(五)運(yùn)營(yíng)監(jiān)控 35(六)模型重訓(xùn) 38(七)實(shí)驗(yàn)管理 40(八)流水線管理 43(九)特征管理 45(十)模型管理 47(十一)倉(cāng)庫(kù)管理 50(十二)模型安全 53 (一)總結(jié) 57(二)展望 58圖目錄 圖 6 命周期示意圖 13 23處理能力示意圖 24數(shù)據(jù)處理能力架構(gòu)圖 25練架構(gòu)圖 27 服務(wù)示意圖 32架構(gòu)圖 33ps 院模型成效閉環(huán)運(yùn)營(yíng)分析示意圖 37練能力示意圖 39練流程圖 40理流程圖 41實(shí)驗(yàn)管理界面 42管理示意圖 44流水線編排可視化能力示意圖 44特征實(shí)驗(yàn)流程圖 46征工程流程圖 47型管理示意圖 48理流程圖 49 器學(xué)習(xí)生命周期示意圖 52安全防御策略示意圖 54 -AI安全檢測(cè)平臺(tái) 56表目錄 附表1MLOps工具鏈清單 63人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)1MLOps是通過構(gòu)建和運(yùn)行機(jī)器學(xué)習(xí)流水線(Pipeline)，統(tǒng)一機(jī)器學(xué)習(xí)(ML)項(xiàng)目研發(fā)(Dev)和運(yùn)營(yíng)(Ops)過程的一種方法，目的好用”。本章首先闡述組織在AI大規(guī)模生產(chǎn)(一)AI生產(chǎn)過程管理問題凸顯AI資產(chǎn)的價(jià)值無法有效發(fā)揮。原因在于以下幾方面：一是生產(chǎn)過程yTrendsfor人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)2過程，且耗費(fèi)的時(shí)間成本較高。據(jù)Algorithmia報(bào)告的(二)MLOps概念與意義、可持續(xù)地生產(chǎn)機(jī)器學(xué)習(xí)模型。artnerTopDataandAnalyticsTrendsfor人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)3索性、實(shí)驗(yàn)性和不確定性。建立，全管理等手段，實(shí)現(xiàn)有效治理。(三)MLOps實(shí)施原則人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)4持續(xù)性包括持續(xù)集成(CI)、持續(xù)部署(CD)、持續(xù)訓(xùn)練(CT)、持續(xù)監(jiān)控(CM)，是MLOps實(shí)現(xiàn)全流程閉環(huán)的基礎(chǔ)。等過程維度，保障模型的功能、性能和可信能力(安全性、保密性、人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)5人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)6MLOps在國(guó)內(nèi)外得到了廣泛應(yīng)用，并在多個(gè)行業(yè)取得了實(shí)質(zhì)性(一)MLOps發(fā)展過程1.發(fā)展歷程斟酌發(fā)酵階段(2015年至2017年前后)。2015年Google在ConferenceandWorkshoponNeuralInformationProcessingSystems(NIPS)上發(fā)布的論文《HiddenTechnicalDebtinMachineLearning化的方法論和規(guī)范化的管理流程，解決技術(shù)債問題的強(qiáng)烈需求。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)7概念明確階段(2018年至2019年前后)。2018年業(yè)內(nèi)人士逐漸管理的重要性，CD端到端的交付流程。CD4ML將傳統(tǒng)軟件s學(xué)習(xí)技術(shù)成熟度曲線5。2021年，中國(guó)信息通信研究院牽頭開展hineLearninghttpsmartinfowlercomarticlescdmlhtmlGartnerGartnerTopDataandAnalyticsTrends.人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)82.發(fā)展現(xiàn)狀MLOps產(chǎn)品提供方和應(yīng)用方不同程度地受益于MLOps體系的部署的OctoML獲得1.33億機(jī)器學(xué)習(xí)平臺(tái)、九章云極DataCanvasAPS機(jī)器學(xué)習(xí)平wwwmarketsandmarketscomMarketReportsmlopsmarketbEAAYASAAEgKnBPDBwE人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)9(2)MLOps行業(yè)應(yīng)用穩(wěn)步推進(jìn)，落地實(shí)踐成果頗豐人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)緩。7/mlops-case-study/#introducing-mlops-to-your-business.IDCIDCFutureScapeAI—中國(guó)啟示》.人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)縮短至天，將模型部署時(shí)間從小時(shí)級(jí)縮短至秒級(jí)9。(二)MLOps落地挑戰(zhàn)ps型運(yùn)營(yíng)階段的落地處于逐步規(guī)劃建設(shè)中。在這個(gè)漸進(jìn)式過程中，MLOps落地面臨著諸多挑戰(zhàn)。9數(shù)據(jù)來源：中國(guó)信息通信研究院行業(yè)調(diào)研訪談.人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)MLOps實(shí)踐指南作為指導(dǎo)，缺乏標(biāo)桿組織和案例作為參考，導(dǎo)致諸人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)信(一)機(jī)器學(xué)習(xí)項(xiàng)目生命周期括定義問題、數(shù)據(jù)收集、數(shù)據(jù)處理、人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)(二)MLOps流程架構(gòu)監(jiān)控流水線七個(gè)部分。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)1.需求分析與開發(fā)3)梳理項(xiàng)目過程需要的數(shù)據(jù)，以及數(shù)據(jù)處理過程和規(guī)則(例如，2.數(shù)據(jù)工程流水線。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)3.模型實(shí)驗(yàn)流水線驗(yàn)所需代碼與配置。迭代訓(xùn)練將會(huì)停止。模型訓(xùn)練和模型評(píng)估任務(wù)可根據(jù)條件重復(fù)觸發(fā)。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)4.持續(xù)集成流水線AR5.持續(xù)部署流水線決部署周期長(zhǎng)、部署配置易出錯(cuò)、雜、模型運(yùn)行狀態(tài)不穩(wěn)定等問題，統(tǒng)提供推理服務(wù)的充分準(zhǔn)備。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)6.持續(xù)訓(xùn)練流水線主要輸入：流水線配置(包括節(jié)點(diǎn)、觸發(fā)條件、參數(shù)等)、舊數(shù)7.持續(xù)監(jiān)控流水線人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)驟：(三)MLOps相關(guān)角色件工程師、測(cè)試工程師和運(yùn)同重點(diǎn)及具體的工作職MLOps角色職責(zé)要求理師員命命周期過程習(xí)體化向；向；2.制定項(xiàng)目計(jì)劃，統(tǒng)籌把控和管理項(xiàng)目全流程的進(jìn)度、成、質(zhì)量、風(fēng)險(xiǎn)、資源等；3.管理和維護(hù)各條機(jī)器學(xué)習(xí)流水線，確保流水線的可擴(kuò)展2.跟進(jìn)數(shù)據(jù)準(zhǔn)備過程，確保數(shù)據(jù)的高質(zhì)量；3.模型開發(fā)過程中，選擇性能最佳的算法和超參數(shù)，開展4.模型交付、運(yùn)營(yíng)監(jiān)控過程中，配合問題定位和決策。有1.將數(shù)據(jù)科學(xué)家提供的模型轉(zhuǎn)化為模型服務(wù)，開發(fā)服務(wù)代。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)s付行的模型風(fēng)險(xiǎn)分析師人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)s梳理了部分MLOps工具鏈清單(見附表)。(一)數(shù)據(jù)處理基礎(chǔ)，高質(zhì)量的數(shù)據(jù)有助于生成更優(yōu)質(zhì)的模型。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)括結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)(例如文本、圖像、音頻等)，結(jié)構(gòu)括結(jié)構(gòu)化數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)(例如文本、圖像、音頻等)，結(jié)構(gòu)化 樣化的運(yùn)維數(shù)據(jù)的搜集、處理、標(biāo)注帶來的挑戰(zhàn)，進(jìn)行了如下改造： 方式進(jìn)行處理，并根據(jù)場(chǎng)景需要實(shí)時(shí)加載數(shù)據(jù)。 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年) 心的高效、便捷、安全的管理能力，并提供數(shù)據(jù)核心管理模塊： ((二)模型訓(xùn)練 語音等數(shù)據(jù)的加工處理，幫助企業(yè)快速獲得高質(zhì)量訓(xùn)練數(shù)據(jù)。 核驗(yàn)證，大幅降低算法研發(fā)人員投入成本，減少模型訓(xùn)練時(shí)間。 圖人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)核心步驟，核心步驟，訓(xùn)練過程的效率提升和訓(xùn)練結(jié)果的質(zhì)量提升，對(duì)MLOps。常重要。?支持模型的可解釋(例如采用特征重要性等方式)。2.資源的合理調(diào)度：訓(xùn)練任務(wù)資源調(diào)度存在明顯波峰波谷和多種資源分人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)(三)構(gòu)建集(三)構(gòu)建集成蓋模型構(gòu)建(模型訓(xùn)練過程)和模型服務(wù)構(gòu)建。構(gòu)建集成是將模型轉(zhuǎn) 百度智能云企業(yè)AI開發(fā)平臺(tái)提供Notebook建模、可視化建模、作業(yè)建模、自動(dòng)化建模、產(chǎn)線建模等多種建模方式，支持主流機(jī)器學(xué)習(xí)和深度學(xué)習(xí)開發(fā)框架，并能通過Docker鏡像的形式來支持其他框架和第三方軟件庫(kù)。平臺(tái) 內(nèi)置ERNIE等全面領(lǐng)先的NLP模型，以及各領(lǐng)域各方向的高精度預(yù)訓(xùn)練模 型，并支持對(duì)大模型進(jìn)行訓(xùn)練加速。該平臺(tái)幫助不同建模水平的人員提升建模 效率，助力企業(yè)構(gòu)建統(tǒng)一的AI基礎(chǔ)設(shè)施。 圖14百度的模型訓(xùn)練架構(gòu)圖人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)在MLOps平臺(tái)中，持續(xù)構(gòu)建與集成需要解決不同角色(數(shù)據(jù)工程師、機(jī)器學(xué)習(xí)算法工程師、工程開發(fā)人員、模型運(yùn)營(yíng)人員等)的平滑協(xié)作、不同階段(開發(fā)、構(gòu)建、部署等)的自動(dòng)化運(yùn)行。馬上消費(fèi)的智馬平臺(tái)為了應(yīng)對(duì)持續(xù)構(gòu)建型衰減時(shí)觸發(fā)新的MLpipeline運(yùn)行，完成持續(xù)訓(xùn)練和部?對(duì)集成過程中出現(xiàn)的問題具備自動(dòng)化反饋和管理機(jī)制(例如，人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)騰訊的太極機(jī)器學(xué)習(xí)平臺(tái)(TaiJiMachineLearningPlatform)為騰訊廣告場(chǎng)fork將線上基線模型及其參數(shù)配置3.模型構(gòu)建：模型經(jīng)過離線評(píng)估后，通過集成騰訊智研CI/CD系統(tǒng)的驗(yàn)證算法相關(guān)指標(biāo)。沙箱驗(yàn)證不通過將會(huì)攔截模型線上實(shí)驗(yàn)和部署流程，沙箱驗(yàn)證通過后可經(jīng)主動(dòng)觸發(fā)和批量調(diào)度將模型發(fā)布到生成環(huán)境進(jìn)行流量實(shí)驗(yàn)和放(四)模型服務(wù)(四)模型服務(wù)解耦。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)整體評(píng)估情況(包括指標(biāo)曲線和混淆矩陣等)，全面對(duì)比分析各項(xiàng)指標(biāo)。調(diào)試：內(nèi)置多種模型優(yōu)化技術(shù)用于優(yōu)化模型推理性能，支持云邊過服務(wù)組件編排，對(duì)一系列原子能力進(jìn)行組合，并支持AB成模型效果比對(duì)，依據(jù)請(qǐng)求分發(fā)線預(yù)測(cè)服務(wù)、離線預(yù)測(cè)服務(wù)，滿足服務(wù)發(fā)布過程中、壓縮和加密等處理需求；支持通過血系快速更新模型；靈活支持各種預(yù)測(cè)服務(wù)監(jiān)控模型運(yùn)行狀態(tài)，并在檢測(cè)出現(xiàn)問題時(shí)發(fā)送郵件警型自動(dòng)重訓(xùn)；支持對(duì)模型效果偏移的實(shí)，人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)體系提供保障。實(shí)驗(yàn)原則使組織的改進(jìn)和創(chuàng)新成為日常工作的一部分。使用部署狀態(tài)，所有合并到主干的代碼都可以安全地部署到生產(chǎn)環(huán)境。在源頭保障 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年) 2.執(zhí)行CI/CD流水線 時(shí)銷毀構(gòu)建環(huán)境。整套持續(xù)集成、持續(xù)交付流程以開源工具或自主研發(fā)工具為 CD 模型部署。自動(dòng)觸發(fā)CD流水線功能可選擇開啟或關(guān)閉，開啟時(shí)會(huì)自動(dòng)觸 D 3.服務(wù)發(fā)布 D D 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)(五)運(yùn)營(yíng)監(jiān)控(五)運(yùn)營(yíng)監(jiān)控 2)創(chuàng)建服務(wù)推理圖，基于業(yè)務(wù)場(chǎng)景構(gòu)建(一個(gè)或多個(gè))模型的推理邏輯， 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)過程監(jiān)控，對(duì)各任務(wù)或流水線的運(yùn)行情況(執(zhí)行結(jié)果、SLA等)進(jìn)行。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年))。邏輯加工成功與否(數(shù)棧)、數(shù)據(jù)加工過程(天 位策略問題，沉淀標(biāo)桿案例。 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)模型維度監(jiān)控：維度監(jiān)控：(六)模型重訓(xùn)習(xí)項(xiàng)目的動(dòng)態(tài)環(huán)境中，通過模型重訓(xùn)開展維持模型性能。模型重訓(xùn)通常包括離線重訓(xùn)和在線(生產(chǎn)環(huán)境)重訓(xùn)兩種。模型重訓(xùn)是為了減的風(fēng)險(xiǎn)，并為數(shù)據(jù)科學(xué)家提供模型?通過持續(xù)監(jiān)控流水線的輸出(例如，當(dāng)監(jiān)控指標(biāo)低于閾值時(shí)，新訓(xùn)練的開展。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年) 訓(xùn) 通過構(gòu)建持續(xù)訓(xùn)練鏈路和自動(dòng)化訓(xùn)練能力，當(dāng)告警中心監(jiān)測(cè)到模型性能 數(shù)據(jù)漂移等情況后，通知博弈中心，并依據(jù)在博弈中心配置的迭代模板進(jìn)行模型自迭代流程。一般迭代模板主要分為以下四大類： n 行監(jiān)控，當(dāng)相關(guān)指標(biāo)低于閾值時(shí)，觸發(fā)訓(xùn)練中心的訓(xùn)練任務(wù)進(jìn)行持續(xù)訓(xùn)練。訓(xùn)練中心收到監(jiān)控中心發(fā)出的迭代請(qǐng)求后，從案件中心中獲取最新樣本集，依據(jù)AuotML的自動(dòng)模型選擇和自動(dòng)參數(shù)尋優(yōu)能力自動(dòng)訓(xùn)練出最新模型。最新模型推送到測(cè)評(píng)中心，由測(cè)評(píng)中心對(duì)模型進(jìn)行性能、魯棒性、公平性、機(jī)密性等全方位的測(cè)評(píng)，達(dá)到準(zhǔn)出條件后，產(chǎn)出測(cè)評(píng)報(bào)告，并推送到發(fā)布中心。在發(fā)布中 trainAutoRefit 程、自動(dòng)模型選擇和參數(shù)尋優(yōu)(深度學(xué)習(xí)中是神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)搜索NAS)等全部人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)0((七)實(shí)驗(yàn)管理果比對(duì)和過程重現(xiàn)，型探索效率，提高可追溯能力。 3.持續(xù)標(biāo)注與主動(dòng)學(xué)習(xí)，主要解決在沒有標(biāo)注的場(chǎng)景下模型監(jiān)控與迭代問 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)1執(zhí)行配置(數(shù)據(jù)、代碼、參數(shù)等)。 百度智能云企業(yè)AI開發(fā)平臺(tái)提供實(shí)驗(yàn)管理能力，支持用戶查看實(shí)驗(yàn)和訓(xùn) 通過實(shí)驗(yàn)管理，一是用戶可對(duì)比同建模或跨建模方式下的實(shí)驗(yàn)效果；二是以實(shí)驗(yàn)對(duì)比找到關(guān)鍵影響因素，方便復(fù)現(xiàn)和調(diào)優(yōu)；三是實(shí)現(xiàn)全平臺(tái)建模方式 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)2 任務(wù)/參數(shù)配置)與實(shí)驗(yàn)過程記錄留存能力，可視化追溯模型實(shí)驗(yàn)全過程，支持 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)3DevOps相關(guān)能力適配AI模型的構(gòu)(八)流水線管理團(tuán)務(wù)執(zhí)行策略(例如，使用周期性、定時(shí)、消息等流水線。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)4 sPipeline psDevOps 5特征管理是通過建立一個(gè)集中式存儲(chǔ)區(qū)(如特征平臺(tái))，特征管理是通過建立一個(gè)集中式存儲(chǔ)區(qū)(如特征平臺(tái))，對(duì)特征全生命周期進(jìn)行標(biāo)準(zhǔn)化處理和管理(如生產(chǎn)、存儲(chǔ)與消費(fèi)等)，提升一致性。(例如原始特征在線獲取和特征在線轉(zhuǎn)換等)。(九)特征管理場(chǎng)景下的高頻特征獲取和實(shí)時(shí)特征生產(chǎn)場(chǎng)景，通過6浦發(fā)銀行深度學(xué)習(xí)平臺(tái)MLP提供特征工程能力，用于保證特征數(shù)據(jù)一致特征血緣和下游影響分析能力，可配置特征計(jì)算邏輯，對(duì)特征數(shù)據(jù)進(jìn)行比對(duì)設(shè)時(shí)監(jiān)控；依據(jù)每個(gè)變量在訓(xùn)練時(shí)的分箱與上線后的分箱差異，判斷特征分布是人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)7河南移動(dòng)融智工場(chǎng)通過算法中臺(tái)對(duì)算法模型進(jìn)行統(tǒng)一管控，包括模型接河南移動(dòng)融智工場(chǎng)通過算法中臺(tái)對(duì)算法模型進(jìn)行統(tǒng)一管控，包括模型接(十)模型管理力。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)8 準(zhǔn)化的模型接入接口，將訓(xùn)練完成的模型納入算法中臺(tái)。 2.模型視圖管理：對(duì)接入算法模型的版本信息、腳本信息、和環(huán)境信息進(jìn)行查詢、修改，可實(shí)現(xiàn)對(duì)算法模理的清理、統(tǒng)一發(fā)布部署等。 為用戶提供更加精準(zhǔn)貼合需求的算法模型。目前算法中心沉淀了包括指標(biāo)異常 4.模型泛型管理：將納入管理的算法模型拆解重組裝，形成和業(yè)務(wù)結(jié)合緊 評(píng)估分析，可實(shí)現(xiàn)對(duì)算法模型、泛型進(jìn)行標(biāo)注說明。 5.模型適配：根據(jù)多樣化的業(yè)務(wù)需求進(jìn)行算法模型、泛型推薦，使得模型 9 將模型快速部署至各類運(yùn)行環(huán)境。 統(tǒng)一管理。其中本平臺(tái)訓(xùn)練模型可來源于零代碼建模的圖像、文本、語音、視 建模、自動(dòng)化建模及智能產(chǎn)線建模。第三方導(dǎo)入模型支持從本地上傳或從存儲(chǔ) 選擇，支持以模型文件或鏡像形式導(dǎo)入。其中，模型文件支持TensorFlow、 、網(wǎng)絡(luò)結(jié)構(gòu)/算法類型等，便于對(duì)多版本模 像或SDK文件，以提升部署效 面 5.模型加速：可在降低少量模型推理準(zhǔn)確性的情況下大幅壓縮模型復(fù)雜度，提升模型性能，增加同等計(jì)算資源下預(yù)測(cè)推理服務(wù)的吞吐量。 6.模型部署：支持模型云部署(發(fā)布為預(yù)測(cè)服務(wù))和邊緣部署(下發(fā)至邊 ((十一)倉(cāng)庫(kù)管理 anvasAPS 靈活迭代、持續(xù)監(jiān)控到退役下線的全生命周期模型管理閉環(huán)體系，打造適用于該商業(yè)銀行的完整模型生態(tài)。通過模型管理模塊注冊(cè)納管了平臺(tái)自訓(xùn)練及第三 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)復(fù)盤等階段進(jìn)行回溯。特征(分布、空值比例、0值數(shù)等統(tǒng)計(jì)數(shù)據(jù))等。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年) PFAAS、算子等對(duì)可視化解釋等，被管理的模型既可以是基于工作流或自動(dòng)建模訓(xùn)練的模型，也的模型人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)(十二)模型安全完整性是為防止攻擊者通過操控訓(xùn)練數(shù)據(jù)或測(cè)試數(shù)據(jù)而引導(dǎo)模型輸用等階段減少遭受攻擊的風(fēng)險(xiǎn)。升算法設(shè)計(jì)邏輯的安全性(例如算法設(shè)計(jì)不應(yīng)存在歧視偏見等)，以攻擊、模仿攻擊、逆向攻擊、供應(yīng)鏈攻擊、后門攻擊等)。人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)。圖 圖 篡改數(shù)據(jù)或添加惡意數(shù)據(jù)影響模型性能。后門攻擊則通過植入觸發(fā)器影響模型的防御過防御蒸餾、梯度正則化來修改模型結(jié)構(gòu)等。此外，攻擊者也可以通過逆向工人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年) 監(jiān)控可迭代的全生命周期。其核心點(diǎn)在于全鏈路自動(dòng)化執(zhí)行能力。在需求中心 完成模型需求的對(duì)焦和立項(xiàng)；在案件樣本中心完成樣本口徑確認(rèn)、樣本的生成 發(fā)布中心對(duì)模型進(jìn)行一鍵部署，發(fā)布到生產(chǎn)環(huán)境；在預(yù)測(cè)中心提供模型推理服 道的資金安全場(chǎng)景，二是與小程序、文本、圖片、音視頻打交道的內(nèi)容安全場(chǎng) 鑒 多樣本的分布相似度、樣本獨(dú)立性、樣本多樣性進(jìn)行評(píng)估；二是對(duì)策略的效能 個(gè)維度進(jìn)行測(cè)評(píng)(例如模型本身性能、模型穩(wěn)定性PSI、線上推理時(shí)性能 人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)(一)總結(jié)理體系，型。sMLOps引入到機(jī)器學(xué)習(xí)項(xiàng)目全生命周期是一個(gè)漸進(jìn)式過程，在發(fā)展MLOps的空白和彌補(bǔ)行業(yè)可用標(biāo)桿案例的不足，中國(guó)信通程流水線、持續(xù)集成流水線、模型訓(xùn)練流水線、模人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)數(shù)據(jù)工程師、數(shù)據(jù)科學(xué)家、軟MLOps提供有益參考和指引。(二)展望AI等各項(xiàng)能力的持續(xù)發(fā)展躍遷，正成為MLOps發(fā)展的新經(jīng)濟(jì)價(jià)值和社會(huì)效益。s定AI資產(chǎn)全局和局部的安全管理體系，事中做好AI資產(chǎn)生產(chǎn)過程人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)通，與各資產(chǎn)倉(cāng)庫(kù)有效銜接，與各信息系統(tǒng)高效調(diào)度，當(dāng)前諸多能化分析能力、自動(dòng)化處置能力等；二是提升運(yùn)營(yíng)的全面性，覆蓋MLOps進(jìn)MLOps運(yùn)行過httpswwwanalyticsinsightnettopmlopstrends-and-predictions-to-lookout-for-in-2023/.人工智能研發(fā)運(yùn)營(yíng)體系(MLOps)實(shí)踐指南(2023年)型和集成難的問題。而隨著模型越來越多、業(yè)務(wù)需求越來越復(fù)雜，MLOps平臺(tái)化需求將成為趨勢(shì)，幫助組織更體系化、更便捷、更靈erHYPERLI