Mind Studio鏈路編排解決方案

1、華為Mind Studio鏈路編排解決方案目錄01 AI編程帶來的挑戰(zhàn)02 華為AI算法開發(fā)鏈路編排的整體思考03 華為Mind-Studio鏈路編排的技術(shù)優(yōu)勢04 鏈路編排的基本概念05 如何使用Mind-Studio進(jìn)行鏈路編排06 如何執(zhí)行鏈路編排07 如何查看引擎運(yùn)行結(jié)果及性能分析結(jié)果08 鏈路編排樣例展示平安城市算法流程09 總 結(jié)AI編程帶來的挑戰(zhàn)門檻高專業(yè)技能要求高重復(fù)勞動(dòng)且容易出錯(cuò)平臺(tái)搭建耗時(shí)復(fù)雜度高AI應(yīng)用算法邏輯復(fù)雜高性能并行計(jì)算代碼實(shí)現(xiàn)難度大新框架學(xué)習(xí)成本高開發(fā)量大AI應(yīng)用涉及算法多開發(fā)算法代碼量大系統(tǒng)分析難度大算法復(fù)雜分析難并行計(jì)算調(diào)試難性能分析調(diào)優(yōu)難3AI算法開發(fā)鏈路

2、編排的整體思考思考1“零編碼”通過拖拽的方式編排工程 流程代碼通過DSL自動(dòng)生成 用戶“零編碼”開發(fā)AI應(yīng)用思考2 可視化提供豐富的可視化視圖 包括數(shù)據(jù)流、模型、結(jié)果 信息系統(tǒng)分析全部可視化從用戶角度出發(fā)提供一站式AI應(yīng)用開發(fā)平臺(tái)通過鏈路編排的方式給用戶提供簡單、易用、高效的開發(fā)方式構(gòu)筑開發(fā)生態(tài)思考3 化繁為簡以前需花費(fèi)幾天才能完成的 開發(fā)工作現(xiàn)在幾分鐘就可 以完成圖形拖拽很方便思考4 不讓客戶重復(fù)造“輪子”通過系統(tǒng)預(yù)置各種圖元組件 最大限度復(fù)用底層代碼塊減 少代碼冗余4Mind-Studio鏈路編排的技術(shù)優(yōu)勢關(guān)鍵技術(shù)一基于業(yè)務(wù)節(jié)點(diǎn)的拖拽式編排基于節(jié)點(diǎn)拖 拽編程業(yè)務(wù)節(jié)點(diǎn)的 操作支持自 定義業(yè)務(wù)

3、節(jié)點(diǎn)屬 性支持自定 義配置流程編排輸 入輸出連線 支持在線校 驗(yàn)關(guān)鍵價(jià)值提供基于業(yè)務(wù)節(jié)點(diǎn)的拖拽式編程功能，在IDE上拖拽業(yè)務(wù)節(jié)點(diǎn)并連線，可實(shí)現(xiàn)業(yè)務(wù)編排“0”編碼編碼后的編譯、運(yùn)行、結(jié)果顯示等一站式服務(wù)讓流程開發(fā)更加智能化對(duì)外接口靈活，支持用戶自定義操作、自定義節(jié)點(diǎn)屬性，可擴(kuò)展性極強(qiáng)5Mind-Studio鏈路編排的技術(shù)優(yōu)勢關(guān)鍵技術(shù)二基于LanguageWorkbench的源碼自動(dòng)生成引擎基于DSL語法和Xtend語言實(shí)現(xiàn)源 到源編譯的代碼自 動(dòng)生成器，實(shí)現(xiàn)從 前端的json語言轉(zhuǎn) 換成C+語言的 流程編排源碼文件根據(jù)業(yè)務(wù)節(jié)點(diǎn)的proto格式基于Xtext定義DSL語 法規(guī)約，前端流程 編排的結(jié)

4、果文件滿 足此語法規(guī)約關(guān)鍵價(jià)值內(nèi)置代碼自動(dòng)生成器，所有編排的業(yè)務(wù)代碼都能一鍵式生成自動(dòng)生成的源碼充分利用底層CCE算子的性能，不懂底層算子調(diào)優(yōu)的人也能通過它生成高性能的業(yè)務(wù)代碼6鏈路編排的基本概念DataSetsModelPreProcessDeep Learning Execute EnginePostPrecessHiAI Engine節(jié)點(diǎn)數(shù)據(jù)集節(jié)點(diǎn)：用于指定網(wǎng)絡(luò)輸入數(shù)據(jù)模型節(jié)點(diǎn)：用于指定神經(jīng)網(wǎng)絡(luò)模型數(shù)據(jù)預(yù)處理節(jié)點(diǎn)：用于對(duì)數(shù)據(jù)集中的數(shù)據(jù)進(jìn)行預(yù)處理神經(jīng)網(wǎng)絡(luò)執(zhí)行節(jié)點(diǎn)：用于對(duì)網(wǎng)絡(luò)進(jìn)行運(yùn)行后處理節(jié)點(diǎn)：用于對(duì)網(wǎng)絡(luò)執(zhí)行結(jié)果進(jìn)行后處理HiAI Engine節(jié)點(diǎn)：系統(tǒng)預(yù)置節(jié)點(diǎn)，該節(jié)點(diǎn) 封裝了數(shù)據(jù)集、模型與

5、神經(jīng)網(wǎng)絡(luò)執(zhí)行節(jié)點(diǎn)屬性配置樣例數(shù)據(jù)集配置：包含數(shù)據(jù) 集類型、來源、參數(shù)8節(jié)點(diǎn)屬性配置節(jié)點(diǎn)：表示一個(gè)AI引擎算法的業(yè)務(wù)處理節(jié)點(diǎn)屬性配置：表示業(yè)務(wù)處理的屬性配置節(jié)點(diǎn)連接：AI 引擎算法的控制流節(jié)點(diǎn)連接節(jié)點(diǎn)連接= “數(shù)據(jù)”流動(dòng)節(jié)點(diǎn)分類如何使用Mind-Studio進(jìn)行鏈路編排一鍵式自動(dòng)編譯一鍵式運(yùn)行Load target到硬件設(shè)備運(yùn)行結(jié)果可視化分析配置運(yùn)行參數(shù)（IP、username、pwd）編譯運(yùn)行HiAI Studio鏈路編程流程代碼自動(dòng)生成算法抽象&編排系統(tǒng)預(yù)置Engine根據(jù)算法抽象Engine拖拽Engine到畫布根據(jù)輸入輸出關(guān)系連線自定義Engine開發(fā)鏈路編排流程示意圖根據(jù)不同的Targ

6、et調(diào)用不同的編譯器進(jìn)行混合編譯 運(yùn)行結(jié)果可視化展示，包括常用的分類網(wǎng)絡(luò)、檢測網(wǎng)絡(luò)8如何執(zhí)行鏈路編排9鏈路編排完成后，單擊Save保存，單擊Generate 生成流程源碼和Makefile單擊Run啟動(dòng)仿真運(yùn)行（性能分析）單擊Profiling采集性能數(shù)據(jù)鏈路編排完成后，單擊Save保存，單擊Generate生成流程源碼和 Makefile單擊Run在Run Configuration對(duì)話框配置硬件環(huán)境的IP用戶名和密碼單擊run加載二進(jìn)制程序到硬件環(huán)境運(yùn)行（性能分析）單擊Profiling采集性能數(shù)據(jù)Emulator仿真場景 ASIC EVB板場景如何查看引擎運(yùn)行結(jié)果及性能分析結(jié)果鏈路編排運(yùn)

7、行結(jié)束后，在結(jié)果處理節(jié)點(diǎn)的右鍵可以單擊image result按鈕查看推理結(jié)果，如上圖所示： 圖1是多張圖片的分類推理結(jié)果，圖2是多張圖片的檢測結(jié)果單擊statistical result查看多張圖片的推理精度統(tǒng)計(jì)結(jié)果，如圖3運(yùn)行結(jié)果分析10如何查看引擎運(yùn)行結(jié)果及性能分析結(jié)果鏈路編排運(yùn)行結(jié)束后，在結(jié)果處理節(jié)點(diǎn)的右鍵可以單擊profiling result按鈕查看推理結(jié)果，如上圖所示：圖四圖五是模型 分層結(jié)果性能數(shù)據(jù)，包括內(nèi)存、時(shí)間、Mac利用率等執(zhí)行硬件Profiling，還可以得到基于硬件pmu的性能分析結(jié)果，包括熱點(diǎn)函數(shù)、指令執(zhí)行分析、timeline執(zhí)行流水分析等性能結(jié)果分析11車型+車顏色識(shí)別ResNet34車牌檢測 FCN車牌識(shí)別 ResNet17車/人？人體特征向量（分布式lab）人體屬性識(shí)別（諾亞）視頻解碼NV12 to BGR目標(biāo)檢測FasterRCNN目標(biāo)跟蹤關(guān)鍵幀提取結(jié)果融合特征信息入庫&檢索濃縮視頻生成鏈路編排樣例展示平安城市算法流程13總結(jié)解決方案先進(jìn)大幅降低AI開發(fā)門檻讓更多 人體會(huì)到AI編程的魅力開發(fā)流程簡單對(duì)復(fù)雜的AI應(yīng)用開發(fā)提供 簡單的一站式開發(fā)流程可視化分析體系強(qiáng)大 與可視化、性能分析相結(jié) 合讓AI調(diào)試調(diào)優(yōu)更簡單13愿景和使命把數(shù)字世界帶入每個(gè)人、每個(gè)家庭、每個(gè)