Mind Studio鏈路編排解決方案

1、華為Mind Studio鏈路編排解決方案目錄01 AI編程帶來的挑戰(zhàn)02 華為AI算法開發(fā)鏈路編排的整體思考03 華為Mind-Studio鏈路編排的技術(shù)優(yōu)勢04 鏈路編排的基本概念05 如何使用Mind-Studio進行鏈路編排06 如何執(zhí)行鏈路編排07 如何查看引擎運行結(jié)果及性能分析結(jié)果08 鏈路編排樣例展示平安城市算法流程09 總 結(jié)AI編程帶來的挑戰(zhàn)門檻高專業(yè)技能要求高重復勞動且容易出錯平臺搭建耗時復雜度高AI應用算法邏輯復雜高性能并行計算代碼實現(xiàn)難度大新框架學習成本高開發(fā)量大AI應用涉及算法多開發(fā)算法代碼量大系統(tǒng)分析難度大算法復雜分析難并行計算調(diào)試難性能分析調(diào)優(yōu)難3AI算法開發(fā)鏈路

2、編排的整體思考思考1“零編碼”通過拖拽的方式編排工程 流程代碼通過DSL自動生成 用戶“零編碼”開發(fā)AI應用思考2 可視化提供豐富的可視化視圖 包括數(shù)據(jù)流、模型、結(jié)果 信息系統(tǒng)分析全部可視化從用戶角度出發(fā)提供一站式AI應用開發(fā)平臺通過鏈路編排的方式給用戶提供簡單、易用、高效的開發(fā)方式構(gòu)筑開發(fā)生態(tài)思考3 化繁為簡以前需花費幾天才能完成的 開發(fā)工作現(xiàn)在幾分鐘就可 以完成圖形拖拽很方便思考4 不讓客戶重復造“輪子”通過系統(tǒng)預置各種圖元組件 最大限度復用底層代碼塊減 少代碼冗余4Mind-Studio鏈路編排的技術(shù)優(yōu)勢關(guān)鍵技術(shù)一基于業(yè)務節(jié)點的拖拽式編排基于節(jié)點拖 拽編程業(yè)務節(jié)點的 操作支持自 定義業(yè)務

3、節(jié)點屬 性支持自定 義配置流程編排輸 入輸出連線 支持在線校 驗關(guān)鍵價值提供基于業(yè)務節(jié)點的拖拽式編程功能，在IDE上拖拽業(yè)務節(jié)點并連線，可實現(xiàn)業(yè)務編排“0”編碼編碼后的編譯、運行、結(jié)果顯示等一站式服務讓流程開發(fā)更加智能化對外接口靈活，支持用戶自定義操作、自定義節(jié)點屬性，可擴展性極強5Mind-Studio鏈路編排的技術(shù)優(yōu)勢關(guān)鍵技術(shù)二基于LanguageWorkbench的源碼自動生成引擎基于DSL語法和Xtend語言實現(xiàn)源 到源編譯的代碼自 動生成器，實現(xiàn)從 前端的json語言轉(zhuǎn) 換成C+語言的 流程編排源碼文件根據(jù)業(yè)務節(jié)點的proto格式基于Xtext定義DSL語 法規(guī)約，前端流程 編排的結(jié)

4、果文件滿 足此語法規(guī)約關(guān)鍵價值內(nèi)置代碼自動生成器，所有編排的業(yè)務代碼都能一鍵式生成自動生成的源碼充分利用底層CCE算子的性能，不懂底層算子調(diào)優(yōu)的人也能通過它生成高性能的業(yè)務代碼6鏈路編排的基本概念DataSetsModelPreProcessDeep Learning Execute EnginePostPrecessHiAI Engine節(jié)點數(shù)據(jù)集節(jié)點：用于指定網(wǎng)絡輸入數(shù)據(jù)模型節(jié)點：用于指定神經(jīng)網(wǎng)絡模型數(shù)據(jù)預處理節(jié)點：用于對數(shù)據(jù)集中的數(shù)據(jù)進行預處理神經(jīng)網(wǎng)絡執(zhí)行節(jié)點：用于對網(wǎng)絡進行運行后處理節(jié)點：用于對網(wǎng)絡執(zhí)行結(jié)果進行后處理HiAI Engine節(jié)點：系統(tǒng)預置節(jié)點，該節(jié)點 封裝了數(shù)據(jù)集、模型與

5、神經(jīng)網(wǎng)絡執(zhí)行節(jié)點屬性配置樣例數(shù)據(jù)集配置：包含數(shù)據(jù) 集類型、來源、參數(shù)8節(jié)點屬性配置節(jié)點：表示一個AI引擎算法的業(yè)務處理節(jié)點屬性配置：表示業(yè)務處理的屬性配置節(jié)點連接：AI 引擎算法的控制流節(jié)點連接節(jié)點連接= “數(shù)據(jù)”流動節(jié)點分類如何使用Mind-Studio進行鏈路編排一鍵式自動編譯一鍵式運行Load target到硬件設(shè)備運行結(jié)果可視化分析配置運行參數(shù)（IP、username、pwd）編譯運行HiAI Studio鏈路編程流程代碼自動生成算法抽象&編排系統(tǒng)預置Engine根據(jù)算法抽象Engine拖拽Engine到畫布根據(jù)輸入輸出關(guān)系連線自定義Engine開發(fā)鏈路編排流程示意圖根據(jù)不同的Targ

6、et調(diào)用不同的編譯器進行混合編譯 運行結(jié)果可視化展示，包括常用的分類網(wǎng)絡、檢測網(wǎng)絡8如何執(zhí)行鏈路編排9鏈路編排完成后，單擊Save保存，單擊Generate 生成流程源碼和Makefile單擊Run啟動仿真運行（性能分析）單擊Profiling采集性能數(shù)據(jù)鏈路編排完成后，單擊Save保存，單擊Generate生成流程源碼和 Makefile單擊Run在Run Configuration對話框配置硬件環(huán)境的IP用戶名和密碼單擊run加載二進制程序到硬件環(huán)境運行（性能分析）單擊Profiling采集性能數(shù)據(jù)Emulator仿真場景 ASIC EVB板場景如何查看引擎運行結(jié)果及性能分析結(jié)果鏈路編排運

7、行結(jié)束后，在結(jié)果處理節(jié)點的右鍵可以單擊image result按鈕查看推理結(jié)果，如上圖所示： 圖1是多張圖片的分類推理結(jié)果，圖2是多張圖片的檢測結(jié)果單擊statistical result查看多張圖片的推理精度統(tǒng)計結(jié)果，如圖3運行結(jié)果分析10如何查看引擎運行結(jié)果及性能分析結(jié)果鏈路編排運行結(jié)束后，在結(jié)果處理節(jié)點的右鍵可以單擊profiling result按鈕查看推理結(jié)果，如上圖所示：圖四圖五是模型 分層結(jié)果性能數(shù)據(jù)，包括內(nèi)存、時間、Mac利用率等執(zhí)行硬件Profiling，還可以得到基于硬件pmu的性能分析結(jié)果，包括熱點函數(shù)、指令執(zhí)行分析、timeline執(zhí)行流水分析等性能結(jié)果分析11車型+車顏色識別ResNet34車牌檢測 FCN車牌識別 ResNet17車/人？人體特征向量（分布式lab）人體屬性識別（諾亞）視頻解碼NV12 to BGR目標檢測FasterRCNN目標跟蹤關(guān)鍵幀提取結(jié)果融合特征信息入庫&檢索濃縮視頻生成鏈路編排樣例展示平安城市算法流程13總結(jié)解決方案先進大幅降低AI開發(fā)門檻讓更多 人體會到AI編程的魅力開發(fā)流程簡單對復雜的AI應用開發(fā)提供 簡單的一站式開發(fā)流程可視化分析體系強大 與可視化、性能分析相結(jié) 合讓AI調(diào)試調(diào)優(yōu)更簡單13愿景和使命把數(shù)字世界帶入每個人、每個家庭、每個