華為：邁向智能世界2024-云計(jì)算 云上躍遷AI重塑千行萬業(yè)

構(gòu)建AI原生基礎(chǔ)設(shè)施，提供彈性、高效、多元的算力2構(gòu)建以知識(shí)為中心的數(shù)據(jù)底座，為大模型高效供數(shù)構(gòu)建多模態(tài)多尺寸模型，實(shí)現(xiàn)場(chǎng)景與模型的最佳匹配開放價(jià)值場(chǎng)景，使AIAgent成為企業(yè)AI落地的新方向3趨勢(shì)一：構(gòu)建AI原生基礎(chǔ)設(shè)施，提供彈性、高聯(lián)算比、容算比、存算比配比失衡，帶來性能擴(kuò)展、成本、效率全面挑戰(zhàn)，AI基礎(chǔ)設(shè)施架構(gòu)需進(jìn)行系統(tǒng)性變革運(yùn)算量運(yùn)算量?jī)?nèi)部連接帶寬參數(shù)量參數(shù)量↑↑100倍AI算力基礎(chǔ)設(shè)施從單體算力到矩陣算力統(tǒng)一高速互聯(lián)總線…4行動(dòng)建議：建設(shè)多樣算力全對(duì)等、池化、可組合的新型A總線對(duì)等互聯(lián)算力靈活組合突破算力邊界突破網(wǎng)絡(luò)邊界突破使用邊界資源統(tǒng)一池化總線對(duì)等互聯(lián)算力靈活組合突破算力邊界突破網(wǎng)絡(luò)邊界突破使用邊界統(tǒng)一通信訪問統(tǒng)一訪問地址統(tǒng)一資源標(biāo)識(shí)CPU/XPU/統(tǒng)一通信訪問統(tǒng)一訪問地址統(tǒng)一資源標(biāo)識(shí)CPU/XPU/內(nèi)存/網(wǎng)卡統(tǒng)一資源訪問內(nèi)存共享總線資源化總線智能化PT總線服務(wù)化總線網(wǎng)絡(luò)化T算力類型可組合算力規(guī)?？山M合AIforSystem資源統(tǒng)一池化：總線對(duì)等互聯(lián)：提供超高帶寬Scale-up網(wǎng)絡(luò)，網(wǎng)絡(luò)帶寬對(duì)比傳統(tǒng)網(wǎng)絡(luò)算力靈活組合：通過調(diào)度系統(tǒng)匹配最優(yōu)算力，覆蓋百億到萬億級(jí)模型5行業(yè)實(shí)踐：華為云數(shù)據(jù)中心系統(tǒng)性架構(gòu)升級(jí)，模型訓(xùn)練效率提升比推理效率模型參數(shù)量模型訓(xùn)練：效率提升比推理效率模型參數(shù)量模型訓(xùn)練：算力按模型參數(shù)量自動(dòng)匹配68%71%模型推理：算力最優(yōu)配比，效率提升30%傳統(tǒng)架構(gòu)CloudMatrix算力平臺(tái)AI-Native云基礎(chǔ)設(shè)施CloudMat新一代的多元算力對(duì)等全互聯(lián)架構(gòu)DPU池GPUDPU池內(nèi)存池NPU池CPU內(nèi)存池NPU池新型高速互聯(lián)總線67趨勢(shì)二：構(gòu)建以知識(shí)為中心的數(shù)據(jù)底座，當(dāng)前很多企業(yè)都建有數(shù)據(jù)倉(cāng)庫(kù)和數(shù)據(jù)湖用于企業(yè)商業(yè)智能當(dāng)前很多企業(yè)都建有數(shù)據(jù)倉(cāng)庫(kù)和數(shù)據(jù)湖用于企業(yè)商業(yè)智能，但面對(duì)AI大模型，當(dāng)前數(shù)據(jù)平臺(tái)還不能很好地為大模型使用，需要進(jìn)行大量數(shù)據(jù)清洗、知識(shí)抽取，從而構(gòu)建服務(wù)于AI模型的、以知識(shí)為中心的數(shù)據(jù)底座：1、對(duì)數(shù)據(jù)湖的數(shù)據(jù)進(jìn)行語義抽取，將數(shù)據(jù)與業(yè)務(wù)語義進(jìn)行關(guān)聯(lián)，轉(zhuǎn)化為知識(shí)；2、通過AI自動(dòng)生成大模型所需要的問答對(duì)、圖文對(duì)，能將業(yè)務(wù)知識(shí)高效供給大模型預(yù)訓(xùn)練和微調(diào)；3、基于企業(yè)已積累的大規(guī)模數(shù)據(jù)，通過AI自動(dòng)構(gòu)建起企業(yè)的知識(shí)圖譜。讓業(yè)務(wù)人員可以通過企業(yè)大模型，用自然語言對(duì)話方式來快速實(shí)現(xiàn)各類任務(wù)。知識(shí)湖模型、語義、圖譜、專家經(jīng)驗(yàn)、規(guī)則等知識(shí)湖模型、語義、圖譜、專家經(jīng)驗(yàn)、規(guī)則等非結(jié)構(gòu)化、結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)8 數(shù)據(jù)見解等；10x↑數(shù)智服務(wù)層 知識(shí)湖層業(yè)務(wù)決策/數(shù)智應(yīng)用業(yè)務(wù)決策/數(shù)智應(yīng)用AI訓(xùn)練推理服務(wù)工具第三方?jīng)Q策應(yīng)用分析應(yīng)用數(shù)智應(yīng)用AI/ML應(yīng)用發(fā)布Data4AIEngine(training/servingreaData4AIEngine(training/servingrea數(shù)據(jù)集成算子查詢優(yōu)化擎智能搜索AutoETL視圖優(yōu)化增強(qiáng)分析業(yè)務(wù)仿真模型服務(wù)AutoAI/ML運(yùn)維/運(yùn)營(yíng)智能洞察數(shù)據(jù)準(zhǔn)備算子特征處理Workflow數(shù)智助手動(dòng)態(tài)本體知識(shí)圖譜知識(shí)管理&安全知識(shí)湖-知識(shí)服務(wù)層動(dòng)態(tài)本體知識(shí)圖譜知識(shí)管理&安全智能索引智能索引信息爬取與集成知識(shí)定義知識(shí)融合知識(shí)湖-知識(shí)處理層信息爬取與集成知識(shí)定義知識(shí)融合知識(shí)生成知識(shí)生成9業(yè)務(wù)痛點(diǎn)與解決方案業(yè)務(wù)痛點(diǎn)與解決方案知識(shí)問答助手合同智能分析合同異常診斷合同數(shù)據(jù)見解公司關(guān)系網(wǎng)絡(luò)分析法務(wù)決策助手業(yè)務(wù)痛點(diǎn)解決方案業(yè)務(wù)痛點(diǎn)解決方案物理數(shù)據(jù)與業(yè)務(wù)本體映射關(guān)系，并且自動(dòng)化數(shù)據(jù)變更流水線法務(wù)作業(yè)系統(tǒng)決策任務(wù)觸發(fā)決策結(jié)論法務(wù)作業(yè)系統(tǒng)決策任務(wù)觸發(fā)決策結(jié)論返回財(cái)經(jīng)法務(wù)-智能決策層決策流開發(fā)業(yè)務(wù)連接財(cái)經(jīng)法務(wù)財(cái)經(jīng)法務(wù)-智能治理層AI重塑數(shù)據(jù)質(zhì)量數(shù)據(jù)服務(wù)數(shù)據(jù)集成數(shù)據(jù)資產(chǎn)數(shù)據(jù)安全數(shù)據(jù)建模AI開發(fā)業(yè)務(wù)數(shù)據(jù)業(yè)務(wù)數(shù)據(jù)業(yè)務(wù)對(duì)象業(yè)務(wù)對(duì)象業(yè)務(wù)模型業(yè)務(wù)模型業(yè)務(wù)動(dòng)作業(yè)務(wù)動(dòng)作業(yè)務(wù)流程關(guān)系業(yè)務(wù)流程關(guān)系電子證據(jù)發(fā)現(xiàn)流趨勢(shì)三：構(gòu)建多模態(tài)多尺寸模型，實(shí)現(xiàn)場(chǎng)景與模型的最佳匹 生成式AI掀起了企業(yè)智能化升級(jí)的新一輪浪潮，大模型也開始走入千行萬業(yè)，行業(yè)中的數(shù)據(jù)不僅存在文本和圖片類型，更有大量的專業(yè)數(shù)值數(shù)據(jù)，例如鋼鐵行業(yè)的時(shí)序數(shù)據(jù)和工藝參數(shù)，氣象行業(yè)的多源空間異構(gòu)數(shù)據(jù)，醫(yī)療行業(yè)的醫(yī)學(xué)影像和基因測(cè)序數(shù)據(jù)等等。多模態(tài)大模型可以將不同類型的數(shù)據(jù)通過預(yù)處理轉(zhuǎn)化為統(tǒng)一的表示形式，然后結(jié)合多個(gè)模態(tài)的信息，進(jìn)行聯(lián)合建模和分析，提高模型的準(zhǔn)確性和泛化能力，解決更為復(fù)雜的問題，在各行業(yè)各場(chǎng)景中有巨大潛力。行業(yè)場(chǎng)景金融醫(yī)療零售制造信貸風(fēng)控遠(yuǎn)程銀行經(jīng)營(yíng)報(bào)告輔助診斷方劑優(yōu)化文獻(xiàn)生成數(shù)字人個(gè)性化營(yíng)銷輔助設(shè)計(jì)排程排產(chǎn)預(yù)測(cè)性維護(hù)文本圖像視頻行動(dòng)建議：夯實(shí)多維度行業(yè)數(shù)據(jù)，優(yōu)先在高價(jià)1、1、明確企業(yè)中哪些場(chǎng)景結(jié)合多個(gè)數(shù)據(jù)模態(tài)時(shí)能?使?單模態(tài)AI創(chuàng)造更高的業(yè)務(wù)價(jià)值2、思考如何使用具有創(chuàng)造力的生產(chǎn)方式顛覆傳統(tǒng)的作業(yè)方式1、充分理解和評(píng)估多模態(tài)模型的技術(shù)復(fù)雜性，合理整合多種模態(tài)的輸入和輸出數(shù)據(jù)2、通過強(qiáng)?的數(shù)據(jù)?程和數(shù)據(jù)治理，確保數(shù)據(jù)質(zhì)量，識(shí)別并降低數(shù)據(jù)隱私和安全??的?險(xiǎn)3、尋找可靠且經(jīng)濟(jì)的算力資源多模態(tài)豐富了人類與AI的交互形態(tài)，可以激發(fā)更具創(chuàng)造力更具價(jià)值的生成式AI應(yīng)用多模態(tài)數(shù)據(jù)面臨質(zhì)量和專業(yè)性挑戰(zhàn)多模態(tài)數(shù)據(jù)面臨質(zhì)量和專業(yè)性挑戰(zhàn)，企業(yè)同時(shí)也面臨算力挑戰(zhàn)1、從高容錯(cuò)度、高價(jià)值的場(chǎng)景入手1、從高容錯(cuò)度、高價(jià)值的場(chǎng)景入手，基于已有的多模態(tài)模型試點(diǎn)，驗(yàn)證其技術(shù)可行性和業(yè)務(wù)價(jià)值2、對(duì)多模態(tài)的不同技術(shù)路線持開放態(tài)度，合的技術(shù)路線解決業(yè)務(wù)挑戰(zhàn)隨時(shí)使用最適多模態(tài)的落地是分階段的，多模態(tài)之間的協(xié)同也需要不斷磨合大家所乘坐的每一輛高鐵大家所乘坐的每一輛高鐵，都需要回到日檢車間進(jìn)行基礎(chǔ)安全檢測(cè)，全國(guó)每天需要檢測(cè)的動(dòng)車超過3萬節(jié)。這個(gè)工作，現(xiàn)在需要大量的巡檢工人在凌晨時(shí)段去完成，耗時(shí)耗力。華為云盤古高鐵大模型對(duì)海量的高鐵行業(yè)數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練與精調(diào)，大模型強(qiáng)大的檢測(cè)能力能覆蓋所有檢測(cè)項(xiàng)點(diǎn)，故障識(shí)別準(zhǔn)確率可達(dá)到90%以上。在此基礎(chǔ)上，采用國(guó)內(nèi)首創(chuàng)的二維圖片+三維點(diǎn)云+激光光譜的多模態(tài)融合診斷技術(shù)，能精準(zhǔn)識(shí)別超限、異物、變形、丟失、破損、斷裂、漏油、松動(dòng)等各種復(fù)雜故障。多模態(tài)融合診斷比起單模態(tài)，故障識(shí)別準(zhǔn)確率可提升到98%以上。最后，將行業(yè)經(jīng)驗(yàn)與大模型結(jié)合，通過“高鐵故障數(shù)據(jù)生成算法”，構(gòu)造了多種罕見的故障形態(tài)，豐富了樣本集，并通過數(shù)據(jù)反哺，邊用邊學(xué)，使得故障識(shí)別準(zhǔn)確率進(jìn)一步提高到99%以上。XX增加和刪除交通參與者增加多輛行駛?cè)诤细兄c決策數(shù)據(jù)支持端到端模型訓(xùn)練交通參與者跨視角形態(tài)穩(wěn)定符合物理規(guī)律9趨勢(shì)四：開放價(jià)值場(chǎng)景，使AIAgent成為企業(yè)最新調(diào)查報(bào)告顯示企業(yè)在最少一個(gè)業(yè)務(wù)功能采用AI的比例從2023年的55%大幅增大到2024年的7①Embedded模式②③AIAgent模式Copilot模式Organizationsthat趨勢(shì)四：開放價(jià)值場(chǎng)景，使AIAgent成為企業(yè)最新調(diào)查報(bào)告顯示企業(yè)在最少一個(gè)業(yè)務(wù)功能采用AI的比例從2023年的55%大幅增大到2024年的7①Embedded模式②③AIAgent模式Copilot模式OrganizationsthathaveadoptedAlinatleast1businessfunction，%ofrespondents$AIAgent自主完成 任務(wù)拆分 工具選擇客服助手業(yè)務(wù)流客服人員大模型基礎(chǔ)能力持續(xù)提升以及AIAgent技術(shù)逐步成熟，使得①大模型越來越多地替代傳統(tǒng)算法完成單點(diǎn)功能，比如CV、預(yù)測(cè)類②面向各行業(yè)各職能領(lǐng)域員工，基于角色的助手類應(yīng)用成為新常態(tài)③基于業(yè)務(wù)場(chǎng)景的AIAgent成為企業(yè)AI落地的新方向++開發(fā)助手++開發(fā)助手+開發(fā)人員++…AI模型基于員工角色，用AI大模型構(gòu)建助手應(yīng)用或工具人設(shè)定目標(biāo)，由AIAgent自主完成業(yè)務(wù)場(chǎng)景閉環(huán)用大模型替代傳統(tǒng)算法，完成基于員工角色，用AI大模型構(gòu)建助手應(yīng)用或工具人設(shè)定目標(biāo)，由AIAgent自主完成業(yè)務(wù)場(chǎng)景閉環(huán)行動(dòng)建議：通過Agent開發(fā)套件滿足agen行動(dòng)建議：通過Agent開發(fā)套件滿足agenAgent創(chuàng)建Agent創(chuàng)建應(yīng)用發(fā)布應(yīng)用發(fā)布Agent開發(fā)套件盤古大模型盤古大模型預(yù)置模型開源模型拓展接入模型輔助推理服務(wù)(小模型)記憶管理Insight調(diào)試通過Agent實(shí)現(xiàn)車主用戶針對(duì)座艙、配置、維修診斷等相關(guān)領(lǐng)域的通過Agent實(shí)現(xiàn)車主用戶針對(duì)座艙、配置、維修診斷等相關(guān)領(lǐng)域的AIAI AgentAgentAgentAgent Agent