6G內(nèi)生AI架構(gòu)及AI大模型

6G內(nèi)生AI架構(gòu)及AI大模型目錄16G內(nèi)生AI的驅(qū)動力36G與AI大模型226G內(nèi)生AI架構(gòu)及關(guān)鍵技術(shù)網(wǎng)絡(luò)使能AI大模型AI大模型賦能網(wǎng)絡(luò)泛在智能的需求人工智能已成為新一輪產(chǎn)業(yè)升級的核心驅(qū)動力，產(chǎn)業(yè)的自動化、數(shù)字化、智能化需要泛在智能運(yùn)行與維護(hù)應(yīng)急通信智能覆蓋定制網(wǎng)絡(luò)機(jī)器翻譯智能導(dǎo)航個性化推薦安全監(jiān)控機(jī)器人救援智能制造聲紋識別醫(yī)療識別網(wǎng)絡(luò)自治需要AI用戶需要AI企業(yè)需要AI36G網(wǎng)絡(luò)需要高效地為網(wǎng)絡(luò)自治、ToC和ToB提供AI服務(wù)!5G時代網(wǎng)絡(luò)和AI融合的啟示網(wǎng)絡(luò)智能化的啟示外部和疊加AI模式一：將具備AI資源的服務(wù)器接入網(wǎng)管設(shè)備，為網(wǎng)絡(luò)提供AI模型。模式二：在核心網(wǎng)絡(luò)中增加AI作為新的網(wǎng)絡(luò)功能，如NWDAF。AI

服務(wù)器 CN

RAN

UE網(wǎng)管6G需要一個統(tǒng)一的框架：以支持有效的AI性能驗證和保障方法。6G需要高效的數(shù)據(jù)采集和傳輸：以實現(xiàn)AI預(yù)驗證、在線評估和優(yōu)化的全自動閉環(huán)。6G需要計算、數(shù)據(jù)、模型和連接的協(xié)同：以提供更低的延遲和有保障的QoS。NWDAF云AI服務(wù)提供商的啟示云AI服務(wù)提供商云AI服務(wù)提供商在用戶提交訂單后提供盡力而為的AI服務(wù)。UE網(wǎng)絡(luò)云AI服務(wù)提供商提交AI服務(wù)訂單網(wǎng)絡(luò)傳輸6G需要充分利用網(wǎng)絡(luò)的人工智能相關(guān)資源：以感知網(wǎng)絡(luò)狀態(tài)，利用網(wǎng)絡(luò)廣泛分布的計算、數(shù)據(jù)、算法資源，提供高效的人工智能服務(wù)。6G需要為AI服務(wù)提供QoS保障：以提供滿足用戶特定需求的AI服務(wù)。6G需要保護(hù)數(shù)據(jù)隱私和安全數(shù)據(jù)：在提供可靠AI服務(wù)的同時，防止數(shù)據(jù)泄露。5G智能到6G的轉(zhuǎn)變——內(nèi)生AI內(nèi)生AI網(wǎng)絡(luò)自治網(wǎng)絡(luò)極簡QoAISQoAIS工業(yè)互聯(lián)網(wǎng)智慧農(nóng)業(yè)車聯(lián)網(wǎng)AIaaS智慧醫(yī)療云游戲/云XR智慧能源AIaaS1.

從

煙囪式開發(fā)

到

泛在智能的統(tǒng)一網(wǎng)絡(luò)AI框架云AI供應(yīng)商遠(yuǎn)程AI服務(wù)基于QoAIS的網(wǎng)絡(luò)AI服務(wù)3.

從盡力而為

到按需可得2.

從外掛疊加

到內(nèi)生一體面向6G泛在智能的愿景，網(wǎng)絡(luò)與AI的融合需要有三大轉(zhuǎn)變，6G網(wǎng)絡(luò)將是內(nèi)生AI目錄16G內(nèi)生AI的驅(qū)動力36G與AI大模型266G內(nèi)生AI架構(gòu)及關(guān)鍵技術(shù)網(wǎng)絡(luò)使能AI大模型AI大模型賦能網(wǎng)絡(luò)6G網(wǎng)絡(luò)邏輯架構(gòu)數(shù)據(jù)開放需求計算服務(wù)需求AI服務(wù)需求通信需求安全服務(wù)需求用戶需求：數(shù)字孿生數(shù)據(jù)面：管理網(wǎng)絡(luò)數(shù)據(jù)，提供數(shù)據(jù)服務(wù)計算面：管理計算并提供計算服務(wù)智能面：為原生AI提供全生命周期的運(yùn)行環(huán)境面向泛在智能等多種服務(wù)需求，6G將新增多個邏輯面，提供通信、感知、計算、AI、大數(shù)據(jù)、安全等一體融合的多維網(wǎng)絡(luò)能力，以及平臺化、一體化的服務(wù)體系與5G網(wǎng)絡(luò)不同，6G網(wǎng)絡(luò)將定義新的數(shù)據(jù)面、智能面、計算面等，并有望擴(kuò)展傳統(tǒng)的控制面和用戶面。7終端

底層資源管理&編排

計算

存儲

通信 網(wǎng)絡(luò)算力模型生成/導(dǎo)入AI

服務(wù)需求QoAIS

解釋&評估計算傳輸應(yīng)用層AS

層UE

策略智能數(shù)據(jù)計算數(shù)據(jù)連接AI

模型傳輸數(shù)據(jù)傳輸6G網(wǎng)絡(luò)邏輯架構(gòu)——內(nèi)生AI的具體設(shè)計1.

泛在智能的統(tǒng)一網(wǎng)絡(luò)AI框架2.

從外部疊加向內(nèi)部集成轉(zhuǎn)換3.

從盡力而為轉(zhuǎn)向按需應(yīng)變轉(zhuǎn)換AI業(yè)務(wù)的實現(xiàn)需要通信、計算、數(shù)據(jù)和模型服務(wù)的支撐，需要不同邏輯面之間復(fù)雜的協(xié)同機(jī)制。內(nèi)生AI將AI

三要素（數(shù)據(jù)、算法和算力）與網(wǎng)絡(luò)連接一樣下沉為網(wǎng)絡(luò)內(nèi)部的基本資源，使網(wǎng)絡(luò)通過多維資源的協(xié)同，直接、便捷地為用戶提供高質(zhì)量的AI服務(wù)。AI任務(wù)管理AI服務(wù)質(zhì)量（QoAIS）指標(biāo)體系，突破傳統(tǒng)QoS體系中以會話和連接性能為主要關(guān)注指標(biāo)，將安全、隱私、自治和資源開銷作為新的評估維度納入，形成一套標(biāo)準(zhǔn)化的AI服務(wù)質(zhì)量評價體系，為用戶AI服務(wù)質(zhì)量的衡量和保障機(jī)制的設(shè)計提供了統(tǒng)一的依據(jù)QoAIS是管理編排和任務(wù)管理/控制的重要輸入，管理編排需要將服務(wù)QoS分解為任務(wù)QoS，再映射到對連接、計算、數(shù)據(jù)和算法等各方面的資源QoS要求上為保障QoAIS的達(dá)成，需要“三層閉環(huán)”的保障機(jī)制AI服務(wù)質(zhì)量（QoAIS）指標(biāo)體系QoAIS保障機(jī)制QoAIS指標(biāo)體系是網(wǎng)絡(luò)對AI服務(wù)的質(zhì)量和效果進(jìn)行保障所使用的一套指標(biāo)體系QoAIS包含AI服務(wù)的QoS、AI任務(wù)的QoS、AI資源的QoS三個層次上的指標(biāo)，三層指標(biāo)間具有映射關(guān)系算網(wǎng)基礎(chǔ)設(shè)施層OTN/OXCOTN/OXC全光底座OTN/OXC統(tǒng)一IP算網(wǎng)底座分布式算力（端）分布式算力（網(wǎng)）

分布式算力（邊）分布式算力（邊）

分布式算力（中心） 分布式算力（中心）

分布式算力（網(wǎng)）平臺化服務(wù)網(wǎng)絡(luò)智慧城市 智慧工業(yè) 智慧生活

智慧園區(qū)

智慧娛樂管理編排任務(wù)管理任務(wù)控制分布式算力（端）9服務(wù)QoS例如：任務(wù)優(yōu)先級、算法資源保障優(yōu)先級、數(shù)據(jù)資源保障優(yōu)先級等例如：推理速度、能源消耗、計算安全、數(shù)據(jù)隱私、模型可控性等例如：性能指標(biāo)界、訓(xùn)練耗時、計算開銷等關(guān)鍵技術(shù)1：AI服務(wù)質(zhì)量（QoAIS）關(guān)鍵技術(shù)2：AI計算與通信深度融合模式三模式二xNB用戶面：聯(lián)合設(shè)計“計算協(xié)議+通信協(xié)議”滿足QoAIS+均衡分配網(wǎng)絡(luò)資源，滿足“性能

+

開銷”上的需求。管理面融合的松耦合設(shè)計效率低成本高安全性隱私性不夠6G內(nèi)生AI的算力需求高計算效率低能耗、低時延滿足各類AI場景差異化QoAIS需求管理面：計算和通信資源的協(xié)同編排管理。優(yōu)勢：宏觀網(wǎng)元連接關(guān)系、各類資源狀態(tài)，保證網(wǎng)絡(luò)級性能指標(biāo)較優(yōu)。RRC傳統(tǒng)網(wǎng)絡(luò)中提供AI服務(wù)需要通信和計算協(xié)議之間頻繁的交互與協(xié)調(diào)，需要設(shè)計一套通算融合的內(nèi)生AI協(xié)議，實現(xiàn)對計算和通信的協(xié)同管控與承載，滿足AI所需的連接和分布式計算服務(wù)、以及基于AI的連接和計算融合控制需求。管理面、控制面、用戶面三個維度實現(xiàn)計算和通信深度融合5G

MEC邊緣計算缺點(diǎn) 控制面：計算和通信深度融合的三種模式RRCCRCxNBCRC模式一優(yōu)勢：當(dāng)QoAIS指標(biāo)發(fā)生惡化時，可快速調(diào)整，保障QoAIS目標(biāo)的持續(xù)達(dá)成。CRC：ComputingResource

ControlNC：Node

ComputeCRC集中控制目錄16G愿景與總體架構(gòu)36G與AI大模型2116G智能面的設(shè)計——內(nèi)生AI網(wǎng)絡(luò)使能AI大模型AI大模型賦能網(wǎng)絡(luò)6G與AI的融合迎來新機(jī)遇：通用大模型時代認(rèn)知智能能理解會思考計算智能能存會算感知智能能聽會說能看會認(rèn)動力智能能動會控通用智能時代(強(qiáng)AI時代)弱AI時代AI邁入通用智能時代，大模型的出現(xiàn)將為6G與AI的融合帶來巨大變革發(fā)展模式新躍遷當(dāng)前網(wǎng)絡(luò)AI泛化性有限ChatGPT現(xiàn)象級事件，標(biāo)志著人工智能進(jìn)入通用智能時代從“能聽、會說、能看、會控”，走向“能理解、會思考、會創(chuàng)作”，甚至能“自主決策、自主處理問題”行業(yè)大模型（泛娛樂）基礎(chǔ)大模型(普適通用，如NLP，CV，多模態(tài))行業(yè)大模型（網(wǎng)絡(luò)）行業(yè)大模型（教育）小模型小模型小模型...小模型小模型小模型 ...小模型小模型小模型 ...小模型...從小模型到大模型，生產(chǎn)效率跨越式提升基礎(chǔ)通用大模型具有泛化性，網(wǎng)絡(luò)智能化將從用例驅(qū)動轉(zhuǎn)變?yōu)槟芰︱?qū)動，迅速降低應(yīng)用開發(fā)門檻，加速AI工程化、規(guī)模化落地6G網(wǎng)絡(luò)內(nèi)生AI如何使能AI大模型？如何設(shè)計賦能網(wǎng)絡(luò)的AI大模型？流量數(shù)據(jù)分析天線權(quán)值調(diào)優(yōu)用戶移動預(yù)測流量數(shù)據(jù)分析天線權(quán)值調(diào)優(yōu)用戶移動預(yù)測1213模型名稱參數(shù)領(lǐng)域功能BERTNLP語言理解與生成LaMDANLP對話系統(tǒng)谷歌PaLM5400億NLP語言理解與生成、推理、代碼生成1maeen110億多模態(tài)語言理解與圖像生成Parti200億多模態(tài)語言理解與圖像生成擻軟Florence6.

4億CV視覺識別170億NLP語言理解、生成Faoebook0PT-175B1750億NLP語言糢型M2M-100150億NLP100種語言互譯Gato12億多糢態(tài)多面手的智能體DeepMindGooher2800億NLP語言理解與生成AIohaCode414億NLP代碼生成CLIP&DALL-E120億NLP圖像生成、跨模態(tài)檢索OpenA1Codex120億多模態(tài)代碼生成ChatGPT175BNLP語言理解與生成、推理等NLP大模型NLP語言理解、生成CV大棋型CV圖像試別百度跨櫝態(tài)計算大棋型千億級別多模態(tài)語言理解與困像生成生物計算大模型CV化合物表征學(xué)習(xí)、分子結(jié)構(gòu)預(yù)測阿里巴巴M6萬億級別多模態(tài)語言理解與圖像生成騰訊混元大饃型-NLP語言理解與生成京東K-PLUG-NLP語言理解與生成、推理、代碼生成三六零-NLP智能搜索字節(jié)跳動DA-NLP語言理解科大訊飛中文預(yù)訓(xùn)練楳型-NLP語言理解與生成、語言互譯百度文心一言千億級NLP對話互動，回答問題，協(xié)助創(chuàng)作，獲取信息網(wǎng)絡(luò)使能AI大模型：成本與資源的挑戰(zhàn)構(gòu)建訓(xùn)練1750億個參數(shù) 700GB的參數(shù)儲存數(shù)據(jù)來源：OneFlow，國盛證券研究所需要45TB的數(shù)據(jù)集每日需要729,167個A100運(yùn)行小時每日需要30,382個A100儲存成本微軟云服務(wù) 超過1萬枚A100推理成本假設(shè)訪量2500萬/日，10個問題/用戶，30字/問題3,798個服務(wù)器電費(fèi)：30萬/日換算消耗另加AI大模型在訓(xùn)練、推理、儲存方面開銷極大，網(wǎng)絡(luò)難以支撐訓(xùn)練成本GPT-3訓(xùn)練一次的成本約為140萬美元網(wǎng)絡(luò)使能AI大模型：可能模式6G內(nèi)生AI為AI大模型的訓(xùn)練過程提供鏈接、數(shù)據(jù)服務(wù)，為推理過程提供鏈接、計算、模型拆解/分發(fā)服務(wù)。AI訓(xùn)練服務(wù)AI推理服務(wù)AI大模型需要較大的儲存空間和較強(qiáng)的AI推理芯片，單基站無法滿足該需求。在實現(xiàn)合理模型分割的前提下，可將大模型分布式的部署到無線網(wǎng)絡(luò)中，提供AI推理服務(wù)。在6G網(wǎng)絡(luò)中分布式部署AI大模型，更靠近用戶側(cè)，可能在時延方面具有優(yōu)勢。UE6G網(wǎng)絡(luò)云AI供應(yīng)商海量數(shù)據(jù)采集數(shù)據(jù)處理處理后數(shù)據(jù)UE 6G網(wǎng)絡(luò)云AI供應(yīng)商推理請求AI推理處理后數(shù)據(jù)AI大模型訓(xùn)練通常在數(shù)據(jù)中心的多臺服務(wù)器中，服務(wù)期間需要用高速率光纖連接，難以將AI大模型的訓(xùn)練過程部署到無線網(wǎng)絡(luò)中。AI大模型需要哪些特殊的數(shù)據(jù)分析技術(shù)？數(shù)據(jù)處理功能分布式部署后網(wǎng)絡(luò)中數(shù)據(jù)該如何合理調(diào)度？分布式部署導(dǎo)致推理時延增加和靠近用戶側(cè)傳輸時延減少該如何權(quán)衡？大模型分割、壓縮、加速等技術(shù)是否可行；大模型分布式部署后節(jié)點(diǎn)之間數(shù)據(jù)如何合理調(diào)度？14特點(diǎn)6G網(wǎng)絡(luò)承擔(dān)數(shù)據(jù)采集、預(yù)處理等數(shù)據(jù)服務(wù)，節(jié)省網(wǎng)絡(luò)中的數(shù)據(jù)傳輸，為云AI訓(xùn)練AI大模型提供更好的數(shù)據(jù)服務(wù)。服務(wù)從用戶、網(wǎng)絡(luò)中采集大量數(shù)據(jù)，數(shù)據(jù)的預(yù)處理和流量的調(diào)度，支撐AI大模型的訓(xùn)練。潛在增益未來問題網(wǎng)絡(luò)運(yùn)行東數(shù)西算類、算網(wǎng)融合類、超算智算類等算網(wǎng)服務(wù)場景；智能需求分析、智能策略匹配、智能服務(wù)優(yōu)化等標(biāo)準(zhǔn)化數(shù)據(jù)：基礎(chǔ)資源狀態(tài)、拓?fù)洹⑿阅?、成本、能耗、告警等?shù)據(jù)；業(yè)務(wù)數(shù)據(jù)流信息數(shù)據(jù)、KPI監(jiān)控數(shù)據(jù)、XDR、運(yùn)行日志，告警等數(shù)據(jù)網(wǎng)管/云管系統(tǒng)數(shù)據(jù)編碼調(diào)制、語義+編碼調(diào)制、波形、多址、MIMO、干擾消除非標(biāo)準(zhǔn)化數(shù)據(jù)：上下行信道

、語義信息、語義特征、小區(qū)內(nèi)/間干擾網(wǎng)絡(luò)設(shè)備內(nèi)部數(shù)據(jù)、語義信源數(shù)據(jù)基于無線柵格的切換、智能AMC、網(wǎng)絡(luò)流量檢測和擁塞控制、網(wǎng)絡(luò)流量預(yù)測和調(diào)度優(yōu)化標(biāo)準(zhǔn)化數(shù)據(jù)：MR測量數(shù)據(jù)、MDT數(shù)據(jù)；非標(biāo)準(zhǔn)化數(shù)據(jù)：鏈路級BLER、端口數(shù)據(jù)流信息數(shù)據(jù)（端口流量、時延等）終端測量上報；網(wǎng)絡(luò)設(shè)備內(nèi)部數(shù)據(jù)業(yè)務(wù)識別和感知、異常行為監(jiān)測標(biāo)準(zhǔn)化數(shù)據(jù)：業(yè)務(wù)數(shù)據(jù)流信息數(shù)據(jù)（IP五元組、URL、PFD等）網(wǎng)絡(luò)設(shè)備內(nèi)部數(shù)據(jù)無線組網(wǎng)動態(tài)負(fù)載均衡、無線組網(wǎng)動態(tài)干擾規(guī)避、網(wǎng)絡(luò)節(jié)能、智能尋呼、IP網(wǎng)絡(luò)智能路由標(biāo)準(zhǔn)化數(shù)據(jù)：MR測量數(shù)據(jù)、MDT數(shù)據(jù)、KPI監(jiān)控數(shù)據(jù)（PRB利用率、小區(qū)吞吐量等）、控制面信令數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)流信息數(shù)據(jù)網(wǎng)絡(luò)設(shè)備內(nèi)部數(shù)據(jù)網(wǎng)管系統(tǒng)數(shù)據(jù)感知類：智能業(yè)務(wù)識別診斷類：智能故障處理預(yù)測類：智能擴(kuò)容規(guī)劃標(biāo)準(zhǔn)化數(shù)據(jù)：KPI等監(jiān)控數(shù)據(jù)、XDR數(shù)據(jù)、告警數(shù)據(jù)、MR數(shù)據(jù)、拓?fù)涞荣Y源數(shù)據(jù)非標(biāo)準(zhǔn)化數(shù)據(jù)：日志數(shù)據(jù)、圖片數(shù)據(jù)、文檔/案例數(shù)據(jù)等網(wǎng)管系統(tǒng)數(shù)據(jù)網(wǎng)絡(luò)運(yùn)維AI大模型賦能網(wǎng)絡(luò)：可行性15AI賦能網(wǎng)絡(luò)的場景主要分為網(wǎng)絡(luò)運(yùn)維和網(wǎng)絡(luò)運(yùn)行兩大類，能否用一個AI大模型解決多種場景的問題？場景實例 所需數(shù)據(jù)（特征） 數(shù)據(jù)來源AI大模型賦能網(wǎng)絡(luò)場景十分多樣，需分析：數(shù)據(jù)是否可用？如何構(gòu)建大模型？AI大模型賦能網(wǎng)絡(luò)：數(shù)據(jù)獲取和處理的挑戰(zhàn)物理層等數(shù)據(jù)源缺失，應(yīng)用難開展采集數(shù)據(jù)粒度不統(tǒng)一，數(shù)據(jù)難應(yīng)用標(biāo)準(zhǔn)化聯(lián)合業(yè)界共同制定新增數(shù)據(jù)采集規(guī)范，制定按需動態(tài)數(shù)據(jù)采集粒度方案數(shù)據(jù)開放持續(xù)梳理和積累網(wǎng)絡(luò)智能化數(shù)據(jù)集，對外開放，構(gòu)建智慧網(wǎng)絡(luò)創(chuàng)新系列生態(tài)，助力研究數(shù)據(jù)記錄不完整，應(yīng)用難優(yōu)化數(shù)據(jù)記錄不準(zhǔn)確，應(yīng)用難商用實時校驗研發(fā)數(shù)據(jù)實時校驗?zāi)芰Γ苿淤|(zhì)量及時改進(jìn)閉環(huán)稽核研發(fā)數(shù)據(jù)閉環(huán)稽核能力，保證數(shù)據(jù)準(zhǔn)確可靠網(wǎng)絡(luò)運(yùn)維的數(shù)據(jù)是以分鐘/小時粒度數(shù)據(jù)為主，來源較為統(tǒng)一；網(wǎng)絡(luò)運(yùn)行的數(shù)據(jù)時間粒度、標(biāo)準(zhǔn)化程度、數(shù)據(jù)來源更為多樣和復(fù)雜，獲取較為困難數(shù)據(jù)是AI大模型的基礎(chǔ)，如何獲取適合AI大模型訓(xùn)練的數(shù)據(jù)面臨極大挑戰(zhàn)數(shù)據(jù)獲取難 數(shù)據(jù)質(zhì)量差16AI大模型賦能網(wǎng)絡(luò)：大模型的構(gòu)建路徑與ChatGPT不同，網(wǎng)絡(luò)中存在大量結(jié)構(gòu)化數(shù)據(jù)，且網(wǎng)絡(luò)不同問題間的共性不清晰，網(wǎng)絡(luò)AI大模型面臨較大挑戰(zhàn)面向上述場景，可考慮分階段探索，首先探索網(wǎng)絡(luò)運(yùn)維人工智能大模型從小規(guī)模、離線入手，向大規(guī)模、實時發(fā)展，最終探索是否可以實現(xiàn)統(tǒng)一運(yùn)維通用模型運(yùn)行通用模型無線運(yùn)維通用模型核心網(wǎng)運(yùn)維通用模型網(wǎng)絡(luò)AI大模型發(fā)