2025智能邊緣云技術規(guī)范

范 AI模型算法能 T/ZAI3—2022人工智能應用創(chuàng)新邊緣云edge×loud

邊緣云節(jié)點edge×loud中心云×容器化部署×安裝包部署installationpa×kageAI：人工智能（ArtificialAMQP：高級消息隊列協(xié)議（AdvancedMessageQueuingProtocol）ARM：微處理器（AdvancedRISCMachine）C?E：通用漏洞披露（Common?ulnerabilities&Exposures）DDoS：分布式拒絕服務攻擊（DistributedDenialofService）GP?：圖形處理器（GraphicProcessing?nit）HTTP：超文本傳輸協(xié)議（HyperTextTransferHTTPS：超文本傳輸安全協(xié)議（HyperTextTransferProtocoloverSecureSocketLayer）MIPS：無內(nèi)部互鎖流水級的微處理器（MicroprocessorwithoutInterlockedPipelineStages）MQTT：消息隊列遙測傳輸協(xié)議（MessageQueuingTelemetryTransport）0NNX：開放神經(jīng)網(wǎng)絡交換（0penNeuralNetwork0pen?IN0：開放式視覺推理和神經(jīng)網(wǎng)絡優(yōu)化（0pen?isualInference&NeuralNetworkRDMA：遠程直接內(nèi)存訪問（RemoteDirectMemoryRoCE：聚合以太網(wǎng)上的遠程直接內(nèi)存訪問（RDMAoverConvergedEthernet）SDK：軟件開發(fā)工具包（SoftwareDevelopmentKit）TCP：傳輸控制協(xié)議（TransmissionControlProtocol）T?M：張量虛擬機（Tensor?irtualMachine）如圖1所示，“人工智能應用創(chuàng)新智能邊緣云”（以下簡稱“智能邊緣云”）總體技術架構包AI能力、邊緣云節(jié)點管理、云邊管控四個層次，同時以運營運維管理、圖 層服務器、存儲設備、網(wǎng)絡設備等基礎資源通過調(diào)度、抽象、編排、池化等方法進行統(tǒng)一整合管理，AIT/AI—222中5.2AI能力層由存儲能力模塊、AI模型算法能力模塊、應用部署資源調(diào)度能力模塊、數(shù)據(jù)傳輸能力模塊、邊緣應用能力模塊組成。其中，AIAI模型管理、AI模型部署、AIAI業(yè)務核心能力。r.rAI智能邊緣云側(cè)整體T/ZAI3—20存儲資源池應符合T/ZAI3—2022中T/ZAI3—20基礎資源服務層應符合T/ZAI3—2022中6.1.2AIAIAI可支持模型適配云端、邊緣端、終端等多種異構硬件、多種操作系統(tǒng)的能力，如通過AIAITensorFlowServingRDMA網(wǎng)絡資源，如Infiniband網(wǎng)絡、RoCE應針對不同類型的數(shù)據(jù)傳輸，實現(xiàn)主流協(xié)議（TCP、HTTP、HTTPS、MQTT、AMQP等）的支持， 應支持消息的轉(zhuǎn)發(fā)，根據(jù)云邊管控層的控制指令進行相關的鏡像管理、應用實例管理、節(jié)點管理等業(yè)務流程管理和報文轉(zhuǎn)發(fā)，支持將邊緣側(cè)的消息轉(zhuǎn)發(fā)至云邊管控層，如將AI應用的上AI能力節(jié)點的資源并進行應用實例AI能力節(jié)點對應用實例進行I/0等指標情況）、資源用量等信息進行監(jiān)控，并將監(jiān)控信息上報給云邊管控層；I/0等指標情況）、資源用量等信息進行監(jiān)控，并在云邊管控層能夠收集到監(jiān)控信息；應支持多租戶模式，不同租戶之間的資