人工智能行業(yè)應用建設發(fā)展參考架構-國家信息中心公共技術服務部

目錄一、人智能業(yè)應總進展 1（一）國內外人工智能行業(yè)應用發(fā)展現(xiàn)狀 1全人工能技演進趨激烈 1我具有特的展資優(yōu)勢 3行業(yè)應正成人工能競的焦點 4（二）人工智能行業(yè)應用建設發(fā)展模式 6自創(chuàng)新式 6平賦能式 6兩模式關系 7（三）推進統(tǒng)一參考架構設計是發(fā)展關鍵 7行應用展受多方挑戰(zhàn) 7統(tǒng)架構有于加應用?；?9二、人智能業(yè)應建發(fā)展一參架構 9（一）統(tǒng)一參考架構的內涵與特性 10統(tǒng)一參架構內涵 10統(tǒng)一參架構特性 11（二）統(tǒng)一參考架構組成 11總架構 11算基礎 13數(shù)服務 13模服務 14應開發(fā) 14運平臺 15運平臺 15三、統(tǒng)參架構建設 15（一）統(tǒng)一參考架構技術要求 15算基礎 15數(shù)服務 17模型服務 19應開發(fā) 21運平臺 21運平臺 22（二）基于統(tǒng)一參考架構的應用建設 22各務模下的設能力 22自創(chuàng)新式下技術構 23平賦能式下技術構 24四、總與展望 25一、人工智能行業(yè)應用總體進展（一）國內外人工智能行業(yè)應用發(fā)展現(xiàn)狀全球人工智能技術演進日趨激烈進。一是當前大模型能力快速提升。OpenAI最新發(fā)布的o1大PaLM-E、文生圖模型DALL-E、多模態(tài)經典模型CLIP等。注意力機制與其他機制結合的模型能夠在DeepMind的Griffin模型結合了線性遞歸和局部注意二是基礎技術體系加速收斂淀和市場選擇，美國AI產業(yè)逐漸形成統(tǒng)一收斂的局面，展現(xiàn)出強大競爭力。在算力（英偉達GPU占比85%以上）、人工智能深度學習框架（PyTorch占比90%以上）、模型（GPT、Llama系列）等層面，基于收斂的技術棧，吸納了全球開發(fā)者的貢獻，形成了強大的生態(tài)體系。英偉達GPU等為大規(guī)模并行計算提供支持，英特爾、AMD等則布局多種人工智能專用芯片，滿足以英偉達CUDA為代表，憑借其豐富的算子生態(tài)、強大的社區(qū)EULA鞏固了其產業(yè)地位。人工智能深度學習框架上，形成了以Meta主導的和Google主導的為代表的聚集效應。是目前全球最流行的人工智能深度學習框架，并結合英偉達GPU90%以上的份源AI社區(qū)HuggingFace為例，吸引了大量的開發(fā)者和企業(yè)參與，截止2024年11月平臺收錄超過100萬個大小模型和超過20萬個數(shù)據(jù)集，包括微軟、谷歌在內的超過15萬家機構使用。研發(fā)、基因組研究、智能健康監(jiān)測等方面廣泛應用。DeepMind的AlphaFold系列模型專注于蛋白質結構預測，獲得2024年諾貝DRIVEFSD領域廣泛應用。DeepMind的AlphaChip利用了強化學習方法來設設計工作，并應用于谷歌TPU芯片設計中。我國具有獨特的發(fā)展資源優(yōu)勢中國的市場規(guī)模體現(xiàn)在消費者基數(shù)大和144億人，連續(xù)多年保持世界第二大商品消費市場、世界第一制造業(yè)大國、中國在全球I2024AI2018842022年的392271502222729.2%AI市場規(guī)模占全球AI市場規(guī)201811.9%202216.1%，預計于202720.6%。據(jù)前瞻產業(yè)研究院《2024年中國人工智能行業(yè)全景圖譜》，在2200家人工智能骨干企業(yè)中，提供基礎硬件設備和數(shù)據(jù)服務的企業(yè)僅有53家，從事包括核心算法、開發(fā)平臺等在內的關鍵技27385.18%1873家。人工智能技術在互聯(lián)網(wǎng)領域中的應用尤為活躍，并且正積極展?；ヂ?lián)網(wǎng)頭部企業(yè)作為智能化先鋒，主導AI技術的研發(fā)和應AI技術應用于核心場景。電力、醫(yī)療、制造、交通和零售等行業(yè)處于數(shù)字化階段，積極探索AI應用二是人工智2024》，中國已建90%以上的示范工廠應用了人工智能和數(shù)字孿生技術。行業(yè)應用正成為人工智能競爭的焦點技術與產業(yè)競爭的焦點已經從單一的計算量和模型參數(shù)量（Scaling一是三是從追求短在當前國際產業(yè)競爭大環(huán)境條件（二）人工智能行業(yè)應用建設發(fā)展模式為目標的平臺賦能模式。自研創(chuàng)新模式業(yè)務系統(tǒng)融合和功能復雜定制的問題。其特點如下：平臺賦能模式的規(guī)范應用和發(fā)展。兩種模式的關系不實現(xiàn)內部成熟能力的自建他用，從而創(chuàng)造新的業(yè)務和市場空間。（三）推進統(tǒng)一參考架構設計是發(fā)展關鍵行業(yè)應用發(fā)展受到多方面挑戰(zhàn)優(yōu)勢，包括技術、成本和安全三方面。技術方面，不同廠商和平臺之間無法實現(xiàn)互聯(lián)互通。獨立技術體系，一是技術不兼容AI技數(shù)據(jù)流通不暢三是缺乏互操性性差，不同AI模型的基礎原理各不相同，缺乏互操作性，限制了不同模型之間的協(xié)同發(fā)展。四是技術發(fā)展不均衡，不同領域的AI技術發(fā)展速度和質量參差不齊。五是技術擴散受阻，不同子用。和推廣成本高。各個公司需要獨立開發(fā)和維護自己的制成本仍比較高，不利于成果轉化。安全是人工智能行業(yè)應用的重要保障，部分國外技術存在“斷供”統(tǒng)一架構有利于加速應用規(guī)?；涞啬軌蜃杂慑噙x并整合多家頂大模型及技術供應商AI應用的能力AI解決方案；當業(yè)務需求發(fā)生變化時，企業(yè)可以快速地在技術上實AI應用和服務，加速不同廠商的AI應用，實現(xiàn)跨平臺的數(shù)據(jù)和功能整合，提升業(yè)務二、人工智能行業(yè)應用建設發(fā)展統(tǒng)一參考架構（一）統(tǒng)一參考架構的內涵與特性統(tǒng)一參考架構的內涵能力模塊。系統(tǒng)架構能力模塊統(tǒng)一參考架構的特性的變化進行擴展和適應，且易于維護升級。（二）統(tǒng)一參考架構組成總體架構圖1人工智能行業(yè)應用統(tǒng)一參考架構參考架構共性能力以模型和數(shù)據(jù)兩大關鍵要素提出共性支即共性能力中的功能建議以任意力的相關功能即可。算力基礎和AI開發(fā)平臺。AI和應用服務，是企業(yè)數(shù)字化轉型的基石。企業(yè)優(yōu)化資源配置，提高運營效率。三是AIAI數(shù)據(jù)服務數(shù)據(jù)服務能力包含4個共性和4個特性能力關注采集、處理、共享、數(shù)據(jù)集管理，形成統(tǒng)一的數(shù)據(jù)服務。其中，4個共性能力分別是，①數(shù)據(jù)工程工具鏈：應關注訓4包括開放API接口、數(shù)據(jù)導入、數(shù)據(jù)源接入和數(shù)據(jù)埋點等方式；持各領域數(shù)據(jù)分析模型和展現(xiàn)形式。模型服務模型服務包含4個共性能力AI資產的可沉淀、可Agent資產做好標準化管理和安全訪問控制的能力。應用開發(fā)應用開發(fā)包含2個特性能力GIS開發(fā)功能。運維平臺運維平臺（特性能力），是指面向人工智能應用系統(tǒng)需求，確保系統(tǒng)的穩(wěn)定和安全。運營平臺運營平臺（特性能力），是指面向服務用戶提供用戶管理、用戶服務等相應功能。基于不同的業(yè)務目標，側重點不同，具體有服務內部業(yè)務和服務外部客戶兩類。三、統(tǒng)一參考架構的建設（一）統(tǒng)一參考架構技術要求質量發(fā)展。算力基礎AI術規(guī)范統(tǒng)一，具體應實現(xiàn)以下9點技術能力。協(xié)同通信優(yōu)化、支持訓推共池及算力切分。練框架和分布式并行推理。和跨域故障快速修復。API。五是具備數(shù)據(jù)資源管理功能。提供數(shù)據(jù)資源管理功能，支持團隊資源管理模式，包括成員權限控制、任務分配和進度跟蹤。實時監(jiān)控數(shù)據(jù)服務的性能，并提供詳細的報告和分析。訪問控制和審計日志，以保護數(shù)據(jù)不被未授權訪問。足于國內主導的開源社區(qū)的條件，并預置主流算子加速庫。時接口、模型加載與執(zhí)行接口、算子編譯和執(zhí)行接口、性能Profiling型的便捷部署。數(shù)據(jù)服務數(shù)據(jù)工程工具數(shù)據(jù)采集管理IOT數(shù)據(jù)集管理數(shù)據(jù)交換空間支持常用數(shù)據(jù)格式的對接能力，包括且不限于JSONL、XML等常用AI環(huán)境、打造可組合的使用控制策略和安全審計追溯。企業(yè)數(shù)據(jù)空間數(shù)據(jù)服務應有效支撐面向企業(yè)應用的數(shù)據(jù)管理。一是滿足多型態(tài)的數(shù)據(jù)服務和管理，確保數(shù)據(jù)的一致性、可訪問性和質量，同時優(yōu)化數(shù)據(jù)的利用，滿足場景對各型態(tài)數(shù)據(jù)服務的支持。二是需支持多模態(tài)數(shù)據(jù)集成融合、數(shù)據(jù)分析和處理、數(shù)據(jù)質量控制、數(shù)據(jù)安全和隱私保護、實施高級安全措施、團隊協(xié)作和工作空間管理、數(shù)據(jù)共享和隔離。（6）4個特性能力API模型服務成本，從而提升開發(fā)效率。多模型組合型能力提升而不斷進化、具備基礎大模型的組合能力。模型工程工具從而提升開發(fā)效率。Agent工程工具具備自主決策、多模態(tài)數(shù)據(jù)處理、記憶機制、推理與規(guī)劃、加快開發(fā)周期，快速將大模型能力傳導至應用側。AI資產管理包括模型管理、組件管理、應用和Agent管理、空間管理、監(jiān)控和報告等能力。全面維護關鍵人工智能資產，包括模型、Agent進。統(tǒng)一多模型推理服務用。推理服務應統(tǒng)一Restful訪問接口，支持多種推理框架，同時支持多種模型和Agent服務。應用開發(fā)和樣本，并形成數(shù)據(jù)飛輪，推動模型持續(xù)迭代。運維平臺力，滿足安全可信等級保護要求，保障平臺平穩(wěn)運行。運營平臺（二）基于統(tǒng)一參考架構的應用建設各服務模式下的建設能力圖2自研創(chuàng)新模式和平臺賦能模式建設能力差異自研創(chuàng)新模式下的技術架構自研創(chuàng)新模式的參考架構如下圖所示：圖3自研創(chuàng)新模式下的架構對照統(tǒng)一參考架構，在自