人工智能白皮書（2022年）

工中國信通院2022年4月版權(quán)聲明本白皮書版權(quán)屬于中國信息通信研究院，并受法律保護。轉(zhuǎn)載、摘編或利用其它方式使用本白皮書文字或者觀點的，應(yīng)注明“來源：中國信息通信研究院”。違反上述聲明者，本院將追究其相關(guān)法律責(zé)任。在新科技革命和產(chǎn)業(yè)變革的大背景下，人工智能與產(chǎn)業(yè)深度融合，是釋放數(shù)字化疊加倍增效應(yīng)、加快戰(zhàn)略新興產(chǎn)業(yè)發(fā)展、構(gòu)筑綜合競爭優(yōu)勢的必然選擇。當前，人工智能加快向各產(chǎn)業(yè)滲透，正在促進新興產(chǎn)業(yè)之間、新興產(chǎn)業(yè)與傳統(tǒng)產(chǎn)業(yè)之間以及技術(shù)與社會的跨界融合發(fā)展。在“十四五”開端，全面梳理人工智能的發(fā)展態(tài)勢，具本白皮書重點從人工智能政策、技術(shù)、應(yīng)用和治理等維度進行了闡述。政策層面，國內(nèi)外不斷強化人工智能的戰(zhàn)略地位，推動釋放人工智能紅利。技術(shù)及應(yīng)用層面，以深度學(xué)習(xí)為代表的人工智能技術(shù)飛速發(fā)展，新技術(shù)開始探索落地應(yīng)用；工程化能力不斷增強，在醫(yī)療、制造、自動駕駛等領(lǐng)域的應(yīng)用持續(xù)深入；可信人工智能技術(shù)引起社會廣泛關(guān)注。與此同時，治理層面工作也受到全球高度關(guān)注，各國規(guī)制進程不斷加速，基于可信人工智能的產(chǎn)業(yè)實踐不斷深總體來看，本白皮書認為人工智能逐步進入新的階段，下一步的發(fā)展方向，將由技術(shù)創(chuàng)新、工程實踐、可信安全“三維”坐標來定義和牽引。具體來看，第一個維度突出創(chuàng)新，圍繞著算法和算力方面的創(chuàng)新仍會不斷涌現(xiàn)。第二個維度突出工程，工程化能力逐漸成為人工智能大規(guī)模賦能千行百業(yè)的關(guān)鍵要素。第三個維度突出可信，發(fā)展負責(zé)任和可信的人工智能成為共識，將抽象的治理原則落由于人工智能發(fā)展速度之快、輻射范圍之廣、影響程度之深前所未有，我們對人工智能的認識還有待進一步深化，白皮書中存在 4 1一、人工智能發(fā)展概述人工智能是引領(lǐng)未來的新興戰(zhàn)略性技術(shù)，是驅(qū)動新一輪科技革命和產(chǎn)業(yè)變革的重要力量。習(xí)近平總書記多次作出重要指示，強調(diào)“要深入把握新一代人工智能發(fā)展的特點，加強人工智能和產(chǎn)融合，為高質(zhì)量發(fā)展提供新動能”。近年來，人工智能相關(guān)技術(shù)持續(xù)演進，產(chǎn)業(yè)化和商業(yè)化進程不斷提速，正在加快與千行百業(yè)深度融合。站在“十四五”開端這一特殊的節(jié)點，我們堅信全面梳理人工智能政策、技術(shù)、應(yīng)用以及治理的發(fā)展態(tài)勢，能夠有益于凝聚業(yè)界共識，推動人工智能持續(xù)健康發(fā)展。(一)全球不斷升級人工智能戰(zhàn)略，紛紛搶抓重要發(fā)展機遇人工智能已成為科技創(chuàng)新的關(guān)鍵領(lǐng)域和數(shù)字經(jīng)濟時代的重要支上升到國家戰(zhàn)略高度。近兩年來，特別是新冠疫情的沖擊下，越來越多的國家認識到，人工智能對于提升全球競爭力具有關(guān)鍵作用，力，其中將推動人工智能發(fā)展列為重要的工作。美國陸續(xù)成立了國集出臺了系列政策，將人工智能提到“未來產(chǎn)業(yè)”和“未來技術(shù)”領(lǐng)域的高度，不斷鞏固和提升美國在人工智能領(lǐng)域的全球競爭力，確保“領(lǐng)頭羊”地位。日本繼制定《科學(xué)技術(shù)創(chuàng)新指出，要瞄準人工智能等前沿領(lǐng)域，實施一批具有前瞻性、戰(zhàn)略性面向人工智能領(lǐng)域創(chuàng)新需求的投資不斷加大。主要經(jīng)濟體通過激勵計劃和直接投資項目等推動人工智能發(fā)展已廣泛實踐。歐盟不斷加大人工智能產(chǎn)業(yè)資金支持力度，大力促進歐洲的數(shù)字變革。歐盟有史以來最大的支持研發(fā)和創(chuàng)新項目——“地平線歐洲”計劃總投資額達955億歐元，明確將人工智能列1https://www8.cao.go.jp/cstp/ai/aistrategy2021_gaiyo.pdf2行研發(fā)工作。英國將投資和規(guī)劃人工智能生態(tài)系統(tǒng)作為長期戰(zhàn)略，啟動國家人工智能研究與創(chuàng)新計劃，支持人工智能先進研究等。據(jù)通過應(yīng)用牽引推動人工智能技術(shù)落地成為各國共識。美國引導(dǎo)能研究機構(gòu)，涵蓋了人機交互、人工智能優(yōu)化、動態(tài)系統(tǒng)、增強學(xué)習(xí)等方向，研究項目更是涵蓋了建筑、醫(yī)療、生物、地質(zhì)、電氣、教育、能源等多個領(lǐng)域。英國支持人工智能產(chǎn)業(yè)化，啟動人工智能辦公室和英國研究與創(chuàng)新局聯(lián)合計劃等，確保人工智能惠及所有行智能應(yīng)用作為重點，提出加快建設(shè)相關(guān)基礎(chǔ)設(shè)施，重點強調(diào)了跨行業(yè)的數(shù)據(jù)傳輸平臺以及人工智能相關(guān)標準等，全面推動人工智能在醫(yī)療、農(nóng)業(yè)、交通物流、智慧城市、制造業(yè)等各個行業(yè)開展應(yīng)用，并加大對中小企業(yè)的支援。我國十四五規(guī)劃綱要明確大力發(fā)展人工州、成都等第二批國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，不斷強化應(yīng)用牽4.uk/government/news/new-ten-year-plan-to-make-b34引作用?？萍疾恐С纸ㄔO(shè)多個人工智能創(chuàng)新發(fā)展試驗區(qū)，陸續(xù)批復(fù)(二)人工智能開始邁入全新階段，持續(xù)健康發(fā)展成為近十年，得益于深度學(xué)習(xí)等算法的突破、算力的不斷提升以及海量數(shù)據(jù)的持續(xù)積累，人工智能才得以真正大范圍地從實驗室研究走向產(chǎn)業(yè)實踐。產(chǎn)業(yè)發(fā)展和賦能的過程中，一方面，大量的實踐場景均能看到從“可用”到“好用”的發(fā)展路徑，這離不開技術(shù)自身的持續(xù)迭代，工程實現(xiàn)的不斷優(yōu)化，以及管理體系的支撐保障。另一方面，隨著人工智能應(yīng)用暴露出各種風(fēng)險和挑戰(zhàn)，以及人們對人工智能認識的不斷深入，人工智能治理已經(jīng)成為全球各界高度關(guān)注的議未來人工智能除了重視技術(shù)創(chuàng)新以外，還更加關(guān)注工程實踐和可信安全，這也構(gòu)成了新的“三維”發(fā)展坐標，牽引人工智能技術(shù)產(chǎn)業(yè)邁向新的階段。事實上，業(yè)界在各個維度上的努力早已開始，并且從未停止過，只是時至今日，工程實踐和可信安全被擺在了更5追求特定場景下的技術(shù)創(chuàng)新一直是人工智能發(fā)展的目標和驅(qū)動計算機視覺、智能語音、自然語言處理等領(lǐng)域廣泛應(yīng)用，相繼超過人類識別水平5。人工智能算力的多元化以及單點算力的不斷提升，有力支撐了人工智能的發(fā)展。再到近期，國內(nèi)外超大規(guī)模預(yù)訓(xùn)練模型頻繁涌現(xiàn)，不斷刷新各個應(yīng)用領(lǐng)域的榜單。未來，在算法、算力工程實踐能力日益成為釋放人工智能技術(shù)紅利的重要支撐。在等開源框架的誕生，通過屏蔽底層硬件和操作系統(tǒng)細節(jié)，大幅降低模型開發(fā)和部署難度，有效推動了人工智能技術(shù)的擴散。當前，人工智能與云計算、大數(shù)據(jù)等支撐技術(shù)的融合不斷深入，圍繞著數(shù)據(jù)受到越來越多的關(guān)注。隨著工程實踐能力的不斷提升，“小作坊、項目制”的賦能方式正在成為歷史，未來將會更加便捷、高效地實可信安全逐漸成為人工智能賦能過程中不可或缺的保障?？尚湃斯ぶ悄茏钤缬蓪W(xué)術(shù)界提出，近年來圍繞著安全性、穩(wěn)定性、可解釋性、隱私保護、公平性等方面的可信人工智能研究持續(xù)升溫?？?/2021-report/gathering-strength-gathering-storms-one-hundred-year-study-artifi67工智能創(chuàng)新發(fā)展，成為了重要的共識?？尚湃斯ぶ悄艿睦砟钪鸩截瀼氐饺斯ぶ悄艿娜芷谥?，產(chǎn)業(yè)實踐不斷豐富總的來看，人工智能正在邁入“創(chuàng)新驅(qū)動、應(yīng)用深化、規(guī)范發(fā)展”的新階段。從人工智能自身產(chǎn)業(yè)化的角度來看，技術(shù)迭代升級是發(fā)展的源動力，目前人工智能尚不完善，智能化路徑還在加快探索，技術(shù)的創(chuàng)新驅(qū)動將有助于拓展新的發(fā)展空間。從人工智能賦能傳統(tǒng)產(chǎn)業(yè)的角度來看，特別是疫情以來，數(shù)字化、智能化轉(zhuǎn)型不斷提速，推動人工智能應(yīng)用邁入加速軌道，相關(guān)應(yīng)用不斷深化。從治理角度來看，技術(shù)和產(chǎn)業(yè)發(fā)展要領(lǐng)先于監(jiān)管和制度，治理問題日益嚴峻，保障人工智能的健康發(fā)展成為全球共同關(guān)注。這里面既有漸進的變化，也有結(jié)構(gòu)性甚至方向性的調(diào)整，需要全面、系統(tǒng)地提升二、人工智能技術(shù)及應(yīng)用沿著“創(chuàng)新、工程、可信”三個方向持續(xù)演進在新的背景下，人工智能技術(shù)亦需要適應(yīng)新的變化。本章按照新三維坐標對人工智能技術(shù)及應(yīng)用的發(fā)展態(tài)勢進行了梳理。圍繞著算法、算力和數(shù)據(jù)的技術(shù)創(chuàng)新始終是前進主旋律；工程實踐中的相關(guān)技術(shù)開始覆蓋人工智能全流程，加速人工智能大規(guī)模落地應(yīng)用；8(一)人工智能在追求極致創(chuàng)新方面不斷突破一直以來，算法、算力和數(shù)據(jù)被認為是人工智能發(fā)展的三駕馬車，也是推動人工智能發(fā)展的重要基礎(chǔ)。在算法層面，超大規(guī)模預(yù)成為基礎(chǔ)科學(xué)研究的重要工具。在基礎(chǔ)算力層面，單點算力持續(xù)提升，算力定制化、多元化成為重要發(fā)展趨勢；計算技術(shù)圍繞數(shù)據(jù)處理、數(shù)據(jù)存儲、數(shù)據(jù)交互三大能力要素演進升級，類腦芯片、量子技術(shù)需要大量的標注數(shù)據(jù)，這也催生了專門的技術(shù)乃至服務(wù)，隨著面向問題的不斷具體化和深入，數(shù)據(jù)服務(wù)走向精細化和定制化；此外，隨著知識在人工智能的重要性被廣泛提及，對知識集的構(gòu)建和1.新算法不斷涌現(xiàn)，技術(shù)融合成重要趨勢超大規(guī)模預(yù)訓(xùn)練模型推動技術(shù)效果不斷提升，繼續(xù)朝著規(guī)模更谷歌、華為、智源研究院、中科院、阿里巴巴等企業(yè)和研究機構(gòu)相9紀錄，百度ERNIE3.0模型[6]在自然語言理解任務(wù)上的綜合評分當前，預(yù)訓(xùn)練模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)規(guī)模按照300倍/年的趨勢增跨模態(tài)預(yù)訓(xùn)練大模型日益普遍，已經(jīng)從早期只學(xué)習(xí)文本數(shù)據(jù)，到聯(lián)合學(xué)習(xí)文本和圖像，再到如今可以處理文本、圖像、語音三種模態(tài)數(shù)據(jù)，未來使用更多種圖像編碼、更多種語言、以及更多類型數(shù)據(jù)的預(yù)訓(xùn)練模型將會涌現(xiàn)，這也是實現(xiàn)人工智能通用化的有益探輕量化深度學(xué)習(xí)技術(shù)不斷探索，計算效率顯著提升。復(fù)雜的深度學(xué)習(xí)模型往往需要消耗大量的存儲空間和計算資源，難以在端、邊等資源受限情形下應(yīng)用，具備低內(nèi)存和低計算量優(yōu)勢的技術(shù)成為業(yè)界需求。輕量化深度學(xué)習(xí)成為解決這一挑戰(zhàn)的重要技術(shù)，包括設(shè)掉部分模型結(jié)構(gòu)），以及對網(wǎng)絡(luò)參數(shù)進行量化從而減少計算量等方模型的典型代表；百度推出的輕量化PaddleOCR模型規(guī)模減小至“生成式人工智能”技術(shù)不斷成熟，未來聽、說、讀、寫等能智能寫作、代碼生成、有聲閱讀、新聞播報、語音導(dǎo)航、影像修復(fù)等領(lǐng)域，通過機器自動合成文本、語音、圖像、視頻等正在推動互聯(lián)網(wǎng)數(shù)字內(nèi)容生產(chǎn)的變革。聽、說、讀、寫等能力的有機結(jié)合成為化生產(chǎn)，相關(guān)數(shù)字人主播和數(shù)字人記者，已在全國兩知識計算成為推動人工智能從感知智能向認知智能轉(zhuǎn)變的重要探索。知識凝聚了人的智慧，知識和數(shù)據(jù)的雙驅(qū)動有助于解決不完全信息、不確定性和動態(tài)環(huán)境下的推理決策問題，可以提高人工智能系統(tǒng)的智能化水平。目前，圍繞著知識獲取、知識建模、知識管6/PaddlePaddle/Paddl理、知識應(yīng)用等過程，已經(jīng)形成了涵蓋知識等技術(shù)，覆蓋知識表示、知識計算、知識推理與決策能力的體系，可實現(xiàn)對知識的管理與利用。學(xué)術(shù)界和產(chǎn)業(yè)界都已經(jīng)開始推出基于知識的人工智能應(yīng)用平臺或解決方案，例如清華大學(xué)、浙江大學(xué)、華為云、智源研究院、百度、竹間智能、國雙等推出的知識計算引擎、知識中臺、知識工程平臺、知識智能平臺等解決方案。未來，知識計算將著力在深度學(xué)習(xí)算法中嵌入先驗知識建立可解釋模型，讓知識深入?yún)⑴c模型求解，進一步提高人工智能的效率、水平以及人工智能與科學(xué)研究融合不斷深入，開始“顛覆”傳統(tǒng)研究范式。近年來，人工智能對海量數(shù)據(jù)的分析能力能夠讓研究者不再局限于常規(guī)的“推導(dǎo)定理式”研究，可以基于高維數(shù)據(jù)發(fā)現(xiàn)相關(guān)信息高精度的同時，將分子動力學(xué)極限提升了數(shù)個量級，比過去同類工7/skhtmlne生物學(xué)乃至工程領(lǐng)域等融合探索不斷涌現(xiàn)，未來將不斷拓展人工智2.單點算力持續(xù)突破，新技術(shù)仍處于探索階段當前人工智能算力持續(xù)突破，面向訓(xùn)練用和推斷用的芯片仍在快速演進。這主要源于算力需求的驅(qū)動，一方面體現(xiàn)在模型訓(xùn)練階推斷用算力需求持續(xù)增長。與此同時，新的算力架構(gòu)也在不斷研究中，類腦芯片、存內(nèi)計算、量子計算等備受關(guān)注，但總體上處于探上的算力提升。專用定制的端側(cè)推理芯片百花齊放，面向手機應(yīng)用的智能芯片成為亮點。2021年1月，聯(lián)發(fā)科推出了高端手機芯片類腦芯片、存內(nèi)計算、量子計算等依舊是重點探索方向。類腦芯片、存內(nèi)計算、量子計算等技術(shù)在理論層面可實現(xiàn)高算力、低功耗等優(yōu)點，取得了一些進展，但總體上來看目前技術(shù)成熟度相對較低。北京大學(xué)類腦智能芯片中心在2021年ISS3.數(shù)據(jù)規(guī)模不斷提升，構(gòu)建領(lǐng)域知識集成熱點據(jù)服務(wù)進入深度定制化的階段，百度、阿里巴巴、京東等公司推出根據(jù)不同場景和需求進行數(shù)據(jù)定制的服務(wù)；企業(yè)需求的數(shù)據(jù)集從通用簡單場景向個性化復(fù)雜場景過渡，例如語音識別數(shù)據(jù)集從普通話向小語種、方言等場景發(fā)展，智能對話數(shù)據(jù)集從簡答問答、控制等各方積極探索建立高質(zhì)量知識集，支撐未來知識驅(qū)動的人工智能應(yīng)用發(fā)展。知識集中包含語音、圖像、文本等傳統(tǒng)數(shù)據(jù)和定義、FashionAI知識集，加速了AI在服裝設(shè)計產(chǎn)(二)人工智能工具鏈成為工程實踐能力核心隨著人工智能技術(shù)不斷發(fā)展，近年來工程落地應(yīng)用呈現(xiàn)加速態(tài)勢。金融領(lǐng)域，人工智能技術(shù)開始深入前臺、中臺、后臺全過程；款產(chǎn)品獲批三類醫(yī)療器械注冊證；制造領(lǐng)域人工智能快速發(fā)展，德人工智能呈現(xiàn)出從初步探索到規(guī)模應(yīng)用的過渡，總體上來看，不斷人工智能工程化開始成為各界關(guān)注焦點。學(xué)術(shù)界，卡耐基梅隆大學(xué)軟件工程學(xué)研究所于近年啟動人工智能工程化研究，并聯(lián)合高校和工業(yè)界承擔(dān)了一項由美國官方機構(gòu)資助的國家研究計劃；世界知名人工智能專家喬丹（MichaelI.Jordan）、邢波等認為人工智能工程化是一門新興的工程科學(xué)，是人工智能從理論學(xué)科到工程學(xué)科人工智能工程化聚焦工具體系、開發(fā)流程、模型管理全生命流程的高效耦合。工具體系層面，體系化與開放化成為研發(fā)平臺技術(shù)工具鏈的發(fā)展特點。圍繞機器學(xué)習(xí)和深度學(xué)習(xí)等技術(shù)，已初步構(gòu)建起較為完備的工具體系，大幅降低數(shù)據(jù)處理、模型開發(fā)和部署、運持續(xù)交付和持續(xù)部署，最終以最佳的模型進入應(yīng)用層面產(chǎn)生商業(yè)價企業(yè)智能化應(yīng)用的逐步加深，模型種類和數(shù)量大幅增長，企業(yè)需要建設(shè)對模型生命周期的管理機制，對模型的版本歷程、性能表現(xiàn)、習(xí)是指在機器學(xué)習(xí)開發(fā)應(yīng)用全流程的部分環(huán)節(jié)或者全部環(huán)節(jié)實現(xiàn)自動化，可以有效降低當前階段人工智能開發(fā)門檻高、技術(shù)人才匱乏等挑戰(zhàn)。該技術(shù)主要包括自動數(shù)據(jù)預(yù)處理、自動特征工程、自動超參數(shù)搜索、自動模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計、自動模型部署等內(nèi)容，低代碼開發(fā)、預(yù)訓(xùn)練模型等技術(shù)也與自動機器學(xué)習(xí)密切相關(guān)，并呈現(xiàn)融合發(fā)展的趨勢。當前，頭部互聯(lián)網(wǎng)企業(yè)和創(chuàng)新企業(yè)已經(jīng)開始積極布局停留在某些開發(fā)環(huán)節(jié)（如特征工程）或者某些特定的技術(shù)領(lǐng)域（如語音識別、目標檢測、智能對話等）。云邊端協(xié)同管理的技術(shù)需求逐漸凸顯，人工智能上云進程不斷加速。隨著人工智能與各個行業(yè)的深度融合，人工智能邊緣端和終端設(shè)備將得到越來越廣泛的應(yīng)用，同時開發(fā)者也將面臨邊端設(shè)備繁雜不易適配、運維管理難等問題。一方面，平臺通過模型壓縮、自適應(yīng)模型生成等技術(shù)實現(xiàn)邊端設(shè)備的模型適配和部署；另一方面，通過對編譯優(yōu)化、中間表示等的設(shè)計和配臵，實現(xiàn)云邊端設(shè)備的協(xié)(三)安全可信人工智能技術(shù)朝著一體化發(fā)展隨著社會各界對人工智能信任問題的不斷關(guān)注，安全可信的人工智能技術(shù)已成為研究熱點。研究的焦點主要是提升人工智能系統(tǒng)穩(wěn)定性、可解釋性、隱私保護、公平性等，這些技術(shù)構(gòu)成了可信人人工智能系統(tǒng)穩(wěn)定性技術(shù)重點逐步從數(shù)字域擴展到物理域。人工智能系統(tǒng)面臨中毒攻擊、對抗攻擊、后門攻擊等特有攻擊，這加大了安全性方面的挑戰(zhàn)。這些攻擊技術(shù)既可互相獨立也可以同時存在，例如通過打印對抗樣本眼鏡等能夠直接對人臉識別系統(tǒng)造成物理層面的干擾，攻擊者在路牌上粘貼對抗樣本擾動圖案，使得自動駕駛系統(tǒng)錯誤地將“停止”路牌識別為“限速”路牌等[10]。圍繞著人工智能系統(tǒng)的穩(wěn)定性測試技術(shù)也成為了關(guān)鍵，華為、百度等紛紛推出基于模糊理論的相關(guān)測試技術(shù)，致力于探索提高人工智能系統(tǒng)人工智能可解釋性增強技術(shù)仍處在初期階段，多種路徑持續(xù)探包括建立適當?shù)目梢暬瘷C制嘗試評估和解釋模型的中間狀態(tài)；通過影響函數(shù)來分析訓(xùn)練數(shù)據(jù)對于最終收斂的人工智能模型的影響；通過方法分析人工智能模型利用哪些數(shù)據(jù)特征做出預(yù)測；通過使用簡單的可解釋模型對復(fù)雜的黑盒模型進行局部近似來研究黑盒模型的隱私計算技術(shù)助力人工智能數(shù)據(jù)安全可信地進行協(xié)作。人工智能系統(tǒng)需要依賴大量數(shù)據(jù)，然而數(shù)據(jù)的流轉(zhuǎn)過程以及人工智能模型提升人工智能公平性的關(guān)鍵在于從數(shù)據(jù)和技術(shù)兩方面入手。隨著人工智能系統(tǒng)的廣泛應(yīng)用，不公平?jīng)Q策行為以及對部分群體的歧視等問題越來越突出，導(dǎo)致這些決策偏見主要原因如下：受數(shù)據(jù)采集條件限制，不同群體在數(shù)據(jù)中所占權(quán)重不均衡；在不平衡數(shù)據(jù)集上訓(xùn)練得到的人工智能模型，造成模型決策不公平。為了保障人工智能系統(tǒng)的決策公平性，從數(shù)據(jù)層面來看，主要通過構(gòu)建完整異構(gòu)保證數(shù)據(jù)高質(zhì)量性。從技術(shù)層面來看，需要通過引入公平?jīng)Q策量化體系化推進人工智能可信安全技術(shù)將是重要趨勢。一方面，當前相關(guān)研究多是從穩(wěn)定、隱私、公平等單一維度展開。已有研究工作表明，穩(wěn)定性、公平性、可解釋性等不同要求之間存在相互協(xié)同或相互制約的關(guān)系，若僅考慮某一個方面的要求則可能會造成其他要求的沖突。如何構(gòu)建系統(tǒng)的研究框架，從而保持不同特征要素之間的最優(yōu)動態(tài)平衡成為關(guān)鍵。另一方面，需要從系統(tǒng)層面開展可信安全的研究[14]，這一問題不僅僅是人工智能算法層面問題，還涉及到整個系統(tǒng)，例如人工智能承載操作系統(tǒng)、軟件框架、第三方庫，以及硬件設(shè)備自身的安全問題等，需要構(gòu)建人工智能全鏈條、全生三、全球高度關(guān)注人工智能治理工作，人工智能安全可信成重點人工智能發(fā)展的空間越大、影響越深、挑戰(zhàn)越多，對它的治理就越重要、越緊迫。當前，全球已經(jīng)形成多元主體參與、協(xié)同共治的治理模式，各國及各組織推出了一系列治理原則，立法進程取得(一)人工智能風(fēng)險不斷增多，全球初步建立治理機制1.人工智能深入賦能引發(fā)挑戰(zhàn)人工智能帶來的風(fēng)險與挑戰(zhàn)是多方面的。除了人工智能技術(shù)自身存在天然的缺陷外，區(qū)別于純粹的技術(shù)風(fēng)險，人工智能風(fēng)源是人工智能系統(tǒng)的應(yīng)用對現(xiàn)有的規(guī)范體系以及倫理與社會秩序的能技術(shù)正在不斷暴露出由其自身特性引發(fā)的風(fēng)險隱患。一是深度學(xué)習(xí)模型存在脆弱和易受攻擊的缺陷，使得人工智能系統(tǒng)的可靠性難以得到足夠的信任。二是黑箱模型具備高度復(fù)雜性和不確定性，算法不透明容易引發(fā)不確定性風(fēng)險。三是人工智能算法產(chǎn)生的結(jié)果過度依賴訓(xùn)練數(shù)據(jù)，如果訓(xùn)練數(shù)據(jù)中存在偏見歧視，會導(dǎo)致不公平的現(xiàn)有法律及規(guī)范體系受到的挑戰(zhàn)不斷擴大。人工智能對就法律及規(guī)范體系造成了多個方面沖擊：在主體資格界定方面，沙特阿拉伯授予機器人索菲亞以公民資格引發(fā)全球爭議，此外還產(chǎn)生了人工邦法院裁定人工智能系統(tǒng)可被列為專利申請中的發(fā)明人，與美國、9.au/news/2021-08-01/historic-decision-allows-ai-to-be-recognised-as-an-in4?utm_campaign=news-article-share-2-control&utm_content=twitter&utm_medium=content_shared&utm_顧客人臉信息用于商業(yè)目的10。在責(zé)任劃分方面，2015年英國首例倫理及社會秩序受到的沖擊愈發(fā)嚴重。人工智能存在對人類權(quán)利造成沖擊的風(fēng)險，人工智能引發(fā)歧視、對人類行為提出新規(guī)則、2.全球掀起人工智能治理浪潮當前，面臨人工智能深入賦能而引發(fā)的多方面風(fēng)險及挑戰(zhàn)，全球各國越來越重視人工智能治理。人工智能治理是一項復(fù)雜的系統(tǒng)行業(yè)組織、企業(yè)以及公眾等多元主體共同參與、協(xié)同合作，形成了10/te12https://new.qq.13/2021/08/04/xsolla-fires-150-employees-using-big-dat14/s?id=1685477846545190363&https://www.dailymail.co.uk/news/article-7809269/Amazon-Alexa-told-terrified-mother-29倫理原則等“軟法”以及法律法規(guī)等“硬法”相結(jié)合的治理手段，旨在實現(xiàn)科技向善、造福人類的總體目標愿景，推動人工智能健康有序世界主要經(jīng)濟體聚焦人工智能治理焦點議題的討論，政府間國全球人工智能治理的重要組織。OECD相關(guān)研究成果對于推動全球為止全世界在政府層面達成的最廣泛的共識，同時賦予各國在相應(yīng)日發(fā)布了第一份關(guān)于在醫(yī)療衛(wèi)生中使用人工智能的指南《醫(yī)療衛(wèi)生的首個政府間國際共識，確立了以人為本的發(fā)展理念。中國支持圍），能政策及實踐的最佳案例，促進國際合作，幫助成員國打造可信賴七國集團（G7）在全球發(fā)達經(jīng)濟體間就人工智能治理開啟了共示未來將把數(shù)據(jù)保護和隱私監(jiān)管作為人工智能治理的核心工作，并16/2021/01/hancock-uk-will-work-with-g7-and-others(二)人工智能治理邁入軟硬法協(xié)同和場景規(guī)制新階段索制定人工智能倫理原則的熱潮。當前，G20人工智能原則被全球各國加速完善人工智能治理相關(guān)規(guī)則體系。20出《人工智能法》草案標志著人工智能治理從原則性約束的“軟法”向更具實質(zhì)性監(jiān)管的“硬法”加速推進；與此同時，隨著人工智能與實體經(jīng)濟融合程度不斷加深，對人工智能治理越來越聚焦到具體的1.人工智能治理實質(zhì)化進程加速推進當前，各國人工智能治理側(cè)重各有不同，但整體上呈現(xiàn)加速演進態(tài)勢，即從初期構(gòu)建以“軟法”為導(dǎo)向的社會規(guī)范體系，開始邁向歐盟從倫理向監(jiān)管穩(wěn)步推進，欲引領(lǐng)全球人工智能監(jiān)管規(guī)則。首部系統(tǒng)化規(guī)制人工智能的法律，細化了人工智能四級風(fēng)險框架，這是歐盟繼發(fā)布《可信人工智能倫理指南》（2018）和《人工智能標志著全球人工智能治理從倫理原則等軟性約束，邁向全面且具有持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位》奠定了美國在人工智能治理方美國參議院發(fā)布《國家生物識別信息隱私法案》，在個人隱私數(shù)據(jù)美國政府問責(zé)局發(fā)布人工智能問責(zé)框架，以確保人工智能系統(tǒng)的公發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能全生命周期，積極引導(dǎo)全社會負責(zé)任的開展人工智能研發(fā)與應(yīng)用活動。法律進程方面，我國尚未出臺人工智能相關(guān)的統(tǒng)一法律，但是據(jù)安全法》共同形成了治理人工智能底層要素的堅固法律體系。此與此同時，英國、法國、日本、韓國等國家也針對人工智能治理開展了相關(guān)工作。英國強調(diào)人工智能規(guī)范發(fā)展并推動AI教育及（2021）多份文件和報告中呼吁建立國家層面的人工智能準則與倫理框架。法國通過專家研討、學(xué)術(shù)辯論等方式深化對人工智能倫理問題的認識。日本、韓國等從制造業(yè)智能化轉(zhuǎn)型和新興技術(shù)應(yīng)用等2.典型場景化治理各有側(cè)重加速落地人工智能治理的復(fù)雜還體現(xiàn)在其應(yīng)用場景的多樣化和差異化。在不同場景下，人工智能技術(shù)的應(yīng)用深度和影響各有不同，典型場景的治理成為各國的工作重點，特別聚焦于自動駕駛、智慧醫(yī)療和自動駕駛領(lǐng)域，德國率先制定倫理準則及框架法案，各國加緊數(shù)據(jù)安全管理若干規(guī)定（征求意見稿）》，向社智慧醫(yī)療領(lǐng)域，倫理原則逐步得到發(fā)展，監(jiān)管層面注重規(guī)制醫(yī)械軟件監(jiān)管行動。歐盟出臺醫(yī)療器械條例（MDR），要求自2021工智能醫(yī)療器械注冊審查指導(dǎo)原則（征求意見稿）》，并推動人工人臉識別領(lǐng)域，全球各國邁入隱私保護和信息數(shù)據(jù)安全的強監(jiān)關(guān)的司法解釋針對性地規(guī)制人臉信息處理。美國州或地方層面通過(三)人工智能安全框架成為有效防范風(fēng)險的關(guān)鍵指引為有效防范人工智能技術(shù)應(yīng)用帶來的安全風(fēng)險，保障事關(guān)國家安全、經(jīng)濟命脈、社會穩(wěn)定等的人工智能系統(tǒng)的安全，亟需提出人工智能系統(tǒng)安全體系，為行業(yè)逐步提升人工智能安全能力提供有效指引。人工智能安全框架是從人工智能安全保護需求出發(fā)，將人工智能安全技術(shù)體系和人工智能安全管理體系進行有機融合，構(gòu)建的人工智能安全整體體系設(shè)計與規(guī)劃，對維護國家人工智能安全和網(wǎng)1.人工智能安全框架逐漸形成雛形人工智能安全框架需包含安全目標、安全能力、安全技術(shù)和安層遞進的方式指導(dǎo)企業(yè)構(gòu)建人工智能安全防護體系。其中，設(shè)定合理安全目標是保障人工智能應(yīng)用安全的起點和基礎(chǔ)，安全能力是實現(xiàn)安全目標的有效保障，安全技術(shù)和安全管理是安全能力的支撐和17/kxyj/qwfb/ztbg/22.分類分級成為框架構(gòu)建的新方向草案、美國《算法問責(zé)法案》、加拿大《自動化決策指令》、中國《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等世界主要國家的法律法規(guī)和政策文件均提出建立人工智能系統(tǒng)或算法分類分級管理方式的要求。然而，上述法律法規(guī)或僅提出分類分級管理要求或采用列舉典型人工智能系統(tǒng)的方式描述分級方式，缺少分級原則，沒有可遵循的分級方法和流程，無法適用于快速涌現(xiàn)的新型人工智能應(yīng)用,亟需提出人工智能分類分級體系，明確分類分級原理以按照分類管理、分級保護的思路，本白皮書提出了以下人工智能分類分級建議。根據(jù)人工智能系統(tǒng)的自主程度的不同，將人工智能系統(tǒng)分為輔助人類智能系統(tǒng)、人機混合智能系統(tǒng)和完全自主智能系統(tǒng)三類。依據(jù)人工智能系統(tǒng)的重要性和危害程度，將人工智能系統(tǒng)分為中低風(fēng)險智能系統(tǒng)、高風(fēng)險智能系統(tǒng)和超高風(fēng)險智能系統(tǒng)三(四)可信人工智能已成為落實治理要求的重要方法論焦慮，發(fā)展可信人工智能已經(jīng)成為全球共識。可信人工智能是從產(chǎn)業(yè)維度出發(fā)，落實人工智能治理要求的一整套方法論，是人工智能1.可信理念逐漸深入到人工智能全生命周期可信人工智能從學(xué)術(shù)界提出，到各界積極研究，再到產(chǎn)業(yè)界開始落地實踐，其內(nèi)涵也在逐步的豐富和演進?？尚湃斯ぶ悄芤呀?jīng)不再僅僅局限于對人工智能技術(shù)、產(chǎn)品和服務(wù)本身狀態(tài)的界定，而是逐步擴展至一套體系化的方法論，涉及到如何構(gòu)造“可信”人工智能的方方面面，包括企業(yè)內(nèi)部管理、研發(fā)、運營等環(huán)節(jié)，以及行業(yè)相關(guān)工作，將相關(guān)抽象要求轉(zhuǎn)化為實踐所需的具體能力要求，從而提2.企業(yè)已成為實踐可信人工智能的主要力量企業(yè)作為人工智能技術(shù)研發(fā)和創(chuàng)新應(yīng)用的一線，需要直面人工智能信任挑戰(zhàn)，主動開展自律自治工作，充分發(fā)揮企業(yè)能動性落實IBM、曠視、騰訊等眾多國內(nèi)外企業(yè)紛紛推出了企業(yè)人工智能治理準則，并形成相應(yīng)部門機構(gòu)推動落實治理責(zé)任。另外，企業(yè)也在積極探索以實踐可信為核心理念的人工智能治理模型，IBM、微軟、華為、京東等國內(nèi)外企業(yè)發(fā)布多個人工智能可信工具，以幫助人工智能產(chǎn)品在研發(fā)過程中提升安全性、魯棒性、可解釋性、公平性等3.行業(yè)組織推進打造人工智能安全可信生態(tài)可信人工智能的實現(xiàn)不僅僅是企業(yè)單方面的實踐和努力就能夠完成的，更需要多方參與和協(xié)同，最終形成一個相互影響、相互支息安全技術(shù)人臉識別數(shù)據(jù)安全要求》面向社會公開征求意見。在行個人工智能系統(tǒng)，為用戶選型提供了重要參考。當前，正在聯(lián)界共同編制《可信人工智能研發(fā)管理指南》等，以期推動人工智能四、總結(jié)與展望將涌現(xiàn)出一批發(fā)展?jié)摿Υ蟮膬?yōu)質(zhì)企業(yè)和產(chǎn)業(yè)集群，成為引領(lǐng)經(jīng)濟高追求技術(shù)創(chuàng)新、聚焦工程實踐、確?？尚虐踩饾u成為未來人工智能發(fā)展的重要方向?；仡櫧甑娜斯ぶ悄馨l(fā)展歷程，不難發(fā)現(xiàn)技術(shù)創(chuàng)新與工程實踐相輔相成，算法和算力突破后帶動了工具體系的發(fā)展，工具