《人工智能 可信賴規(guī)范 第1部分：通則》（征求意見稿）編制說明

中國電子工業(yè)標準化技術協(xié)會團體標準《人工智能可信賴規(guī)范第1部分：通則》(征求意見稿)編制說明一、工作簡況根據(jù)中國電子工業(yè)標準化技術協(xié)會2022年第十批團體標準制修訂通知(中電標通〔2022〕034號)，中國電子技術標準化研究院負責《人工智能可信賴規(guī)范第1部分：通則》(項目編號：CESA-2022-083)標準的制定工作。標準起草單位為中國電子技術標準化研究院、中國科學院軟件研究所、中科南京軟件技術研究院、華為技術有限公司、上海商湯智能科技有限公司、中國科學院信息工程研究所、螞蟻科技集團股份有限公司、上海依圖網(wǎng)絡科技有限公司、北京百度網(wǎng)訊科技有限公司、海信集團控股股份有限公司、杭州?？低晹?shù)字技術股份有限公司、中國工程物理研究院計算機應用研究所、騰訊云計算(北京)有限責任公司、威麟信息技術開發(fā)(上海)有限公司、深圳云天勵飛技術股份有限公司、京東科技信息技術有限公司、上海人工智能創(chuàng)新中心、電子科技大學、通標標準技術服務(上海)有限公司、浪潮軟件科技有限公司、中國商用飛機有限責任公司北京民用飛機技術研究中心、國科礎石(重慶)軟件有限公司、飛騰信息技術有限公司等。本標準主要工作過程如下：2022年5月-2022年7月，中國電子技術標準化研究院牽頭組織有關單位，在北京召開了本標準的立項籌備會。會議共有來自中國科學院軟件研究所、中科南京軟件技術研究院、華為技術有限公司等3家單位的5位專家，對該標準的立項達成共識，共同收集相關資料，形成標準草案大綱。2022年8月-2022年10月，標準編制組成員多次組織專家進行討論，對標準草案的技術內容和格式進行修改完善，同時向相關單位和專家發(fā)送郵件，征求相關單位的意見和建議。針對搜集到的意見和建議，起草組成員進行了深入細致的研討，形成了《人工智能可信賴規(guī)范第1部分：通則》標準草案。2022年10月28日，中國電子工業(yè)標準化技術協(xié)會組織有關單位，在北京召開了本標準的立項審查會。本次會議共有來自中國科學院軟件研究所、中科南京軟中國電子工業(yè)標準化技術協(xié)會件技術研究院、華為技術有限公司等3家單位的5位專家，對本標準進行了立項論證。該標準于2022年12月正式下達立項計劃號。2022年10月至今，標準起草工作組多次召開了標準討論會，對專家提出的意見建議進行了分析和總結，并進一步修改和完善標準草案，于2023年4月形成標準征求意見稿。二、標準編制原則和確定主要內容的論據(jù)及解決的主要問題本文件規(guī)定了人工智能系統(tǒng)的可信賴技術框架、可信賴技術要求和可信賴評估流程，并在附錄提供了可信賴應用場景和可信賴評估流程示例。本文件適用于人工智能系統(tǒng)、含人工智能的計算機系統(tǒng)相關的開發(fā)、設計、應用和測試。擬解決的主要問題：當前，人工智能系統(tǒng)應用的廣度和深度不斷拓展，正在成為信息基礎設施的重要組成。但在此過程中，人工智能也不斷暴露風險隱患，主要體現(xiàn)在以下幾個方面：1)針對可信賴人工智能的實踐仍處于相對分散的狀態(tài)，仍缺少一套體系化的方法論，亟需提出一套可信賴人工智能框架；2)當前對可信賴人工智能的技術要求及評價方法實操性還需要不斷加強；3)對于人工智能系統(tǒng)、含人工智能的計算機系統(tǒng)，將可信賴相關抽象要求轉化為實踐所需的具體技術要求，提升社會對于人工智能的信任度。三、主要試驗[或驗證]情況分析無。無四、知識產權情況說明本標準不涉及知識產權。五、產業(yè)化情況、推廣應用論證和預期達到的經(jīng)濟效果人工智能系統(tǒng)在應用中也不斷暴露出一些風險，如算法安全導致的應用風險、黑箱模型導致算法不透明、數(shù)據(jù)歧視導致智能決策偏見、系統(tǒng)決策復雜導致責任事故主體難以界定等。面對人工智能引發(fā)的全球信任焦慮，發(fā)展可信賴人工智能已經(jīng)成為全球共識。本標準旨在提出一套體系化的可信賴人工智能技術架構、技術要求及評價方法，為人工智能系統(tǒng)的可信賴研發(fā)和測試提供依據(jù)，有助中國電子工業(yè)標準化技術協(xié)會于提升社會對于人工智能的信任度。六、轉化國際標準和國外先進標準情況無。無七、與現(xiàn)行相關法律、法規(guī)、規(guī)章及相關標準的協(xié)調性本標準遵循現(xiàn)行法律、法規(guī)、規(guī)章及標準，與現(xiàn)有標準協(xié)調配套。八、重大分歧意見的處理經(jīng)過和依據(jù)無。無九、貫徹標準的要求和措施建議本標準的有效實施將有助于為人工智能系統(tǒng)的可信賴研發(fā)和測試提供依據(jù)，有助于提升社會