《人工智能 可信賴(lài)規(guī)范 第1部分：通則》（征求意見(jiàn)稿）編制說(shuō)明

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)團(tuán)體標(biāo)準(zhǔn)《人工智能可信賴(lài)規(guī)范第1部分：通則》(征求意見(jiàn)稿)編制說(shuō)明一、工作簡(jiǎn)況根據(jù)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)2022年第十批團(tuán)體標(biāo)準(zhǔn)制修訂通知(中電標(biāo)通〔2022〕034號(hào))，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院負(fù)責(zé)《人工智能可信賴(lài)規(guī)范第1部分：通則》(項(xiàng)目編號(hào)：CESA-2022-083)標(biāo)準(zhǔn)的制定工作。標(biāo)準(zhǔn)起草單位為中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)科學(xué)院軟件研究所、中科南京軟件技術(shù)研究院、華為技術(shù)有限公司、上海商湯智能科技有限公司、中國(guó)科學(xué)院信息工程研究所、螞蟻科技集團(tuán)股份有限公司、上海依圖網(wǎng)絡(luò)科技有限公司、北京百度網(wǎng)訊科技有限公司、海信集團(tuán)控股股份有限公司、杭州?？低晹?shù)字技術(shù)股份有限公司、中國(guó)工程物理研究院計(jì)算機(jī)應(yīng)用研究所、騰訊云計(jì)算(北京)有限責(zé)任公司、威麟信息技術(shù)開(kāi)發(fā)(上海)有限公司、深圳云天勵(lì)飛技術(shù)股份有限公司、京東科技信息技術(shù)有限公司、上海人工智能創(chuàng)新中心、電子科技大學(xué)、通標(biāo)標(biāo)準(zhǔn)技術(shù)服務(wù)(上海)有限公司、浪潮軟件科技有限公司、中國(guó)商用飛機(jī)有限責(zé)任公司北京民用飛機(jī)技術(shù)研究中心、國(guó)科礎(chǔ)石(重慶)軟件有限公司、飛騰信息技術(shù)有限公司等。本標(biāo)準(zhǔn)主要工作過(guò)程如下：2022年5月-2022年7月，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院牽頭組織有關(guān)單位，在北京召開(kāi)了本標(biāo)準(zhǔn)的立項(xiàng)籌備會(huì)。會(huì)議共有來(lái)自中國(guó)科學(xué)院軟件研究所、中科南京軟件技術(shù)研究院、華為技術(shù)有限公司等3家單位的5位專(zhuān)家，對(duì)該標(biāo)準(zhǔn)的立項(xiàng)達(dá)成共識(shí)，共同收集相關(guān)資料，形成標(biāo)準(zhǔn)草案大綱。2022年8月-2022年10月，標(biāo)準(zhǔn)編制組成員多次組織專(zhuān)家進(jìn)行討論，對(duì)標(biāo)準(zhǔn)草案的技術(shù)內(nèi)容和格式進(jìn)行修改完善，同時(shí)向相關(guān)單位和專(zhuān)家發(fā)送郵件，征求相關(guān)單位的意見(jiàn)和建議。針對(duì)搜集到的意見(jiàn)和建議，起草組成員進(jìn)行了深入細(xì)致的研討，形成了《人工智能可信賴(lài)規(guī)范第1部分：通則》標(biāo)準(zhǔn)草案。2022年10月28日，中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)組織有關(guān)單位，在北京召開(kāi)了本標(biāo)準(zhǔn)的立項(xiàng)審查會(huì)。本次會(huì)議共有來(lái)自中國(guó)科學(xué)院軟件研究所、中科南京軟中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)件技術(shù)研究院、華為技術(shù)有限公司等3家單位的5位專(zhuān)家，對(duì)本標(biāo)準(zhǔn)進(jìn)行了立項(xiàng)論證。該標(biāo)準(zhǔn)于2022年12月正式下達(dá)立項(xiàng)計(jì)劃號(hào)。2022年10月至今，標(biāo)準(zhǔn)起草工作組多次召開(kāi)了標(biāo)準(zhǔn)討論會(huì)，對(duì)專(zhuān)家提出的意見(jiàn)建議進(jìn)行了分析和總結(jié)，并進(jìn)一步修改和完善標(biāo)準(zhǔn)草案，于2023年4月形成標(biāo)準(zhǔn)征求意見(jiàn)稿。二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問(wèn)題本文件規(guī)定了人工智能系統(tǒng)的可信賴(lài)技術(shù)框架、可信賴(lài)技術(shù)要求和可信賴(lài)評(píng)估流程，并在附錄提供了可信賴(lài)應(yīng)用場(chǎng)景和可信賴(lài)評(píng)估流程示例。本文件適用于人工智能系統(tǒng)、含人工智能的計(jì)算機(jī)系統(tǒng)相關(guān)的開(kāi)發(fā)、設(shè)計(jì)、應(yīng)用和測(cè)試。擬解決的主要問(wèn)題：當(dāng)前，人工智能系統(tǒng)應(yīng)用的廣度和深度不斷拓展，正在成為信息基礎(chǔ)設(shè)施的重要組成。但在此過(guò)程中，人工智能也不斷暴露風(fēng)險(xiǎn)隱患，主要體現(xiàn)在以下幾個(gè)方面：1)針對(duì)可信賴(lài)人工智能的實(shí)踐仍處于相對(duì)分散的狀態(tài)，仍缺少一套體系化的方法論，亟需提出一套可信賴(lài)人工智能框架；2)當(dāng)前對(duì)可信賴(lài)人工智能的技術(shù)要求及評(píng)價(jià)方法實(shí)操性還需要不斷加強(qiáng)；3)對(duì)于人工智能系統(tǒng)、含人工智能的計(jì)算機(jī)系統(tǒng)，將可信賴(lài)相關(guān)抽象要求轉(zhuǎn)化為實(shí)踐所需的具體技術(shù)要求，提升社會(huì)對(duì)于人工智能的信任度。三、主要試驗(yàn)[或驗(yàn)證]情況分析無(wú)。無(wú)四、知識(shí)產(chǎn)權(quán)情況說(shuō)明本標(biāo)準(zhǔn)不涉及知識(shí)產(chǎn)權(quán)。五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟(jì)效果人工智能系統(tǒng)在應(yīng)用中也不斷暴露出一些風(fēng)險(xiǎn)，如算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)、黑箱模型導(dǎo)致算法不透明、數(shù)據(jù)歧視導(dǎo)致智能決策偏見(jiàn)、系統(tǒng)決策復(fù)雜導(dǎo)致責(zé)任事故主體難以界定等。面對(duì)人工智能引發(fā)的全球信任焦慮，發(fā)展可信賴(lài)人工智能已經(jīng)成為全球共識(shí)。本標(biāo)準(zhǔn)旨在提出一套體系化的可信賴(lài)人工智能技術(shù)架構(gòu)、技術(shù)要求及評(píng)價(jià)方法，為人工智能系統(tǒng)的可信賴(lài)研發(fā)和測(cè)試提供依據(jù)，有助中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)于提升社會(huì)對(duì)于人工智能的信任度。六、轉(zhuǎn)化國(guó)際標(biāo)準(zhǔn)和國(guó)外先進(jìn)標(biāo)準(zhǔn)情況無(wú)。無(wú)七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性本標(biāo)準(zhǔn)遵循現(xiàn)行法律、法規(guī)、規(guī)章及標(biāo)準(zhǔn)，與現(xiàn)有標(biāo)準(zhǔn)協(xié)調(diào)配套。八、重大分歧意見(jiàn)的處理經(jīng)過(guò)和依據(jù)無(wú)。無(wú)九、貫徹標(biāo)準(zhǔn)的要求和措施建議本標(biāo)準(zhǔn)的有效實(shí)施將有助于為人工智能系統(tǒng)的可信賴(lài)研發(fā)和測(cè)試提供依據(jù)，有助于提升社會(huì)