2024人工智能安全治理實(shí)踐方案

（2024年2024年12一、概 （一）人工智能風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)全球關(guān) （二）人工智能風(fēng)險(xiǎn)治理模式亟需創(chuàng) （三）推動(dòng)面向產(chǎn)業(yè)界的人工智能風(fēng)險(xiǎn)治理落地框架迫在眉 二、人工智能風(fēng)險(xiǎn)認(rèn)知漸進(jìn)深 （一）人工智能內(nèi)生安全與衍生安全復(fù)雜交 （二）人工智能風(fēng)險(xiǎn)認(rèn)知邁向多維度深化融 三、人工智能風(fēng)險(xiǎn)治理全球?qū)?（一）國(guó)際層面：加速推進(jìn)風(fēng)險(xiǎn)治理行動(dòng)及 （二）主要經(jīng)濟(jì)體：迭代完善風(fēng)險(xiǎn)劃分與管控舉 （三）產(chǎn)業(yè)組織：協(xié)同推進(jìn)治理框架和安全工 （四）企業(yè)主體：深化技管融的風(fēng)險(xiǎn)應(yīng)對(duì)方 四、面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐方 （一）打造全鏈條人工智能風(fēng)險(xiǎn)治理框 （二）提升人工智能風(fēng)險(xiǎn)系統(tǒng)治理能 （三）設(shè)立人工智能風(fēng)險(xiǎn)精準(zhǔn)識(shí)別機(jī) （四）健全人工智能風(fēng)險(xiǎn)科學(xué)評(píng)估體 （五）完善人工智能風(fēng)險(xiǎn)敏捷應(yīng)對(duì)方 五、展望建 （一）促進(jìn)全球作，共筑人工智能治理新格 （二）優(yōu)化治理體系，夯實(shí)人工智能安全發(fā)展基 （三）發(fā)揮橋梁作用，推進(jìn)行業(yè)治理標(biāo)準(zhǔn)化與動(dòng)態(tài) （四）強(qiáng)化內(nèi)外協(xié)同，助力技術(shù)創(chuàng)新與責(zé)任共 圖1人工智能風(fēng)險(xiǎn)治理框 圖2人工智能內(nèi)生安全和衍生安 圖3人工智能風(fēng)險(xiǎn)認(rèn)知趨 圖4面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐方 人工智能風(fēng)險(xiǎn)治理報(bào)告（2024人工智能風(fēng)險(xiǎn)治理報(bào)告（2024年《2024年人工智能指數(shù)報(bào)告》統(tǒng)計(jì)，2023123201320奇安信《2024人工智能安全報(bào)告》顯示，2023年基于人工智能的深3000%1000%3。則金磚國(guó)家正推動(dòng)成立人工智能研究小組以促進(jìn)作和負(fù)責(zé)任的適的作框架與實(shí)踐指引舉措上中國(guó)加快完善人工智能治理體系，2024年7月，黨的二十屆三中全會(huì)《中共中央關(guān)于進(jìn)一步全面深化改革推進(jìn)中國(guó)式現(xiàn)代化的決定》中提出建立“人工智能安全監(jiān)管制工智能產(chǎn)業(yè)綜（2024版ChatGPT發(fā)布以來(lái)，大模型能力愈發(fā)突出，人工智能領(lǐng)域迎來(lái)了織通過(guò)促進(jìn)跨國(guó)作，例如與其他國(guó)家的相關(guān)組織開(kāi)展聯(lián)測(cè)試提調(diào)整后再整到其他軟件系統(tǒng)由于雙方均無(wú)法全面了解整個(gè)系統(tǒng)，或?qū)⒃黾舆@些軟件錯(cuò)誤和失控風(fēng)險(xiǎn)6形成人工智能風(fēng)險(xiǎn)治理框架（1）。人工智能的迅速發(fā)展與廣泛圖1人工智能風(fēng)險(xiǎn)治理框架在風(fēng)險(xiǎn)評(píng)估節(jié)通對(duì)風(fēng)險(xiǎn)行評(píng)化與優(yōu)級(jí)劃分幫助配置資源，益攸的作信息享以提升業(yè)整險(xiǎn)治理力。圖2人工智能內(nèi)生安全和衍生安全適當(dāng)保護(hù)、過(guò)濾或匿名化處理，可能導(dǎo)致敏感信息泄露。2024年11月，X公司在其隱私政策中聲明用戶(hù)信息會(huì)向第三方作者共享，可能會(huì)被第三方用于訓(xùn)練包括生成式人工智能在內(nèi)的人工智能模型7。202410ChuanhuChatGPTLunaryLocalAI和DJL在內(nèi)的多個(gè)開(kāi)源模型被曝存在安全漏洞，其中一些可能導(dǎo)致8。險(xiǎn)的可能性。20242月，香港發(fā)生一起利用人工智能深度偽造技能力可能被濫用，威脅全人類(lèi)安全。20249月，OpenAI承認(rèn)，其最新模型o111。能風(fēng)險(xiǎn)的不懈追求，也反映了人工智能風(fēng)險(xiǎn)的最新動(dòng)向（見(jiàn)圖3）。圖3人工智能風(fēng)險(xiǎn)認(rèn)知趨勢(shì)14。18個(gè)月內(nèi)人工智能損害范圍和嚴(yán)重程度將大16。（NIST17。德國(guó)聯(lián)邦信息安全辦公室（BSI）《生成式人工智18。體性。由75位頂尖人工智能專(zhuān)家參與編寫(xiě)的《先進(jìn)人工智能安全國(guó)得主和25位權(quán)威專(zhuān)家在《科學(xué)》（Science）期刊聯(lián)發(fā)表的《人工智20。智能科學(xué)小組聯(lián)其他國(guó)際組織研究人工智能風(fēng)險(xiǎn)等議題此外，聯(lián)多樣化的作方式。經(jīng)合組織推進(jìn)人工智能規(guī)則適應(yīng)落地。2024年5202411月的烏鎮(zhèn)峰會(huì)上，正式成立人工智能專(zhuān)業(yè)委員會(huì)，常態(tài)202311月，20245月，韓國(guó)及英國(guó)共同主辦人工智能首爾峰會(huì)，16家頂尖人工智能科技公司聯(lián)簽署《前沿人工智能安全承諾》，承諾公開(kāi)透明地報(bào)告其前沿發(fā)和部署。同時(shí)，英、美等11國(guó)簽署《首爾人工智能安全科學(xué)國(guó)際范建設(shè)。202312月，ISO供指引。2024年4月，聯(lián)國(guó)下屬標(biāo)準(zhǔn)組織20245國(guó)際電信聯(lián)盟（ITU）在“AIforGood”全球峰會(huì)期間組織了“檢測(cè)深度成聯(lián)啟動(dòng)了“人工智能水印多媒體內(nèi)容真實(shí)性和深度偽造檢測(cè)標(biāo)準(zhǔn)措施。風(fēng)險(xiǎn)劃分上，20248月正式生效的歐盟《人工智能法》，依（CEN202411OpenAI16先治理醫(yī)療保健、消費(fèi)市場(chǎng)等領(lǐng)域。2024年英國(guó)藥品和醫(yī)療保健產(chǎn)人工智能及機(jī)器學(xué)習(xí)產(chǎn)品制定規(guī)定。20244月，英國(guó)競(jìng)爭(zhēng)與市場(chǎng)20244月，英國(guó)金融行為監(jiān)管局（FCA）與數(shù)字監(jiān)管作論壇幫助企業(yè)測(cè)試人工智能風(fēng)險(xiǎn)的創(chuàng)新解決方案。20245月，英國(guó)人事后則根據(jù)風(fēng)險(xiǎn)的不同責(zé)任主體建立相應(yīng)框架。2024年5月，新加商承諾、產(chǎn)品損害責(zé)任與無(wú)過(guò)失保險(xiǎn)統(tǒng)籌結(jié)確保風(fēng)險(xiǎn)發(fā)生時(shí)能夠?yàn)橛脩?hù)提供及時(shí)救濟(jì)。風(fēng)險(xiǎn)管控上，20245AIVerify基金會(huì)在原有AIVerify2024112500個(gè)深度25257款生成式人工智能的系統(tǒng)框架。20231月，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究所（NIST）（1.0映射、評(píng)估和管理方法。20238AINow研究所等機(jī)構(gòu)聯(lián)202312月，中國(guó)信通院依托中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）的研發(fā)與應(yīng)用。20241月，NIST發(fā)布了關(guān)于對(duì)抗性機(jī)器學(xué)習(xí)攻擊43,000個(gè)測(cè)試提示詞評(píng)估大模型對(duì)一步提高大模型回答知識(shí)類(lèi)問(wèn)題的準(zhǔn)確率。20244院依托中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟發(fā)起大模型安全基準(zhǔn)測(cè)試SafetyBenchmark50余萬(wàn)條測(cè)試輸入，涵治理作也在不斷深化。例如，2024年2月，亞馬遜、谷歌、IBM、TikTok和X等20家科技公司在慕尼黑安全會(huì)議上宣布聯(lián)打擊深評(píng)估到防御等多個(gè)環(huán)節(jié)。風(fēng)險(xiǎn)識(shí)別方面，OpenAI20245月發(fā)布98%的情況下正確識(shí)別由其圖像生成模型Dall-E3PyRIT工具能夠評(píng)估大模型生成同領(lǐng)域?qū)＜胰斯?gòu)造的中文評(píng)測(cè)集CValues，評(píng)估中文語(yǔ)言模型安全研發(fā)方評(píng)估人工智能系統(tǒng)的安全狀況并實(shí)施防護(hù)。微軟的AzureAIContentSafety提供了自動(dòng)識(shí)別和干預(yù)有害內(nèi)容的功能，并允許人工智能系統(tǒng)研發(fā)方自定義過(guò)濾規(guī)則從而根據(jù)具體需求提升內(nèi)容規(guī)性。百度于2024年8SenseTrust人工智能21中國(guó)信息通信研究院、京東探索研究院：《可信人工智能白皮書(shū)》，20217圖4面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐框架自身技術(shù)層風(fēng)險(xiǎn)識(shí)別重點(diǎn)關(guān)注數(shù)據(jù)質(zhì)量與法性算法模型的魯棒性、引發(fā)的價(jià)值侵害、安全影響和潛在的社會(huì)問(wèn)題。其次，風(fēng)險(xiǎn)評(píng)估環(huán)節(jié)急預(yù)案與跨領(lǐng)域協(xié)作。同時(shí)，通過(guò)持續(xù)評(píng)估剩余風(fēng)險(xiǎn)，不斷優(yōu)化應(yīng)對(duì)供應(yīng)商進(jìn)行全面評(píng)估確保其產(chǎn)品和服務(wù)符組織的安全標(biāo)準(zhǔn)與治理全與規(guī)性。穩(wěn)定結(jié)可視工具解釋性法分型決策輯，減少針對(duì)性的解決方案。此外，還需要定期進(jìn)行法規(guī)遵從和倫理及規(guī)審