DB11T 2251-2024 信息安全 人工智能數(shù)據(jù)安全通 用要求

DB11北京市市場(chǎng)監(jiān)督管理局發(fā)布 信息安全人工智能數(shù)據(jù)安全通用要求本文件適用于指導(dǎo)人工智能服務(wù)提供者開(kāi)展人工通過(guò)一系列數(shù)據(jù)處理方法對(duì)原始數(shù)據(jù)進(jìn)行處理，以屏蔽敏感數(shù)據(jù)的一種數(shù)據(jù)保a)保密性：采用技術(shù)和管理手段保證人工智能數(shù)據(jù)的保密性，并記錄數(shù)據(jù)b)完整性：采用完整性校驗(yàn)的技術(shù)和管理手段，并對(duì)人工智能數(shù)據(jù)的完整性進(jìn)行監(jiān)測(cè)；c)隱私性：采用技術(shù)和流程以保護(hù)個(gè)人信息主體的個(gè)人信息，涉及個(gè)人信息的應(yīng)符合GB/Td)合規(guī)性：數(shù)據(jù)處理活動(dòng)應(yīng)符合法規(guī)、政策文件、標(biāo)準(zhǔn)規(guī)范相e)分類分級(jí)：對(duì)人工智能數(shù)據(jù)進(jìn)行分類和分級(jí)，并對(duì)不同類別程數(shù)據(jù)安全保護(hù)措施。涉及敏感個(gè)人信息的，宜采取更強(qiáng)的保f)倫理安全：人工智能數(shù)據(jù)全生命周期保障倫理安全，促進(jìn)公平、a)宜建立人工智能數(shù)據(jù)安全管理團(tuán)隊(duì)及監(jiān)督職能部門(mén)，明確數(shù)據(jù)安全崗位e)在重要崗位人員調(diào)離或終止勞動(dòng)合同時(shí)，應(yīng)核查a)制定符合組織數(shù)據(jù)安全要求且能覆蓋全部數(shù)據(jù)處理活動(dòng)數(shù)據(jù)安全策略b)制定并實(shí)施與安全策略和規(guī)程相適應(yīng)的人工智能數(shù)據(jù)安全實(shí)施細(xì)則，并分發(fā)至c)定期審核和更新人工智能數(shù)據(jù)安全策略和規(guī)程，并隨之審核和a)在組織層面建立數(shù)據(jù)資產(chǎn)安全管理制度，定義數(shù)據(jù)資產(chǎn)相關(guān)的角色定b)明確數(shù)據(jù)資產(chǎn)登記機(jī)制，明確數(shù)據(jù)資產(chǎn)管理a)在組織層面建立數(shù)據(jù)安全審計(jì)制度，定義數(shù)據(jù)安全審計(jì)的b)對(duì)人工智能數(shù)據(jù)生存周期的處理活動(dòng)進(jìn)行記錄，確保數(shù)據(jù)可審a)確保數(shù)據(jù)供應(yīng)鏈上下游各方對(duì)數(shù)據(jù)的收集、交換、使用符b)制定數(shù)據(jù)供應(yīng)鏈安全管理規(guī)范，明確數(shù)據(jù)供應(yīng)鏈安全目標(biāo)、原則和范圍、數(shù)據(jù)c)要求數(shù)據(jù)提供者說(shuō)明數(shù)據(jù)來(lái)源，并對(duì)數(shù)據(jù)提供者的身份d)簽署合作協(xié)議明確數(shù)據(jù)供應(yīng)鏈上下游各方責(zé)任和義務(wù)，包括數(shù)e)建立數(shù)據(jù)供應(yīng)鏈目錄和相關(guān)數(shù)據(jù)源數(shù)據(jù)字典，用于及時(shí)查看f)對(duì)數(shù)據(jù)供應(yīng)鏈上下游的數(shù)據(jù)提供者和數(shù)據(jù)使用者的行a)制定數(shù)據(jù)安全應(yīng)急管理工作指南，定義數(shù)據(jù)安全事件類型、劃分?jǐn)?shù)據(jù)安全事件等級(jí)明a)明確數(shù)據(jù)的收集目的、用途以及數(shù)據(jù)的獲取源、范圍、頻度，確保數(shù)據(jù)收集和獲取的合法b)獲取個(gè)人信息時(shí)，應(yīng)征得個(gè)人信息主體的同意，并確保獲取數(shù)據(jù)過(guò)程中數(shù)據(jù)不被泄露；c)對(duì)數(shù)據(jù)收集和獲取環(huán)境中的設(shè)施和技術(shù)進(jìn)行安全管控，確保數(shù)據(jù)的完整性、d)對(duì)于所需公開(kāi)標(biāo)準(zhǔn)數(shù)據(jù)集，應(yīng)確保e)記錄數(shù)據(jù)收集和獲取過(guò)程，包括但不限于收集活動(dòng)的時(shí)間、用戶f)在委托數(shù)據(jù)收集時(shí)，受委托方應(yīng)同g)數(shù)據(jù)收集過(guò)程中應(yīng)提高數(shù)據(jù)的多樣性，對(duì)每種語(yǔ)言、類型的語(yǔ)料應(yīng)來(lái)自多存儲(chǔ)狀態(tài)進(jìn)行監(jiān)控，主動(dòng)發(fā)現(xiàn)違規(guī)行為并進(jìn)a)對(duì)人工智能應(yīng)用開(kāi)發(fā)中的訓(xùn)練數(shù)據(jù)、驗(yàn)證數(shù)據(jù)、模型數(shù)據(jù)等分別明確b)具備對(duì)過(guò)期存儲(chǔ)數(shù)據(jù)延長(zhǎng)有效期或徹底c)對(duì)于不同敏感類型的數(shù)據(jù)，分別選用針對(duì)敏感度差d)涉及敏感個(gè)人信息的，用于恢復(fù)識(shí)別的數(shù)據(jù)和去標(biāo)a)對(duì)存儲(chǔ)系統(tǒng)用戶使用身份標(biāo)識(shí)與鑒別、權(quán)限b)建立審計(jì)信息和使用日志的存儲(chǔ)機(jī)c)建立用戶數(shù)據(jù)訪問(wèn)的追溯機(jī)制，對(duì)數(shù)據(jù)訪問(wèn)進(jìn)行監(jiān)控，主動(dòng)識(shí)a)在數(shù)據(jù)加工系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)和運(yùn)維階段制定相應(yīng)的安全控制措b)建立數(shù)據(jù)加工日志管理工具，記錄用戶在數(shù)據(jù)加工系統(tǒng)上的操作，建立數(shù)據(jù)加c)應(yīng)定期對(duì)數(shù)據(jù)加工環(huán)境進(jìn)行安全評(píng)估，發(fā)現(xiàn)潛在的安全風(fēng)險(xiǎn)，a)基于數(shù)據(jù)脫敏的安全審計(jì)要求，對(duì)數(shù)據(jù)脫敏過(guò)程中的操作進(jìn)行記錄，保留其原始數(shù)b)根據(jù)人工智能應(yīng)用場(chǎng)景和數(shù)據(jù)屬性，明確數(shù)據(jù)脫敏規(guī)則、脫敏方法、a)明確數(shù)據(jù)標(biāo)注過(guò)程中的安全操作規(guī)范,建立與b)建立健全標(biāo)注規(guī)則機(jī)制，標(biāo)注規(guī)則應(yīng)至少覆蓋數(shù)據(jù)標(biāo)注以及數(shù)據(jù)審c)采取機(jī)器驗(yàn)證或人工檢測(cè)的方式對(duì)數(shù)據(jù)標(biāo)注的結(jié)果進(jìn)行質(zhì)量檢機(jī)制對(duì)標(biāo)注結(jié)果進(jìn)行最終核驗(yàn)，形成核驗(yàn)報(bào)告，核驗(yàn)報(bào)告包括核驗(yàn)時(shí)間、核驗(yàn)方式d)開(kāi)展標(biāo)注人員培訓(xùn)及考核，對(duì)標(biāo)注過(guò)程中的行為進(jìn)行規(guī)范和檢a)在服務(wù)器和移動(dòng)端的處理器中為數(shù)據(jù)和代碼執(zhí)行提供安全區(qū)域，建立b)在合作開(kāi)發(fā)情況下，宜采用聯(lián)邦學(xué)習(xí)等技術(shù)構(gòu)建聯(lián)合開(kāi)發(fā)環(huán)境，避免數(shù)據(jù)的交換和c)采用訪問(wèn)控制模塊實(shí)施數(shù)據(jù)使用用戶身份標(biāo)識(shí)與鑒別策略、數(shù)a)通過(guò)人工核查或自動(dòng)化檢測(cè)技術(shù)對(duì)投毒數(shù)據(jù)、后門(mén)數(shù)據(jù)等惡意數(shù)據(jù)做b)依據(jù)模型訓(xùn)練的任務(wù)要求，明確數(shù)據(jù)質(zhì)量評(píng)估方法，對(duì)數(shù)據(jù)進(jìn)c)對(duì)存在特征值缺失、規(guī)模不達(dá)標(biāo)、分布不均衡、偏見(jiàn)等質(zhì)量問(wèn)a)確保人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用的目的、范圍符合國(guó)家相關(guān)b)對(duì)于通過(guò)人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用獲得的中間數(shù)據(jù)和結(jié)果數(shù)據(jù)，保證c)記錄并管理完整的人工智能模型訓(xùn)練、推理等數(shù)據(jù)利用操作，e)涉及數(shù)據(jù)展示的，應(yīng)對(duì)展示的必要性和安全性進(jìn)行評(píng)估，采術(shù)手段對(duì)個(gè)人信息、重要數(shù)據(jù)等進(jìn)行保護(hù)，不應(yīng)展示違法a)區(qū)分不同數(shù)據(jù)形態(tài)和安全域內(nèi)、安全域間等不同數(shù)據(jù)傳輸場(chǎng)景，建立b)建立數(shù)據(jù)傳輸安全策略相應(yīng)的安全控制措施，以保證數(shù)據(jù)在傳輸過(guò)程中c)依照數(shù)據(jù)傳輸場(chǎng)景，對(duì)數(shù)據(jù)傳輸相關(guān)方進(jìn)行身份鑒d)采用基于密碼技術(shù)的完整性和機(jī)密性保護(hù)機(jī)制，保護(hù)數(shù)據(jù)a)使用監(jiān)控技術(shù)與機(jī)制對(duì)數(shù)據(jù)傳輸接口進(jìn)行審核及監(jiān)控，發(fā)a)向他人提供數(shù)據(jù)前，應(yīng)按照GB/T41479安全要求進(jìn)行評(píng)估；b)所提供數(shù)據(jù)需經(jīng)過(guò)提供者授權(quán)，數(shù)據(jù)提供的與方應(yīng)保證數(shù)據(jù)安全防護(hù)能力c)采用數(shù)據(jù)加密、安全通道等措施保護(hù)數(shù)據(jù)提供過(guò)程d)數(shù)據(jù)提供完成后應(yīng)清除數(shù)據(jù)提供通道的緩存數(shù)e)采用自動(dòng)和人工審計(jì)相結(jié)合的方法或手段對(duì)數(shù)據(jù)提供操作進(jìn)f)在跨組織數(shù)據(jù)交換共享活動(dòng)中部署必要的數(shù)據(jù)防泄漏實(shí)時(shí)監(jiān)控工g)涉及數(shù)據(jù)跨境提供的，應(yīng)按照國(guó)家相關(guān)要求開(kāi)展安全評(píng)估，并符a)人工智能數(shù)據(jù)處理者應(yīng)與第三方簽訂合同、協(xié)議等有效約定，明確雙b)涉及個(gè)人信息的，應(yīng)參考GB/T35273中關(guān)于第三方的c)宜要求第三方提供透明和可解釋的數(shù)據(jù)處理方式，以便理解和d)宜要求第三方建立與提供方相應(yīng)的安全能力，b)數(shù)據(jù)刪除前應(yīng)按策略和規(guī)范完成審批流程，并留存審批及c)在數(shù)據(jù)主體主張刪除時(shí)，在約定時(shí)間內(nèi)對(duì)含有數(shù)據(jù)主體個(gè)人信據(jù)在人工智能模型中已用于模型訓(xùn)練且無(wú)法刪除時(shí)，應(yīng)采用模型輸出