2024基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求

基于差分隱私的用戶個(gè)人信息保護(hù)基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求目次前言 II引言 III1范圍 12規(guī)性用件 1目次前言 II引言 III1范圍 12規(guī)性用件 13術(shù)和義 14縮語(yǔ) 2±概述 26差隱能要求 4F差隱保分級(jí) 88差隱保效評(píng)定 8附錄(料)應(yīng)景及算配 10附錄(料)試法 12附錄(料)分私算安驗(yàn)信清單 14參考獻(xiàn) 16I基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求1 范圍本文件規(guī)范了基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求，包括差分隱私系統(tǒng)技術(shù)架構(gòu)、差分隱私能力要求、差分隱私保護(hù)分級(jí)、差分隱私保護(hù)效果評(píng)定。本文件適用于應(yīng)用在移動(dòng)智能終端的差分隱私技術(shù)，也適用于評(píng)估機(jī)構(gòu)基于本文件開(kāi)展差分隱私產(chǎn)品保護(hù)個(gè)人信息的評(píng)估工作。2 下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對(duì)應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T2±069–2022信息安全技術(shù)術(shù)語(yǔ)GB/T3±2F3–2020信息安全技術(shù)個(gè)人信息安全規(guī)范3 基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求1 范圍本文件規(guī)范了基于差分隱私的用戶個(gè)人信息保護(hù)技術(shù)要求，包括差分隱私系統(tǒng)技術(shù)架構(gòu)、差分隱私能力要求、差分隱私保護(hù)分級(jí)、差分隱私保護(hù)效果評(píng)定。本文件適用于應(yīng)用在移動(dòng)智能終端的差分隱私技術(shù)，也適用于評(píng)估機(jī)構(gòu)基于本文件開(kāi)展差分隱私產(chǎn)品保護(hù)個(gè)人信息的評(píng)估工作。2 下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中，注日期的引用文件，僅該日期對(duì)應(yīng)的版本適用于本文件；不注日期的引用文件，其最新版本（包括所有的修改單）適用于本文件。GB/T2±069–2022信息安全技術(shù)術(shù)語(yǔ)GB/T3±2F3–2020信息安全技術(shù)個(gè)人信息安全規(guī)范3 下列術(shù)語(yǔ)和定義適用于本文件。3.1differentialpriva×y一種個(gè)人信息的數(shù)據(jù)保護(hù)技術(shù)，通過(guò)隨機(jī)響應(yīng)或?qū)υ紨?shù)據(jù)加入噪聲的方式，使得對(duì)數(shù)據(jù)集的計(jì)算處理結(jié)果對(duì)于具體某個(gè)記錄的變化是不敏感的，單個(gè)記錄在或不在數(shù)據(jù)集中，對(duì)計(jì)算結(jié)果的影響微乎其微，并能保護(hù)個(gè)人信息不被泄露。注：差分隱私保護(hù)重在提供可度量的數(shù)據(jù)隱私保護(hù)方法。3.2priva×ybudget衡量差分隱私保護(hù)效果的參數(shù)，在一定程度上給出了隱私保護(hù)效果的度量。注：隱私預(yù)算越小，對(duì)數(shù)據(jù)的隱私保護(hù)程度越強(qiáng)，但是數(shù)據(jù)的可用性越差；隱私預(yù)算越大，數(shù)據(jù)的可用性越好，但是隱私保護(hù)能力越差。3.3lo×aldifferentialpriva×y不依賴于可信第三方，直接在終端進(jìn)行數(shù)據(jù)的隱私化處理，處理后的數(shù)據(jù)滿足差分隱私保護(hù)要求。3.4×entrali?eddifferentialpriva×y將原始終端數(shù)據(jù)集中到一個(gè)可信第三方,由第三方對(duì)數(shù)據(jù)進(jìn)行處理，處理后的數(shù)據(jù)滿足差分隱私保護(hù)要求。3.en×oder智能終端上對(duì)原始個(gè)人信息進(jìn)行編碼、加密、加噪等處理的組件。3.6dataurator對(duì)從智能終端接收到的數(shù)據(jù)進(jìn)行解密、存儲(chǔ)、聚合等操作，并根據(jù)查詢請(qǐng)求進(jìn)行數(shù)據(jù)處理和添加噪聲，對(duì)查詢進(jìn)行隱私預(yù)算管理，最終發(fā)布滿足差分隱私要求結(jié)果的組件。3.7data×hannel實(shí)現(xiàn)數(shù)據(jù)在終端（編碼器）、數(shù)據(jù)管理器和查詢處理器之間流轉(zhuǎn)的組件。3.8查詢處理器querypro×e??or發(fā)起數(shù)據(jù)查詢請(qǐng)求并接受結(jié)果的實(shí)體。3.93.en×oder智能終端上對(duì)原始個(gè)人信息進(jìn)行編碼、加密、加噪等處理的組件。3.6dataurator對(duì)從智能終端接收到的數(shù)據(jù)進(jìn)行解密、存儲(chǔ)、聚合等操作，并根據(jù)查詢請(qǐng)求進(jìn)行數(shù)據(jù)處理和添加噪聲，對(duì)查詢進(jìn)行隱私預(yù)算管理，最終發(fā)布滿足差分隱私要求結(jié)果的組件。3.7data×hannel實(shí)現(xiàn)數(shù)據(jù)在終端（編碼器）、數(shù)據(jù)管理器和查詢處理器之間流轉(zhuǎn)的組件。3.8查詢處理器querypro×e??or發(fā)起數(shù)據(jù)查詢請(qǐng)求并接受結(jié)果的實(shí)體。3.9dataolle×tor在過(guò)程中負(fù)責(zé)采集數(shù)據(jù)的實(shí)體，可以為管理器或查詢處理器。4 縮略語(yǔ)下列縮略語(yǔ)適用于本文件。LD:本地差分隱私（LogalDi￡￡erentialPrivagy）TLCP:傳輸層密碼協(xié)議（Tran?portLayerCryptographigProtogol）TL：傳輸層安全協(xié)議（Tran?portLayerSegurity）‘ 概述‘.1 數(shù)據(jù)處理是數(shù)字經(jīng)濟(jì)社會(huì)生產(chǎn)中的重要步驟，數(shù)據(jù)集通常包含大量的個(gè)人隱私數(shù)據(jù)，企業(yè)在業(yè)務(wù)中對(duì)數(shù)據(jù)處理不當(dāng)可能會(huì)造成個(gè)人隱私的泄露?！秱€(gè)人信息保護(hù)法》等對(duì)企業(yè)數(shù)據(jù)處理行為中的個(gè)人信息保護(hù)提出了要求，企業(yè)須采取措施確保數(shù)據(jù)處理過(guò)程中個(gè)人信息不被泄露。差分隱私是針對(duì)數(shù)據(jù)隱私泄露問(wèn)題提出的一種隱私保護(hù)方法。在此定義下，對(duì)數(shù)據(jù)集的計(jì)算處理結(jié)果對(duì)于某條具體記錄的變化是不敏感的，單條記錄存在或不存在數(shù)據(jù)集中，對(duì)計(jì)算結(jié)果的影響微乎攻擊者無(wú)法通過(guò)觀察計(jì)算結(jié)果而獲取準(zhǔn)確的個(gè)體信息，從而在數(shù)據(jù)發(fā)布、查詢等過(guò)程中保護(hù)個(gè)體信息隱私。通常，差分隱私通過(guò)在真實(shí)數(shù)據(jù)中加入隨機(jī)化噪聲擾動(dòng)的方式來(lái)實(shí)現(xiàn)保護(hù)?！?2 差分隱私技術(shù)可以分為中心化差分隱私和本地化差分隱私。中心化差分隱私定義為假設(shè)有隨機(jī)算法??，??為??所有可能輸出結(jié)果構(gòu)成的集合，????[]表示概率，對(duì)于任意兩個(gè)差別只有1條記錄的相鄰數(shù)據(jù)集??,??′，如果滿足：2????[??(??)∈??]≤????????[??(??′)∈??]+??則稱算法??提供(?????[??(??)∈??]≤????????[??(??′)∈??]+??則稱算法??提供(?,??)–中心化差分隱私保護(hù)，其中?為差分隱私預(yù)算，用來(lái)保證數(shù)據(jù)集中增加或者減少一條記錄，隨機(jī)算法W的輸出結(jié)果一致的概率；??指算法??有??的概率不滿足?–DP.記錄。本地差分隱私定義為，假設(shè)有隨機(jī)算法??，??為??的輸出，????[]表示概率，對(duì)于任意兩個(gè)記錄??,??′，如果滿足：????[??(??)=??]≤????????[??(??′)=??]+??則稱算法法??提供(?,??)–本地化差分隱私保護(hù)，其中?為差分隱私預(yù)算，用來(lái)保證任意兩個(gè)用戶的記錄，隨機(jī)算法W的輸出結(jié)果一致的概率；??指算法??有??的概率不滿足?–DP。在相同數(shù)據(jù)集和使用相同的差分隱私算法的前提下，差分隱私預(yù)算?越小，隱私保護(hù)效果越好?！?3 ‘.3.1差分隱私數(shù)據(jù)處理框架根據(jù)隱私計(jì)算框架中的數(shù)據(jù)管理器是否可信，可將移動(dòng)智能終端個(gè)人信息保護(hù)的差分隱私數(shù)據(jù)處理模式可分為兩種框架類型：包含終端與數(shù)據(jù)管理器兩種角色，數(shù)據(jù)管理器不可信。終端個(gè)人信息在添加噪聲后向數(shù)據(jù)管理器發(fā)送，且數(shù)據(jù)管理器無(wú)法查看原始個(gè)人信息。包含終端與數(shù)據(jù)管理器兩種角色，數(shù)據(jù)管理器可信。終端個(gè)人信息直接發(fā)送并存儲(chǔ)于數(shù)據(jù)管理器中，再由數(shù)據(jù)管理器對(duì)查詢結(jié)果添加噪聲?？尚诺臄?shù)據(jù)管理器不會(huì)直接查看、共享個(gè)人信息，也不會(huì)與攻擊者共謀。圖1中的信任邊界表示數(shù)據(jù)管理器是否被用戶終端信任。13‘.3.2基于差分隱私的個(gè)人信息保護(hù)系統(tǒng)常見(jiàn)組成結(jié)構(gòu)如圖1所示。系統(tǒng)的工作流程主要分為：a)b)g)采集：終端對(duì)個(gè)人信息進(jìn)行采集操作；（））查詢響應(yīng)：數(shù)據(jù)管理器針對(duì)查詢請(qǐng)求，對(duì)從終端接受到的數(shù)據(jù)進(jìn)行聚合、解碼、加噪等處理后，輸出滿足差分隱私要求的查詢結(jié)果。在多次查詢場(chǎng)景中，數(shù)據(jù)管理器需進(jìn)行隱私預(yù)算的控制。d)‘.3.3差分隱私系統(tǒng)的分類用于個(gè)人信息保護(hù)的差分隱私系統(tǒng)可以按以下維度進(jìn)行分類：a) ‘.3.2基于差分隱私的個(gè)人信息保護(hù)系統(tǒng)常見(jiàn)組成結(jié)構(gòu)如圖1所示。系統(tǒng)的工作流程主要分為：a)b)g)采集：終端對(duì)個(gè)人信息進(jìn)行采集操作；（））查詢響應(yīng)：數(shù)據(jù)管理器針對(duì)查詢請(qǐng)求，對(duì)從終端接受到的數(shù)據(jù)進(jìn)行聚合、解碼、加噪等處理后，輸出滿足差分隱私要求的查詢結(jié)果。在多次查詢場(chǎng)景中，數(shù)據(jù)管理器需進(jìn)行隱私預(yù)算的控制。d)‘.3.3差分隱私系統(tǒng)的分類用于個(gè)人信息保護(hù)的差分隱私系統(tǒng)可以按以下維度進(jìn)行分類：a) 根據(jù)差分隱私算法支持的精度、預(yù)算分配合理性等，將算法分類為基礎(chǔ)差分隱私算法和優(yōu)化差分隱私算法：1b) 個(gè)人信息保護(hù)場(chǎng)景常見(jiàn)的差分隱私查詢類型包括：——頻數(shù)統(tǒng)計(jì)：分為多值頻數(shù)統(tǒng)計(jì)以及單值頻數(shù)統(tǒng)計(jì)，包括計(jì)數(shù)、眾數(shù)、直方圖、列聯(lián)表等查詢；——均值統(tǒng)計(jì)：包括平均值等查詢；——極值查詢：包括極大值、極小值、Top–K等查詢；——數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)：包括分類樹(shù)、支持向量機(jī)、對(duì)率回歸、K–均值等；—礎(chǔ)計(jì)計(jì)gou，?u，avrag，位mi，ma，差——直方圖發(fā)布：普通直方圖發(fā)布、約束條件直方圖發(fā)布、本地差分隱私直方圖發(fā)布；——隱私保護(hù)統(tǒng)計(jì)問(wèn)詢：隱私乘法權(quán)重、稀疏向量技術(shù)、合成數(shù)據(jù)集技術(shù)；——支持靈活統(tǒng)計(jì)問(wèn)詢（如S?L查詢等）。6 6.1 差分隱私能力總體要求見(jiàn)圖2，包括基礎(chǔ)能力要求、系統(tǒng)安全要求、算法安全要求、優(yōu)化算法要求、場(chǎng)景化安全要求五部分，具體要求如下。4分類中心化差分隱私本地化差分隱私基礎(chǔ)差分隱私算法拉普拉斯機(jī)制、指數(shù)機(jī)制DietEgdng優(yōu)化差分隱私算法階梯機(jī)制、幾何機(jī)制、高斯機(jī)制、高精度拉普拉斯機(jī)制、高精度高斯機(jī)制、離散拉普拉斯機(jī)制、離散高斯機(jī)制、Ba?e2–指數(shù)機(jī)制、其他證明完備的中心化差分隱私機(jī)制HitganoignrEnoigiayLglH?in,0piaoaahng及其證明完備的本地化差分隱私機(jī)制基礎(chǔ)能力要求包括協(xié)議模式、數(shù)據(jù)輸入、查詢模型、算法支持、數(shù)據(jù)可用性等差分隱私基本系統(tǒng)數(shù)據(jù)安全要求包括數(shù)據(jù)采集安全、數(shù)據(jù)傳輸安全、輸出存儲(chǔ)安全等系統(tǒng)層面數(shù)據(jù)保護(hù)要）法全求括安全基礎(chǔ)能力要求包括協(xié)議模式、數(shù)據(jù)輸入、查詢模型、算法支持、數(shù)據(jù)可用性等差分隱私基本系統(tǒng)數(shù)據(jù)安全要求包括數(shù)據(jù)采集安全、數(shù)據(jù)傳輸安全、輸出存儲(chǔ)安全等系統(tǒng)層面數(shù)據(jù)保護(hù)要）法全求括安全查安、算果安等法面全求）化法求差私能提了一的力要和全要26.2 6.2.1差分隱私模式應(yīng)支持±.3.1中的至少一種差分隱私數(shù)據(jù)處理模式。6.2.2數(shù)據(jù)輸入要求包括：6.2.3對(duì)于支持?jǐn)?shù)據(jù)查詢的差分隱私系統(tǒng)，應(yīng)支持計(jì)數(shù)、均值、直方圖、頻率估計(jì)等至少一種常見(jiàn)查詢類型。6.2.43.3a）16.2.‘?dāng)?shù)據(jù)可用性要求數(shù)據(jù)可用性要求包括數(shù)據(jù)一致性和數(shù)據(jù)準(zhǔn)確性：±0）100指標(biāo)，能使用統(tǒng)計(jì)性檢測(cè)等手段驗(yàn)證滿足理論準(zhǔn)確性結(jié)果。6.3 6.3.1數(shù)據(jù)采集安全數(shù)據(jù)采集安全要求包括：a)b)采集的數(shù)據(jù)及采集過(guò)程應(yīng)嚴(yán)格按照GB/T3±2F3–2020執(zhí)行；0）100指標(biāo)，能使用統(tǒng)計(jì)性檢測(cè)等手段驗(yàn)證滿足理論準(zhǔn)確性結(jié)果。6.3 6.3.1數(shù)據(jù)采集安全數(shù)據(jù)采集安全要求包括：a)b)采集的數(shù)據(jù)及采集過(guò)程應(yīng)嚴(yán)格按照GB/T3±2F3–2020執(zhí)行；數(shù)據(jù)采集者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開(kāi)收集、使用規(guī)則，明示收集、使用信息的方式和范圍；數(shù)據(jù)采集者應(yīng)制定標(biāo)準(zhǔn)的采集模板、數(shù)據(jù)采集方法、策略和規(guī)范，采集策略參數(shù)配置應(yīng)包括采集周期、有效性、檢測(cè)時(shí)間、入口地址和采集深度等；對(duì)于初次采集的數(shù)據(jù)，宜用人工與技術(shù)相結(jié)合的方式根據(jù)其來(lái)源、類型或重要程度進(jìn)行分類；在數(shù)據(jù)采集前后應(yīng)采用校驗(yàn)技術(shù)對(duì)數(shù)據(jù)完整性進(jìn)行校驗(yàn)。g)d)e)￡)6.3.2數(shù)據(jù)傳輸安全數(shù)據(jù)傳輸安全要求包括：TLCPTLSv1.26.3.3數(shù)據(jù)存儲(chǔ)安全數(shù)據(jù)存儲(chǔ)安全要求包括：數(shù)據(jù)進(jìn)行刪除或匿名化處理。6.4差分隱私算法安全要求6.4.1概述差分隱私參數(shù)??C注：差分隱私參數(shù)的配置可在參考文獻(xiàn)[3][6][F]中查看。66.4.2?–DP?26.4.3查詢安全LDP所聲明的差分隱私預(yù)算總量，如在一定時(shí)間內(nèi)合理限制查詢（上傳）次數(shù)。6.4.4計(jì)算結(jié)果安全計(jì)算結(jié)果安全要求包括：B6.4.‘差分隱私優(yōu)化算法要求6.4.‘.1優(yōu)化算法能力要求6.4.2?–DP?26.4.3查詢安全LDP所聲明的差分隱私預(yù)算總量，如在一定時(shí)間內(nèi)合理限制查詢（上傳）次數(shù)。6.4.4計(jì)算結(jié)果安全計(jì)算結(jié)果安全要求包括：B6.4.‘差分隱私優(yōu)化算法要求6.4.‘.1優(yōu)化算法能力要求3.3a16.4.‘.26.4.1,6.4.2,6.4.3,6.4.4全性要求。6.‘差分隱私場(chǎng)景化安全要求6.‘.1算法能力要求對(duì)于不同的業(yè)務(wù)場(chǎng)景，應(yīng)具備能力來(lái)配置、優(yōu)化、組合使用已有成熟算法或設(shè)計(jì)新的算法，來(lái)解決場(chǎng)景化業(yè)務(wù)問(wèn)題，并提供報(bào)告說(shuō)明可行性和安全性，報(bào)告內(nèi)容宜根據(jù)不同場(chǎng)景給出單獨(dú)的算法配置說(shuō)明，報(bào)告內(nèi)容參考附錄C。6.‘.2(?δ)–DP數(shù)宜不大于以下場(chǎng)景化推薦值來(lái)達(dá)到差異化的保護(hù)強(qiáng)度：3F業(yè)務(wù)場(chǎng)景?場(chǎng)景化推薦值??場(chǎng)景化推薦值基礎(chǔ)推薦值中心化差分隱私本地化差分隱私?287 7.1 概述根據(jù)差分隱私系統(tǒng)滿足第五章能力要求的程度，對(duì)于差分隱私的保護(hù)效果可將差分隱私保護(hù)系統(tǒng)分為由低到高共3級(jí)。47.2 1滿足差分隱私基礎(chǔ)能力要求和系統(tǒng)數(shù)據(jù)安全要求，能夠在數(shù)據(jù)采集、傳輸、存儲(chǔ)等過(guò)程滿足安全要求的前提下，對(duì)查詢數(shù)據(jù)加入差分隱私噪聲進(jìn)行擾動(dòng)。7.3 2在滿足1級(jí)要求的基礎(chǔ)上，滿足差分隱私算法安全要求，對(duì)差分隱私算法參數(shù)進(jìn)行了正確配置，通過(guò)了實(shí)驗(yàn)驗(yàn)證。驗(yàn)證過(guò)程建議按附錄B執(zhí)行，或自主提供完備的驗(yàn)證方案和過(guò)程。7.4 3在滿足2級(jí)要求的基礎(chǔ)上，滿足差分隱私場(chǎng)景化安全要求，對(duì)于不同數(shù)據(jù)敏感程度的場(chǎng)景，提供差異化的差分隱私保護(hù)等級(jí)。8 差分隱私保護(hù)效果評(píng)定流程如圖3所示：86.2差分隱私基礎(chǔ)能力要求6.3差分隱私系統(tǒng)數(shù)據(jù)安全要求6.4差分隱私算法安全要求6.±差分隱私場(chǎng)景化安全要求1級(jí)√√——2級(jí)√√√7 7.1 概述根據(jù)差分隱私系統(tǒng)滿足第五章能力要求的程度，對(duì)于差分隱私的保護(hù)效果可將差分隱私保護(hù)系統(tǒng)分為由低到高共3級(jí)。47.2 1滿足差分隱私基礎(chǔ)能力要求和系統(tǒng)數(shù)據(jù)安全要求，能夠在數(shù)據(jù)采集、傳輸、存儲(chǔ)等過(guò)程滿足安全要求的前提下，對(duì)查詢數(shù)據(jù)加入差分隱私噪聲進(jìn)行擾動(dòng)。7.3 2在滿足1級(jí)要求的基礎(chǔ)上，滿足差分隱私算法安全要求，對(duì)差分隱私算法參數(shù)進(jìn)行了正確配置，通過(guò)了實(shí)驗(yàn)驗(yàn)證。驗(yàn)證過(guò)程建議按附錄B執(zhí)行，或自主提供完備的驗(yàn)證方案和過(guò)程。7.4 3在滿足2級(jí)要求的基礎(chǔ)上，滿足差分隱私場(chǎng)景化安全要求，對(duì)于不同數(shù)據(jù)敏感程度的場(chǎng)景，提供差異化的差分隱私保護(hù)等級(jí)。8 差分隱私保護(hù)效果評(píng)定流程如圖3所示：86.2差分隱私基礎(chǔ)能力要求6.3差分隱私系統(tǒng)數(shù)據(jù)安全要求6.4差分隱私算法安全要求6.±差分隱私場(chǎng)景化安全要求1級(jí)√√——2級(jí)√√√—3級(jí)√√√√中心化差分隱私本地化差分隱私金融0.2±210–6政務(wù)0.±410–±醫(yī)療0.±410–±其他1610–43差分隱私保護(hù)效果評(píng)定流程93差分隱私保護(hù)效果評(píng)定流程9附錄A（資料性）應(yīng)用場(chǎng)景及預(yù)算分配A.1差分隱私的應(yīng)用場(chǎng)景在數(shù)據(jù)發(fā)布領(lǐng)域，支持差分隱私的數(shù)據(jù)發(fā)布算法的應(yīng)用包括但不限于社交網(wǎng)絡(luò)、地理位置服務(wù)（LBS)、推薦系統(tǒng)。在數(shù)據(jù)挖掘領(lǐng)域，差分隱私一般通過(guò)結(jié)合具體的挖掘算法，根據(jù)挖掘結(jié)果的性能指標(biāo)進(jìn)行調(diào)整，以實(shí)現(xiàn)數(shù)據(jù)安全性和模型可用性之間的平衡。目前，支持差分隱私的數(shù)據(jù)挖掘算法的應(yīng)用包括：線性回歸、邏輯回歸、決策樹(shù)、深度學(xué)習(xí)、聚類，隱私保護(hù)模型預(yù)測(cè)，決策樹(shù)構(gòu)造、頻繁模式挖掘、和聯(lián)邦學(xué)習(xí)。在本地差分隱私保護(hù)中，隱私保護(hù)數(shù)據(jù)從終端獲得后可以直接用于后續(xù)計(jì)算。具體支持以下場(chǎng)景：ab)發(fā)布終端數(shù)據(jù)統(tǒng)計(jì)信息：將終端原始數(shù)據(jù)進(jìn)行求最大值，均值等統(tǒng)計(jì)后發(fā)布統(tǒng)計(jì)結(jié)果；g)發(fā)布基于終端數(shù)據(jù)附錄A（資料性）應(yīng)用場(chǎng)景及預(yù)算分配A.1差分隱私的應(yīng)用場(chǎng)景在數(shù)據(jù)發(fā)布領(lǐng)域，支持差分隱私的數(shù)據(jù)發(fā)布算法的應(yīng)用包括但不限于社交網(wǎng)絡(luò)、地理位置服務(wù)（LBS)、推薦系統(tǒng)。在數(shù)據(jù)挖掘領(lǐng)域，差分隱私一般通過(guò)結(jié)合具體的挖掘算法，根據(jù)挖掘結(jié)果的性能指標(biāo)進(jìn)行調(diào)整，以實(shí)現(xiàn)數(shù)據(jù)安全性和模型可用性之間的平衡。目前，支持差分隱私的數(shù)據(jù)挖掘算法的應(yīng)用包括：線性回歸、邏輯回歸、決策樹(shù)、深度學(xué)習(xí)、聚類，隱私保護(hù)模型預(yù)測(cè)，決策樹(shù)構(gòu)造、頻繁模式挖掘、和聯(lián)邦學(xué)習(xí)。在本地差分隱私保護(hù)中，隱私保護(hù)數(shù)據(jù)從終端獲得后可以直接用于后續(xù)計(jì)算。具體支持以下場(chǎng)景：ab)發(fā)布終端數(shù)據(jù)統(tǒng)計(jì)信息：將終端原始數(shù)據(jù)進(jìn)行求最大值，均值等統(tǒng)計(jì)后發(fā)布統(tǒng)計(jì)結(jié)果；g)發(fā)布基于終端數(shù)據(jù)的預(yù)訓(xùn)練模型：終端上用原始數(shù)據(jù)進(jìn)行訓(xùn)練得到模型，并將預(yù)訓(xùn)練模型進(jìn)行分享和發(fā)布。由于存在通過(guò)預(yù)訓(xùn)練模型推斷終端原始數(shù)據(jù)的風(fēng)險(xiǎn)，因此需要在預(yù)訓(xùn)練過(guò)程中或?qū)Y(jié)模型行機(jī)動(dòng)達(dá)對(duì)原數(shù)的私護(hù)在中心化差分隱私保護(hù)中，終端數(shù)據(jù)可能具備一定的差分隱私保護(hù)(或者沒(méi)有任何隱私保護(hù))，終端數(shù)據(jù)通過(guò)在可信第三方聚合后進(jìn)行計(jì)算并發(fā)布計(jì)算結(jié)果，具體支持以下場(chǎng)景：聯(lián)邦學(xué)習(xí)：目標(biāo)是在保證終端用戶數(shù)據(jù)隱私安全及合法合規(guī)的基礎(chǔ)上，實(shí)現(xiàn)利用大量用戶數(shù)據(jù)共同建模，提升人工智能模型的效果。A.2差分隱私預(yù)算分配——二分法：——Taylor級(jí)數(shù)展開(kāi)法：——高級(jí)組合性法，其中表示允許方案不滿足差分隱私要求的概率，一般取非常小的數(shù)，如：10如果使用自定義的隱私預(yù)算分配方法，需保證分配算法可通過(guò)數(shù)學(xué)證明滿足?如果使用自定義的隱私預(yù)算分配方法，需保證分配算法可通過(guò)數(shù)學(xué)證明滿足?–差分隱私保護(hù)要求。11附錄B（資料性）測(cè)試方法驗(yàn)證差分隱私算法的執(zhí)行結(jié)果是否符合算法設(shè)置及參數(shù)配置，可參考以下測(cè)試過(guò)程。對(duì)于滿足±.3.3a)表B.1a)拉普拉斯機(jī)制輸入數(shù)據(jù)：??=1.0；測(cè)試輪數(shù)：??=100000；結(jié)果驗(yàn)證：對(duì)輸出的加噪結(jié)果進(jìn)行統(tǒng)計(jì)，須滿足1）加噪結(jié)果??′與輸入數(shù)據(jù)??的絕對(duì)差的均值，與差分隱私參數(shù)的倒數(shù)1接近一致，即????∑??|??′???|1????=1附錄B（資料性）測(cè)試方法驗(yàn)證差分隱私算法的執(zhí)行結(jié)果是否符合算法設(shè)置及參數(shù)配置，可參考以下測(cè)試過(guò)程。對(duì)于滿足±.3.3a)表B.1a)拉普拉斯機(jī)制輸入數(shù)據(jù)：??=1.0；測(cè)試輪數(shù)：??=100000；結(jié)果驗(yàn)證：對(duì)輸出的加噪結(jié)果進(jìn)行統(tǒng)計(jì)，須滿足1）加噪結(jié)果??′與輸入數(shù)據(jù)??的絕對(duì)差的均值，與差分隱私參數(shù)的倒數(shù)1接近一致，即????∑??|??′???|1????=1?? ?<0.1。??2)加噪結(jié)果??′的均值與輸入數(shù)據(jù)??接近一致，即??∑????′??=1?????<0.1??b)指數(shù)機(jī)制初始化：設(shè)定輸入數(shù)據(jù)有??=10種可能，??∈{1,2,3,…,10}，原始數(shù)據(jù)集為??。設(shè)定查詢函數(shù)??的功能為查詢眾數(shù)，??的輸出為??=??(??)∈{1,2,3,…,10}。為每種輸出可能分別設(shè)定打分函數(shù)，??(??,??)=????,其中????為輸入數(shù)據(jù)集中??=??的元素?cái)?shù)量。輸入數(shù)據(jù)集：設(shè)定輸入數(shù)據(jù)集??={1,2,2,3,3,3,4,4,4,4,±,±,±,±,±,6,6,6,6,6,6,F,F,F,F,F,F,F,12符號(hào)含義??差分隱私參數(shù)??輸入數(shù)據(jù)??輸入數(shù)據(jù)集??測(cè)試輪數(shù)??′輸出加噪結(jié)果??輸入離散值的枚舉數(shù)量8,8,8,8,8,8,8,8,9,9,9,9,9,9,9,9,9,10,10,10,10,10,10,10,10,10,10}測(cè)試輪數(shù)：??=100000結(jié)果驗(yàn)證：對(duì)輸出的加噪結(jié)果????進(jìn)行統(tǒng)計(jì)，應(yīng)滿足??????????????????/)|<0.1|1?(∑??????????????對(duì)于所有??都成立。DiregEn8,8,8,8,8,8,8,8,9,9,9,9,9,9,9,9,9,10,10,10,10,10,10,10,10,10,10}測(cè)試輪數(shù)：??=100000結(jié)果驗(yàn)證：對(duì)輸出的加噪結(jié)果????進(jìn)行統(tǒng)計(jì)，應(yīng)滿足??????????????????/)|<0.1|1?(∑??????????????對(duì)于所有??都成立。DiregEnodig初始化：設(shè)定輸入數(shù)據(jù)有??=10種可能，??∈{data0,data1,…,data9}。??="data0"??=100000結(jié)果驗(yàn)證：對(duì)輸出的加噪結(jié)果進(jìn)行統(tǒng)計(jì)，須滿足g)1）輸出結(jié)果為??′="data0"的比例與理論值應(yīng)接近一致，即0????|1?0/|<0.1?? ????+???12）輸出任意其他結(jié)果??′的比例與理論值應(yīng)接近一致，即??????′1??|<0.1|1? /?? ????+???1對(duì)于所有??≠0都成立。13附錄G（資料性）差分隱私算法安全驗(yàn)證信息清單驗(yàn)證差分隱私算法安全的方案，可提供以