2024年全球隱私計算報告

目錄CONTENTS隱私計算產(chǎn)業(yè)發(fā)展概況2024隱私計算產(chǎn)業(yè)圖譜隱私計算技術演進和融合隱私計算產(chǎn)業(yè)應用分析隱私計算與人工智能010203040506隱私計算未來展望指導單位杭州市數(shù)據(jù)資源管理局聯(lián)合發(fā)起單位浙江大學區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室中國聯(lián)通智能城市研究院數(shù)據(jù)要素社杭州數(shù)據(jù)交易所支持單位浙江省大數(shù)據(jù)產(chǎn)業(yè)技術聯(lián)盟杭州國際數(shù)字交易聯(lián)盟特別支持單位中關村實驗室杭州金智塔科技有限公司浙江螞蟻密算科技有限公司聯(lián)通數(shù)字科技有限公司主編張秉晟 王鵬 熊婷參編人員許苗峰、殷澤原、郭大宇、胡爽、應琦、潘凱偉、林洋、梁子軒、劉澤宇、申奇、申冠生、武通、盧天培、錢潤芃、盧益彪、田磊原、馮宇揚、徐澤森、張洵、張文、吳鈺沁、彭樂坤、張菊芳、黃益超、謝琴超、周旦、鄭超隱私計算產(chǎn)業(yè)發(fā)展概況2024全球隱私計算報告Part

On第e一章隱私計算是用于保護數(shù)據(jù)安全、個人信息和商業(yè)秘密，促進數(shù)據(jù)高效流通、處理和分享等一系列技術的總稱助力實現(xiàn)數(shù)據(jù)“供得出”“流得動”“用得好”“保安全”隱私計算技術分類安全多方計算同態(tài)加密零知識證明不經(jīng)意傳輸可信執(zhí)行環(huán)境差分隱私數(shù)據(jù)脫敏 ...隱私計算技術是保障數(shù)據(jù)安全的關鍵技術國家數(shù)據(jù)局圍繞數(shù)據(jù)要素市場化改革開展系列工作2023年，國家數(shù)據(jù)局會同有關部門制定《“數(shù)據(jù)要素×”三年行動計劃(2024—2026年)》國家數(shù)據(jù)局積極探索布局數(shù)據(jù)基礎設施，加快數(shù)據(jù)空間等技術研究，推動隱私計算技術應用，打造安全可信流通環(huán)境，為數(shù)據(jù)要素流通、開發(fā)、利用提供支撐2024全球隱私計算報告隱私計算技術是保障數(shù)據(jù)安全的關鍵技術隱私計算，通常又被稱為隱私保護計算，是“在計算中和計算后保護數(shù)據(jù)隱私的技術”

。-----《聯(lián)合國隱私保護計算技術手冊》隱私計算技術路線優(yōu)勢劣勢安全多方計算（MPC）學術界嚴謹?shù)陌踩C明數(shù)據(jù)控制力強不依賴特殊硬件無硬件信任根，國密化方案較為可控有通用運算能力，但性能相對較低數(shù)據(jù)提供方增多性能會下降，一般適用于5方以下聯(lián)邦學習（FL）數(shù)據(jù)控制力強不依賴特殊硬件無硬件信任根，國密化方案較為可控存在部分安全風險無通用運算能力數(shù)據(jù)提供方增多性能會下降，垂直場景一般建議于10方以下可信執(zhí)行環(huán)境（TEE）理論上支持所有算法計算精度高，與明文一致計算性能支持大規(guī)模且性能損失小隨著數(shù)據(jù)提供方增多不會有明顯性能下降數(shù)據(jù)控制力比較弱需要相信硬件信任根需要額外硬件成本差分隱私（DP）可證明可衡量的個體隱私保護技術與上面所有技術路線可獨立疊加計算精度明文比會有所下降，需結(jié)合算法流程設計不保護數(shù)據(jù)使用價值同態(tài)加密（HE）是經(jīng)典

MPC、聯(lián)邦學習方案重要基石，是目前隱私計算性能的關鍵PK通用FHE方案性能挑戰(zhàn)大，硬件加速還在發(fā)展中零知識證明（ZK）驗證速度快，證明通信量較小不泄露任何隱私信息能與其他隱私計算技術聯(lián)合使用協(xié)議復雜，開發(fā)成本高大規(guī)模計算時證明開銷大隱私計算是“隱私保護計算”(Privacy-Preserving

Computation的簡稱，可以在保證數(shù)據(jù)提供方不泄露原始數(shù)據(jù)的前提下，對數(shù)據(jù)進行分析計算，有效提取數(shù)據(jù)要素價值，保障了數(shù)據(jù)在產(chǎn)生、存儲、計算、應用、銷毀等各個環(huán)節(jié)中的“可用不可見”。隱私計算以安全多方計算（SecureMulti-party

Computation，

MPC)、聯(lián)邦學習（Federated

Learning，F(xiàn)L）、可信執(zhí)行環(huán)境(TrustedExecutionEnvironment,

TEE）三大技術路線為代表，同時發(fā)展出了同態(tài)加密、差分隱私等其他密碼學技術為輔助的成熟技術體系。隱私計算概述2024全球隱私計算報告克勞德·香農(nóng)在20世紀40年代發(fā)表的重要論文《保密系統(tǒng)的通信理論》《密碼學數(shù)學理論》1976年Diffie和Hellman創(chuàng)建了公鑰加密體制1978年Rivest等人設計的非對稱加密算法RSA和首次提出的同態(tài)加密概念1981年Rabin首次提出不經(jīng)意傳輸協(xié)議01萌芽期（1949-1981）隱私計算作為獨立的概念在產(chǎn)學研界得到關注和發(fā)展，并融合密碼學、人工智能等多學科技術逐漸形成了綜合性技術體系。主流技術相繼出現(xiàn)：1982年姚百萬富翁問題1987年Goldreich等人提出的安全多方計算協(xié)議2009年Gentry提出全同態(tài)加密及OMTP提出首個可信執(zhí)行環(huán)境標準2016年《中華人民共和國網(wǎng)絡安全法》使隱私計算技術不可或缺0２探索期（1982-2016）隨著數(shù)字經(jīng)濟的快速增長，隱私計算技術快速發(fā)展，成為促進數(shù)據(jù)要素跨域流通和應用的核心技術，廣泛用于金融、通信、互聯(lián)網(wǎng)、政務等領域相關政策標準不斷細化完善，如：2018年歐盟GDPR，2019年聯(lián)合國《隱私保護計算技術聯(lián)合國手冊》，2020年中國“數(shù)據(jù)二十條”2022年美國《促進數(shù)字隱私技術法案》等產(chǎn)業(yè)方面，開源項目如FATE，Mesa開始商用和落地0３增長期（2017-2025）隱私計算開始在實際應用中發(fā)揮重要作用，技術不斷成熟，應用規(guī)模將呈現(xiàn)穩(wěn)定增長趨勢隱私計算在技術上將迎來一系列創(chuàng)新迭代，各個主流技術路線持續(xù)優(yōu)化，業(yè)內(nèi)探索技術融合等方式來突破應用瓶頸0４穩(wěn)定期（2025至未來）隱私計算技術的四個發(fā)展階段2024全球隱私計算報告隱私計算技術市場前景廣闊政策法規(guī)支持，產(chǎn)業(yè)需求增加技術加速創(chuàng)新并與區(qū)塊鏈、人工智能等新興技術融合相關技術標準和產(chǎn)業(yè)規(guī)范逐步完善、產(chǎn)業(yè)鏈完整、應用擴展應用擴展、產(chǎn)業(yè)鏈融合隱私計算在金融、通訊、政務、醫(yī)療、保險等產(chǎn)業(yè)應用更廣泛產(chǎn)業(yè)鏈從上游的可信硬件，到中游的技術提供方，再到下游的應用方，已形成較完整的生態(tài)金融53%通信17%數(shù)據(jù)來源：億歐，國泰君安，36氪研究院整理政務13%醫(yī)療

互聯(lián)網(wǎng)

能源9% 5% 3%產(chǎn)業(yè)需求增加隱私計算生態(tài)包括數(shù)據(jù)提供方、數(shù)據(jù)加工方、數(shù)據(jù)使用方、服務商與交易所等企業(yè)和個人需求日益增長，有巨大市場空間開源產(chǎn)品目前是生態(tài)中的主流數(shù)據(jù)來源：36氪研究院根據(jù)公開資料整理2024全球隱私計算報告人工智能技術的發(fā)展2023年，具有開放許可證的日益高效的基礎模型呈爆炸式增長，比2022年增加一倍以上，新模型如：LlaMa

、StableLM、Falcon、Mistral、LlaMa2、DeepFloyd和StableDiffusion等以ChatGPT為代表的新一代生成式人工智能問世，在全球范圍大火，改變了人工智能（AI）技術與應用的發(fā)展軌跡，加速了人與AI的互動，是人工智能發(fā)展史上的新里程碑GPT-4、Gemini

、GeminiUltra和

Claude3等先進模型展示出強大的多模態(tài)能力，綜合性能優(yōu)越2023

年人工智能相關法規(guī)

25

項歐盟AI法案（EU

AI

Act，2024）：全球首個全面的AI法律框架，基于風險分類對高風險AI系統(tǒng)設置了嚴格的監(jiān)管美國AI權(quán)利法案（AI

Bill

of

Rights）：防止AI系統(tǒng)中的歧視，確保算法透明性和隱私保護中國AI監(jiān)管法案：加強對AI技術的監(jiān)管，特別是涉及國家安全風險的應用，如生物識別和監(jiān)控技術。加拿大人工智能和數(shù)據(jù)法案（AIDA）：重點強調(diào)數(shù)據(jù)隱私和AI的倫理使用,如金融和保險領域其他國家和地區(qū)：南韓《South

Korea'sAIFrameworkAct》；巴西《Brazil'sAIRegulation

Bill》；印度《Digital

India

Act》麥肯錫2024年調(diào)查發(fā)現(xiàn)，在過去六年中，全球的

AI

采用率2019年之前一直在50%以下，2023年躍升至72%；生成式AI采用率從2023年的33%增加到2024年的65%,

幾乎翻了一倍

。超過60%的中國企業(yè)計劃在未來1-2年內(nèi)部署生成式AI2023年對生成式AI的投資激增，達到252億美元，比2022年增長近八倍2023-2024年間，AI在技術創(chuàng)新、政策法規(guī)與應用投資等方面均取得較大進展。目前60個國家擁有AI戰(zhàn)略，預計生成式AI每年將為全球經(jīng)濟貢獻4.4萬億美元。技術創(chuàng)新 政策法規(guī)支持 應用和投資規(guī)模擴大2024全球隱私計算報告userid:529794,docid:176240,date:2024-09-27,隱私計算與人工智能的技術融合AI大模型在創(chuàng)造巨大價值的同時，可能帶來明文訓練數(shù)據(jù)被泄露或個人信息被濫用等安全和隱私風險，隱私計算技術通過提供安全計算環(huán)境，可以有效降低這些風險。產(chǎn)業(yè)界進展2019年，微眾銀行人工智能團隊發(fā)起了全球首個聯(lián)邦學習工業(yè)級開源框架FATE，可以讓企業(yè)和機構(gòu)在保護數(shù)據(jù)安全和數(shù)據(jù)隱私的前提下進行數(shù)據(jù)協(xié)作，核心功能包括聯(lián)邦特征工程，聯(lián)邦統(tǒng)計，聯(lián)邦機器學習，聯(lián)邦深度學習，聯(lián)邦遷移學習等2024年，螞蟻集團發(fā)布“隱語

Cloud”大模型密態(tài)計算平臺，提高大模型密態(tài)托管和大模型密態(tài)推理服務未來發(fā)展方向增強的模型安全性：隱私計算技術可以增強AI模型的安全性，防止模型被惡意攻擊或篡改。例如，使用同態(tài)加密技術可以在加密狀態(tài)下對數(shù)據(jù)進行處理，確保模型訓練和預測過程的安全性，使用聯(lián)邦學習、差分隱私等技術可以在不暴露原始數(shù)據(jù)的情況下訓練模型技術融合與創(chuàng)新：隱私計算與AI技術的融合將催生新的技術路線和創(chuàng)新應用。例如，結(jié)合區(qū)塊鏈技術可創(chuàng)建更透明、可追溯的數(shù)據(jù)處理流程，促進跨域數(shù)據(jù)合作性能優(yōu)化：當前隱私計算和AI技術面臨的一個挑戰(zhàn)是性能問題，尤其是在處理大規(guī)模數(shù)據(jù)時。隨著算法和硬件的優(yōu)化，隱私計算和AI技術的性能將有望得到顯著提升，從而更好地支持AI應用產(chǎn)業(yè)定制化解決方案：不同產(chǎn)業(yè)對隱私計算和AI技術的需求不同。未來將出現(xiàn)更多針對特定產(chǎn)業(yè)需求的定制化解決方案，如醫(yī)療健康、金融風控等專用隱私平臺AI倫理和合規(guī)性：通過確保數(shù)據(jù)處理過程符合隱私保護要求，隱私計算可以幫助AI技術更好地適應法律法規(guī)，解決AI應用中的倫理和合規(guī)性問題2024全球隱私計算報告2024隱私計算產(chǎn)業(yè)圖譜Part

Tw第o二章2024全球隱私計算報告2024隱私計算圖譜場景應用金融政務交易所通信綜合服務商隱私計算垂直類服務商隱私計算融合類服務商AI區(qū)塊鏈信息安全硬件服務商軟硬一體機服務商通用硬件服務商專精服務商開源服務商2024全球隱私計算報告醫(yī)療國內(nèi)外隱私計算垂類服務商分析隱私計算垂類服務商正在快速成長，國外企業(yè)專注技術研發(fā)，在技術層面取得較多成果；國內(nèi)企業(yè)技術研發(fā)和商業(yè)化落地協(xié)同發(fā)展。公司名稱要點技術能力擅長領域應用場景ZamaConcrete,

Concrete-ML金融、醫(yī)療、區(qū)塊鏈提供隱私保護應用程序開發(fā)，支持機器學習和其他計算任務InpherSecretComputing?，SecurAI金融、醫(yī)療安全計算，跨組織數(shù)據(jù)孤島協(xié)作，大語言模型推理國外Eaglys隱私增強技術，MPC和安全多方數(shù)據(jù)分析平臺金融、醫(yī)療數(shù)據(jù)安全共享和協(xié)作Cape

Privacy保密計算技術，API醫(yī)療、金融數(shù)據(jù)去識別化和重新識別，安全文檔處理Pyte.ai加密狀態(tài)下的機器學習工具集醫(yī)療、金融加密狀態(tài)下訓練和推理模型Cryptolabs安全多方計算（MPC），區(qū)塊鏈安全金融、區(qū)塊鏈多方協(xié)作計算，智能合約安全杭州金智塔科技有限公司隱私計算平臺、數(shù)據(jù)合規(guī)流通平臺、容器計算平臺、數(shù)據(jù)資產(chǎn)登記平臺等政務、金融、零售、制造業(yè)政公共數(shù)據(jù)授權(quán)運營、智能風控、反欺詐、智能營銷、智能選址、智能制造等國內(nèi)浙江螞蟻密算科技有限公司以密態(tài)計算技術創(chuàng)新應用及開源社區(qū)共建賦能可信數(shù)據(jù)要素流通建設政務、金融、醫(yī)療、互聯(lián)網(wǎng)公共數(shù)據(jù)開放、密態(tài)醫(yī)療大模型、密態(tài)大模型知識庫、智能風控、車險定價等神州融安數(shù)字科技(北京)有限公司融安隱私計算平臺、融安隱私計算一體機保險、公安、營銷醫(yī)保智能風控業(yè)務、銀行營銷用戶畫像及標簽等2024全球隱私計算報告安全多方計算隱私保護廣告位集合競價平臺（Meta）利用MPC技術完成用戶瀏覽頁面廣告位的隱私保護集合競價。隱語SecretFlow安全計算框架（螞蟻）統(tǒng)一前端編寫成本低加入中間層解耦前后端易于擴展新協(xié)議。同態(tài)加密HElib全同態(tài)加密庫（IBM）首個開源實現(xiàn)全同態(tài)加密算法（BGV

算法）提供密文自舉代碼實現(xiàn)。但使用成本高，代碼缺乏維護。Concrete全同態(tài)計算框架（ZAMA）提供密文自舉代碼實現(xiàn)（TFHE

算法）。前端兼容科學計算庫Numpy。實現(xiàn)零成本編寫同態(tài)應用。差分隱私聯(lián)邦學習FATE聯(lián)邦學習框架

（微眾）支持多種機器學習模型聯(lián)邦建模。社區(qū)多達

570家企業(yè)參加（2021年）但

代碼性能低

(Python)。JaxFed計算庫（谷歌）通過提供相關組件提高編寫和部署聯(lián)邦學習算法效率。支持TPU、GPU等硬件加速?？尚艌?zhí)行環(huán)境TensorFlow

Privacy框架（谷歌）Occlum

TEE系統(tǒng)（清華&螞蟻）提供用于訓練差分隱私模型的工具。提供跟蹤和管理隱私預算功能。高易用性，只需要少量修改程序源碼即可在TEE上執(zhí)行。高性能，支持多TEE任務同時高效執(zhí)行。Privacy-PreservingData

Analytics（Uber）“翠湖”安全處理器和全同態(tài)協(xié)處理器

（中關村實驗室）利用差分隱私與匿名化技術。幫助公司在處理用戶乘車數(shù)據(jù)時保護隱私，同時進行交通流量和其他分析。自研

TEE，高性能密態(tài)計算能力，支持主流全同態(tài)加密算法與52種全同態(tài)加密算子的硬件加速，比軟件性能提升200倍以上。國內(nèi)外隱私計算產(chǎn)品概況2024全球隱私計算報告隱私計算技術開源情況開源促進了隱私計算的快速發(fā)展開源技術可以有效促進隱私計算技術的發(fā)展、普及及應用推廣，開源項目降低了隱私計算產(chǎn)業(yè)門檻，從而進一步促進產(chǎn)業(yè)的發(fā)展與繁榮。開源提升了隱私計算平臺的安全性在隱私計算領域，安全性是核心關切。開源社區(qū)的代碼透明、審查公開，用戶可以檢驗和監(jiān)督平臺的安全性。這種開放性有助于及時發(fā)現(xiàn)并解決產(chǎn)品中的潛在安全問題。國內(nèi)外開源隱私計算技術與應用不斷涌現(xiàn)，包括微軟、螞蟻集團、原語科技、UC伯克利、復旦大學等國內(nèi)外企業(yè)與高校推出多個隱私計算開源項目，進一步促進隱私計算技術普及、應用和發(fā)展。國內(nèi)開源隱私計算技術由螞蟻集團研發(fā)的開源可信隱私計算框架，以安全、中立、易用為核心設計理念，用一套通用框架支持了包括安全多方計算（MPC）、聯(lián)邦學習（FL）、同態(tài)加密（HE）、可信執(zhí)行環(huán)境（TEE）以及差分隱私（DP）在內(nèi)的多種主流隱私計算技術，是國內(nèi)生態(tài)影響力最大的開源社區(qū)，技術方案最為齊全的隱私計算框架之一。由微眾銀行開源的聯(lián)邦學習開源項目，提供了一種基于數(shù)據(jù)隱私保護的安全計算框架，為機器學習、深度學習、遷移學習算法提供強有力的安全計算支持。由復旦大學Daslab實驗室韓偉力教授及其學生獨立研發(fā)的開源安全多方學習平臺

，是基于BGW協(xié)議的開源安全多方學習框架。由原語科技研發(fā)的開源可信隱私計算平臺，該平臺融合了安全多方計算

（MPC）、聯(lián)邦學習（FL）、同態(tài)加密（HE）、可信執(zhí)行環(huán)境（TEE）等多種隱私計算技術。由CSIROData61Engineering&Design機構(gòu)Marcel

Keller獨立維護，支持安全多方計算（MPC）及同態(tài)加密（HE）隱私計算技術。國外開源隱私計算技術EzPC由微軟開源的安全多方學習框架，針對安全推理場景提供了相對完備的安全級別定義，相關研究工作自成一體，是安全多方學習框架中安全推理場景的標桿之一。由UC

Berkley

Rise實驗室維護安全多方學習框架，主要通過GPU對本地密文計算進行加速，提高本地運算效率，是隱私計算領域中使用GPU加速本地密文計算的先行者。Zama由Zama公司開發(fā)的Concrete和Concrete-ML框架，是由Rust編寫的FHE框架，旨在讓密碼學家和開發(fā)人員能夠以最小的開銷創(chuàng)建隱私保護應用程序。2024全球隱私計算報告隱私計算技術演進和融合Part

Thr第e三e章2024全球隱私計算報告隱私計算技術演進與融合-總體進展020406080100120140160MPCTEEZKP PSI&PIR FHE DP2024年發(fā)表數(shù)量 2023年發(fā)表數(shù)量2023-2024年各類隱私計算論文發(fā)表數(shù)量2023-2024年各類隱私計算論文占比MPC33%ZKP28%PSI&PIR11%FHE10%DP12%TEE6%說明：MPC中除去PSI、PIR相關工作說明：MPC中除去PSI、PIR相關工作數(shù)據(jù)來源（安全和密碼學頂級會議）：IEEE

S&P

2023、2024USENIX

Security

2023、2024ACMCCS

2023、2024NDSS2023、2024CRYPTO

2023、2024EUROCRYPT

2023、2024ASIACRYPT2023技術分類：MPC：SecureMulti-PartyComputation

安全多方計算ZKP：Zero-Knowledge

Proof零知識證明FHE：FullyHomomorphicEncryption

全同態(tài)加密DP：Differential

Privacy

差分隱私TEE：TrustedExecutionEnvironment

可信執(zhí)行環(huán)境PSI：Private

Set

Intersection隱私集合求交PIR：Private

InformationRetrieval

隱私信息查詢2024全球隱私計算報告安全多方計算MPC研究動態(tài)6%3%5%4%9%9%4%13%4%（門限）加密/簽名非平衡場景混淆算法可追責性相關隨機數(shù)輪數(shù)復雜度/非交互通信復雜度計算復雜度應用實現(xiàn)其他MPC論文分類統(tǒng)計統(tǒng)計了2023與2024年發(fā)表在四大安全會議（CCS,USENIX

Security,IEEE

S&P,

NDSS）和三大密碼學會議（CRYPTO,

EUROCRYPT,

ASIACRYPT）的關于MPC的論文，共144篇。截至本報告寫作之時，ASIACRYPT

2024的論文尚未公布，因此未加入統(tǒng)計

。有些論文同時屬于多個類別

。18%25%門限加密/簽名算法、混淆算法是MPC中經(jīng)典的研究課題。門限方案允許一組參與方分享密鑰，超過?個參與方能夠?qū)ο⑦M行解密/簽名；混淆算法起源于經(jīng)典的姚氏混淆電路。關于Schnorr、BLS、BBS+、ECDSA等簽名算法的研究數(shù)量較多。關注點包括：簽名的輪數(shù)復雜度、抵御適應性敵手的能力、底層假設、在實際場景下的健壯性等。關于混淆算法的研究聚焦于：算法的性能、算術電路/算術-布爾混合電路的混淆算法。MPC的論文也關注一些特殊場景下的有趣問題，包括：相關隨機數(shù)的生成、非平衡場景MPC、可追責MPC。相關隨機數(shù)通過離線階段的預處理，使協(xié)議的在線階段取得巨大的性能提升。非平衡場景有：星型網(wǎng)絡拓撲場景、算力非平衡場景、參與方權(quán)重不同場景等?？勺坟烳PC協(xié)議能夠在運行失敗時識別出作惡的參與方，大大增加參與方的作惡成本。理論界，關于MPC協(xié)議的輪數(shù)復雜度（或非交互式計算）、通信復雜度以及計算復雜度也受到了廣泛的研究。對于不同的目標/模型，研究者證明復雜度下界或設計線性/亞線性復雜度的高效協(xié)議。一些反直覺的結(jié)論：例如，Lin等人通過對輸入的預處理，使得參與方在承諾、零知識證明、MPC協(xié)議中甚至不需要讀取整個輸入，達到亞線性的在線時間復雜度（Doubly

EfficientCryptography:Commitments,

ArgumentsandRAM

MPC）。MPC的在各場景下的應用以及高效實現(xiàn)，同樣受到業(yè)界人員的廣泛關注。研究最多的是MPC在機器學習/深度學習中的應用，其他的例子包括：使用MPC進行時間序列分析、認證、網(wǎng)絡服務、密鑰管理、動態(tài)數(shù)據(jù)庫分析等等。MPC落地實現(xiàn)方面，研究包括：（布爾-算術-姚）混合模式MPC、有協(xié)助者的MPC、MPC編譯器等。其中，Silph是一個能自動將高級程序語言程序編譯成混合MPC協(xié)議的框架（Silph:AFrameworkforScalableandAccurateGenerationofHybridMPCProtocols）。各研究方向進展2024全球隱私計算報告可信執(zhí)行環(huán)境研究動態(tài)可信執(zhí)行環(huán)境（Trusted

ExecutionEnvironment，TEE）是軟硬件協(xié)同構(gòu)成的隔離環(huán)境，可以保護敏感數(shù)據(jù)并執(zhí)行隱私計算。常用的TEE技術Intel

SGX、IntelTDX、AMD

SEV和ARMTrustZone攻擊36%防御28%應用25%技術分類與論文數(shù)量構(gòu)建11%技術分類：攻擊、防御、應用、構(gòu)建；安全類頂級會議相關論文總數(shù)

28篇。各研究方向進展Schaik等人的綜述性文章發(fā)現(xiàn)，現(xiàn)有的Intel

SGX更新策略無法幫助開發(fā)人員即時修復安全漏洞潛在安全隱患 ? 多篇文章利用數(shù)據(jù)競爭攻擊、指令計數(shù)攻擊、惡意#VC中斷、總線故障攻擊等攻擊方式，成功攻破了現(xiàn)有的商用可信執(zhí)行環(huán)境AEX-Notify解決方案已被納入Intel

SGX修訂版規(guī)范SymGX發(fā)現(xiàn)多個零日漏洞，并獲開發(fā)者確認防御和漏洞探測手段EnigMap通過在外部存儲和飛地間建立隱蔽映射，實現(xiàn)了大規(guī)模數(shù)據(jù)的安全高效處理D?rre等人利用不完全可信的可信執(zhí)行環(huán)境構(gòu)建了高效隱私集合求交協(xié)議，其中可信執(zhí)行隱私計算和可信 環(huán)境可能受到側(cè)信道攻擊，或是將信息泄露給硬件制造商應用開發(fā) ? Gramine-TDX基于Gramine項目和Intel

TDX，專門為機密虛擬機設計了輕量級操作系統(tǒng)MyTEE通過制作頁表進行內(nèi)存隔離、過濾DMA數(shù)據(jù)包以及啟用安全IO，在嵌入式設備新型可信執(zhí)行環(huán) 上實現(xiàn)了可信執(zhí)行環(huán)境境開發(fā)2024全球隱私計算報告零知識證明研究動態(tài)應用方面進展理論進展ZKVM（零知識證明虛擬機）。使用高級語言編寫的程序可以自動生成零知識證明。Dora是專為ZKVM設計的高效零知識證明協(xié)議，它很好的平衡了指令數(shù)量和指令復雜度，使得向處理器添加指令的開銷幾乎為零。另一個新奇的ZKVM實現(xiàn)途徑是，使用定制的零知識證明系統(tǒng)，證明在SatisfiabilityModulo

Theories

(SMT)范式下的各種等式，如布爾邏輯。Folding

Scheme。Nova是為IVC（incremental

verifiable

computation）專門設計的零知識證明方案。其本質(zhì)是一種高效的算術化表示方法，通過對約束系統(tǒng)的不斷壓縮，只需驗證一次，大大減少了開銷。SuperNova處理了每次調(diào)用函數(shù)不同時的情況，同時運行多個folding實例，根據(jù)調(diào)用的不同，更新相對應的實例。而HyperNova適應于最新的算術約束系統(tǒng)CSS（customizable

constraint

system），并使用了名為CycleFold的技術，使得證明方案能在一對循環(huán)曲線上進行高效的遞歸。Post

Quantum。后量子安全的零知識證明方案一直是研究的前沿方向，基于格的零知識證明方案近兩年在實用性上得到了較大的突破。其中，LaBRADOR證明系統(tǒng)通過基于格的遞歸攤銷R1CS證明系統(tǒng)，實現(xiàn)了證明大小優(yōu)化，其證明大小僅由遞歸的最后一步?jīng)Q定，與初始R1CS實例的大小無關。Greyhound是第一個基于標準的格假設的多項式承諾方案，當多項式的度高時，其evaluation證明大小較小，達到了實用的程度。分布式。減少零知識證明高昂的證明開銷、將證明過程并行或者分布式是現(xiàn)實的需求。Pianist是一個基于Plonk的高效分布式零知識證明協(xié)議，為并行電路和通用電路都設計了并行化方法。該框架包含了一個分布式的多項式IOP協(xié)議和一個可分布式計算的多項式承諾方案。Collaborative零知識證明系統(tǒng)中，證明者會分發(fā)證明任務給多個子證明者，其他證明者會協(xié)作生成證明。ZKSaas是一個典型代表，其證明者可以通過秘密分享技術，讓一組其他證明者通過安全多方計算的方式，安全生成證明，而不會泄露隱私信息。ZK數(shù)據(jù)庫。零知識基本數(shù)據(jù)庫（ZK-EDB）使得證明者能夠?qū)?shù)據(jù)庫?（其中包含（?,?）對的鍵值）進行承諾，并隨后為“發(fā)送與?相關聯(lián)的值?(?)”的查詢提供令人信服的答案，而不會泄露任何額外的知識。其技術貢獻有兩方面。首先，引入了一種支持集合合并操作的新型零知識集(ZKS)，并給出了一個基于未知階群的實際構(gòu)造。其次，開發(fā)了一種將布爾電路查詢轉(zhuǎn)換為相關集合合并操作查詢的變換。ZK隱私保護。在區(qū)塊鏈研究中，實現(xiàn)隱私保護的審計而不犧牲系統(tǒng)的安全性和可信性是一個關鍵的研究領域。zkCross，這是一種新穎的雙層跨鏈架構(gòu)，配備了三種跨鏈協(xié)議，以實現(xiàn)隱私保護的跨鏈審計。其中，兩個協(xié)議分別用于隱私保護的跨鏈轉(zhuǎn)賬和交換，第三個協(xié)議則是高效的跨鏈審計協(xié)議。這些協(xié)議基于堅實的跨鏈方案，以保證隱私保護和審計效率。ZK投票。為了保證電子投票中沒有選票被添加、遺漏或更改，使用零知識證明來提供公開可驗證的證明，證明輸出的選票是輸入選票的重新加密的排列。通過Coq證明助手對Bayer-Groth洗牌證明的安全性進行了機器檢查。隨后提取了驗證器（軟件），用于檢查Bayer-Groth實現(xiàn)生成的證明，并使用該驗證器對正在為瑞士國家選舉開發(fā)的瑞士郵政電子投票系統(tǒng)的證明進行檢查。ZK身份驗證。對于許多用戶來說，基于私鑰的錢包是進入?yún)^(qū)塊鏈的主要方式。常見的錢包認證方法可能會顯得繁瑣。這種用戶入門的難度顯著阻礙了區(qū)塊鏈應用的普及。zkLogin，這是一種新穎的技術，利用由流行平臺（如啟用OpenIDConnect的平臺，例如Google、Facebook

等）發(fā)行的身份令牌來認證交易。zkLogin

提供了強大的安全性和隱私保障。然而，與之前相關的工作不同，zkLogin避免了額外的受信方（如受信硬件或預言機）來提供其安全保障。zkLogin利用零知識證明確保用戶的鏈下身份和鏈上身份之間的鏈接被隱藏，甚至對平臺本身也是不可見的。zkLogin

核心的簽名方案使得在區(qū)塊鏈之外進行許多重要應用成為可能。零知識證明（zero-knowledge

proof,

ZKP）是一種密碼學技術，其中證明者能夠向驗證者證明某一陳述為真，但在此過程中，除了該陳述的真實性外，驗證者無法獲得任何額外的信息。2024全球隱私計算報告PSI&PSU&PIR研究動態(tài)PSI類型 文獻數(shù)標準PSI 11電路PSI 2模糊PSI 2閾值PSI

1結(jié)構(gòu)感知PSI

2據(jù)PSI類型統(tǒng)計文獻數(shù)PIR研究方向 文獻數(shù)效率優(yōu)化 16抗惡意性 4隱私性 2批量PIR 2其它 4根據(jù)PIR研究方向統(tǒng)計文獻數(shù)共有5篇文獻對PSU進行研究，主要聚焦于新的PSU協(xié)議框架，以及對非平衡PSU的優(yōu)化。PSI，即隱私集合求交，要求兩方或多方在不泄露額外信息的前提下得到集合的交集。大多數(shù)文獻的研究聚焦于標準PSI，關注點包括安全性、通信效率、計算效率。安全性方面，D?rre等人提出能夠在含有側(cè)信道的可信執(zhí)行環(huán)境（TEE）下安全運行的PSI協(xié)議。通信效率方面，Bienstock等人通過對不經(jīng)意鍵值存儲（OKVS）進行改進，優(yōu)化了鍵值對編碼效率。在計算效率上，Kerschbaum等人提出在離線階段執(zhí)行昂貴操作的比較協(xié)議，可用于PSI協(xié)議并提高響應速度。此外，許多研究關注不平衡場景——這在實際應用中更為常見。例如，Sun等人對個多客戶端與服務器分別獨立執(zhí)行PSI協(xié)議的場景進行了優(yōu)化，使每個客戶端的執(zhí)行協(xié)議的復雜度與自身集合大小呈線性關系。除標準PSI外，許多文獻關注PSI的變體，例如電路PSI，模糊PSI，閾值PSI，結(jié)構(gòu)感知PSI。電路PSI的輸出是集合交集的秘密分享，允許參與方基于集合交集做進一步的計算，而交集本身對兩方保密

。Hao等人提出了不經(jīng)意鍵值檢索（OKVR），并據(jù)此構(gòu)建了高效的不平衡電路PSI方案。模糊PSI將“距離接近”的兩個元素視作相同元素匹配。Chakraborti等人提出DA-PSI返回在距離閾值內(nèi)的匹配。閾值PSI僅在交集大小高于閾值時獲得交集，Liu等人在閾值PSI的基礎上提出了多方概率閾值PSI，以較小概率的不良事件為代價，換取了協(xié)議的高效性和可擴展性。結(jié)構(gòu)感知PSI（sa-PSI）由Garimella等人在2022年提出，其中一方持有的集合為公開的結(jié)構(gòu)，近年來Garimella等人又對sa-PSI在抗惡意性和計算開銷等方面進行了優(yōu)化。PIR，即隱私信息檢索，指用戶向服務器提交查詢請求時，在用戶查詢隱私信息不被泄漏的條件下完成查詢。多數(shù)文獻聚焦于PIR在效率上的優(yōu)化，關注點包括：底層假設、預處理、計算外包。底層假設方面，Lazzaretti等人提出了基于DDH假設的雙服務器PIR協(xié)議，在性能上優(yōu)于前人基于LWE的構(gòu)造。許多研究通過使用預處理方式，增加查詢的響應速度。例如，Ghoshal等人分別在雙服務器和單服務器上提出了新的預處理PIR方案，有效降低了在線帶寬。此外，Li等人通過將計算中昂貴的部分“外包”給服務器，同樣對PIR查詢的效率進行了優(yōu)化。一些文獻則更加關注協(xié)議的抗惡意性與隱私性。例如，Park等人提出了容忍至多兩個惡意節(jié)點的高性能多服務器PIR方案；Dietz等人提出了抗惡意的、允許查詢中途終止的PIR協(xié)議。一些文獻對批量PIR進行了研究。Mughees等人提出了計算和通信效率都較高的批量PIR協(xié)議，Liu等人提出了支持批量查詢的PIR協(xié)議PIRANA，且該協(xié)議對數(shù)據(jù)庫頻繁更新的場景更加友好。2024全球隱私計算報告FHE論文分類統(tǒng)計全同態(tài)加密(FHE)研究動態(tài)95341112其他應用機器學習標準化研究安全性分析算法改進Bootstrapping統(tǒng)計了2023與2024年發(fā)表在四大安全會議（CCS,USENIX

Security,

IEEES&P,

NDSS）和三大密碼學會議（CRYPTO,

EUROCRYPT,ASIACRYPT）的關于MPC的論文，共44篇。截至本報告寫作之時，ASIACRYPT

2024的論文尚未公布，故未加入統(tǒng)計

。各研究方向進展優(yōu)化Bootstrapping提升FHE的計算效率Bootstrapping作為FHE中的關鍵操作，用于恢復加密數(shù)據(jù)的精度通過優(yōu)化盲旋轉(zhuǎn)操作、使用小型評估密鑰來優(yōu)化FHEW的Bootstrapping過程基于SIMD技術的Batch

Bootstrapping框架將FHE乘法操作的需求減少到常數(shù)級別對于經(jīng)典FHE加密方案BGV、BFV、CKKS的Bootstrapping過程也有不同方式的優(yōu)化優(yōu)化同態(tài)運算的速度提升FHE的計算效率對密鑰分解、多項式計算、矩陣向量乘法進行優(yōu)化...研究者們提出了一種基于LWE問題的簡化門限FHE加密方案FHE的安全性分析精確FHE方案（如BFV、BGV和TFHE）也容易受到????攻擊提出了一種改進的FHE方案，通過引入可驗證性機制，超越了傳統(tǒng)IND-CCA1安全性模型提出了PELTA機制，通過零知識證明和一系列的驗證機制抵御惡意參與者的攻擊FHE的標準化統(tǒng)一的中間表示方法HEIR、新型的明文編碼方案VERITAS、專為FHE設計的編譯器HECOFHE在機器學習領域的應用在深度神經(jīng)網(wǎng)絡、在卷積神經(jīng)網(wǎng)絡、算法方面提高了計算效率神經(jīng)網(wǎng)絡推理方面提出了一種創(chuàng)新的方法NeuJeans，通過聯(lián)合優(yōu)化卷積操作和Bootstrapping，解決了隱私保護神經(jīng)網(wǎng)絡推理中的效率問題。FHE的其他應用轉(zhuǎn)密、PSU、數(shù)據(jù)存儲與檢索加速FHE運算的硬件加速器、高效可擴展的數(shù)據(jù)庫系統(tǒng)、利用同態(tài)加密的單服務器PIR方案.量子全同態(tài)方案的安全性和實用性產(chǎn)生了重要的改進2024全球隱私計算報告差分隱私DP研究動態(tài)新DP定義,

4DP應用,

9DP結(jié)合其他技術,

4DP-SGD相關研究,

5DP理論研究,13本地DP,

6其他,

7主要集中在用戶級差分隱私和本地差分隱私。用戶級差分隱私：Dong等人研究了針對用戶級差分隱私的持續(xù)觀察機制，這些機制無需對數(shù)據(jù)進行先驗限制，并在效用上接近靜態(tài)情況的最優(yōu)值。本地差分隱私：基于鏈接的局部差分隱私方法，可以保護圖中鏈接的隱私；針對本地差分隱私頻繁項集挖掘協(xié)議的數(shù)據(jù)投毒攻擊；首個在本地差分隱私下進行數(shù)據(jù)挖掘任務的方法LDP-RM；優(yōu)化局部差分隱私協(xié)議中的頻率估計問題的卷積框架等。DP論文分類統(tǒng)計研究熱點各研究方向進展針對差分隱私的定義，可提出新的模型，并定義新的差分隱私算法，使其滿足差分隱私定義，且有某些方面的改進與提升。Ji等人提出的R1MSG機制，通過使用一種特殊的低秩協(xié)方差矩陣，顯著降低了精度損失，且能生成更穩(wěn)定的噪聲。差分隱私的應用或是差分隱私與其他隱私計算技術結(jié)合后的應用，得到了研究者廣泛關注。差分隱私與零知識證明：Biswas等人提出了一種可驗證的差分隱私計數(shù)查詢機制，要求發(fā)布方生成零知識證明，確保輸出既符合差分隱私，同時又能保證不暴露任何隨機性信息。差分隱私與安全多方計算：Wei等人將差分隱私用于安全多方計算，可以較快地生成安全參數(shù)較高的離散高斯樣本。差分隱私與聯(lián)邦學習：跨機構(gòu)聯(lián)邦學習中實現(xiàn)記錄級個性化差分隱私的rPDP-FL框架、PrivateFL方法改進了差分隱私用于聯(lián)邦學習時的精度下降。差分隱私與機器學習：評估不同的差分隱私算法在圖像分類任務中的效用和抵御成員推理攻擊的能力的評估工具DPMLBench、模型在面對差分隱私引入的噪聲時能夠保持更好的性能的新技術DPAdapter，還有一些差分隱私用于機器學習的新算法等。其他：差分隱私應用于側(cè)信道的研究、差分隱私與其他數(shù)學模型結(jié)合等。有部分研究對經(jīng)典的DP-SGD算法進行了更深入的分析，比如“數(shù)據(jù)依賴”分析、驗證該算法的信息泄露、研究該算法梯度裁剪引入的偏差等。也有研究工作提出了更好的算法，比如Du等人提出了一種通過在語言模型前向傳播中直接擾動嵌入矩陣的差分隱私方法DP-Forward，與DP-SGD相比減少了計算和存儲成本；Feng等人提出了Spectral-DP算法，結(jié)合頻域梯度擾動和頻譜濾波，通過降低噪聲規(guī)模以提高效用。差分隱私理論方面的研究也有不少進展：在差分隱私的預算方面，近兩年的研究工作研究了如何解決預算管理不足、如何有效分配預算等問題。其他工作研究了差分隱私中最優(yōu)隨機化的構(gòu)建、錯誤界限改進、差分盲目性改進、審批機制改進、差分隱私和自適應數(shù)據(jù)在空間復雜度上的差異分析等問題。2024全球隱私計算報告聯(lián)邦學習FL研究動態(tài)隱私保護與差分隱私技術,

3中毒攻擊和后門攻擊的防御,12分布式模型更聯(lián)邦學習魯棒

新和安全聚合性和穩(wěn)健性,

2

協(xié)議,

4個性化聯(lián)邦學習和定制防御,6其它,

13*統(tǒng)計了2023與2024年發(fā)表在四大安全會議（CCS,

USENIXSecurity,

IEEE

S&P,

NDSS）上關于FL的論文，共36篇。截至本報告寫作之時，ASIACRYPT

2024的論文尚未公布，因此未加入統(tǒng)計。有些論文同時屬于多個類別，分類時存在重疊。FL論文分類統(tǒng)計各研究方向進展聯(lián)邦學習的隱私保護是其主要優(yōu)勢之一，差分隱私（DP）技術已經(jīng)被廣泛應用于保障用戶數(shù)據(jù)的安全。然而，DP帶來的精度損失和對異質(zhì)性數(shù)據(jù)的影響仍是待解決的挑戰(zhàn)例如，Yang等人通過個性化數(shù)據(jù)轉(zhuǎn)換減少了差分隱私引入的異質(zhì)性，從而提高聯(lián)邦學習模型的精度。Jiang等人提出了標簽分布擾動機制，實現(xiàn)個體隱私和標簽分布隱私的雙重保護聯(lián)邦學習容易受到中毒攻擊和后門攻擊威脅，攻擊者可以通過惡意客戶端修改模型更新?，F(xiàn)有的防御機制主要通過檢測惡意更新、限制更新空間或引入認證機制來提高魯棒性例如MESAS、RoFL、FedVal、FreqFed、CrowdGuard、AutoAdapt

、BackdoorIndicator、3DFed、BayBFed、FedRecover等多種防御框架被提出，被用于攻擊檢測、自適應工具防御、后門攻擊等各種復雜場景之下的攻擊防御。聯(lián)邦學習中的分布式模型更新和聚合協(xié)議旨在確?？蛻舳烁碌碾[私，同時抵御惡意客戶端的攻擊?，F(xiàn)有方法如安全聚合協(xié)議、基于概率的檢測機制提供了初步的解決方案，但面臨通信成本和計算效率的挑戰(zhàn)。例如，Ma等人提出

Flamingo協(xié)議，引入輕量級丟棄容錯機制，顯著提高了訓練效率，同時保持模型準確性。Rathee等人提出了ELSA安全聚合協(xié)議，專注于應對惡意行為者的存在，并通過創(chuàng)新的分布式信任機制保證了客戶端更新的隱私和防御惡意客戶端。聯(lián)邦學習的魯棒性設計旨在防御惡意更新和各種對抗性攻擊?，F(xiàn)有研究提出了基于認證、評分和排名的機制來提高FL模型的穩(wěn)健性。例如Xie等人探討了差分隱私與中毒攻擊認證魯棒性之間的內(nèi)在聯(lián)系。通過用戶級和實例級差分隱私的形式分析，研究提供了兩種魯棒性認證標準，并展示了如何在提高隱私保護的同時增強認證攻擊的無效性。Fang等人提出BALANCE算法，并通過理論和實驗結(jié)果證明了該算法在面對中毒攻擊時的有效性。個性化聯(lián)邦學習（PFL）允許每個客戶端根據(jù)自身的局部數(shù)據(jù)分布定制模型，提升個體性能。然而，這種個性化也為潛在攻擊者提供了新的攻擊向量，特別是后門攻擊等復雜威脅。例如，Lyu等人探討了個性化FL中的潛在后門攻擊，提出了PFedBA攻擊策略，通過優(yōu)化觸發(fā)器生成過程有效規(guī)避現(xiàn)有防御機制。Xu等人提出ACE攻擊，展示了惡意客戶端如何通過操控本地模型參數(shù)提升自身的貢獻評估，并探索了六種防御措施，結(jié)果顯示這些防御不足以阻止ACE攻擊。01020304052024全球隱私計算報告聯(lián)邦學習未來發(fā)展趨勢FL的應用場景正在不斷擴大，研究者正致力于開發(fā)更加智能和自適應的防御機制來應對復雜的攻擊。去中心化和個性化隱私保護技術、激勵機制、分布式架構(gòu)優(yōu)化等也將成為未來研究的重點，發(fā)展趨勢如下:未來的FL系統(tǒng)需要更智能的差分隱私應用，以在不顯著影響模型性能的前提下提高隱私保護的能力。個性化隱私保護方案將是一個重要的發(fā)展方向。隱私保護技術的進一步發(fā)展FL中的攻擊防御需要應對越來越復雜的自適應攻擊，特別是針對后門攻擊和中毒攻擊。新的防御策略應具備動態(tài)適應不同攻擊模式的能力。增強攻擊防御能力隨著FL應用場景的擴大，如何在大規(guī)模分布式系統(tǒng)中高效地進行安全聚合將成為一個關鍵問題。未來的研究可能會探索更加輕量化且魯棒的協(xié)議設計。高效、安全的聚合協(xié)議個性化模型訓練與全局魯棒性的平衡將是未來的研究重點。個性化技術將繼續(xù)發(fā)展，尤其是在保護安全的同時提高本地模型的性能。個性化與魯棒性的平衡2024全球隱私計算報告隱私計算產(chǎn)業(yè)應用分析Part

Fou第r四章2024全球隱私計算報告隱私計算產(chǎn)業(yè)市場分析隱私計算產(chǎn)業(yè)資本熱度有所降低，但隨著應用加深，新的增長機會不斷涌現(xiàn)，市場規(guī)模仍會持續(xù)增長。隱私計算市場規(guī)模/招標數(shù)量050100150200250020406080100120140160個市場規(guī)模招標項目數(shù)趨勢分析受整體經(jīng)濟環(huán)境，隱私計算產(chǎn)業(yè)資本熱度有所降低，資本逐漸回歸理性。隨著隱私計算技術成熟度和產(chǎn)業(yè)認知度逐漸提升，隱私計算產(chǎn)業(yè)仍處于快速增長階段，預計市場規(guī)模將進一步擴大。2021 2023 2025e數(shù)據(jù)來源：中國信通院、2023全球隱私計算報告增長機會隱私計算技術與前沿技術不斷融合，隱私計算技術與AI、云計算、區(qū)塊鏈等技術深度融合，多種技術融合的應用解決方案已逐漸成為各場景的主要技術應用模式，持續(xù)提高數(shù)據(jù)安全性和隱私性。隱私計算應用場景不斷深化，隱私計算在金融、醫(yī)療、政務、人工智能等業(yè)務場景不斷深化，各個業(yè)務場景均需多方數(shù)據(jù)的可信流通，實現(xiàn)數(shù)據(jù)價值釋放。數(shù)據(jù)要素流通促進隱私計算不斷發(fā)展，隨著各地公共數(shù)據(jù)授權(quán)運營機制逐漸完善，各方數(shù)據(jù)用戶意識到隱私計算成為必需投入的內(nèi)容。億元/人民幣隱私計算技術與前沿技術不斷融合，隱私計算技術與AI、云計算、區(qū)塊鏈等技術深度融合，多種技術融合的應用解決方案已逐漸成為各場景的主要技術應用模式，持續(xù)提高數(shù)據(jù)安全性和隱私性。隱私計算應用場景不斷深化，隱私計算在金融、醫(yī)療、政務、人工智能等業(yè)務場景不斷深化，各個業(yè)務場景均需多方數(shù)據(jù)的可信流通，實現(xiàn)數(shù)據(jù)價值釋放。數(shù)據(jù)要素流通促進隱私計算不斷發(fā)展，隨著各地公共數(shù)據(jù)授權(quán)運營機制逐漸完善，各方數(shù)據(jù)用戶意識到隱私計算成為必需投入的內(nèi)容。2024全球隱私計算報告典型案例：Apple-Private

Cloud

Compute平臺隱私成為云端智能計算的核心競爭力在日益重視隱私的時代，Private

Cloud

Compute提供了一種新模式，確保在享受云計算帶來的強大智能時，用戶的隱私和數(shù)據(jù)安全不會受到侵犯。這一模式使Apple成為了產(chǎn)業(yè)內(nèi)隱私保護領域的標桿。打破“隱私與智能化無法兼得”的認知傳統(tǒng)上，用戶常常認為要想獲得智能化的服務，必須犧牲部分隱私，而Apple的Private

Cloud

Compute平臺通過技術創(chuàng)新打破了這種矛盾，使得用戶能夠在不損害隱私的前提下，享受與日俱增的智能服務。推動產(chǎn)業(yè)隱私保護標準提升Private

Cloud

Compute的推出推動了云計算和AI產(chǎn)業(yè)的隱私保護標準，促使更多公司關注用戶數(shù)據(jù)隱私問題，進一步推動了全球數(shù)據(jù)

隱私保護法律法規(guī)的落實。適應AI時代的數(shù)據(jù)需求AI需要大量數(shù)據(jù)進行訓練和推理，而如何在不泄露隱私的前提下處理這些數(shù)據(jù)是一個巨大挑戰(zhàn)。Private

Cloud

Compute提供了一個新的解決方案，允許AI技術繼續(xù)進步的同時，不必擔心用戶隱私泄露。Private

Cloud

Compute是2024年Apple推出的云計算平臺，旨在提供強大的計算能力，同時確保用戶數(shù)據(jù)的隱私和安全。這個平臺標志著Apple在隱私保護領域的進一步創(chuàng)新。該平臺是Apple基于其強大的隱私保護傳統(tǒng)，構(gòu)建的一個全新云計算架構(gòu)。它將iPhone等本地設備上已有的隱私保護措施擴展到了云端計算環(huán)境中。該平臺的設計理念是通過確保數(shù)據(jù)隱私，使用戶可以在不暴露個人數(shù)據(jù)的前提下，享受人工智能和云計算技術帶來的智能服務。案例亮點 平臺意義本地級別的隱私保護擴展到云端Private

Cloud

Compute將Apple在設備端的隱私保護技術（如差分隱私、設備端處理、端對端加密等）無縫擴展到云端。這樣，用戶的數(shù)據(jù)即使在云端進行處理，依然享有與本地設備上同等的隱私保護。加密處理與計算平臺采用先進的同態(tài)加密和多方安全計算技術，確保數(shù)據(jù)在加密狀態(tài)下依然可以進行處理和分析。這意味著即使在云端，數(shù)據(jù)也不會被解密，從而實現(xiàn)完全的數(shù)據(jù)隱私保護。差分隱私技術Private

Cloud

Compute平臺利用差分隱私技術，通過在數(shù)據(jù)中加入噪聲確保單個用戶的隱私。即使大量數(shù)據(jù)被用于AI訓練或統(tǒng)計分析，個人數(shù)據(jù)仍然難以被識別或追蹤。個性化與隱私的平衡用戶可以通過平臺享受個性化服務，比如廣告推薦、智能助手等，而這些服務不需要實際讀取或存儲用戶的個人數(shù)據(jù)。所有個性化推薦和分析均在加密數(shù)據(jù)上完成，保護了用戶的隱私。端到端加密保障所有用戶與云端之間的數(shù)據(jù)傳輸都經(jīng)過端到端加密，確保數(shù)據(jù)在傳輸過程中無法被竊取或篡改。無論是用戶的輸入還是云端計算的輸出，Apple都保證數(shù)據(jù)始終處于加密狀態(tài)。2024全球隱私計算報告典型案例：Firefox-Privacy-Preserving

Attribution保障用戶隱私在數(shù)字化時代，用戶數(shù)據(jù)成為了最重要的資源之一，如何保護用戶隱私不被濫用是整個產(chǎn)業(yè)的難題。PPA平臺通過技術手段在不獲取用戶原始數(shù)據(jù)的前提下，實現(xiàn)高效的數(shù)據(jù)歸因，解決了隱私保護與數(shù)據(jù)利用之間的矛盾，極大提高了用戶對廣告和數(shù)據(jù)分析平臺的信任度。推動合規(guī)發(fā)展隨著各國對數(shù)據(jù)隱私監(jiān)管的不斷加強，企業(yè)面臨的合規(guī)壓力日益增大。PPA平臺的隱私保護機制使其能夠適應全球范圍內(nèi)不同的隱私法律要求，幫助企業(yè)規(guī)避法律風險。同時，該平臺也促進了隱私保護技術的應用和發(fā)展，推動了整個產(chǎn)業(yè)的合規(guī)進程。提升數(shù)據(jù)利用效率通過隱私保護技術，PPA平臺解決了以往歸因分析中的數(shù)據(jù)孤島問題，使得不同平臺的數(shù)據(jù)可以安全共享與交互，最終提高了數(shù)據(jù)利用的效率和歸因分析的準確性。這對于廣告主來說，意味著可以更好地評估廣告投放效果，優(yōu)化營銷策略，最大化廣告投入回報率。產(chǎn)業(yè)創(chuàng)新的標桿作為一種新型的隱私保護解決方案，PPA平臺樹立了產(chǎn)業(yè)創(chuàng)新的標桿。其應用不僅局限于廣告歸因，還可以擴展到金融、醫(yī)療等需要保護隱私的產(chǎn)業(yè)，具有廣泛的應用前景。案例亮點Privacy-Preserving

Attribution（PPA，隱私保護歸因）平臺是一種基于隱私保護技術的歸因分析解決方案，主要用于在線廣告和數(shù)據(jù)分析。對于用戶數(shù)據(jù)隱私問題，PPA在不侵犯用戶隱私的情況下，提供高效、準確的歸因和分析功能。該平臺利用安全多方計算、同態(tài)加密和差分隱私等技術，確保用戶數(shù)據(jù)始終加密或混淆，甚至連運營方也無法訪問。PPA通過去中心化的數(shù)據(jù)處理機制，避免用戶行為數(shù)據(jù)集中在少數(shù)公司手中，增強了數(shù)據(jù)處理的安全性和分析的透明度與公平性，同時遵守嚴格的數(shù)據(jù)隱私法規(guī)。平臺意義隱私保護為核心PPA平臺的最大亮點在于其隱私保護技術。通過安全多方計算、差分隱私等技術，即使是平臺運營方或廣告主也無法獲得用戶的真實數(shù)據(jù)，確保了用戶隱私的高度安全性。這種隱私保護的特性使得PPA平臺在歐盟的GDPR、美國的CCPA等嚴格的隱私法下仍然能合法合規(guī)地運營。多方參與的數(shù)據(jù)處理平臺采用了分布式數(shù)據(jù)處理模式，保證了數(shù)據(jù)的多方所有權(quán)，消除了數(shù)據(jù)集中帶來的隱私風險。此外，各個數(shù)據(jù)所有方只參與歸因分析，而不暴露任何原始數(shù)據(jù)，這種分布式計算模式大大降低了潛在的數(shù)據(jù)泄露風險。數(shù)據(jù)歸因的精確性和實時性盡管隱私保護措施使數(shù)據(jù)處理復雜化，但PPA平臺在保證隱私的同時，仍然能提供高精度的歸因分析結(jié)果。廣告主能夠通過該平臺實時跟蹤廣告投放效果，了解用戶行為路徑，從而優(yōu)化廣告策略并提升廣告投放效果?？缙脚_協(xié)作能力PPA平臺支持多個廣告網(wǎng)絡和用戶行為追蹤工具之間的協(xié)作，打破了傳統(tǒng)廣告歸因方法中的“數(shù)據(jù)孤島”現(xiàn)象。不同廣告渠道和數(shù)據(jù)源可以安全地共享數(shù)據(jù)，增強了數(shù)據(jù)的整合能力，為廣告主提供更為全面的歸因分析結(jié)果。2024全球隱私計算報告典型案例：聯(lián)通數(shù)科-企業(yè)股權(quán)交易平臺在股權(quán)交易場景中，股交中心節(jié)點使用隱私求交算法，從普惠征信節(jié)點通過匿蹤查詢技術查詢該企業(yè)的稅務流水、水電氣交易流水以及銀行交易流水數(shù)據(jù)，驗證企業(yè)真實經(jīng)營狀況應用成效提升整體股權(quán)交易效率通過隱私計算技術，在確保企業(yè)經(jīng)營數(shù)據(jù)安全的前提下，從征信公司的業(yè)務系統(tǒng)中調(diào)取數(shù)據(jù)并對企業(yè)提交數(shù)據(jù)進行自動核驗，降低信息核驗的人工成本，減少手工流程，避免操作風險，提升整體股權(quán)交易效率。

保障企業(yè)經(jīng)營數(shù)據(jù)安全可信利用區(qū)塊鏈技術為中小企業(yè)的經(jīng)營數(shù)據(jù)進行背書，為當前股權(quán)交易市場數(shù)據(jù)披露、資金托管等方面的信息不對稱問題提供助力，對于加強市場穩(wěn)定性建設、改進市場監(jiān)督管理機制具有重要意義。

隱私計算過程安全可靠將隱私計算和區(qū)塊鏈相結(jié)合，既能在數(shù)據(jù)共享過程中有效保護敏感數(shù)據(jù)，實現(xiàn)數(shù)據(jù)的安全流通，還能為數(shù)據(jù)的真實性、數(shù)據(jù)確權(quán)等合規(guī)問題提供可行解決方案，實現(xiàn)隱私計算全流程可記錄、可驗證、可追溯、可審計。保障企業(yè)經(jīng)營數(shù)據(jù)安全可信利用區(qū)塊鏈技術為中小企業(yè)的經(jīng)營數(shù)據(jù)進行背書，為當前股權(quán)交易市場數(shù)據(jù)披露、資金托管等方面的信息不對稱問題提供助力，對于加強市場穩(wěn)定性建設、改進市場監(jiān)督管理機制具有重要意義。隱私計算過程安全可靠將隱私計算和區(qū)塊鏈相結(jié)合，既能在數(shù)據(jù)共享過程中有效保護敏感數(shù)據(jù)，實現(xiàn)數(shù)據(jù)的安全流通，還能為數(shù)據(jù)的真實性、數(shù)據(jù)確權(quán)等合規(guī)問題提供可行解決方案，實現(xiàn)隱私計算全流程可記錄、可驗證、可追溯、可審計。應用架構(gòu)隱私計算平臺江西股權(quán)交易中心節(jié)點企業(yè)信息、展示信息是否完善？（上鏈存儲）江西普惠征信公司計算節(jié)點企業(yè)是否有近三年稅務流水、水電氣繳費流水、銀行流水數(shù)據(jù)（上鏈存儲）隱私求交算法、匿蹤查詢算法江西股交中心業(yè)務系統(tǒng)（股權(quán)托管平臺、企業(yè)掛牌展示平臺、金融資產(chǎn)交易平臺）區(qū)塊鏈平臺可信存證企業(yè)補充資材料企業(yè)填寫申報信息預判段：是否可以掛牌？顯示審批結(jié)果：是否：人工復審是企業(yè)填報數(shù)據(jù)存證審核結(jié)果數(shù)據(jù)存證補充資料數(shù)據(jù)存證統(tǒng)一門戶網(wǎng)站移動app2024全球隱私計算報告典型案例：金智塔科技-基于隱私計算的省市縣三級數(shù)據(jù)融合計算平臺應用成效在“中小企業(yè)經(jīng)營現(xiàn)狀分析”場景，有效解決浙江省金監(jiān)局和國網(wǎng)浙江電力間跨地域數(shù)據(jù)的安全融合計算，精準識別20多萬企業(yè)的生產(chǎn)與經(jīng)營現(xiàn)狀，從而提供全方位、實時的評分服務，有效化解企業(yè)融資難、融資貴的難題，為中小微企業(yè)的壯大發(fā)展提供有力支持，促進社會經(jīng)濟的高質(zhì)量發(fā)展；在“危化品車輛違規(guī)?？啃袨榉治觥眻鼍?，合規(guī)融合浙江省稅務局和浙江省交通廳數(shù)據(jù)，每日計算量8000萬，篩出車輛可疑停靠點，為治理油品的偷稅漏稅提供高價值線索；在“產(chǎn)業(yè)數(shù)據(jù)研究”場景，安全合規(guī)融合浙江省統(tǒng)計局、浙江省經(jīng)信廳及社會數(shù)據(jù)，助力深入分析產(chǎn)業(yè)發(fā)展現(xiàn)狀，為制定精準產(chǎn)業(yè)幫扶政策提供有力的數(shù)據(jù)支撐。針對公共數(shù)據(jù)安全共享難題，金智塔科技聯(lián)合浙江省數(shù)據(jù)局等建設基于隱私計算的省市縣三級數(shù)據(jù)融合計算平臺。該平臺已在浙江省數(shù)據(jù)局、浙江省稅務局、浙江省統(tǒng)計局、國網(wǎng)浙江電力、浙江銀保監(jiān)局等省市縣單位部署100多個節(jié)點，并與移動運營商、征信公司等社會機構(gòu)進行安全聯(lián)合計算，先后在

“中小企業(yè)經(jīng)營現(xiàn)狀分析”、“?；奋囕v違規(guī)停靠行為分析”、“產(chǎn)業(yè)數(shù)據(jù)研究”等幾十個場景展開應用，已實現(xiàn)300多億數(shù)據(jù)量共享服務。應用架構(gòu)2024全球隱私計算報告典型案例：馬上消費-以隱私計算助力金融黑灰產(chǎn)治理馬上消費于2022年聯(lián)合多家金融機構(gòu)成立了打擊金融領域黑產(chǎn)聯(lián)盟（AIF聯(lián)盟），旨在通過數(shù)據(jù)共享平臺建設，實現(xiàn)對金融黑產(chǎn)的有效打擊，維護產(chǎn)業(yè)利益。2023年8月，AIF聯(lián)盟自主開發(fā)的“愛馬平臺”正式上線，該平臺基于馬上消費自主研發(fā)的隱私計算平臺，采用多方安全計算和聯(lián)邦學習技術，實現(xiàn)了黑產(chǎn)數(shù)據(jù)的高效碰撞與識別，協(xié)助警方有效打擊金融黑灰產(chǎn)，取得了突破性成果。亮點和成效門限求交助力金融隱私保護馬上消費提出了一種基于離散對數(shù)問題的門限隱私集合求交算法，使參與方在無須第三方信任節(jié)點的情況下，安全計算滿足閾值的最大交集，抵御攻擊模型，保護數(shù)據(jù)隱私，確保中間數(shù)據(jù)安全，且計算效率高，不受參與方數(shù)量影響，可用于識別跨機構(gòu)的惡意行為者，幫助金融機構(gòu)協(xié)作打擊金融黑灰產(chǎn)。愛馬平臺打擊金融黑灰產(chǎn)AIF

聯(lián)盟的

“愛馬平臺”

利用隱私計算技術，通過求交方式挖掘黑灰產(chǎn)線索。在打擊非法代理維權(quán)場景中，以用戶手機號等為例，在多個參與方中找出滿足特定條件的交集數(shù)據(jù)，即黑灰產(chǎn)線索，同時保證各參與方非交集部分數(shù)據(jù)不被泄露，并建立多方黑產(chǎn)線索碰撞機制，全面防范和協(xié)助警方打擊金融黑灰產(chǎn)。AIF聯(lián)盟打擊金融黑灰產(chǎn)成效至2024年，AIF聯(lián)盟已吸引包括銀行、互金、保險、小貸在內(nèi)的129家機構(gòu)加入，共同推進了60起非法代理維權(quán)案件的受理，其中14起為刑事案件，促使警方對172名金融黑產(chǎn)人員采取了強制措施。試運行期間，22家成員機構(gòu)導入了87580條黑灰產(chǎn)數(shù)據(jù)，發(fā)起了145次掃描任務，挖掘出1150條黑灰產(chǎn)線索。應用架構(gòu)隱私計算運營平臺黑產(chǎn)求交黑產(chǎn)求并安全協(xié)議存證模塊黑產(chǎn)掃描黑產(chǎn)聚合打擊跟蹤成員管理黑產(chǎn)掃描結(jié)果黑產(chǎn)聚合結(jié)果AIF成員1AIF成員2AIF成員3AIF成員3密文黑 計算名單密文黑 計算名單密文黑 計算名單密文黑 計算名單查詢方被同一黑產(chǎn)攻擊的企業(yè)，可聯(lián)合打擊平臺求交計算后發(fā)現(xiàn)AIF成員2和AIF成員4被同一黑產(chǎn)攻擊，打標后發(fā)起聯(lián)合打擊建議。平臺求并計算獲得密文并集，基于該并集提供數(shù)據(jù)查詢服務，排除低營銷價值用戶。AIF系統(tǒng)平臺運營中心2024全球隱私計算報告典型案例：螞蟻集團-基于醫(yī)保

DRGs

建模的螞蟻隱私計算智能服務平臺該案例通過隱私計算技術向醫(yī)療機構(gòu)提供患者數(shù)據(jù)不出域的本地模型訓練的功能，以提升醫(yī)療診斷分類預測效果的準確性，解決單家醫(yī)院因為數(shù)據(jù)樣本少、疾病覆蓋量小導致的醫(yī)療診斷分類（DRGs）準確性不高等問題。應用成效應用架構(gòu)訓練節(jié)點本地模型工作節(jié)點本地模型模型下載參數(shù)上傳DRGs組1DRGs組…DRGs組3標準：10000塊闌尾切除消化道惡性腫瘤標準：58000塊病人B病人C病人A病人D3萬+診斷2萬+手術

幾十億種組合幾千個組別服務管理隱私計算平臺模型開發(fā)服務監(jiān)控模型參數(shù)安全保護全局模型醫(yī)療機構(gòu)A醫(yī)療機構(gòu)B訓練樣本導入在線數(shù)據(jù)導入訓練節(jié)點本地模型工作節(jié)點本地模型訓練樣本導入在線數(shù)據(jù)導入任務下發(fā)參數(shù)上傳任務下發(fā)應用接入應用接入確保各方醫(yī)療數(shù)據(jù)安全基于隱私保護計算技術實現(xiàn)的聯(lián)合DRG建模方式，在患者方面，加強了數(shù)據(jù)授權(quán)和流轉(zhuǎn)的立法保護和實際落地，保護了患者醫(yī)療數(shù)據(jù)和個人信息的安全性；在醫(yī)療機構(gòu)方面，提供了更安全的數(shù)據(jù)不出本地的共享方式，保障機構(gòu)數(shù)據(jù)利益的同時充分釋放了數(shù)據(jù)價值。降低成本，提升資源利用率DRG支付模式的優(yōu)勢一是能夠減少對藥品、耗材、大型建設設備的不合理使用，減少過度醫(yī)療，有效降低患者醫(yī)療成本、減輕患者經(jīng)濟負擔；二是提高醫(yī)療機構(gòu)醫(yī)療資源利用率，有利于促進醫(yī)療服務公開透明，有效規(guī)范醫(yī)療機構(gòu)的醫(yī)療服務行為，有效提高醫(yī)療服務質(zhì)量；三是醫(yī)?；鸩怀В︶t(yī)?？刭M。2024全球隱私計算報告

隱私計算與人工智能Part

Fiv第e五章2024全球隱私計算報告隱私保護機器學習PPML在醫(yī)療、金融、社交網(wǎng)絡等領域，隱私保護技術的應用顯著提升了產(chǎn)業(yè)效率，推動了數(shù)據(jù)共享與協(xié)作的安全性，加速了智能化產(chǎn)業(yè)變革，同時促進了新技術與傳統(tǒng)業(yè)務模式的深度融合。通過整合不同領域的數(shù)據(jù)來學習多樣化的數(shù)據(jù)特征，增強模型性能和泛化能力允許研究人員和開發(fā)者訪問不同地區(qū)的獨特數(shù)據(jù)集，加速創(chuàng)新和研究促進國際合作跨域數(shù)據(jù)共享的重要性Cambridge

Analytica事件（2018年）：未經(jīng)用戶許可通過Facebook非法收集了8700萬用戶的個人信息進行政治廣告定向推送。Google與Ascension醫(yī)療數(shù)據(jù)共享（2019年）：獲得了數(shù)百萬患者的健康記錄。Clearview

AI的面部識別數(shù)據(jù)濫用（2020年）：抓取了大量社交媒體上的個人照片，創(chuàng)建了一個全球性的人臉數(shù)據(jù)庫。LinkedIn數(shù)據(jù)抓取與濫用（2021年）：超過7億LinkedIn用戶的數(shù)據(jù)被非法抓取并在黑市出售（雖然這些數(shù)據(jù)來自公開資料）。WhatsApp數(shù)據(jù)共享爭議（2021年）：WhatsApp計劃將更多的用戶數(shù)據(jù)共享給其母公司Facebook。Anthropic

數(shù)據(jù)泄露（2024年）：一名承包商錯誤地將客戶的信息通過電子郵件發(fā)送給了不該訪問這些數(shù)據(jù)的第三方。隱私保護機器學習（Privacy-PreservingMachineLearning,PPML）是一種結(jié)合人工智能（AI）和隱私計算技術的機器學習方法，其目的是在不泄露敏感數(shù)據(jù)的情況下訓練或評估。隱私計算賦予人工智能“數(shù)據(jù)可用不可見”的能力，實現(xiàn)數(shù)據(jù)共享使用，從而更好地發(fā)揮出數(shù)據(jù)在人工智能領域發(fā)展中的支撐性作用。機器學習在各領域快速發(fā)展 敏感數(shù)據(jù)的濫用2024全球隱私計算報告隱私保護機器學習面臨三大風險數(shù)據(jù)集泄漏風險模型訓練過程中，存在通過在線監(jiān)控來獲取數(shù)據(jù)集的隱私數(shù)據(jù)的風險;模型中存儲的數(shù)據(jù)，具備一定的可逆性，可以通過一些攻擊手段，如成員推理攻擊等手段，獲取模型內(nèi)存儲的隱私數(shù)據(jù)。模型魯棒性風險AI系統(tǒng)在其整個生命周期中，從數(shù)據(jù)收集到模型訓練和推理階段，容易受到各種安全威脅。敵手可以通過誘導生成錯誤、具有后門的模型，來向用戶提供誤導性AI服務。AI模型提供的服務，尤其是金融、醫(yī)療等領域，用戶數(shù)據(jù)具備高隱私性。直接將用戶數(shù)據(jù)發(fā)送給模型提供方，會令模型提供方獲取到隱私數(shù)據(jù)。數(shù)據(jù)推理隱私泄漏風險數(shù)據(jù)推理模型訓練2024全球隱私計算報告隱私保護機器學習應用快速增長隱私保護機器學習的概念最早出現(xiàn)在2016年，經(jīng)過9年的發(fā)展，目前已經(jīng)成為安全領域最為熱門的方向之一。6117546682015002070273001000200030004000500060007000 6700 8000201620172022 2023-20242018 2019 2020 2021PPML應用英文文獻按年發(fā)表數(shù)量隱私保護機器學習研究領域處于上升期，研究熱度逐年增加。對谷歌學術、dblp等多個論文數(shù)據(jù)索引工具進行整理后表明，隱私保護機器學習應用性的工作在2016～2020呈現(xiàn)快速增長，20-23年呈現(xiàn)緩慢增長。其中，23年發(fā)表的文章數(shù)量為3657，24年截止年中（9月份）為3003篇。據(jù)不完全統(tǒng)計，截至目前，隱私保護機器學習英文文獻相關工作成果14522個。物聯(lián)網(wǎng)與智能設備，區(qū)塊鏈與數(shù)字貨幣或成為主流隱私保護機器學習應用。對所有2023-2024隱私保護機器學習應用文獻進行分類，結(jié)果表明區(qū)塊鏈與數(shù)字貨幣占比最高，其包括了數(shù)字貨幣交易隱私保護、供應鏈追蹤、去中心交易、身份驗證等多種應用場景。物聯(lián)網(wǎng)與智能設備成為第二大應用領域，覆蓋如IoT系統(tǒng)，智能穿戴設備等多用途。此外，隱私保護機器學習用于醫(yī)療信息學、圖像分類診斷、衛(wèi)生保健等用處占比19%。27%1