騰訊隱私計(jì)算白皮書2021

1、目 錄一、隱私計(jì)算成為釋放數(shù)據(jù)融合價(jià)值的助推器 06 HYPERLINK l _TOC_250016 （一）數(shù)據(jù)融合應(yīng)用需求迫切，兼顧發(fā)展與安全合規(guī)成為行業(yè)命題 06（二）隱私計(jì)算應(yīng)運(yùn)而生，成為數(shù)據(jù)協(xié)作過程中保護(hù)多方數(shù)據(jù)權(quán)益的技術(shù)解 08 HYPERLINK l _TOC_250015 二、隱私計(jì)算三大流派交織演進(jìn)，和區(qū)塊鏈融合成為主流方向 10 HYPERLINK l _TOC_250014 （一）聯(lián)邦學(xué)習(xí)助力實(shí)現(xiàn)多方聯(lián)合機(jī)器學(xué)習(xí) 10（二）安全多方計(jì)算提供更加安全的聯(lián)合數(shù)據(jù)分析能力 12（三）可信計(jì)算助力隱私計(jì)算服務(wù)安全高效運(yùn)行 13 HYPERLINK l _TOC_250013 （四）

2、隱私計(jì)算融合區(qū)塊鏈提升數(shù)據(jù)協(xié)作全流程保護(hù)能力 16 HYPERLINK l _TOC_250012 三、數(shù)據(jù)協(xié)作需求推動(dòng)隱私計(jì)算應(yīng)用從金融、醫(yī)療等向其他行業(yè)延伸 18 HYPERLINK l _TOC_250011 （一）金融 18 HYPERLINK l _TOC_250010 （二）醫(yī)療 19 HYPERLINK l _TOC_250009 （三）政務(wù) 20 HYPERLINK l _TOC_250008 （四）廣告 21 HYPERLINK l _TOC_250007 四、隱私計(jì)算助力數(shù)據(jù)安全合規(guī)的價(jià)值凸顯，但仍存在較大提升空間 22 HYPERLINK l _TOC_250006 （一

3、）隱私計(jì)算有望成為數(shù)據(jù)協(xié)作過程中數(shù)據(jù)合規(guī)和隱私保護(hù)的技術(shù)工具 22 HYPERLINK l _TOC_250005 （二）隱私計(jì)算的推廣應(yīng)用仍存在合規(guī)痛點(diǎn) 24 HYPERLINK l _TOC_250004 五、技術(shù)演進(jìn)、應(yīng)用拓展和法律完善將加速隱私計(jì)算商業(yè)化進(jìn)程 26 HYPERLINK l _TOC_250003 （一）效率、性能提升和技術(shù)融合將成為隱私計(jì)算產(chǎn)品化的主要方向 26 HYPERLINK l _TOC_250002 （二）隱私計(jì)算應(yīng)用場景不斷拓展，有望重塑數(shù)據(jù)使用模式 26 HYPERLINK l _TOC_250001 （三）隱私計(jì)算將通過助力法規(guī)政策落地促進(jìn)數(shù)據(jù)融合應(yīng)用

4、27 HYPERLINK l _TOC_250000 參考文獻(xiàn) 28一、隱私計(jì)算成為釋放數(shù)據(jù)融合價(jià)值的助推器（一）數(shù)據(jù)融合應(yīng)用需求迫切，兼顧發(fā)展與安全合規(guī)成為行業(yè)命題數(shù)據(jù)驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)蓬勃發(fā)展，數(shù)據(jù)安全合規(guī)成為焦點(diǎn)議題。伴隨著云計(jì)算、大數(shù)據(jù)、人工智能等新一代信息技術(shù)的落地應(yīng)用，數(shù)據(jù)作為戰(zhàn)略性和基礎(chǔ)性資源，不但是連接虛擬空間和實(shí)體空間的紐帶，也是數(shù)字經(jīng)濟(jì)體系中技術(shù)創(chuàng)新、需求挖掘、效率提升的重要?jiǎng)幽?。但?shù)據(jù)在不斷創(chuàng)造價(jià)值的同時(shí)，其安全保護(hù)、合規(guī)應(yīng)用等問題也成為政、產(chǎn)、學(xué)、研、用等各界關(guān)注的焦點(diǎn)。一是數(shù)據(jù)發(fā)揮價(jià)值需要融合應(yīng)用。數(shù)據(jù)跨層級(jí)、跨地域、跨系統(tǒng)、跨部門、跨業(yè)務(wù)的融合應(yīng)用才能推動(dòng)新模式、新應(yīng)用、

5、新業(yè)態(tài)的不斷涌現(xiàn)，加速數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展。二是數(shù)據(jù)可復(fù)制、可傳輸?shù)忍匦云诖嘣獎(jiǎng)?chuàng)新的安全合規(guī)手段。數(shù)據(jù)的應(yīng)用會(huì)涉及政府、社會(huì)、企業(yè)、個(gè)人等多方主體權(quán)益，關(guān)系到國家安全、經(jīng)濟(jì)運(yùn)行、社會(huì)治理、個(gè)人權(quán)益等多主體，需要?jiǎng)?chuàng)新安全管理模式。三是數(shù)據(jù)的價(jià)值發(fā)揮和安全合規(guī)需要尋求動(dòng)態(tài)平衡點(diǎn)。數(shù)據(jù)治理體系搭建需要兼顧發(fā)展和安全的平衡，既要保護(hù)數(shù)據(jù)主體的權(quán)益，也要實(shí)現(xiàn)公共利益和社會(huì)福利的最大化。多方主體的數(shù)據(jù)協(xié)作成為趨勢，數(shù)據(jù)安全合規(guī)風(fēng)險(xiǎn)亟需消除。當(dāng)前，全球數(shù)據(jù)總量呈現(xiàn)指數(shù)性增長態(tài)勢，但從現(xiàn)階段數(shù)據(jù)的從屬來看，海量數(shù)據(jù)散落于不同的組織機(jī)構(gòu)和信息系統(tǒng)中，即使是同一區(qū)域、產(chǎn)業(yè)和企業(yè)，也仍存在 “數(shù)據(jù)孤島”問題。多方的數(shù)

6、據(jù)協(xié)作已經(jīng)成為醫(yī)療、工業(yè)、零售、金融、政務(wù)等領(lǐng)域挖掘數(shù)據(jù)價(jià)值的重要路徑，聚合態(tài)體系中的多方數(shù)據(jù)進(jìn)行聯(lián)合建模分析也是當(dāng)下放大數(shù)據(jù)價(jià)值的必然選擇，但數(shù)據(jù)安全和合規(guī)仍是多方主體數(shù)據(jù)協(xié)作過程中的痛點(diǎn)問題。一方面缺乏能夠兼顧安全合規(guī)和數(shù)據(jù)協(xié)作的合作機(jī)制與技術(shù)路徑，無法消除數(shù)據(jù)主體之間對(duì)商業(yè)秘密泄露風(fēng)險(xiǎn)、商業(yè)利益分配等方面的信任鴻溝，傳統(tǒng)的數(shù)據(jù)保護(hù)方案往往適用于單一的信息系統(tǒng)或者有可能降低數(shù)據(jù)可用性，導(dǎo)致無法滿足現(xiàn)有的智慧醫(yī)療、智慧金融、數(shù)字政府等涉及跨系統(tǒng)的業(yè)務(wù)形態(tài)。另一方面黑灰產(chǎn)、隱私保護(hù)等問題也為不同主體的數(shù)據(jù)協(xié)作帶來挑戰(zhàn)。由于黑灰產(chǎn)的存在，不但加大了企業(yè)的數(shù)據(jù)保護(hù)成本，也擴(kuò)大了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。此外

7、，由于企業(yè)的數(shù)據(jù)也會(huì)包含用戶個(gè)人信息，在協(xié)作過程中如何有效進(jìn)行個(gè)人信息保護(hù)也是數(shù)據(jù)價(jià)值挖掘的難點(diǎn)。數(shù)據(jù)法律體系日益完善，推動(dòng)企業(yè)加速構(gòu)建數(shù)據(jù)應(yīng)用安全合規(guī)體系。近年來，數(shù)據(jù)保護(hù)成為全球關(guān)注的焦點(diǎn)，一方面，數(shù)據(jù)保護(hù)法律法規(guī)體系逐漸清晰完善。領(lǐng)先國家紛紛出臺(tái)數(shù)據(jù)保護(hù)相關(guān)法律，歐盟早在2018年5月就出臺(tái)一般數(shù)據(jù)保護(hù)條例，旨在加強(qiáng)對(duì)歐盟境內(nèi)居民的個(gè)人數(shù)據(jù)和隱私保護(hù)。2020年，我國的民法典、出口管制法、數(shù)據(jù)安全法（草案）、個(gè)人信息保護(hù)法（草案）出臺(tái)或公布，不斷填補(bǔ)我國數(shù)據(jù)安全管理方面的空白，韓國在2020年1月份通過了新修訂的個(gè)人信息保護(hù)法、信用信息法、信息通信網(wǎng)法三部法律，隨后又對(duì)個(gè)人信息保護(hù)法執(zhí)行

8、令的相關(guān)內(nèi)容也進(jìn)行了修訂。美國繼2020年1月加州消費(fèi)者隱私法案生效后，2021年，弗吉尼亞州州長拉爾夫簽署了消費(fèi)者數(shù)據(jù)保護(hù)法，這使得弗吉尼亞州成為美國第二個(gè)制定全面隱私立法的州。另一方面，各國關(guān)于數(shù)據(jù)保護(hù)的監(jiān)管執(zhí)行日趨嚴(yán)格。根據(jù)跨國律師事務(wù)所DLA Piper公布的通用數(shù)據(jù)保護(hù)條例（GDPR）罰款和數(shù)據(jù)違規(guī)報(bào)告，2018年5月25日GDPR實(shí)施后，數(shù)據(jù)保護(hù)當(dāng)局已經(jīng)執(zhí)行了 2.725億歐元的罰款，涉及歐盟27個(gè)成員國以及英國、挪威、冰島和列支敦士登。其中，2020年1月28日以來執(zhí)行的罰款數(shù)額為1.585億歐元。（二）隱私計(jì)算應(yīng)運(yùn)而生，成為數(shù)據(jù)協(xié)作過程中保護(hù)多方數(shù)據(jù)權(quán)益的技術(shù)解 1、隱私計(jì)算基

9、本概念和現(xiàn)狀圖1 隱私計(jì)算體系架構(gòu)隱私計(jì)算（Privacy Computing）是一種由兩個(gè)或多個(gè)參與方聯(lián)合計(jì)算的技術(shù)和系統(tǒng)，參與方在不泄露各自數(shù)據(jù)的前提下通過協(xié)作對(duì)他們的數(shù)據(jù)進(jìn)行聯(lián)合機(jī)器學(xué)習(xí)和聯(lián)合分析。隱私計(jì)算的參與方既可以是同一機(jī)構(gòu)的不同部門，也可以是不同的機(jī)構(gòu)。在隱私計(jì)算框架下，參與方的數(shù)據(jù)明文不出本地，在保護(hù)數(shù)據(jù)安全的同時(shí)實(shí)現(xiàn)多源數(shù)據(jù)跨域合作，可以破解數(shù)據(jù)保護(hù)與融合應(yīng)用難題。常見的實(shí)現(xiàn)隱私計(jì)算的技術(shù)路徑包括聯(lián)邦學(xué)習(xí)、安全多方計(jì)算、可信計(jì)算等，此外區(qū)塊鏈也是隱私計(jì)算的重要補(bǔ)充。隱私計(jì)算也是當(dāng)前數(shù)據(jù)保護(hù)領(lǐng)域各界關(guān)注的熱點(diǎn)。在學(xué)術(shù)界，近年來有關(guān)隱私計(jì)算的學(xué)術(shù)會(huì)議和論文呈現(xiàn)爆發(fā)式增長，例如，中

10、國計(jì)算機(jī)學(xué)會(huì)多次組織隱私計(jì)算技術(shù)研討會(huì)，在國際頂級(jí)學(xué)術(shù)會(huì)議上（如NeurIPS, ICML, AAAI, IJCAI等）也多次出現(xiàn)有關(guān)隱私計(jì)算技術(shù)的專題研討會(huì)，每年出現(xiàn)的與隱私計(jì)算相關(guān)的學(xué)術(shù)論文也呈指數(shù)增長（平均每年都超過一千篇）。產(chǎn)業(yè)界愈加關(guān)注隱私計(jì)算技術(shù)和產(chǎn)品，由中國信息通信研究院牽頭成立的“隱私計(jì)算聯(lián)盟”有六十多家成員單位，包括大型互聯(lián)網(wǎng)公司、金融機(jī)構(gòu)、初創(chuàng)型科技公司等企業(yè)。各企業(yè)單位都爭相投入隱私計(jì)算研發(fā)和產(chǎn)品化工作，有多家公司都推出了自己的隱私計(jì)算平臺(tái)產(chǎn)品，并開始進(jìn)行隱私計(jì)算在金融、醫(yī)療等領(lǐng)域的商用落地。政府部門和監(jiān)管機(jī)構(gòu)也非常重視隱私計(jì)算技術(shù)的發(fā)展，一方面希望能夠通過隱私計(jì)算技術(shù)推

11、進(jìn)安全的數(shù)據(jù)協(xié)同應(yīng)用、推動(dòng)數(shù)據(jù)經(jīng)濟(jì)發(fā)展，另一方面也積極制定規(guī)范和指導(dǎo)意見，促進(jìn)隱私計(jì)算技術(shù)及產(chǎn)業(yè)健康發(fā)展，推動(dòng)合法、合規(guī)的數(shù)據(jù)協(xié)同應(yīng)用。2、隱私計(jì)算的主要作用對(duì)于個(gè)人消費(fèi)者而言，隱私計(jì)算應(yīng)用有助于保障個(gè)人信息安全。個(gè)人消費(fèi)者在享受數(shù)字經(jīng)濟(jì)便利與發(fā)展紅利的同時(shí)，個(gè)人信息也被采集和廣泛應(yīng)用，同時(shí)也面臨著信息泄露風(fēng)險(xiǎn)，而隱私計(jì)算在很多場景的應(yīng)用，可以提升對(duì)個(gè)人信息的保護(hù)水平，降低個(gè)人信息在應(yīng)用過程中泄露的風(fēng)險(xiǎn)。例如歐洲的 MELLODDY項(xiàng)目中，多家藥企正在探索借助隱私計(jì)算和區(qū)塊鏈來進(jìn)行的基于AI的藥物研發(fā)，不同于所有數(shù)據(jù)收集到一個(gè)集中的位置進(jìn)行訓(xùn)練，借助隱私計(jì)算只需在本地設(shè)備上訓(xùn)練AI模型，然后將

12、這些學(xué)習(xí)結(jié)果傳輸回一個(gè)全局模型，而數(shù)據(jù)不需要離開任何特定的設(shè)備，并且可以通過區(qū)塊鏈保持對(duì)數(shù)據(jù)的可控性，實(shí)現(xiàn)對(duì)診斷數(shù)據(jù)、健康數(shù)據(jù)等的保護(hù)。對(duì)于企業(yè)和機(jī)構(gòu)而言，隱私計(jì)算是數(shù)據(jù)協(xié)作過程中履行數(shù)據(jù)保護(hù)義務(wù)的關(guān)鍵路徑。一方面，在企業(yè)內(nèi)借助隱私計(jì)算，能夠切實(shí)保護(hù)企業(yè)在采集、存儲(chǔ)、分析等過程中的關(guān)鍵信息、商業(yè)秘密等數(shù)據(jù)，既能保護(hù)企業(yè)自身的利益，還能踐行企業(yè)的數(shù)據(jù)保護(hù)責(zé)任。另一方面，隱私計(jì)算能夠促進(jìn)企業(yè)的跨界數(shù)據(jù)合作，由于隱私計(jì)算能夠?qū)崿F(xiàn)數(shù)據(jù)可用不可見，能夠幫助不同企業(yè)和機(jī)構(gòu)與產(chǎn)業(yè)鏈上下游的主體進(jìn)行聯(lián)合分析，打造數(shù)據(jù)融合應(yīng)用，同時(shí)在數(shù)據(jù)協(xié)作的過程中履行數(shù)據(jù)安全和合規(guī)義務(wù)，實(shí)現(xiàn)生態(tài)系統(tǒng)內(nèi)的數(shù)據(jù)融合，推動(dòng)企業(yè)自身

13、、產(chǎn)業(yè)層面的數(shù)據(jù)價(jià)值最大化。對(duì)于政府而言，隱私計(jì)算是實(shí)現(xiàn)數(shù)據(jù)價(jià)值和社會(huì)福利最大化的重要支撐。一是借助隱私計(jì)算能夠在政府?dāng)?shù)據(jù)開放過程中，在采集、存儲(chǔ)、協(xié)作等方面提升數(shù)據(jù)安全和隱私保護(hù)水平，在保障數(shù)據(jù)安全的同時(shí)增強(qiáng)全社會(huì)的數(shù)據(jù)協(xié)作，通過數(shù)據(jù)的應(yīng)用最大化社會(huì)福利。二是借助隱私計(jì)算推動(dòng)數(shù)據(jù)要素賦能產(chǎn)業(yè)升級(jí)，例如北京國際大數(shù)據(jù)交易所上線北京數(shù)據(jù)交易系統(tǒng)，基于區(qū)塊鏈和隱私計(jì)算技術(shù)支持的全鏈條交易服務(wù)體系，將為市場參與者提供數(shù)據(jù)清洗、供需撮合、法律咨詢、價(jià)值評(píng)估等一系列專業(yè)化服務(wù)。二、隱私計(jì)算三大流派交織演進(jìn)，和區(qū)塊鏈融合成為主流方向隱私計(jì)算伴隨著密碼技術(shù)、硬件技術(shù)的發(fā)展加速商業(yè)化， 其技術(shù)路徑也處于高速的

14、演進(jìn)和變化狀態(tài)，其中聯(lián)邦學(xué)習(xí)、多方安全計(jì)算和可信計(jì)算是當(dāng)前主流技術(shù)路徑，也是當(dāng)下產(chǎn)品化的主要方向。此外區(qū)塊鏈與隱私計(jì)算的融合應(yīng)用也成為業(yè)界的共識(shí)，兩者相輔相成。（一）聯(lián)邦學(xué)習(xí)助力實(shí)現(xiàn)多方聯(lián)合機(jī)器學(xué)習(xí)1、基本概念聯(lián)邦學(xué)習(xí)是一種分布式機(jī)器學(xué)習(xí)技術(shù)和系統(tǒng)，包括兩個(gè)或多個(gè)參與方，這些參與方通過安全的算法協(xié)議進(jìn)行聯(lián)合機(jī)器學(xué)習(xí)，可以在各方數(shù)據(jù)不出本地的情況下聯(lián)合多方數(shù)據(jù)源建模和提供模型推理與預(yù)測服務(wù)。在聯(lián)邦學(xué)習(xí)框架下，各參與方只交換密文形式的中間計(jì)算結(jié)果或轉(zhuǎn)化結(jié)果，不交換數(shù)據(jù)，保證各方數(shù)據(jù)不露出。聯(lián)邦學(xué)習(xí)可以通過同態(tài)加密、差分隱私、秘密分享等提高數(shù)據(jù)協(xié)作過程中的安全性。根據(jù)聯(lián)邦學(xué)習(xí)各參與方擁有的數(shù)據(jù)的情況

15、，可以將聯(lián)邦學(xué)習(xí)分為兩類，即橫向聯(lián)邦學(xué)習(xí)和縱向聯(lián)邦學(xué)習(xí)。圖2 橫向聯(lián)邦學(xué)習(xí)中數(shù)據(jù)合作示例圖3 縱向聯(lián)邦學(xué)習(xí)中特征合作示例如圖2所示，在橫向聯(lián)邦學(xué)習(xí)中，參與方在各方數(shù)據(jù)的“數(shù)量”這個(gè)維度上進(jìn)行合作，解決單個(gè)參與方的訓(xùn)練數(shù)據(jù)不足的問題。如圖3所示，在縱向聯(lián)邦學(xué)習(xí)中，參與方在數(shù)據(jù)的“特征”和“標(biāo)簽”這兩個(gè)維度上進(jìn)行合作，解決單個(gè)參與方的數(shù)據(jù)特征過少或者沒有標(biāo)簽的問題?？v向聯(lián)邦學(xué)習(xí)需要計(jì)算參與方共同擁有的樣本ID，可以通過多方安全計(jì)算中的隱私集合求交技術(shù)實(shí)現(xiàn)。2、技術(shù)趨勢聯(lián)邦學(xué)習(xí)在深度學(xué)習(xí)領(lǐng)域的探索成為未來焦點(diǎn)。聯(lián)邦學(xué)習(xí)在機(jī)器學(xué)習(xí)領(lǐng)域的應(yīng)用已經(jīng)比較成熟，如支持聯(lián)邦邏輯回歸、聯(lián)邦XGBoost等模型，而

16、在深度學(xué)習(xí)領(lǐng)域的應(yīng)用還處于探索階段。一方面，聯(lián)邦學(xué)習(xí)需要支持更加多樣化的深度學(xué)習(xí)模型，如廣告領(lǐng)域常用的雙塔模型、點(diǎn)擊率預(yù)估模型、自然語言處理模型等，尤其支持多方聯(lián)邦神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練，并提供高效的、安全的、無損的聯(lián)邦模型訓(xùn)練協(xié)議，從而實(shí)現(xiàn)基于深度學(xué)習(xí)的聯(lián)合建模。另一方面，聯(lián)邦學(xué)習(xí)需要支持海量數(shù)據(jù)的深度學(xué)習(xí)模型訓(xùn)練，在計(jì)算機(jī)視覺、自然語言處理、廣告等領(lǐng)域需要通過海量數(shù)據(jù)來訓(xùn)練深度學(xué)習(xí)模型，但受限于目前聯(lián)邦學(xué)習(xí)的技術(shù)缺陷，需要通過增加聯(lián)合計(jì)算的并行度，優(yōu)化多方對(duì)接的接口等方式實(shí)現(xiàn)對(duì)海量數(shù)據(jù)處理的支持。聯(lián)邦學(xué)習(xí)與其他隱私計(jì)算技術(shù)深度融合，加速向平臺(tái)化演進(jìn)。一方面，單一的隱私保護(hù)技術(shù)不能滿足對(duì)聯(lián)邦學(xué)習(xí)

17、的安全性、效率、性能的要求、以及應(yīng)對(duì)多樣化的應(yīng)用場景，聯(lián)邦學(xué)習(xí)將與安全多方計(jì)算、區(qū)塊鏈、可信計(jì)算等技術(shù)進(jìn)行深入融合，并通過使用硬件加速技術(shù)，進(jìn)一步提高聯(lián)邦學(xué)習(xí)系統(tǒng)的安全性和交付效率，保證聯(lián)邦訓(xùn)練的模型與集中訓(xùn)練的模型有相同的性能。另一方面，通過技術(shù)融合，聯(lián)邦學(xué)習(xí)產(chǎn)品將會(huì)向通用型平臺(tái)化發(fā)展，豐富服務(wù)模式，滿足多樣化的用戶需求。按需提供數(shù)據(jù)安全保護(hù)服務(wù)和全棧的聯(lián)合建模和聯(lián)合分析功能，將成為聯(lián)邦學(xué)習(xí)產(chǎn)品適應(yīng)多樣化業(yè)務(wù)場景的演進(jìn)方向。（二）安全多方計(jì)算提供更加安全的聯(lián)合數(shù)據(jù)分析能力 1、基本概念安全多方計(jì)算是一種在參與方不共享各自數(shù)據(jù)且沒有可信第三方的情況下安全地計(jì)算約定函數(shù)的技術(shù)和系統(tǒng)。通過安全的算

18、法和協(xié)議，參與方將明文形式的數(shù)據(jù)加密后或轉(zhuǎn)化后再提供給其他方，任一參與方都無法接觸到其他方的明文形式的數(shù)據(jù)，從而保證各方數(shù)據(jù)的安全。安全多方計(jì)算的基本安全算子包括同態(tài)加密、秘密分享、混淆電路、不經(jīng)意傳輸、零知識(shí)證明、同態(tài)承諾等。解決特定應(yīng)用問題的安全多方計(jì)算協(xié)議包括隱私集合求交、隱私信息檢索及隱私統(tǒng)計(jì)分析等。圖4 安全多方計(jì)算應(yīng)用示例2、技術(shù)趨勢安全多方計(jì)算與其他隱私計(jì)算技術(shù)融合應(yīng)用成為主流趨勢。由于安全多方計(jì)算需要消耗大量的計(jì)算和通信資源，目前應(yīng)用更加適用于小規(guī)模數(shù)據(jù)量，并且應(yīng)用主要是聚焦相對(duì)簡單的統(tǒng)計(jì)、查詢等類型的計(jì)算，而基于安全多方計(jì)算的聯(lián)合建?？蚣苤荒苤С窒鄬?duì)簡單的機(jī)器學(xué)習(xí)模型，如邏輯

19、回歸模型等。其主流的應(yīng)用主要以安全技術(shù)的形式融合在其他隱私計(jì)算解決方案中，例如與聯(lián)邦學(xué)習(xí)的結(jié)合，在樣本對(duì)齊階段通過隱私集合求交來實(shí)現(xiàn)參與方公共樣本ID的發(fā)現(xiàn)；在聯(lián)邦模型訓(xùn)練階段，可以通過同態(tài)加密、秘密分享享等技術(shù)來實(shí)現(xiàn)對(duì)中間技術(shù)結(jié)果或轉(zhuǎn)化結(jié)果的保護(hù)。安全多方計(jì)算產(chǎn)品的計(jì)算和通信效率提升呈現(xiàn)兩大路徑。安全多方計(jì)算需要用到相對(duì)復(fù)雜的密碼學(xué)運(yùn)算，其計(jì)算和通信開銷會(huì)超過實(shí)際應(yīng)用能承受的范圍，導(dǎo)致無法實(shí)現(xiàn)在大規(guī)模數(shù)據(jù)上的應(yīng)用。提升其計(jì)算和通信效率是當(dāng)下技術(shù)演進(jìn)的主流方向，主要呈現(xiàn)兩大技術(shù)路徑。一是聚焦減少算法的計(jì)算量和安全協(xié)議的消息交互量，通過壓縮算法、采樣、抽樣等方式減少計(jì)算和通信開銷，從而實(shí)現(xiàn)計(jì)算和

20、通信效率的提升。二是通過新的密碼學(xué)技術(shù)和設(shè)計(jì)新的算法協(xié)議，結(jié)合硬件加速技術(shù)（如GPU、FPGA、ASIC加速）和專有算法實(shí)現(xiàn)硬件來加速計(jì)算量較大的環(huán)節(jié)和步驟，進(jìn)一步實(shí)現(xiàn)計(jì)算效率的提升。（三）可信計(jì)算助力隱私計(jì)算服務(wù)安全高效運(yùn)行 1、基本概念可信計(jì)算指借助硬件CPU芯片實(shí)現(xiàn)可信執(zhí)行環(huán)境（TEE），從而構(gòu)建一個(gè)受保護(hù)的“飛地”（Enclave），對(duì)于應(yīng)用程序來說，它的Enclave 是一個(gè)安全的內(nèi)容容器，用于存放應(yīng)用程序的敏感數(shù)據(jù)與代碼，并保證它們的機(jī)密性與完整性。以Intel SGX為例，Enclave的內(nèi)存區(qū)域是由CPU默認(rèn)加密的，且只能被同一個(gè)Enclave中的代碼所訪問，即便是外部高權(quán)限實(shí)

21、體（VMM、BIOS、 SMM）也無法訪問。目前，TEE的實(shí)現(xiàn)也包括ARM平臺(tái)的TrustZone、AMD下的SEV等，但在隱私計(jì)算領(lǐng)域，以Intel SGX的應(yīng)用較為成熟?？尚庞?jì)算（TEE）是基于硬件和密碼學(xué)原理的隱私計(jì)算方案，相比于純軟件解決方案，具有較高的通用性、易用性和較優(yōu)的性能。其缺點(diǎn)是需要引入可信方，即信任芯片廠商。此外由于CPU相關(guān)實(shí)現(xiàn)屬于TCB，側(cè)信道攻擊也成為不可忽視的攻擊向量，需要關(guān)注相關(guān)漏洞和研究進(jìn)展。在可信計(jì)算過程中，TEE保證的可信功能主要包括：遠(yuǎn)程證明：使用TEE進(jìn)行隱私計(jì)算的必備步驟當(dāng)一項(xiàng)計(jì)算任務(wù)存在多方協(xié)作時(shí)，比如參與方A需要將數(shù)據(jù)（一般是加密的中間態(tài)數(shù)值）傳遞

22、給參與方B，那么就需要檢驗(yàn)B的程序的確是在TEE中運(yùn)行的。在這一情況下，B需要能夠提供“證明”，來證實(shí)自己的確是符合參與方A預(yù)期的運(yùn)行狀態(tài)，這一運(yùn)行狀態(tài)除了TEE環(huán)境信息以外，也進(jìn)一步包括對(duì)于所運(yùn)行程序代碼相關(guān)信息的核驗(yàn)?？尚判诺溃涸贏成功驗(yàn)證B傳遞過來的證明之后，A也驗(yàn)證了B的身份和計(jì)算環(huán)境，便可以建立一條安全的可信信道（如基于B的證書建立加密信道），用于后續(xù)的數(shù)據(jù)傳輸會(huì)話。數(shù)據(jù)密封：TEE本身支持的一種密鑰映射機(jī)制，以Intel SGX為例，在使用數(shù)據(jù)密封功能時(shí)，由CPU指令對(duì)既定的入?yún)⑦M(jìn)行計(jì)算，生成相應(yīng)的密封密鑰。數(shù)據(jù)密封機(jī)制保證了Enclave對(duì)數(shù)據(jù)的密封（加密）和解封（解密）過程，只

23、能于同一Enclave內(nèi)進(jìn)行，而密封數(shù)據(jù)的存放，可以落盤于Enclave外，從而實(shí)現(xiàn)可信存儲(chǔ)。圖5 可信計(jì)算應(yīng)用實(shí)例圖2、技術(shù)趨勢平臺(tái)化和容器化是未來可信計(jì)算與云平臺(tái)融合的關(guān)鍵路徑。可信計(jì)算開發(fā)和部署成本較高，為了滿足多樣化業(yè)務(wù)的需求，向使用者提供簡易和低成本的服務(wù)，平臺(tái)化和容器化正成為各大廠商的主流選擇。例如通過將遠(yuǎn)程/本地證明、可信信道的建立、數(shù)據(jù)密封在內(nèi)的可信功能整合在TEE基礎(chǔ)平臺(tái)，實(shí)現(xiàn)對(duì)于隱私計(jì)算任務(wù)的無差別工作流程正成為業(yè)界的主流路徑。并且在此基礎(chǔ)上實(shí)現(xiàn)TEE功能下工作負(fù)載的容器化，并交由Kubernetes進(jìn)行統(tǒng)一管理與調(diào)度，達(dá)到可信工作節(jié)點(diǎn)“自來水”式的橫向拓展和并行加速效果也

24、是當(dāng)前各方探索的路徑?？尚庞?jì)算的易用性提升是產(chǎn)品化應(yīng)用的重要方向。為了更好地將平臺(tái)功能應(yīng)用于實(shí)際業(yè)務(wù)，易用性是建設(shè)可信計(jì)算基礎(chǔ)應(yīng)用平臺(tái)所需兼顧的另一關(guān)鍵要素?；谠鶶DK的開發(fā)存在學(xué)習(xí)門檻，很多實(shí)際業(yè)務(wù)應(yīng)用依賴特定的庫文件（如TensorFlow），此時(shí)基于SDK進(jìn)行開發(fā)會(huì)非常繁瑣。在TEE研究領(lǐng)域，已經(jīng)出現(xiàn)了諸如庫操作系統(tǒng)LibOS、程序自動(dòng)分割等易用性適配方式。以 SGX為例，LibOS實(shí)施方案中，比較典型的包括Graphene、SCONE、Occlum等。在使用相應(yīng)LibOS的情況下，業(yè)務(wù)代碼可以無需重構(gòu)，直接通過LibOS在 Enclave內(nèi)部運(yùn)行，這大大方便了業(yè)務(wù)應(yīng)用的接入。底層硬

25、件架構(gòu)的靈活切換是未來豐富可信計(jì)算應(yīng)用場景的重要條件。實(shí)現(xiàn)對(duì)于底層硬件架構(gòu)的靈活切換，是完善TEE隱私計(jì)算能力的又一關(guān)鍵點(diǎn)，也將是TEE領(lǐng)域下一階段具有重要意義的工作。例如，將現(xiàn)有的TEE隱私計(jì)算平臺(tái)進(jìn)行硬件架構(gòu)適配，通過硬件抽象層使其同時(shí)兼容Intel SGX、ARM TrustZone、AMD SEV等多重CPU架構(gòu)，在此基礎(chǔ)上，持續(xù)拓展可信計(jì)算的計(jì)算場景，將TEE功能由CPU延伸到GPU、FPGA等計(jì)算平臺(tái)，從而滿足用戶在不同運(yùn)算場景下的安全需求。（四）隱私計(jì)算融合區(qū)塊鏈提升數(shù)據(jù)協(xié)作全流程保護(hù)能力隨著技術(shù)的不斷發(fā)展，區(qū)塊鏈從一種防篡改、可追溯、共享的分布式賬本管理技術(shù)，轉(zhuǎn)變?yōu)榉植际降木W(wǎng)絡(luò)

26、數(shù)據(jù)管理技術(shù)，利用密碼學(xué)技術(shù)和分布式共識(shí)協(xié)議保證網(wǎng)絡(luò)傳輸與訪問安全，實(shí)現(xiàn)數(shù)據(jù)多方維護(hù)、交叉驗(yàn)證、全網(wǎng)一致、不易篡改。隱私計(jì)算雖然實(shí)現(xiàn)了在多方協(xié)作計(jì)算過程中對(duì)于輸入數(shù)據(jù)的隱私保護(hù)，但是原始數(shù)據(jù)、計(jì)算過程和結(jié)果均面臨著可驗(yàn)證性問題。而區(qū)塊鏈因其共享賬本、智能合約、共識(shí)機(jī)制等技術(shù)特性，可以實(shí)現(xiàn)原始數(shù)據(jù)的鏈上存證核驗(yàn)、計(jì)算過程關(guān)鍵數(shù)據(jù)和環(huán)節(jié)的上鏈存證回溯，確保計(jì)算過程的可驗(yàn)證性。因此將區(qū)塊鏈技術(shù)對(duì)計(jì)算的可信證明應(yīng)用到隱私計(jì)算中，可以在保護(hù)數(shù)據(jù)隱私的同時(shí)增強(qiáng)隱私計(jì)算過程的可驗(yàn)證性。圖6 區(qū)塊鏈與隱私計(jì)算融合示例區(qū)塊鏈將成為隱私計(jì)算產(chǎn)品中必不可少的選項(xiàng)，在保證數(shù)據(jù)可信的基礎(chǔ)上，實(shí)現(xiàn)數(shù)據(jù)安全、合規(guī)、合理的有

27、效使用。主要體現(xiàn)在以下三個(gè)方面：區(qū)塊鏈可以保障隱私計(jì)算任務(wù)數(shù)據(jù)端到端的隱私性。通過區(qū)塊鏈加密算法技術(shù)，用戶無法獲取網(wǎng)絡(luò)中的交易信息，驗(yàn)證節(jié)點(diǎn)只能驗(yàn)證交易的有效性而無法獲取具體的交易信息，從而保證交易數(shù)據(jù)隱私，并且可按用戶、業(yè)務(wù)、交易對(duì)象等不同層次實(shí)現(xiàn)數(shù)據(jù)和賬戶的隱私保護(hù)設(shè)置，最大程度上保護(hù)數(shù)據(jù)的隱私性。區(qū)塊鏈可以保障隱私計(jì)算中數(shù)據(jù)全生命周期的安全性。區(qū)塊鏈技術(shù)采用分布式數(shù)據(jù)存儲(chǔ)方式，所有區(qū)塊鏈上的節(jié)點(diǎn)都存儲(chǔ)著一份完整的數(shù)據(jù)，任何單個(gè)節(jié)點(diǎn)想修改這些數(shù)據(jù)，其他節(jié)點(diǎn)都可以用自己保存的備份來證偽，從而保證數(shù)據(jù)不被隨便地篡改或者是被刪除。此外，區(qū)塊鏈中所使用的非對(duì)稱加密、哈希加密技術(shù)能夠有效保障數(shù)據(jù)安全

28、，防止泄露。區(qū)塊鏈可以保障隱私計(jì)算過程的可追溯性。數(shù)據(jù)申請(qǐng)、授權(quán)、計(jì)算結(jié)果全過程鏈上進(jìn)行記錄與存儲(chǔ)，鏈上記錄的信息可通過其它參與方對(duì)數(shù)據(jù)進(jìn)行簽名確認(rèn)的方式，進(jìn)一步提高數(shù)據(jù)可信度，同時(shí)可通過對(duì)哈希值的驗(yàn)證匹配，實(shí)現(xiàn)信息篡改的快速識(shí)別。基于鏈上數(shù)據(jù)的記錄與認(rèn)證，可通過智能合約，實(shí)現(xiàn)按照唯一標(biāo)識(shí)對(duì)鏈上相關(guān)數(shù)據(jù)進(jìn)行關(guān)聯(lián)，構(gòu)建數(shù)據(jù)的可追溯性。區(qū)塊鏈與隱私計(jì)算結(jié)合，使原始數(shù)據(jù)在無需歸集與共享的情況下，可實(shí)現(xiàn)多節(jié)點(diǎn)間的協(xié)同計(jì)算和數(shù)據(jù)隱私保護(hù)。同時(shí)，能夠解決大數(shù)據(jù)模式下存在的數(shù)據(jù)過度采集、 數(shù)據(jù)隱私保護(hù)，以及數(shù)據(jù)儲(chǔ)存單點(diǎn)泄露等問題。區(qū)塊鏈確保計(jì)算過程和數(shù)據(jù)可信，隱私計(jì)算實(shí)現(xiàn)數(shù)據(jù)可用而不可見，兩者相互結(jié)合，相輔

29、相成，實(shí)現(xiàn)更廣泛的數(shù)據(jù)協(xié)同。三、數(shù)據(jù)協(xié)作需求推動(dòng)隱私計(jì)算應(yīng)用從金融、醫(yī)療等向其他行業(yè)延伸（一）金融隱私計(jì)算助力銀行聯(lián)合建模，提升反欺詐模型水平。消費(fèi)貸近年來興起，隨之而來的信貸欺詐也越來越嚴(yán)重，惡意騙貸、仿冒他人騙貸、團(tuán)伙欺詐等欺詐行為對(duì)銀行等相關(guān)信貸機(jī)構(gòu)造成了嚴(yán)重的損失。傳統(tǒng)上，銀行都是基于歷史還款信息、征信數(shù)據(jù)和第三方的通用征信分來做貸前反欺詐，仍存在數(shù)據(jù)維度缺乏、數(shù)據(jù)量較少等情況，需要融合多方數(shù)據(jù)聯(lián)合建模才能構(gòu)建更加精準(zhǔn)的反欺詐模型，但這一過程中隱私保護(hù)和數(shù)據(jù)安全是不可忽視的重要環(huán)節(jié)，聯(lián)邦學(xué)習(xí)可以有效解決合作中數(shù)據(jù)隱私與特征變量融合矛盾，在雙方或多方合作中線上保障特征變量交換時(shí)的信息安全

30、。例如某銀行應(yīng)用騰訊隱私計(jì)算產(chǎn)品，融合多方的黑灰產(chǎn)行為等特征，模型的KS提升30%以上，每年阻止數(shù)億資金的風(fēng)險(xiǎn)貸款申請(qǐng)。圖7 隱私計(jì)算在金融反欺詐場景應(yīng)用示例（二）醫(yī)療等。隱私計(jì)算有效助力醫(yī)學(xué)影像識(shí)別、疾病篩查、AI輔助診療、智能問診咨詢醫(yī)療數(shù)據(jù)通常存儲(chǔ)于不同的機(jī)構(gòu)中，且單個(gè)醫(yī)療機(jī)構(gòu)擁有的帶標(biāo)簽的數(shù)據(jù)的規(guī)模和特征維度都有限。由于病人隱私和數(shù)據(jù)保護(hù)的考慮，醫(yī)療數(shù)據(jù)無法在多個(gè)醫(yī)療機(jī)構(gòu)之間直接共享或集中整合。數(shù)據(jù)整合問題制約了AI技術(shù)（如計(jì)算機(jī)視覺和目標(biāo)檢測等）在醫(yī)療領(lǐng)域的發(fā)展和應(yīng)用。為了解決這個(gè)問題，醫(yī)療機(jī)構(gòu)開始采用基于隱私計(jì)算的數(shù)據(jù)合作方案，多個(gè)醫(yī)療機(jī)構(gòu)在不需要共享原始數(shù)據(jù)的情況下就可以進(jìn)行聯(lián)合

31、建模和聯(lián)合數(shù)據(jù)分析，有效推動(dòng)了 AI技術(shù)在醫(yī)療領(lǐng)域的應(yīng)用多地。例如多家醫(yī)療機(jī)構(gòu)可以通過橫向聯(lián)邦學(xué)習(xí)聯(lián)合構(gòu)建目標(biāo)檢測模型，用于輔助通過醫(yī)療圖像的疾病檢查（如肺部X光片檢查等）?；跈M向聯(lián)邦學(xué)習(xí)的解決方案在各醫(yī)療機(jī)構(gòu)的數(shù)據(jù)不出域的前提下，利用多家醫(yī)療機(jī)構(gòu)的數(shù)據(jù)聯(lián)合訓(xùn)練一個(gè)目標(biāo)檢測模型，使得有效訓(xùn)練數(shù)據(jù)顯著增加，多方聯(lián)邦訓(xùn)練的模型的性能比單個(gè)醫(yī)療機(jī)構(gòu)訓(xùn)練的模型的性能提升 30%以上。圖8 隱私計(jì)算在醫(yī)療領(lǐng)域疾病檢查應(yīng)用示例（三）政務(wù)基于隱私計(jì)算助力政府?dāng)?shù)據(jù)開放，實(shí)現(xiàn)精準(zhǔn)施策。政府部門匯集了大量的如交通、社保、稅務(wù)、醫(yī)療和教育等高價(jià)值數(shù)據(jù)，推進(jìn)政務(wù)數(shù)據(jù)開放共享，有助于促進(jìn)社會(huì)經(jīng)濟(jì)的發(fā)展和提升政府的治理

32、和服務(wù)水平，尤其是在政策實(shí)施過程中，通過政府?dāng)?shù)據(jù)與多方數(shù)據(jù)的融合，能夠?qū)崿F(xiàn)基于數(shù)據(jù)驅(qū)動(dòng)的精準(zhǔn)施策。但因涉及到個(gè)人信息保護(hù)等問題，以往的政務(wù)數(shù)據(jù)開放，還是處在以統(tǒng)計(jì)形式為主的信息公開這個(gè)層次，可用性大大減弱。借助隱私計(jì)算，可以提升政務(wù)數(shù)據(jù)的含金量，實(shí)現(xiàn)隱私保護(hù)下的高質(zhì)量數(shù)據(jù)協(xié)作。另外，通過隱私計(jì)算平臺(tái)，可以促進(jìn)政務(wù)和企業(yè)的數(shù)據(jù)協(xié)作，實(shí)現(xiàn)政企數(shù)據(jù)融合應(yīng)用。例如在某地，通過騰訊安全提供的聯(lián)邦學(xué)習(xí)平臺(tái)，實(shí)現(xiàn)了政務(wù)、銀行、企業(yè)的三方的協(xié)作建模，在疫情期間對(duì)小微企業(yè)進(jìn)行了精準(zhǔn)畫像，模型的AUC提升了40%，實(shí)現(xiàn)了企業(yè)綜合評(píng)估、銀行授信和政府貼息全閉環(huán)，大大降低了信息不對(duì)稱的成本，提升了資金流轉(zhuǎn)的效率，促進(jìn)

33、了產(chǎn)業(yè)政策精準(zhǔn)落地。服務(wù)對(duì)象企業(yè)主應(yīng)用層1.申請(qǐng)4.放款融資貸款貼息銀行貼息平臺(tái)3.決策信息2.風(fēng)險(xiǎn)和額度評(píng)估數(shù)據(jù)整合層聯(lián)邦普惠金融中臺(tái)原始數(shù)據(jù)層政務(wù)數(shù)據(jù)企業(yè)經(jīng)營數(shù)據(jù)銀行貸款詳情數(shù)據(jù)圖9 隱私計(jì)算在政務(wù)領(lǐng)域的精準(zhǔn)施策應(yīng)用示例（四）廣告驗(yàn)。聯(lián)邦學(xué)習(xí)助力廣告程序化交易聯(lián)合建模，提升廣告主投放效果和用戶體在廣告場景中，流量方和廣告主側(cè)各擁有一部分鏈路數(shù)據(jù)，比如流量方擁有流量相關(guān)點(diǎn)擊行為和基礎(chǔ)畫像，而廣告主側(cè)擁有深度轉(zhuǎn)化鏈路數(shù)據(jù)如付費(fèi)，后者屬于廣告主核心資產(chǎn)，不能完全同步給流量方，但是雙方都有需求優(yōu)化廣告投放效果，以提升成本控制和起量效果。借助聯(lián)邦學(xué)習(xí)可以在保護(hù)合作雙方各自數(shù)據(jù)安全的前提下，聯(lián)合訓(xùn)練、

34、建模、優(yōu)化模型效果。在這樣的背景下，通過廣告主和流量主的聯(lián)邦建模，融合雙方的數(shù)據(jù)優(yōu)勢，在游戲、金融、教育、電商行業(yè)的廣告應(yīng)用案例中能夠取得顯著效果提升，如某電商ADX模式中，ROI能夠取得了10%以上的增長。圖10 隱私計(jì)算在廣告領(lǐng)域的精準(zhǔn)投放應(yīng)用示例四、隱私計(jì)算助力數(shù)據(jù)安全合規(guī)的價(jià)值凸顯，但仍存在較大提升空間隱私計(jì)算為數(shù)據(jù)安全制度落地提供了有力的技術(shù)支撐，面對(duì)數(shù)據(jù)安全合規(guī)，企業(yè)和機(jī)構(gòu)可充分運(yùn)用隱私計(jì)算技術(shù)+傳統(tǒng)合規(guī)措施結(jié)合的方式，解決當(dāng)前企業(yè)面臨的數(shù)據(jù)合規(guī)難題和痛點(diǎn)。但由于隱私計(jì)算技術(shù)正處于快速迭代和發(fā)展的階段，目前仍在實(shí)現(xiàn)用戶授權(quán)同意、數(shù)據(jù)存儲(chǔ)安全、信息主體權(quán)利保障等關(guān)鍵合規(guī)要求的有效性上

35、存在爭議，這些爭議在一定程度上限制了隱私計(jì)算的推廣應(yīng)用。未來，隱私計(jì)算的發(fā)展和應(yīng)用對(duì)法律合規(guī)的支撐價(jià)值凸顯，但仍存在較大提升空間。（一）隱私計(jì)算有望成為數(shù)據(jù)協(xié)作過程中數(shù)據(jù)合規(guī)和隱私保護(hù)的技術(shù)工具隱私計(jì)算，旨在通過技術(shù)保障數(shù)據(jù)協(xié)作過程中的數(shù)據(jù)安全。對(duì)企業(yè)履行數(shù)據(jù)合規(guī)義務(wù)具有積極作用，具體體現(xiàn)在以下三個(gè)方面。隱私計(jì)算在無需轉(zhuǎn)移數(shù)據(jù)物理存儲(chǔ)服務(wù)器的情況下實(shí)現(xiàn)數(shù)據(jù)建模分析，從而減少數(shù)據(jù)協(xié)作過程中風(fēng)險(xiǎn)。聯(lián)邦學(xué)習(xí)、安全多方計(jì)算等隱私計(jì)算技術(shù)秉承“數(shù)據(jù)可用不可見，數(shù)據(jù)不動(dòng)模型動(dòng)”的理念，不流通原始數(shù)據(jù)，只回傳數(shù)據(jù)的計(jì)算模型，并以此實(shí)現(xiàn)數(shù)據(jù)價(jià)值出庫。同時(shí)，像全同態(tài)加密等以密碼學(xué)為基礎(chǔ)的隱私保護(hù)計(jì)算技術(shù)，還可以

36、通過保證加密算法的強(qiáng)度、加密密鑰的長度和密鑰管理的安全性來實(shí)現(xiàn)數(shù)據(jù)匿名化。所以理論上，在隱私計(jì)算技術(shù)的助力下，無需轉(zhuǎn)移數(shù)據(jù)物理存儲(chǔ)服務(wù)器的情況下，數(shù)據(jù)合作方之間即可實(shí)現(xiàn)基于雙方或多方數(shù)據(jù)的建模分析，而不需要將雙方或多方數(shù)據(jù)共享、存儲(chǔ)到某一方服務(wù)器處，從而減少數(shù)據(jù)協(xié)作過程中的風(fēng)險(xiǎn)。隱私計(jì)算可從技術(shù)層面滿足數(shù)據(jù)最小化、完整性和機(jī)密性原則要求。數(shù)據(jù)最小化、完整性和機(jī)密性均是通用數(shù)據(jù)保護(hù)條例（GDPR）關(guān)于個(gè)人數(shù)據(jù)處理的重要原則，在我國民法典與個(gè)人信息保護(hù)法（草案）中也有所體現(xiàn)，是國際社會(huì)公認(rèn)的個(gè)人信息收集處理的基本要求。數(shù)據(jù)最小化要求 “對(duì)個(gè)人數(shù)據(jù)的處理數(shù)量以滿足業(yè)務(wù)需要的最小數(shù)量為限”，數(shù)據(jù)完整性

37、和機(jī)密性則要求“避免數(shù)據(jù)被非法處理、篡改、毀損或者不當(dāng)泄露”。傳統(tǒng)的數(shù)據(jù)融合方式往往需要先將盡可能多的多源數(shù)據(jù)集中至一個(gè)數(shù)據(jù)中心，然后再訓(xùn)練模型。如此，傳統(tǒng)的數(shù)據(jù)融合方式不僅存在數(shù)據(jù)過度采集的可能，而且面臨數(shù)據(jù)傳輸與儲(chǔ)存階段的雙重安全風(fēng)險(xiǎn)，相關(guān)參與方不僅需要阻攔外部的數(shù)據(jù)攻擊，還要防范內(nèi)部的數(shù)據(jù)違規(guī)使用，需要為之付出極大的成本。而采用隱私計(jì)算技術(shù)，尤其是隱私計(jì)算和區(qū)塊鏈等技術(shù)結(jié)合形成的整體解決方案，對(duì)數(shù)據(jù)真實(shí)性、準(zhǔn)確性進(jìn)行記錄，如數(shù)據(jù)被篡改、可進(jìn)行精準(zhǔn)定位和追溯，防止數(shù)據(jù)被篡改，也能夠有效防止數(shù)據(jù)被內(nèi)外部無權(quán)限人員隨意訪問、修改、導(dǎo)出等，保障數(shù)據(jù)的完整性和機(jī)密性，與當(dāng)前國內(nèi)外數(shù)據(jù)保護(hù)相關(guān)立法目

38、的和原則高度契合。隱私計(jì)算可證明、記載企業(yè)是否履行數(shù)據(jù)安全保障義務(wù)。一般而言，企業(yè)可圍繞以下三個(gè)方面證明已履行法定的數(shù)據(jù)安全保障義務(wù)：（1）已制定周密的數(shù)據(jù)安全管理制度；（2）已執(zhí)行嚴(yán)格的國際規(guī)范與標(biāo)準(zhǔn)；（3）已采取有效的數(shù)據(jù)安全保障措施等。隨著技術(shù)的成熟，隱私計(jì)算技術(shù)（包括基于芯片的可信執(zhí)行環(huán)境TEE、基于密碼學(xué)的安全多方計(jì)算MPC、同態(tài)加密、源自人工智能的聯(lián)邦學(xué)習(xí)等）在保護(hù)數(shù)據(jù)安全方面的優(yōu)勢獲得了行業(yè)的廣泛認(rèn)可，部分企業(yè)的隱私計(jì)算技術(shù)還順利通過行業(yè)安全評(píng)估?；诖耍跊]有相反證據(jù)的情況下，采用隱私計(jì)算技術(shù)，可以清晰地記錄企業(yè)已履行法定的數(shù)據(jù)安全保障、防止數(shù)據(jù)泄露的義務(wù)，在發(fā)生數(shù)據(jù)泄露的情形

39、下，可及時(shí)提出相應(yīng)證據(jù)證明，數(shù)據(jù)在哪個(gè)環(huán)節(jié)遭到泄露、是哪個(gè)主體泄露了數(shù)據(jù)，從而避免因?yàn)殡y以查清泄露原因和主體，而導(dǎo)致企業(yè)可能需承擔(dān)舉證責(zé)任倒置義務(wù)，但又實(shí)際無法證明數(shù)據(jù)不是由該企業(yè)泄露的，從而承擔(dān)相應(yīng)法律責(zé)任。（二）隱私計(jì)算的推廣應(yīng)用仍存在合規(guī)痛點(diǎn)從技術(shù)層面而言，隱私計(jì)算實(shí)現(xiàn)的數(shù)據(jù)保護(hù)功能與國內(nèi)外數(shù)據(jù)保護(hù)相關(guān)立法精神高度契合，具有廣闊的發(fā)展前景。但在全球數(shù)據(jù)合規(guī)監(jiān)管日趨嚴(yán)格的大背景下，隱私計(jì)算仍具有較大提升空間。采用隱私計(jì)算，仍需明確用戶授權(quán)同意機(jī)制。隱私計(jì)算是解決數(shù)據(jù)流通環(huán)節(jié)用戶授權(quán)的有效工具。根據(jù)我國網(wǎng)絡(luò)安全法及民法典的規(guī)定，數(shù)據(jù)處理者在處理數(shù)據(jù)時(shí)應(yīng)公開收集、使用規(guī)則，并經(jīng)用戶同意。從理論

40、上而言，數(shù)據(jù)合作方通過隱私計(jì)算技術(shù)實(shí)現(xiàn)數(shù)據(jù)分析與建模，不需實(shí)際流轉(zhuǎn)數(shù)據(jù)，且處理過程中的數(shù)據(jù)都進(jìn)行了匿名化處理，或不需要獲得用戶授權(quán)同意。但實(shí)踐中，在原始數(shù)據(jù)采集階段，數(shù)據(jù)合作各方仍需獲得用戶授權(quán)同意。此外，由于個(gè)人信息的匿名化標(biāo)準(zhǔn)尚存爭議，因此做好告知同意的授權(quán)管理，對(duì)強(qiáng)化企業(yè)數(shù)據(jù)合規(guī)仍具有重要意義。此外，即便隱私計(jì)算的參與方可以對(duì)外公開或提供的是數(shù)據(jù)模型而非原始數(shù)據(jù)為由，規(guī)避協(xié)作環(huán)節(jié)的用戶授權(quán)，但其在本地服務(wù)器中建模的行為也可能面臨用戶授權(quán)與否的拷問。即使企業(yè)在采集數(shù)據(jù)時(shí)通過隱私政策取得了用戶對(duì)本地建模行為的授權(quán)，但該授權(quán)仍需保持在與數(shù)據(jù)實(shí)際處理目的直接或合理關(guān)聯(lián)的范圍內(nèi)。因此，在借助隱私計(jì)

41、算技術(shù)解決用戶授權(quán)問題時(shí)，也需關(guān)注數(shù)據(jù)處理目的本身的合法性。隱私計(jì)算技術(shù)本身具有中立性，在判斷是否合規(guī)的問題上，關(guān)鍵還在于數(shù)據(jù)處理目的本身是否合法。對(duì)應(yīng)地，建議隱私計(jì)算技術(shù)的研發(fā)、應(yīng)用各參與方應(yīng)當(dāng)遵循科技向善原則，引導(dǎo)隱私計(jì)算技術(shù)在良性數(shù)據(jù)生態(tài)環(huán)境中落地。隱私計(jì)算應(yīng)用過程中也需重視數(shù)據(jù)安全風(fēng)險(xiǎn)。以聯(lián)邦學(xué)習(xí)為例，盡管其無需參與者直接共享原始數(shù)據(jù)，但模型更新仍然會(huì)泄露參與者訓(xùn)練數(shù)據(jù)的相 關(guān)信息，攻擊者可以采用推理攻擊判斷具體的數(shù)據(jù)點(diǎn)或數(shù)據(jù)屬性是否被用于訓(xùn)練，或采用逆向?qū)W習(xí)的方法還原原始數(shù)據(jù)。如果有切實(shí)的證據(jù)證明經(jīng)過隱 私計(jì)算的數(shù)據(jù)結(jié)果具有可逆性且已被泄露，那么它便不再屬于法律規(guī)定的 “經(jīng)過處理無法

42、識(shí)別特定個(gè)人且不能復(fù)原”的數(shù)據(jù)，企業(yè)未經(jīng)授權(quán)或授權(quán)不充分的共享與轉(zhuǎn)讓行為將很可能被認(rèn)定為對(duì)個(gè)人信息主體權(quán)益的侵犯。因此，企業(yè)可能需要從模型隱私、輸入隱私、訓(xùn)練數(shù)據(jù)隱私、輸出隱私四方面保障數(shù) 據(jù)的安全。隱私計(jì)算應(yīng)用過程中個(gè)人信息主體權(quán)利請(qǐng)求的實(shí)現(xiàn)仍需進(jìn)一步探索。當(dāng)下，我國數(shù)據(jù)立法整體傾向于加強(qiáng)對(duì)個(gè)人信息主體權(quán)益的保護(hù)，這是隱私計(jì)算合規(guī)無法回避的重點(diǎn)問題。以差分隱私為例，“差分隱私對(duì)個(gè)人信息保護(hù)與數(shù)據(jù)利用的平衡，部分取決于隱私計(jì)算這一參數(shù)的自行設(shè)定，和概率容忍度的主觀評(píng)價(jià)”，這將不可避免地導(dǎo)致外界對(duì)隱私計(jì)算邏輯的質(zhì)疑，雖然數(shù)據(jù)處理者可嘗試用通俗的表達(dá)明示隱私計(jì)算的基本邏輯，但披露的程度則又是另一個(gè)

43、復(fù)雜的問題。此外，個(gè)人信息主體的權(quán)利請(qǐng)求在隱私計(jì)算下如何得以保障，也是一個(gè)需要重點(diǎn)攻克的難題。隱私計(jì)算參與各方權(quán)利義務(wù)的邊界有待進(jìn)一步明確。隱私計(jì)算涉及多方主體：（1）個(gè)人信息主體；（2）數(shù)據(jù)持有方，即為隱私計(jì)算提供數(shù)據(jù)的個(gè)人或組織；（3）計(jì)算方，即為隱私計(jì)算提供算力的個(gè)人或組織；（4）結(jié)果方，即接收隱私計(jì)算結(jié)果的個(gè)人或組織。各方之間的法律關(guān)系尚未厘清，數(shù)據(jù)收集處理的商業(yè)合作將處于不合理的高風(fēng)險(xiǎn)狀態(tài)，如個(gè)人信息主體是否基于對(duì)原始數(shù)據(jù)的所有權(quán)而對(duì)經(jīng)隱私計(jì)算的數(shù)據(jù)模型享有權(quán)益，發(fā)生數(shù)據(jù)泄露且溯源取證困難時(shí)，后三者間應(yīng)如何進(jìn)行責(zé)任劃分，這些都將影響隱私計(jì)算商業(yè)模式的發(fā)展。現(xiàn)階段，隱私計(jì)算參與各方宜通

44、過協(xié)議方式，約定彼此的數(shù)據(jù)安全權(quán)利和義務(wù)邊界，以便在發(fā)生爭議時(shí)，明確各自的責(zé)任范圍。五、技術(shù)演進(jìn)、應(yīng)用拓展和法律完善將加速隱私計(jì)算商業(yè)化進(jìn)程（一）效率、性能提升和技術(shù)融合將成為隱私計(jì)算產(chǎn)品化的主要方向隱私計(jì)算效率和性能提升是未來規(guī)模化推廣的重要前提。隱私計(jì)算雖然已經(jīng)開始在不同行業(yè)初步應(yīng)用，但是受限于計(jì)算復(fù)雜度、多方交互效率、模型性能等問題，大部分的應(yīng)用場景均聚焦于少量數(shù)據(jù)的支持，對(duì)海量數(shù)據(jù)場景的支持能力還有待提升。但隨著當(dāng)前大數(shù)據(jù)產(chǎn)業(yè)的迅速發(fā)展，支持更大規(guī)模的數(shù)據(jù)合作和聯(lián)合計(jì)算需求將越加迫切，通過優(yōu)化算法和協(xié)議設(shè)計(jì)、與云平臺(tái)的融合應(yīng)用、軟硬件協(xié)同設(shè)計(jì)等方式提升計(jì)算、交互效率將是當(dāng)下和未來隱私計(jì)

45、算發(fā)展需要重要方向，效率、性能、成本等綜合能力將是各類主體在隱私計(jì)算產(chǎn)業(yè)競爭的重要抓手。隱私計(jì)算多種技術(shù)路徑深度融合，通用型隱私計(jì)算平臺(tái)有望成為未來主要產(chǎn)品形態(tài)。為了完善和增強(qiáng)現(xiàn)有隱私計(jì)算解決方案，多種技術(shù)路徑融合是必然的發(fā)展趨勢。不同技術(shù)路徑可以形成優(yōu)勢互補(bǔ)，多種安全技術(shù)機(jī)制深度融合，能夠提供多層級(jí)的、按需的安全解決方案，從而適應(yīng)多種應(yīng)用場景。隱私計(jì)算產(chǎn)品會(huì)從單一的技術(shù)類型轉(zhuǎn)向使用多種技術(shù)的方案，形成通用型隱私計(jì)算平臺(tái)，以便能夠提供多種安全技術(shù)路線和安全等級(jí)，具備從數(shù)據(jù)采集、接入、存儲(chǔ)到建模、分析、應(yīng)用的全流程隱私保護(hù)能力，整體推動(dòng)數(shù)據(jù)合作和大數(shù)據(jù)產(chǎn)業(yè)發(fā)展。（二）隱私計(jì)算應(yīng)用場景不斷拓展，有

46、望重塑數(shù)據(jù)使用模式隱私計(jì)算應(yīng)用場景將從金融、醫(yī)療等領(lǐng)域向其他行業(yè)加速拓展。在日益嚴(yán)格的數(shù)據(jù)監(jiān)管趨勢和多方數(shù)據(jù)協(xié)作的迫切需求下，隱私計(jì)算將會(huì)成為大數(shù)據(jù)產(chǎn)業(yè)發(fā)展過程中數(shù)據(jù)協(xié)作基本解決方案，根據(jù)Gartner預(yù)測，到2025年，將有一半的大型企業(yè)會(huì)通過隱私計(jì)算賦能多方數(shù)據(jù)合作場景中的數(shù)據(jù)融合應(yīng)用。目前雖然隱私計(jì)算的場景主要聚焦金融、醫(yī)療等領(lǐng)域，但隨著其產(chǎn)品化、商業(yè)化的進(jìn)程的加速，以及用戶對(duì)隱私計(jì)算的接受度的提高，隱私計(jì)算也正往交通、教育、工業(yè)等領(lǐng)域延伸，并且將形成跨機(jī)構(gòu)、跨企業(yè)、跨行業(yè)的多類應(yīng)用場景，有望在更多行業(yè)進(jìn)行拓展應(yīng)用。隱私計(jì)算將加速基于數(shù)據(jù)協(xié)作的業(yè)務(wù)模式創(chuàng)新。一方面隱私計(jì)算能夠規(guī)避數(shù)據(jù)協(xié)作

47、過程中傳統(tǒng)數(shù)據(jù)收集、傳輸、交易等過程中帶來的安全風(fēng)險(xiǎn)，解決網(wǎng)絡(luò)連接費(fèi)用昂貴、傳輸速度緩慢、傳輸安全性低等問題，為業(yè)務(wù)的發(fā)展提供更多的自由空間。另一方面隱私計(jì)算通過安全機(jī)制和技術(shù)手段聯(lián)通多方數(shù)據(jù)源，重新定義各數(shù)據(jù)協(xié)作方的合作方式，可以解決以往數(shù)據(jù)主體的協(xié)作困境，從而實(shí)現(xiàn)業(yè)務(wù)形態(tài)、應(yīng)用場景、商業(yè)模式等方面的創(chuàng)新。（三）隱私計(jì)算將通過助力法規(guī)政策落地促進(jìn)數(shù)據(jù)融合應(yīng)用通過技術(shù)與制度配套推進(jìn)的方式實(shí)現(xiàn)數(shù)據(jù)保護(hù)將是隱私計(jì)算發(fā)展的有效路徑。隱私計(jì)算雖然從技術(shù)層面實(shí)現(xiàn)了隱私保護(hù)與數(shù)據(jù)協(xié)作之間的動(dòng)態(tài)平衡，對(duì)橋接數(shù)據(jù)孤島、釋放數(shù)據(jù)價(jià)值具有不可替代的作用。但需要強(qiáng)調(diào)的是，技術(shù)固然是實(shí)現(xiàn)合規(guī)的關(guān)鍵手段，但是合理、科學(xué)

48、的制度也是數(shù)據(jù)保護(hù)過程中必不可少的一環(huán)。對(duì)于隱私計(jì)算而言，在接受法律制度規(guī)制的同時(shí)，配合法律、政策、標(biāo)準(zhǔn)等相關(guān)制度共同實(shí)現(xiàn)數(shù)據(jù)保護(hù)將是其產(chǎn)品化和商業(yè)化的前提。隱私計(jì)算需動(dòng)態(tài)適應(yīng)法規(guī)政策的變化與完善，進(jìn)一步落實(shí)合規(guī)要求。 2019年10月，中共中央關(guān)于堅(jiān)持和完善中國特色社會(huì)主義制度 推進(jìn)國家治理體系和治理能力現(xiàn)代化若干重大問題的決定首次將數(shù)據(jù)增列為生產(chǎn)要素，數(shù)據(jù)要素與資本、勞動(dòng)、土地等要素一樣，也應(yīng)當(dāng)建立健全由市場評(píng)價(jià)貢獻(xiàn)、按貢獻(xiàn)決定報(bào)酬的機(jī)制。2020年3月，中共中央國務(wù)院關(guān)于構(gòu)建更加完善的要素市場化配置體制機(jī)制的意見再次強(qiáng)調(diào)，“加快培育數(shù)據(jù)要素市場”。在此背景下，若將來法律明確了數(shù)據(jù)及其衍生

49、品（如隱私計(jì)算的模型）的權(quán)屬及法律地位，規(guī)定了相應(yīng)的定價(jià)方式與交易制度，那么隱私計(jì)算等技術(shù)的發(fā)展方向也將改變。比如，信息處理者是否可在未經(jīng)充分授權(quán)的情況下，將合法采集的無法識(shí)別特定主體且無法復(fù)原的數(shù)據(jù)進(jìn)行自由地共享轉(zhuǎn)讓？雖然目前該問題的答案暫時(shí)是肯定的，但如果數(shù)據(jù)立法對(duì)個(gè)人信息權(quán)益進(jìn)行更加嚴(yán)格的保護(hù)，認(rèn)為數(shù)據(jù)衍生品的所有權(quán)也屬于個(gè)人，其流通必須經(jīng)過個(gè)人的明確授權(quán)，那么問題的答案也將隨之變化，隱私計(jì)算合規(guī)方案也將隨之調(diào)整。參考文獻(xiàn)著作類楊強(qiáng)，劉洋，程勇等：聯(lián)邦學(xué)習(xí)，電子工業(yè)出版社2020年版。論文期刊類楊庚，王周生：聯(lián)邦學(xué)習(xí)中的隱私保護(hù)研究進(jìn)展，載南京郵電大學(xué)學(xué)報(bào)（自然科學(xué)版）2020年第40卷

50、第5期。李鳳華，李暉，牛犇等：隱私計(jì)算概念、計(jì)算框架及其未來發(fā)展趨勢，載工程（英文）2019年第5卷第6期。網(wǎng)址及其他1 聯(lián)邦學(xué)習(xí)能否解決金融數(shù)據(jù)整合難題？，載威科先行網(wǎng)，/professional-articles/detail/NjAwM- DAwNzM2OTA%3D?searchId=54188083a980472b9f8c811f3cc13619&index=1&q=%E8%81%94%E9%82%A6%E5%AD%A6%E4%B9%A0%E8%83%BD%E5%90%A6%E8%A7%A3%E5%86%B3%E9%87%91%E8%9E%8D%E6%95%B0%E6%8D%AE%E6

51、%95%B4%E5%90%88%E9%9A%BE%E9%A2%98%EF%BC%9F&module=.2 中國信通院“卓信大數(shù)據(jù)”計(jì)劃-聯(lián)邦學(xué)習(xí)安全評(píng)估第一期順利完成，載中國信通院CAICT公眾號(hào)，/s/ZeJqQGZpUj9B8AcZM54BaA.3 規(guī)則的激蕩與新生2020年數(shù)據(jù)治理年度報(bào)告，載騰訊研究院公眾號(hào)，/s/LTi33dYJSC7NSUn4NaL96A.4 隱私計(jì)算工具的評(píng)價(jià)（一）差分隱私，載公安三所網(wǎng)絡(luò)安全法律研究中心公眾號(hào)，/s/tV-EwPsgClFx47_8nvVAJg.5 隱私保護(hù)計(jì)算技術(shù)研究報(bào)告（2020年），載中國信通院， HYPERLINK /kxyj/qwfb/

52、ztbg/202011/P020201110408006418997.pdf /kxyj/qwfb/ztbg/202011/P020201110408006418997.pdf6 隱私計(jì)算實(shí)現(xiàn)數(shù)據(jù)價(jià)值釋放的突破口，載中國信通院CAICT公眾號(hào)，/s/2jL3x-m-IX5Cc8ZRSxpdVw7 Gartner Top Strategic Technology Trends for 2021，載Gartner網(wǎng)，ht HYPERLINK /smarterwithgartner/gartner-top-strate- tps:/www.g HYPERLINK /smarterwithgartne

53、r/gartner-top-strate- artner.c HYPERLINK /smarterwithgartner/gartner-top-strate- om/smarter HYPERLINK /smarterwithgartner/gartner-top-strate- withgartner/gartner-top-strate- gic-technology-trends-for-2021/8 隱私計(jì)算產(chǎn)品測試及行業(yè)發(fā)展觀察，載隱私計(jì)算聯(lián)盟公眾號(hào)，/s/472o6CBMYbh2TPvX3rWv9g9 Federated Machine Learning: Concept and

54、 Applications，載Cornell University，/abs/1902.048810 A Pragmatic Introduction to Secure Multi-Party Computation，/11區(qū)塊鏈白皮書（2020年），載中國信通院， HYPERLINK /english/re- /english/re-search/whitepapers/202101/P020210127494158921362.pdf12 隱私計(jì)算產(chǎn)品測試及行業(yè)發(fā)展觀察，載隱私計(jì)算聯(lián)盟公眾號(hào)，/s/472o6CBMYbh2TPvX3rWv9g13 隱私計(jì)算應(yīng)用發(fā)展現(xiàn)狀與趨勢，載隱私計(jì)算聯(lián)盟公眾號(hào)，/s/ETVL2QGL4Nxl9NT84TZqZQ14 Gartner Top Strategic Technology Trends for 2021，載Gartner網(wǎng)，ht HYPERLINK /smarterwithgartner/gartner-top-strate- tps:/www.g HYPERLINK /smarterwithgartner/gar