2022聯(lián)邦學(xué)習(xí)安全需求白皮書

聯(lián)邦學(xué)習(xí)安全需求白皮書（2022）聯(lián)邦學(xué)習(xí)安全需求白皮書（2022聯(lián)邦學(xué)習(xí)安全需求白皮書（2022）PAGEPAGE目錄第一邦習(xí)展述 2數(shù)據(jù)素場展安合規(guī)求 2聯(lián)邦習(xí)術(shù)其展 3聯(lián)邦習(xí)臨突問和挑戰(zhàn) 5第二邦習(xí)全險分析 6信息統(tǒng)全險 6聯(lián)邦議全險 7聯(lián)邦務(wù)全險 8第三邦習(xí)全求總框架 9聯(lián)邦習(xí)全計路 9聯(lián)邦習(xí)全架 9聯(lián)邦習(xí)全級議 第四望倡議 12參考獻 17第一章聯(lián)邦學(xué)習(xí)發(fā)展概述數(shù)據(jù)要素市場發(fā)展與安全合規(guī)要求國家持續(xù)推動數(shù)字經(jīng)濟的發(fā)展，著力促進數(shù)據(jù)要素市場發(fā)展。黨的十九屆（數(shù)據(jù)的隱私安全受到世界各國的廣泛和高度重視，法律法規(guī)的監(jiān)管和要求20185AI聯(lián)邦學(xué)習(xí)技術(shù)及其發(fā)展參數(shù)，從而達到協(xié)同訓(xùn)練效果的分布式機器學(xué)習(xí)方法。習(xí)，分布式機器學(xué)習(xí)，密碼學(xué)（對稱非對稱加密，同態(tài)加密等，差分隱私，安全多方計算等多種不同的技術(shù)。圖1聯(lián)邦學(xué)習(xí)與相關(guān)技術(shù)概念的關(guān)系Google2016下載更新到自己的移動設(shè)備，提高訓(xùn)練模型的準(zhǔn)確性。目前聯(lián)邦學(xué)習(xí)技術(shù)收到業(yè)界廣泛關(guān)注和深度參與，在框架、產(chǎn)品/應(yīng)用以及標(biāo)準(zhǔn)化方面都已經(jīng)有大量公司和機構(gòu)在積極布局。應(yīng)用應(yīng)用泛金融醫(yī)療物聯(lián)網(wǎng)智慧城市運營商平臺框架標(biāo)準(zhǔn)化圖2聯(lián)邦學(xué)習(xí)技術(shù)的產(chǎn)業(yè)生態(tài)平臺框架標(biāo)準(zhǔn)化GoogleFacebook企業(yè)以及同盾、富數(shù)、藍象科技等新興創(chuàng)業(yè)公司。主流聯(lián)邦學(xué)習(xí)開源框架包括FAT（微眾PaddleF（百度Fedlearne（字節(jié)跳動TensorFlowPySyft（Facebook）等。3GPPITU-TCCSA20213IEEE（IEEEP3652.1CCSATC1TC8，TC601了相關(guān)的研究課題和標(biāo)準(zhǔn)立項。20215經(jīng)營。聯(lián)邦學(xué)習(xí)面臨的突出問題和挑戰(zhàn)（一）缺乏合規(guī)及安全性評測認(rèn)證（二）性能開銷劣化成為發(fā)展與應(yīng)用瓶頸（三）異構(gòu)框架并存帶來新的互聯(lián)互通壁壘重制約聯(lián)邦學(xué)習(xí)技術(shù)的應(yīng)用推廣和規(guī)?；l(fā)展。第二章聯(lián)邦學(xué)習(xí)安全風(fēng)險分析邦學(xué)習(xí)的安全風(fēng)險。信息系統(tǒng)安全風(fēng)險信息平臺安全風(fēng)險,結(jié)合《信息系統(tǒng)安全等級保護定級指南》要求，風(fēng)險的分類包括：物理安全風(fēng)險是指針對系統(tǒng)所用設(shè)備的物理風(fēng)險，如自然災(zāi)害、電源故障、無靜電防護、設(shè)備被盜、電磁泄露等造成物理硬件資產(chǎn)損害。險指的是在基于網(wǎng)絡(luò)構(gòu)建的傳輸線路上存在竊聽風(fēng)險或者通信鏈路存在三方干擾風(fēng)險。漏洞等；非法授權(quán)訪問以及應(yīng)用操作無法安全存證審計等。由于未采用合適加密技術(shù)導(dǎo)致的數(shù)據(jù)泄露風(fēng)險以及影響數(shù)據(jù)完整性的風(fēng)險；聯(lián)邦協(xié)議安全風(fēng)險聯(lián)邦學(xué)習(xí)系統(tǒng)的分布式架構(gòu)帶來了不同于傳統(tǒng)信息系統(tǒng)以及傳統(tǒng)機器學(xué)習(xí)聯(lián)邦協(xié)議安全風(fēng)險；多方計算層面的算子安全風(fēng)險，以及基礎(chǔ)密碼算法層面的密碼安全風(fēng)險；訓(xùn)練風(fēng)險及模型推斷風(fēng)險等；聯(lián)邦協(xié)議安全風(fēng)險按照實現(xiàn)方案可分為基于RSA盲簽名的隱私對齊方案風(fēng)現(xiàn)一致性安全；從邏輯層次的角度詳細(xì)分析和描述聯(lián)邦學(xué)習(xí)協(xié)議安全的內(nèi)容如下：協(xié)議安全風(fēng)險:即聯(lián)邦學(xué)習(xí)節(jié)點間的交互協(xié)議存在的安全風(fēng)險，該安全風(fēng)險算子安全風(fēng)險包括算子庫的實現(xiàn)錯誤，引用無認(rèn)證來源算子庫等；密碼算法的安全風(fēng)險包括密碼算法的實現(xiàn)錯誤，引用無認(rèn)證來源密碼算法庫,未如密鑰長度或者強度不足，沒有加密處理等；聯(lián)邦業(yè)務(wù)安全風(fēng)險AIAI臨的安全問題在聯(lián)邦學(xué)習(xí)依然存在，這些典型安全風(fēng)險包括：或者社會規(guī)范道德方面的安全風(fēng)險；法對模型決策做出合適的解釋。(ML)AI第三章聯(lián)邦學(xué)習(xí)安全需求總體框架聯(lián)邦學(xué)習(xí)安全設(shè)計思路原則：及實踐上的階段可操性性；分類分級原則：聯(lián)邦學(xué)習(xí)安全框架一方面要能體現(xiàn)出安全風(fēng)險的分類原則，傳統(tǒng)的信息系統(tǒng)安全和機器學(xué)習(xí)系統(tǒng)安全；聯(lián)邦學(xué)習(xí)安全框架安全目標(biāo)及要求聯(lián)邦學(xué)習(xí)系統(tǒng)由于人工智能模型的結(jié)果不確定性以及算法的分布式交互等（性（魯棒性防攻擊和可解釋性等安全屬性。聯(lián)邦學(xué)習(xí)的安全目標(biāo)和具體的安全屬性要求為：1）平臺安全的安全目標(biāo)包括：保密性、完整性、可用性、可審計性。聯(lián)邦學(xué)習(xí)安全需求白皮書（2022聯(lián)邦學(xué)習(xí)安全需求白皮書（2022）1010特性。完整性：確保平臺相關(guān)數(shù)據(jù)信息等不被未經(jīng)授權(quán)的方式替換或破壞的特性。性，即在事件發(fā)生后迅速恢復(fù)運行狀態(tài)的能力。2）協(xié)議安全的安全目標(biāo)包括：安全性、穩(wěn)定性、可靠性。據(jù)的特性。穩(wěn)定性：聯(lián)邦學(xué)習(xí)算法在存在各種干擾情況下保持其性能水平穩(wěn)定的特性。時的自動或者手工接管機制。3）業(yè)務(wù)安全的安全目標(biāo)包括：合規(guī)性、公平性、可解釋性、防攻擊性。律、法規(guī)以及規(guī)定的特性；及規(guī)范要求的特性。準(zhǔn)確性解釋的特性。性。安全框架聯(lián)邦學(xué)習(xí)安全需求白皮書（2022聯(lián)邦學(xué)習(xí)安全需求白皮書（2022）11PAGE邦學(xué)習(xí)新領(lǐng)域的擴展。RSA務(wù)的攻擊性檢測及預(yù)防安全即攻防安全。聯(lián)邦學(xué)習(xí)安全分級建議對于聯(lián)邦學(xué)習(xí)目前還沒有機構(gòu)或者標(biāo)準(zhǔn)組織來制定聯(lián)邦學(xué)習(xí)安全的能力分級標(biāo)準(zhǔn)，建議可以將聯(lián)邦學(xué)習(xí)的安全能力分為如下三級：I平臺層面資產(chǎn)保密，完整，功能可用；聯(lián)邦學(xué)習(xí)安全III協(xié)議層面安全防護以及業(yè)務(wù)層面社會規(guī)范道德公平正義,應(yīng)用攻擊檢測等；聯(lián)邦學(xué)習(xí)安全IIIII以及應(yīng)用層面業(yè)務(wù)層面的模型可解釋、攻擊主動防御等；第四章展望與倡議聯(lián)邦學(xué)習(xí)的安全研究目前尚處于起步階段，還存在著眾多有待解決的問題，未來可重點推動和開展如下三方面的工作：（一）構(gòu)建聯(lián)邦學(xué)習(xí)安全標(biāo)準(zhǔn)體系和安全能力分級標(biāo)準(zhǔn)（二