2024新一代聯(lián)邦學(xué)習(xí)技術(shù)及應(yīng)用實(shí)戰(zhàn)

新一代聯(lián)邦學(xué)習(xí)技術(shù)及應(yīng)用實(shí)戰(zhàn)導(dǎo)讀：隨著大數(shù)據(jù)的進(jìn)一步發(fā)展，重視數(shù)據(jù)隱私和安全已經(jīng)成為了世界性的趨勢(shì)，同時(shí)，大多數(shù)行業(yè)數(shù)據(jù)呈現(xiàn)數(shù)據(jù)孤島現(xiàn)象，如何在滿足用戶(hù)隱私保護(hù)、數(shù)據(jù)安全和政府法規(guī)的前提下，進(jìn)行跨組織的數(shù)據(jù)合作是困擾人工智能從業(yè)者的一大難題。而“聯(lián)邦學(xué)習(xí)”將成為解決這一行業(yè)性難題的關(guān)鍵技術(shù)。今天會(huì)和大家分享下微眾銀行主導(dǎo)的新一代聯(lián)邦學(xué)習(xí)技術(shù)及應(yīng)用，而FATE則是聯(lián)邦學(xué)習(xí)落地的一個(gè)工業(yè)級(jí)開(kāi)源平臺(tái)。今天的介紹會(huì)圍繞下面五點(diǎn)展開(kāi)：聯(lián)邦學(xué)習(xí)背景介紹縱向聯(lián)邦學(xué)習(xí)橫向聯(lián)邦學(xué)習(xí)應(yīng)用案例FATE：聯(lián)邦學(xué)習(xí)開(kāi)源平臺(tái)▌聯(lián)邦學(xué)習(xí)背景介紹首先和大家分享下聯(lián)邦學(xué)習(xí)的背景。AI落地的理想與現(xiàn)實(shí)我們知道AI落地的時(shí)候，會(huì)遇到很多現(xiàn)實(shí)的問(wèn)題：現(xiàn)實(shí)中，我們的數(shù)據(jù)質(zhì)量是非常差的，比如聊天數(shù)據(jù)中有很多噪音；數(shù)據(jù)標(biāo)簽，收集是比較困難的，很多場(chǎng)景中的數(shù)據(jù)是沒(méi)有標(biāo)簽的；數(shù)據(jù)是分散的，（這也是最重要的一點(diǎn)）每家應(yīng)用的數(shù)據(jù)不一樣，比如騰訊用的是社交屬性數(shù)據(jù)，阿里用的是電商交易數(shù)據(jù)，微眾用的是信用數(shù)據(jù)，都是分散來(lái)應(yīng)用的?，F(xiàn)實(shí)中，如何進(jìn)行跨組織間的數(shù)據(jù)合作，會(huì)有很大的挑戰(zhàn)。國(guó)內(nèi)數(shù)據(jù)監(jiān)管法律體系研究從09年到現(xiàn)在的10年時(shí)間內(nèi)，國(guó)家關(guān)于數(shù)據(jù)的法律條例是趨向于嚴(yán)格化的，同時(shí)趨向于全面化，每個(gè)細(xì)分領(lǐng)域都紛紛出臺(tái)了相應(yīng)的條例和條款。相對(duì)來(lái)講，讓之前可行的一些數(shù)據(jù)合作方案變得不太可行?；诼?lián)邦學(xué)習(xí)的技術(shù)生態(tài)針對(duì)上述問(wèn)題，微眾銀行提出了基于聯(lián)邦學(xué)習(xí)的技術(shù)生態(tài)，特點(diǎn)如下：數(shù)據(jù)隔離：聯(lián)邦學(xué)習(xí)的整套機(jī)制在合作過(guò)程中，數(shù)據(jù)不會(huì)傳遞到外部。無(wú)損：通過(guò)聯(lián)邦學(xué)習(xí)分散建模的效果和把數(shù)據(jù)合在一起建模的效果對(duì)比，幾乎是無(wú)損的。對(duì)等：合作過(guò)程中，合作雙方是對(duì)等的，不存在一方主導(dǎo)另外一方。共同獲益：無(wú)論數(shù)據(jù)源方，還是數(shù)據(jù)應(yīng)用方，都能獲取相應(yīng)的價(jià)值。聯(lián)邦學(xué)習(xí)的分類(lèi)體系聯(lián)邦學(xué)習(xí)的分類(lèi)體系，包括：縱向聯(lián)邦學(xué)習(xí)，兩個(gè)數(shù)據(jù)集的用戶(hù)(U1,U2,…)重疊部分較大，而用戶(hù)特征(X1,X2,…)重疊部分較??；橫向聯(lián)邦學(xué)習(xí)，兩個(gè)數(shù)據(jù)集的用戶(hù)特征(X1,X2,…)重疊部分較大，而用戶(hù)(U1,U2,…)重疊部分較小；聯(lián)邦遷移學(xué)習(xí)，通過(guò)聯(lián)邦學(xué)習(xí)和遷移學(xué)習(xí)，解決兩個(gè)數(shù)據(jù)集的用戶(hù)(U1,U2,…)與用戶(hù)特征重疊(X1,X2,…)部分都比較小的問(wèn)題。下面，重點(diǎn)分享下縱向聯(lián)邦學(xué)習(xí)和橫向聯(lián)邦學(xué)習(xí)。▌縱向聯(lián)邦學(xué)習(xí)聯(lián)合建模需求場(chǎng)景舉個(gè)例子：微眾與合作企業(yè)進(jìn)行聯(lián)合建模，比如做信貸逾期模型，微眾有Y數(shù)據(jù)，包括標(biāo)簽數(shù)據(jù)，逾期記錄，用這樣的數(shù)據(jù)可能會(huì)建一個(gè)很好的模型，但我們希望用更多的數(shù)據(jù)，比如合作方的標(biāo)簽數(shù)據(jù)和畫(huà)像數(shù)據(jù)來(lái)更大的提升風(fēng)控模型的效果和穩(wěn)定性。傳統(tǒng)模式的問(wèn)題是：合作企業(yè)缺乏Y無(wú)法獨(dú)立建立模型，需要微眾把Y數(shù)據(jù)，帶入到合作方的生產(chǎn)環(huán)境建模，但是由于國(guó)家的數(shù)據(jù)保護(hù)條款和各企業(yè)自身對(duì)數(shù)據(jù)的嚴(yán)格規(guī)定，得到的X數(shù)據(jù)不能全量的傳輸?shù)轿⒈?。ID，特征是完全不一樣的，可以通過(guò)一方特征來(lái)彌補(bǔ)另一方特征的不足。同態(tài)加密技術(shù)保護(hù)隱私縱向聯(lián)邦學(xué)習(xí)的技術(shù)實(shí)現(xiàn)，首先應(yīng)做好兩點(diǎn)，來(lái)保護(hù)數(shù)據(jù)隱私：建模樣本ID差集不向?qū)Ψ叫孤?，在合作之初需要進(jìn)行用戶(hù)匹配，需要找出用戶(hù)的交集，但是不能泄露差集，因?yàn)檫@是企業(yè)最核心的資產(chǎn)。任何底層(X，Y)數(shù)據(jù)不向?qū)Ψ叫孤?，建模過(guò)程中如何保證數(shù)據(jù)不被泄露。解決方案：通過(guò)RSA和Hash的機(jī)制，保證雙方最終只用到交集部分，且差集部分不向?qū)Ψ叫孤?。采用同態(tài)加密技術(shù)，這個(gè)過(guò)程中，各方的原始數(shù)據(jù)，以及數(shù)據(jù)加密態(tài)都沒(méi)有被傳輸。交互部分，雙方通過(guò)損失中間結(jié)果，用同態(tài)加密的機(jī)制進(jìn)行交互，模型訓(xùn)練完之后，會(huì)各自得到一個(gè)模型，各自的模型會(huì)部署在各自的一方，就是如果我只提供了3個(gè)特征，那么我只有3個(gè)特征的模型，只提供2個(gè)特征，就只有2個(gè)特征的模型，任何一方的模型都沒(méi)法單獨(dú)去應(yīng)用，只有共同應(yīng)用的時(shí)候，才能進(jìn)行決策?；陔[私保護(hù)的樣本id匹配剛才提到基于隱私保護(hù)的樣本id匹配，和大家分享下具體的技術(shù)方案。比如，A方有[u1，u2，u3，u4]四個(gè)用戶(hù)，B方有[u1，u2，u3，u5]，那么整個(gè)過(guò)程中，如何保證雙方知道[u1，u2，u3]，而A方不知道B方有[u5]，B方不知道A有[u4]？這里是通過(guò)RSA和Hash的機(jī)制做到的，方會(huì)作為公鑰的生成方，會(huì)把公鑰給到AHash引用一個(gè)隨機(jī)數(shù)，再交互傳給B同時(shí)做Hash然后傳給A你可以看到?jīng)]有任何一個(gè)明文數(shù)據(jù)傳遞過(guò)來(lái)，即使采用暴力或者碰撞的方式，依然解析不出原始的id同態(tài)加密分享了匹配過(guò)程中隱私保護(hù)的問(wèn)題，接下來(lái)分享一個(gè)通用的技術(shù)，同態(tài)加密。剛才提到建模過(guò)程中，引用了同態(tài)加密技術(shù)，比如對(duì)兩個(gè)數(shù)字進(jìn)行加密，加密后兩個(gè)數(shù)字的密文可以進(jìn)行數(shù)學(xué)運(yùn)算，比如加法，其結(jié)果依然是密文，對(duì)密文解密后得到的結(jié)果和它們明文的加法結(jié)果是一樣的。通過(guò)這樣的同態(tài)加密技術(shù)，我們把它應(yīng)用到機(jī)器學(xué)習(xí)，包括特征工程中。接下來(lái)會(huì)重點(diǎn)介紹，聯(lián)邦機(jī)制下特征工程和機(jī)器學(xué)習(xí)建模的一些細(xì)節(jié)。我們知道特征工程是機(jī)器學(xué)習(xí)建模中非常重要的一環(huán)，在聯(lián)邦機(jī)制下，如何完成聯(lián)邦特征工程？尤其A方只有X沒(méi)有Y，如果想做一個(gè)WOE或者IV值的計(jì)算是非常困難的。那么如何在聯(lián)邦學(xué)習(xí)的機(jī)制下，A方利用B方有Y的數(shù)據(jù)計(jì)算WOE和IV值，且在這個(gè)過(guò)程中B方?jīng)]有泄漏任何數(shù)據(jù)？首先，B方對(duì)y以及1-y進(jìn)行同態(tài)加密，然后給到A方，A方會(huì)對(duì)自己的特征進(jìn)行分箱處理，進(jìn)而A方在分箱中進(jìn)行密文求和的操作，再把結(jié)果給到B方進(jìn)行解密，然后算出A方每個(gè)特征分箱的WOE值和IV值。在這個(gè)過(guò)程中，沒(méi)有明文數(shù)據(jù)傳輸，A方不知道B方的y值，同時(shí)B方也不知道A方每個(gè)特征的值是什么，從而在安全隱私保護(hù)的情況下，完成了特征工程的計(jì)算。說(shuō)完特征工程，再講下最核心的機(jī)器學(xué)習(xí)，比如常見(jiàn)的邏輯回歸，這是經(jīng)典的lossfunction和梯度，剛才說(shuō)的同態(tài)加密的特性，目前用到的是半同態(tài)的技術(shù)。所以，需要對(duì)lossfunction和梯度進(jìn)行多項(xiàng)式展開(kāi)，來(lái)滿足加法操作。這樣就可以把同態(tài)加密的技術(shù)應(yīng)用在lossfunction和梯度中。SecureBoost在很多現(xiàn)實(shí)的業(yè)務(wù)應(yīng)用中，樹(shù)模型是非常重要的，尤其是XGBoost，對(duì)很多應(yīng)用來(lái)說(shuō)，提升非常明顯，因而被業(yè)界廣泛使用。在聯(lián)邦機(jī)制下，如何構(gòu)建這樣的樹(shù)？這里我們提出了SecureBoost技術(shù)方案，雙方協(xié)同共建一個(gè)boosting樹(shù)，我們證明了整個(gè)過(guò)程中是無(wú)損的。圖中為一些paper和鏈接，感興趣的小伙伴可以查找下。SecureBoost的核心技術(shù)點(diǎn)。上圖為基于SecureBoost構(gòu)建的樹(shù)，A和B代表不同數(shù)據(jù)的owner，L0，L1，L2，L3，L4代表不同feature的分割點(diǎn)編碼，整顆樹(shù)由A和B共同維護(hù)，每一方只維護(hù)自己的樹(shù)節(jié)點(diǎn)，對(duì)另外一方的樹(shù)節(jié)點(diǎn)信息不可見(jiàn)（只知道編碼，不知道編碼具體含義），保證整個(gè)訓(xùn)練和預(yù)測(cè)過(guò)程都是安全的。構(gòu)建SecureBoost核心的關(guān)注點(diǎn)是如何構(gòu)建分裂節(jié)點(diǎn)，尤其一方只有X，另一方有(X，Y)的情況?；谕瑧B(tài)加密的機(jī)制，B方會(huì)把1階梯度和2階梯度傳遞給A方，A方基于分箱之后的結(jié)果算出每個(gè)分箱中的1階梯度和2階梯度的求和值，然后傳遞給B方，B方會(huì)解密這個(gè)求和值，算出信息增益，然后給到A方。求分裂節(jié)點(diǎn)的核心就是如何算信息增益，通過(guò)這樣的機(jī)制，就可以算出每個(gè)分裂節(jié)點(diǎn)，同時(shí)沒(méi)有泄露任何隱私信息。▌橫向聯(lián)邦學(xué)習(xí)舉個(gè)例子：微眾和合作行共建反洗錢(qián)模型，期望優(yōu)化反洗錢(qián)模型。因?yàn)?，各自利用自家樣本建立的反洗錢(qián)模型的效果和穩(wěn)定性都不能滿足現(xiàn)實(shí)需求。我們可以利用聯(lián)邦學(xué)習(xí)的機(jī)制，充分利用多家的反洗錢(qián)樣本，同時(shí)在不泄露樣本的條件下，構(gòu)建一個(gè)非常大的模型，可以看到橫向聯(lián)邦學(xué)習(xí)中，微眾銀行和合作行，都是有(X，Y)的。技術(shù)層面上，采用了同態(tài)加密、Secret-Sharing技術(shù)，整個(gè)過(guò)程中，雙方交互的是模型和梯度，同時(shí)引入了SecureAggregation機(jī)制，讓交互過(guò)程中的梯度也是很難被反解的。最終，大家都會(huì)得到一個(gè)相同的模型。橫向聯(lián)邦學(xué)習(xí)，綜合多家樣本，可以讓模型更加穩(wěn)健，效果更好。下面分享下橫向聯(lián)邦學(xué)習(xí)的核心技術(shù)點(diǎn)，這是Google的兩篇paper，第一個(gè)是每個(gè)端自己訓(xùn)練模型，然后發(fā)給云端進(jìn)行綜合各個(gè)模型的效果，但是這里面會(huì)有個(gè)問(wèn)題，就是模型本身也可能會(huì)泄露隱私信息，所以引入了SecureAggregation，各方在傳輸模型的時(shí)候會(huì)加一些噪音，通過(guò)云端來(lái)消除這些噪音，使數(shù)據(jù)和模型得到保護(hù)。▌應(yīng)用案例聯(lián)邦學(xué)習(xí)目前已經(jīng)賦能眾多關(guān)鍵領(lǐng)域，取得了不錯(cuò)的效果：銀行+監(jiān)管，聯(lián)合反洗錢(qián)建模互聯(lián)網(wǎng)+銀行，聯(lián)合信貸風(fēng)控建?；ヂ?lián)網(wǎng)+保險(xiǎn)，聯(lián)合權(quán)益定價(jià)建?；ヂ?lián)網(wǎng)+零售，聯(lián)合客戶(hù)價(jià)值建模以其中的兩個(gè)場(chǎng)景以及在視覺(jué)領(lǐng)域的應(yīng)用來(lái)說(shuō)明：保險(xiǎn)業(yè)個(gè)性化定價(jià)對(duì)于保險(xiǎn)公司如果想做個(gè)性化的定價(jià)，是一件非常困難的事情，保險(xiǎn)公司只有一些業(yè)務(wù)數(shù)據(jù)、承保數(shù)據(jù)和理賠數(shù)據(jù)，通過(guò)這樣的數(shù)據(jù)，對(duì)用戶(hù)做千人千面的定價(jià)是非常難的。通過(guò)聯(lián)邦學(xué)習(xí)機(jī)制，可以融合多個(gè)數(shù)據(jù)源，來(lái)構(gòu)建這樣一個(gè)千人千面的定價(jià)。這是我們目前在做的案例，當(dāng)你購(gòu)買(mǎi)權(quán)益產(chǎn)品之后，如果違章了，可以幫你免賠，在這里每個(gè)人看到的價(jià)格是不一樣的，這就是我們通過(guò)聯(lián)邦學(xué)習(xí)幫它們做的。我們綜合了出險(xiǎn)數(shù)據(jù)和互聯(lián)網(wǎng)數(shù)據(jù)，如標(biāo)簽、用戶(hù)畫(huà)像，構(gòu)建了一個(gè)基于保險(xiǎn)定價(jià)的聯(lián)邦學(xué)習(xí)產(chǎn)品。小微企業(yè)信貸風(fēng)險(xiǎn)管理很多時(shí)候?qū)π∥⑵髽I(yè)我們只有央行的征信報(bào)告，想要更精準(zhǔn)的刻畫(huà)企業(yè)的信用狀況，需要更多的數(shù)據(jù)，比如發(fā)票、工商、稅務(wù)的數(shù)據(jù)。這是我們的一個(gè)案例，我們利用了開(kāi)票金額和央行的征信數(shù)據(jù)共建了一個(gè)聯(lián)邦學(xué)習(xí)模型，來(lái)預(yù)估每個(gè)企業(yè)的風(fēng)險(xiǎn)。聯(lián)邦學(xué)習(xí)在視覺(jué)領(lǐng)域的應(yīng)用與AI公司探索重塑機(jī)器視覺(jué)市場(chǎng)，利用聯(lián)邦學(xué)習(xí)的機(jī)制，相對(duì)于本地建模，進(jìn)一步提升算法準(zhǔn)確率，并且形成網(wǎng)絡(luò)效應(yīng)，降低長(zhǎng)尾應(yīng)用成本，提升視覺(jué)業(yè)務(wù)總體利潤(rùn)率。這是聯(lián)邦視覺(jué)在城市管理上的應(yīng)用。▌聯(lián)邦學(xué)習(xí)開(kāi)源平臺(tái)：FATE通過(guò)剛剛的介紹，相信大家對(duì)聯(lián)邦學(xué)習(xí)能夠做什么，有了大體的認(rèn)識(shí)。而聯(lián)邦學(xué)習(xí)想要落地，不可避免的就是開(kāi)源，接下來(lái)為大家介紹下微眾銀行開(kāi)源的聯(lián)邦學(xué)習(xí)平臺(tái)——FATE：FATE定位于工業(yè)級(jí)聯(lián)邦學(xué)習(xí)系統(tǒng)，能夠有效幫助多個(gè)機(jī)構(gòu)在符合數(shù)據(jù)安全和政府法規(guī)前提下，進(jìn)行數(shù)據(jù)使用和聯(lián)合建模。設(shè)計(jì)原則：支持多種主流算法：為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、遷移學(xué)習(xí)提供高性能聯(lián)邦學(xué)習(xí)機(jī)制。支持多種多方安全計(jì)算協(xié)議：同態(tài)加密、秘密共享、哈希散列等。友好的跨域交互信息管理方案，解決了聯(lián)邦學(xué)習(xí)信息安全審計(jì)難的問(wèn)題。里程碑介紹下FATE的里程碑，F(xiàn)ATE在今年2月份首發(fā)了0.1版本，3月份的時(shí)候有了第一位外部Contributor，同時(shí)GitHubStar突破100，5月份發(fā)布了0.2版本，支持了聯(lián)邦特征工程和在線推理，6月份發(fā)布了0.3版本，把主要的合作伙伴遷移到了FATE，并把FATE捐獻(xiàn)給了LinuxFundation，8月份發(fā)布了1.0版本，支持FATE-Flow和FATE-Board，還有些后續(xù)的計(jì)劃，大家可以了解下。挑戰(zhàn)聯(lián)邦學(xué)習(xí)從一項(xiàng)技術(shù)真正成為一個(gè)關(guān)鍵系統(tǒng)和產(chǎn)品方案時(shí)，我們遇到了下述挑戰(zhàn)：一站式建模過(guò)程的聯(lián)邦化MPC協(xié)議下分布式算法(onWAN)易理解和易維護(hù)跨站點(diǎn)數(shù)據(jù)傳輸安全性和可管理性，如何讓交互部分是可以被管理和被審計(jì)的。異構(gòu)基礎(chǔ)架構(gòu)自適應(yīng)，聯(lián)邦學(xué)習(xí)可能會(huì)運(yùn)行在CPU、GPU和端上，如何讓上層不受底層的變化而變化。技術(shù)架構(gòu)接下講下FATE的整體架構(gòu)：EggRoll：分布式計(jì)算和存儲(chǔ)的抽象；FederatedNetwork：跨域跨站點(diǎn)通信的抽象；FATEFederatedML：聯(lián)邦學(xué)習(xí)算法模塊，包含了目前聯(lián)邦學(xué)習(xí)所有的算法功能；FATE-Flow|FATE-Board：完成一站式聯(lián)邦建模的管理和調(diào)度以及整個(gè)過(guò)程的可視化；FATE-Serving：聯(lián)邦學(xué)習(xí)在線推理模塊。一站式聯(lián)合建模Pipeline，其流程：在開(kāi)發(fā)環(huán)境下，其流程是從聯(lián)邦統(tǒng)計(jì)->聯(lián)邦特征工程->聯(lián)邦模型訓(xùn)練，當(dāng)上線部署的時(shí)候會(huì)有聯(lián)邦在線推理模塊，底層則會(huì)采用多方安全計(jì)算協(xié)議去支持上層各種聯(lián)邦算法。這是FATE的五大核心功能，這里不再?gòu)?fù)述。①FATEFederatedMLFATEFederatedML：EggRoll&FederationAPI：底層是EggRoll的算子，比如Map和MapValues，Remote和Get可以完成整個(gè)分布式計(jì)算的抽象；MPCProtocol：包括同態(tài)加密、秘密共享等多種多方安全協(xié)議，NumericOperator：會(huì)抽象出數(shù)學(xué)算子，比如加法或者乘法；MLOperator：用建好的數(shù)學(xué)算子構(gòu)建機(jī)器學(xué)習(xí)算子，而不用管底層的安全協(xié)議是什么；Algorithms：有了ML算子之后就構(gòu)建各種算法模型。②EggRollEggRoll，是整個(gè)分布式計(jì)算和存儲(chǔ)的抽象。面向算法開(kāi)發(fā)者，通過(guò)API實(shí)現(xiàn)分布式計(jì)算和存儲(chǔ)。上面為EggRoll的整體架構(gòu)圖。③FederatedNetworkFederatedNetwork：聯(lián)邦學(xué)習(xí)不僅需要分布式計(jì)算，還需要跨站點(diǎn)通信和交互，上層會(huì)提供一個(gè)API給到開(kāi)發(fā)者，通過(guò)Remote和Get