2024年多主體數(shù)據(jù)中心算力-電力跨域協(xié)同優(yōu)化報(bào)告

華北電力大學(xué)多主體數(shù)據(jù)中心算力-電力跨域協(xié)同優(yōu)化丁肇豪華北電力大學(xué)目錄華北電力大學(xué)目錄華北電力大學(xué)3模型方案4算例分析5結(jié)論與展望華北電力大學(xué)NORTHCNAELECToCPoWERUNVLRS/TY>數(shù)字經(jīng)濟(jì)時(shí)代的到來(lái)，數(shù)據(jù)中心已經(jīng)成為支撐社會(huì)經(jīng)濟(jì)發(fā)展的重要新型基礎(chǔ)設(shè)施，其能耗巨大，且占比持續(xù)增長(zhǎng)。>特別是以ChatGPT為代表的生成式人工智能的興起，引發(fā)了數(shù)據(jù)中心能耗的新一輪飆升。0全國(guó)數(shù)據(jù)中心在用機(jī)架數(shù)(萬(wàn)架)2.3520103ChatGPT每天需要響應(yīng)約1.95億次查詢請(qǐng)求，預(yù)計(jì)每天進(jìn)行推理0模型訓(xùn)練能耗(MWh)研究背景華北電力大學(xué)NORTMCNAELECTeCPoWERUNVELRSTY研究背景華北電力大學(xué)NORTMCNAELECTeCPoWERUNVELRSTY>數(shù)據(jù)中心處理的計(jì)算任務(wù)類型多樣，在線任務(wù)和離線任務(wù)具有不同計(jì)算特性，在時(shí)空多維度展現(xiàn)出靈活性。需要實(shí)時(shí)響應(yīng)，時(shí)間延遲敏感，但多為輕量級(jí)計(jì)算，可以在不同地理位置數(shù)據(jù)中心間轉(zhuǎn)移?！鰰r(shí)間靈活性——離線任務(wù)處理時(shí)間長(zhǎng)，對(duì)數(shù)據(jù)和資源依賴性強(qiáng)，異地轉(zhuǎn)移難度大，可在滿足服務(wù)水平協(xié)議(SLA)前提下適當(dāng)推遲執(zhí)行。網(wǎng)頁(yè)服務(wù)流式計(jì)算電商業(yè)務(wù)計(jì)算任務(wù)空間轉(zhuǎn)移機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)調(diào)度后計(jì)算任務(wù)處理完成時(shí)間任務(wù)任務(wù)到達(dá)時(shí)間時(shí)間轉(zhuǎn)移截止時(shí)間第4頁(yè)共23頁(yè)華北電力大學(xué)華北電力大學(xué)>CloudOrchestration技術(shù)的發(fā)展為不同主體云運(yùn)營(yíng)商的開(kāi)展合作提供了技術(shù)基礎(chǔ)，使得多云數(shù)據(jù)中心能夠?qū)崿F(xiàn)在跨域市場(chǎng)信號(hào)(電力側(cè)、算力側(cè))的引導(dǎo)下，協(xié)同調(diào)度任務(wù)并異地執(zhí)行。從而可以改變數(shù)據(jù)中心能耗，降低整體運(yùn)營(yíng)成本，實(shí)現(xiàn)數(shù)據(jù)中心間資源的余缺-kubernetes/第5頁(yè)共23頁(yè)華北電力大學(xué)NORTHCHNAELECrpCPOWERUNVELRSiTY關(guān)鍵挑戰(zhàn)1:大規(guī)模計(jì)算任務(wù)調(diào)度ECE2024華北電力大學(xué)NORTHCHNAELECrpCPOWERUNVELRSiTY大規(guī)模計(jì)算任務(wù)調(diào)度：準(zhǔn)確、高效的任務(wù)調(diào)度是多云協(xié)同優(yōu)化的基礎(chǔ)。然而，計(jì)算任務(wù)具有大規(guī)模、高并發(fā)和復(fù)雜依賴關(guān)系等特性，使得數(shù)據(jù)中心任務(wù)調(diào)度面臨強(qiáng)隨機(jī)、非線性和NP-hard問(wèn)題。計(jì)算任務(wù)執(zhí)行拓?fù)潢P(guān)系計(jì)算任務(wù)執(zhí)行拓?fù)潢P(guān)系計(jì)算資源占用嵌套約束異構(gòu)任務(wù)-異質(zhì)資源匹配第6頁(yè)共23頁(yè)華北電力大學(xué)NORTHCNAELECreCPoWERUNVERSrTY關(guān)鍵挑戰(zhàn)2:多云隱私安全保護(hù)ECE2024華北電力大學(xué)NORTHCNAELECreCPoWERUNVERSrTY>多云隱私安全保護(hù)：集中式協(xié)同調(diào)度需要所有數(shù)據(jù)中心都具有可見(jiàn)性和可控性。然而，分屬不同主體的數(shù)據(jù)中心部分/加密/匿名信息共享數(shù)據(jù)挖掘運(yùn)行數(shù)據(jù)反推商業(yè)機(jī)密資源使用信息卷積神經(jīng)網(wǎng)絡(luò)特征提取業(yè)務(wù)信息調(diào)度管理策略業(yè)務(wù)信息共享原始數(shù)據(jù)易帶來(lái)商業(yè)機(jī)密泄露的風(fēng)險(xiǎn)關(guān)鍵數(shù)據(jù)個(gè)本地信息數(shù)據(jù)中心1數(shù)據(jù)中心2數(shù)據(jù)中心3需要對(duì)關(guān)鍵數(shù)據(jù)進(jìn)行隱私安全保護(hù)第7頁(yè)共23頁(yè)第8頁(yè)共23頁(yè)關(guān)鍵挑戰(zhàn)3:多主體個(gè)性化決策華北電力大學(xué)NORTMCNAELECTeCPoWERUNVELRS/TY園數(shù)據(jù)中心1企業(yè)數(shù)據(jù)中心2數(shù)據(jù)中心3銀行獨(dú)立同分布更新局部最優(yōu)非獨(dú)立同分布更新分布多云數(shù)據(jù)中心的環(huán)境異質(zhì)性導(dǎo)致數(shù)據(jù)非獨(dú)立同分布非獨(dú)立同分布數(shù)據(jù)學(xué)習(xí)易偏離最優(yōu)點(diǎn)華北電力大學(xué)NORTHCNAELECTbCPOWE華北電力大學(xué)NORTHCNAELECTbCPOWE為了解決上述挑戰(zhàn)，我們提出了一種考慮隱私約束和主體異質(zhì)特性的聯(lián)邦強(qiáng)化學(xué)習(xí)方法，實(shí)現(xiàn)了在跨地域市挑戰(zhàn)1挑戰(zhàn)1■提出適配大規(guī)模任務(wù)到達(dá)的調(diào)度模型，能夠?yàn)槊總€(gè)云數(shù)據(jù)中心高效分配本地計(jì)算資源，協(xié)同傳輸任務(wù)。并通過(guò)融合圖神經(jīng)網(wǎng)絡(luò)，保證了任務(wù)執(zhí)行的底層邏輯。挑戰(zhàn)2挑戰(zhàn)2多云隱私安全保護(hù)■提出基于分散式聯(lián)邦強(qiáng)化學(xué)習(xí)調(diào)度框架，實(shí)現(xiàn)在協(xié)同優(yōu)化任務(wù)調(diào)度過(guò)程的同時(shí)，保挑戰(zhàn)3■提出一種損失函數(shù)個(gè)性化重構(gòu)方法挑戰(zhàn)3>將每個(gè)云數(shù)據(jù)中心運(yùn)營(yíng)商(CSP)視為一個(gè)智能體，基于任務(wù)信息與跨域電價(jià)信號(hào)，進(jìn)行任務(wù)轉(zhuǎn)移與資源分配靈活性。資源任務(wù)信息聯(lián)邦強(qiáng)化學(xué)習(xí)迭代多云任務(wù)遷移決策迭代多云任務(wù)遷移決策聚合參數(shù)更新聚合參數(shù)更新高電價(jià)時(shí)段高電價(jià)時(shí)段低電價(jià)時(shí)段本地資源分配決策個(gè)性化本地更新NORTMCNAELECTbCNORTMCNAELECTbC-狀態(tài)：每個(gè)CSP的狀態(tài)包括計(jì)算任務(wù)信息、計(jì)算資源特征、電價(jià)信息、時(shí)間四個(gè)部分，記作s,=[s7,s,s°,t。其中，計(jì)算任務(wù)信息包括可轉(zhuǎn)移性、依賴關(guān)系拓?fù)?、資源占用三種屬性。口可轉(zhuǎn)移性口依賴關(guān)系拓?fù)?DAG)口資源占用口可轉(zhuǎn)移性1表示可以轉(zhuǎn)移，0表示不可轉(zhuǎn)移每個(gè)任務(wù)的當(dāng)前完成率：[fin?,…,fin:"]1表示可以轉(zhuǎn)移，0表示不可轉(zhuǎn)移在任務(wù)調(diào)度過(guò)程需要考慮計(jì)算任務(wù)的底層執(zhí)行邏輯，通常被表示為有向無(wú)環(huán)拓?fù)浣Y(jié)構(gòu)(DAG),具有高度非線性特征。華北電力大學(xué)NORTMCHNAEECrpcPoNERUNV華北電力大學(xué)NORTMCHNAEECrpcPoNERUNV-動(dòng)作：包括多云數(shù)據(jù)中心間任務(wù)轉(zhuǎn)移動(dòng)作(離散)和本地計(jì)算資源分配動(dòng)作(連續(xù))。首先決定任務(wù)的執(zhí)行地點(diǎn)，進(jìn)而為在本地處理的任務(wù)分配計(jì)算資源，并確保分配資源的總和不超過(guò)可用資源的上限?！鋈蝿?wù)轉(zhuǎn)移決策,表示將任務(wù)j分配到CSPi'執(zhí)行■資源分配約束,分配資源的總和不超過(guò)可用資源上限Z?輸出層Z?特征提取特征提取Z?Z?圖神經(jīng)網(wǎng)絡(luò)圖神經(jīng)網(wǎng)絡(luò)第13頁(yè)共23頁(yè)華北電力大學(xué)NORTHCHINAELECTPCPOWERUNVLRSiTY-獎(jiǎng)勵(lì)：獎(jiǎng)勵(lì)r,定義為任務(wù)調(diào)度過(guò)程中的收益和負(fù)成本之和。R,是任務(wù)調(diào)度期間的累計(jì)折扣獎(jiǎng)勵(lì)。獎(jiǎng)勵(lì)函數(shù)r=r"+r+r"+r①完成任務(wù)收益fin=100%:完成計(jì)算任務(wù)后獲得的收益。②能耗成本=-(α(res,-res,)+βres")p,:運(yùn)行時(shí)能耗成本，分為運(yùn)行和空載成本。③任務(wù)轉(zhuǎn)移成本r,=-∑cost!":任務(wù)轉(zhuǎn)移時(shí)的交換機(jī)和傳輸帶寬成本。④超出截止時(shí)間懲罰:如果任務(wù)未在SLA約定截止時(shí)間前完成，則相應(yīng)CSP受到違約處罰。從時(shí)間步t到調(diào)度周期T結(jié)束的累計(jì)折扣獎(jiǎng)勵(lì)可以計(jì)算為R,=,+yr,+…+yr,,其中y∈[0,1]是衡量當(dāng)前收益和分布式聯(lián)邦強(qiáng)化學(xué)習(xí)框架華北電力大學(xué)NORTHCINAELECTPCPoWERUNV1每個(gè)云數(shù)據(jù)中心各自執(zhí)行調(diào)度策略并獨(dú)立收集軌跡，并利■步驟二：局部參數(shù)聚合更新從鄰近數(shù)據(jù)中心收集參數(shù)，并通過(guò)聯(lián)邦強(qiáng)化學(xué)習(xí)框架與鄰■步驟三：聚合模型參數(shù)θagg回傳將聚合模型參數(shù)θagg回傳給云數(shù)據(jù)中心，引導(dǎo)其繼續(xù)進(jìn)行華北電力大學(xué)NORTHCNAELECTbCPOWE個(gè)性化損失函數(shù)重構(gòu)華北電力大學(xué)NORTHCNAELECTbCPOWE通過(guò)重構(gòu)云數(shù)據(jù)中心的局部損失函數(shù)，實(shí)現(xiàn)對(duì)決策網(wǎng)絡(luò)參數(shù)權(quán)重的修改，平衡了本地異質(zhì)特征和全局聚合特征間的更新權(quán)重，進(jìn)一步改變優(yōu)化更新方向，實(shí)現(xiàn)了異構(gòu)環(huán)境感知的主體個(gè)性化決策。主體1理論最優(yōu)下降方向本地更新本地?fù)p失函數(shù)理想下降方向不一致，導(dǎo)致個(gè)體決策偏離最優(yōu)。實(shí)際下降方向輸入狀態(tài)特征值當(dāng)該狀態(tài)維度異質(zhì)性低時(shí)，趨近于聚合參數(shù)當(dāng)該狀態(tài)維度異質(zhì)性高時(shí)，增強(qiáng)該特征影響主體1理論最優(yōu)下降方向B偏差減小本地更新原下降方向重構(gòu)后的損失函數(shù)對(duì)下降方向進(jìn)行修改，更貼近于個(gè)體決策最優(yōu)方向。第15頁(yè)共23頁(yè)第16頁(yè)共23頁(yè)收斂性證明華北電力大學(xué)NORTHCNAELECTeCPOWERUNVLRSTY我們進(jìn)一步證明了基于重構(gòu)損失函數(shù)的算法收斂性，證明如下：其中簡(jiǎn)記為D。算例驗(yàn)證華北電力大學(xué)NORTM算例驗(yàn)證華北電力大學(xué)NORTMCHNAELECTuCPoWERUNVERSTY3個(gè)分布不同主體的數(shù)據(jù)中心在市場(chǎng)信號(hào)引導(dǎo)下跨地域協(xié)同調(diào)度的場(chǎng)景，細(xì)節(jié)如下：數(shù)據(jù)中心1任務(wù)到達(dá)電價(jià)00■凌晨0-7時(shí)和晚上21-24時(shí)數(shù)據(jù)中心1的電價(jià)明00■凌晨0-7時(shí)和晚上21-24時(shí)數(shù)據(jù)中心1的電價(jià)明顯低于數(shù)據(jù)中心2和3;■數(shù)據(jù)中心1的計(jì)算任務(wù)主要在8-15時(shí)到達(dá)，數(shù)據(jù)中心2的計(jì)算任務(wù)主要在8時(shí)以后到達(dá)，數(shù)據(jù)中心3的計(jì)算任務(wù)到達(dá)時(shí)間較為平均。時(shí)間(h)任務(wù)到達(dá)數(shù)量任務(wù)到達(dá)數(shù)量0(美元兆瓦時(shí)電價(jià)數(shù)據(jù)中心2任務(wù)到達(dá)02412345678910111213141516171819202時(shí)間(h)云數(shù)據(jù)中心參數(shù)時(shí)間時(shí)間(h)CSP1、CSP2CSP1、CSP2和CSP3的任務(wù)到達(dá)情況和電價(jià)分布任務(wù)信息來(lái)自阿里巴巴數(shù)據(jù)集第17頁(yè)共23頁(yè)華北電力大學(xué)NORTHCNAELECTbCPOWE跨域信號(hào)引導(dǎo)的協(xié)同任務(wù)調(diào)度華北電力大學(xué)NORTHCNAELECTbCPOWE我們驗(yàn)證了所提方法在跨域電價(jià)信號(hào)引導(dǎo)下多主體數(shù)據(jù)中心協(xié)同調(diào)度的有效性，提出的協(xié)同調(diào)度機(jī)制可將任務(wù)轉(zhuǎn)移至電價(jià)低且資源充足的區(qū)域進(jìn)行執(zhí)行，降低了運(yùn)行成本，實(shí)現(xiàn)了更大程度的靈活性釋放。計(jì)算能耗計(jì)算能耗(pu)電價(jià)(美元兆瓦時(shí))時(shí)間(h)CSP1口任務(wù)轉(zhuǎn)移決策可以考慮到目標(biāo)數(shù)據(jù)中心計(jì)算資源使用狀況時(shí)間(h)CSP2時(shí)間(h)CSP2情況，例如：在9:00-15:00間，由于其他數(shù)據(jù)中心此時(shí)資源利用率也較高，數(shù)據(jù)中心1只轉(zhuǎn)移一小部分任務(wù)給其他數(shù)據(jù)中心。時(shí)間(h)CSP3CSP1、CSP2和CSP3計(jì)算能耗的變化第18頁(yè)共23頁(yè)華北電力大學(xué)NORTHCNAELECreCPoWERUNVERSTY跨域信號(hào)引導(dǎo)的協(xié)同任務(wù)調(diào)度華北電力大學(xué)NORTHCNAELECreCPoWERUNVERSTY>以數(shù)據(jù)中心3為例，從微觀視角出發(fā)，分析電價(jià)信號(hào)引導(dǎo)下多主體數(shù)據(jù)中心協(xié)同決策的底層調(diào)度邏輯?！鋈蝿?wù)轉(zhuǎn)移決策可以充分利用任務(wù)靈活性：■本地資源分配過(guò)程，任務(wù)執(zhí)行依賴關(guān)系得到保障：計(jì)算任務(wù)數(shù)量計(jì)算任務(wù)數(shù)量可執(zhí)行任務(wù)O已完成任務(wù)未完成任務(wù)新到達(dá)任務(wù)法資源利用率5法資源利用率55可執(zhí)行任務(wù)：83①①4410口根據(jù)任務(wù)執(zhí)行各個(gè)環(huán)節(jié)的資源分配情況分析，所提方法在資源分配時(shí)只分配給當(dāng)前可執(zhí)行任務(wù)，保證了任務(wù)執(zhí)行約束?？谵D(zhuǎn)移更多離截止時(shí)間近的任務(wù)去往數(shù)據(jù)中心1,因?yàn)檫@部分任務(wù)時(shí)間靈活性有限，需盡快利用數(shù)據(jù)中心1的低電價(jià)口根據(jù)任務(wù)執(zhí)行各個(gè)環(huán)節(jié)的資源分配情況分析，所提方法在資源分配時(shí)只分配給當(dāng)前可執(zhí)行任務(wù)，保證了任務(wù)執(zhí)行約束。第19頁(yè)共23頁(yè)華北電力大學(xué)NORTMCNAELECTeCPoWERU考慮隱私約束的協(xié)同調(diào)度華北電力大學(xué)NORTMCNAELECTeCPoWERU■集中調(diào)度方法：集中調(diào)度方法需要掌握全局信息，無(wú)法實(shí)現(xiàn)多云隱私保護(hù)。■完全分散調(diào)度方法：完全分散調(diào)度方法不允許多云數(shù)據(jù)中心之間進(jìn)行任務(wù)轉(zhuǎn)移，無(wú)法利用空間靈活性。所提方法一集中調(diào)度方法—口所提出的方法比完全分散調(diào)度方法總成本降低18.6%,口所提出的方法比集中式調(diào)度方法收斂速度提高了30.3%。DDL違反率降低30.8%。