2024微軟人工智能系統(tǒng)利用人工智能來優(yōu)化計(jì)算機(jī)

1課程主要內(nèi)容現(xiàn)代系統(tǒng)帶來的挑戰(zhàn)#1#2#3:系統(tǒng)選項(xiàng)與參數(shù)調(diào)優(yōu)落地的考慮要素和痛點(diǎn)“SoftwareRunstheWorld”我們生活中常見的系統(tǒng)

個(gè)人電腦

云和分布系統(tǒng)個(gè)人移動(dòng)設(shè)備

物聯(lián)網(wǎng)部署規(guī)模系統(tǒng)設(shè)計(jì)與運(yùn)維充滿了決策軟件編譯器的策略，操作系統(tǒng)的調(diào)度策略，高速緩存里的置換算法，分布系統(tǒng)里資源的分配網(wǎng)路congestioncontrolflowcontrol，數(shù)據(jù)壓縮策略，網(wǎng)路品質(zhì)的預(yù)測，視頻流傳輸比特率，防火墻的規(guī)則匹配策略…硬件與架構(gòu)CPU的數(shù)據(jù)緩存和預(yù)存取，電路布局，數(shù)據(jù)中心溫度與濕度的預(yù)測…規(guī)模和動(dòng)態(tài)性提高了系統(tǒng)復(fù)雜度規(guī)模和動(dòng)態(tài)性提高了系統(tǒng)復(fù)雜度規(guī)模的維度一個(gè)系統(tǒng)的組成可以有多個(gè)子系統(tǒng)，子服務(wù)，和子組件每個(gè)系統(tǒng)可能分布在上千個(gè)服務(wù)器上例子：Bing動(dòng)態(tài)性的維度系統(tǒng)負(fù)載：譬如，用戶搜索關(guān)鍵字隨著時(shí)間而變…容，虛擬機(jī)遷移…外在因素：譬如，網(wǎng)絡(luò)品質(zhì)復(fù)雜度使得系統(tǒng)難以被工程師有效地優(yōu)化復(fù)雜度使得系統(tǒng)難以被工程師有效地優(yōu)化缺乏資深的系統(tǒng)工程師人的知識與經(jīng)驗(yàn)的傳播需要大量的時(shí)間數(shù)據(jù)源：軟件，服務(wù)器硬件，網(wǎng)路系統(tǒng)工程師難以理解大量的數(shù)據(jù)，并找出之中的相關(guān)性范式轉(zhuǎn)移：AI-for-Systems范式轉(zhuǎn)移：AI-for-Systems手寫的算法或啟發(fā)法，來對特定的場景，找到近似解No-free-lunch機(jī)器學(xué)習(xí)擅長于探索和學(xué)習(xí)大規(guī)模數(shù)據(jù)里復(fù)雜的關(guān)系GPU)，和機(jī)器學(xué)習(xí)工具的普及(譬如和Scipy)系統(tǒng)標(biāo)注數(shù)據(jù)較易獲?。合到y(tǒng)系統(tǒng)輸入/系統(tǒng)設(shè)定/環(huán)境變數(shù)

系統(tǒng)輸出/性能指標(biāo)機(jī)器學(xué)習(xí)模型機(jī)器學(xué)習(xí)模型小結(jié)小結(jié)/思考系統(tǒng)的復(fù)雜度律AI-for-Systems實(shí)現(xiàn)的方式AI-for-Systems實(shí)現(xiàn)的方式#1#2#3案例1：數(shù)據(jù)庫索引案例1：數(shù)據(jù)庫索引索引是一種數(shù)據(jù)結(jié)構(gòu)，存儲(chǔ)著索引的值和這個(gè)值的數(shù)據(jù)所在行的物理地址這些索引往往會(huì)犧牲大量的存儲(chǔ)空間和性能傳統(tǒng)索引：B-Tree傳統(tǒng)索引：B-TreeB-Treepage來組織數(shù)據(jù)，每一個(gè)page對應(yīng)B-Tree基于一個(gè)key個(gè)目標(biāo)page搜索時(shí)間復(fù)雜度：O（logn）空間復(fù)雜度：O（1）B-tree索引不一定是最好的選擇…假設(shè)我們的數(shù)據(jù)集就是1100M的O（1）LearnedIndexLearnedIndexkeyDNN學(xué)習(xí)數(shù)據(jù)集的分布pos–min_errposmax_err之間B-treeCDF“TheCaseforLearnedIndexStructures”SIGMOD‘18Kraskaetal.LearnedIndex的實(shí)現(xiàn)LearnedIndex的實(shí)現(xiàn)Na?veLearnedIndexfully-connected的DNN232-neuronlayersDNN下，min_err+max_err大約是10kmin_errmax_err變得越來越困難…

RecursiveModelIndex(RMI)AhierarchymodelsLearnedIndexvs.B-tree索引LearnedIndexvs.B-tree索引Comparisonbaseline:B-Treewithpagesizeof128空間：up空間：upto0.23×?xí)r間：upto3.08×空間：upto0.24×?xí)r間：upto2.07×空間：upto0.24×?xí)r間：upto1.79×小結(jié)小結(jié)/思考Learnedindex針對只讀不寫的場景模型的復(fù)雜度可能提高推斷的準(zhǔn)確率，但也提高了所需要的時(shí)間比如論文里的recursivemodelindex案例2：視頻流傳輸優(yōu)化案例2：視頻流傳輸優(yōu)化extvideochunkatesponseextvideochunkatesponse:Request:OutputInput1sec/secRvideocontentbitrateVideoClient1secvideoVideoServerThroughput

bitrateTimeSlideborrowedfromHongziMao(SIGCOMM‘17)/pensieve/content/pensieve-sigcomm17.pptx視頻流傳輸優(yōu)化的難點(diǎn)視頻流傳輸優(yōu)化的難點(diǎn)ThroughputVideobitrateThroughputThroughputVideobitrateThroughputBitrate(Mbps)variable&uncertainConflictingQoEgoalsBitrateRebufferingtimeBuffersize(sec)Buffersize(sec)CascadingeffectsofdecisionsSlideborrowedfromHongziMao(SIGCOMM‘17)/pensieve/content/pensieve-sigcomm17.pptxPensievePensieveStatespace:前面幾塊的比特率，下一塊的不同碼率下的大小，客戶端當(dāng)前緩存占用率，…

bandwidth

ABR

Action:下一塊的比特率bitrates

Environmentbitratebuffer

720P720P 1080PReward:體驗(yàn)質(zhì)量（比如播放流暢度和畫質(zhì)）

networkandvideomeasurements

“NeuralAdaptiveVideoStreamingwithPensieve”SIGCOMM‘17Maoetal.“NeuralAdaptiveVideoStreamingwithPensieve”SIGCOMM‘17Maoetal.Comparisonbaselines:BOLA–考慮了bufferoccupancyobservationsMPCModelPredictiveControlbufferoccupancyobservationsandnetworkthroughputpredictionon5futurechunksQoE考慮了(1)QoE考慮了(1)比特率大小，(2)緩沖時(shí)間(卡頓)，(3)片段與片段之間的比特率平滑性AverageQoE2AverageQoE10

BOLA robustMPC

“MPClacksanaccuratemodelnetworkdynamics–thusitonsimpleandsub-suoptimalheuristics…anyABRalgorithmthatonfixedheuristicsorsimplifiedsystemmodelssuffersfromtheselimitations”PublicWiFi Internationallink小結(jié)小結(jié)/思考盲目得使用機(jī)器學(xué)習(xí)不一定會(huì)有效果當(dāng)所需要學(xué)習(xí)的行為空間增大，建模的代價(jià)也會(huì)增加比如模型的準(zhǔn)確率，數(shù)據(jù)集大小，模型復(fù)雜度，模型訓(xùn)練的時(shí)長系統(tǒng)工程師可以從經(jīng)驗(yàn)，來制定學(xué)習(xí)的行為空間案例3：系統(tǒng)設(shè)定與參數(shù)調(diào)優(yōu)案例3：系統(tǒng)設(shè)定與參數(shù)調(diào)優(yōu)“UnderstandingandDealingwithConfigurationinSystemSoftware”FSE‘15Xuetal.系統(tǒng)調(diào)參的相關(guān)工作系統(tǒng)調(diào)參的相關(guān)工作應(yīng)用場景機(jī)器學(xué)習(xí)算法AutomaticDatabaseManagementystemThroughLarge-scaleMachineLearning”,SIGMOD’17數(shù)據(jù)庫調(diào)優(yōu)analysis和clusteringforworkloadcharacterizationLassoforidentifyingimportantconfigurationknobsBayesianoptimizationandGaussianprocessmodelsforblackboxknobtuning“CherryPick:AdaptivelyUnearthingtheBestCloudConfigurationsforBigDataAnalytics”,NSDI’17大數(shù)據(jù)分析機(jī)器的配置與花費(fèi)的調(diào)優(yōu)BayesianoptimizationandGaussianprocessmodels“”ResourceCentral:UnderstandingandPredictingforImprovedManagementinLargeCloudPlatforms“,OSDI’17Azure集群的負(fù)載特征來提高資源管理RandomforestsforCPUutilizationExtremegradientboostingtreesfordeploymentsize,VMlifetime,andworkloadclass“Anend-to-endautomaticclouddatabasetuningsystemusingdeepreinforcementlearning”,SIGMOD‘19數(shù)據(jù)庫調(diào)優(yōu)Reinforcementlearning“AutoSys:TheDesignandOperationofLearning-AugmentedSystems”,ATC’20Bing搜索引擎的優(yōu)化BayesianoptimizationandGaussianprocessmodels“MLGO:AMachineLearningGuidedCompilerOptimizationsFramework”,’21針對編譯后代碼大小的編譯器優(yōu)化Reinforcementlearning………貝葉斯優(yōu)化和高斯回歸的黑盒優(yōu)化貝葉斯優(yōu)化和高斯回歸的黑盒優(yōu)化回歸模型（比如高斯過程）回歸模型（比如高斯過程）Param#1ParamParam#1Param#nPerfmetric………

預(yù)測目前近似最優(yōu)的系統(tǒng)參數(shù)真實(shí)物理機(jī)或模擬器預(yù)測目前近似最優(yōu)的系統(tǒng)參數(shù)貝葉斯優(yōu)化 推薦下一個(gè)應(yīng)該做效能測試的系統(tǒng)參數(shù)貝葉斯優(yōu)化推薦下一個(gè)應(yīng)該做效能測試的系統(tǒng)參數(shù)Exploitation:選擇現(xiàn)在可能最佳的點(diǎn)來采樣50004000

Re-sampling:選擇有可能有噪聲或異常值的點(diǎn)來重新采樣Exploration:選擇現(xiàn)在不確定但未來可能會(huì)有高收益的點(diǎn)來采樣系統(tǒng)性能指標(biāo)

30002000 ×1000

×AutomaticDatabaseManagementystemThroughLarge-scaleMachineLearning”SIGMOD‘17Akenetal.“CherryPick:AdaptivelyUnearthingtheBestCloudConfigurationsforBigDataAnalytics”50 100 150 200 參數(shù)值

NSDI‘17Alipourfardetal.“Metis:RobustlyOptimizingLatenciesCloudLiangetal.小結(jié)/深度學(xué)習(xí)不是唯一的工具，傳統(tǒng)機(jī)器學(xué)習(xí)方法也能優(yōu)化系統(tǒng)場景系統(tǒng)正確性模型不確定性會(huì)影響系統(tǒng)正確性機(jī)器學(xué)習(xí)太過于激進(jìn)會(huì)影響系統(tǒng)的穩(wěn)定性足？利用人工智能來優(yōu)化計(jì)算機(jī)系統(tǒng)不只是選取模型“HiddenDebtinMachineLearningSystems”NIPS2015Sculleyetal.落地的考慮要素和痛點(diǎn)1.)“系統(tǒng)數(shù)據(jù)”問題哪些系統(tǒng)輸出和性能數(shù)

3.)“系統(tǒng)動(dòng)態(tài)性”問題系統(tǒng)評測可能需大量時(shí)

據(jù)需保留為訓(xùn)練數(shù)據(jù)？系統(tǒng)數(shù)據(jù)可能會(huì)有噪聲和異常值，影響模型訓(xùn)練數(shù)據(jù)？模型設(shè)計(jì)？

系統(tǒng)場景

系統(tǒng)負(fù)載會(huì)隨著時(shí)間而變化？系統(tǒng)的軟件和硬件架構(gòu)部署優(yōu)？ 如何布置系統(tǒng)反饋驅(qū)動(dòng)學(xué)習(xí)環(huán)境?

確性的影響?機(jī)器學(xué)習(xí)的激進(jìn)性對系統(tǒng)的穩(wěn)定性的影響？

人機(jī)回圈？2.)“系統(tǒng)模型”問題 4.)“系統(tǒng)正確性”問題“系統(tǒng)數(shù)據(jù)”問題“系統(tǒng)數(shù)據(jù)”問題比如：資料庫的緩存需要暖機(jī)研究課題：如何降低系統(tǒng)評測的次數(shù)（比如exploration-exploitation）?有50+100+性能指標(biāo)研究課題：如何判斷哪些系統(tǒng)數(shù)據(jù)需保留為訓(xùn)練數(shù)據(jù)集？比如：時(shí)間類性能指標(biāo)研究課題：如何學(xué)習(xí)系統(tǒng)的正常方差“系統(tǒng)模型”問題“系統(tǒng)模型”問題比如：線上//模擬系統(tǒng)環(huán)境研究課題：如何布置這些環(huán)境？如何遷移不同環(huán)境下學(xué)到得知識？針對場景的模型超參調(diào)優(yōu)…比如：模型的推斷延遲，準(zhǔn)確率，資源使用率研究課題：自動(dòng)機(jī)器學(xué)習(xí)（AutoML）針對場景的模型設(shè)計(jì)…比如：（非深度/深度）模型架構(gòu)的選擇，有效模型輸入的選擇研究課題：自動(dòng)機(jī)器學(xué)習(xí)（AutoML），特征工程“系統(tǒng)模型”問題案例：LearnedRanker“系統(tǒng)模型”問題案例：LearnedRanker基本上，防火墻為每個(gè)網(wǎng)絡(luò)數(shù)據(jù)檢查每一條過濾規(guī)則，直到找到符合的規(guī)則復(fù)雜的模型可以提升Learnedranker是符合的過濾規(guī)則，進(jìn)而為規(guī)則匹配引擎預(yù)排序規(guī)則

系統(tǒng)整體的性能必須Rule-matchingSystemswithLearnedRankers”‘19Lieta