智能控制 第3版 PPT課件 第5章

《智能控制》2023年5月第五章基于經(jīng)典機器學習方法的智能控制主要內容機器學習的基本概念5.15.25.3決策樹支持向量機5.5經(jīng)典機器學習在控制領域的應用5.4主成成分分析

機器學習(ML)有監(jiān)督學習無監(jiān)督學習強化學習聚類5.1—機器學習的基本概念機器學習的概念機器學習的分類邏輯回歸降維決策樹支持向量機人工神經(jīng)網(wǎng)絡數(shù)據(jù)機器學習模型指標預測/性能提升數(shù)據(jù)分析圖像處理自然語言處理控制工程領域……5.2—決策樹決策樹的概念決策樹是一種簡單有效的分類方法?；跇颖緮?shù)據(jù)，遞歸選擇合適特征條件作為分支節(jié)點，不斷提高子分支的“純度”特征在于，能夠將復雜的決策過程分解為一系列更加簡單的步驟優(yōu)點在于，結果直觀，可解釋性更強結點(Node)分支(Branch)根結點(RootNode)內部結點(InternalNode)葉結點(LeafNode)父結點(ParentNode)子結點(ChildNode)5.2—決策樹決策樹的構建—生成過程

遞歸過程開始選擇最優(yōu)特征a根據(jù)a對數(shù)據(jù)進行分類查看結點中數(shù)據(jù)類別是否同類是否滿足停止條件設為葉結點完成是否是否停止條件當前結點內的數(shù)據(jù)樣本均屬于同一個類別，無需進一步分割能夠作為劃分標準的特征已經(jīng)全部使用，無法選出新的劃分特征當前結點內的數(shù)據(jù)樣本在所有特征上具有相同的值當前結點內的數(shù)據(jù)樣本集為空，無法再做劃分5.2—決策樹

決策樹的構建—特征選擇5.2—決策樹目的：對正在構造的或是已經(jīng)生成的決策樹進行簡化，降低過擬合的風險。種類：預剪枝（pre-pruning）和后剪枝（pro-pruning）決策樹的構建—剪枝預剪枝：在構建決策樹過程中，根據(jù)一定的條件，提前停止剪枝過程。舉例：訓練數(shù)據(jù)T中抽出一部分組成驗證集Test，在對樣本進行劃分時，在Test上驗證劃分前與劃分后的精度，若精度有提升，則執(zhí)行劃分操作，否則不執(zhí)行劃分操作，當前結點修改為葉節(jié)點。后剪枝：后剪枝則是指在生成了一棵完整的決策樹后，再對分支進行刪減。舉例：從決策樹的葉結點開始遞歸地向上回溯，將某個葉結點的父結點修改為葉結點，考察在驗證集上分類精度的變化。若修改為葉結點后分類精度上升，則意味著當前的分支造成了決策樹泛化能力的下降，應當被剪除。類別：二分類算法

算法核心：劃分超平面

面對問題：線性劃分/非線性劃分難點：尋找合適的超平面，使模型具備良好的魯棒性和泛化能力，乃至處理非線性劃分分類思想依據(jù)：最大化間隔的分類思想5.3—支持向量機支持向量機的概念正類反類分離超平面

5.3—支持向量機線性可分問題與硬間隔支持向量機正類反類分離超平面

問題特點：兩個類別線性可分，存在一個明確的分隔間隔。處在間隔邊界上的樣本點叫做“支持向量”

支持向量幾何間隔

5.3—支持向量機求解超平面及其對偶問題

5.3—支持向量機求解超平面及其對偶問題

5.3—支持向量機線性問題與軟間隔支持向量機

正類反類不可分點

5.3—支持向量機非線性可分問題與核方法低維，線性不可分映射到高維，線性可分維度災難：實際應用中，數(shù)據(jù)維度較高，但是可能只有部分特征與學習任務強相關，其余特征冗余。同時，高維數(shù)據(jù)還會在機器學習算法中帶來巨大的計算負擔。降維：通過某種數(shù)學變換，將數(shù)據(jù)特征由原本的高維空間投射到低維空間。通常用在機器學習和圖像處理過程中來降低高維數(shù)據(jù)的維度，同時提取并保留初始數(shù)據(jù)的主要特征，便于模型的建立。5.4—主成成分分析主成成分分析的基本思想—降維滿足要求：

最近重構性：樣本集中所有點，重構后

的點距離原來的點的誤差之和最小。

最大可分性：樣本在低維空間的投影盡可能分開。5.4—主成成分分析理論推導

矩陣分解（SingularValueDecomposition）

5.4—主成成分分析方法步驟背景：石油，鋼鐵，化工，建材等行業(yè)產(chǎn)能過剩，環(huán)境風險，安全風險，急需改革信息技術的發(fā)展，數(shù)據(jù)大量冗余，新要求和新方向終端生產(chǎn)指標預測模型在工業(yè)化和信息化加速融合的背景下，利用數(shù)據(jù)驅動方法及人工智能技術，充分利用工業(yè)現(xiàn)場的海量數(shù)據(jù)進行終端生產(chǎn)指標預測，對于生產(chǎn)過程的操作條件優(yōu)化、提高流程制造企業(yè)的智能化程度和實現(xiàn)全流程的整體優(yōu)化具有重要的理論意義和應用價值。5.5—經(jīng)典機器學習在控制領域的應用流程工業(yè)生產(chǎn)控制系統(tǒng)流程工業(yè)生產(chǎn)過程中，由于其具有工藝流程長、物理化學性質多變、噪聲干擾大等生產(chǎn)特性，采集到的生產(chǎn)過程數(shù)據(jù)也呈現(xiàn)出獨特的數(shù)據(jù)特征。了解、分析這些流程工業(yè)數(shù)據(jù)特有的特征，對于生產(chǎn)控制方案的設計具有重要的意義。5.5—經(jīng)典機器學習在控制領域的應用流程工業(yè)生產(chǎn)控制系統(tǒng)的分析時滯特征和時空相關性原因：由工業(yè)對象本身的特點引起的時滯，化驗過程和在線分析儀引起的時滯

方法：ARMA,ARMIA,HMM,RNN等標簽樣本有限性原因：過程變量由傳感器實時得到，而生產(chǎn)指標常常需要耗時的化學檢測，導致標簽相對較少。方法：半監(jiān)督學習等工況波動下的數(shù)據(jù)分布時變原因：工藝輸入原料的波動、工藝積垢、機械部件的磨損、催化劑失活、外部環(huán)境的變化等方法：自適應策略，如即時學習，滑動窗等噪聲和質量數(shù)據(jù)小樣本過程的不確定性原因：在數(shù)據(jù)采集、傳輸與存儲等環(huán)節(jié)均會受到不確定的噪聲干擾，以及模型的認知不確定性。方法：數(shù)據(jù)預處理，構造魯棒性強的模型等優(yōu)勢：數(shù)據(jù)驅動方法不需要復雜的物理化學背景知識，基于歷史數(shù)據(jù)建立變量的相關關系模型來實現(xiàn)預測任務，因其較好的通用性，成為建立生產(chǎn)指標預測模型的一種有效方法。建立步驟：數(shù)據(jù)預處理：用于剔除噪聲及離群點的影響，提升模型泛化性能。輸入變量選擇：提高建模效率，減少模型復雜度及計算負擔。特征提?。罕M可能保留主要信息，剔除冗余信息，集中數(shù)據(jù)特征。建立預測模型：根據(jù)任務需求，建立合適的預測模型，預測終端生產(chǎn)指標。常用建模方法：PCA,ICA,PLS,KPCA,KPLS,SVM等5.5—經(jīng)典機器學習在控制領域的應用基于統(tǒng)計學習的終端生產(chǎn)指標預測模型高爐爐缸特點：應用于生鐵冶煉，高能耗，多相反應物，高溫高壓，反應復雜，影響產(chǎn)品質量，熱狀態(tài)難以直接測量。5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法熱狀態(tài)評價指標

：鐵水含硅量與高爐爐缸的溫度近似呈線性關系，爐缸溫度越高，則鐵水含硅量越高，故用其作為指標。輸出標簽：+1和-1，分別代表鐵水含硅量增加和減少。輸入變量：在輸入變量的選擇上，與生產(chǎn)原料、燃料相關的變量鼓風壓力、進料速度以及與出料成分密切相關的變量如硫含量均被包括在內。數(shù)據(jù)增強：考慮預測含硅量的趨勢變化，所以還需考慮是采用原始數(shù)據(jù)（Originldata，表中記作OD）還是微分數(shù)據(jù)（Differentiateddata，表中記作DD）。輸入變量：5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法符號變量名單位符號變量名單位最新硅含量wt%FTT爐膛頂部溫度℃S硫含量wt%SB爐渣堿度wt%BV鼓風量m^3/minCO爐頂煤氣一氧化碳含量wt%BT鼓風溫度℃爐頂煤氣二氧化碳含量wt%BP鼓風壓力kPa爐頂煤氣氫氣含量wt%FTP爐膛頂部壓力kPaBI成分堿度wt%FS送料速度mm/hCLI配料焦炭量wt%GP透氣性m^3/min?kPaSI冶煉強度t/m^3?dPC煤粉噴吹tonCR焦比kg/tOE富氧率wt%UC利用系數(shù)t/m^3?d表5-1數(shù)據(jù)增強：5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法數(shù)據(jù)類型SBVBTBPFTPFSGPPCOEDD-0.24-0.45-0.20-0.07-0.08-0.09-0.150.06-0.01-0.13OD-0.33-0.23-0.08-0.05-0.01-0.01-0.120.02-0.03-0.03數(shù)據(jù)類型FTTSBCOBICLISICRUCDD0.060.02-0.13-0.10-0.050.40-0.04-0.150.02-0.06OD0.02-0.01-0.07-0.070.020.14-0.03-0.140.02-0.10

表5-2

5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法變量篩選（通過計算F-score）：根據(jù)下表，即可通過設定F-score閾值等方法確定最終的輸入變量5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法變量F-score變量F-score0.27550.00710.21720.00510.12630.00390.04130.00270.02260.00260.01830.00240.01810.00070.01540.0006UC0.01220.00040.0104PC0.0001表5-3

5.5—經(jīng)典機器學習在控制領域的應用基于支持向量機的高爐爐缸熱狀態(tài)控制方法丙烯酸工藝介紹：主要原材料是丙烯和空氣。丙烯在催化劑的催化作用下，首先和氧氣反應生成丙烯醛，而后再進行第二步氧化反應，最終生成丙烯酸。關鍵變量指標

：經(jīng)過第一步氧化反應后丙烯醛的轉化率，對于提高丙烯酸最終生成率有重要意義。但是由于技術的限制，很難實時獲得丙烯醛的轉化率5.5—經(jīng)典機器學習在控制領域的應用基于主成成分分析的丙烯醛軟測量建模方法流程說明：丙烯醛轉化為丙烯酸的反應發(fā)生在第二步氧化過程的第二個反應器（R-102）中，圖5-11中展示了丙烯第二步氧化工藝流程。丙烯經(jīng)過第一步氧化制得丙烯醛后，需補充進一步氧化所需要的空氣，丙烯醛和循環(huán)廢棄、空氣在進料混合器（M-103）中混合，進入二段氧化反應器（R-102），在催化劑的作用下轉化為丙烯酸。丙烯第二步氧化變量說明

：5.5—經(jīng)典機器學習在控制領域的應用基于主成成分分析的丙烯醛軟測量建模方法編號標簽號變量描述編號標簽號變量描述1FIC1011空氣到M‐103控制流量8TI1083H‐103出口溫度2FIC1023K‐102出口流量9TI1084H‐103入口溫度3TI1085M‐103內部溫度10TI1052R‐102底部溫度4TI1057AM‐103出口溫度11TI1054P‐104出口溫度5TI1057BE‐106進口溫度12PI1021AR‐102頂部壓力6TI1051R‐102最高溫度13PI1021BR‐102底部壓力7TI1082H‐103入口溫度14TIC1053E‐105控制溫度

5.5—經(jīng)典機器學習在控制領域的應用基于主成成分分析的丙烯醛軟測量建模方法主成成分分析得到結果展示

：5.5—經(jīng)典機器學習在控制領域的應用基于主成成分分析的丙烯醛軟測量建模方法主成分編號特征值方差百分比（%）累計方差百分比（%）主成分編號特征值方差百分比（%）累計方差百分比（%）15.137936.7036.7