機器學(xué)習(xí)原理與應(yīng)用電子教案 5.1線性回歸

備課日期：年月日授課時間課時（理論+實驗）周次星期:節(jié)次:授課課題線性回歸教學(xué)目標(biāo)1.理解線性回歸的主要目的（解決什么問題）。2.掌握線性回歸數(shù)學(xué)模型構(gòu)建與求解方法（如何解決問題）。3.掌握編程實現(xiàn)線性回歸算法與Scikit-learn線性回歸庫的使用（如何應(yīng)用）。教學(xué)重點1.模型構(gòu)建與矩陣求解方法；2.梯度下降算法。教學(xué)準(zhǔn)備PPT、點名冊等。教學(xué)方法指導(dǎo)閱讀、案例法。教學(xué)過程設(shè)計備注課題引入【思考】從沿直線分布的噪聲點中隨機抽取兩點繪制直線，如何保證該直線與真實直線的偏差最小呢？〖PPT〗隨機抽取兩點繪制直線。【關(guān)鍵】線性回歸基本目的：如何從已知噪聲點中找到一條與真實直線偏差最小的直線？（該直線可用于新數(shù)據(jù)的預(yù)測）【時間】分鐘。教學(xué)步驟及主要內(nèi)容【主板書】§3.1.線性回歸一、基本原理【主板書】基本原理▲機器學(xué)習(xí)的基本任務(wù)（分類與回歸）?！緯r間】分鐘。【提問】。二、線性模型【主板書】線性模型1.線性的含義。2.數(shù)學(xué)表達式。h【副板書】模型的簡化?！舅颊吭诖髮W(xué)生活中，專業(yè)課學(xué)習(xí)、社團活動、創(chuàng)新創(chuàng)業(yè)等因素具有不同的重要性與相關(guān)性；在人生中，事業(yè)、婚姻、家庭等因素具有也具有不同的重要性與相關(guān)性。對于不同因素對大學(xué)生活及人生的影響，不能孤立地進行分析，而應(yīng)采用類似線性回歸模型的形式綜合進行分析。【強化與拓展】一元回歸與多元回歸?！緯r間】分鐘。【提問】。三、模型構(gòu)建（一元線性回歸為例）。例1：修路到五名同學(xué)家均最近?！緩娀c拓展】分析問題的方法：以個體為基礎(chǔ)，歸納一般規(guī)律。1.模型假設(shè)：y=ax+b。2.選擇與構(gòu)造損失函數(shù)?！緩娀c拓展】回顧損失函數(shù)的常用形式。3.構(gòu)建代價函數(shù)。4.代價函數(shù)的求解?！緯r間】分鐘?！咎釂枴?。四、模型的求解1.最小二乘法（1）對參數(shù)求偏導(dǎo)、聯(lián)立方程組求參數(shù)。（2）編程實現(xiàn)?！糚PT〗演示要點：參數(shù)求解函數(shù)的編寫。產(chǎn)生與顯示仿真數(shù)據(jù)（噪聲服從正態(tài)分布）。模型求解（參數(shù)求解函數(shù)的調(diào)用）。結(jié)果顯示。2.矩陣求解法問題：多元回歸，參數(shù)較多，如何推導(dǎo)？（1）樣本、參數(shù)與代價函數(shù)的矩陣化表達。（2）參數(shù)求導(dǎo)與求解。（3）編程實現(xiàn)?！糚PT〗演示要點：參數(shù)求解函數(shù)的編寫。產(chǎn)生與顯示仿真數(shù)據(jù)（噪聲服從正態(tài)分布）。模型求解（參數(shù)求解函數(shù)的調(diào)用）。結(jié)果顯示。3.梯度下降算法問題：矩陣不滿秩時，如何求？（1）基本原理：風(fēng)險函數(shù)一般需要最小化，因而要沿著負(fù)梯度方向最快地達到極小點。例2：游客快速下山?！糚PT〗演示游客下山與梯度下降關(guān)聯(lián)。（2）梯度下降的步驟。（3）線性回歸模型梯度的求解。（4）編程實現(xiàn)?！糚PT〗演示要點：參數(shù)求解函數(shù)的編寫。產(chǎn)生與顯示仿真數(shù)據(jù)（噪聲服從正態(tài)分布）。模型求解（參數(shù)求解函數(shù)的調(diào)用）。結(jié)果顯示。4.Scikit-learn庫的使用（1）庫導(dǎo)入：fromsklearn.linear_modelimportLinearRegression（2）模型構(gòu)建與方法調(diào)用：L=LinearRegression()#構(gòu)建回歸模型L.fit(X_train,y_train)#數(shù)據(jù)擬合（3）常用屬性：print(L.intercept_)#查看截距print(L.coef_)#查看斜率〖PPT〗演示要點：產(chǎn)生與顯示仿真數(shù)據(jù)（噪聲服從正態(tài)分布）。庫的導(dǎo)入。模型求解：斜率與截距。結(jié)果顯示：繪制直線。【時間】分鐘。【提問】。課堂練習(xí)無其他無小結(jié)與作業(yè)課堂小結(jié)線性回歸的基本目的在于利用已知數(shù)據(jù)構(gòu)建線性模型并使用此線性模型進行預(yù)測；線性回歸模型形式簡單、易于建模。關(guān)鍵點：1.線性函數(shù)的基本表現(xiàn)式。2.風(fēng)險函數(shù)的構(gòu)建與求解。3.線性回歸算法的編程實現(xiàn)與Scikit-learn庫的使用。本課作業(yè)1.指定斜率與截距（如k=2、b=5）繪制直線L0，然后在直線上隨機采樣50個點（真值X0）；根據(jù)50個真值點生成噪聲服從正態(tài)分布（如均值為0、方差為2）的樣本（Xn）。2.利用最小二乘算法擬合50個樣本點，生成擬合直線L1。3.利用Scikit-learn線性回歸庫擬合50個樣本