基于ROS的智能汽車(chē)設(shè)計(jì)與實(shí)訓(xùn)教程ML-CZ-chapter2-1

第2章監(jiān)督學(xué)習(xí)第2章監(jiān)督學(xué)習(xí)

2

監(jiān)督學(xué)習(xí)第2章監(jiān)督學(xué)習(xí)

3

我們的學(xué)習(xí)與生活中有哪些監(jiān)督學(xué)習(xí)的例子？2.1線性回歸

4

預(yù)測(cè)績(jī)點(diǎn)例子的訓(xùn)練樣本與擬合直線2.1線性回歸

5

預(yù)測(cè)績(jī)點(diǎn)例子中的預(yù)測(cè)誤差2.1線性回歸

6

三維空間中的平面2.1線性回歸

7

凸集非凸集2.1線性回歸

8

凸函數(shù)的定義2.1線性回歸

9

凸函數(shù)非凸函數(shù)2.1線性回歸

10

凸函數(shù)非凸函數(shù)2.1線性回歸

11

絕對(duì)值函數(shù)的一個(gè)具體例子2.1線性回歸

12

試證明線性回歸中的均方誤差代價(jià)函數(shù)是凸函數(shù)。2.1線性回歸

13

求解上述方程組

2.1線性回歸

14

導(dǎo)數(shù)2.1線性回歸

15

梯度2.1線性回歸

16

學(xué)習(xí)率適中學(xué)習(xí)率過(guò)大2.1線性回歸【實(shí)驗(yàn)2-1】使用氣溫?cái)?shù)據(jù)集和批梯度下降法訓(xùn)練線性回歸模型,并畫(huà)出均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線。更改學(xué)習(xí)率，重新運(yùn)行程序提示：使用NumPy庫(kù)計(jì)算；使用Matplotlib庫(kù)畫(huà)圖使用批梯度下降法的矩陣形式氣溫?cái)?shù)據(jù)集文件中的每一列為同一個(gè)溫度傳感器在不同時(shí)刻采集的氣溫?cái)?shù)據(jù)，每一行為不同溫度傳感器在同一時(shí)刻采集的氣溫?cái)?shù)據(jù)可將氣溫?cái)?shù)據(jù)集中的前3000個(gè)樣本劃分至訓(xùn)練數(shù)據(jù)集，將余下的960個(gè)樣本劃分至測(cè)試數(shù)據(jù)集可將第2～5個(gè)溫度傳感器采集的氣溫?cái)?shù)據(jù)作為訓(xùn)練樣本的4維輸入特征，將第1個(gè)溫度傳感器采集的氣溫?cái)?shù)據(jù)作為訓(xùn)練樣本的標(biāo)注可使用.reshape()方法或np.reshape()函數(shù)改變向量、矩陣、或數(shù)組的形狀；可通過(guò).T屬性得到矩陣的逆矩陣學(xué)習(xí)率可設(shè)置為0.0001

17

2.1線性回歸

18

實(shí)驗(yàn)2-1中均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線2.1線性回歸【實(shí)驗(yàn)2-2】(1)使用氣溫?cái)?shù)據(jù)集評(píng)估實(shí)驗(yàn)2-1中的線性回歸模型，計(jì)算模型在訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集上的均方根誤差。(2)畫(huà)出當(dāng)輸入特征的維數(shù)為1時(shí)，訓(xùn)練過(guò)程中每次迭代擬合出的直線的變化情況（此小題選做）。更改迭代次數(shù)，重新運(yùn)行程序提示：計(jì)算平方根可使用np.sqrt()函數(shù)可使用NumPy的廣播操作

19

2.1線性回歸

20

實(shí)驗(yàn)2-2中擬合直線的變化情況2.1線性回歸【實(shí)驗(yàn)2-3】使用氣溫?cái)?shù)據(jù)集和隨機(jī)梯度下降法訓(xùn)練線性回歸模型,畫(huà)出均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線，并計(jì)算該線性回歸模型在訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集上的均方根誤差。更改隨機(jī)種子，重新運(yùn)行程序提示：用np.random.default_rng()函數(shù)將隨機(jī)種子設(shè)置為指定值（例如100），以便于比對(duì)結(jié)果用rng.shuffle()方法對(duì)訓(xùn)練樣本隨機(jī)排序迭代次數(shù)取決于epoch和訓(xùn)練樣本的數(shù)量

21

2.1線性回歸

22

實(shí)驗(yàn)2-3中均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線2.1線性回歸【實(shí)驗(yàn)2-4】使用氣溫?cái)?shù)據(jù)集和小批梯度下降法訓(xùn)練線性回歸模型,畫(huà)出均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線，并計(jì)算該線性回歸模型在訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集上的均方根誤差。更改隨機(jī)種子、批長(zhǎng)，重新運(yùn)行程序提示：批長(zhǎng)可設(shè)置為30

23

2.1線性回歸

24

實(shí)驗(yàn)2-4中均方誤差代價(jià)函數(shù)的值隨迭代次數(shù)變化的曲線2.1線性回歸【實(shí)驗(yàn)2-5】對(duì)氣溫?cái)?shù)據(jù)集樣本的輸入特征做特征縮放（標(biāo)準(zhǔn)化、最小最大歸一化、均值歸一化），并用該數(shù)據(jù)集訓(xùn)練、評(píng)估線性回歸模型。增大迭代次數(shù)（例如100000次）提示：可使用批梯度下降法計(jì)算均值可使用np.mean()函數(shù)，計(jì)算標(biāo)準(zhǔn)差可使用np.std()函數(shù)，注意可將該函數(shù)的ddof參數(shù)設(shè)置為1求最小值可使用np.amin()函數(shù)，求最大值可使用np.amax()函數(shù)

25

2.1線性回歸

26

單輸出線性回歸多輸出線性回歸2.1線性回歸

27

2.1線性回歸

28

2.1線性回歸

29