線性代數(shù)講義老師lecture

1、13.1 引言上一講中，得到如下結(jié)果：階陣，設(shè)1.2.3.設(shè)設(shè)為中有唯一解.有解，則在的解. 則是直觀上，13.1 引言例：有解這條直線上投影.直觀上，是在另一方面，若無解，此時可以考慮問題：極小(或最小)？上述問題意味著求求直觀上，上距離使得無解上的投影點.最近的點它是在13.1 引言例：則無解即平面在平面上投影點為則點(或向量)在空間投影問題.這一講，13.2 點在直線和平面上的投影如右圖，求在上的投影向量即(在上投影向量為表示相應(yīng)列向量.)13.2 點在直線和平面上的投影因此，(注意：矩陣.)是一個稱為投影矩陣.上投影向量.得到一個是在(向量空間之間的)：設(shè)是所在直線，13.2 點在直線

2、和平面上的投影例：在 軸上的投影.即13.2 點在直線和平面上的投影情形是類似的.在直線三求上投影令滿足：得到一個：13.2 點在直線和平面上的投影考慮點在平面上的投影.平面在 上的投影. 求是平面 上兩無關(guān)向量, 即的基礎(chǔ)解系或下面給定設(shè) 令是的一組基.令求投影其中，則平面關(guān)于求的分解13.2 點在直線和平面上的投影的解.秩)即是是可逆陣(則此時稱為投影矩陣.13.2 點在直線和平面上的投影例：求使得是在上的投影向量.解：的列線性無關(guān).注：可逆，因為13.3 一般情形階陣. 設(shè)問題：為求在上的投影即的解.總有解.的兩個解, 則即1.2.設(shè)是是是唯一的.注：一般情形中,秩.未必是可逆陣，除非1

3、3.3 一般情形若可逆，投影陣滿足為投影矩陣.一般地，一個矩陣滿足則稱自然問題：關(guān)于哪個空間的投影矩陣？檢查投影的例子.設(shè)為投影陣，則定理：設(shè)是一個投影矩陣，則14 最小二乘近14.1 復(fù)習(xí)回憶一向量在一子空間令上投影求法：1.找則2.的一組基秩，且則的列空間則3.解方程組因此即14.1 復(fù)習(xí)注：1.秩只有零解只有零解秩(即可逆，因為它是方陣)2.如果稱為投影矩陣. 一個矩陣稱為投影陣，第二個條件是因為對需要保證即14.1 復(fù)習(xí)階投影陣, 則則命題：設(shè)證明：為設(shè)則14.1 復(fù)習(xí)3.一般地，設(shè)求為階陣，則關(guān)于這個和的分解使用以上方法，即找令的一組基上的投影.求在14.2 最小二乘法回到解方程組有

4、解 假設(shè)它無解，則 此時轉(zhuǎn)化問題為：的最小值點.求使得最小，即14.2 最小二乘法由右圖，和它在上投影點則 即為所求.距離最小. 設(shè)稱為誤差向量(error),最小二乘解(the least square solution).如何求1.2.因此，求解方程組稱為法方程組(normal equations).14.2 最小二乘法性質(zhì)：1.法方程組總有解(無論這是因為秩).是否2.即設(shè)的解可能有無窮個, 但則(投影)唯一.均滿足因此14.2 最小二乘法例：無解.則考慮法方程組即在上投影3.若秩，則可逆，14.3 最小二乘法的應(yīng)用：曲線擬合例：設(shè)給定數(shù)據(jù)尋找直線使得誤差最小.的長度最小.即向量14.3 最小二乘法的應(yīng)用：曲線擬合令最小.即求使得解法方程組即令求得稱為最小二乘直線.直線特別地，若則很容易計算，此時兩列正是對角陣.交，14.3 最小二乘法的應(yīng)用：曲線擬合例：求二次曲線擬合如下數(shù)據(jù)解：求使得最小.x1925313844y19.032.349.073.397.814.3 最小二乘法的應(yīng)用：曲線擬合令最小.即求使得求解方程組擬