第五章線性參數(shù)的最小二乘法處理

第五章線性參數(shù)的最小二乘法處理1第1頁，共52頁，2023年，2月20日，星期三最小二乘法（leastsquaremethod）

1805年，勒讓德（Legendre）應(yīng)用“最小二乘法”，確定了慧星的軌道和地球子午線段。

1809年，高斯（Gauss）論證其解的最佳性。

經(jīng)典最小二乘法（即代數(shù)最小二乘法）

現(xiàn)代最小二乘法（即矩陣最小二乘法）第2頁，共52頁，2023年，2月20日，星期三線性參數(shù)的最小二乘法第一節(jié)最小二乘法原理第二節(jié)正規(guī)方程第三節(jié)精度估計(jì)第四節(jié)組合測(cè)量的最小二乘法處理第3頁，共52頁，2023年，2月20日，星期三大綱要求掌握最小二乘原理。掌握正規(guī)方程:等精度測(cè)量線性參數(shù)的最小二乘處理不等精度測(cè)量線性參數(shù)的最小二乘處理掌握最小二乘精度估計(jì)方法。第4頁，共52頁，2023年，2月20日，星期三第一節(jié)最小二乘法原理

設(shè)有一金屬尺，在溫度t時(shí)長(zhǎng)度可表示為yt=y0（1+t），其中，y0為溫度零度時(shí)的精確長(zhǎng)度。為金屬材料的線膨脹系數(shù)，求y0與的數(shù)值

l1=y0（1+t1）l2=y0（1+t2）y0與

一、最小二乘法原理

引題:求標(biāo)準(zhǔn)米尺線膨脹系數(shù)

第5頁，共52頁，2023年，2月20日，星期三求標(biāo)準(zhǔn)米尺線膨脹系數(shù)

設(shè)在t1，t2，t3……….tn溫度條件下分別測(cè)得金屬尺的長(zhǎng)度l1，l2，l3……….ln共n個(gè)結(jié)果，可列出方程組

l1=y0（1+t1）l2=y0（1+t2）…………ln=y0（1+tn）

（1）

當(dāng)n<2，方程有無窮多個(gè)解。（2）

當(dāng)n=2，方程只有唯一解。（3）當(dāng)n>2，方程組無解。

最小二乘法v1=l1-y1v2=l2-y2，yn為最小二乘估計(jì)量….…..vn=ln-yn

y0與最可信賴值？一、最小二乘法原理

第6頁，共52頁，2023年，2月20日，星期三待測(cè)量（難以直接測(cè)量）：直接測(cè)量量：?jiǎn)栴}：如何根據(jù)和測(cè)量方程解得待測(cè)

量的估計(jì)值？一、最小二乘法原理

為確定t個(gè)不可直接測(cè)量的末知量的估計(jì)量，可對(duì)與該t個(gè)末知量有函數(shù)關(guān)系的直接測(cè)量量Y進(jìn)行n次測(cè)量，得測(cè)量數(shù)據(jù)（n>t）并設(shè)有如下函數(shù)關(guān)系：

測(cè)量方程

第7頁，共52頁，2023年，2月20日，星期三直接求得。有利于減小隨機(jī)誤差，方程組有冗余，采用最小二乘原理求。討論：最小二乘原理：最可信賴值應(yīng)使殘余誤差平方和最小。一、最小二乘法原理

第8頁，共52頁，2023年，2月20日，星期三設(shè)直接測(cè)量量的估計(jì)量分別為

（5-2）一、最小二乘法原理

由此得測(cè)量數(shù)據(jù)的殘差為：v1=l1-y1v2=l2-y2….…..（5-3）vn=ln-yn即

（5-4）殘差方程式（誤差方程式）

第9頁，共52頁，2023年，2月20日，星期三若測(cè)量數(shù)據(jù),不存在系統(tǒng)誤差和粗大誤差，相互獨(dú)立，且服從正態(tài)分布,其標(biāo)準(zhǔn)差為

則各測(cè)量結(jié)果出現(xiàn)于相應(yīng)真值附近區(qū)域內(nèi)的概率分別為：

一、最小二乘法原理

各誤差相互獨(dú)立，由概率乘法定理，各測(cè)量數(shù)據(jù)同時(shí)分別出現(xiàn)在相應(yīng)區(qū)域的概率應(yīng)為：第10頁，共52頁，2023年，2月20日，星期三一、最小二乘法原理

等精度測(cè)量：最小二乘原理的代數(shù)形式測(cè)量值已經(jīng)出現(xiàn)，有理由認(rèn)為這n個(gè)測(cè)量值出現(xiàn)于相應(yīng)區(qū)間的概率P為最大。要使P最大，應(yīng)有由于結(jié)果只是接近真值的估計(jì)值，因此上述條件應(yīng)為引入權(quán)第11頁，共52頁，2023年，2月20日，星期三必須指出:上述最小二乘原理是在測(cè)量誤差無偏、正態(tài)分布和相互獨(dú)立的條件下推導(dǎo)出的，但在不嚴(yán)格服從正態(tài)分布的情形下也常被使用。實(shí)際上，按誤差或殘差平方和為最小進(jìn)行統(tǒng)計(jì)推斷已形成一種準(zhǔn)則。一、最小二乘法原理

最小二乘原理:測(cè)量結(jié)果的最可信賴值應(yīng)使殘余誤差平方和（或加權(quán)殘余誤差平方和）最小。第12頁，共52頁，2023年，2月20日，星期三二、線性參數(shù)的最小二乘法處理線性參數(shù)的測(cè)量方程相應(yīng)的估計(jì)值

其誤差方程：

第一節(jié)最小二乘法原理第13頁，共52頁，2023年，2月20日，星期三二、線性參數(shù)的最小二乘法處理線性參數(shù)的最小二乘原理的矩陣形式

實(shí)測(cè)值矩陣

估計(jì)值矩陣

殘差矩陣

誤差方程系數(shù)矩陣

誤差方程的矩陣形式

誤差方程第14頁，共52頁，2023年，2月20日，星期三二、線性參數(shù)的最小二乘法處理線性參數(shù)的最小二乘原理的矩陣形式

誤差方程的矩陣形式

1）等精度測(cè)量線性參數(shù)的最小二乘原理的矩陣形式

或

或

2）不等精度測(cè)量線性參數(shù)的最小二乘原理的矩陣形式

最小=最小其中：第15頁，共52頁，2023年，2月20日，星期三不等精度

等精度不等精度測(cè)量線性參數(shù)的最小二乘原理的矩陣形式第16頁，共52頁，2023年，2月20日，星期三二、線性參數(shù)的最小二乘法處理線性參數(shù)的不等精度測(cè)量轉(zhuǎn)化為等精度的形式：

第17頁，共52頁，2023年，2月20日，星期三誤差方程

正規(guī)方程（法方程）最小二乘法

(方程數(shù)n>末知數(shù)個(gè)數(shù)t)

(n=t)

求解線性方程組

求極值的方法線性參數(shù)的最小二乘法處理程序

正規(guī)方程：誤差方程按最小二乘法原理轉(zhuǎn)化得到的有確定解的代數(shù)方程組。第18頁，共52頁，2023年，2月20日，星期三第二節(jié)、正規(guī)方程一、等精度測(cè)量線性參數(shù)最小二乘法的正規(guī)方程二、不等精度測(cè)量線性參數(shù)最小二乘法的正規(guī)方程三、非線性參數(shù)最小二乘法處理的正規(guī)方程（略）四、最小二乘法與算術(shù)平均值的關(guān)系

第19頁，共52頁，2023年，2月20日，星期三第二節(jié)正規(guī)方程

一、等精度測(cè)量線性參數(shù)最小二乘處理的正規(guī)方程且第20頁，共52頁，2023年，2月20日，星期三第二節(jié)正規(guī)方程

正規(guī)方程：特點(diǎn)：主對(duì)角線分布著平方項(xiàng)系數(shù)，正數(shù)相對(duì)于主對(duì)角線對(duì)稱分布的各系數(shù)兩兩相等(5-19)第21頁，共52頁，2023年，2月20日，星期三看正規(guī)方程組中第r個(gè)方程：則正規(guī)方程可寫成第二節(jié)正規(guī)方程

即正規(guī)方程的矩陣形式第22頁，共52頁，2023年，2月20日，星期三第二節(jié)正規(guī)方程

將代入到中，得第23頁，共52頁，2023年，2月20日，星期三的數(shù)學(xué)期望為：

可見為X的無偏估計(jì)。

第24頁，共52頁，2023年，2月20日，星期三由最小二乘法求最佳解系數(shù)矩陣A--------誤差方程，（測(cè)量方程）實(shí)測(cè)值矩陣L------直接測(cè)得

例題5-1X

的最佳估計(jì)值第25頁，共52頁，2023年，2月20日，星期三第二節(jié)正規(guī)方程

例5.1已知銅棒的長(zhǎng)度和溫度之間具有線性關(guān)系：，為。為獲得０℃時(shí)銅棒的長(zhǎng)度和銅的線膨脹系數(shù)，現(xiàn)測(cè)得不同溫度下銅棒的長(zhǎng)度，如下表，求，的最可信賴值。1020253040452000.362000.722000.82001.072001.482000.60第26頁，共52頁，2023年，2月20日，星期三由此可得不等精度測(cè)量線性參數(shù)最小二乘處理的正規(guī)方程：二、不等精度測(cè)量線性參數(shù)最小二乘法處理的正規(guī)方程

第27頁，共52頁，2023年，2月20日，星期三整理得：(5-19)(5-25)不等精度的正規(guī)方程第28頁，共52頁，2023年，2月20日，星期三即不等精度的正規(guī)方程將代入上式，得第29頁，共52頁，2023年，2月20日，星期三的數(shù)學(xué)期望為：

可見為X的無偏估計(jì)。

第30頁，共52頁，2023年，2月20日，星期三由最小二乘法求最佳解系數(shù)矩陣A--------誤差方程，（測(cè)量方程）測(cè)量值矩陣L------直接測(cè)得

權(quán)矩陣P例題5-2X

的最佳估計(jì)值第31頁，共52頁，2023年，2月20日，星期三例5.2某測(cè)量過程有誤差方程式及相應(yīng)的標(biāo)準(zhǔn)差：試求的最可信賴值。解：首先確定各式的權(quán)第32頁，共52頁，2023年，2月20日，星期三令第33頁，共52頁，2023年，2月20日，星期三四、最小二乘法與算術(shù)平均值的關(guān)系

為確定一個(gè)量X的估計(jì)值x，對(duì)它進(jìn)行n次直接測(cè)量，得到n個(gè)數(shù)據(jù),相應(yīng)的權(quán)分別為。最佳估計(jì)值

運(yùn)用最小二乘法求

第34頁，共52頁，2023年，2月20日，星期三

誤差方程：

系數(shù)矩陣

權(quán)矩陣：

實(shí)測(cè)值矩陣

第35頁，共52頁，2023年，2月20日，星期三對(duì)等精度測(cè)量：

與前面結(jié)果一致。

此式與等精度測(cè)量時(shí)算術(shù)平均值原理給出的結(jié)果相同，由此可見，最小二乘法原理與算術(shù)平均值原理是一致的，算術(shù)平均值原理可以看作是最小二乘法的特例。

第36頁，共52頁，2023年，2月20日，星期三第三節(jié)精度估計(jì)一、直接測(cè)量數(shù)據(jù)的精度估計(jì)

二、最小二乘估計(jì)量的精度估計(jì)

第37頁，共52頁，2023年，2月20日，星期三第三節(jié)精度估計(jì)

一、測(cè)量數(shù)據(jù)精度估計(jì)(一）等精度測(cè)量數(shù)據(jù)的精度估計(jì)可以證明是自由度（n－t）的變量。根據(jù)變量的性質(zhì)，有對(duì)包含t個(gè)末知量的線性參數(shù)Y()進(jìn)行n次等精度測(cè)量得，其殘差得的估計(jì)量。第38頁，共52頁，2023年，2月20日，星期三則可取作為的無偏估計(jì)量。因此測(cè)量數(shù)據(jù)的標(biāo)準(zhǔn)差的估計(jì)量為測(cè)量次數(shù)未知量個(gè)數(shù)殘差平方和當(dāng)t=1時(shí)？

第39頁，共52頁，2023年，2月20日，星期三(二)不等精度測(cè)量數(shù)據(jù)的精度估計(jì)

一、直接測(cè)量數(shù)據(jù)的精度估計(jì)

測(cè)量數(shù)據(jù)的單位權(quán)標(biāo)準(zhǔn)差

（加權(quán)）未知量個(gè)數(shù)方程個(gè)數(shù)殘差平方和當(dāng)t=1時(shí)？

第40頁，共52頁，2023年，2月20日，星期三直接測(cè)量量的標(biāo)準(zhǔn)差對(duì)角元素不定系數(shù)

二、最小二乘估計(jì)量的精度估計(jì)

1、等精度測(cè)量時(shí)估計(jì)量的精度估計(jì)

第41頁，共52頁，2023年，2月20日，星期三單位權(quán)的標(biāo)準(zhǔn)差對(duì)角元素不定系數(shù)

二、最小二乘估計(jì)量的精度估計(jì)

2、不等精度測(cè)量估計(jì)量的精度估計(jì)

第42頁，共52頁，2023年，2月20日，星期三第四節(jié)

組合測(cè)量（combinedmeasurement）的最小二乘法處理第43頁，共52頁，2023年，2月20日，星期三組合測(cè)量基本概念組合測(cè)量是通過直接測(cè)量待測(cè)參數(shù)的各種組合量（一般是等精度測(cè)量），然后對(duì)這些測(cè)量數(shù)據(jù)進(jìn)行處理，從而求得待測(cè)參數(shù)的估計(jì)值，并給出其精度估計(jì)。通常組合測(cè)量數(shù)據(jù)是用最小二乘法進(jìn)行處理，他是最小二乘法在精密測(cè)試中的一種重要應(yīng)用。t個(gè)被測(cè)量

n個(gè)誤差方程式求解

n種組合測(cè)得

最小二乘法第44頁，共52頁，2023年，2月20日，星期三組合測(cè)量基本概念如為精密測(cè)定1號(hào)、2號(hào)和3號(hào)電容器的電容量測(cè)得值誤差方程待求量為了獲得更可靠的結(jié)果，測(cè)量次數(shù)總要多于未知參數(shù)的數(shù)目第45頁，共52頁，2023年，2月20日，星期三組合測(cè)量基本概念優(yōu)點(diǎn)：精度較高。組合形式越多（n越大），測(cè)量結(jié)果的精度就越高。

缺點(diǎn)：工作量大

應(yīng)用：在精密測(cè)量工作中有十分重要的地位，如標(biāo)準(zhǔn)器的檢定。

第46頁，共52頁，2023年，2月20日，星期三【例題】

要求檢定絲紋尺0，1，2，3刻線間的距離。已知用組合測(cè)量法測(cè)得圖所示刻線間隙的各種組合量。試用最小二乘法