第五章線性參數的最小二乘法處理yj資料

5-1第五章

線性參數(cānshù)的最小二乘法處理第一頁，共62頁。5-2設有一金屬尺，在溫度t時長度可表示為yt=y0（1+t）,其中(qízhōng)，y0為溫度零度時的精確長度。為金屬材料的線膨脹系數，求y0與的最可信賴值及其精度估計。設a=y0，b=y0,則有yt=a+bt。在理論(lǐlùn)上，有引題:求標準(biāozhǔn)米尺線膨脹系數從中任選兩個方程可解得a、b,從而確定y0、α。線性參數的最小二乘法處理由于測量誤差的存在，需要n>2第二頁，共62頁。5-3但是事實上，不可避免地存在測量誤差。設在t1，t2，t3……….tn溫度條件(tiáojiàn)下分別測得金屬尺的長度是l1，l2，l3……….ln，則有誤差方程最小二乘法(chéngfǎ)a、b及

y0、α線性參數(cānshù)的最小二乘法處理第三頁，共62頁。5-4幾何(jǐhé)解釋對應于ti的測量(cèliáng)數據li,i=1,2,…,nyott1t2…

…

tn殘余(cányú)誤差：a、b的最可信賴值為什么？怎樣求a

和b？精度估計？線性參數的最小二乘法處理第四頁，共62頁。5-5第一節(jié)最小二乘法原理第二節(jié)正規(guī)(zhèngguī)方程第三節(jié)精度估計第四節(jié)組合測量的最小二乘法處理線性參數的最小二乘法(chéngfǎ)處理第五頁，共62頁。5-6大綱(dàgāng)要求掌握最小二乘原理。掌握正規(guī)方程:等精度測量線性參數的最小二乘處理不等精度測量線性參數的最小二乘處理掌握最小二乘精度估計(gūjì)方法。線性參數(cānshù)的最小二乘法處理第六頁，共62頁。5-7若測量數據,不存在系統(tǒng)誤差和粗大誤差，相互獨立，且服從正態(tài)分布,其標準差為

則各測量結果出現于相應真值附近區(qū)域內的概率分別為：

第一節(jié)最小二乘法(chéngfǎ)原理各誤差相互獨立，由概率(gàilǜ)乘法定理，各測量數據同時分別出現在相應區(qū)域的概率(gàilǜ)應為：理論(lǐlùn)分析第七頁，共62頁。5-8等精度(jīnɡdù)測量：根據概率論的最大或然原理，由于測量值已經出現，有理由認為這n個測量值出現于相應區(qū)間的概率P為最大。要使P最大，應有由于結果(jiēguǒ)只是接近真值的估計值，因此上述條件應為引入權pi理論(lǐlùn)分析第一節(jié)最小二乘法原理

第八頁，共62頁。5-9必須指出(zhǐchū):上述最小二乘原理是在測量誤差無偏、正態(tài)分布和相互獨立的條件下推導出的，但在不嚴格服從正態(tài)分布的情形下也常被使用。實際上，按誤差或殘差平方和為最小進行統(tǒng)計推斷已形成一種準則。最小二乘原理(yuánlǐ):測量結果的最可信賴值應使殘余誤差平方和（或加權殘余誤差平方和）最小。第一節(jié)最小二乘法(chéngfǎ)原理第九頁，共62頁。5-10為確定t個不可直接測量的未知量的估計量，可對與該t個未知量有函數(hánshù)關系的直接測量量Y進行n次測量，得測量數據（n>t）并設有如下函數(hánshù)關系：設直接(zhíjiē)量Y1,Y2,…,Yn的估計量分別為y1,y2,…,yn，則有：第一節(jié)最小二乘法(chéngfǎ)原理第十頁，共62頁。5-11誤差(wùchā)方程(殘差方程)：最小二乘法(chéngfǎ)等精度(jīnɡdù)測量：不等精度測量：第一節(jié)最小二乘法原理

第十一頁，共62頁。5-12矩陣(jǔzhèn)形式實測值矩陣

估計值矩陣

殘差矩陣

誤差方程系數矩陣

矩陣(jǔzhèn)形式誤差(wùchā)方程第一節(jié)最小二乘法原理

第十二頁，共62頁。5-13誤差方程的矩陣(jǔzhèn)形式1）等精度測量線性參數的最小二乘原理的矩陣形式

或

其中(qízhōng)：矩陣(jǔzhèn)形式2）不等精度測量線性參數的最小二乘原理的矩陣形式

或

第一節(jié)最小二乘法原理

第十三頁，共62頁。5-14矩陣(jǔzhèn)形式不等精度

等精度第一節(jié)最小二乘法(chéngfǎ)原理第十四頁，共62頁。5-15第二節(jié)正規(guī)(zhèngguī)方程一、等精度測量(cèliáng)線性參數最小二乘法的正規(guī)方程二、不等精度測量(cèliáng)線性參數最小二乘法的正規(guī)方程三、非線性參數最小二乘法處理的正規(guī)方程（略）四、最小二乘法與算術平均值的關系

第十五頁，共62頁。正規(guī)(zhèngguī)方程為了獲得更可靠的結果，測量次數n總要多余未知參數的個數t，即所得誤差(wùchā)方程式的個數總要多余未知數的個數。一般代數解方程法無法求解。最小二乘法可由誤差(wùchā)方程得到有確定解的代數方程組，從而求解未知參數。這個具有確定解的代數方程組稱為最小二乘法估計的正規(guī)方程。（或稱為法方程）5-16第十六頁，共62頁。線性參數(cānshù)最小二乘法處理程序根據問題列出誤差方程式按最小二乘法原理，利用(lìyòng)求極值的方法由誤差方程得到正規(guī)方程求解正規(guī)方程，得到待求估計量給出精度估計5-17第十七頁，共62頁。5-18第二節(jié)正規(guī)(zhèngguī)方程一、等精度測量線性參數(cānshù)最小二乘處理的正規(guī)方程且連續(xù)多元(duōyuán)函數I(x1,x2,…,xn)的極值條件第十八頁，共62頁。5-19正規(guī)(zhèngguī)方程特點：

系數矩陣是對稱陣；主對角線分布著平方項系數，正數第二節(jié)正規(guī)(zhèngguī)方程第十九頁，共62頁。5-20看正規(guī)(zhèngguī)方程組中第r個方程：則正規(guī)(zhèngguī)方程可寫成即正規(guī)(zhèngguī)方程的矩陣形式第二十頁，共62頁。5-21將代入，得矩陣(jǔzhèn)形式第二節(jié)正規(guī)(zhèngguī)方程第二十一頁，共62頁。5-22的數學(shùxué)期望這里(zhèlǐ)Y=[Y1,Y2,…,Yn]T,X=[X1,X2,…,Xn]TC=ATA

可見為X的無偏估計。

第二節(jié)正規(guī)(zhèngguī)方程第二十二頁，共62頁。例1已知銅棒的長度(chángdù)和溫度之間具有線性關系：，為獲得０℃時銅棒的長度(chángdù)和銅的線膨脹系數，現測得不同溫度下銅棒的長度(chángdù)，如下表，求，的最可信賴值。5-23例題(lìtí)1020304050602000.362000.722000.82001.072001.482000.60解：1）列出誤差(wùchā)方程第二十三頁，共62頁。5-24按照最小二乘的矩陣(jǔzhèn)形式計算則有：令為兩個(liǎnɡɡè)待估參量，則誤差方程為第二十四頁，共62頁。5-25那么(nàme)：第二十五頁，共62頁。5-26例2在串聯諧振回路中，已知Y=ωL－1/ωC,式中ω，Y，L，C分別是外加電信號的角頻率和回路的電抗、電感(diànɡǎn)、電容，不同角頻率時的電抗測量值li如下表，求L、C的最可信賴值。ωi521li0.80.2-0.3例題(lìtí)第二節(jié)正規(guī)(zhèngguī)方程第二十六頁，共62頁。5-27解：令b=-1/C，則有誤差vi=li-(Lωi+b/ωi)。L、b是兩個待估計參數(cānshù)。正規(guī)方程為例題(lìtí)i

ai1

ai2

ai1ai1

ai2ai2

ai1ai2ai1li

ai2li

123

50.2250.04140.1620.540.2510.40.111111-0.3-0.3Σ301.2934.1-0.04第二節(jié)正規(guī)(zhèngguī)方程第二十七頁，共62頁。5-28例題(lìtí)解得第二節(jié)正規(guī)(zhèngguī)方程第二十八頁，共62頁。5-29作代換(dàihuàn)：二、不等精度測量線性參數(cānshù)最小二乘法處理的正規(guī)方程把不等精度測量線性參數最小二乘法處理轉化(zhuǎnhuà)為等精度測量問題。第二十九頁，共62頁。5-30由此可得不等精度測量(cèliáng)線性參數最小二乘處理的正規(guī)方程：第三十頁，共62頁。5-31整理(zhěnglǐ)得：第三十一頁，共62頁。5-32即不等精度(jīnɡdù)的正規(guī)方程將代入上式，得（待測量Ｘ的無偏(wúpiān)估計）第三十二頁，共62頁。5-33例5.2某測量過程(guòchéng)有誤差方程式及相應的標準差：試求的最可信賴值。解：首先(shǒuxiān)確定各式的權第二節(jié)正規(guī)(zhèngguī)方程第三十三頁，共62頁。5-34作代換(dàihuàn)：iai1

ai2

li

a’i1

a’i2

l’i

12345

4116.444425.764128.604834.4031310.814932.4331413.2141239.6331515.2741545.81

第二節(jié)正規(guī)(zhèngguī)方程第三十四頁，共62頁。5-35i

12345

161616103.04103.04166432137.60275.209812797.29291.87914436118.98475.92922545137.34687.15

59530156594.341833.18例題(lìtí)x1=4.186x2=2.227第二節(jié)正規(guī)(zhèngguī)方程第三十五頁，共62頁。5-36三、非線性參數最小二乘處理的正規(guī)(zhèngguī)方程針對(zhēnduì)非線性函數其測量誤差方程(fāngchéng)為令，現將函數在處展開，則有第三十六頁，共62頁。5-37將上述(shàngshù)展開式代入誤差方程，令則誤差方程(fāngchéng)轉化為線性方程(fāngchéng)組于是(yúshì)可解得，進而可得。近似值第三十七頁，共62頁。5-38四、最小二乘法與算術(suànshù)平均值的關系為確定一個(yīɡè)量X的估計值x，對它進行n次直接測量，得到n個數據,相應的權分別為，則誤差方程為運用最小二乘法(chéngfǎ)的正規(guī)方程為有誤差方程知ai=1，因此有

這正是不等精度測量的加權算術平均值！算術平均值原理可以看作是最小二乘法原理的特例。第三十八頁，共62頁。5-39第三節(jié)精度(jīnɡdù)估計一、直接測量數據的精度估計

二、最小二乘估計量的精度估計

給出估計量x1,x2,…,xt的精度。第三十九頁，共62頁。5-40第三節(jié)精度(jīnɡdù)估計一、測量數據(shùjù)精度估計(一）等精度(jīnɡdù)測量數據的精度(jīnɡdù)估計可以證明是自由度為(n－t)的變量。對包含t個未知線性參數的Y()進行n次等精度測量得l1,l2,…,ln

，由殘差v1,v2,…,vn得標準差σ的估計量。根據變量的性質，有vi互相獨立，且服從正態(tài)分布第四十頁，共62頁。5-41則可取(kěqǔ)作為(zuòwéi)的無偏估計量。因此測量(cèliáng)數據的標準差的估計量為測量次數未知量個數殘差平方和當t=1時？

第三節(jié)精度估計

第四十一頁，共62頁。5-42iωilivi1

50.8-0.0191220.20.063331-0.3-0.0275例5.2試求例2中電抗(diànkàng)的測量精度解：已知殘余誤差(wùchā)方程為：vi=li-(0.182ωi-1/2.2ωi)。第三節(jié)精度(jīnɡdù)估計第四十二頁，共62頁。5-43(二)不等精度測量(cèliáng)數據的精度估計一、直接測量數據的精度(jīnɡdù)估計測量數據(shùjù)的單位權標準差未知量個數方程個數加權殘差平方和當t=1時？

第三節(jié)精度估計

第四十三頁，共62頁。5-44二、最小二乘估計量的精度(jīnɡdù)估計最小二乘法所確定(quèdìng)的估計量x1,x2,…,xt的精度取決于測量數據l1,l2,…,ln的精度和線性方程組所給出的函數關系。第三節(jié)精度(jīnɡdù)估計第四十四頁，共62頁。5-45二、最小二乘估計量的精度(jīnɡdù)估計1、等精度測量(cèliáng)時估計量的精度估計設有n×n協(xié)方差矩陣(jǔzhèn)這里，Dlii為li的方差,Dlii=E[(li-Eli)2]=σi2；Dlij為li與lj的協(xié)方差,Dlij=E[(li-Eli)(lj-Elj)]=ρijσiσj,i≠j.若l1,l2,…,ln是等精度獨立測量的結果，則有且相關系數ρij＝０。第三節(jié)精度估計

第四十五頁，共62頁。5-46對于(duìyú)估計量x1,x2,…,xt，其協(xié)方差矩陣為二、最小二乘估計量的精度(jīnɡdù)估計第三節(jié)精度(jīnɡdù)估計第四十六頁，共62頁。5-47二、最小二乘估計量的精度(jīnɡdù)估計設因此(yīncǐ)，有第三節(jié)精度(jīnɡdù)估計第四十七頁，共62頁。5-48解：已知正規(guī)(zhèngguī)方程為例5.3試求例題5.1中電感(diànɡǎn)和電容估計量的精度。有估計量L、b的標準差為測量(cèliáng)數據的標準差為σ=0.0716而C=-1/b，σC=?第三節(jié)精度估計

第四十八頁，共62頁。5-49二、最小二乘估計量的精度(jīnɡdù)估計2、不等精度測量(cèliáng)估計量的精度估計第三節(jié)精度(jīnɡdù)估計第四十九頁，共62頁。5-50第四節(jié)

組合測量(cèliáng)（combinedmeasurement）的最小二乘法處理第五十頁，共62頁。5-51組合(zǔhé)測量基本概念組合測量是通過直接測量待測參數的各種組合量（一般是等精度測量），然后對這些測量數據進行處理(chǔlǐ)，從而求得待測參數的估計值，并給出其精度估計。第四節(jié)組合(zǔhé)測量的最小二乘法處理例如要測量x,y,z三個量，可以采用如下組合測量組合測量的優(yōu)點是既能提高測量精度又能減少測量次數。若x,y,z三個量單獨測量，每個測量4次的話，總共需測12次。若用組合測量，三個量都還是各測了4次，但總測量次數只有7次，較前減少了5次，而又能達到同樣的目的。x=l1y=l2z=l3

x+y=l4y+z=l5x+z=l6x+y+z=l7第五十一頁，共62頁。5-52組合(zǔhé)測量基本概念通常組合測量數據是用最小二乘法進行處理，它是最小二乘法在精密測試中的一種(yīzhǒnɡ)重要應用。t個被測量(cèliáng)(t>1)n個誤差方程式

求解n種組合(n>t)測得

最小二乘法第四節(jié)組合測量的最小二乘法處理

第五十二頁，共62頁。5-53【例題(lìtí)】要求檢定絲紋尺0，1，2，3刻線間的距離(jùlí)x1,x2,x3.已知用組合測量法測得圖所示刻線間隙的各種組合量。試用最小二乘法求x1,x2,x3及其標準偏差。第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十三頁，共62頁。5-54直接測量(cèliáng)各組合量Li，得首先列出誤差(wùchā)方程0123xxx123LLLLLL123456第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十四頁，共62頁。5-55由于(yóuyú)由此可得：第四節(jié)組合測量的最小二乘法(chéngfǎ)處理第五十五頁，共62頁。5-56則有第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十六頁，共62頁。5-57那么(nàme)，測量數據的標準差為將最佳(zuìjiā)估計值代入誤差方程中，得到求估計量的精度(j