第五章線性參數(shù)的最小二乘法處理yj資料

5-1第五章

線性參數(shù)(cānshù)的最小二乘法處理第一頁，共62頁。5-2設(shè)有一金屬尺，在溫度t時長度可表示為yt=y0（1+t）,其中(qízhōng)，y0為溫度零度時的精確長度。為金屬材料的線膨脹系數(shù)，求y0與的最可信賴值及其精度估計。設(shè)a=y0，b=y0,則有yt=a+bt。在理論(lǐlùn)上，有引題:求標(biāo)準(zhǔn)(biāozhǔn)米尺線膨脹系數(shù)從中任選兩個方程可解得a、b,從而確定y0、α。線性參數(shù)的最小二乘法處理由于測量誤差的存在，需要n>2第二頁，共62頁。5-3但是事實上，不可避免地存在測量誤差。設(shè)在t1，t2，t3……….tn溫度條件(tiáojiàn)下分別測得金屬尺的長度是l1，l2，l3……….ln，則有誤差方程最小二乘法(chéngfǎ)a、b及

y0、α線性參數(shù)(cānshù)的最小二乘法處理第三頁，共62頁。5-4幾何(jǐhé)解釋對應(yīng)于ti的測量(cèliáng)數(shù)據(jù)li,i=1,2,…,nyott1t2…

…

tn殘余(cányú)誤差：a、b的最可信賴值為什么？怎樣求a

和b？精度估計？線性參數(shù)的最小二乘法處理第四頁，共62頁。5-5第一節(jié)最小二乘法原理第二節(jié)正規(guī)(zhèngguī)方程第三節(jié)精度估計第四節(jié)組合測量的最小二乘法處理線性參數(shù)的最小二乘法(chéngfǎ)處理第五頁，共62頁。5-6大綱(dàgāng)要求掌握最小二乘原理。掌握正規(guī)方程:等精度測量線性參數(shù)的最小二乘處理不等精度測量線性參數(shù)的最小二乘處理掌握最小二乘精度估計(gūjì)方法。線性參數(shù)(cānshù)的最小二乘法處理第六頁，共62頁。5-7若測量數(shù)據(jù),不存在系統(tǒng)誤差和粗大誤差，相互獨立，且服從正態(tài)分布,其標(biāo)準(zhǔn)差為

則各測量結(jié)果出現(xiàn)于相應(yīng)真值附近區(qū)域內(nèi)的概率分別為：

第一節(jié)最小二乘法(chéngfǎ)原理各誤差相互獨立，由概率(gàilǜ)乘法定理，各測量數(shù)據(jù)同時分別出現(xiàn)在相應(yīng)區(qū)域的概率(gàilǜ)應(yīng)為：理論(lǐlùn)分析第七頁，共62頁。5-8等精度(jīnɡdù)測量：根據(jù)概率論的最大或然原理，由于測量值已經(jīng)出現(xiàn)，有理由認(rèn)為這n個測量值出現(xiàn)于相應(yīng)區(qū)間的概率P為最大。要使P最大，應(yīng)有由于結(jié)果(jiēguǒ)只是接近真值的估計值，因此上述條件應(yīng)為引入權(quán)pi理論(lǐlùn)分析第一節(jié)最小二乘法原理

第八頁，共62頁。5-9必須指出(zhǐchū):上述最小二乘原理是在測量誤差無偏、正態(tài)分布和相互獨立的條件下推導(dǎo)出的，但在不嚴(yán)格服從正態(tài)分布的情形下也常被使用。實際上，按誤差或殘差平方和為最小進(jìn)行統(tǒng)計推斷已形成一種準(zhǔn)則。最小二乘原理(yuánlǐ):測量結(jié)果的最可信賴值應(yīng)使殘余誤差平方和（或加權(quán)殘余誤差平方和）最小。第一節(jié)最小二乘法(chéngfǎ)原理第九頁，共62頁。5-10為確定t個不可直接測量的未知量的估計量，可對與該t個未知量有函數(shù)(hánshù)關(guān)系的直接測量量Y進(jìn)行n次測量，得測量數(shù)據(jù)（n>t）并設(shè)有如下函數(shù)(hánshù)關(guān)系：設(shè)直接(zhíjiē)量Y1,Y2,…,Yn的估計量分別為y1,y2,…,yn，則有：第一節(jié)最小二乘法(chéngfǎ)原理第十頁，共62頁。5-11誤差(wùchā)方程(殘差方程)：最小二乘法(chéngfǎ)等精度(jīnɡdù)測量：不等精度測量：第一節(jié)最小二乘法原理

第十一頁，共62頁。5-12矩陣(jǔzhèn)形式實測值矩陣

估計值矩陣

殘差矩陣

誤差方程系數(shù)矩陣

矩陣(jǔzhèn)形式誤差(wùchā)方程第一節(jié)最小二乘法原理

第十二頁，共62頁。5-13誤差方程的矩陣(jǔzhèn)形式1）等精度測量線性參數(shù)的最小二乘原理的矩陣形式

或

其中(qízhōng)：矩陣(jǔzhèn)形式2）不等精度測量線性參數(shù)的最小二乘原理的矩陣形式

或

第一節(jié)最小二乘法原理

第十三頁，共62頁。5-14矩陣(jǔzhèn)形式不等精度

等精度第一節(jié)最小二乘法(chéngfǎ)原理第十四頁，共62頁。5-15第二節(jié)正規(guī)(zhèngguī)方程一、等精度測量(cèliáng)線性參數(shù)最小二乘法的正規(guī)方程二、不等精度測量(cèliáng)線性參數(shù)最小二乘法的正規(guī)方程三、非線性參數(shù)最小二乘法處理的正規(guī)方程（略）四、最小二乘法與算術(shù)平均值的關(guān)系

第十五頁，共62頁。正規(guī)(zhèngguī)方程為了獲得更可靠的結(jié)果，測量次數(shù)n總要多余未知參數(shù)的個數(shù)t，即所得誤差(wùchā)方程式的個數(shù)總要多余未知數(shù)的個數(shù)。一般代數(shù)解方程法無法求解。最小二乘法可由誤差(wùchā)方程得到有確定解的代數(shù)方程組，從而求解未知參數(shù)。這個具有確定解的代數(shù)方程組稱為最小二乘法估計的正規(guī)方程。（或稱為法方程）5-16第十六頁，共62頁。線性參數(shù)(cānshù)最小二乘法處理程序根據(jù)問題列出誤差方程式按最小二乘法原理，利用(lìyòng)求極值的方法由誤差方程得到正規(guī)方程求解正規(guī)方程，得到待求估計量給出精度估計5-17第十七頁，共62頁。5-18第二節(jié)正規(guī)(zhèngguī)方程一、等精度測量線性參數(shù)(cānshù)最小二乘處理的正規(guī)方程且連續(xù)多元(duōyuán)函數(shù)I(x1,x2,…,xn)的極值條件第十八頁，共62頁。5-19正規(guī)(zhèngguī)方程特點：

系數(shù)矩陣是對稱陣；主對角線分布著平方項系數(shù)，正數(shù)第二節(jié)正規(guī)(zhèngguī)方程第十九頁，共62頁。5-20看正規(guī)(zhèngguī)方程組中第r個方程：則正規(guī)(zhèngguī)方程可寫成即正規(guī)(zhèngguī)方程的矩陣形式第二十頁，共62頁。5-21將代入，得矩陣(jǔzhèn)形式第二節(jié)正規(guī)(zhèngguī)方程第二十一頁，共62頁。5-22的數(shù)學(xué)(shùxué)期望這里(zhèlǐ)Y=[Y1,Y2,…,Yn]T,X=[X1,X2,…,Xn]TC=ATA

可見為X的無偏估計。

第二節(jié)正規(guī)(zhèngguī)方程第二十二頁，共62頁。例1已知銅棒的長度(chángdù)和溫度之間具有線性關(guān)系：，為獲得０℃時銅棒的長度(chángdù)和銅的線膨脹系數(shù)，現(xiàn)測得不同溫度下銅棒的長度(chángdù)，如下表，求，的最可信賴值。5-23例題(lìtí)1020304050602000.362000.722000.82001.072001.482000.60解：1）列出誤差(wùchā)方程第二十三頁，共62頁。5-24按照最小二乘的矩陣(jǔzhèn)形式計算則有：令為兩個(liǎnɡɡè)待估參量，則誤差方程為第二十四頁，共62頁。5-25那么(nàme)：第二十五頁，共62頁。5-26例2在串聯(lián)諧振回路中，已知Y=ωL－1/ωC,式中ω，Y，L，C分別是外加電信號的角頻率和回路的電抗、電感(diànɡǎn)、電容，不同角頻率時的電抗測量值li如下表，求L、C的最可信賴值。ωi521li0.80.2-0.3例題(lìtí)第二節(jié)正規(guī)(zhèngguī)方程第二十六頁，共62頁。5-27解：令b=-1/C，則有誤差vi=li-(Lωi+b/ωi)。L、b是兩個待估計參數(shù)(cānshù)。正規(guī)方程為例題(lìtí)i

ai1

ai2

ai1ai1

ai2ai2

ai1ai2ai1li

ai2li

123

50.2250.04140.1620.540.2510.40.111111-0.3-0.3Σ301.2934.1-0.04第二節(jié)正規(guī)(zhèngguī)方程第二十七頁，共62頁。5-28例題(lìtí)解得第二節(jié)正規(guī)(zhèngguī)方程第二十八頁，共62頁。5-29作代換(dàihuàn)：二、不等精度測量線性參數(shù)(cānshù)最小二乘法處理的正規(guī)方程把不等精度測量線性參數(shù)最小二乘法處理轉(zhuǎn)化(zhuǎnhuà)為等精度測量問題。第二十九頁，共62頁。5-30由此可得不等精度測量(cèliáng)線性參數(shù)最小二乘處理的正規(guī)方程：第三十頁，共62頁。5-31整理(zhěnglǐ)得：第三十一頁，共62頁。5-32即不等精度(jīnɡdù)的正規(guī)方程將代入上式，得（待測量Ｘ的無偏(wúpiān)估計）第三十二頁，共62頁。5-33例5.2某測量過程(guòchéng)有誤差方程式及相應(yīng)的標(biāo)準(zhǔn)差：試求的最可信賴值。解：首先(shǒuxiān)確定各式的權(quán)第二節(jié)正規(guī)(zhèngguī)方程第三十三頁，共62頁。5-34作代換(dàihuàn)：iai1

ai2

li

a’i1

a’i2

l’i

12345

4116.444425.764128.604834.4031310.814932.4331413.2141239.6331515.2741545.81

第二節(jié)正規(guī)(zhèngguī)方程第三十四頁，共62頁。5-35i

12345

161616103.04103.04166432137.60275.209812797.29291.87914436118.98475.92922545137.34687.15

59530156594.341833.18例題(lìtí)x1=4.186x2=2.227第二節(jié)正規(guī)(zhèngguī)方程第三十五頁，共62頁。5-36三、非線性參數(shù)最小二乘處理的正規(guī)(zhèngguī)方程針對(zhēnduì)非線性函數(shù)其測量誤差方程(fāngchéng)為令，現(xiàn)將函數(shù)在處展開，則有第三十六頁，共62頁。5-37將上述(shàngshù)展開式代入誤差方程，令則誤差方程(fāngchéng)轉(zhuǎn)化為線性方程(fāngchéng)組于是(yúshì)可解得，進(jìn)而可得。近似值第三十七頁，共62頁。5-38四、最小二乘法與算術(shù)(suànshù)平均值的關(guān)系為確定一個(yīɡè)量X的估計值x，對它進(jìn)行n次直接測量，得到n個數(shù)據(jù),相應(yīng)的權(quán)分別為，則誤差方程為運(yùn)用最小二乘法(chéngfǎ)的正規(guī)方程為有誤差方程知ai=1，因此有

這正是不等精度測量的加權(quán)算術(shù)平均值！算術(shù)平均值原理可以看作是最小二乘法原理的特例。第三十八頁，共62頁。5-39第三節(jié)精度(jīnɡdù)估計一、直接測量數(shù)據(jù)的精度估計

二、最小二乘估計量的精度估計

給出估計量x1,x2,…,xt的精度。第三十九頁，共62頁。5-40第三節(jié)精度(jīnɡdù)估計一、測量數(shù)據(jù)(shùjù)精度估計(一）等精度(jīnɡdù)測量數(shù)據(jù)的精度(jīnɡdù)估計可以證明是自由度為(n－t)的變量。對包含t個未知線性參數(shù)的Y()進(jìn)行n次等精度測量得l1,l2,…,ln

，由殘差v1,v2,…,vn得標(biāo)準(zhǔn)差σ的估計量。根據(jù)變量的性質(zhì)，有vi互相獨立，且服從正態(tài)分布第四十頁，共62頁。5-41則可取(kěqǔ)作為(zuòwéi)的無偏估計量。因此測量(cèliáng)數(shù)據(jù)的標(biāo)準(zhǔn)差的估計量為測量次數(shù)未知量個數(shù)殘差平方和當(dāng)t=1時？

第三節(jié)精度估計

第四十一頁，共62頁。5-42iωilivi1

50.8-0.0191220.20.063331-0.3-0.0275例5.2試求例2中電抗(diànkàng)的測量精度解：已知殘余誤差(wùchā)方程為：vi=li-(0.182ωi-1/2.2ωi)。第三節(jié)精度(jīnɡdù)估計第四十二頁，共62頁。5-43(二)不等精度測量(cèliáng)數(shù)據(jù)的精度估計一、直接測量數(shù)據(jù)的精度(jīnɡdù)估計測量數(shù)據(jù)(shùjù)的單位權(quán)標(biāo)準(zhǔn)差未知量個數(shù)方程個數(shù)加權(quán)殘差平方和當(dāng)t=1時？

第三節(jié)精度估計

第四十三頁，共62頁。5-44二、最小二乘估計量的精度(jīnɡdù)估計最小二乘法所確定(quèdìng)的估計量x1,x2,…,xt的精度取決于測量數(shù)據(jù)l1,l2,…,ln的精度和線性方程組所給出的函數(shù)關(guān)系。第三節(jié)精度(jīnɡdù)估計第四十四頁，共62頁。5-45二、最小二乘估計量的精度(jīnɡdù)估計1、等精度測量(cèliáng)時估計量的精度估計設(shè)有n×n協(xié)方差矩陣(jǔzhèn)這里，Dlii為li的方差,Dlii=E[(li-Eli)2]=σi2；Dlij為li與lj的協(xié)方差,Dlij=E[(li-Eli)(lj-Elj)]=ρijσiσj,i≠j.若l1,l2,…,ln是等精度獨立測量的結(jié)果，則有且相關(guān)系數(shù)ρij＝０。第三節(jié)精度估計

第四十五頁，共62頁。5-46對于(duìyú)估計量x1,x2,…,xt，其協(xié)方差矩陣為二、最小二乘估計量的精度(jīnɡdù)估計第三節(jié)精度(jīnɡdù)估計第四十六頁，共62頁。5-47二、最小二乘估計量的精度(jīnɡdù)估計設(shè)因此(yīncǐ)，有第三節(jié)精度(jīnɡdù)估計第四十七頁，共62頁。5-48解：已知正規(guī)(zhèngguī)方程為例5.3試求例題5.1中電感(diànɡǎn)和電容估計量的精度。有估計量L、b的標(biāo)準(zhǔn)差為測量(cèliáng)數(shù)據(jù)的標(biāo)準(zhǔn)差為σ=0.0716而C=-1/b，σC=?第三節(jié)精度估計

第四十八頁，共62頁。5-49二、最小二乘估計量的精度(jīnɡdù)估計2、不等精度測量(cèliáng)估計量的精度估計第三節(jié)精度(jīnɡdù)估計第四十九頁，共62頁。5-50第四節(jié)

組合測量(cèliáng)（combinedmeasurement）的最小二乘法處理第五十頁，共62頁。5-51組合(zǔhé)測量基本概念組合測量是通過直接測量待測參數(shù)的各種組合量（一般是等精度測量），然后對這些測量數(shù)據(jù)進(jìn)行處理(chǔlǐ)，從而求得待測參數(shù)的估計值，并給出其精度估計。第四節(jié)組合(zǔhé)測量的最小二乘法處理例如要測量x,y,z三個量，可以采用如下組合測量組合測量的優(yōu)點是既能提高測量精度又能減少測量次數(shù)。若x,y,z三個量單獨測量，每個測量4次的話，總共需測12次。若用組合測量，三個量都還是各測了4次，但總測量次數(shù)只有7次，較前減少了5次，而又能達(dá)到同樣的目的。x=l1y=l2z=l3

x+y=l4y+z=l5x+z=l6x+y+z=l7第五十一頁，共62頁。5-52組合(zǔhé)測量基本概念通常組合測量數(shù)據(jù)是用最小二乘法進(jìn)行處理，它是最小二乘法在精密測試中的一種(yīzhǒnɡ)重要應(yīng)用。t個被測量(cèliáng)(t>1)n個誤差方程式

求解n種組合(n>t)測得

最小二乘法第四節(jié)組合測量的最小二乘法處理

第五十二頁，共62頁。5-53【例題(lìtí)】要求檢定絲紋尺0，1，2，3刻線間的距離(jùlí)x1,x2,x3.已知用組合測量法測得圖所示刻線間隙的各種組合量。試用最小二乘法求x1,x2,x3及其標(biāo)準(zhǔn)偏差。第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十三頁，共62頁。5-54直接測量(cèliáng)各組合量Li，得首先列出誤差(wùchā)方程0123xxx123LLLLLL123456第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十四頁，共62頁。5-55由于(yóuyú)由此可得：第四節(jié)組合測量的最小二乘法(chéngfǎ)處理第五十五頁，共62頁。5-56則有第四節(jié)組合(zǔhé)測量的最小二乘法處理第五十六頁，共62頁。5-57那么(nàme)，測量數(shù)據(jù)的標(biāo)準(zhǔn)差為將最佳(zuìjiā)估計值代入誤差方程中，得到求估計量的精度(j