自動檢測技術(shù)課件i-3最小二乘法

Lagrangey0ynli(x)Spline：分段低次自身光滑f1第3章曲線擬合的最小二（xi,yi）(i=1,2,…,m)出發(fā)，尋求函數(shù)y=f(x)的一個近似表達(dá)的m個點（xi,yi）yf(x)的一條近似曲線y=p(x。因近似表達(dá)式問題，但用它來解決這里問題，是有明顯2多項式怎樣從給定的一組實驗數(shù)據(jù)出發(fā)，在某個函數(shù)類φ3什么是最

p(x) (i1,2 據(jù)點的變化趨勢，要求i mii1m

p(xi) mim4max

p(xi)

s 2 p(x)y

按最小二乘原則選擇擬合曲線的方法，稱為最小二乘法yp(x)近似反映了變量x和yy=f(x)，稱為經(jīng)驗公式或數(shù)學(xué)模型f(x)稱為被擬合函數(shù)。56

設(shè)x1,x2,…,xn為互不相同的點，0(x),1(x), ,m(x)是m個已知函數(shù)。如果存在不全為零的常數(shù)C0,C1 ,Cm Cmm(xj)

(j 0稱函數(shù)0(x),1(x), ,m(x)（關(guān)于節(jié)點x1,x2,…,xn）是的，否則稱為線性無關(guān)xj

kk以及osx,sinx,cos2xkk 定義 給定數(shù)據(jù)(xj,yj)(j=1,2,…,n)x…y=f…P(x)a00(x)a11(x) amm(

(3.2.4))其中k(x)(k0 ,)數(shù)

a0, ,am,使 P(xj)yj akk(xj)yj

(3.2.5)j

j1k

a

(x)

mina (x)

(3.2.6)

j a

j8j1k 8

0k

j1k P(x)a*(x)a*(

(x)為最小二乘擬合函 P(x)a*a*xa*x2 a* 則稱P(x)為m次最小二乘擬合多項式9線性無關(guān)的函數(shù)k(x)(k0,,m)，即確定P(x)所具有的 j

P*(x)，即確定其系數(shù)a*(k kk P(x)a*(x) a* k

(x) *

(x)最小二 aa)m用求多元函數(shù)極值的方法求最小點(a*,a* aa)m最小二乘解a*,a*,

*m m

a

(x)

mina (x)

j a

jj1k

0k

j1k 得點a*,a*

a ) n

S(a0,a1, ,am)P(xj)yj akk(xj)yj

j

j1k (a*,a* a*)滿足方程組S(a0, ,

(k0,1,

S

P(x[P(x)y]2}2[P(x)y] ak

j j

ak=2

aii(xj)yj]k(xj)=0

(k0,1,...,mj1

aii(xj)yj0(xj)

j0 S

aa

2

ii(xj)yj1(xj) j0 S

2j0

aii(xj)yjm(xj) S(a0,a1 ,am)P(xj)y akk(xj)yj j

j1k 即n即

jj

(x)

(x)

(x) *

(x)

0 m 0 m 即

(x

*

(k0,1

k(xj

k(xji0

(x

(x(x (x i0j

j

n n

i(xj)1(xj)aiyj1(xji0j

j i(xj)n(xj)aiyjn(xj

j Rn中兩個向量x(x ,T

) 定義 u(u(x),u(x) ,u(x))T,v(v(x),v(x) ,v(x (u,v)u(xj)v(xjj

稱之為u和v的內(nèi)積(uu0,(uu0當(dāng)且僅當(dāng)u(u,v)(u,(uv,w)(u,w)(v,其中w(w(x),w(x) , (u,v)(u,v)(為任意實數(shù) 0 1 0 1 a*(,)a*(,) *(,)(y, (k0,1 (x)

m(x1) y1

(x) 0(x2) x2)

, ,y

0(xn1 1(xn1

m(xn1 yn10(xn) 1(xn)

m(xn) a*(,)a*(,) *(,)(y, (k0,1 0(, (, 00 0

(, (, (,))(y,) 1

(,

,)* )

m m法方程組或正規(guī)方程組,其中系數(shù)矩當(dāng)函數(shù)0(x),1(x), ,m(x)線性無關(guān)時，方程組是對稱正定的P(x)a00(x)a11(x) amm 最小二最小二乘解a*,a*,

*amam

a

(x)

mina (x)

j a

jj1k

0k

j1k a*a*

S(a1,a2 ,am) (k0,1, 2u(2u(u(x),u(x)1

n0(u,v)n0

2,u(x2,u(x))T,v(v(x),v(x)n

1 n1n,v(x)v(x(, (,

y,

(,

a*(y,) (,

(,)a* (y,)

m

m作為曲線擬合的一種常用的情況，若討論的是代數(shù)多項式擬合，即取0x)11x)xmx)xmn(uv)uxjvxj)nj (, )

xix

xi

(i,k0,1 , jn

j (y, )xk

(k0,1 , j 故相應(yīng)的法方程組為

x j

xjj1

y j

x

xm1

xjyjjj

j

j

1

j

x

xm

x2m

xm j

j

j

j

j P(x) ax xm xm x y j

j

a

j

x2

xm1a

xjyjjj

j

j

1

j

xm

x2m

xmy

jj

j

j

j i136.91811361.616678.9246.71972180.899199.93i136.91811361.616678.9246.71972180.899199.9363.72354057.6914969.5477.82706052.8421006.0584.02837056.0023772.0687.52927656.2525550.0∑396.6145828365.28101176.322(x)a 6x

i

x 2b x ii ii

x 6a396.6b396.6a28365.28b 將所得結(jié)果代入(x)abxy=(5)yi95.3524 (i1,2 i123456iiii

6i6i

t12345678yt9y解將已知數(shù)據(jù)點(ti,yi)(i=1,2,…,16)描繪在坐標(biāo)紙上，如上圖由圖及問題的物理背景可以看出，y(t應(yīng)具有下列特點：1曲線隨著t的增加而上升，但上升速度由快到慢當(dāng)t=0 t→∞時，y趨于某一常數(shù)。故曲線應(yīng)通過原點（或者當(dāng)t→0時以原點為極限點且有一水平漸近線 最小二乘解的求法(續(xù)tyatt iS(a,b) ( iat

y

要求解S(a,b)

ati

yi)2 t i 2 ( i

y)

(ati

ati

S

y)

(atib)2 atiii

abat y(1)1，ty

11aby(1)abt t12345678yt9y由題中所給數(shù)據(jù)表可以算出新的數(shù)據(jù)表。這樣，問題就歸結(jié)為：根據(jù)新表，求形如y(1abt(1)的最小二乘解。i123…t i1.000000.50000…y i0.250000.15625…參照例1的做法，解法方程

i

(t(1))2

t(1)y(1)即

t代入y ，得經(jīng)驗公taty 2：y(tyaeb/ (a0,blnylnaty lny，t(2)ty ABt由原始數(shù)據(jù)表可算出新i123…t(2)1/ …y(2)ln …于是將問題歸結(jié)為：根據(jù)新數(shù)據(jù)表，求形y(2)ABt(2最小二乘解。參照方案1，寫出相應(yīng)的法方程組并解之，即 B=-aeA11.325231，bB故得另一個經(jīng)驗公y

t

at

yaebty atyaeb/t最小二乘法（x,y）(i=(<n)次多項式曲線 (x)aax 來擬合這組數(shù)據(jù)顯然，求m(x)的實質(zhì)就是要確定其系數(shù)ai(i=0,1,…,m由前面討論知，問題可歸結(jié)為建立和求解法方程 xm x

y j

j a

j

xm1a

xjyjj

jj1

jj

1

j