函數(shù)逼近和曲線擬合省公開課一等獎全國示范課微課金獎

數(shù)值分析第三章函數(shù)迫近與曲線擬合第1頁

當函數(shù)只在有限點集上給定函數(shù)值，要在包含該點擊區(qū)間上用公式給出函數(shù)簡單表示式，這些都包括到在區(qū)間[a,b]上用簡單函數(shù)迫近已知復雜函數(shù)問題，這就是函數(shù)迫近問題。插值法就是函數(shù)迫近問題一個第2頁擬處理問題：計算復雜函數(shù)值已知有限點集上函數(shù)值，給出在包含該點集區(qū)間上函數(shù)簡單表示式函數(shù)迫近——對函數(shù)類A中給定函數(shù)f(x)，記作要求在另一類簡單便于計算函數(shù)類B中求函數(shù)使p(x)與f(x)誤差在某種度量意義下最小。迫近問題函數(shù)迫近曲線擬合第3頁基本數(shù)學概念：定義1：設集合S是數(shù)域P上線性空間，元素假如存在不全為0數(shù)，使得線性相關(guān)，不然，若等式(1.1)只對則稱成立，則稱為線性無關(guān)。第4頁若線性空間S是由n個線性無關(guān)元素生成，即：為空間S一組基，記為：則稱并稱該空間為n維空間。稱為x在這組基下坐標。例：n次多項式第5頁連續(xù)函數(shù)不能用有限個線性無關(guān)函數(shù)表示，故連續(xù)函數(shù)空間是無限維，但它任一元素能夠用有限維多項式迫近，使誤差為任意小。定理1：設則對任何總存在一個代數(shù)多項式p(x),使在[a,b]上一致成立。第6頁范數(shù)與賦范線性空間定義2：設S為線性空間，x是S元素，若存在唯一實數(shù)，滿足條件：則稱為線性空間S上范數(shù)。稱為賦范線性空間。第7頁例：n維向量空間上定義三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第8頁例：連續(xù)函數(shù)空間上定義三種范數(shù)：稱為-范數(shù)稱為1

-范數(shù)稱為2

-范數(shù)第9頁例：求以下向量1范數(shù)、2范數(shù)和無窮范數(shù)第10頁內(nèi)積與內(nèi)積空間定義3：設X為數(shù)域K（R或C）上線性空間，滿足條件：稱(u,v)為X上u與v內(nèi)積。定義了內(nèi)積線性空間為內(nèi)積空間。若(u,v)=0,則稱u和v正交。第11頁例比如：第12頁例其中為權(quán)函數(shù)，滿足定義4（page68)第13頁正交函數(shù)定義5：既：f(x)與g(x)在[a,b]上帶權(quán)正交。若函數(shù)族滿足則稱該函數(shù)族是在[a,b]上帶權(quán)正交函數(shù)族。時為標準正交函數(shù)族第14頁比如，三角函數(shù)族是在區(qū)間上正交函數(shù)族。定義6：正交多項式(page70)第15頁迫近問題函數(shù)迫近曲線擬合第16頁實例：考查某種纖維強度與其拉伸倍數(shù)關(guān)系,下表是實際測定24個纖維樣品強度與對應拉伸倍數(shù)是統(tǒng)計:第17頁纖維強度隨拉伸倍數(shù)增加而增加而且24個點大致分布在一條直線附近必須找到一個度量標準來衡量什么曲線最靠近全部數(shù)據(jù)點(1)第18頁依然是已知x1…xm

;y1…ym,求一個簡單易算近似函數(shù)P(x)

f(x)。不過①

m

很大；②

yi本身是測量值，不準確，即yi

f(xi)這時沒必要取P(xi)=yi,

而要使P(xi)

yi總體上盡可能小。使誤差在某種度量意義下最小第19頁常見做法：

使最小/*minimaxproblem*/

太復雜

使最小不可導，求解困難

使最小/*Least-Squaresmethod*/第20頁最小二乘法基本概念普通使用在回歸分析中稱為殘差稱為平方誤差第21頁在回歸分析中稱為殘差平方和從而確定(1)中待定系數(shù)注意(1)式是一條直線所以將問題普通化普通情況下第22頁依然定義平方誤差第23頁我們選取度量標準是(2)(3)第24頁第25頁法方程組由可知所以可假設所以求最小二乘解轉(zhuǎn)化為二次函數(shù)第26頁由多元函數(shù)取極值必要條件得即第27頁(4)即第28頁引入記號則由內(nèi)積概念可知(5)(6)顯然內(nèi)積滿足交換律第29頁方程組(4)便可化為(7)將其表示成矩陣形式(8)第30頁而且其系數(shù)矩陣為對稱陣所以法方程組系數(shù)矩陣非奇異,即依據(jù)Cramer法則,法方程組有唯一解第31頁即是最小值所以所以第32頁作為一個簡單情況,基函數(shù)之間內(nèi)積為平方誤差第33頁例1.回到本節(jié)開始實例，從散點圖能夠看出纖維強度和拉伸倍數(shù)之間近似與線性關(guān)系故可選取線性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組依據(jù)內(nèi)積公式，可得第34頁法方程組為解得平方誤差為第35頁擬合曲線與散點關(guān)系如右圖:第36頁例2.求擬合以下數(shù)據(jù)最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)散點圖能夠看出所以假設擬合函數(shù)與基函數(shù)分別為第37頁6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728經(jīng)過計算,得法方程組系數(shù)矩陣及常數(shù)項矩陣為Go!第38頁用Gauss列主元消去法,得-1.0410-1.26130.030735擬合平方誤差為圖象如圖第39頁例3.在某化學反應里,測得生成物濃度y%與時間t數(shù)據(jù)以下，試建立y關(guān)于t經(jīng)驗公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:含有圖示圖形曲線很多，本題特提供兩種形式第40頁例：xy(xi,yi),i=1,2,…,m方案一：設baxxxPy+=

)(求a

和b

使得最小。

=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線性化

/*linearization*/：令，則bXaY+

就是個線性問題將化為后易解a

和b。),(iiYX),(iiyx第41頁方案二：設xbeaxPy/)(-=

(a>0,b>0)線性化：由可做變換xbay-

lnlnbBaAxXyY-====,ln,1,lnBXAY+

就是個線性問題將化為后易解A

和B),(iiYX),(iiyx第42頁兩邊取對數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為第43頁用最小二乘法得即不論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線擬合要好平方誤差為第44頁定義權(quán)函數(shù)：①

離散型/*discretetype*/依據(jù)一系列離散點擬合時，在每一誤差前乘一正數(shù)wi

，即誤差函數(shù)

，這個wi

就稱作權(quán)/*weight*/，反應該點主要程度。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/在[a,b]上用廣義多項式P(x)擬合連續(xù)函數(shù)f(x)時，定義權(quán)函數(shù)

(x)

C[a,b]，即誤差函數(shù)

=。權(quán)函數(shù)

(x)必須滿足：非負、可積，且在[a,b]任何子區(qū)間上

(x)0。加權(quán)最小二乘法第45頁各點主要性可能是不一樣重度:即權(quán)重或者密度，統(tǒng)稱為權(quán)系數(shù)

定義加權(quán)平方誤差為(9)第46頁使得第47頁由多元函數(shù)取極值必要條件得即第48頁引入記號定義加權(quán)內(nèi)積(10)第49頁矩陣形式(法方程組)為方程組(10)式化為(11)(12)第50頁平方誤差為作為特殊情形,用多項式作擬合函數(shù)法方程組為(13)第51頁例：連續(xù)型擬合中，取則Hilbert陣！改進：若能取函數(shù)族

={

0(x),

1(x),…,

n(x),…}，使得任意一對

i(x)和

j(x)兩兩（帶權(quán)）正交，則B就化為對角陣！這時直接可算出ak=第52頁用正交多項式作最小二乘擬合*即正交多項式怎樣選取呢