函數(shù)逼近和曲線(xiàn)擬合省公開(kāi)課一等獎(jiǎng)全國(guó)示范課微課金獎(jiǎng)

數(shù)值分析第三章函數(shù)迫近與曲線(xiàn)擬合第1頁(yè)

當(dāng)函數(shù)只在有限點(diǎn)集上給定函數(shù)值，要在包含該點(diǎn)擊區(qū)間上用公式給出函數(shù)簡(jiǎn)單表示式，這些都包括到在區(qū)間[a,b]上用簡(jiǎn)單函數(shù)迫近已知復(fù)雜函數(shù)問(wèn)題，這就是函數(shù)迫近問(wèn)題。插值法就是函數(shù)迫近問(wèn)題一個(gè)第2頁(yè)擬處理問(wèn)題：計(jì)算復(fù)雜函數(shù)值已知有限點(diǎn)集上函數(shù)值，給出在包含該點(diǎn)集區(qū)間上函數(shù)簡(jiǎn)單表示式函數(shù)迫近——對(duì)函數(shù)類(lèi)A中給定函數(shù)f(x)，記作要求在另一類(lèi)簡(jiǎn)單便于計(jì)算函數(shù)類(lèi)B中求函數(shù)使p(x)與f(x)誤差在某種度量意義下最小。迫近問(wèn)題函數(shù)迫近曲線(xiàn)擬合第3頁(yè)基本數(shù)學(xué)概念：定義1：設(shè)集合S是數(shù)域P上線(xiàn)性空間，元素假如存在不全為0數(shù)，使得線(xiàn)性相關(guān)，不然，若等式(1.1)只對(duì)則稱(chēng)成立，則稱(chēng)為線(xiàn)性無(wú)關(guān)。第4頁(yè)若線(xiàn)性空間S是由n個(gè)線(xiàn)性無(wú)關(guān)元素生成，即：為空間S一組基，記為：則稱(chēng)并稱(chēng)該空間為n維空間。稱(chēng)為x在這組基下坐標(biāo)。例：n次多項(xiàng)式第5頁(yè)連續(xù)函數(shù)不能用有限個(gè)線(xiàn)性無(wú)關(guān)函數(shù)表示，故連續(xù)函數(shù)空間是無(wú)限維，但它任一元素能夠用有限維多項(xiàng)式迫近，使誤差為任意小。定理1：設(shè)則對(duì)任何總存在一個(gè)代數(shù)多項(xiàng)式p(x),使在[a,b]上一致成立。第6頁(yè)范數(shù)與賦范線(xiàn)性空間定義2：設(shè)S為線(xiàn)性空間，x是S元素，若存在唯一實(shí)數(shù)，滿(mǎn)足條件：則稱(chēng)為線(xiàn)性空間S上范數(shù)。稱(chēng)為賦范線(xiàn)性空間。第7頁(yè)例：n維向量空間上定義三種范數(shù)：稱(chēng)為-范數(shù)稱(chēng)為1

-范數(shù)稱(chēng)為2

-范數(shù)第8頁(yè)例：連續(xù)函數(shù)空間上定義三種范數(shù)：稱(chēng)為-范數(shù)稱(chēng)為1

-范數(shù)稱(chēng)為2

-范數(shù)第9頁(yè)例：求以下向量1范數(shù)、2范數(shù)和無(wú)窮范數(shù)第10頁(yè)內(nèi)積與內(nèi)積空間定義3：設(shè)X為數(shù)域K（R或C）上線(xiàn)性空間，滿(mǎn)足條件：稱(chēng)(u,v)為X上u與v內(nèi)積。定義了內(nèi)積線(xiàn)性空間為內(nèi)積空間。若(u,v)=0,則稱(chēng)u和v正交。第11頁(yè)例比如：第12頁(yè)例其中為權(quán)函數(shù)，滿(mǎn)足定義4（page68)第13頁(yè)正交函數(shù)定義5：既：f(x)與g(x)在[a,b]上帶權(quán)正交。若函數(shù)族滿(mǎn)足則稱(chēng)該函數(shù)族是在[a,b]上帶權(quán)正交函數(shù)族。時(shí)為標(biāo)準(zhǔn)正交函數(shù)族第14頁(yè)比如，三角函數(shù)族是在區(qū)間上正交函數(shù)族。定義6：正交多項(xiàng)式(page70)第15頁(yè)迫近問(wèn)題函數(shù)迫近曲線(xiàn)擬合第16頁(yè)實(shí)例：考查某種纖維強(qiáng)度與其拉伸倍數(shù)關(guān)系,下表是實(shí)際測(cè)定24個(gè)纖維樣品強(qiáng)度與對(duì)應(yīng)拉伸倍數(shù)是統(tǒng)計(jì):第17頁(yè)纖維強(qiáng)度隨拉伸倍數(shù)增加而增加而且24個(gè)點(diǎn)大致分布在一條直線(xiàn)附近必須找到一個(gè)度量標(biāo)準(zhǔn)來(lái)衡量什么曲線(xiàn)最靠近全部數(shù)據(jù)點(diǎn)(1)第18頁(yè)依然是已知x1…xm

;y1…ym,求一個(gè)簡(jiǎn)單易算近似函數(shù)P(x)

f(x)。不過(guò)①

m

很大；②

yi本身是測(cè)量值，不準(zhǔn)確，即yi

f(xi)這時(shí)沒(méi)必要取P(xi)=yi,

而要使P(xi)

yi總體上盡可能小。使誤差在某種度量意義下最小第19頁(yè)常見(jiàn)做法：

使最小/*minimaxproblem*/

太復(fù)雜

使最小不可導(dǎo)，求解困難

使最小/*Least-Squaresmethod*/第20頁(yè)最小二乘法基本概念普通使用在回歸分析中稱(chēng)為殘差稱(chēng)為平方誤差第21頁(yè)在回歸分析中稱(chēng)為殘差平方和從而確定(1)中待定系數(shù)注意(1)式是一條直線(xiàn)所以將問(wèn)題普通化普通情況下第22頁(yè)依然定義平方誤差第23頁(yè)我們選取度量標(biāo)準(zhǔn)是(2)(3)第24頁(yè)第25頁(yè)法方程組由可知所以可假設(shè)所以求最小二乘解轉(zhuǎn)化為二次函數(shù)第26頁(yè)由多元函數(shù)取極值必要條件得即第27頁(yè)(4)即第28頁(yè)引入記號(hào)則由內(nèi)積概念可知(5)(6)顯然內(nèi)積滿(mǎn)足交換律第29頁(yè)方程組(4)便可化為(7)將其表示成矩陣形式(8)第30頁(yè)而且其系數(shù)矩陣為對(duì)稱(chēng)陣所以法方程組系數(shù)矩陣非奇異,即依據(jù)Cramer法則,法方程組有唯一解第31頁(yè)即是最小值所以所以第32頁(yè)作為一個(gè)簡(jiǎn)單情況,基函數(shù)之間內(nèi)積為平方誤差第33頁(yè)例1.回到本節(jié)開(kāi)始實(shí)例，從散點(diǎn)圖能夠看出纖維強(qiáng)度和拉伸倍數(shù)之間近似與線(xiàn)性關(guān)系故可選取線(xiàn)性函數(shù)為擬合函數(shù)，其基函數(shù)為建立法方程組依據(jù)內(nèi)積公式，可得第34頁(yè)法方程組為解得平方誤差為第35頁(yè)擬合曲線(xiàn)與散點(diǎn)關(guān)系如右圖:第36頁(yè)例2.求擬合以下數(shù)據(jù)最小二乘解x=.24.65.951.241.732.012.232.522.772.99y=.23-.26-1.10-.45.27.10-.29.24.561解:從數(shù)據(jù)散點(diǎn)圖能夠看出所以假設(shè)擬合函數(shù)與基函數(shù)分別為第37頁(yè)6.7941-5.347563.2589-5.34755.1084-49.008663.2589-49.00861002.51.6163-2.382726.7728經(jīng)過(guò)計(jì)算,得法方程組系數(shù)矩陣及常數(shù)項(xiàng)矩陣為Go!第38頁(yè)用Gauss列主元消去法,得-1.0410-1.26130.030735擬合平方誤差為圖象如圖第39頁(yè)例3.在某化學(xué)反應(yīng)里,測(cè)得生成物濃度y%與時(shí)間t數(shù)據(jù)以下，試建立y關(guān)于t經(jīng)驗(yàn)公式x=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00,10.20,10.32,10.42,10.50,10.55,10.58,10.60解:含有圖示圖形曲線(xiàn)很多，本題特提供兩種形式第40頁(yè)例：xy(xi,yi),i=1,2,…,m方案一：設(shè)baxxxPy+=

)(求a

和b

使得最小。

=-+=miiiiybaxxba12)(),(jButhey,thesystemofequationsforaandbisnonlinear!Takeiteasy!Wejusthavetolinearizeit…線(xiàn)性化

/*linearization*/：令，則bXaY+

就是個(gè)線(xiàn)性問(wèn)題將化為后易解a

和b。),(iiYX),(iiyx第41頁(yè)方案二：設(shè)xbeaxPy/)(-=

(a>0,b>0)線(xiàn)性化：由可做變換xbay-

lnlnbBaAxXyY-====,ln,1,lnBXAY+

就是個(gè)線(xiàn)性問(wèn)題將化為后易解A

和B),(iiYX),(iiyx第42頁(yè)兩邊取對(duì)數(shù),得得即為擬合函數(shù)基函數(shù)為解法方程組得平方誤差為第43頁(yè)用最小二乘法得即不論從圖形還是從平方誤差考慮在本例中指數(shù)函數(shù)擬合比雙曲線(xiàn)擬合要好平方誤差為第44頁(yè)定義權(quán)函數(shù)：①

離散型/*discretetype*/依據(jù)一系列離散點(diǎn)擬合時(shí)，在每一誤差前乘一正數(shù)wi

，即誤差函數(shù)

，這個(gè)wi

就稱(chēng)作權(quán)/*weight*/，反應(yīng)該點(diǎn)主要程度。

=-=niiiiyxPw12])([②

連續(xù)型

/*continuoustype*/在[a,b]上用廣義多項(xiàng)式P(x)擬合連續(xù)函數(shù)f(x)時(shí)，定義權(quán)函數(shù)

(x)

C[a,b]，即誤差函數(shù)

=。權(quán)函數(shù)

(x)必須滿(mǎn)足：非負(fù)、可積，且在[a,b]任何子區(qū)間上

(x)0。加權(quán)最小二乘法第45頁(yè)各點(diǎn)主要性可能是不一樣重度:即權(quán)重或者密度，統(tǒng)稱(chēng)為權(quán)系數(shù)

定義加權(quán)平方誤差為(9)第46頁(yè)使得第47頁(yè)由多元函數(shù)取極值必要條件得即第48頁(yè)引入記號(hào)定義加權(quán)內(nèi)積(10)第49頁(yè)矩陣形式(法方程組)為方程組(10)式化為(11)(12)第50頁(yè)平方誤差為作為特殊情形,用多項(xiàng)式作擬合函數(shù)法方程組為(13)第51頁(yè)例：連續(xù)型擬合中，取則Hilbert陣！改進(jìn)：若能取函數(shù)族

={

0(x),

1(x),…,

n(x),…}，使得任意一對(duì)

i(x)和

j(x)兩兩（帶權(quán)）正交，則B就化為對(duì)角陣！這時(shí)直接可算出ak=第52頁(yè)用正交多項(xiàng)式作最小二乘擬合*即正交多項(xiàng)式怎樣選取呢