李微-090214-最小二乘法實(shí)現(xiàn)擬合數(shù)據(jù)

數(shù)值計(jì)算方法課程設(shè)計(jì)題目：用最小二乘法實(shí)現(xiàn)數(shù)據(jù)擬合學(xué)院：理學(xué)院班級(jí)：09-2學(xué)生姓名：李微學(xué)生學(xué)號(hào)：14指導(dǎo)教師：李文宇2011年12月19日

課程設(shè)計(jì)任務(wù)書姓名李微班級(jí)09-2學(xué)號(hào)14設(shè)計(jì)題目用最小二乘法實(shí)現(xiàn)數(shù)據(jù)擬合理論要點(diǎn)最小二乘的思想就是要使得觀測(cè)點(diǎn)和估計(jì)點(diǎn)的距離的平方和達(dá)到最小?這里的“二乘”指的是用平方來度量觀測(cè)點(diǎn)與估計(jì)點(diǎn)的遠(yuǎn)近（在古漢語(yǔ)中“平方”稱為“二乘”），“最小”指的是參數(shù)的估計(jì)值要保證各個(gè)觀測(cè)點(diǎn)與估計(jì)點(diǎn)的距離的平方和達(dá)到最小。設(shè)計(jì)目標(biāo)用最小二乘法實(shí)現(xiàn)線性擬合和非線性擬合，且使近似曲線能盡量反應(yīng)所給數(shù)據(jù)點(diǎn)的趨勢(shì)，且使誤差平方和最小。研究方法步驟1、分析題目2、查找數(shù)據(jù)及收集資料3、確定思路4、編寫程序5、調(diào)試程序6、設(shè)計(jì)報(bào)告預(yù)期結(jié)果對(duì)任意給定的無規(guī)律的二維數(shù)據(jù)，都能用一個(gè)簡(jiǎn)單合理的數(shù)據(jù)進(jìn)行擬合。計(jì)劃與進(jìn)步的安排第天:分析題目，確定需要查詢的數(shù)據(jù)第二天:去圖書館或者邊度文檔收集資料第三天:整理資料，選出對(duì)自己有用的資料第四天:確定大致思路。列出編程提綱第五天:編寫程序第六天:調(diào)試程序第七天:設(shè)計(jì)報(bào)告，做最后的檢查#-正文正文1、理論依據(jù)最小二乘的思想就是要使得觀測(cè)點(diǎn)和估計(jì)點(diǎn)的距離的平方和達(dá)到最小?這里的“二乘”指的是用平方來度量觀測(cè)點(diǎn)與估計(jì)點(diǎn)的遠(yuǎn)近（在古漢語(yǔ)中“平方”稱為“二乘”），“最小”指的是參數(shù)的估計(jì)值要保證各個(gè)觀測(cè)點(diǎn)與估計(jì)點(diǎn)的距離的平方和達(dá)到最小.對(duì)于回歸模型y=s（x）,若（x,y）（i=l,2,3..m）為收集到的觀測(cè)數(shù)據(jù)，則應(yīng)該ii用來估計(jì)，這里是（x,S（X））（i=1,2,3..m）的估計(jì)值。它們之間距離的平方和ii就是工[S（x）—y]2。ii1進(jìn)而最小二乘估計(jì)量就是使Mm2=Mm2=X52=z[S*(X)—2iii=0i=0y]2=min'S(x)珂=1—y]2i(*)達(dá)到最小值的參數(shù)。2、問題描述（1）線性擬合已知如下表格，怎樣利用最小二乘法求出線性擬合曲線?x12345kyk—1.52.53.55.07.5(2)非線性擬合已知入戲表格，如何利用最小二乘法把非線性擬合轉(zhuǎn)換成線性擬合，再進(jìn)行擬合，并且寫出擬合曲線？x12345kyk1.52.53.55.07.5Y=Inykk0.4054651180.9162907311.2527629681.6094379122.0149030213、問題分析(1)線性擬合分析給定一組測(cè)量數(shù)據(jù)｛(x,y)，i=o丄2,…,m｝，基于最小二乘原理，求得變量X和y之間的函數(shù)關(guān)系f(X,A),使它最佳地逼近已知數(shù)據(jù)。其中A=(a,aa)是一些待定參數(shù)?！?"通常把最小二乘法中的||2都考慮為加權(quán)平方和，即2卡II2=￡3(x)(f(x)—y)22iiii二0其中，3(x)>=0是［a,b］上的權(quán)函數(shù)，它表示反應(yīng)數(shù)據(jù)(x,y)在實(shí)驗(yàn)中所占數(shù)據(jù)的比重。iii選擇參數(shù)A使得加權(quán)平方和最小，即求滿足￡3(x)(f*(x)—y)2iiim=min乙3(x)(f(x)—y)2,3(x)>=0iiii(**)…i=0i=0的f*(x)。要使(**)最小，它轉(zhuǎn)換為求多元函數(shù)(x)—f(x)]2iii=0j=0的極小點(diǎn)(a*,a*…a*)問題。由求多遠(yuǎn)函數(shù)極值的必要條件，有mn=2乙3(x)[乙aV(x)一f(x)]V(x)=0ijjiikii=0j=0若記(v,V)=jk則m￡3(x)V(x)V(x)，ijikii=0w(x)f(x)9(x)三d(k=0,1,…,n),iikik可改寫為=d可改寫為=d(k=0,1,…，n).k(***)j=0此方程成為法方程。它也可以寫成矩陣形式Ga其中a=(其中a=(a,a，…，a)T,01—(9,9)00(9,9)10n(9,901(9,9)11d=(d,d，…，d)T,01「…(9,90…(9,91由于90n，9?-9線性無關(guān)，故GI豐0,由于90n，9?-9線性無關(guān)，故GI豐0,方程組(***)存在唯一解1na=a*(i=l,2,3n),從而得到函數(shù)f(x)的最小二乘法解為S*(x)=a*9(x)+a*9(x)+…+a*9(x)0011nn可以證明，這樣得到的對(duì)于任何多項(xiàng)式形式的S(x)，都有為①(x)[S*(x)一f(x)]2<工①(x)*[S(x)一f(x)]2iiiii故S*(x)確實(shí)所求最小二乘解。(2)非線性擬合分析我們可通過變數(shù)變換將其化為線性模型。利用最小二乘線性擬合確定其系數(shù)，再利用逆變換給出原問題的曲線擬合函數(shù)。4、求解計(jì)算⑴線性擬合計(jì)算首先畫出散點(diǎn)圖，根據(jù)圖形的散點(diǎn)分布，編寫出線性擬合。>>x=[1:5];>>y=[1.5,2.5,3.5,5.0,7.5];>>plot(x,y,'*')>>p=plotfit(x,y,3)則繪制出的圖為:編寫程序，進(jìn)行數(shù)據(jù)擬合M文件：functionc=lspolyl(x,y,M)n=length(x);B=zeros(1:M+1);F=zeros(n,M+1);fork=1:M+1F(:,k)=x'.A(k-1);endA=F'*F;B=F'*y';c=(A\B)';調(diào)用M文件：Lspoly1(x,y,1)ans=-0.35001.4500Lspoly1(x,y,2)ans=1.4000-0.05000.2500Lspoly1(x,y,3)ans=0.00001.9167-0.50000.0833lspolyl(x,y,4)ans=0.00001.9167-0.50000.08330.0000階擬合多項(xiàng)式：y=-0.3500+1.4500x階擬合多項(xiàng)式：y=1.4000-0.0500x+0.2500x2階擬合多項(xiàng)式：y=0.0000-1.9167x-0.5000x2_0.0833x3階擬合多項(xiàng)式：y=0.0000-1.9167x-0.5000x2_0.0833x3+0.0000x4⑵非線性擬合計(jì)算根據(jù)問題分析，我們建立回歸模型y=aebx。然后把非線性多項(xiàng)式擬合模型轉(zhuǎn)換為線性問題。我們對(duì)方程y=aebx取對(duì)數(shù)，得lny=lna+bx令Y=lny,A=Ina則原問題轉(zhuǎn)化為解Y=A+bx的線性問題。即有y=aebx?-Y_A+bx取對(duì)數(shù)，并令Y=lny,A=lna,這樣的話，問題則轉(zhuǎn)換為以下數(shù)據(jù)，求A,b的問題。>>x=[1:5];>>y=[0.4054651180.9162907311.2527629681.6094379122.014903021];>>plot(x,y,'*')>>lspolyl(x,y,l)ans=0.06620.3912>>則A=0.0662,b=0.3912。Y=0.0662x+0.03912原擬合曲線為:y0.0662e0.3912x5、程序內(nèi)容及其計(jì)算線性擬合中，我首先建立一個(gè)大M文件，該文件內(nèi)容為：functionc=lspoly(x,y,M)n=length(x);B=zeros(1:M+1);F=zeros(n,M+1);fork=1:M+1F(:,k)=x'.A(k-1);endA=F'*F;B=F'*y';c=(A\B)';需要數(shù)據(jù)擬合的時(shí)候，就在matlab的工作區(qū)間調(diào)用這個(gè)文件。Lspoly1(x,y,2)的最后一個(gè)參數(shù)是你將要擬合函數(shù)的階數(shù)。一般情況下擬合的階數(shù)越大約接近準(zhǔn)確值。但是在例子中我們可以看出當(dāng)把階數(shù)設(shè)為4時(shí)，四次項(xiàng)的系數(shù)為零，所以我們有時(shí)候沒有必要把階數(shù)設(shè)的過高。而對(duì)于非線性擬合的函數(shù)，過程將要麻煩一些，我們需要計(jì)算YIny的值，每一個(gè)k對(duì)應(yīng)每一個(gè)Y的值。在程序的編寫過程中線性擬合與非線性擬合沒有區(qū)別。在擬合多項(xiàng)式時(shí)，我為了選出不同的階數(shù)的精確度，編出一下程序：functionY=lspoly2(M)x=[0.1:0.1:0.9];y=[6.29896.34566.42236.52746.65926.81536.99367.19197.4082];C=(lspoly1(x,y,M))';%存放擬合多項(xiàng)式的系數(shù)n=length(x);X=zeros(n,M+1);fork=1:M+1X(:,k)=x'.A(k-1);endY=(X*C)';調(diào)用該函數(shù)：x=[1:5];y=[1.5,2.5,3.5,5.0,7.5];lspoly2(1)ans=6.17986.31996.46007.16067.30076.60026.74036.88047.0205lspoly2(2)ans=6.29326.34836.42776.53136.65936.81156.98817.18897.4141lspoly2(3)ans=6.29906.34546.42226.52766.65936.81536.99357.1919lspoly2(4)7.4083ans=6.29896.34556.42236.52756.65926.81526.99367.19207.4082對(duì)照準(zhǔn)確結(jié)果，很明顯四次多項(xiàng)式比三次多項(xiàng)式更準(zhǔn)確。在一般數(shù)據(jù)比較多的情況下，我們可以選擇6次或者十次擬合。6、結(jié)論最小二乘法是指使因變量估計(jì)值與實(shí)測(cè)值間的相對(duì)誤差平方和為最小。在研究?jī)蓚€(gè)變量之間的關(guān)系時(shí)，我們可以直線代替兩個(gè)變量的關(guān)系。通過此次課程設(shè)計(jì)，我把線性擬合的程序存入了計(jì)算機(jī)matlab軟件中，我上網(wǎng)搜集了很多資料，最小二乘法原理在生活中有很多應(yīng)用。所以我沒有把原程序刪除。是為了以后有需要的時(shí)候能夠方便使用。然而實(shí)際工作中，變量間未必都有線性關(guān)系，如服藥后血藥濃度與時(shí)間的關(guān)系；疾病療效與療程長(zhǎng)短的關(guān)系；毒物劑量與致死率的關(guān)系等常呈曲線關(guān)系。曲線擬合是指選擇適當(dāng)?shù)那€類型來擬合觀測(cè)數(shù)據(jù)，并用擬合的曲線方程分析兩變量間的關(guān)系。如果遇到這種情況，我們可以用回歸分析的方法進(jìn)行分析。當(dāng)確定了描述兩個(gè)變量之間的回歸模型后，就可以使用最小二乘法估計(jì)模型中的參數(shù)，進(jìn)而建立數(shù)學(xué)模型，然后通過MATLAB求解模型。通過本文實(shí)例模型（非多項(xiàng)式形式y(tǒng)aebx）的求解，我們學(xué)會(huì)了怎樣從給定的二維數(shù)據(jù)出發(fā)，尋找一個(gè)簡(jiǎn)單合理的函數(shù)來擬合給定的一組看上去雜亂無章的數(shù)據(jù)。如何巧妙地運(yùn)用最小二乘法解決數(shù)據(jù)擬合問題，這不僅對(duì)我們?cè)诮窈蟮膶W(xué)習(xí)有一定的幫助，而且在生產(chǎn)實(shí)踐、科學(xué)實(shí)驗(yàn)中也起到了一定的作用。7、參考文獻(xiàn)JohnH.Mathews,KurtisD.Fink著，陳渝等譯。NumericalMethodsUsingMATLAB(ThirdEdition)北京：電子工業(yè)出版社.張池平主編?計(jì)算方法?哈爾濱：哈爾濱工業(yè)大學(xué)出版社.王兵團(tuán)，桂文豪著?數(shù)學(xué)實(shí)驗(yàn)基礎(chǔ)?北京：北方交通大學(xué)出版社.