回歸分析在數(shù)學(xué)建模中的應(yīng)用

1、咸陽師范學(xué)院2013屆本科畢業(yè)論文摘 要 回歸分析和方差分析是探究和處理相關(guān)關(guān)系的兩個(gè)重要的分支,其中回歸分析方法是預(yù)測方面最常用的數(shù)學(xué)方法,它是利用統(tǒng)計(jì)數(shù)據(jù)來確定變量之間的關(guān)系,并且依據(jù)這種關(guān)系來預(yù)測未來的發(fā)展趨勢。本文主要介紹了一元線性回歸分析方法和多元線性回歸分析方法的一般思想方法和一般步驟,并且用它們來研究和分析我們?cè)谏钪谐Ｓ龅降囊恍╇y以用函數(shù)形式確定的變量之間的關(guān)系。在解決的過程中,建立回歸方程,再通過該回歸方程進(jìn)行預(yù)測。關(guān)鍵詞:多元線性回歸分析;參數(shù)估計(jì);檢驗(yàn)Abstract Regression analysis and analysis of variance is the

2、inquiry and processing of the correlation between two important branches, wherein the regression analysis method is the most commonly used mathematical prediction method, it is the use of statistical data to determine the relationship between the variables, and based on this relationship predict fut

3、ure trends. introduces a linear regression analysis and multiple linear regression analysis method general way of thinking and the general steps, and use them to research and analysis that we encounter in our life, are difficult to determine as a function relationship between the variables in the so

4、lving process, the regression equation is established by the regression equation to predict.Keywords: Multiple linear regression analysis; parameter estimation;inspection 目 錄摘 要IAbstractII目 錄III引言11 回歸分析的背景來源及其概念11.1 回歸分析的背景11.2 回歸分析的基本概念12 線性回歸分析模型22.1 一元線性回歸的模型22.1.1 回歸參數(shù)和的估計(jì)32.1.2 一元線性回歸方程的顯著性檢驗(yàn)3

5、2.2 多元線性回歸分析的模型42.2.1 回歸參數(shù)和的估計(jì)52.2.2 多元線性回歸分析方程的顯著性檢驗(yàn)53 實(shí)例應(yīng)用53.1 問題提出53.2 建立模型63.3 關(guān)于家庭收入與家庭食品支出的應(yīng)用63.4 多元線性回歸分析在我國民航客運(yùn)量與其影響因素中的應(yīng)用8小結(jié)12參考文獻(xiàn)13謝辭1413 引言回歸分析是研究生活中多個(gè)相關(guān)變量變化的一種最常見的數(shù)學(xué)方法,運(yùn)用它來解決實(shí)際問題,不僅可以使問題簡單化 ,還可以對(duì)未來的數(shù)據(jù)進(jìn)行預(yù)測。本文主要將回歸分析應(yīng)用于研究家庭食品支出和家庭收入以及我國民航客運(yùn)量和國民收入、消費(fèi)額、鐵路客運(yùn)量、民航航線里程、來華入境人數(shù)之間的關(guān)系。 1 回歸分析的背景來源及其

6、概念 1.1 回歸分析的背景 “回歸”這一概念是在19世紀(jì)80年代由英國的統(tǒng)計(jì)學(xué)家弗朗西斯·高爾頓在研究父代身高和子代身高之間的關(guān)系時(shí)提出來的。他發(fā)現(xiàn)不管父代身高是高或是矮,子代的身高都有回歸父輩平均身高的趨勢,他把這種現(xiàn)象稱作回歸?，F(xiàn)如今,回歸分析已經(jīng)成為社會(huì)科學(xué)定量分析研究中最基本、應(yīng)用最為廣泛的一種數(shù)據(jù)處理方法。它不但可以給出描述自變量和因變量之間相關(guān)關(guān)系的函數(shù)表達(dá)式，還可以用來預(yù)測因變量的取值。在現(xiàn)實(shí)生活中,影響某一現(xiàn)象的因素常常是多方面的。社會(huì)科學(xué)的研究不可能像自然科學(xué)研究那樣運(yùn)用實(shí)驗(yàn)的方法來進(jìn)行解決,人們?yōu)榱伺搴徒忉屖挛镏g變化的真實(shí)原因和規(guī)律,就必須借助一些經(jīng)驗(yàn)數(shù)據(jù)并

7、進(jìn)行整理分析。而回歸分析的最大優(yōu)點(diǎn)恰恰就在于它可以通過統(tǒng)計(jì)方法來對(duì)干擾因素加以控制,從而幫助我們來發(fā)現(xiàn)自變量與因變量之間的關(guān)系。1.2 回歸分析的基本概念一切運(yùn)動(dòng)著的事物都是相互聯(lián)系、相互制約的,從而,描述事物和事物運(yùn)動(dòng)的變量之間也是相互聯(lián)系、相互制約的。變量之間的關(guān)系總體可以分為兩類:一類叫做確定關(guān)系,即函數(shù)關(guān)系,它的特征是:一個(gè)變量隨其他變量的確定而確定。例如球的體積和半徑之間的關(guān)系;另一類關(guān)系叫做相關(guān)關(guān)系,這類關(guān)系的特征是:變量之間的關(guān)系很難用一種精確的方法表示出來。例如農(nóng)業(yè)上的施肥量和畝產(chǎn)量之間有一定的關(guān)系,但是由施肥量不能精確地算出畝產(chǎn)量,由畝產(chǎn)量也不能精確地計(jì)算出施肥量。而回歸分析

8、就是用來處理和描述這種相關(guān)關(guān)系的。那么,什么是回歸分析呢?我們大家都知道,數(shù)學(xué)分析和高等數(shù)學(xué)是研究連續(xù)變量之間的關(guān)系,泛函分析是研究函數(shù)集之間的關(guān)系,而回歸分析則是研究隨機(jī)變量之間的相關(guān)關(guān)系的一種數(shù)學(xué)方法。它是最常用的數(shù)理統(tǒng)計(jì)方法,能解決決策、控制、生產(chǎn)工藝優(yōu)化等問題。目前,回歸分析在工農(nóng)業(yè)生產(chǎn)及科學(xué)研究中有著極其廣泛的作用,同時(shí)也在實(shí)驗(yàn)數(shù)據(jù)的處理、經(jīng)驗(yàn)公式的推導(dǎo)、產(chǎn)品的統(tǒng)計(jì)質(zhì)量管理、市場的預(yù)測、氣象預(yù)報(bào)和醫(yī)學(xué)衛(wèi)生等許多領(lǐng)域都常常會(huì)運(yùn)用回歸分析?；貧w分析主要研究的內(nèi)容是:（1）從一組數(shù)據(jù)出發(fā),確定這些變量（參數(shù)）之間的定量關(guān)系,所得到的表達(dá)式稱為回歸方程;（2）對(duì)求得的回歸方程的可信度進(jìn)行檢驗(yàn)

9、;（3）在有關(guān)的許多變量中,判斷變量的顯著性,即哪些是顯著的,哪一些是不顯著的,顯著地保留,不顯著的忽略;（4）利用所求得的回歸方程進(jìn)行預(yù)測和控制。回歸分析中,當(dāng)研究的因果關(guān)系只涉及因變量和一個(gè)自變量時(shí),叫做一元回歸分析;當(dāng)研究的因果關(guān)系涉及因變量和多個(gè)自變量時(shí),叫做多元回歸分析。另外,依據(jù)描述自變量和因變量之間的函數(shù)關(guān)系是線性的還是非線性的,把回歸分析又分為線性回歸分析和非線性回歸分析。本文主要研究線性回歸分析。2 線性回歸分析模型線性回歸分析是回歸分析中較為簡單的一類,并且它在現(xiàn)實(shí)生活中的應(yīng)用及其泛。線性回歸分析則是研究和處理變量之間的線性相關(guān)關(guān)系的數(shù)學(xué)方法。根據(jù)所研究自變量的多少,可以將

10、線性回歸分析分為一元線性回歸分析和多元線性回歸分析。2.1 一元線性回歸的模型一元線性回歸模型又稱簡單直線回歸模型,它是根據(jù)成對(duì)的兩種變量的數(shù)據(jù),配合直線方程式,根據(jù)自變量的變動(dòng),來推算因變量發(fā)展趨勢和水平的方法。它是研究相關(guān)的兩種數(shù)量變動(dòng)與存在關(guān)系的一種方法。一元線性回歸模型的一般形式: （1） 上式中,表示隨的變化而線性變化的部分,是隨機(jī)誤差,是其它一切不確定因素影響的總和,它的值是不可測的,通常假定服從，稱函數(shù)為一元線性回歸函數(shù)。為回歸常數(shù),為回歸系數(shù),他們統(tǒng)稱為回歸參數(shù)。其中稱為回歸自變量或回歸因子;稱為回歸因變量或響應(yīng)變量。 若,是的一組觀測值,那么一元線性回歸模型可表示為: 上式中

11、, , , 2.1.1 回歸參數(shù)和的估計(jì) 用最小二乘法估計(jì)的值,即取它們的一組估計(jì)值,使其隨機(jī)誤差的平方和達(dá)到最小,即使與的最佳擬合。若記則顯然有并且關(guān)于可微,則由多元函數(shù)存在極值的必要條件得 則稱為的最小二乘估計(jì)，其中 , 于是可得到經(jīng)驗(yàn)回歸方程 。 其中有 , 則是的無偏估計(jì)。2.1.2 一元線性回歸方程的顯著性檢驗(yàn) 根據(jù)回歸方程求出估計(jì)值以后,現(xiàn)在的問題是:與之間是否確實(shí)存在這種線性關(guān)系呢?也就是說是否為,這就需要對(duì)回歸方程作顯著性檢驗(yàn)。顯著性檢驗(yàn)法有檢驗(yàn)法、檢驗(yàn)法和檢驗(yàn)法,而檢驗(yàn)法是最常用、最基本的檢驗(yàn)方法。只要判斷出與的大小即可,當(dāng)時(shí),則說明的假設(shè)不成立,即模型中的一次項(xiàng)是必要的。換

12、而言之,模型對(duì)水平而言是顯著的,反之就是不顯著的。經(jīng)過檢驗(yàn),當(dāng)回歸方程有意義時(shí),便可用它來進(jìn)行預(yù)測。當(dāng)給定時(shí)求出預(yù)測值即可。2.2 多元線性回歸分析的模型線性回歸模型適合于分析一個(gè)因變量和多個(gè)自變量之間的相關(guān)關(guān)系。現(xiàn)假設(shè)一個(gè)回歸模型中有個(gè)自變量，即有， 則該回歸模型可以表示為: （2）其中服從，并且獨(dú)立同部分布。上式中,表示個(gè)體在因變量中的取值,為截距的總體參數(shù),為斜率的總體參數(shù)。由于該回歸模型中包含多個(gè)自變量,因此將（2）式稱為多元線性回歸模型。 如果我們定義一下的矩陣: 此時(shí),我們可以采用矩陣的表達(dá)形式,將一般的多元線性回歸模型表示為: （3）上面的式子也常常簡記為:。這里,表示因變量的向

13、量,表示總體參數(shù)的向量,表示由所有自變量和一列常數(shù)1所組成的矩陣, 則表示隨機(jī)誤差變量的向量。2.2.1 回歸參數(shù)和的估計(jì)類似于一元線性回歸分析的參數(shù)估計(jì),求多元線性回歸分析的回歸系數(shù)的估計(jì)值,就是求最小二乘函數(shù)達(dá)到最小的值。于是可求得的最小二乘估計(jì) 。從而可得經(jīng)驗(yàn)回歸方程 ,稱為殘差向量。通常有為的最小二乘估計(jì)。2.2.2 多元線性回歸分析方程的顯著性檢驗(yàn)假設(shè)不全為0。當(dāng)成立時(shí),構(gòu)造統(tǒng)計(jì)量服從,對(duì)于給定的顯著性水平（一般取值為0.01或0.05）,檢驗(yàn)的拒絕域?yàn)?。?dāng)多元線性回歸方程經(jīng)過檢驗(yàn)是顯著的之后,并且其中每一個(gè)系數(shù)均顯著不為0時(shí),便可以用此方程進(jìn)行預(yù)測。即給定，將其代入回歸方程,可得到

14、：。3 實(shí)例應(yīng)用3.1 問題提出食品是人們生活中不可缺少的。每個(gè)家庭都必須在食品支出上加以重視,然而,一個(gè)家庭的收入是該家庭食品支出的先決條件。也就是說,家庭收入影響著家庭食品支出。那么它們之間到底有什么關(guān)系呢?另外,在現(xiàn)實(shí)生活中,影響某一變量的因素不止一個(gè),有時(shí)候從表面上看,諸多的因素好像都與某一因變量有著某種相關(guān)關(guān)系,其實(shí)不然。在這些因素中有的因素對(duì)該變量是顯著性的或起決定性作用,而有的因素則是不顯著的。要解決這類問題,我們就必須借助于多元線性回歸。例如:在我國民航客運(yùn)量的研究中,影響民航客運(yùn)量的因素是多方面的,其中包括國民收入、鐵路客運(yùn)量、民航航線里程等。下面本文將分別解決以上的兩個(gè)問題

15、。3.2 建立模型 假設(shè)家庭收入為，家庭食品支出為，那么可以設(shè)這兩種變量之間的關(guān)系為:,其中為回歸參數(shù)，是隨機(jī)誤差，并且服從; 假設(shè)我國民航客運(yùn)量為，國民收入、消費(fèi)額、鐵路客運(yùn)量、民航航線里程和來華旅游入境人數(shù)分別為,和。則設(shè)變量之間的關(guān)系為:,其中為回歸參數(shù)為不可測量的誤差變量。3.3 關(guān)于家庭收入與家庭食品支出的應(yīng)用 為了研究家庭收入和該家庭食品支出之間的關(guān)系,隨機(jī)調(diào)查了10個(gè)家庭,所得數(shù)據(jù)如下:家庭收入和食品支出數(shù)據(jù) 單位:百元12345678910家庭收入20303240152613383540食品支出76812911410910首先設(shè)家庭收入為（單位:百元）,家庭食品支出為（單位:百

16、元）根據(jù)題中所給出的數(shù)據(jù)，我們可以畫出散點(diǎn)圖，由圖我們可只看出，家庭收入與家庭食品支出之間存在線性關(guān)系。表3.1 樣本數(shù)據(jù)計(jì)算表序號(hào) 家庭收入 食品支出 1 20 7 400 49 1402 30 6 900 36 180 3 30 8 1024 64 2564 40 12 1600 144 4805 15 9 225 81 1356 26 11 676 121 2867 13 4 169 16 52 8 38 10 1444 100 3809 35 9 1225 81 31510 40 10 1600 100 400 289 84 9263 792 2624 通過以上計(jì)算可以得到家庭食品支出

17、對(duì)家庭收入的樣本回歸方程是: 該方程說明，當(dāng)收入為零時(shí),家庭的食品支出也必須有2.1056元。這部分的支出可看作是基本支出或固定支出水平;在一定的范圍內(nèi),收入每增加100元，食品支出就增加21.78元。用檢驗(yàn)法進(jìn)行顯著性檢驗(yàn),取顯著水平。因?yàn)?拒絕域?yàn)?,而所以拒絕,也就是說家庭收入對(duì)家庭食品支出有著顯著的影響。取,即當(dāng)家庭收入為4200元時(shí),食品支出的預(yù)測值為:（百元）置信度為95%的預(yù)測區(qū)間為 通過計(jì)算可以得到,因此可得預(yù)測區(qū)間為:（4.3518，18.1546）,即有95%的把握估計(jì)當(dāng)家庭收入為4200元時(shí),家庭食品支出額在435到1815.46元之間。3.4 多元線性回歸分析在我國民航

18、客運(yùn)量與其影響因素中的應(yīng)用為了研究我國民航客運(yùn)量的變化趨勢及其成因，現(xiàn)以民航客運(yùn)量作為因變量,以國民的收入、消費(fèi)額、鐵路客運(yùn)量、民航航線里程以及來華旅游入境人數(shù)作為影響國民航客運(yùn)量的主要因素。根據(jù)2004年統(tǒng)計(jì)摘要可以獲得1988-2003年統(tǒng)計(jì)數(shù)據(jù)見下表4.2。 表4.2 民航統(tǒng)計(jì)數(shù)據(jù)表年份 /萬人 /億元 /億元 /萬人 / 萬km /萬人 1998 231 3010 1888 81491 14.89 180.921989 298 3350 2195 86389 16.00 420.391990 343 3688 2531 92204 19.53 570.251991 401 3941 2

19、799 95300 21.82 776.711992 445 4258 3054 99922 23.27 792.431993 391 4726 3358 106044 22.91 947.701994 554 5652 3905 11353 26.02 1285.221995 744 7020 4879 112110 27.72 1783.301996 997 7859 5552 108579 32.43 2281.951997 1310 9313 6386 112429 38.91 2690.231998 1442 11738 8038 122645 37.38 3169.481999 1

20、283 13176 9005 113807 47.19 2450.142000 1660 14384 9663 95712 50.68 2746.202001 2178 16557 10969 95081 55.91 3335.502002 2886 20223 12985 99693 83.66 3311.502003 3383 24882 15949 105458 96.08 4152.70運(yùn)用回歸分析的方法分析上面的所給出的一系列數(shù)據(jù),并且建立多元線性回歸模型并用MATLAB軟件進(jìn)行解決。建立回歸分析模型,定義民航客運(yùn)量為,國民收入、消費(fèi)額、鐵路客運(yùn)量、民航航線里程和來華旅游入境人數(shù)分別

21、為,和.設(shè)變量之間的關(guān)系為: 其中為不可測量的誤差變量。根據(jù)統(tǒng)計(jì)數(shù)據(jù),利用MATLAB計(jì)算出回歸系數(shù)。具體如下:>231 298 343 401 445 391 554 744 997 1310 1442 1283 1660 2178 2886 3383 ;>3130 1888 81491 14.89 180.92;3350 2195 86389 16.00 420.39;3688 2531 92204 19.53 570.25;3941 2799 95300 21.82 776.71;4258 3054 99922 23.27 792.43;4736 3358 106044 22

22、.91 947.70;5652 3905 11353 26.02 1285.22;7020 4879 112110 27.72 1783.30;7859 5552 108579 32.43 2281.95;9313 6386 112429 37.38 3169.48;13176 9005 113807 47.19 2450.14;14384 9663 95712 50.68 2746.20;16557 10969 5081 55.91 3335.65;20223 12985 99693 83.66 3311.50;24882 15949 105458 96.08 4152.70;> ;&

23、gt;計(jì)算出: 回歸系數(shù);因此所得的多元線性回歸方程為:;該方程中的,都有明確的含義。例如說:當(dāng)0.5196時(shí)則表示國民收入每增加1億元,在其他條件不變的情況下,民航客運(yùn)量就會(huì)增加0.5196萬人。運(yùn)用檢驗(yàn)法對(duì)回歸方程進(jìn)行檢驗(yàn),經(jīng)過計(jì)算可得,取顯著性水平,查分布表得,因?yàn)?。故拒絕,表明線性回歸方程高度顯著,即就說明,整體上對(duì)有顯著的影響。對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn),，代入公式,。計(jì)算得：給定，查分布表得,其中,均大于所查表的值,而,這樣的結(jié)果說明回歸系數(shù)中,，,對(duì)有顯著性影響,而對(duì)無顯著影響,這說明鐵路客運(yùn)量對(duì)民航客運(yùn)量無顯著影響。此時(shí),該多元線性回歸模型中可以剔除鐵路客運(yùn)量的影響,從而得到新的

24、線性回歸模型為:再經(jīng)過檢驗(yàn)可知,所有的回歸變量均對(duì)有顯著性影響,并且可以計(jì)算出復(fù)相關(guān)系數(shù)。因?yàn)閺?fù)相關(guān)系數(shù)接近1，則可認(rèn)為與之間相關(guān)關(guān)系顯著,說明擬合程度很高,故該模型的預(yù)測值和真實(shí)值之間很接近。經(jīng)過調(diào)查,已知2010年的國民收入為30782億元，總的消費(fèi)額為22351億元，民航航線里程為198463萬km,來華旅游入境人數(shù)是5268.46萬人。即有1 30782 22351 18463 5268.46; 因而可得2010年民航客運(yùn)量的預(yù)測值為:萬人。即預(yù)計(jì),2010年我國民航客運(yùn)量可達(dá)到4585萬人。 然而,線性回歸分析主要解決實(shí)際問題中的具有相關(guān)關(guān)系的變量,在某一范圍之中,這種線性關(guān)系可以一

25、直維持著,但實(shí)際生活中的問題,并不總是如我們所想的那樣,它總會(huì)有一個(gè)極限。當(dāng)某一變量達(dá)到上限的時(shí)候,就不會(huì)和其他的變量再次呈現(xiàn)線性關(guān)系了。此時(shí),線性回歸分析的方法就不可用了。那么,當(dāng)我們遇到這種問題時(shí),就不得不采用控制的方法加以解決。對(duì)于我國民航客運(yùn)量的問題中,在國民收入、消費(fèi)額、鐵路客運(yùn)量一定的前提條件下，當(dāng)民航客運(yùn)量時(shí),來華旅游入境人數(shù)應(yīng)控制的范圍由方程組 其中所確定,即分別解出,可以作為控制的上下限。小結(jié)在現(xiàn)實(shí)生活中,當(dāng)我們遇到幾個(gè)變量之間的關(guān)系無法用函數(shù)形式確定的時(shí)候,我們便會(huì)盡可能多的去調(diào)查和搜集與此相關(guān)的一些數(shù)據(jù),然后再利用回歸分析的方法去研究和分析這些數(shù)據(jù)之間的關(guān)系。本文首先介紹

26、了線性回歸分析的來源、闡述及其分類,另外,重點(diǎn)讓我們了解了一元線性回歸分析和多元線性回歸分析在數(shù)學(xué)建模中的一般步驟和一般思想。在運(yùn)用回歸分析解決問題的過程中,最關(guān)鍵的是對(duì)其線性回歸方程中的參數(shù)進(jìn)行估計(jì)。然而對(duì)于參數(shù)估計(jì)的方法,我們通常采用的是最小二乘法的原則,在必要的情況下,通常也借助于MATLAB軟件進(jìn)行相應(yīng)的計(jì)算,從而得到相應(yīng)的線性回歸方程,并對(duì)方程和回歸系數(shù)進(jìn)行顯著性檢驗(yàn),最后進(jìn)行預(yù)測。 在本文中,主要研究了家庭收入與家庭食品支出之間的線性關(guān)系、我國民航客運(yùn)量與國民收入等多個(gè)因素的線性關(guān)系,通過對(duì)它們所提到數(shù)據(jù)的分析和研究,并建立相應(yīng)的數(shù)學(xué)模型,進(jìn)而可以得出線性回歸方程,通過顯著性檢驗(yàn)之后,并分別計(jì)算出家庭收入為4200元時(shí)家庭食品支出的預(yù)測和2010年我國民航客運(yùn)量的預(yù)測。通過計(jì)算的這兩個(gè)實(shí)例分別體現(xiàn)了一元線性回歸分析和多元線性回歸分析在數(shù)學(xué)建模中的應(yīng)用。在此過程中,我們可以明確地得到運(yùn)用回歸分析解決實(shí)際問題的一般步驟:第一步,根據(jù)所給數(shù)據(jù)確定相關(guān)變量,第二步,假設(shè)線性回歸模型,第三步,對(duì)模型中的回歸參數(shù)進(jìn)行估計(jì),第四步,檢驗(yàn)顯著性,第五步,依據(jù)回歸方程進(jìn)行預(yù)測,最后,將建立的回歸模型應(yīng)用于實(shí)際生活生產(chǎn)中。參考文獻(xiàn)【1】 薛毅主編. 數(shù)學(xué)建?；A(chǔ). 北京工業(yè)大學(xué)出版社 2005.1 【2】 楊虎 ,鐘波 , 劉