第9章：時(shí)間序列分析

第八章相關(guān)分析與回歸分析學(xué)習(xí)目標(biāo)主要內(nèi)容本章小結(jié)學(xué)習(xí)目標(biāo)

理解相關(guān)分析與回歸分析的基本的含義，最小二乘法的基本的思想；理解回歸模型中參數(shù)的意義及樣本可決系數(shù)的的意義；掌握回歸模型中的參數(shù)估計(jì)、相關(guān)系數(shù)檢驗(yàn)、擬合優(yōu)度檢驗(yàn)、回歸系數(shù)顯著性檢驗(yàn)、回歸方程顯著性檢驗(yàn)的基本方法、回歸模型的估計(jì)與預(yù)測(cè)。主要內(nèi)容：第一節(jié)相關(guān)分析第二節(jié)一元線性回歸分析第三節(jié)多元線性回歸分析本章小結(jié)思考題參考書目第一節(jié)相關(guān)分析1.1變量之間的兩類關(guān)系：變量之間存在著非嚴(yán)格、不確定的依存關(guān)系。在這種關(guān)系中，當(dāng)一個(gè)或幾個(gè)相互聯(lián)系的變量取一定的數(shù)值時(shí)，可以有另一變量的若干數(shù)值與之對(duì)應(yīng)。相關(guān)：函數(shù)關(guān)系也稱為確定性關(guān)系，是指變量之間存在的嚴(yán)格確定的依存關(guān)系。在這種關(guān)系中，當(dāng)一個(gè)或幾個(gè)相互聯(lián)系的變量取一定的數(shù)值時(shí)，必有另一個(gè)且只有一個(gè)變量有確定的值與之對(duì)應(yīng)。函數(shù)：1）按相關(guān)的密切程度可分為：完全相關(guān)、不完全相關(guān)、不相關(guān)；2）按表現(xiàn)形態(tài)可分為：線性相關(guān)、非線性相關(guān)；3）按相關(guān)的方向可分為：正相關(guān)、負(fù)相關(guān)；4）按研究變量的多少可分為：單相關(guān)、復(fù)相關(guān)、偏向關(guān)。1.2相關(guān)關(guān)系的種類：1.3相關(guān)分析與回歸分析：回歸分析是研究某一隨機(jī)變量關(guān)于另一個(gè)（或多個(gè)）非隨機(jī)變量之間數(shù)量關(guān)系變動(dòng)趨勢(shì)的方法。其目的在于根據(jù)已知的非隨機(jī)變量來估算和預(yù)測(cè)隨機(jī)變量的總體均值。回歸分析：相關(guān)分析主要研究兩個(gè)和兩個(gè)以上的隨機(jī)變量之間相互依存關(guān)系的方向和密切程度的方法。相關(guān)分析：相關(guān)分析與回歸分析的區(qū)別與聯(lián)系：他們?cè)谘芯楷F(xiàn)象之間相互依存的關(guān)系時(shí)，是相互補(bǔ)充、相互滲透的，在實(shí)際應(yīng)用中，一般定性的相關(guān)分析；然后計(jì)算相關(guān)系數(shù)，擬合適當(dāng)?shù)幕貧w方程，進(jìn)行顯著性檢驗(yàn)；最后用回歸方程進(jìn)行推算和預(yù)測(cè)。聯(lián)系：1）相關(guān)分析研究的變量都是隨機(jī)變量，不需要區(qū)別因變量和自變量，并且側(cè)重于研究兩個(gè)變量間線性相關(guān)的密切程度；2）回歸分析中必須確定因變量與自變量，自變量是確定的一般變量，而因變量是隨機(jī)變量，不僅揭示自變量對(duì)因變量的影響，還可以利用回歸方程進(jìn)行預(yù)測(cè)和控制。區(qū)別：1.4相關(guān)關(guān)系的測(cè)度（1/2）：相關(guān)圖是研究相關(guān)關(guān)系的直觀工具，又稱為散點(diǎn)圖。他是將具有相關(guān)關(guān)系的兩個(gè)變量間相對(duì)應(yīng)的變量值，在直角坐標(biāo)系中用坐標(biāo)點(diǎn)的形式描繪出來，根據(jù)坐標(biāo)點(diǎn)的分布狀況來大致判別相關(guān)形式、相關(guān)方向和相關(guān)密切的程度。（例）相關(guān)圖：（a）正相關(guān)(b)負(fù)相關(guān)1.4相關(guān)關(guān)系的測(cè)度（2/2）：相關(guān)系數(shù)是衡量變量之間線性相關(guān)密切程度及相關(guān)方向的統(tǒng)計(jì)分析指標(biāo)。相關(guān)系數(shù)：樣本相關(guān)系數(shù)：總體相關(guān)系數(shù)：樣本相關(guān)系數(shù)分子分母的簡化計(jì)算形式：1）；2）當(dāng)時(shí)，變量間不存在線性相關(guān)關(guān)系；3）當(dāng)時(shí)，變量間具有完全線性相關(guān)關(guān)系，當(dāng)時(shí)，稱完全正相關(guān)，當(dāng)時(shí)，稱完全負(fù)相關(guān)。4）當(dāng)時(shí)，變量間存在負(fù)相關(guān)關(guān)系；當(dāng)時(shí)，變量之間存在正相關(guān)關(guān)系5）的取值越接近0，變量間線性相關(guān)關(guān)系越弱，越接近1，變量間線性相關(guān)關(guān)系越強(qiáng)。相關(guān)系數(shù)的性質(zhì)：對(duì)的統(tǒng)計(jì)量檢驗(yàn)法第一步：提出假設(shè)；第二步：計(jì)算檢驗(yàn)統(tǒng)計(jì)量第三步：根據(jù)給定的顯著性水平，進(jìn)行決策。若，拒絕，表明變量間線性相關(guān)關(guān)系顯，不能拒絕，表明變量間的線性著；若相關(guān)關(guān)系不顯著；相關(guān)系數(shù)的檢驗(yàn)：

例8-1根據(jù)1996-2012年國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額資料，見書本表8-1，計(jì)算國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額之間的相關(guān)系數(shù)，并對(duì)相關(guān)系數(shù)進(jìn)行顯著性檢驗(yàn)。

解：1）計(jì)算相關(guān)系數(shù)

案例分析：2）對(duì)樣本相關(guān)系數(shù)進(jìn)行t檢驗(yàn)計(jì)算t統(tǒng)計(jì)量：

對(duì)給定顯著性水平，查表得，這里，故在0.05的顯著性水平下，檢驗(yàn)通過，說明國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額之間的相關(guān)關(guān)系顯著。第二節(jié)一元線性回歸分析一元線性總體回歸模型：

與是參數(shù)和的最小二乘估計(jì)。實(shí)際觀測(cè)值與之間差值稱為殘差，即：

一元線性回歸方程：2.1一元線性回歸模型A回歸模型的基本形式假設(shè)1：隨機(jī)誤差項(xiàng)具有零均值，同方差性，即假設(shè)2：隨機(jī)誤差項(xiàng)之間不存在序列相關(guān)關(guān)系，即假設(shè)3：解釋變量是確定性變量，且與隨機(jī)誤差項(xiàng)之間線性無關(guān)。假設(shè)4：隨機(jī)誤差項(xiàng)服從零均值、同方差的正態(tài)分布，即：B一元線性回歸模型的基本假設(shè)最小二乘法：就是使殘差平方和達(dá)到最小時(shí)求得參數(shù)和的估計(jì)值與的方法。殘差平方和：Q對(duì)分別求一階偏導(dǎo)，并令其為0，得方程組：2.2一元線性回歸模型的估計(jì)A參數(shù)和的最小二乘估計(jì)求解方程組得的最小二乘估計(jì)量例8-2根據(jù)表8-1中給出的我國國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額數(shù)據(jù)，建立回歸方程。解：根據(jù)例8-1的計(jì)算結(jié)果可知，國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額之間具有顯著的線性相關(guān)關(guān)系，由此可建立簡單直線回歸方程：

將表8-1中的有關(guān)數(shù)據(jù)代入下式：

案例分析：可得：

所求回歸方程為：

表明固定資產(chǎn)投資額每增加1億元，國內(nèi)生產(chǎn)總值平均增加1.305億元最小二乘估計(jì)量與分別是其真值與的無偏估計(jì)，且都服從正態(tài)分布。

B最小二乘估計(jì)量的性質(zhì)回歸標(biāo)準(zhǔn)差：其簡捷公式：越小表明實(shí)際觀測(cè)點(diǎn)與所擬合的樣本回歸線的離差程度越小，回歸線能較好的代表總回歸模型。反之，越大表明實(shí)際觀測(cè)點(diǎn)與所擬合的樣本回歸線的離差程度越大，回歸線的代表性越差。C總體方差的估計(jì)

其中：

D回歸系數(shù)的區(qū)間估計(jì)從回歸系數(shù)的最小二乘估計(jì)量可以看出，對(duì)任意給出的n對(duì)數(shù)據(jù)（xi，yi），都可以求出，從而可以寫出回歸方程，但這樣給出的方程不一定有意義。在使用回歸方程之前，必須對(duì)其進(jìn)行統(tǒng)計(jì)檢驗(yàn)，以判斷估計(jì)的可靠程度。這包括擬合優(yōu)度檢驗(yàn)、整個(gè)回歸方程的顯著性檢驗(yàn)、回歸系數(shù)的顯著性檢驗(yàn)等。2.3一元線性回歸模型的檢驗(yàn)擬合優(yōu)度是指模型對(duì)樣本觀測(cè)值的擬合程度，即樣本回歸直線與觀測(cè)點(diǎn)之間的緊密程度。衡量擬合優(yōu)度的指標(biāo)通常用樣本可決系數(shù)（又稱作決定系數(shù)）。

A/C擬合優(yōu)度檢驗(yàn)概念：總偏差平方和：回歸平方和：殘差平方和：總偏差平方和分解式：

Y的觀測(cè)值圍繞其均值的總偏差平方和可以分解為兩部分，一部分來自于回歸線，另一部分來自隨機(jī)因素。因而，可以用回歸平方和占總偏差平方和的比例來判斷回歸線與樣本觀測(cè)值的擬合程度，記為。他用公式表示為：

的意義及應(yīng)用：的取值在0到1之間，其值越接近1，說明回歸方程的擬合程度越高；反之，其值越小，說明回歸方程的擬合效果差。B/C回歸方程的顯著性檢驗(yàn)（F檢驗(yàn)）

回歸方程的顯著性檢驗(yàn)就是對(duì)模型中的被解釋變量與解釋變量之間的線性關(guān)系在總體上是否顯著成立作出判斷。一元線性回歸模型只有一個(gè)解釋變量，要判斷y的均值是否隨x呈線性變化，實(shí)際上就是要判斷β1是否為零，通常采用F檢驗(yàn)。

1.提出假設(shè)原假設(shè)；備擇假設(shè)2.構(gòu)造統(tǒng)計(jì)量

在原價(jià)設(shè)成立的條件下，上述統(tǒng)計(jì)量

3.給定顯著性水平，確定拒絕域：，在附表中可直接查找的值。檢驗(yàn)步驟（F檢驗(yàn)）：4.作出判斷根據(jù)樣本計(jì)算出統(tǒng)計(jì)量F的數(shù)值，然后與的值進(jìn)行比較：若，則拒絕原假設(shè)，認(rèn)為回歸方程是顯著的，即x與y之間有顯著的線性關(guān)系；若，則接受原假設(shè)，認(rèn)為回歸方程不顯著，即x與y之間沒有顯著的線性關(guān)系。C/C回歸系數(shù)的顯著性檢驗(yàn)（t檢驗(yàn)）

一元線性回歸模型中，回歸系數(shù)的顯著性檢驗(yàn)解釋要檢驗(yàn)解釋變量x對(duì)被解釋變量y的影響程度是否顯著，也就是檢驗(yàn)β1是否顯著，通常使用t檢驗(yàn)。

需要注意的是，在一元線性回歸中，因?yàn)閠檢驗(yàn)與F檢驗(yàn)提出的假設(shè)是一致的，而且，兩個(gè)統(tǒng)計(jì)量之間具有F=t^2的關(guān)系，所以，t檢驗(yàn)與F檢驗(yàn)是等價(jià)的。

1.提出假設(shè)原假設(shè)；備擇假設(shè)2.構(gòu)造統(tǒng)計(jì)量

在原價(jià)設(shè)成立時(shí)，統(tǒng)計(jì)量3.給定顯著性水平，確定拒絕域：，在附表中可直接查找的值。檢驗(yàn)步驟（t檢驗(yàn)）：4.作出判斷根據(jù)樣本計(jì)算出統(tǒng)計(jì)量t的數(shù)值，然后與的值進(jìn)行比較：若，則拒絕原假設(shè)，認(rèn)為β1顯著不為0，即變量x與y之間一元線性關(guān)系顯著成立；若，則接受原假設(shè)，認(rèn)為回歸方程不顯著。認(rèn)為β1顯著為0，變量x與y之間一元線性關(guān)系不成立。案例分析：P141，例題8-3例8-3對(duì)例8-2建立的國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額的回歸方程進(jìn)行顯著性檢驗(yàn)。解：1）先進(jìn)行F檢驗(yàn)，計(jì)算F統(tǒng)計(jì)量對(duì)于給定的顯著性水平，查表得，由于，拒絕原假設(shè)，認(rèn)為回歸方程是顯著的。2）還可以進(jìn)行t檢驗(yàn)，計(jì)算t統(tǒng)計(jì)量當(dāng)時(shí)，查表得，由于，拒絕原假設(shè)，說明顯著不為0，即國內(nèi)生產(chǎn)總值和固定資產(chǎn)投資額之間具有顯著的線性相關(guān)關(guān)系。2.4一元線性回歸模型的應(yīng)用——估計(jì)與預(yù)測(cè)

當(dāng)回歸方程經(jīng)過檢驗(yàn)是顯著的以后，可以將其用作估計(jì)與預(yù)測(cè)。

估計(jì)就是指當(dāng)x=x0時(shí)，尋求y的均值E(y0)=β0+β1x0的點(diǎn)估計(jì)與區(qū)間估計(jì)，這里E(y0)是常量；

預(yù)測(cè)問題是指當(dāng)x=x0時(shí)，y0的觀測(cè)值在什么范圍內(nèi)。即對(duì)于給定的顯著性水平α，找一個(gè)區(qū)間（T1，T2），使得P（T1＜y0＜T2

）=1-α，稱區(qū)間（T1，T2）是y0的概率為1-α的預(yù)測(cè)區(qū)間。

點(diǎn)估計(jì)：區(qū)間估計(jì)：A/B）y的均值E(y0)的估計(jì)B/B）y0的預(yù)測(cè)區(qū)間第三節(jié)多元線性回歸分析

一元線性回歸模型反映的是一個(gè)因變量和一個(gè)自變量之間的線性關(guān)系。實(shí)際上，社會(huì)經(jīng)濟(jì)現(xiàn)象的變動(dòng)是很復(fù)雜的，一個(gè)因變量的變動(dòng)往往是由許多自變量的綜合影響造成的。在線性回歸模型中，若一個(gè)因變量對(duì)應(yīng)多個(gè)自變量，這種模型稱為多元線性回歸模型。

多元回歸模型是一元線性回歸模型的推廣，其參數(shù)估計(jì)原理與一元線性回歸模型相同，只是計(jì)算更加復(fù)雜。

A多元線性回歸模型的一般形式

分別是參數(shù)的最小二乘估計(jì)。實(shí)際觀測(cè)值與之間差值稱為殘差，即：

多元線性回歸方程：3.1多元線性回歸模型假設(shè)1：隨機(jī)誤差項(xiàng)具有零均值，同方差性，即假設(shè)2：隨機(jī)誤差項(xiàng)之間不存在序列相關(guān)關(guān)系，即假設(shè)3：解釋變量是確定性變量，相互之間互不相關(guān)，且與隨機(jī)誤差項(xiàng)之間線性無關(guān)，

假設(shè)4：隨機(jī)誤差項(xiàng)服從零均值、同方差的正態(tài)分布，即：B多元線性回歸模型的基本假設(shè)A回歸系數(shù)的最小二乘估計(jì)

殘差平方和公式為：Q分別對(duì)求一階偏導(dǎo)，并令其為0，得方程組：3.2多元線性回歸模型的參數(shù)估計(jì)解矩陣方程得：以上（k+1）個(gè)方程組成的方程組稱為正規(guī)方程組，經(jīng)過整理得：用矩陣形式表示如下：這就是參數(shù)的最小二乘估計(jì)量。參數(shù)估計(jì)量的期望為因而，參數(shù)估計(jì)量是的無偏估計(jì)參數(shù)估計(jì)量的方差-協(xié)方差陣為B最小二乘估計(jì)量的性質(zhì)

C總體方差的估計(jì)

多元回歸分析中的可決系數(shù)用

表示。

多元回歸分析中用作為擬合優(yōu)度的評(píng)價(jià)不可靠，必須進(jìn)行修正。在樣本容量一定的情況下，將殘差平方和與總偏差平方和分別除以各自的自由度，以消除變量個(gè)數(shù)對(duì)擬合優(yōu)度的影響。修正以后的決定系數(shù)用表示。計(jì)算公式為：3.3擬合優(yōu)度檢驗(yàn)修正后的可絕系數(shù)與未經(jīng)修正的可絕系數(shù)之間有如下關(guān)系：一般來說，越接近1，表明擬合程度越高；

越接近0或者小于0，表明擬合程度越差。3.4顯著性檢驗(yàn)當(dāng)多元線性回歸模型中的參數(shù)估計(jì)出來以后，還要對(duì)模型進(jìn)行顯著性檢驗(yàn)。一方面，要對(duì)模型總體上的線性關(guān)系是否顯著進(jìn)行檢驗(yàn)；另一方面，還要對(duì)每個(gè)解釋變量對(duì)被解釋變量的影響是否顯著進(jìn)行檢驗(yàn)。1.提出假設(shè)原假設(shè)備擇假設(shè)不全為02.構(gòu)造統(tǒng)計(jì)量在原假設(shè)成立的條件下，上述統(tǒng)計(jì)量A/B回歸方程的顯著性檢驗(yàn)（F檢驗(yàn)）3.列出回歸模型的方差分析表方差來源平方和自由度均方F檢驗(yàn)值回歸SSRkSSR/k

殘差

SSEn-k-1SSE/（n-k-1）總和

SSTn-1

4.給定顯著性水平在附表中查找的值，并與方差分析表中統(tǒng)計(jì)量的數(shù)值進(jìn)行比較：

若，拒絕原假設(shè)，認(rèn)為總體回歸方程中各解釋變量與被解釋變量的線性關(guān)系是顯著的。若，拒絕原假設(shè)，則認(rèn)為總回歸方程不顯著，所建立的回歸模型沒有意義。1.提出假設(shè)原假設(shè)；備擇假設(shè)

2.構(gòu)造統(tǒng)計(jì)量

其中，為回歸標(biāo)準(zhǔn)差B/B系數(shù)的顯著性檢驗(yàn)（t檢驗(yàn)）3.給定顯著性水平，查出臨界值4.作出判斷當(dāng)時(shí)，拒絕原假設(shè)，可以認(rèn)為在顯著性水平下，對(duì)的影響顯著。當(dāng)時(shí)，接受原假設(shè)，認(rèn)為在顯著性水平下，對(duì)的影響不顯著。點(diǎn)估計(jì)：區(qū)間估計(jì)：區(qū)間估計(jì)：3.5多元線性回歸模型的應(yīng)用——估計(jì)與預(yù)測(cè)（一）偏相關(guān)系數(shù)

考慮在對(duì)其他變量的影響進(jìn)行控制的情況下，來考察相關(guān)的多個(gè)變量中某兩個(gè)變量的相關(guān)程度，偏相關(guān)系數(shù)就是衡量這種相關(guān)程度的指標(biāo)。為簡明起見，先計(jì)算三個(gè)變量間的相關(guān)系數(shù)。三個(gè)變量擬合三個(gè)回歸方程：3.5偏相關(guān)系數(shù)與復(fù)相關(guān)系數(shù)當(dāng)?shù)闹狄欢〞r(shí)，與的偏相關(guān)系數(shù)為：當(dāng)?shù)闹狄欢〞r(shí)，與的偏相關(guān)系數(shù)為：當(dāng)?shù)闹狄欢〞r(shí)，與的偏相關(guān)系數(shù)為：偏相關(guān)系數(shù)的符號(hào)與相應(yīng)的偏回歸系數(shù)相同，其取值范圍在-1到1之間。在實(shí)際運(yùn)用中，可以將以上偏相關(guān)系數(shù)的定義推廣到多個(gè)變量的場(chǎng)合。復(fù)相關(guān)系數(shù)，是在多元線性回歸分析中衡量因變量與多個(gè)自變量之間相關(guān)程度的指標(biāo)。其計(jì)算公式如下：（二）復(fù)相關(guān)系數(shù)案例分析：P149，例題8-4本章介紹了研究現(xiàn)象之間相關(guān)關(guān)系的兩種基本方法：一是相關(guān)分析，二是回歸分析。實(shí)際應(yīng)用中，一般先進(jìn)行定性的