第7章回歸分析(壓縮)

1、SPSS 16實(shí)用教程第第7章章 回歸分析回歸分析回歸分析基本概念回歸分析基本概念7.1一元線性回歸分析一元線性回歸分析7.2多元線性回歸分析多元線性回歸分析7.3非線性回歸分析非線性回歸分析7.4 相關(guān)分析和回歸分析都是研究變量間關(guān)系相關(guān)分析和回歸分析都是研究變量間關(guān)系的統(tǒng)計(jì)學(xué)課題。在應(yīng)用中，兩種分析方法經(jīng)常的統(tǒng)計(jì)學(xué)課題。在應(yīng)用中，兩種分析方法經(jīng)常相互結(jié)合和滲透，但它們研究的側(cè)重點(diǎn)和應(yīng)用相互結(jié)合和滲透，但它們研究的側(cè)重點(diǎn)和應(yīng)用面不同。面不同。 在回歸分析中，變量在回歸分析中，變量y y稱(chēng)為稱(chēng)為因變量因變量，處，處于于被解釋被解釋的特殊地位；而在相關(guān)分析中，變量的特殊地位；而在相關(guān)分析中，變量

2、y y與變量與變量x x處于處于平等的地位平等的地位，研究變量，研究變量y y與變量與變量x x的密切程度和研究變量的密切程度和研究變量x x與變量與變量y y的密切程度是的密切程度是一樣的。一樣的。 在回歸分析中，因變量在回歸分析中，因變量y y是隨機(jī)變量，是隨機(jī)變量，自變量自變量x x可以是隨機(jī)變量，可以是隨機(jī)變量，也可以是非隨機(jī)的也可以是非隨機(jī)的確定變量確定變量；而在相關(guān)分析中，變量；而在相關(guān)分析中，變量x x和變量和變量y y都都是隨機(jī)變量。是隨機(jī)變量。 相關(guān)分析是測(cè)定變量之間的關(guān)系密切相關(guān)分析是測(cè)定變量之間的關(guān)系密切程度，所使用的工具是相關(guān)系數(shù)；而回歸分析程度，所使用的工具是相關(guān)系數(shù)

3、；而回歸分析則是側(cè)重于考察變量之間的則是側(cè)重于考察變量之間的數(shù)量變化規(guī)律數(shù)量變化規(guī)律，并，并通過(guò)一定的數(shù)學(xué)表達(dá)式來(lái)描述變量之間的關(guān)系，通過(guò)一定的數(shù)學(xué)表達(dá)式來(lái)描述變量之間的關(guān)系，進(jìn)而確定一個(gè)或者幾個(gè)變量的變化對(duì)另一個(gè)特進(jìn)而確定一個(gè)或者幾個(gè)變量的變化對(duì)另一個(gè)特定變量的定變量的影響程度影響程度。 具體地說(shuō)，回歸分析主要解決以下幾方面具體地說(shuō)，回歸分析主要解決以下幾方面的問(wèn)題。的問(wèn)題。 通過(guò)分析大量的樣本數(shù)據(jù)，確定變量通過(guò)分析大量的樣本數(shù)據(jù)，確定變量之間的之間的數(shù)學(xué)關(guān)系式數(shù)學(xué)關(guān)系式。 對(duì)所確定的數(shù)學(xué)關(guān)系式的可信程度進(jìn)對(duì)所確定的數(shù)學(xué)關(guān)系式的可信程度進(jìn)行各種行各種統(tǒng)計(jì)檢驗(yàn)統(tǒng)計(jì)檢驗(yàn)，并區(qū)分出對(duì)某一特定變量影

4、，并區(qū)分出對(duì)某一特定變量影響較為響較為顯著顯著的變量和影響的變量和影響不顯著不顯著的變量。的變量。 利用所確定的數(shù)學(xué)關(guān)系式，根據(jù)一個(gè)利用所確定的數(shù)學(xué)關(guān)系式，根據(jù)一個(gè)或幾個(gè)變量的值來(lái)預(yù)測(cè)或控制另一個(gè)特定變量或幾個(gè)變量的值來(lái)預(yù)測(cè)或控制另一個(gè)特定變量的取值，并給出這種預(yù)測(cè)或控制的的取值，并給出這種預(yù)測(cè)或控制的精確度精確度。 在實(shí)際中，根據(jù)變量的個(gè)數(shù)、變量的類(lèi)型在實(shí)際中，根據(jù)變量的個(gè)數(shù)、變量的類(lèi)型以及變量之間的相關(guān)關(guān)系，回歸分析通常分為以及變量之間的相關(guān)關(guān)系，回歸分析通常分為一元線性回歸分析、多元線性回歸分析、非線一元線性回歸分析、多元線性回歸分析、非線性回歸分析、曲線估計(jì)、性回歸分析、曲線估計(jì)、時(shí)間

5、序列的曲線估計(jì)、時(shí)間序列的曲線估計(jì)、含虛擬自變量的回歸分析和邏輯回歸分析等類(lèi)含虛擬自變量的回歸分析和邏輯回歸分析等類(lèi)型。型。7.2.1 統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式 定義：一元線性回歸分析是在排除其他影定義：一元線性回歸分析是在排除其他影響因素或假定其他影響因素確定的條件下，分響因素或假定其他影響因素確定的條件下，分析某一個(gè)因素（自變量）是如何影響另一事物析某一個(gè)因素（自變量）是如何影響另一事物（因變量）的過(guò)程，所進(jìn)行的分析是比較理想（因變量）的過(guò)程，所進(jìn)行的分析是比較理想化的。其實(shí)，在現(xiàn)實(shí)社會(huì)生活中，任何一個(gè)事化的。其實(shí)，在現(xiàn)實(shí)社會(huì)生活中，任何一個(gè)事物（因變量）總是受到其

6、他多種事物（多個(gè)自物（因變量）總是受到其他多種事物（多個(gè)自變量）的影響。變量）的影響。 通過(guò)樣本數(shù)據(jù)建立一個(gè)回歸方程后，不能通過(guò)樣本數(shù)據(jù)建立一個(gè)回歸方程后，不能立即就用于對(duì)某個(gè)實(shí)際問(wèn)題的預(yù)測(cè)。必須對(duì)其立即就用于對(duì)某個(gè)實(shí)際問(wèn)題的預(yù)測(cè)。必須對(duì)其作各種統(tǒng)計(jì)檢驗(yàn)。一般經(jīng)常作以下的統(tǒng)計(jì)檢驗(yàn)。作各種統(tǒng)計(jì)檢驗(yàn)。一般經(jīng)常作以下的統(tǒng)計(jì)檢驗(yàn)。 （1 1）擬合優(yōu)度檢驗(yàn)）擬合優(yōu)度檢驗(yàn) 回歸方程的擬合優(yōu)度檢驗(yàn)就是要檢驗(yàn)樣本回歸方程的擬合優(yōu)度檢驗(yàn)就是要檢驗(yàn)樣本數(shù)據(jù)聚集在樣本回歸直線周?chē)拿芗潭龋瑥臄?shù)據(jù)聚集在樣本回歸直線周?chē)拿芗潭?，從而判斷回歸方程對(duì)樣本數(shù)據(jù)的代表程度。而判斷回歸方程對(duì)樣本數(shù)據(jù)的代表程度。 回歸方程的

7、擬合優(yōu)度檢驗(yàn)一般用判定系數(shù)回歸方程的擬合優(yōu)度檢驗(yàn)一般用判定系數(shù)R R2 2實(shí)現(xiàn)。該指標(biāo)是建立在對(duì)總離差平方和進(jìn)行實(shí)現(xiàn)。該指標(biāo)是建立在對(duì)總離差平方和進(jìn)行分解的基礎(chǔ)之上。分解的基礎(chǔ)之上。 （2 2）回歸方程的顯著性檢驗(yàn)（）回歸方程的顯著性檢驗(yàn)（F F檢驗(yàn)）檢驗(yàn)） 回歸方程的顯著性檢驗(yàn)是對(duì)因變量與所有回歸方程的顯著性檢驗(yàn)是對(duì)因變量與所有自變量之間的線性關(guān)系是否顯著的一種假設(shè)檢自變量之間的線性關(guān)系是否顯著的一種假設(shè)檢驗(yàn)。驗(yàn)?；貧w方程的顯著性檢驗(yàn)一般采用回歸方程的顯著性檢驗(yàn)一般采用F F檢驗(yàn)，利用檢驗(yàn)，利用方差分析的方法進(jìn)行。方差分析的方法進(jìn)行。 （3 3）回歸系數(shù)的顯著性檢驗(yàn)（）回歸系數(shù)的顯著性檢驗(yàn)（

8、t t檢驗(yàn)）檢驗(yàn)） 所謂回歸系數(shù)的顯著性檢驗(yàn)，就是根據(jù)樣所謂回歸系數(shù)的顯著性檢驗(yàn)，就是根據(jù)樣本估計(jì)的結(jié)果對(duì)總體回歸系數(shù)的有關(guān)假設(shè)進(jìn)行本估計(jì)的結(jié)果對(duì)總體回歸系數(shù)的有關(guān)假設(shè)進(jìn)行檢驗(yàn)。檢驗(yàn)。 研究問(wèn)題研究問(wèn)題 合成纖維的強(qiáng)度與其拉伸倍數(shù)有關(guān)，測(cè)得合成纖維的強(qiáng)度與其拉伸倍數(shù)有關(guān)，測(cè)得試驗(yàn)數(shù)據(jù)如表試驗(yàn)數(shù)據(jù)如表7-17-1所示。求合成纖維的強(qiáng)度與所示。求合成纖維的強(qiáng)度與拉伸倍數(shù)之間是否存在顯著的線性相關(guān)關(guān)系。拉伸倍數(shù)之間是否存在顯著的線性相關(guān)關(guān)系。7.2.2 SPSS中實(shí)現(xiàn)過(guò)程中實(shí)現(xiàn)過(guò)程序序 號(hào)號(hào)拉拉 伸伸 倍倍 數(shù)數(shù)強(qiáng)度（強(qiáng)度（kg/mm2）12.01.622.52.432.72.543.52.754.

9、03.564.54.275.25.086.36.497.16.5108.07.3119.08.01210.08.1 實(shí)現(xiàn)步驟實(shí)現(xiàn)步驟 （1 1）輸出結(jié)果文件中的第一個(gè)表格如下）輸出結(jié)果文件中的第一個(gè)表格如下表所示。表所示。 7.2.3 結(jié)果和討論結(jié)果和討論 （2 2）輸出的結(jié)果文件中第二個(gè)表格如下）輸出的結(jié)果文件中第二個(gè)表格如下表所示。表所示。 （3 3）輸出的結(jié)果文件中第三個(gè)表格如下）輸出的結(jié)果文件中第三個(gè)表格如下表所示。表所示。 （4 4）輸出的結(jié)果文件中第四個(gè)表格如下）輸出的結(jié)果文件中第四個(gè)表格如下表所示。表所示。7.3.1 統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式 定義：在上一

10、節(jié)中討論的回歸問(wèn)題只涉及定義：在上一節(jié)中討論的回歸問(wèn)題只涉及了一個(gè)自變量，但在實(shí)際問(wèn)題中，影響因變量了一個(gè)自變量，但在實(shí)際問(wèn)題中，影響因變量的因素往往有多個(gè)。例如，商品的需求除了受的因素往往有多個(gè)。例如，商品的需求除了受自身價(jià)格的影響外，還要受到消費(fèi)者收入、其自身價(jià)格的影響外，還要受到消費(fèi)者收入、其他商品的價(jià)格、消費(fèi)者偏好等因素的影響；影他商品的價(jià)格、消費(fèi)者偏好等因素的影響；影響水果產(chǎn)量的外界因素有平均氣溫、平均日照響水果產(chǎn)量的外界因素有平均氣溫、平均日照時(shí)數(shù)、平均濕度等。時(shí)數(shù)、平均濕度等。 因此，在許多場(chǎng)合，僅僅考慮單個(gè)變量是因此，在許多場(chǎng)合，僅僅考慮單個(gè)變量是不夠的，還需要就一個(gè)因變量與多

11、個(gè)自變量的不夠的，還需要就一個(gè)因變量與多個(gè)自變量的聯(lián)系來(lái)進(jìn)行考察，才能獲得比較滿意的結(jié)果。聯(lián)系來(lái)進(jìn)行考察，才能獲得比較滿意的結(jié)果。這就產(chǎn)生了測(cè)定多因素之間相關(guān)關(guān)系的問(wèn)題。這就產(chǎn)生了測(cè)定多因素之間相關(guān)關(guān)系的問(wèn)題。 研究在線性相關(guān)條件下，兩個(gè)或兩個(gè)以上研究在線性相關(guān)條件下，兩個(gè)或兩個(gè)以上自變量對(duì)一個(gè)因變量的數(shù)量變化關(guān)系，稱(chēng)為多自變量對(duì)一個(gè)因變量的數(shù)量變化關(guān)系，稱(chēng)為多元線性回歸分析，表現(xiàn)這一數(shù)量關(guān)系的數(shù)學(xué)公元線性回歸分析，表現(xiàn)這一數(shù)量關(guān)系的數(shù)學(xué)公式，稱(chēng)為多元線性回歸模型。多元線性回歸模式，稱(chēng)為多元線性回歸模型。多元線性回歸模型是一元線性回歸模型的擴(kuò)展，其基本原理與型是一元線性回歸模型的擴(kuò)展，其基本原

12、理與一元線性回歸模型類(lèi)似，只是在計(jì)算上更為復(fù)一元線性回歸模型類(lèi)似，只是在計(jì)算上更為復(fù)雜，一般需借助計(jì)算機(jī)來(lái)完成。雜，一般需借助計(jì)算機(jī)來(lái)完成。 研究問(wèn)題研究問(wèn)題 用多元回歸分析來(lái)分析用多元回歸分析來(lái)分析3636個(gè)員工多個(gè)心個(gè)員工多個(gè)心理變量值（理變量值（z1z1z8z8）對(duì)員工滿意度）對(duì)員工滿意度mymy的預(yù)測(cè)的預(yù)測(cè)效果，測(cè)得試驗(yàn)數(shù)據(jù)如表效果，測(cè)得試驗(yàn)數(shù)據(jù)如表7-27-2所示。所示。7.3.2 SPSS中實(shí)現(xiàn)過(guò)程中實(shí)現(xiàn)過(guò)程z1z2z3z4z5z6z7Z8滿滿 意意 度度66.0064.0062.0050.0058.0056.001.081.0025.0055.0050.0059.0059.005

13、3.0051.001.001.1122.0050.0047.0049.0045.0046.0046.001.311.2020.0055.0059.0050.0054.0052.0069.001.001.0020.0055.0059.0048.0056.0047.0050.001.001.0024.0062.0054.0068.0046.0046.0051.001.081.0023.0060.0060.0056.0053.0052.0051.001.081.0021.0052.0052.0069.0058.0057.0062.001.001.0023.0056.0055.0057.0039.00

14、44.0046.001.691.0015.0050.0050.0068.0046.0045.0056.001.081.1425.0058.0054.0060.0059.0052.0051.001.001.0025.0053.0052.0055.0057.0065.0064.001.081.0022.0052.0056.0053.0057.0063.0051.001.461.4320.0056.0065.0052.0051.0062.0047.001.001.0022.0050.0063.0059.0053.0055.0048.001.001.0020.0063.0057.0060.0066.0

15、051.0056.001.001.0026.0056.0046.0058.0050.0045.0052.002.231.2921.0047.0050.0057.0049.0050.0048.002.081.1420.0053.0066.0053.0059.0055.0045.001.001.0025.00z1z2z3z4z5z6z7z8滿滿 意意 度度61.0055.0058.0061.0058.0061.001.151.1423.0059.0064.0060.0052.0054.0056.001.081.0026.0055.0060.0072.0060.0055.0067.001.081.0

16、026.0056.0052.0068.0040.0051.0055.001.851.7130.0059.0051.0061.0056.0052.0056.001.001.0025.0060.0053.0062.0055.0047.0063.001.311.1427.0052.0051.0057.0045.0055.0059.001.231.1420.0056.0057.0057.0052.0059.0055.001.001.1426.0068.0058.0071.0068.0053.0061.001.001.0030.0060.0053.0061.0060.0056.0051.001.001.

17、0027.0064.0056.0074.0050.0059.0057.001.851.1418.0067.0053.0060.0053.0053.0051.001.001.0024.0056.0056.0067.0067.0056.0052.001.001.0024.0053.0046.0049.0043.0050.0048.001.311.1419.0053.0057.0065.0052.0067.0059.001.771.4317.0060.0040.0071.0057.0056.0058.001.081.0024.0054.0045.0044.0049.0042.0046.001.001

18、.0023.00 實(shí)現(xiàn)步驟實(shí)現(xiàn)步驟 （1 1）輸出結(jié)果文件中的第一個(gè)表格如下）輸出結(jié)果文件中的第一個(gè)表格如下表所示。表所示。7.3.3 結(jié)果和討論結(jié)果和討論 2 2）輸出的結(jié)果文件中第二個(gè)表格如下表）輸出的結(jié)果文件中第二個(gè)表格如下表所示。所示。 （3 3）輸出的結(jié)果文件中第三個(gè)表格如下）輸出的結(jié)果文件中第三個(gè)表格如下表所示。表所示。 （4 4）輸出的結(jié)果文件中第四個(gè)表格如下）輸出的結(jié)果文件中第四個(gè)表格如下表所示。表所示。 （5 5）輸出的結(jié)果文件中第五個(gè)表格如下）輸出的結(jié)果文件中第五個(gè)表格如下表所示。表所示。 （6 6）輸出的結(jié)果文件中第六個(gè)表格為回）輸出的結(jié)果文件中第六個(gè)表格為回歸系數(shù)分析，

19、如下表所示歸系數(shù)分析，如下表所示 （7 7）輸出的結(jié)果文件中第七個(gè)表格如下）輸出的結(jié)果文件中第七個(gè)表格如下表所示。表所示。 （8 8）輸出的結(jié)果文件中第八部分為圖形，）輸出的結(jié)果文件中第八部分為圖形，為回歸因變量和每個(gè)自變量之間的關(guān)系點(diǎn)圖。為回歸因變量和每個(gè)自變量之間的關(guān)系點(diǎn)圖。圖圖7-87-8為自變量為自變量z1z1和和mymy之間的關(guān)系點(diǎn)圖。之間的關(guān)系點(diǎn)圖。7.4.1 統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式 定義：研究在非線性相關(guān)條件下，自變量定義：研究在非線性相關(guān)條件下，自變量對(duì)因變量的數(shù)量變化關(guān)系，稱(chēng)為非線性回歸分對(duì)因變量的數(shù)量變化關(guān)系，稱(chēng)為非線性回歸分析。析。 在實(shí)際問(wèn)題中

20、，變量之間的相關(guān)關(guān)系往往在實(shí)際問(wèn)題中，變量之間的相關(guān)關(guān)系往往不是線性的，而是非線性的，因而不能用線性不是線性的，而是非線性的，因而不能用線性回歸方程來(lái)描述它們之間的相關(guān)關(guān)系，而要采回歸方程來(lái)描述它們之間的相關(guān)關(guān)系，而要采用適當(dāng)?shù)姆蔷€性回歸分析。用適當(dāng)?shù)姆蔷€性回歸分析。 非線性回歸問(wèn)題大多數(shù)可以化為線性回歸非線性回歸問(wèn)題大多數(shù)可以化為線性回歸問(wèn)題來(lái)求解，也就是通過(guò)對(duì)非線性回歸模型進(jìn)問(wèn)題來(lái)求解，也就是通過(guò)對(duì)非線性回歸模型進(jìn)行適當(dāng)?shù)淖兞孔儞Q，使其化為線性模型來(lái)求解。行適當(dāng)?shù)淖兞孔儞Q，使其化為線性模型來(lái)求解。一般步驟為：一般步驟為： 根據(jù)經(jīng)驗(yàn)或者繪制散點(diǎn)圖，選擇適當(dāng)根據(jù)經(jīng)驗(yàn)或者繪制散點(diǎn)圖，選擇適當(dāng)?shù)姆?/p>

21、線性回歸方程；的非線性回歸方程； 通過(guò)變量置換，把非線性回歸方程化為通過(guò)變量置換，把非線性回歸方程化為線性回歸；線性回歸； 用線性回歸分析中采用的方法來(lái)確定各用線性回歸分析中采用的方法來(lái)確定各回歸系數(shù)的值；回歸系數(shù)的值； 對(duì)各系數(shù)進(jìn)行顯著性檢驗(yàn)。對(duì)各系數(shù)進(jìn)行顯著性檢驗(yàn)。 計(jì)算公式如下。計(jì)算公式如下。 在本節(jié)中介紹幾種常見(jiàn)的非線性回歸模型，在本節(jié)中介紹幾種常見(jiàn)的非線性回歸模型，并分別給出其線性化方法及圖形。并分別給出其線性化方法及圖形。 研究問(wèn)題研究問(wèn)題 研究民用汽車(chē)總量與國(guó)內(nèi)生產(chǎn)總值的關(guān)系。研究民用汽車(chē)總量與國(guó)內(nèi)生產(chǎn)總值的關(guān)系。數(shù)據(jù)如表數(shù)據(jù)如表7-37-3所示。（資料來(lái)源：所示。（資料來(lái)源：中

22、國(guó)統(tǒng)計(jì)中國(guó)統(tǒng)計(jì)年鑒年鑒20072007，中國(guó)統(tǒng)計(jì)出版社，中國(guó)統(tǒng)計(jì)出版社，20072007年）年）7.4.2 SPSS中實(shí)現(xiàn)過(guò)程中實(shí)現(xiàn)過(guò)程 實(shí)現(xiàn)步驟實(shí)現(xiàn)步驟7.4.3 結(jié)果和討論結(jié)果和討論 （1 1）第一部分輸出相關(guān)統(tǒng)計(jì)量和參數(shù)的）第一部分輸出相關(guān)統(tǒng)計(jì)量和參數(shù)的值，如下表所示。值，如下表所示。 （2 2）第二部分輸出的是觀察值和）第二部分輸出的是觀察值和CubicCubic，PowerPower兩種曲線預(yù)測(cè)值的對(duì)比圖，如圖兩種曲線預(yù)測(cè)值的對(duì)比圖，如圖7-127-12所所示。示。 回歸分析是研究變量與變量之間聯(lián)系的最回歸分析是研究變量與變量之間聯(lián)系的最為廣泛的模型。在實(shí)際中，根據(jù)變量的個(gè)數(shù)、為廣泛

23、的模型。在實(shí)際中，根據(jù)變量的個(gè)數(shù)、類(lèi)型，以及變量之間的相關(guān)關(guān)系。類(lèi)型，以及變量之間的相關(guān)關(guān)系。 一元線性回歸只涉及一個(gè)自變量的回歸問(wèn)一元線性回歸只涉及一個(gè)自變量的回歸問(wèn)題；多元線性回歸用于解決兩個(gè)或兩個(gè)以上自題；多元線性回歸用于解決兩個(gè)或兩個(gè)以上自變量對(duì)一個(gè)因變量的數(shù)量變化關(guān)系問(wèn)題；非線變量對(duì)一個(gè)因變量的數(shù)量變化關(guān)系問(wèn)題；非線性回歸主要解決在非線性相關(guān)條件下，自變量性回歸主要解決在非線性相關(guān)條件下，自變量對(duì)因變量的數(shù)量變化關(guān)系。對(duì)因變量的數(shù)量變化關(guān)系。 SPSS SPSS中中“AnalyzeAnalyze”/ /“RegressionRegression”菜單可菜單可用于回歸統(tǒng)計(jì)分析。其中，一元線性回歸、多用于回歸統(tǒng)計(jì)分析。其中，一元線性回歸、多元線性回歸和含虛擬變量的回歸分析可由元線性回歸和含虛擬變量的回歸分析可由“LinearLinear”子菜單完成；非線性回歸分析可由子菜單完成；非線性回歸分析可由“Curve EstimationCurve Estimation”子菜單完成。子菜單完成。習(xí)題習(xí)題