第五章 線性回歸分析

1、一、一元線性回歸一、一元線性回歸二、一元線性回歸方程二、一元線性回歸方程三、回歸關(guān)系的顯著性檢驗(yàn)三、回歸關(guān)系的顯著性檢驗(yàn)四、置信區(qū)間四、置信區(qū)間五、多元線性回歸五、多元線性回歸六、回歸診斷六、回歸診斷第五章 線性回歸分析 l 生產(chǎn)實(shí)踐中，常常能找到一個(gè)變量與另外一生產(chǎn)實(shí)踐中，常常能找到一個(gè)變量與另外一個(gè)變量之間的關(guān)系：小麥的施肥量與產(chǎn)量、個(gè)變量之間的關(guān)系：小麥的施肥量與產(chǎn)量、水稻的株高和穗長、冬天的溫度與來年病蟲水稻的株高和穗長、冬天的溫度與來年病蟲害的發(fā)生程度等等。害的發(fā)生程度等等。l 回歸分析就是找出合適的回歸方程，從而用回歸分析就是找出合適的回歸方程，從而用一個(gè)變量來預(yù)測另一個(gè)變量。一個(gè)

2、變量來預(yù)測另一個(gè)變量。l 一元線性回歸：最簡單的回歸關(guān)系，即一個(gè)一元線性回歸：最簡單的回歸關(guān)系，即一個(gè)變量變量y在一個(gè)變量在一個(gè)變量x上的回歸關(guān)系，稱上的回歸關(guān)系，稱x為自變?yōu)樽宰兞?，量，y為因變量（或稱響應(yīng)變量、依賴變量）為因變量（或稱響應(yīng)變量、依賴變量）第一節(jié) 一元線性回歸l 如果兩個(gè)變量如果兩個(gè)變量x，y之間存在線性回歸關(guān)系，之間存在線性回歸關(guān)系，則有回歸模型：則有回歸模型：總體：總體：yi + xi + i a 稱為回歸截距稱為回歸截距 b 稱為回歸系數(shù)稱為回歸系數(shù)i 稱為隨機(jī)誤差稱為隨機(jī)誤差樣本：樣本：yi a + b xi + i回歸方程：回歸方程： a + b xy 第一節(jié) 一元

3、線性回歸 l 回歸參數(shù)的計(jì)算回歸參數(shù)的計(jì)算最小二乘法最小二乘法 期望擬合的線性回歸方程與試驗(yàn)資料的誤差期望擬合的線性回歸方程與試驗(yàn)資料的誤差最小，擬合的誤差也稱作離回歸平方和或殘最小，擬合的誤差也稱作離回歸平方和或殘差差 ，可以利用數(shù)學(xué)中求極值的方法解出，可以利用數(shù)學(xué)中求極值的方法解出 a 和和 b 而使得誤差平方和為最小。而使得誤差平方和為最小。2112)(iininiiibxayyyQ 誤差平方和：誤差平方和：第二節(jié)第二節(jié) 線性回歸方程線性回歸方程l分別求Q 對a 和b 的偏導(dǎo)數(shù)，令其等于 0：0)(2)(2xbnaybxayaQ0)(2)(22xbxaxyxbxaybQl 整理得正規(guī)方程

4、組：yxbnaxyxbxa22112)(iininiiibxayyyQ第二節(jié)第二節(jié) 線性回歸方程線性回歸方程l 解正規(guī)方程組：) 1 (yxbna)2(2xyxbxal(3)式各項(xiàng)乘 ：x) 5 (/)(2nyxnxbxal(1)式除以 n 得：(/ )/(3)abx ny n (2)-(5)式得： nyxxynxxb/)(22即：)()(2yyxxxxb)4()/(/xbynxbnya 于是： 于是：xxySSSPxxyyxxb/)(/ )(2 線性回歸方程便已求出為：bxay第二節(jié)第二節(jié) 線性回歸方程線性回歸方程l 對此統(tǒng)計(jì)假設(shè)有兩種檢驗(yàn)方法：l 檢驗(yàn)線性回歸關(guān)系是否存在，就是檢驗(yàn)建立回歸

5、模型的樣本是否來自存在回歸關(guān)系的總體，即 H0 ： 0 vs HA： 0 l 只有在此檢驗(yàn)結(jié)果為顯著時(shí)，用 a 估計(jì) ，用 b 估計(jì) ，用 估計(jì) y 才是有意義的。y F F 檢驗(yàn)法檢驗(yàn)法 和 t 檢驗(yàn)法檢驗(yàn)法注：df1=1，df2=n-2的一尾F值等于df=n-2的兩尾t值的平方第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)l 如果在模型 yi + xi +i 中， 0，這就意味著不管 xi為什么值， yi 都不發(fā)生實(shí)質(zhì)性變化；換言之，x和 y 之間沒有顯著的回歸關(guān)系。1.F1.F檢驗(yàn)法檢驗(yàn)法l 利用下圖說明F檢驗(yàn)法的基本原理。 y 當(dāng)自變量為 ，對應(yīng)的 因變量的實(shí)測值為 ， 因變量的預(yù)測值為 。 于是 的離

6、均差 可分解為兩個(gè)部分：xyy yy l 離均差 l 隨機(jī)誤差l 回歸引起的偏差yy yyyy) (yyyy )(yyxyyxy 第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)l 對數(shù)據(jù)資料所有點(diǎn)的求和得： l 對于任一個(gè)點(diǎn)有： )() ()(yyyyyyl 兩邊平方得： 222)()( 2) ()(yyyyyyyyyy222) ()(2) ()(yyyyyyyyyy)()(xxbybxxbybxay證明：證明：上式右邊的中間項(xiàng)為0：)(bxxbyyyy)()()(xxbyyxxbyyyy)()(2xxbyyxxb)() (xxbyy即 )()() (xxbyyyy即第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)222) ()

7、()(yyyyyy 誤差平方和eQSS 回歸平方和rUSS 的總平方和yTSSy于是： 的總平方和便分解為兩個(gè)部分：y第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)0)(xxxyxySSSSSPSPbyyyy對所有點(diǎn)求和得： 變異來源變異來源 自由度自由度 平方和平方和均方均方值值回歸回歸誤差誤差n-2UQ 總變異總變異n-1T05. 0F01. 0F2Us2es2Us2es檢驗(yàn)結(jié)論：若檢驗(yàn)結(jié)論：若F F0.05，則存在顯著的線性回歸關(guān)系。，則存在顯著的線性回歸關(guān)系。利用方差分析表利用方差分析表第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)2 2. .t t 檢驗(yàn)法檢驗(yàn)法其中回歸系數(shù)其中回歸系數(shù)其標(biāo)準(zhǔn)誤其標(biāo)準(zhǔn)誤: : bsbt

8、2222ebxxyyQsnnsSSSSxx第三節(jié) 回歸關(guān)系的顯著性檢驗(yàn)H0: 0 vs HA：0選擇選擇 t t 統(tǒng)計(jì)量統(tǒng)計(jì)量: : b研究光照強(qiáng)度與凈光合強(qiáng)度的關(guān)系研究光照強(qiáng)度與凈光合強(qiáng)度的關(guān)系光照光照強(qiáng)度強(qiáng)度X X凈光合凈光合強(qiáng)度強(qiáng)度Y Y 一級計(jì)算：一級計(jì)算：300700100015002200300040005000600070001402603003804104925806907408302230700482214367000027807641949200010 xyxyxyn實(shí)例：實(shí)例：回歸系數(shù)回歸系數(shù) b : :094868.049431004688460 xxySSSPb回歸截

9、距回歸截距 a: : 955.1903070094868. 02 .482xbya實(shí)例：實(shí)例：變異來源變異來源自由度自由度 平方和平方和均方均方值值回歸回歸誤差誤差84447841081044478413513295.3211.26總變異總變異945559505. 0F01. 0FF檢驗(yàn)結(jié)論：回歸關(guān)系達(dá)極顯著，可得線性回歸方程檢驗(yàn)結(jié)論：回歸關(guān)系達(dá)極顯著，可得線性回歸方程用光照強(qiáng)度估測凈光合強(qiáng)度是合理的。用光照強(qiáng)度估測凈光合強(qiáng)度是合理的。xy094868. 0955.1901 1、F F檢驗(yàn)法檢驗(yàn)法實(shí)例：實(shí)例：P161P161108102102494210000.005229ebxxQsnsSS

10、SS實(shí)例：實(shí)例：P161P16114.18005229. 0094868. 0bsbt2 2、t t 檢驗(yàn)檢驗(yàn)0.050.010.012 10 282.3063.355| | 18.143.355edfntttt ，結(jié)論：回歸關(guān)系極顯著，可得線性回歸方程結(jié)論：回歸關(guān)系極顯著，可得線性回歸方程 用光照強(qiáng)度來預(yù)測凈光合強(qiáng)度是合理的。用光照強(qiáng)度來預(yù)測凈光合強(qiáng)度是合理的。實(shí)例：t 檢驗(yàn)190.9550.094868yx第四節(jié)節(jié) 預(yù)測值的置信區(qū)間預(yù)測值的置信區(qū)間ysty05. 0211yexxxssnSS因此因此由由x預(yù)測預(yù)測y時(shí)，時(shí)，y 的的95%95%置信區(qū)間為：置信區(qū)間為：由由x預(yù)測預(yù)測y時(shí)，時(shí)，

11、y有一定的誤差，其標(biāo)準(zhǔn)誤差為：有一定的誤差，其標(biāo)準(zhǔn)誤差為：實(shí)例： 由x預(yù)測y的預(yù)測區(qū)間67.384942100030702500101176.362ys第一步：計(jì)算當(dāng)?shù)谝徊剑河?jì)算當(dāng)x=2500=2500時(shí)，時(shí)， y 的點(diǎn)估計(jì)值：的點(diǎn)估計(jì)值： 第二步：求第二步：求y的標(biāo)準(zhǔn)誤差：的標(biāo)準(zhǔn)誤差：125.4282500094868. 0955.190y實(shí)例： 由X預(yù)測Y的預(yù)測區(qū)間95.33867.38036. 2125.42805. 0ysty0.05428.1252.036 38.67517.30yyts第三步：求第三步：求y的置信區(qū)間：的置信區(qū)間：第四步：結(jié)論第四步：結(jié)論有有9595的把握預(yù)測當(dāng)樹冠

12、的光照強(qiáng)度為的把握預(yù)測當(dāng)樹冠的光照強(qiáng)度為25002500時(shí)，凈光合作用的強(qiáng)度在時(shí)，凈光合作用的強(qiáng)度在338.95338.95到到517.30517.30之間。之間。第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析一、多元線性回歸分析概述一、多元線性回歸分析概述 上面討論的只是兩個(gè)變量的回歸問題，其中因變量只與一個(gè)自變量相關(guān)。但在大多數(shù)的實(shí)際問題中，影響因變量的因素不是一個(gè)而是多個(gè)，我們稱這類多自變量的回歸問題為多元回歸分析。 這里著重討論簡單而又最一般的線性回歸問題，這是因?yàn)樵S多非線性的情形可以化為線性回歸來做。多元線性回歸分析的原理與一元線性回歸分析完全相同，但在計(jì)算上卻要復(fù)雜得多。01 122m

13、myxxx一、多元線性回歸分析概述一、多元線性回歸分析概述多元線性回歸模型多元線性回歸模型多元線性回歸方程多元線性回歸方程mmxbxbxbby22110第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析式中式中0 0 1 1 2 2 m m 為（偏）回歸系數(shù)為（偏）回歸系數(shù)式中式中b b0 0 b b1 1 b b2 2 b bm m 為（偏）回歸系數(shù)的估計(jì)值為（偏）回歸系數(shù)的估計(jì)值根據(jù)最小二乘法原理，根據(jù)最小二乘法原理， 的估計(jì)值的估計(jì)值 應(yīng)該使應(yīng)該使 ）（mbi,1,2, 0i), 2 , 1 , 0(mii二、參數(shù)估計(jì)方法二、參數(shù)估計(jì)方法最小二乘準(zhǔn)則最小二乘準(zhǔn)則由求極值的必要條件得：由求極值的必

14、要條件得：min)()(122211012nimimiiiniiixbxbxbbyyyQ),2, 1(0)(20)(2110mjxyybQyybQnajiiijniii第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析采用矩陣形式：采用矩陣形式： Y = XB+E二、參數(shù)估計(jì)方法二、參數(shù)估計(jì)方法最小二乘準(zhǔn)則最小二乘準(zhǔn)則解得：解得：nmnnmmmxxxxxxxxxxxxX213233122221112111111nyyyY21mbbbbB210YXXXB)(1第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析n2101 1、回歸方程的假設(shè)檢驗(yàn)、回歸方程的假設(shè)檢驗(yàn)三、假設(shè)檢驗(yàn)三、假設(shè)檢驗(yàn)原假設(shè)原假設(shè) H H0 0

15、 ：1 12 2 m0 0F F統(tǒng)計(jì)量為：統(tǒng)計(jì)量為：/(1)U mFQnm回歸平方和：回歸平方和： 自由度：自由度：m2)(yyUi誤差平方和：誤差平方和： 自由度：自由度：n-m-12)(iiyyQ第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析2 2、回歸系數(shù)的假設(shè)檢驗(yàn)、回歸系數(shù)的假設(shè)檢驗(yàn)統(tǒng)計(jì)量為統(tǒng)計(jì)量為t t：ibiSbt 其中：其中：C C(i+1)(i+1)為矩陣為矩陣(XX)(XX)-1-1的的( (i+1)(+1)(i+1)+1)元素元素 Q 為誤差平方和為誤差平方和，自由度：自由度：df= =n- -m-1-1)1)(1(iiybcSSi第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析原假

16、設(shè)原假設(shè) H H0 0 ：i0 01 1）t t檢驗(yàn)檢驗(yàn)1mnQSy2 2、回歸系數(shù)的假設(shè)檢驗(yàn)、回歸系數(shù)的假設(shè)檢驗(yàn)統(tǒng)計(jì)量為：統(tǒng)計(jì)量為：1/1/)1)(1(2mnQcbmnQUFiiii其中：其中：Ui 為為x xi對對y y的回歸平方和，的回歸平方和，Q 為誤差平方和為誤差平方和 C C(i+1)(i+1)為矩陣為矩陣(XX)(XX)-1-1的的( (i+1)(+1)(i+1)+1)元素元素 自由度：自由度：df1 = = 1 df2 = = n-m-1第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析原假設(shè)原假設(shè) H H0 0 ：i0 02 2）F F檢驗(yàn)檢驗(yàn)四、回歸模型的選擇四、回歸模型的選擇 由

17、于自變量較多時(shí)，不是每一個(gè)自變量的回歸由于自變量較多時(shí)，不是每一個(gè)自變量的回歸關(guān)系都顯著，對回歸不顯著的自變量不能簡單的關(guān)系都顯著，對回歸不顯著的自變量不能簡單的進(jìn)行剔除。進(jìn)行剔除。 尤其時(shí)自變量之間存在嚴(yán)重的線性關(guān)系時(shí)，自尤其時(shí)自變量之間存在嚴(yán)重的線性關(guān)系時(shí)，自變量之間相互影響，很難對自變量的去留做出抉變量之間相互影響，很難對自變量的去留做出抉擇。擇。 為了獲得最優(yōu)回歸方程，就需要對自變量進(jìn)行為了獲得最優(yōu)回歸方程，就需要對自變量進(jìn)行篩選。篩選。第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析常用的自變量的篩選方法：常用的自變量的篩選方法：第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析1 1、向前引入法

18、（、向前引入法（ForwardForward） 按顯著性程度，逐個(gè)將回歸模型外自變量引入按顯著性程度，逐個(gè)將回歸模型外自變量引入回歸模型，直到?jīng)]有顯著的自變量引入為止。回歸模型，直到?jīng)]有顯著的自變量引入為止。2 2、向后剔除法（、向后剔除法（BackwardBackward） 對全回歸模型中不顯著的自變量依次剔除，直到對全回歸模型中不顯著的自變量依次剔除，直到回歸模型中剩余自變量都顯著為止。回歸模型中剩余自變量都顯著為止。3 3、逐步篩選法（、逐步篩選法（StepwiseStepwise） 逐個(gè)引入最顯著的自變量，同時(shí)對模型中不顯逐個(gè)引入最顯著的自變量，同時(shí)對模型中不顯著的自變量進(jìn)行剔除，直到

19、沒有引入和剔除為止。著的自變量進(jìn)行剔除，直到?jīng)]有引入和剔除為止。五、回歸模型的判別準(zhǔn)則五、回歸模型的判別準(zhǔn)則1. R1. R2 2 決定系數(shù)決定系數(shù) AdjAdj R R2 2 矯正的決定系數(shù)矯正的決定系數(shù) n為觀測數(shù)，為觀測數(shù)，p為含截距的參數(shù)個(gè)數(shù)，為含截距的參數(shù)個(gè)數(shù)，i為截距數(shù)為截距數(shù) 決定系數(shù)的值越大，越接近于決定系數(shù)的值越大，越接近于1 1模型擬合越好。模型擬合越好。第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析總平方和回歸平方和TrSSSSR222_11niAdjRRnp 五、回歸模型的判別準(zhǔn)則五、回歸模型的判別準(zhǔn)則2. PRESS 2. PRESS 統(tǒng)計(jì)量統(tǒng)計(jì)量預(yù)測殘差平方和預(yù)測殘差平

20、方和 其中其中 ri 為殘差，為殘差，hi 為杠桿率為杠桿率 PERSS PERSS統(tǒng)計(jì)量用來比較不同方法所建立的回歸模統(tǒng)計(jì)量用來比較不同方法所建立的回歸模型的優(yōu)劣，型的優(yōu)劣，PRESSPRESS的值越小，模型越好。的值越小，模型越好。21iihrPRESS1iiihXX XX第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析五、回歸模型的判別準(zhǔn)則五、回歸模型的判別準(zhǔn)則3. Cp 3. Cp 統(tǒng)計(jì)量統(tǒng)計(jì)量 其中其中 k 為參數(shù)個(gè)數(shù)，為參數(shù)個(gè)數(shù)，n 為觀測數(shù)為觀測數(shù) ESS(k(k) )為含為含k k個(gè)參數(shù)的誤差平方和個(gè)參數(shù)的誤差平方和 ESS(T)(T)為全回歸的誤差平方和為全回歸的誤差平方和 Cp

21、Cp統(tǒng)計(jì)量的值越小，回歸模型越好。統(tǒng)計(jì)量的值越小，回歸模型越好。第五節(jié)節(jié) 多元線性回歸分析多元線性回歸分析nkmnTESSkESSCp) 1(2) 1()()(一、殘差（一、殘差（Residual）分析）分析殘差：指實(shí)測值和預(yù)測值之間的差。殘差：指實(shí)測值和預(yù)測值之間的差。iiiyyr)(iiirVarre 第六節(jié)節(jié) 回歸診斷回歸診斷標(biāo)準(zhǔn)化殘差：標(biāo)準(zhǔn)化殘差：學(xué)生化殘差：學(xué)生化殘差：)()1 (iiiirVarhre學(xué)生化殘差使殘差具有優(yōu)良的可比性學(xué)生化殘差使殘差具有優(yōu)良的可比性殘差圖：以觀測值殘差圖：以觀測值(x或或y)為橫坐標(biāo)，殘差為縱坐標(biāo)為橫坐標(biāo)，殘差為縱坐標(biāo)第六節(jié)節(jié) 回歸診斷回歸診斷方差非

22、齊性時(shí)，可用加權(quán)最小二乘法回歸，或方差非齊性時(shí)，可用加權(quán)最小二乘法回歸，或者對因變量的數(shù)據(jù)進(jìn)行適當(dāng)?shù)淖儞Q，如：者對因變量的數(shù)據(jù)進(jìn)行適當(dāng)?shù)淖儞Q，如：第六節(jié)節(jié) 回歸診斷回歸診斷），（），（），（0Y10lnY0YZYZYYZ觀測值不獨(dú)立時(shí)（共線性）：觀測值不獨(dú)立時(shí)（共線性）：說明自變量之間存在著一定的相關(guān)性?？赡苷f明自變量之間存在著一定的相關(guān)性?？赡苓z漏了某些重要的自變量；可用逐步回歸、遺漏了某些重要的自變量；可用逐步回歸、偏最小二乘法回歸或嶺回歸等進(jìn)行分析。偏最小二乘法回歸或嶺回歸等進(jìn)行分析。第六節(jié)節(jié) 回歸診斷回歸診斷異常點(diǎn)的識別：異常點(diǎn)的識別：1. 杠桿率杠桿率hi 刻劃第刻劃第i各觀測值到中

23、心的遠(yuǎn)近。各觀測值到中心的遠(yuǎn)近。2. 一般把標(biāo)準(zhǔn)化殘差的絕對值一般把標(biāo)準(zhǔn)化殘差的絕對值2的點(diǎn)認(rèn)為是的點(diǎn)認(rèn)為是可疑點(diǎn)，絕對值可疑點(diǎn)，絕對值3的點(diǎn)認(rèn)為是異常點(diǎn)?？紤]的點(diǎn)認(rèn)為是異常點(diǎn)?？紤]是否作為例外值加以剔除或做其它處理。是否作為例外值加以剔除或做其它處理。1iiiXXXXh杠桿率較大的數(shù)據(jù)點(diǎn)可以判別為可疑點(diǎn)。杠桿率較大的數(shù)據(jù)點(diǎn)可以判別為可疑點(diǎn)。第六節(jié)節(jié) 回歸診斷回歸診斷二、貢獻(xiàn)分析二、貢獻(xiàn)分析貢獻(xiàn)分析：從研究觀測點(diǎn)對回歸結(jié)果的影響入貢獻(xiàn)分析：從研究觀測點(diǎn)對回歸結(jié)果的影響入手，找出對回歸結(jié)果影響比較大的觀測點(diǎn)。手，找出對回歸結(jié)果影響比較大的觀測點(diǎn)。若存在對回歸結(jié)果影響比較大的觀測點(diǎn)時(shí)，得若存在對回

24、歸結(jié)果影響比較大的觀測點(diǎn)時(shí)，得到的回歸模型無法保證其穩(wěn)定性和應(yīng)用效果。到的回歸模型無法保證其穩(wěn)定性和應(yīng)用效果。我們希望每個(gè)觀測點(diǎn)對回歸結(jié)果都產(chǎn)生一定的我們希望每個(gè)觀測點(diǎn)對回歸結(jié)果都產(chǎn)生一定的影響，個(gè)別觀測的改變不會對回歸模型產(chǎn)生較影響，個(gè)別觀測的改變不會對回歸模型產(chǎn)生較大的影響。大的影響。對強(qiáng)影響點(diǎn)的值進(jìn)行復(fù)驗(yàn)，或增大樣本容量。對強(qiáng)影響點(diǎn)的值進(jìn)行復(fù)驗(yàn)，或增大樣本容量。1)()()(1iiiiiixXXxsYYDFFITS1、DFFITS統(tǒng)計(jì)量統(tǒng)計(jì)量此統(tǒng)計(jì)量衡量一個(gè)觀測排除與否對預(yù)測值的影響此統(tǒng)計(jì)量衡量一個(gè)觀測排除與否對預(yù)測值的影響( )( )iiiYiYsi為剔除第 個(gè)觀測后回歸模型 的預(yù)測值

25、為剔除第 個(gè)觀測后回歸模型的誤差均方根第六節(jié)節(jié) 回歸診斷回歸診斷一般當(dāng)一般當(dāng) 時(shí)，時(shí)，該觀測值應(yīng)作為強(qiáng)影響點(diǎn)加以關(guān)注。該觀測值應(yīng)作為強(qiáng)影響點(diǎn)加以關(guān)注。| 2 (1)/DFFITSknk（注： 為自變量個(gè)數(shù)）2)()() 1(iiiiiiskbbXXbbD2、Cooks D統(tǒng)計(jì)量統(tǒng)計(jì)量此統(tǒng)計(jì)量衡量一個(gè)觀測排除與否對回歸系數(shù)的影響此統(tǒng)計(jì)量衡量一個(gè)觀測排除與否對回歸系數(shù)的影響一般當(dāng)一般當(dāng) |Di|4/n 時(shí)，該觀測值應(yīng)作為強(qiáng)影響點(diǎn)時(shí)，該觀測值應(yīng)作為強(qiáng)影響點(diǎn)加以關(guān)注。加以關(guān)注。為回歸模型的誤差均方的估計(jì)值個(gè)觀測后回歸系數(shù)為剔除第2)(iisbib第六節(jié)節(jié) 回歸診斷回歸診斷第六節(jié)節(jié) 回歸診斷回歸診斷三、共線性診斷三、共線性診斷共線性：擬合共線性：擬合多元線性回歸多元線性回歸時(shí)，自變量之間時(shí)，自變量之間存在線性或近似線性的關(guān)系。存在線性或近似線性的關(guān)系。共線性存在時(shí)，可能會隱藏某些自變量的顯共線性存在時(shí)，可能會隱藏某些自變量的顯著性，增加擬合模型的方差，產(chǎn)生很不穩(wěn)定著性，增加擬合模型的方差，產(chǎn)生很不穩(wěn)定的回歸模型。的回歸模型。進(jìn)行共線性診斷的方法是基于對自變量的觀進(jìn)行共線性診斷的方法是基于對自變