SPC：直線回歸與相關(guān) ppt課件

1、第八章 直線回歸與相關(guān) 前面各章我們討論的問題，都只涉及到一個變量，如體重 、日增重、產(chǎn)仔數(shù)、體溫、血糖濃度 、產(chǎn)奶量 、產(chǎn)毛量或孵化率 、發(fā)病率等。 但是，由于客觀事物在開展過程中相互聯(lián)絡(luò)、相互影響，因此在畜牧、水產(chǎn)等實(shí)驗(yàn)研討中經(jīng)常要研討兩個或兩個以上變量間的關(guān)系。 下一張 主 頁 退 出 上一張 最高月產(chǎn)、 豬瘦肉率與背膘厚度、眼肌面積、胴體長；綿羊產(chǎn)毛量與體重、胸圍、體長 ；黑白花奶牛的一胎305天產(chǎn)奶量與、最高日產(chǎn)天數(shù)； 90天產(chǎn)奶量、最高日產(chǎn)豬的增重與飼料耗費(fèi)；雛鵝重與70日齡重；綿羊胸圍與體長；仔豬初生重與斷奶重；例如 變量間的關(guān)系有兩類： 一類是變量間存在著完全確定性的關(guān)系，可以

2、用準(zhǔn)確的數(shù)學(xué)表達(dá)式來表示。 如長方形的面積 S 與 長a和 寬b的關(guān)系可以表達(dá)為： S=ab。它們之間的關(guān)系是確定性的，只需知道了其中兩個變量的值就可以準(zhǔn)確地計(jì)算出另一個變量的值，這類變量間的關(guān)系稱為函數(shù)關(guān)系。 下一張 主 頁 退 出 上一張 另一類是 變 量 間不存在完全確實(shí)定性關(guān)系，不能用準(zhǔn)確的數(shù)學(xué)公式來表示。 如黃牛的體長與體重的關(guān)系；仔豬初生重與斷奶重的關(guān)系；豬瘦肉率與背膘厚度、眼肌面積、胴體長等的關(guān)系等等，這些變量間都存在著非常親密的關(guān)系，但不能由一個或幾個變量的值準(zhǔn)確地求出另一個變量的值。像這樣一類關(guān)系在生物界中是大量存在的，統(tǒng)計(jì)學(xué)中把這些變量間的關(guān)系稱為相關(guān)關(guān)系，把存在相關(guān)關(guān)系的

3、變量稱為相關(guān)變量。 下一張 主 頁 退 出 上一張 相關(guān)變量間的關(guān)系普通分為兩種: 一種是因果關(guān)系，即一個變量的變化受另一個或幾個變量的影響。如仔豬的生長速度受遺傳特性、營養(yǎng)程度、豢養(yǎng)管理?xiàng)l件等要素的影響，子代的體高受親本體高的影響； 另一種是平行關(guān)系，它們互為因果或共同遭到另外要素的影響。如黃牛的體長和胸圍之間的關(guān)系，豬的背膘厚度和眼肌面積之間的關(guān)系等都屬于平行關(guān)系。下一張 主 頁 退 出 上一張 統(tǒng)計(jì)學(xué)上采用回歸分析 regression analysis研討呈因果關(guān)系的相關(guān)變量間的關(guān)系。表示緣由的變量稱為自變量，表示結(jié)果的變量稱為依變量。 研討“一因一果，即一個自變量與一個依變量的回歸分

4、析稱為一元回歸分析； 研討“多因一果，即多個自變量與一個依變量的回歸分析稱為多元回歸分析。 一元回歸分析又分為直線回歸分析與曲線回歸分析兩種；多元回歸分析又分為多元線性回歸分析與多元非線性回歸分析兩種。 下一張 主 頁 退 出 上一張 回歸分析的義務(wù)是提示出呈因果關(guān)系的相關(guān)變量間的聯(lián)絡(luò)方式，建立它們之間的回歸方程，利用所建立的回歸方程，由自變量緣由來預(yù)測、控制依變量結(jié)果。 統(tǒng)計(jì)學(xué)上采用相關(guān)分析 ( correlation analysis)研討呈平行關(guān)系的相關(guān)變量之間的關(guān)系。 對兩個變量間的直線關(guān)系進(jìn)展相關(guān)分析稱為簡單相關(guān)分析也叫直線相關(guān)分析； 對多個變量進(jìn)展相關(guān)分析時，研討一個變量與多個變量

5、間的線性相關(guān)稱為復(fù)相關(guān)分析；研討其他變量堅(jiān)持不變的情況下兩個變量間的線性相關(guān)稱為偏相關(guān)分析。 下一張 主 頁 退 出 上一張 第一節(jié) 直線回歸 一、直線回歸方程的建立 對于兩個相關(guān)變量，一個變量用x表示，另一個變量用y表示，假設(shè)經(jīng)過實(shí)驗(yàn)或調(diào)查獲得兩個變量的n對觀測值： x1，y1，x2，y2，xn，yn 下一張 主 頁 退 出 上一張 為了直觀地看出x和y間的變化趨勢，可將每一對 觀 測 值 在 平 面直角坐標(biāo)系描點(diǎn)，作出散點(diǎn)圖 見圖8-1。 從散點(diǎn)圖圖8-1可以看出： 兩個變量間直線關(guān)系的性質(zhì)是正相關(guān)還是負(fù)相關(guān)和程度是相關(guān)親密還是不親密；下一張 主 頁 退 出 上一張 散點(diǎn)圖直觀地、定性地表

6、示了兩個變量之間的關(guān)系。為了討論它們之間的規(guī)律性，還必需根據(jù)觀測值將其內(nèi)在關(guān)系定量地表達(dá)出來。 兩個變量間有關(guān)或無關(guān);假設(shè)有關(guān),兩個變量間關(guān)系類型，是直線型還是曲線型； 假設(shè)呈因果關(guān)系的兩個相關(guān)變量y(依變量)與x(自變量)間的關(guān)系是直線關(guān)系，根據(jù)n對觀測值所描出的散點(diǎn)圖，如圖81b和圖81e所示。 由于依變量y的實(shí)踐觀測值總是帶有隨機(jī)誤差，因此依變量y的實(shí)踐觀測值yi可用自變量x的實(shí)踐觀測值xi表示為：(i=1,2, , n) 81其中: x 為可以觀測的普通變量(也可以是可以觀測的隨機(jī)變量); y 為可以觀測的隨機(jī)變量; 這就是直線回歸的數(shù)學(xué)模型。我們可以根據(jù)實(shí)踐觀測值對，以及方差 做出估

7、計(jì)。 i為相互獨(dú)立，且都服從N0， 的隨機(jī)變量。 在x、y直角坐標(biāo)平面上可以作出無數(shù) 條直線，我們把一切直線中最接近散點(diǎn)圖中全部散點(diǎn)的直線用來表示x與y的直線關(guān)系，這條直線稱為回歸直線。 下一張 主 頁 退 出 上一張 設(shè)回歸直線的方程為:(8-2) 其中，a是的估計(jì)值，b是的估計(jì)值。 a、b應(yīng)使回歸估計(jì)值 與實(shí)踐觀測值y的偏向平方和最小，即： 根據(jù)微積分學(xué)中的求極值的方法，令 Q對a、b的一階偏導(dǎo)數(shù)等于0，即：最 小 整理得關(guān)于a、b的正規(guī)方程組： 下一張 主 頁 退 出 上一張 解正規(guī)方程組，得：8-38-4 8-3式中的分子是自變量x的離均差 與 依 變 量 y 的 離 均 差 的 乘

8、積和 ，簡 稱 乘積和，記作 ，分母是自變量x的離均差 平方和 ，記作SSX。 a叫做樣本回歸截距，是回歸直線與y軸交點(diǎn)的縱坐標(biāo)，當(dāng)x=0時， =a； b叫做樣本回歸系數(shù)，表 示 x 改 變一個單位，y平均改動的數(shù)量；b 的符號反映了x影響y的性質(zhì)，b的絕對值大小反映了 x 影響 y 的 程度; 的估計(jì)值。 叫做回歸估計(jì)值，是當(dāng)x在在其研究 范 圍 內(nèi) 取某一個值時，y值平均數(shù) 回歸方程的根本性質(zhì)： 假設(shè)將8-4式代入8-2式，得到回歸方程的另一種方式(中心化方式)： 下一張 主 頁 退 出 上一張 性質(zhì)1最??；性質(zhì)2；性質(zhì)3 回 歸 直 線 通 過 點(diǎn)。8-5 【例8.1】在四川白鵝的消費(fèi)性

9、能研討中，得到如下一組關(guān)于雛鵝重g與70日齡重(g)的數(shù)據(jù)，試建立70日齡重(y)與雛鵝重(x)的直線回歸方程。 表8-1 四川白鵝雛鵝重與70日齡重測定結(jié)果 單位：g下一張 主 頁 退 出 上一張 1、作散點(diǎn)圖 以雛鵝重x為橫坐標(biāo)，70日齡重y為縱坐標(biāo)作散點(diǎn)圖，見圖8-3。 2、計(jì)算回歸截距a，回歸系數(shù)b，建立直線回歸方程 首先根據(jù)實(shí)踐觀測值計(jì)算出 下 列數(shù)據(jù)： 下一張 主 頁 退 出 上一張 進(jìn)而計(jì)算出b、a： 得到四川白鵝的70日齡重y對雛鵝重x的直線回歸方程為： 根據(jù)直線回歸方程可作出回歸直線，見圖8-3。從圖8-3看出，并不是一切的散點(diǎn)都恰好落在回歸直線上，這闡明用 去估計(jì)y是有偏向

10、的。下一張 主 頁 退 出 上一張 3、直線回歸的偏離度估計(jì) 偏向平方和 的大小表示了實(shí)測點(diǎn)與回歸直線偏離的程度，因此偏向平方和又稱為離回歸平方和。統(tǒng)計(jì)學(xué)曾經(jīng)證明：在直線回歸分析中離回歸平方和的自在度為n-2。于是可求得離回歸均方為： 離回歸均方是模型8-1中2的估計(jì)值。 離回歸均方的平方根叫離回歸規(guī)范誤，記為 ，即 8-6 離回歸規(guī)范誤Syx的大小表示了回歸直線與實(shí)測點(diǎn)偏向的程度，即回歸估測值 與 實(shí) 際觀測值y偏向的程度，于是我們把離回歸規(guī)范誤Syx用來表示回歸方程的偏離度。 下一張 主 頁 退 出 上一張 以后我們將證明： 8-7 利用8-7式先計(jì)算出 ，然后再代入8-6式求Syx 。

11、對于【例8.1】有所以二、直線回歸的顯著性檢驗(yàn) 假設(shè)x和y變量間并不存在直線關(guān)系， 但由n對觀測值xi，yi也可以根據(jù)上面引見的方法求得一個回歸方程 =a+bx。 顯然，這樣的回歸方程所反響的兩個變量間 的直線關(guān)系是不真實(shí)的。 如何判別直線回歸方程所反響的兩個變量間的直線關(guān)系的真實(shí)性呢？這取決于變量x與y間能否存在直線關(guān)系。我們先討論依變量y的變異，然后再作出統(tǒng)計(jì)推斷。下一張 主 頁 退 出 上一張 1、直線回歸的變異來源 圖8-4 的分解圖 從圖8-4看到： 上式兩端平方，然后對一切的n點(diǎn)求和，那么有 下一張 主 頁 退 出 上一張 由 于所 以于 是 所以有 8-8 反映了y的總變異程度，

12、稱為y的總平方和，記為SSy； 反映了由于y與x間存在直線關(guān)系所引起的y的變異程度，稱為回歸平方和，記為SSR； 反映了除y與x存在直線關(guān)系以外的緣由，包括隨機(jī)誤差所引起的y的變異程度，稱為離回歸平方和或剩余平方和，記為SSr。 8-8式又可表示為： 8-9 這闡明y的總平方和剖分為 回歸平方和 與離回歸平方和兩部分。與此相對應(yīng)，y的總自在度dfy也劃分為回歸自在度dfr與離回歸自在度dfr兩部分，即 下一張 主 頁 退 出 上一張 8-10 在直線回歸分析中，回歸自在度等于自變量的個數(shù)， 即 ；y 的 總 自 由度 ；離回歸自在度 。于是： 離回歸均方 ， 回 歸 均 方 。 2、回歸關(guān)系顯

13、著性檢驗(yàn)F檢驗(yàn) x與y兩個變量間能否存在直線關(guān)系，可用F檢驗(yàn)法進(jìn)展檢驗(yàn)。 無效假設(shè)HO：=0，備擇假設(shè)HA：0。 在無效假設(shè)成立的條件下，回歸均方與離回歸均方的比值服從 和 的F分布，所以可以用 df1=1,df2=n-2 8-11 下一張 主 頁 退 出 上一張 來檢驗(yàn)回歸關(guān)系即回歸方程的顯著性。 回歸平方和還可用下面的公式計(jì)算得到： 8-12 (8-13) 根據(jù)8-9式，可得到離回歸平方和計(jì)算公式為： 下一張 主 頁 退 出 上一張 對于【例8.1】資料，有而 。于是可以列出方差分析表進(jìn)展回歸關(guān)系顯著性檢驗(yàn)。表8-2 四川白鵝70日齡重與雛鵝重回歸關(guān)系 方差分析 下一張 主 頁 退 出 上

14、一張 由于 ，闡明四川白鵝70日齡重與雛鵝重間存在極顯著的直線關(guān)系。 3、回歸系數(shù)的顯著性檢驗(yàn)t檢驗(yàn) 采用回歸系數(shù)的顯著性檢驗(yàn)t檢驗(yàn)也可檢驗(yàn)x與y間能否存在直線關(guān)系。回歸系數(shù)顯著性檢驗(yàn)的無效假設(shè)和備擇假設(shè)為 HO：0，HA：0。 t 檢驗(yàn)的計(jì)算公式為： 8-14 8-15 其中，Sb為回歸系數(shù)規(guī)范誤。 對于 【例8.1】 資 料 ，已計(jì)算得 故有 下一張 主 頁 退 出 上一張 當(dāng) ，查t值表，得 因 ， ， 否認(rèn)HO：0，接受HA：0，即直線回歸系數(shù)b=21.7122是極顯著的，闡明四川白鵝 70 日齡重 與雛鵝重間存在極顯著的直線關(guān)系，可用所建立的直線回歸方程來進(jìn)展 預(yù)測和控制。 F檢驗(yàn)的

15、結(jié)果與t檢驗(yàn)的結(jié)果一致。 現(xiàn)實(shí)上，統(tǒng)計(jì)學(xué)已證明，在直線回歸分析中，這二種檢驗(yàn)方法是等價(jià)的，可任選一種進(jìn)展檢驗(yàn)。 下一張 主 頁 退 出 上一張 特別要指出的是：利用直線回歸方程進(jìn)展預(yù)測或控制時，普通 只 適 用于原來研討的范圍，不能隨意把范圍擴(kuò)展，由于在研討的范圍內(nèi)兩變量是直線關(guān)系，這并不能保證在這研討范圍之外依然是直線關(guān)系。假設(shè)需求擴(kuò)展預(yù)測和控制范圍，那么要有充分的實(shí)際根據(jù)或進(jìn)一步的實(shí)驗(yàn)根據(jù)。利用直線回歸方程進(jìn)展預(yù)測或控制 ， 一 般只能內(nèi)插，不要隨便外延。第二節(jié) 直線相關(guān) 進(jìn)展直線相關(guān)分析的根本義務(wù)在于根據(jù)x、y的實(shí)踐觀測值，計(jì)算表示兩個相關(guān)變量x、y間線性相關(guān)程度和性質(zhì)的統(tǒng)計(jì)量相關(guān)系數(shù)r

16、并進(jìn)展顯著性檢驗(yàn)。下一張 主 頁 退 出 上一張 一、決議系數(shù)和相關(guān)系數(shù) 在上一節(jié)中曾經(jīng)證明了等式： 從這個等式不難看到：y與x直線回歸效果的好壞取決于回歸平方和 與離回歸平方和 的大小，或者說取決于回歸平方和在y的總平方和 中所占的比例的大小。這個比例越大，y與x的直線回歸效果就越好，反之那么差。 我們把比值 叫 做 x 對 y 的決議系數(shù) coefficient of determination，記為 r2，即 下一張 主 頁 退 出 上一張 8-24 決議系數(shù)的大小表示了回歸方程估測可靠程度的高低，或者說表示了回歸直線擬合度的高低。顯然有0r21。由于 而SPxy/SSx是以x為自變量、

17、y為依變量時的回歸系數(shù)byx。 假設(shè)把y作為自變量 、 x作為依變量 ，那么回歸系數(shù) bxy =SPxy/Ssy ，所以決議系數(shù)r2等于y對x的回歸系數(shù)與 x對y的回歸系數(shù)的乘積。這就是說，決議系數(shù)反響了x為自變量、y為依變量和y為自變量 、 x為依變量時兩個相關(guān)變量x與y直線相關(guān)的信息 ，即決議系數(shù)表示了 兩個互為因果關(guān)系的相關(guān)變量間直線相關(guān)的程度。但決議系數(shù)介于0和1之間，不能反響直線關(guān)系的性質(zhì)是同向增減或是異向增減。 下一張 主 頁 退 出 上一張 假設(shè)求r2的平方根，且取平方根的符號與乘積和SPxy的符號一致，即與bxy 、byx的符號一致，這樣求出的平方根既可表示y與x的直線相關(guān)的程

18、度，也可表示直線相關(guān)的性質(zhì)。統(tǒng)計(jì)學(xué)上把這樣計(jì)算所得的統(tǒng)計(jì)量稱為x與y的相關(guān)系數(shù)coefficient of correlation，記為r，即 8-25 8-26 下一張 主 頁 退 出 上一張 二、相關(guān)系數(shù)的計(jì)算 【例8.6】 計(jì)算10只綿羊的胸圍cm和體重(kg) 的相關(guān)系數(shù)。 表8-3 10只綿羊胸圍和體重資料下一張 主 頁 退 出 上一張 根據(jù)表8-3所列數(shù)據(jù)先計(jì)算出： 代入8-25式得： 即綿羊胸圍與體重的相關(guān)系數(shù)為0.8475。 下一張 主 頁 退 出 上一張 三、相關(guān)系數(shù)的顯著性檢驗(yàn) 上述根據(jù)實(shí)踐觀測值計(jì)算得來的相關(guān)系數(shù)r是樣本相關(guān)系數(shù)， 它是雙變量正態(tài)總體中的總體相關(guān)系數(shù)的估計(jì)

19、值。樣本相關(guān)系數(shù)r能否來自0的總體，還須對樣本相關(guān)系數(shù)r 進(jìn)展顯著性檢驗(yàn)。 此 時 無 效 假 設(shè)、備 擇 假 設(shè) 為HO:=0，HA:0。 與直線回歸關(guān)系顯著性檢驗(yàn)一樣，可采用t檢驗(yàn)法與F檢驗(yàn)法對相關(guān)系數(shù)r的顯著性進(jìn)展檢驗(yàn)。 t 檢驗(yàn)的計(jì)算公式為： t= ， df=n-2 (8-27) 其中， ，叫做相關(guān)系數(shù)規(guī)范誤。 F檢驗(yàn)的計(jì)算公式為： F= ， df1=1，df2=n-2 (8-28)下一張 主 頁 退 出 上一張 統(tǒng)計(jì)學(xué)家已根據(jù)相關(guān)系數(shù)r顯著性t檢驗(yàn)法計(jì)算出了臨界r值并列出了表格。 所以 可以直接采用查表法對相關(guān)系數(shù)r進(jìn)展顯著性檢驗(yàn)。 詳細(xì)作法是： 先 根 據(jù) 自 由 度 n-2 查臨

20、界 r 值 ( 附 表 8 )，得 ， 。 假設(shè)|r| ，P0.05，那么相關(guān)系數(shù)r不顯著，在r的右上方標(biāo)志“ns；假設(shè) |r| ，0.01P0.05，那么相關(guān)系數(shù) r 顯著，在r的右上方標(biāo)志“*；假設(shè)|r| ， P 0.01， 那么相 關(guān) 系 數(shù) r 極顯著，在 r 的右上方標(biāo)志“*。 對于【例8-6】，由于 df =n-2=10-2=8，查附表8得： =0.632， =0.765，而r=0.8475 ，P0.01，闡明綿羊胸圍與體重的相關(guān)系數(shù)極顯著。 四、相關(guān)系數(shù)與回歸系數(shù)的關(guān)系 從相關(guān)系數(shù)計(jì)算公式的導(dǎo)出可以看到：相關(guān)變量x與y的相關(guān)系數(shù)r是y對x的回歸系數(shù)與x對y的相關(guān)系數(shù)bxv的幾何平

21、均數(shù)：下一張 主 頁 退 出 上一張 闡明直線相關(guān)分析與回歸分析關(guān)系非常親密?，F(xiàn)實(shí)上，它們的研討對象都是呈直線關(guān)系的相關(guān)變量。直線回歸分析將二個相關(guān)變量區(qū)分為自變量和依變量，偏重于尋求它們之間的聯(lián)絡(luò)方式直線回歸方程；直線相關(guān)分析不區(qū)分自變量和依變量，偏重于提示它們之間的聯(lián)絡(luò)程度和性質(zhì)計(jì)算出相關(guān)系數(shù)。兩種分析所進(jìn)展的顯著性檢驗(yàn)都是處理y與x間能否存在直線關(guān)系。因此二者的檢驗(yàn)是等價(jià)的。即相關(guān)系數(shù)顯著 ， 回歸系數(shù)亦顯著； 相關(guān)系數(shù)不 顯著，回歸系數(shù)也必然不顯著。由于利用查表法對相關(guān)系數(shù)進(jìn)展檢驗(yàn)非常簡便，因此在實(shí)踐進(jìn)展直線回歸分析時，可用相關(guān)系數(shù)顯著性檢驗(yàn)替代直線回歸關(guān)系顯著性檢驗(yàn)，即可先計(jì)算出相關(guān)

22、系數(shù)r并對其進(jìn)展顯著性檢驗(yàn)，假設(shè)檢驗(yàn)結(jié)果r不顯著，那么用不著建立直線回歸方程；假設(shè)r顯著，再計(jì)算回歸系數(shù)b、回歸截距a，建立直線回歸方程，此時所建立的直線回歸方程代表的直線關(guān)系是真實(shí)的，可利用來進(jìn)展預(yù)測和控制。下一張 主 頁 退 出 上一張 五、運(yùn)用直線回歸與相關(guān)的本卷須知 直線回歸分析與相關(guān)分析在生物科學(xué)研討領(lǐng)域中已得到了廣泛的運(yùn)用，但在實(shí)踐任務(wù)中卻很容易被誤用或作出錯誤的解釋。為了正確地運(yùn)用直線回歸分析和相關(guān)分析這一工具，必需留意以下幾點(diǎn)： 1、變量間能否存在相關(guān) 直線回歸分析和相關(guān)分析畢竟是處置變量間關(guān)系的數(shù)學(xué)方法，在將這些方法運(yùn)用于生物科學(xué)研討時要思索到生物本身的客觀實(shí)踐情況，譬如變量間能否存在直線相關(guān)以及在什么條件下會發(fā)生直線相關(guān)，求出的直線回歸方程能否有意義，某性狀作為自變量或依變量確實(shí)定等等，都必需由生物科學(xué)相應(yīng)的專業(yè)知識來決議，并且還要用到生物科學(xué)實(shí)際中去檢驗(yàn)。假設(shè)不以一定的生物科學(xué)根據(jù)為前提，把風(fēng)馬牛不相及的資料隨意湊到一塊作直線回歸分析或相關(guān)分析，那將是根本性的錯誤。 下一張 主 頁 退 出