統(tǒng)計學(xué) 回歸分析.ppt

1、第八章 直線回歸與相關(guān),變量間的關(guān)系有兩類 一類是函數(shù)關(guān)系,變量間存在著完全確定性的關(guān)系，可以用精確的數(shù)學(xué)表達(dá)式來表示，如長方形的面積（S）與長（a）和寬（b）的關(guān)系可以表達(dá)為：S=ab。它們之間的關(guān)系是確定性的，只要知道了其中一個變量的值就可以精確地計算出另一個變量的值，這類變量間的關(guān)系稱為函數(shù)關(guān)系。,另一類是相關(guān)關(guān)系,變量間關(guān)系不存在完全的確定性關(guān)系，不能用精確的數(shù)學(xué)公式來表示。 如人的身高與體重的關(guān)系；仔豬初生重與斷奶重的關(guān)系；豬瘦肉率與背膘厚度、眼肌面積、胴體長等的關(guān)系等等，這些變量間都存在著十分密切的關(guān)系，但不能由一個或幾個變量的值精確地求出另一個變量的值。 像這樣一類關(guān)系在生物界中

2、是大量存在的，統(tǒng)計學(xué)中把這些變量間的關(guān)系稱為相關(guān)關(guān)系，把存在相關(guān)關(guān)系的變量稱為相關(guān)變量。,對于兩個相關(guān)變量（也稱協(xié)變量）關(guān)系一般分為兩種 一種是因果關(guān)系，即一個變量的變化受另一個或幾個變量的影響，如仔豬的生長速度受遺傳、營養(yǎng)、飼養(yǎng)管理等因素的影響，子女的身高受父母身高的影響； 另一種是平行關(guān)系，即兩個以上變量之間共同受到另外因素的影響，如人的身高和體重之間的關(guān)系，兄弟身高之間的關(guān)系等都屬于平行關(guān)系。變量間的關(guān)系及分析方法歸納如下：,對于兩個相關(guān)變量（也稱協(xié)變量），一個變量用符號x表示，另一個變量用y表示，如果通過試驗或調(diào)查獲得兩個變量的成對觀測值，可表示為（x1，y1），（x2，y2），（xn

3、，yn）。為了直觀地看出x和y間的變化趨勢，可將每一對觀測值在平面直角坐標(biāo)系描點，作出散點圖（見圖9-1）。,圖9-1 （x，y）的散點圖,從散點圖（圖9-1）可以看出： 兩個變量間關(guān)系的性質(zhì)（是正相關(guān)還是負(fù)相關(guān)）和程度（是相關(guān)密切還是不密切）； 兩個變量間關(guān)系的類型，是直線型還是曲線型； 是否有異常觀測值的干擾。散點圖直觀地、定性地表示了兩個變量之間的關(guān)系。為了探討它們之間的規(guī)律性，還必須根據(jù)觀測值將其內(nèi)在關(guān)系定量地表達(dá)出來,統(tǒng)計學(xué)上一般采用回歸分析（regression analysis）研究呈因果關(guān)系的相關(guān)變量間的關(guān)系。 表示原因的變量稱為自變量，表示結(jié)果的變量稱為依變量。 研究“一因一

4、果”，即一個自變量與一個依變量的回歸分析稱為一元回歸分析；研究“多因一果”，即多個自變量與一個依變量的回歸分析稱為多元回歸分析。 一元回歸分析又分為直線回歸分析與曲線回歸分析兩種；多元回歸分析又分為多元線性回歸分析與多元非線性回歸分析兩種,回歸分析的任務(wù)是揭示出呈因果關(guān)系的相關(guān)變量間的聯(lián)系形式，建立它們之間的回歸方程，利用所建立的回歸方程，由自變量（原因）來預(yù)測、控制依變量（結(jié)果）。,統(tǒng)計學(xué)上一般采用相關(guān)分析(correlation analysis)研究呈平行關(guān)系的相關(guān)變量之間的關(guān)系。 對兩個變量間的直線關(guān)系進(jìn)行相關(guān)分析稱為簡單相關(guān)分析（也叫直線相關(guān)分析）；對多個變量進(jìn)行相關(guān)分析時， 研究一

5、個變量與多個變量間的線性相關(guān)稱為復(fù)相關(guān)分析；研究其余變量保持不變的情況下兩個變量間的線性相關(guān)稱為偏相關(guān)分析。 在相關(guān)分析中，變量無自變量和依變量之分。相關(guān)分析只能研究兩個變量之間相關(guān)的程度和性質(zhì)或一個變量與多個變量之間相關(guān)的程度，不能用一個或多個變量去預(yù)測、控制另一個變量的變化，這是回歸分析與相關(guān)分析區(qū)別的關(guān)鍵所在。 但是二者也不能截然分開，因為由回歸分析可以獲得相關(guān)的一些重要信息，由相關(guān)分析也能獲得回歸的一些重要信息。,第一節(jié) 直線回歸,一、直線回歸方程的建立 直線回歸是回歸分析中最基本、最簡單的一種，故又稱為簡單回歸。 回歸關(guān)系是對每一個x的取值xi，都有y的一個分布與之對應(yīng)，而不是一個確

6、定的yi與之相對應(yīng)。但是，當(dāng)xxi時，yi的平均數(shù)y/xxi是與之相對應(yīng)的，y/xxi稱為y的條件平均數(shù)。在這種情況下，我們可以用直線回歸方程來描述x與y的關(guān)系，其一般形式為： (i=1,2, , n) （91） 其中，x是自變量，是與x值相對應(yīng)的倚變量y的條件平均值的點估計。,回歸直線在平面坐標(biāo)系中的位置取決于a、b的取值，為了使能最好地反應(yīng)y和x兩變量間的數(shù)量關(guān)系，根據(jù)最小二乘法，a、b應(yīng)使回歸估計值與觀測值的偏差平方和最小，即： 最小。,根據(jù)微積分學(xué)中的極值原理，令 Q對a、b的一階偏導(dǎo)數(shù)等于0，即： 整理得關(guān)于a、b的正規(guī)方程組：,a叫做樣本回歸截距，是回歸直線與y軸交點的縱坐標(biāo)，當(dāng)x

7、=0時，=a；b叫做樣本回歸系數(shù)，表示x改變一個單位，y平均改變的數(shù)量；b的符號反映了 x影響y的性質(zhì)，b的絕對值大小反映了x影響y的程度。,圖9-2 直線回歸方程的圖象,a和b均可取正值，也可取負(fù)值，因具體資料而異，由圖9-2可以看出，a0，表示回歸直線在第一象限與y軸相交；a0，表示y隨x的增加而增加；b0；表示y隨x的減少而減少；b=0或與0差異不顯著時，表示y的變化與x的取值無關(guān)，兩變量間不存在直線回歸關(guān)系。這只是對a和b的統(tǒng)計學(xué)解釋，對于具體資料，a和b往往還有專業(yè)上的實際意義。 叫做回歸估計值，是當(dāng)x在在其研究范圍內(nèi)取某一個值時，y值平均數(shù)估計值。,可發(fā)現(xiàn)回歸方程的三個基本性質(zhì)：,

8、F檢驗的結(jié)果與t檢驗的結(jié)果一致。事實上，統(tǒng)計學(xué)已證明，在直線回歸分析中，這二種檢驗方法是等價的，可任選一種進(jìn)行檢驗。 由于孵化歷期平均溫度（x）與歷期天數(shù)（y）之間存在顯著的直線關(guān)系。因此，可以通過黏蟲孵化歷期平均溫度（x）對孵化歷期天數(shù)（y）作出預(yù)測或控制。 特別要指出的是：利用直線回歸方程進(jìn)行預(yù)測或控制時，一般只適用于原來研究的范圍，不能隨意把范圍擴(kuò)大，因為在研究的范圍內(nèi)兩變量是直線關(guān)系，這并不能保證在這研究范圍之外仍然是直線關(guān)系。,*四、直線回歸的區(qū)間估計 前面已求出了總體回歸截距a、回歸系數(shù)和x所對應(yīng)的y值總體平均數(shù)a+x的估計值a，b和 。這僅是一種點估計。下面在一定置信度下對、以及+x作出區(qū)間估計。,由圖9-5可以看出，單個y的置信帶要比 的置信帶寬，x偏離越遠(yuǎn)，置信帶越寬，預(yù)測效果越差。 通過圖9-5中與單個y的95置信帶，就可由黏蟲孵化歷期平均溫度對孵化歷期天數(shù)直接作出預(yù)報。,第二節(jié) 直線相關(guān),如果兩個變量間呈線性關(guān)系，又不需要由x來估計y，只需要了解x和y的相關(guān)程度以及相關(guān)性質(zhì)，就可以直線相關(guān)分析。 進(jìn)行直線相關(guān)分析的基本任務(wù)在于根據(jù)x、y的實際觀測值，計算表示兩個相關(guān)變量x、y間線性相關(guān)程度和性質(zhì)的統(tǒng)計量相關(guān)系數(shù)r并進(jìn)行顯著性檢驗。,相關(guān)系數(shù)和決定系數(shù) 設(shè)有一雙變量總體資料，總體個數(shù)為N，這N對