第二章 多元回歸分析.ppt

第三章多元線性回歸 3 1多元線性回歸模型3 2回歸方程的擬合優(yōu)度3 3顯著性檢驗(yàn)3 4多重共線性3 5利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè)3 6虛擬自變量的回歸 3 1多元線性回歸模型 一 多元回歸模型與回歸方程二 估計(jì)的多元回歸方程三 參數(shù)的最小二乘估計(jì) 一 多元回歸模型與回歸方程 1 多元回歸模型 multipleregressionmodel 多元線性回歸模型誤差項(xiàng) 的基本假定 2 多元回歸方程 multipleregressionequation 多元線性回歸方程的直觀解釋 二 估計(jì)的多元回歸的方程 三 參數(shù)的最小二乘估計(jì) 續(xù) 根據(jù)微積分中求極值的原理 應(yīng)是下列正規(guī)方程組的解 例3 1 一家大型商業(yè)銀行在多個(gè)地區(qū)設(shè)有分行 為弄清楚不良貸款形成的原因 抽取了該銀行所屬的25家分行2002年的有關(guān)業(yè)務(wù)數(shù)據(jù) 表2 1 試建立不良貸款 y 與貸款余額 x1 累計(jì)應(yīng)收貸款 x2 貸款項(xiàng)目個(gè)數(shù) x3 和固定資產(chǎn)投資額 x4 的線性回歸方程 并解釋各回歸系數(shù)的含義 解 由Excel給出的多元回歸結(jié)果見(jiàn)表12 2 得不良貸款 y 與貸款余額 x1 累計(jì)應(yīng)收貸款 x2 貸款項(xiàng)目個(gè)數(shù) x3 和固定資產(chǎn)投資額 x4 的線性回歸方程如下 表3 1 某商業(yè)銀行2002年的有關(guān)業(yè)務(wù)數(shù)據(jù) 用Excel進(jìn)行回歸分析的步驟 表3 2 Excel輸出的回歸分析結(jié)果 3 2回歸方程的擬合優(yōu)度 一 多重判定系數(shù)二 估計(jì)標(biāo)準(zhǔn)誤差 一 多重判定系數(shù) multiplecoefficientofdetermination 續(xù) 修正多重判定系數(shù) adjustedmultiplecoefficientofdetermination 例 根據(jù)例12 1的數(shù)據(jù) 計(jì)算多重判定系數(shù) 解 根據(jù) 13 7 式 得 而根據(jù) 13 8 式 則 二 估計(jì)標(biāo)準(zhǔn)誤差 standarderrorofestimate 3 3顯著性檢驗(yàn) 一 線性關(guān)系檢驗(yàn)二 回歸系數(shù)檢驗(yàn)和推斷 一 線性關(guān)系檢驗(yàn) 方差分析表 前面的這些計(jì)算結(jié)果可以列成表格的形式 稱(chēng)為方差分析表 方差分析表 根據(jù)例3 1建立的回歸方程 檢驗(yàn)線性關(guān)系的顯著性 解 提出假設(shè) 例3 2 二 回歸系數(shù)檢驗(yàn)和推斷 1 當(dāng)回歸方程顯著時(shí) 僅表示中至少有一個(gè)不為0 即并不表示每一個(gè)自變量對(duì)因變量的影響一定都是顯著的 2 回歸系數(shù)的顯著性則是對(duì)每一個(gè)自變量都要檢驗(yàn) 從而確定每一個(gè)自變量對(duì)因變量的影響是否顯著 3 采用t檢驗(yàn)4 對(duì)于多元線性回歸 回歸系數(shù)的顯著性檢驗(yàn)與回歸方程的顯著性檢驗(yàn)是兩種不同的檢驗(yàn)方法 回歸系數(shù)的顯著性檢驗(yàn)步驟 續(xù) 例3 3 根據(jù)例3 1建立的回歸方程 檢驗(yàn)每一個(gè)自變量對(duì)因變量的影響是否顯著 解 根據(jù)表3 2 得 回歸系數(shù)的置信區(qū)間 3 4多重共線性 一 多重共線性及其所產(chǎn)生的問(wèn)題二 多重共線性的判別三 多重共線性問(wèn)題的處理 一 多重共線性及其所產(chǎn)生的問(wèn)題 1 當(dāng)自變量之間線性相關(guān)時(shí) 稱(chēng)自變量存在多重共線性 2 自變量存在多重共線性時(shí) 使的方差增大 從而使的取值變動(dòng)大 甚至?xí)霈F(xiàn)反常值 1 當(dāng)自變量之間線性相關(guān)時(shí) 稱(chēng)自變量存在多重共線性 2 自變量存在多重共線性時(shí) 使的方差增大 從而使的取值變動(dòng)大 甚至?xí)霈F(xiàn)反常值 二 多重共線性的判別 檢測(cè)多重共線性的最簡(jiǎn)單的一種辦法是計(jì)算自變量之間的相關(guān)系數(shù)并進(jìn)行顯著性檢驗(yàn) 若有一個(gè)或多個(gè)相關(guān)系數(shù)顯著 則表明自變量之間線性相關(guān) 即存在著多重共線性 例3 4 根據(jù)例3 1的數(shù)據(jù) 檢驗(yàn)自變量是否存在多重共線性 表3 3自變量之間的相關(guān)矩陣 表3 4 相關(guān)系數(shù)的t檢驗(yàn)統(tǒng)計(jì)量 三 多重共線性問(wèn)題的處理 剔除緊密相關(guān)且不重要的自變量 從而盡可能使自變量之間線性無(wú)關(guān) 例3 5 根據(jù)例3 1的數(shù)據(jù) 對(duì)多重共線性進(jìn)行處理 解 由于最小 首先剔除 建立y與的回歸方程 又由于這時(shí)最小 且不顯著 從而再剔除 建立y與的回歸方程 這時(shí) 都是顯著 包含x1 x2和x4的回歸方程 表3 5 包含x1和x4的回歸方程 3 5利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè) 區(qū)間預(yù)測(cè) 對(duì)于自變量的一組取值根據(jù)樣本回歸方程給出或的一個(gè)估計(jì)區(qū)間 稱(chēng)為置信區(qū)間 由于置信區(qū)間和預(yù)測(cè)區(qū)間的計(jì)算較復(fù)雜 這里我們直接給出結(jié)果 例3 6 根據(jù)例3 1的數(shù)據(jù) 貸款余額x1 100 累計(jì)應(yīng)收貸款x2 10 貸款項(xiàng)目個(gè)數(shù)x3 15和固定資產(chǎn)投額x4 60 試給出不良貸款的0 95置信區(qū)間和預(yù)測(cè)區(qū)間 解 可以計(jì)算點(diǎn)估計(jì)為2 929 置信區(qū)間 2 04 3 80 置信區(qū)間 0 88 6 72 3 6虛擬自變量的回歸 一 含有一個(gè)虛擬自變量的回歸二 用虛擬自變量回歸解決方差分析問(wèn)題 一 含有一個(gè)虛擬自變量的回歸 如果一個(gè)定性的自變量只劃分為兩個(gè)類(lèi)別 并分別用0和1表示 這種定性變量稱(chēng)為虛擬自變量 回歸模型中使用虛擬自變量時(shí) 稱(chēng)為虛擬自變量的回歸 當(dāng)一個(gè)定性的自變量劃分為k 2 個(gè)類(lèi)別時(shí) 則可轉(zhuǎn)化為k個(gè)虛擬自變量 但只能引進(jìn)k 1個(gè)虛擬自變量 例3 7 為研究考試成績(jī)與性別之間的關(guān)系 從某大學(xué)商學(xué)院隨機(jī)抽取男女學(xué)生各8名 得到他們的市場(chǎng)營(yíng)銷(xiāo)學(xué)課程的考試成績(jī)列于表3 8 試建立考試成績(jī)與性別的線性回歸方程 解 學(xué)生性別是一個(gè)定性變量 分別用0和1表示男性和女性 即 由Excel給出的結(jié)果如表2 9所示 男性 女性 表3 8 16名學(xué)生的市場(chǎng)營(yíng)銷(xiāo)學(xué)課程考試成績(jī) 用Excel進(jìn)行虛擬自變量的回歸分析的步驟 表3 9 Excel給出的回歸分析結(jié)果 例3 8 為研究工資水平與工作年限和性別之間的關(guān)系 在某行業(yè)隨機(jī)抽取10名職工 所得數(shù)據(jù)如下 表3 1010名職工的工資水平 工作年限和性別的數(shù)據(jù) 表3 11 月工資收入 y 與工作年限 x1 的回歸結(jié)果 續(xù) 首先 考慮只有數(shù)值型自變量 工作年限 的一元回歸 由Excel給出的回歸結(jié)果如表3 11所示 回歸方程顯著 R2 0 5342 再引進(jìn)虛擬自變量 性別 即 男性 女性 得包含虛擬自變量的數(shù)據(jù)表3 12如下 表3 12 10名職工的工資水平 工作年限和性別的數(shù)據(jù) 續(xù) 表3 13 月工資收入 y 與工作年限 性別的回歸結(jié)果 作業(yè)與思考 1 對(duì)