分析方法擴展下

線性回歸分析的問題和分析方法擴展多重共線性隨機解釋變量誤差項非正態(tài)分布最大似然估計1第1頁，共29頁。多重共線性多重共線性是指多元回歸模型中的解釋變量之間存在嚴格或近似的線性關系。如果解釋變量之間（兩個或多個變量）存在嚴格的線性關系，就會使解釋變量的觀測值矩陣X不是列滿軼的，從而最小二乘估計正規(guī)方程組的系數矩陣X’X奇異不可逆，無法解出唯一確定的參數估計值。如果解釋變量之間存在近似線性關系的情況，雖然不致于模型變量的不可識別和參數的估計失效，但對參數估計的性質和質量產生嚴重的不利影響產生多重共線性的原因是經濟變量之間的內在聯(lián)系，經濟變量在時間上有同方向變化的趨勢，還有將解釋變量的滯后值作為單獨的因素等因素2第2頁，共29頁。多重共線性的危害3第3頁，共29頁。多重共線性的發(fā)現和檢驗相關系數檢驗：分析兩個或多個解釋變量之間的相關性，進行單相關或多元相關性的分析檢驗，是發(fā)現和判斷多重共線性總是的比較基本的方法綜合統(tǒng)計檢驗法：如果決定系數R2值、F檢驗值很大，但各個回歸系數的t檢驗值ti均偏小，說明各解釋變量對Y的聯(lián)合線性作用顯著，若在此前提下各個t檢驗值ti均偏小說明各個解釋變量之間存在共線，對Y的獨立作用不能分辯，故t檢驗不顯著4第4頁，共29頁。方差擴大因子檢驗5第5頁，共29頁。狀態(tài)數檢驗6第6頁，共29頁。狀態(tài)數檢驗7第7頁，共29頁。增加樣本容量8第8頁，共29頁。差分模型9第9頁，共29頁。模型修正刪減解釋變量整合解釋變量（權重要符合經濟理論，經驗結論或者原模型的試算結果等）先驗信息參數約束10第10頁，共29頁。參數約束11第11頁，共29頁。分步估計參數12第12頁，共29頁。嶺回歸方法13第13頁，共29頁。嶺回歸方法14第14頁，共29頁。隨機解釋變量模型的解釋變量是確定性的變量，意味著解釋變量的取值是象實驗數據那樣具有可控制和可重復的性質。解釋變量的非隨機性以及它所隱含的解釋變量與模型的誤差項不相關的性質，使我們在推導和計算參數估計量的數學期望和方差等時獲得很大的便利，也保證了參數估計量服從的分布是已知的，事實上與誤差項服從同樣的分布，對保證最小二乘估計的性質、確定參數估計量的分布性質和數字特征等發(fā)揮重要的作用因為線性回歸模型中的解釋變量基本上都是各種各樣的經濟指標，通常不受研究者的控制，既是不可重復的又必然會有觀測誤差，多少具有一定的隨機性（如滯后變量、聯(lián)立方程模型等）。在大多數情況下，即使解釋變量是隨機的，大多數結論如無偏性、有效性、一致性等基本上仍然成立15第15頁，共29頁。隨機解釋變量16第16頁，共29頁。隨機解釋變量17第17頁，共29頁。隨機解釋變量如果隨機解釋變量X既與ε相關，又不漸近不相關，那么b1既不是β1的無偏估計，大樣本時也不是一致估計，這時參數的最小二乘估計就不再有效，必須引入其他參數估計方法這種情況在單方程模型中相對較少一些，但在聯(lián)立方程模型中更為常見，因為聯(lián)立方程模型中通常有內生變量作解釋變量的情況，而內生變量與誤差項之間常常密切相關18第18頁，共29頁。工具變量法19第19頁，共29頁。工具變量法20第20頁，共29頁。誤差項非正態(tài)分布線性回歸模型中隨機誤差項是服從正態(tài)分布的，這條假設對于得到參數估計的分布性質和特征，構建用于統(tǒng)計檢驗和推斷的統(tǒng)計量等有著非常重要的甚至是關健的作用雖然根據中心極限定理，當線性回歸模型的誤差項確實是由大量微小擾動因素綜合而成時，應服從正態(tài)分布。但研究現實經濟問題的線性回歸模型誤差項的構成情況是比較復雜的，并不一定符合中心極限定理的假設21第21頁，共29頁。直方圖檢驗22第22頁，共29頁。偏斜度和峰度檢驗23第23頁，共29頁。誤差項非正態(tài)分布的影響如根據檢驗誤差項偏離正態(tài)性的程度不很嚴重，那么各種相關檢驗和統(tǒng)計推斷基本上仍然有效如果模型的誤差項偏離正態(tài)分布的情況比較嚴重，那么在小樣本的情況下，相關的統(tǒng)計檢驗和推斷不再有效；但在樣本容量相當大的情況下，這些統(tǒng)計檢驗和推斷仍然有效，原因是即使誤差項不服從正態(tài)分布，參數的最小二乘估計在大樣本時也會漸近正態(tài)分布的在統(tǒng)計推斷和檢驗有效的情況，都只是在近似或漸近的意義上成立的，因此檢驗和推斷結論的可靠性，比誤差項不存在偏離正態(tài)性問題時要小一些，在使用時必須加以注意24第24頁，共29頁。最大似然估計一個隨機變量中所包含的各種參數，包括顯含的指數、系數，也包括隱含的均值、方差特征，即使我們不知道它們真實水平，它們也不僅存在著，而且在該隨機變量的數據生成過程中起著重要的作用或者決定性的作用。當然由于隨機誤差的影響，僅僅根據所生成的個別數據不可能充分反映這些參數的確切情況，但一定數量生成數據的分布、平均或某種綜合效果（如聯(lián)合分布概率密度），應該能夠基本上反映這些參數的情況理論上說參數水平不同的隨機變量能生成相同的數據集，但不同參數水平的隨機變量生成特定數據集的可能性是不同的，因此我們建立參數值與產生特定數據集的可能性之間的函數關系（似然函數），就可以找出最有可能產生該特定數據集的參數水平，并把它們作為參數真實值的一種估計25第25頁，共29頁。最大似然估計26第26頁，共29頁。最大似然估計27第27頁，共29頁。最大似然估計28第28頁，共29頁。內容梗概線性回歸分析的問題和分析方法擴展。多重共線性是指多元回歸模型中的解釋變量之間存在嚴格或近似的線性關系。如果解釋變量之間（兩個或多個變量）存在嚴格的線性關系，就會使解釋變量的觀測值矩陣X不是列滿軼的，從而最小二乘估計正規(guī)方程組的系數矩陣X’X奇異不可逆，無法解出唯一確定的參數估計值。如果解釋變量之間存在近似線性關系的情況，雖然不致于模型變量的不可識別和參數的估計失效，但對參數估計的性質和質量產生嚴重的不利影響。產生多重共線性的原因是經濟變量之間的內在聯(lián)系，經濟變量在時間上有同方向變化的趨勢，還有將解釋變量的滯后值作為單獨的因素等因素。相關系數檢驗：分析兩個或多個解釋變量之間的相關性，進行單相關或多元相關性的分析檢驗，是發(fā)現和判斷多重共線性總是的比較基本的方法。綜合統(tǒng)計檢驗法：如果決定系數R2值、F檢驗值很大，但各個回歸系數的t檢驗