《回歸分析》 課件全套 李揚(yáng) 第1-7章 緒論、一元線性回歸-廣義線性回歸

緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注回歸分析之緒論應(yīng)用回歸分析李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院

1/47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注統(tǒng)計(jì)學(xué)與回歸分析圖

1:統(tǒng)計(jì)學(xué)研究思路示意圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院2

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注目錄緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院3

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院4

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起“回歸”的概念最早出現(xiàn)在生物遺傳學(xué)領(lǐng)域，其中作出巨大貢獻(xiàn)的兩位學(xué)者就是達(dá)爾文（Darwin）和他的表弟高爾頓（Galton）。

1859年，達(dá)爾文發(fā)表了《OntheOriginofSpecies》（《物種起源》）一書(shū)，開(kāi)創(chuàng)了生物學(xué)發(fā)展史上的新紀(jì)元，引起了整個(gè)人類思想的巨大革命。圖

2:Darwin(1809-1882)（左）

Galton(1822-1911)（右）李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院5

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起在自然選擇理論思想的引導(dǎo)下，達(dá)爾文的表弟高爾頓（Galton）先后完成了兔子模型、甜豌豆模型等論證實(shí)驗(yàn)，試圖對(duì)人類遺傳規(guī)律進(jìn)行研究。圖

3:甜豌豆模型實(shí)驗(yàn)（左）兔子模型實(shí)驗(yàn)（右）李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院6

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起1885

年,通過(guò)允諾保密并提供獎(jiǎng)金的方式,高爾頓獲得了205

對(duì)夫婦及其928位成年子女的遺傳特征數(shù)據(jù)，包括身高、眼睛顏色、脾氣、藝術(shù)才能、疾病等。其中身高數(shù)據(jù)見(jiàn)下表：圖

4:高爾頓實(shí)驗(yàn)數(shù)據(jù)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院7

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院8

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院9

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注發(fā)展圖

5:回歸分析發(fā)展歷程李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院10

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：最小二乘法的提出回歸分析中經(jīng)典的最小二乘法最早出現(xiàn)于天文學(xué)與地理測(cè)量學(xué)領(lǐng)域的研究。1801年，意大利天文學(xué)家皮亞齊（Piazzi）發(fā)現(xiàn)了第一顆小 行星谷神星，經(jīng)過(guò)40天的跟蹤觀測(cè)后，由于谷神星運(yùn)行至太 陽(yáng)背后，使得皮亞齊失去了谷神星的位置。為利用皮亞齊的觀測(cè)數(shù)據(jù)尋找谷神星的運(yùn)行軌道，1805年勒 讓德（Legendre）在一本關(guān)于計(jì)算彗星軌道的書(shū)籍中首次發(fā) 表了最小二乘法清晰和簡(jiǎn)明的闡述。1809年，高斯（Gauss）發(fā)表了著作《關(guān)于繞日行星運(yùn)動(dòng)的 理論》。書(shū)中聲稱他自1799年以來(lái)就使用最小二乘方法，并 且其提出的正態(tài)誤差理論也成功地將最小二乘法與概率原理 和正態(tài)分布聯(lián)系起來(lái)。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院11

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系小故事：高斯與勒讓德之爭(zhēng)圖

6:高斯與勒讓德之爭(zhēng)最小二乘法的提出，曾在高斯與勒讓德兩位大數(shù)學(xué)家之間引發(fā)了優(yōu)先權(quán)之爭(zhēng)，其知名度僅次于牛頓和萊布尼茲之間關(guān)于微積分發(fā)明的優(yōu)先權(quán)之爭(zhēng)。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院12

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注發(fā)展圖

7:回歸分析發(fā)展歷程李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院13

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：19世紀(jì)-20世紀(jì)初19世紀(jì)80年代1885年，高爾頓完成了人類遺傳研究實(shí)驗(yàn),獲得了205

對(duì)夫婦及其928

位成年子女的遺傳特征數(shù)據(jù)。借由實(shí)驗(yàn)中的身高數(shù)據(jù)，

高爾頓發(fā)現(xiàn)，

當(dāng)父母身高走向極 端，子女的身高不會(huì)象父母身高那樣極端化，其身高要比父 母?jìng)兊纳砀吒咏骄砀撸从小盎貧w”到平均數(shù)去的趨 勢(shì)，“回歸”的概念由此誕生。20世紀(jì)初馬爾可夫（Markov）于1900年證明了在經(jīng)典線性回歸的假定下，最小二乘估計(jì)量是具有最小方差的性質(zhì)。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院14

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注發(fā)展圖

8:回歸分析發(fā)展歷程李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院15

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：20世紀(jì)50-70年代20世紀(jì)50年代1953年，Box提出“穩(wěn)健”（Robustness）的概念。James和

Stein

發(fā)現(xiàn)，最小二乘估計(jì)并不具有不可容許性。20世紀(jì)60年代1962年Horel提出了嶺回歸估計(jì)；

1965年，Massy提出了主成分回歸估計(jì)。在穩(wěn)健概念的基

上，1964年，Huber提出了基于位置參M估 計(jì)量，同年提出極小極大理論也為解決參數(shù)估計(jì)的效率問(wèn)題 奠定理論基

。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院16

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：20世紀(jì)50-70年代20世紀(jì)70年代1970年，Schweppe

提出加權(quán)最小二乘估計(jì)方法，并將該方法應(yīng)用于電力系統(tǒng)的狀態(tài)估計(jì)中。1972年，Nelder放寬對(duì)因變量隨機(jī)誤差的正態(tài)分布要求，提出廣義線性模型；Gallant于1975年提出非線性回歸的概念。1978年，Koenker

和Bassett提出分位回歸模型以研究自變量 與因變量條件分位數(shù)的關(guān)系；

AIC、Cp準(zhǔn)則也分別于1971、

1973年問(wèn)世。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院17

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注發(fā)展圖

9:回歸分析發(fā)展歷程李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院18

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：20世紀(jì)80年代-21世紀(jì)初20世紀(jì)80年代1983年，Wold提出偏最小二乘法，不但放寬n

>p的假定，也使得每一個(gè)系數(shù)估計(jì)更易解釋。Baron于1986年提出利用逐步回歸的思想實(shí)現(xiàn)對(duì)變量的選擇。最小截尾二乘法LTS（Least

Truncated

Square）、最小中位數(shù) 二乘法LMS（LeastMedianSquare）、S估計(jì)、MM估計(jì)都是這 一時(shí)期提出的。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院19

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系發(fā)展：20世紀(jì)80年代-21世紀(jì)初20世紀(jì)90年代Tibshirani于1996年提出了利用Lasso罰函數(shù)實(shí)現(xiàn)變量選擇的思想，解決了高維情況下回歸系數(shù)的估計(jì)問(wèn)題。21世紀(jì)初Fan于2001年提出的SCAD方法以及2007年Zhang提出的MCP 法均屬于基于罰函數(shù)的變量選擇方法，區(qū)別在于罰函數(shù)形式 不同。Zou于2006年提出的Adaptive

Lasso

法同樣可以用于變量選擇，該方法下得到的估計(jì)具有Oracle性質(zhì)。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院20

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院21

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注函數(shù)關(guān)系

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院22

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注函數(shù)關(guān)系圖

10:銷售量（萬(wàn)件）與銷售額（萬(wàn)元）函數(shù)關(guān)系圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院23

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注統(tǒng)計(jì)關(guān)系統(tǒng)計(jì)關(guān)系書(shū)籍單價(jià)Y

與書(shū)籍頁(yè)數(shù)X

間的關(guān)系房屋價(jià)格Y

與房屋面積X

間的關(guān)系居民消費(fèi)額Y

與居民收入X

間的關(guān)系李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院24

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注統(tǒng)計(jì)關(guān)系?2.50.02.5?440xy圖

11:x與y的相關(guān)關(guān)系李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院25

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系統(tǒng)計(jì)關(guān)系與函數(shù)關(guān)系的區(qū)別通過(guò)上述示例可以發(fā)現(xiàn)，統(tǒng)計(jì)關(guān)系與函數(shù)關(guān)系的區(qū)別在于：函數(shù)關(guān)系是一種確定性的關(guān)系，當(dāng)其中一個(gè)變量給定，另一 個(gè)變量的取值確定；統(tǒng)計(jì)關(guān)系則是一種非確定性的關(guān)系，當(dāng) 一個(gè)變量變化時(shí)，另一變量的取值有一定的隨機(jī)性。從研究方法看，客觀現(xiàn)象的函數(shù)關(guān)系可以用數(shù)學(xué)分析的方法 研究；而研究客觀現(xiàn)象的統(tǒng)計(jì)關(guān)系，則必須借助于統(tǒng)計(jì)學(xué)中 的相關(guān)與回歸分析方法。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院26

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注統(tǒng)計(jì)關(guān)系的刻畫(huà)

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院27

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系相關(guān)分析與回歸分析的區(qū)別一是變量的地位不同。在回歸分析中，變量有因變量和自變 量之分，因變量處于被解釋的地位。研究人員希望討論自變 量對(duì)因變量的影響。在相關(guān)分析中，變量的地位平等，研究 變量A和變量B的相關(guān)關(guān)系與研究變量B和變量A的相關(guān)關(guān)系 是等價(jià)的。二是變量的類型存在差異。回歸分析中，

因變量為隨機(jī)變 量，自變量可以是隨機(jī)變量也可以是非隨機(jī)變量，而相關(guān)分 析中變量都是隨機(jī)變量。三是研究目的不完全相同。相關(guān)分析的研究目的是為了探究 兩類變量間相關(guān)關(guān)系，而回歸分析一方面研究自變量對(duì)因變 量的影響并對(duì)現(xiàn)象進(jìn)行解釋，另一方面也可實(shí)現(xiàn)預(yù)測(cè)與控制 的功能。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院28

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院29

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注研究?jī)?nèi)容線性回歸分析對(duì)回歸模型中參數(shù)估計(jì)方法的研究對(duì)回歸模型檢驗(yàn)與診斷的研究對(duì)回歸模型選擇的研究非線性回歸分析參見(jiàn)文獻(xiàn)Bates

and

Watts(1988)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院30

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系研究?jī)?nèi)容：估計(jì)方法19世紀(jì)初，最小二乘法的提出在估計(jì)回歸系數(shù)過(guò)程中發(fā)揮了重要作用。極大似然估計(jì)、加權(quán)最小二乘估計(jì)等方法在不同條件下亦可用于回歸模型參數(shù)的估計(jì)。為解決在假設(shè)不滿足情況下最小二乘估計(jì)量失效的問(wèn)題，一 些改進(jìn)的參數(shù)估計(jì)方法應(yīng)運(yùn)而生，比如嶺回歸估計(jì)、主成分 回歸估計(jì)等。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院31

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系研究?jī)?nèi)容：檢驗(yàn)與診斷在回歸分析中，對(duì)模型進(jìn)行檢驗(yàn)與診斷是必要工作之一。估計(jì)模型對(duì)觀測(cè)數(shù)據(jù)的擬合效果是否良好？回歸系數(shù)在總體 中是否與零有顯著差異？這些問(wèn)題可以通過(guò)對(duì)參數(shù)進(jìn)行假設(shè) 檢驗(yàn)來(lái)回答?；貧w模型建立在一些假設(shè)基

上，通過(guò)檢驗(yàn)與診斷判別數(shù)據(jù) 是否滿足基本假設(shè)對(duì)估計(jì)方法的選擇與數(shù)據(jù)處理具有重要意 義。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院32

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系研究?jī)?nèi)容：模型選擇在實(shí)證研究中，研究人員根據(jù)研究目標(biāo)事先確定了因變量與 自變量范圍，并不意味著該模型一定具有合理性。針對(duì)同一 個(gè)因變量，不同的自變量組合可以建立不同的模型。變量選擇是依據(jù)某種評(píng)價(jià)準(zhǔn)則從眾多備選模型中選擇最優(yōu)結(jié) 果的過(guò)程。常用的經(jīng)典模型選擇準(zhǔn)則有AIC、BIC、Cp等，還 有一些基于懲罰函數(shù)的新興的模型選擇方法等。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院33

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院34

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路圖

12:回歸分析建模思路示意圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院35

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系建模思路：描述統(tǒng)計(jì)例1.2

安斯庫(kù)姆（Anscombe）曾于1973年構(gòu)造了四組數(shù)據(jù)，見(jiàn)下表。請(qǐng)讀者分別根據(jù)這四組數(shù)據(jù)建立回歸模型，

并對(duì)此進(jìn)行分析。X1Y1X2Y2X3Y3X4Y444.2643.1045.3986.5855.6854.7455.7385.7667.2466.1366.0887.7174.8277.2676.4488.8486.9588.1486.7788.4798.8198.7797.1187.04108.04109.14107.4685.25118.33119.26117.8185.561210.84129.13128.1587.91137.58138.741312.7486.89149.96148.10148.841912.5李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院36

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系建模思路：描述統(tǒng)計(jì)

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院37

/

47研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展

變量間的關(guān)系建模思路：描述統(tǒng)計(jì)圖

13:安斯庫(kù)姆數(shù)據(jù)散點(diǎn)圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院38

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路圖

14:回歸分析建模思路示意圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院39

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路：示例例1.1研究者希望利用回歸分析對(duì)某地區(qū)某行業(yè)中產(chǎn)品的產(chǎn)量與生產(chǎn)總成本間的關(guān)系進(jìn)行研究。為實(shí)現(xiàn)研究目標(biāo)，從當(dāng)?shù)仄髽I(yè)中按照某種抽樣方法隨機(jī)抽取了20家企業(yè)，獲取數(shù)據(jù)見(jiàn)表1。請(qǐng)利用表中的數(shù)據(jù)建立產(chǎn)量與生產(chǎn)費(fèi)用間的回歸模型，并進(jìn)行簡(jiǎn)要分析。編號(hào)產(chǎn)量生產(chǎn)費(fèi)用編號(hào)產(chǎn)量生產(chǎn)費(fèi)用1782401122370622065971218656332025981312137142066511428189652658731512336462106541625973575216017122425810830818117330921763919973201017968820108307李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院40

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路：示例研究目標(biāo)為對(duì)某地區(qū)某行業(yè)的生產(chǎn)損耗進(jìn)行影響因素分析根據(jù)研究目標(biāo)設(shè)置指標(biāo)變量，收集數(shù)據(jù)將生產(chǎn)損耗的直接表達(dá)生產(chǎn)費(fèi)用作為因變量自變量的選擇一方面需要從眾多影響因素中，另一方面也需要考慮變量的可測(cè)性這一環(huán)節(jié)需要多次推敲，不妨向該領(lǐng)域?qū)＜疫M(jìn)行咨詢李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院41

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路：示例通過(guò)描述統(tǒng)計(jì)方法觀察變量間的關(guān)系

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院42

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路：示例

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院43

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注建模思路：示例

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院44

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院45

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注小結(jié)與評(píng)注本章從回歸概念的緣起與發(fā)展、變量間的關(guān)系出發(fā)，重點(diǎn)介 紹了回歸分析的研究?jī)?nèi)容與建模思路，以便于讀者從宏觀上 對(duì)本書(shū)內(nèi)容有所了解。重視描述統(tǒng)計(jì)與推斷統(tǒng)計(jì)相結(jié)合，可以幫助研究者在建模流程中少走彎路，更快得到科學(xué)、客觀、合理的分析結(jié)果。本書(shū)討論的回歸分析主要基于非隨機(jī)自變量的假定。然而在回歸分析的大框架中，自變量同樣可以為隨機(jī)變量。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院46

/

47緣起與發(fā)展變量間的關(guān)系研究?jī)?nèi)容建模思路小結(jié)與評(píng)注謝謝！李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之緒論中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院47

/

47一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注回歸分析之一元線性回歸應(yīng)用回歸分析李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院48

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注目錄一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院49

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院50

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注成績(jī)案例

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院51

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法成績(jī)案例散點(diǎn)圖中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院52

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法一元線性回歸模型

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院53

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注模型假定

正態(tài)性假定中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院54

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注模型假設(shè)

在正態(tài)性假設(shè)下有中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院55

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法回歸分析思想圖示中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院56

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法回歸分析思想圖示中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院57

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院58

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法最小二乘估計(jì)思想

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院59

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法最小二乘估計(jì)思想中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院60

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法其他類似估計(jì)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院61

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法最小二乘估計(jì)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院62

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法最小二乘估計(jì)

上式可以簡(jiǎn)化成中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院63

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注成績(jī)案例

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院64

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注成績(jī)案例

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院65

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法極大似然估計(jì)

?

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院66

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院67

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注線性性

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院68

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注無(wú)偏性

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院69

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法方差、協(xié)方差的性質(zhì)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院70

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法最佳線性無(wú)偏估計(jì)高斯-馬爾可夫定理：當(dāng)高斯-馬爾可夫條件成立時(shí)，最小二乘估計(jì)的最佳線性無(wú)偏估計(jì)，即在所以線性無(wú)偏估計(jì)中，最小二乘估計(jì)量的方差最小。非線性的無(wú)偏估計(jì)？中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院71

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院72

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型t

檢驗(yàn)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院73

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法什么是P

值？

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院74

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法雙側(cè)檢驗(yàn)的P

值中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院75

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法左側(cè)檢驗(yàn)的P

值中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院76

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法右側(cè)檢驗(yàn)的P

值中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院77

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注檢驗(yàn)準(zhǔn)則

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院78

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型F

檢驗(yàn)F

檢驗(yàn)是根據(jù)平方和分解式，直接從回歸效果檢驗(yàn)回歸方程的顯著性。平方和分解式為：

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院79

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法SST

=

SSR

+

SSE中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院80

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法方差分析表中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院81

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法樣本相關(guān)系數(shù)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院82

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法樣本相關(guān)系數(shù)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院83

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法樣本相關(guān)系數(shù)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院84

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法樣本相關(guān)系數(shù)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院85

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法樣本相關(guān)系數(shù)檢驗(yàn)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院86

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法三種檢驗(yàn)的關(guān)系相關(guān)系數(shù)檢驗(yàn)與回歸系數(shù)顯著性的t

檢驗(yàn)為等價(jià)關(guān)系回歸系數(shù)顯著性t

檢驗(yàn)與回歸方程顯著性F

檢驗(yàn)為等價(jià)關(guān)系思考：為什么會(huì)有這種等價(jià)關(guān)系？中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院87

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注決定系數(shù)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院88

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注殘差概念

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院89

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注殘差圖中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院90

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注殘差圖中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院91

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法殘差的性質(zhì)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院92

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法改進(jìn)的殘差標(biāo)準(zhǔn)化殘差，使得殘差具有可比性：標(biāo)準(zhǔn)化殘差，使得殘差具有可比性：

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院93

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法回歸系數(shù)的區(qū)間估計(jì)中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院94

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院95

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型

參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注單值預(yù)測(cè)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院96

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)

模型推斷區(qū)間預(yù)測(cè)-因變量新值的區(qū)間預(yù)測(cè)

從而得中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院97

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)

模型推斷區(qū)間預(yù)測(cè)-因變量新值的區(qū)間預(yù)測(cè)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院98

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)

模型推斷區(qū)間預(yù)測(cè)-因變量新值的區(qū)間預(yù)測(cè)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院99

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)

模型推斷區(qū)間預(yù)測(cè)-因變量新值的區(qū)間預(yù)測(cè)

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院100

/

59

李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法區(qū)間估計(jì)-計(jì)算

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院101

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)例2.1-模擬數(shù)據(jù)的生成

中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院102

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法

參數(shù)估計(jì)性質(zhì)例2.2-數(shù)值模擬的流程中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院103

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院104

/

59一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注一元線性回歸模型

參數(shù)估計(jì)方法小結(jié)與評(píng)注本章介紹了一元回歸模型適用場(chǎng)景以及回歸模型未知參數(shù)的估計(jì)、最小二乘估計(jì)的性質(zhì)、回歸方程的顯著性檢驗(yàn)、回歸系數(shù)的區(qū)間估計(jì)、殘差分析的基本概念和方法、回歸模型的主要應(yīng)用等問(wèn)題。一元線性回歸模型比較簡(jiǎn)單，但是可以讓讀者對(duì)回歸分析方法的思想有一個(gè)初步了解，也為后面推廣到多元線性回歸打下基礎(chǔ)。中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院105

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸一元線性回歸模型參數(shù)估計(jì)方法參數(shù)估計(jì)性質(zhì)模型推斷模型預(yù)測(cè)小結(jié)與評(píng)注謝謝！中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院106

/

59李揚(yáng)/林存潔/王菲菲/孫韜/廖軍回歸分析之一元線性回歸多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸應(yīng)用回歸分析李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院107

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性目錄多元線性回歸模型參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)類別型自變量分段線性回歸實(shí)例分析小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院108

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性點(diǎn)球成金李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院109

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性電影《點(diǎn)球成金》講述了奧克蘭田徑棒球隊(duì)總經(jīng)理比利·比恩（BillyBeane）如何利用分析技術(shù)組建一支有競(jìng)爭(zhēng)力的球隊(duì)的故事。這部電影是根據(jù)邁克爾·劉易斯2003

年出版的同名非小說(shuō)類書(shū)籍《點(diǎn)球成金：贏得不公平游戲的藝術(shù)》改編1。1/

qinyn/BANA7038/moneyball.html李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院110

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性取因變量為回合數(shù)(runs,R),散點(diǎn)圖y

軸為因變量，x

軸為各自變量2：2/

qinyn/BANA7038/moneyball.html李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院111

/

105中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)

模型推斷化肥成分含量與農(nóng)作物產(chǎn)出關(guān)系某種化肥含氮、磷和鉀三種主要成分。為了研究該肥料三種成分不同含量對(duì)某種農(nóng)作物產(chǎn)量的影響，對(duì)每畝農(nóng)作物施用一定量的該種化肥，得到了該作物每畝收成以及該化肥各主要成分含量的數(shù)據(jù)，如表1所示。李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院112

/

105中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)

模型推斷化肥成分含量與農(nóng)作物產(chǎn)出關(guān)系表1:某農(nóng)作物每畝收成與對(duì)應(yīng)施用化肥中氮、磷和鉀含量數(shù)據(jù)

氮含量（X1，單位：千克）磷含量（X2，單位：克）

0.798

10000.062鉀含量（X3，單位：千克）

30.098作物收成（Y

，單位：千克/畝）332.6241.90510527.58032.130355.7912.16811053.39429.476352.4673.60811580.22132.402383.8593.31212104.94931.783386.8693.98712631.64134.154409.3873.56013157.67532.994413.1295.33013684.94135.203438.5384.26414209.86934.454440.7725.20314737.58933.058446.0856.12715263.56735.016468.6546.60715791.73134.251474.2626.78316316.15236.695496.3498.19816842.49438.940524.1048.05517368.23135.296511.2138.37617895.01539.075542.6278.49018421.73637.222542.0859.86318948.28640.972575.7918.91319475.25041.055583.57512.61020001.47039.361592.589李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院113

/

105中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)

模型推斷化肥成分含量與農(nóng)作物產(chǎn)出關(guān)系圖1:氮、磷和鉀含量數(shù)據(jù)與農(nóng)作物產(chǎn)量三維圖。其中，(a)圖的自變量為氮、磷含量；(b)圖的自變量為氮、鉀含量；(c)圖為磷、鉀含量李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院114

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)類別型自變量分段線性回歸實(shí)例分析小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院115

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性引言李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院116

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性引言李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院117

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型簡(jiǎn)介李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院118

/

105

(1)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型簡(jiǎn)介李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院119

/

105稱

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型假定李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院120

/

105

(4)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型假設(shè)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院121

/

105正態(tài)性假定(5)從而有模型（3）滿足(6)

(7)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型解釋李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院122

/

105為了對(duì)多元線性回歸模型以及對(duì)應(yīng)的回歸系數(shù)進(jìn)行解釋，使用服裝銷售研究中的員工薪資、宣傳費(fèi)用和流動(dòng)資金三個(gè)變量對(duì)服裝銷售量的影響這一實(shí)例，給出回歸方程的幾何解釋以及各回歸系數(shù)的實(shí)際含義。(8)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性模型解釋李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院123

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)類別型自變量分段線性回歸實(shí)例分析小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院124

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性最小二乘估計(jì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院125

/

105

(9)其中，

為離差平方和。(10)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性最小二乘估計(jì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院126

/

105利用式（10）對(duì)各參數(shù)求偏導(dǎo)并令其等于0，即(11)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性最小二乘估計(jì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院127

/

105有

(12)稱

(13)為經(jīng)驗(yàn)回歸方程。多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性極大似然估計(jì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院128

/

105由式（7）有似然函數(shù)

取對(duì)數(shù)并分別對(duì)參數(shù)β

和σ2

求偏導(dǎo)，并令其等于0

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性極大似然估計(jì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院129

/

105

(14)

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)例3.1李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院130

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性回歸擬合值與殘差李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院131

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性回歸擬合值與殘差李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院132

/

105

(18)稱(19)

(20)為回歸殘差向量。

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性回歸擬合值與殘差李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院133

/

105由式（17）有

則(21)因而有(22)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性回歸擬合值與殘差李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院134

/

105由式（11）可知，殘差滿足

(23)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性估計(jì)性質(zhì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院135

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院136

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院137

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院138

/

105由

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院139

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院140

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院141

/

105性質(zhì)5

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院142

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性估計(jì)性質(zhì)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院143

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院144

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院145

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院146

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院147

/

105從而有

作變換，令

有故有

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院148

/

105

所以

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)類別型自變量分段線性回歸實(shí)例分析小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院149

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性引言李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院150

/

105

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)F

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院151

/

105

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)F

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院152

/

105類似于一元線性回歸檢驗(yàn)，這里仍使用總離差平方和的分解式，即簡(jiǎn)記為

(24)其中，進(jìn)而構(gòu)造F

檢驗(yàn)統(tǒng)計(jì)量(25)

模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)F

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院153

/

105表2:方差分析表模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)F

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院154

/

105

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)t

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院155

/

105

(26)由性質(zhì)（6）有

(27)

(28)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)t

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院156

/

105

(29)其中，

模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)t

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院157

/

105

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)偏F

檢驗(yàn)李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院158

/

105

(30)

(31)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性擬合優(yōu)度李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院159

/

105類似于一元線性回歸模型，可以定義關(guān)于多元線性回歸模型的樣本決定系數(shù)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性擬合優(yōu)度李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院160

/

105(33)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性置信區(qū)間李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院161

/

105由性質(zhì)（6）及式（28），可得

(34)

(35)

模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)例3.2李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院162

/

105例3.1

中已經(jīng)得到了某農(nóng)作物每畝產(chǎn)量與某化肥氮、磷和鉀含量之間的線性估計(jì)方程。這里將對(duì)模型以及各回歸系數(shù)的估計(jì)結(jié)果分別進(jìn)行F檢驗(yàn)和t

檢驗(yàn)，并計(jì)算相應(yīng)的擬合優(yōu)度。檢驗(yàn)結(jié)果見(jiàn)表3。表3:參數(shù)估計(jì)以及模型推斷結(jié)果模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)例3.2李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院163

/

105

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性多元線性回歸模型參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化相關(guān)陣與偏相關(guān)系數(shù)類別型自變量分段線性回歸實(shí)例分析小結(jié)與評(píng)注李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院164

/

105多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性引言李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院165

/

105在多元線性回歸模型的使用場(chǎng)景中，常常會(huì)遇到自變量之間具有不同度量單位的情形。例如，對(duì)于距離這一變量而言，有的數(shù)據(jù)記錄采用的是以米為單位，而有的則可能是以千米為單位，再如對(duì)于商品價(jià)格而言，有的數(shù)據(jù)記錄采用的是以人民幣元為單位，也有的可能是以美元為單位。在分析類似數(shù)據(jù)時(shí)，得到的結(jié)果可能會(huì)不一致，對(duì)分析結(jié)果的比較也會(huì)帶來(lái)影響，因此需要對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，例如：中心化（centralization）和標(biāo)準(zhǔn)化（normalization）。多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院166

/

105記(36)則經(jīng)驗(yàn)回歸方程（13）等價(jià)于

(37)

多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性圖2:數(shù)據(jù)中心化效果示意圖李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院167

/

105中心化稱式（37）為中心化經(jīng)驗(yàn)回歸方程。中心化經(jīng)驗(yàn)回歸方程中的常數(shù)項(xiàng)為

0，中心化是將樣本中心移到坐標(biāo)原點(diǎn)，因而方程中沒(méi)有截距項(xiàng)，而其他回歸系數(shù)的最小二乘估計(jì)值則保持不變。顯然，這是因?yàn)樽鴺?biāo)的平移變換不會(huì)改變直線的斜率，圖2為數(shù)據(jù)中心化處理的示意圖。多元線性回歸模型

參數(shù)的估計(jì)與性質(zhì)模型推斷中心化與標(biāo)準(zhǔn)化

相關(guān)陣與偏相關(guān)系數(shù)

類別型自變量

分段線性標(biāo)準(zhǔn)化李揚(yáng)/林存潔/王菲菲/孫韜/廖軍多元線性回歸中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院168

/

105在多元線性回歸模型中，由于自變量X1,·

·

·

,Xp

所用單位