補(bǔ)充基礎(chǔ)知識-統(tǒng)計學(xué)基礎(chǔ)

(x)dx，DX()統(tǒng)計學(xué)基礎(chǔ)知識經(jīng)濟(jì)計量模型是一類十分重要的統(tǒng)計模型用描述一些經(jīng)濟(jì)當(dāng)中的隨機(jī)現(xiàn)象及規(guī)律為我需要對經(jīng)濟(jì)計量型給出一些基本的介紹便學(xué)習(xí)更為深入的經(jīng)濟(jì)計量學(xué)理論與方法。為此，我們需要首先回顧概率論與數(shù)理統(tǒng)計方面的一些重要內(nèi)容?！?.1隨機(jī)變量及其分布的數(shù)字特征§隨機(jī)變量任何隨機(jī)實驗的結(jié)果都可以利用樣本空間表示，因此可以在樣本空間上定義隨機(jī)變量。定3.1定義在樣本間上的實值可測函數(shù)，稱為隨機(jī)變量。這樣一來隨機(jī)變量可以表示很隨機(jī)實驗的結(jié)果可以通過定量化變量來表示隨機(jī)實驗的結(jié)果。定義隨機(jī)變量以后可以定義隨機(jī)變量的概率分布函數(shù)樣就可以利用概率分布函數(shù)分析隨機(jī)變量取值的概率?！祀S機(jī)變量的概率分布定3.2假設(shè)是隨機(jī)變量，對任意實數(shù)x定義函數(shù)：F(x{X}

(3.1)我們稱函數(shù)(x)是隨機(jī)量的率分布函數(shù)。如此定義的概率分布函數(shù)是左連續(xù)函數(shù)。當(dāng)分布函數(shù)連續(xù)可微的時候?qū)?shù)稱為概率密度函數(shù)分函數(shù)存在可數(shù)個間斷點時，稱其為離散概率分布，這時可以定義離散概率分布列。如果了解了隨機(jī)變量的概率分布，則可以計算出任何區(qū)間內(nèi)隨機(jī)變量的概率，則有：命3.1假設(shè)是隨機(jī)變量，(x)是率布函數(shù)，f(概率密度函數(shù)則對于任意的實數(shù)a，：P{a}(b)a)

b

f(x)

(3.2)a§隨機(jī)變量的數(shù)字特征由于徹底了解隨機(jī)變量的概率性質(zhì)要知道隨機(jī)變量的分布函數(shù)或者密度函數(shù)是比較困難的因此有時候只要了解一些概率分布函數(shù)的重要特征就可以了此們討論下述隨機(jī)變量的重要數(shù)字特征，即均值和方差。定3.3假設(shè)是隨機(jī)變量，并且二次可積，則定義隨機(jī)變量的均值和方差為：E

(x)

f()均值和方差具有非常重要的統(tǒng)計性質(zhì)值表示隨機(jī)變量的平均取值方差表示隨機(jī)變量圍繞均值的波動程度。這里的波動經(jīng)常代表一種“信息”和“風(fēng)險大家給予深入的理解。例一些重要的概率分布函數(shù)如下：均分布(f(x)

X~Ua,)x,)x(b)

)，密度函數(shù)為：

(3.3)/

12kk12kkf()，f(y)Y

a2

，DX

()12

2均勻分布是一種表示均等可能的概率分布等同無知“同濃度概。指分布密函數(shù)為：exp[],f()

(3.4)

EX

，

2指數(shù)分布經(jīng)常表示一種生命過程，例如產(chǎn)品周期和使用壽命等。正分布X~N

2

)，是十分重要的概率分布。其分布密度函數(shù)為：f(x)

2

exp

，

(3.5)這種分布的意義應(yīng)該給予更為深刻的了解，因此這種分布是概率統(tǒng)計的基礎(chǔ)。顯然有：EX

，DX

2二分布X~B)假設(shè)隨機(jī)變量0,2,,n概率分布列為：(X)(1p)nEXnpDXnpq

n

(3.6)二項分布表示次試驗中成功次數(shù)的概率分布，是一種十分常見的離散概率分布類型。泊分布(XP(

假隨機(jī)變X0,1,

，概率分布列為：()

k!

，

(3.7)EX

，DX泊松分布經(jīng)常表示一段時間(0,t)內(nèi)種時間發(fā)生頻率或者強(qiáng)度的概率分布?！?.2多元隨機(jī)向量及其概率分布§多元隨機(jī)向量如果一個隨機(jī)變量無法描述一個隨機(jī)現(xiàn)象某射擊的彈落點就需要二元坐標(biāo)加以度量則需要多個隨機(jī)變量一起量這些隨機(jī)現(xiàn)象隨變量為分量構(gòu)成的向量稱為隨機(jī)向量。定3.4設(shè)X,,)是維機(jī)向量對任意實數(shù)(x,,x)，稱n元數(shù)：11F(x,){x,X}Xn為,,X)的合概率分布函數(shù)。1

(3.8)有了上述聯(lián)合概率分布函數(shù)的定義以后可聯(lián)合概率密度函數(shù)定邊際概率密度和條件概率密度。聯(lián)合概率密度函數(shù)定義為：F(x,)f,,x)例如對于二元概率密度函數(shù)f(Y)

(y)

，邊際密度函數(shù)定義為：

(3.9)f()X

f()dx

條件概率密度函數(shù)為：/

iiiif(|)

f

()(,)f(yY

，f(|X)

f

(x)(,Y)f()

§隨機(jī)向量之間的獨立和相依性獨立性和相關(guān)性是隨機(jī)變量之間最為重要的相互關(guān)系，獨立性定義為：定3.5如果隨機(jī)向的聯(lián)合概率分布函數(shù)等于邊際分布函數(shù)的乘積機(jī)變量之間的相互獨立的。對于兩個隨機(jī)變量而言如果f

(,)

(,)(x)f()則兩個隨機(jī)變量X和之Y是相互獨立的對多個隨機(jī)變而言兩獨立和相互獨立之間存在區(qū)別在用中應(yīng)該給予注意。如果兩個隨機(jī)變量之間不是獨立的其相依的需要定義它們之間的協(xié)方差，即：Y)[(X)(Y)]

上述協(xié)方差表示兩個隨機(jī)變量圍繞其均值偏離水平之間的關(guān)系果協(xié)方差大于零說明兩個隨機(jī)變量具有相同的變化趨勢果方差小于零說明兩個隨機(jī)變量具有相反的變化趨勢；這種統(tǒng)計性質(zhì)需要大家認(rèn)真理解協(xié)方差定義來加以理解。如果協(xié)方差等于零，則稱兩個隨機(jī)變量是無關(guān)的。將協(xié)方差標(biāo)準(zhǔn)化，可以得到相關(guān)系數(shù)的定義。定3.5如果隨機(jī)向X和Y均是非退化的，即具有大于零的方差，則定義關(guān)系數(shù)為：

,)DX

相關(guān)系數(shù)定量地描述隨機(jī)變量之間的線性相關(guān)程度?！?.3抽樣分布和參數(shù)估計注意到上述所描述的分布及其特征都是理論上的得對現(xiàn)實隨機(jī)現(xiàn)象及其分布的認(rèn)識必通過抽取數(shù)據(jù)進(jìn)行推和估計。為此論上的分布稱為母體的，獲得數(shù)據(jù)后的推斷稱為樣本的。母體的性質(zhì)是理論上的，樣本的性質(zhì)是經(jīng)驗的?！鞓颖竞徒y(tǒng)計量假設(shè)X,12

,X

n

是從母體X中得的樣本，這些樣本在進(jìn)行實驗之前是隨機(jī)變量，而進(jìn)行實驗以后就是觀測值。因此，一般情況下，我們所表示的都是樣本，而不是觀測值，這樣X,12

,X

n

是具有獨立同分布的隨機(jī)變量，這樣的樣本也稱為簡單隨機(jī)子樣。定3.4不包含任何數(shù)的樣本的函數(shù)，稱為統(tǒng)計量。統(tǒng)計量是可以計算出數(shù)值的統(tǒng)計量最為重要的性質(zhì)下述都是重要的統(tǒng)計量：1樣本均值：Xni

i

樣本方差：S

1n()ni

1n樣本k原矩：rXni

i

1樣本k中矩：w(XX)ni

/

nxtxTtnxtxTt樣本極差：max{X}min{}nii1樣本協(xié)方差：()iii隨機(jī)變量的矩：連續(xù)隨機(jī)變量的階定義為：

m

(X

)

X

f(x這里“”示數(shù)學(xué)期望

f(x)是X的概率密度函數(shù)。一階矩稱之為X的值或者數(shù)學(xué)期望其量的是分布的中位置我們用表的均值。的階心矩可以表示為：mE(X)

(X)

f(x假定積分存在。二階中心矩用

x

表示，度量的是

的變化，稱為

的方差。方差的正平方根稱的標(biāo)準(zhǔn)離差知道一階矩和二階矩就可以確定一個唯一的正態(tài)分布x于其他的分布，則要考慮更高階矩。三階矩度量

相對于均值的對稱性。四階矩度量的是

的尾部特征。統(tǒng)計學(xué)意義上，偏度和峰度（也就是的階矩和四階矩）常用于概括分布的偏峰和厚尾的程度。X的三階矩和四階矩定義如下：S)E

(X)3

，()

(X)4

。因為正態(tài)分布下

K()

，因此

()

稱之為剩余峰度。于是，正態(tài)隨機(jī)變量的剩余峰度為零如果一個分布具有的剩余峰度稱之為厚尾的這暗示著和正態(tài)分布相比較，該分布在尾部有更多的質(zhì)量。在實際中，這意味著這樣的隨機(jī)分布具有更多的極值。在應(yīng)用上度和峰1可以通過樣本觀測值估計出來

{}T

是隨機(jī)變量

的T

個樣本觀測值，樣本均值如下：tTt樣本方差為：

（）

2x

1T()Tt

（）樣本偏度為：()

1

t

(

tx

3

（）樣本峰度為：(x)(x)4t在正態(tài)假設(shè)下，()和K(x進(jìn)的服從零均值，方差分別為T和24。也為峭度，描述的是密度函數(shù)的陡峭程度，若十分陡峭，則具有厚尾的特性。/

（）

§參數(shù)估計如果隨機(jī)變量的概率分布中存在未知參數(shù)需要利用統(tǒng)計量將參數(shù)估計出來般估計方法有兩種，一種是點估計，一種是區(qū)間估計。參點估計(pointestimation)常用的點估計方法有兩種一種是矩估計一種是極大似然估計矩估計是假設(shè)樣本原點矩等于母體原點矩從而獲得數(shù)的估計極大似然估計是通過似然函數(shù)的極大化得參數(shù)的點估計，這是最為重要的一種參數(shù)估計方法。極大似然估計依據(jù)極大似然原理，可以從下述例子中了解這種原理的應(yīng)用。例假設(shè)隨機(jī)樣本X,X12

,X

n

從母體P(

中獲得，試求參數(shù)

的極大似然估計。解構(gòu)似然函數(shù)似函數(shù)一是概率分布列或者概率密度函數(shù)的乘積然后通過求對數(shù)，獲得對數(shù)似然函數(shù)，這是單調(diào)變換，不影響極大值性質(zhì)。然后可以得到：

X區(qū)估計(intervalestimation)定3.5假設(shè)T(,X)和T()是個統(tǒng)計量，且對于任意樣本都有：11(,)(X,X)。果隨機(jī)區(qū)間[(XXT(X)]覆未知參11數(shù)的率等于某個事先給定的正常數(shù)即P{(,,)gT(X,,X)}121

則稱[(XT(X)]是數(shù)的信度為1n21n

的置信區(qū)間。一般情形下置信區(qū)間不是唯一我們希望獲得長度最小的置信區(qū)間信間估計的構(gòu)造方法比較普遍，希望大家復(fù)習(xí)并掌握。§參數(shù)估計的判斷準(zhǔn)則參數(shù)估計的優(yōu)劣可以通過一些標(biāo)準(zhǔn)加以判斷的準(zhǔn)則有無偏性性一致性等。無性是指統(tǒng)計量在母體分布下是參數(shù)的無偏估計，即：(X)

)

有性是指統(tǒng)計量在一定范圍無偏估計范具有較小的方差。一性是一種參數(shù)估計的大樣本性質(zhì)，是指樣本容量增加時，統(tǒng)計量按概率收到未知參數(shù)，即XXg1n

對于大樣本性質(zhì)家盡量了一些收斂性的概念和命題樣可以對經(jīng)濟(jì)計量學(xué)中的一些高級算法有所理解。§3.4參數(shù)的假設(shè)檢驗假設(shè)檢驗是數(shù)理統(tǒng)計中非常重要的一類內(nèi)容，重要根據(jù)“小概率事件不可能發(fā)生原理”來進(jìn)行參數(shù)顯著性的檢驗，基本過程包括：根實際問題提出原假設(shè)和備選假設(shè)根實際問題確定適當(dāng)?shù)娘@著性水平根原假設(shè)形式構(gòu)造檢驗統(tǒng)計量，并計算檢驗統(tǒng)計量的數(shù)值。確假設(shè)檢驗的拒絕域。對假