教程論壇公布版

1、Estimation withaArlion notes series No.5Chapter 5最大似然估計(jì)及 SA 實(shí)現(xiàn)方法這些筆記是西安交大經(jīng)濟(jì)歷次的資料。因?yàn)槲冶救肆?4 次，所以就寫(xiě)了 4 份筆記?，F(xiàn)在拿出來(lái)供大家批評(píng)指正，希望在閱讀的時(shí)候不吝其中的錯(cuò)誤和不妥之處。因?yàn)槲冶救私佑|計(jì)量的時(shí)間也非常有限。同時(shí)，如果大家有任何需要共同的地方，請(qǐng)光臨計(jì)量版。 HYPERLINK http:/j/ http:/j/index.asp：本人同意，不得以任何方式、本文。1西安交通大學(xué):經(jīng)濟(jì)Estimation withaArlion notes series No.5Chapter 5最大似然估計(jì)

2、及 SA 實(shí)現(xiàn)方法5.1 最大似然估計(jì)的原理15.2SA 實(shí)現(xiàn)方法在 S A 中實(shí)現(xiàn)最大似然法的估計(jì)必須自己編寫(xiě) ado 文檔2。S a 本身提供了 4 種架構(gòu)供使用者編寫(xiě)程式：lf | d0 | d1 | d2。具體地說(shuō)明和架構(gòu)請(qǐng)參考以下文獻(xiàn)：CCgchp7Maxlikelihood estimationgchp7(for sa) 最大概似法a referencehelp for ml這里僅給出幾個(gè)實(shí)例來(lái)說(shuō)明如何利用 sa 編寫(xiě)程序來(lái)實(shí)現(xiàn)對(duì)模型的最大似然估計(jì)。實(shí)例 1：線性回歸模型的最大似然估計(jì)log using c:ado/cmdlog using c:ado/al/logfiles/ch

3、p5_mle,text replaceal/logfiles/chp5_mle_cmd,replaceuse D:Installsa8.0ExlesRFilesnlswork4.dta, clear提供的樣本數(shù)據(jù)，文件名稱為 nlswork4.dta3這里使用sa于Rfiles文件夾下。用于估計(jì)的最大似然程式為：程序的第一行用于定義程序的名稱（這個(gè)例子中的程序名稱為 siglex），對(duì)應(yīng)的1對(duì)于這部分的詳細(xì)分析請(qǐng)參考鐘老師講義chapter7，閱讀一些有關(guān)數(shù)值算法的書(shū)籍對(duì)最大似然法的理解可以更為深入。2如果讀者是首次接觸s a 的程序，可以先行閱讀鐘老師的講義ch本技巧。r8，其中詳細(xì)講述了s

4、 a 編程的基3該文件包含了年輕女子工資及的NLS 追蹤資料，樣本數(shù)目為 28534 筆。2西安交通大學(xué):經(jīng)濟(jì)program define siglex ver8.0args lnf theta1 theta2quietly replace lnf = -0.5*ln(2*_pi) - ln(theta2)/*/ -0.5*($ML_y1-theta1)2/(theta2)2endEstimation withaArlion notes series No.5語(yǔ)句是最后一行的 end 語(yǔ)句，表明程序到此結(jié)束。程序的第二行用于編寫(xiě)程序時(shí) sa 的版本，加上這一行令后就可以保證的程序不會(huì)因?yàn)閟a

5、后續(xù)版本的升級(jí)而無(wú)法執(zhí)行。程序的第三行用于輸入項(xiàng)，關(guān)鍵命令是args，其后的 lnf 是一個(gè)暫元，用于存放每次迭代得到的似然函數(shù)值。theta1 和theta2 表明輸入項(xiàng)將的似然函數(shù)中有兩個(gè)線性等式。下面會(huì)進(jìn)一步解釋如何通過(guò)的變量名稱和這些線性等式關(guān)系對(duì)應(yīng)起來(lái)。程序的第四行定義了單個(gè)似然函數(shù)形式。這里使用的 replace 指令非常重要，因?yàn)?sa 對(duì)每一個(gè)觀察值求得似然函數(shù)值后會(huì)按觀察值的順序依次累加后存入暫元lnf中，可以把它假想為一個(gè)向量，因此，最終所有觀察值的似然函數(shù)值之和將保存在lnf_N中。至于 replace 命令前的 quietly 指令，其作用和其意思相對(duì)應(yīng)，就是只將每次運(yùn)

6、算后的結(jié)果保存在體中，而屏幕上并不顯示任何結(jié)果。需要注意的是，由于 theta1 和 theta2 都是暫元，所以在程序中時(shí)一定要置于單引號(hào)之內(nèi)。程序中$ML_y1 是專門(mén)用于存放被解釋變量的，顯然，它是 sa指定的一個(gè)全局暫元（global macro）。如果模型中包含多個(gè)被解釋變量，sa 會(huì)自動(dòng)將它們依次存放于$ML_y2、$ML_y3$ML_yj 中。上述程序在保存時(shí)的文件名一定要為 siglex（與檔。所定義的程序名稱保持一致），保存類型為 ado 文讀者也許會(huì)提出這樣的疑問(wèn)的解釋變量和被解釋變量如何進(jìn)入程序？因?yàn)閺纳厦娴某绦蚩梢钥闯?，其中并沒(méi)有關(guān)于特定變量的定義。其實(shí)上面的程序只是定

7、義了最大似然估計(jì)的“基本架構(gòu)”，而要實(shí)現(xiàn)對(duì)具體模型的估計(jì)還需要通過(guò)“輸入項(xiàng)”的設(shè)定來(lái)定義最大似然估計(jì)的“完整架構(gòu)”。進(jìn)行程序完整架構(gòu)定義的指令結(jié)構(gòu)如下：. ml mlf d0|d1|d2 progname (eq1: y = x1 x2 ) (eq2: x3 x4) (eq3:) ()其中，ml mlfd0|d1|d2是是 sa 自帶的定義最大似然函數(shù)估計(jì)“完整架構(gòu)”的基本指令。進(jìn)行最大似然估計(jì)時(shí)可以選擇的四種模式，至于每一種模式的具體定義方式，會(huì)在下文加以說(shuō)明。Progrname 是前面定義的用于進(jìn)行最大似然估計(jì)的程序的名稱。每一個(gè)括號(hào)中定義一個(gè)線性關(guān)系式。冒號(hào)前面的eq1、eq2 是為每一

8、個(gè)等式關(guān)系所起的名稱，可以更改為任何名稱，也可以省略。被解釋變量可以放在任何一個(gè)括號(hào)中，但一定要放在等號(hào)的左邊，如果存3西安交通大學(xué):經(jīng)濟(jì)Estimation withaArlion notes series No.5在多個(gè)被解釋變量，會(huì)依序存放于暫元$ML_y2、$ML_y3$ML_yj 中。如果現(xiàn)行約束式中不需要輸入解釋變量（如 sigma），那么可以只寫(xiě)一個(gè)括號(hào)，里面不放任何東西，有時(shí)也可以簡(jiǎn)寫(xiě)為“/sigma”。因此，. ml m其中ml m可以通過(guò)執(zhí)行以下指令來(lái)完成本例中程序“完整架構(gòu)”的定義：lf siglex (equation1: ln_wage = ttl_exp msp a

9、ge) (variance:)時(shí)sa內(nèi)設(shè)的進(jìn)行最大似然估計(jì)令，lf 表示采用的是 lf架構(gòu)進(jìn)行估計(jì)，siglex 是從第一個(gè)括號(hào)中的內(nèi)容上面列出的用于進(jìn)行最大似然估計(jì)的程式的名稱。可以看出，被解釋變量為ln_wage，解釋變量為ttl_exp、msp和age。第二個(gè)括號(hào)中是對(duì)方差的估計(jì)。由于sa進(jìn)行最大似然估計(jì)使用的是數(shù)值算法，本質(zhì)上和進(jìn)行非線性估計(jì)的方法相同，所以初始值的設(shè)定就顯得非常重要。不過(guò)不同于非線性估計(jì)的是，使用這并不需要親自去設(shè)定初始值，然估計(jì)的初始值4。. ml search可以使用如下命令讓sa找到進(jìn)行最大似完成以上設(shè)定后，就可以進(jìn)行模型的估計(jì)了，所采用令為：. ml命令執(zhí)行后

10、ize會(huì)看到以下輸出結(jié)果：4如果使用該命令無(wú)法找到合適的初始值，法來(lái)尋找初始值?？梢栽谥噶詈蠹尤脒x項(xiàng)：，difficult，s a 會(huì)改用其它算4西安交通大學(xué):經(jīng)濟(jì)initial:log likelihood = -27230.748 rescale:log likelihood = -27230.748 rescale eq: log likelihood = -27230.748 Iteration 0:log likelihood = -27230.748Iteration 1:log likelihood = -19232.845Iteration 2:log likelihood =

11、 -16770.292Iteration 3:log likelihood = -16578.931Iteration 4:log likelihood = -16578.052Iteration 5:log likelihood = -16578.052initial:log likelihood =-(could not be evaluated) feasible:log likelihood = -98148.356improve:log likelihood = -50810.122 rescale:log likelihood = -44236.988 rescale eq:log

12、 likelihood = -27230.748Estimation withaArlion notes series No.5為了更清楚地顯示最大似然值與迭代次數(shù)之間的關(guān)系可以繪制出二者的關(guān)系圖來(lái)迭代的具體過(guò)程，命令為：. ml graph可以發(fā)現(xiàn)，收斂的速度很快。作為對(duì)比，還進(jìn)行了 OLS 估計(jì)，對(duì)比結(jié)果如下：. reg ln_wage ttl_exp msp age5西安交通大學(xué):經(jīng)濟(jì)ln L()-22000-20000-18000-16000012345Iteration numberNumber of obs=28494Wald chi2(3)=6258.81Log likeliho

13、od = -16578.052Prob chi2=0.0000ln_wage |Coef.Std. Err.zP|z|95% Conf.erval+equation1|ttl_exp |.0504431.000844859.710.000.0487874.0520988msp |.0140217.00529542.650.008.0036429.0244004age | -.0067345.00059-11.420.000-.0078908-.0055782_cons |1.548718.0137666112.500.0001.5217361.575701+variance|_cons |.4329513.0018136238.720.000.4293967.436506Estimation withaArlion notes series No.5從上面的對(duì)比中可以看出，采用MLE 和OLS 估計(jì)得到的參數(shù)沒(méi)有明顯差別，但是 MLE 估計(jì)得到的參數(shù)的標(biāo)準(zhǔn)差要比 OLS 估計(jì)來(lái)的小。實(shí)例 2：非線性模型的最大似然估計(jì)6西安交通大學(xué):經(jīng)濟(jì)Variable | mle_resultols_result-+-equation1|ttl_exp | 0.050443080.05044308| 0.000844760.01