信號(hào)檢測與估計(jì)復(fù)習(xí)習(xí)題

1、國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室第四章第四章 信號(hào)的波形檢測復(fù)習(xí)及習(xí)題信號(hào)的波形檢測復(fù)習(xí)及習(xí)題課件下載地址：課件下載地址：密碼：密碼：111111國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 匹配濾波器匹配濾波器 匹配濾波器的定義匹配濾波器的定義 匹配濾波器的設(shè)計(jì)匹配濾波器的設(shè)計(jì) 匹配濾波器的主要性質(zhì)匹配濾波器的主要性質(zhì)國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開(1) 掌握隨機(jī)過程的卡亨南掌握隨機(jī)過程的卡亨南-洛維展開洛維展開 理解白噪聲條件下，正交函數(shù)集的任意性理解白噪聲條件下，正交函數(shù)集的任意性國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開(2)1.

2、完備的正交函數(shù)集及確知信號(hào)的正交級數(shù)展開完備的正交函數(shù)集及確知信號(hào)的正交級數(shù)展開1.1 完備的正交函數(shù)集完備的正交函數(shù)集若實(shí)函數(shù)集若實(shí)函數(shù)集 在在(0 ,T)時(shí)間內(nèi)滿足時(shí)間內(nèi)滿足 , 2 , 1,ktfk kjkjdttftfTjk, 0, 10 00Tkdttgtf不存在函數(shù)不存在函數(shù)g(t)，滿足，滿足則稱函數(shù)集則稱函數(shù)集 是完備正交函數(shù)集。是完備正交函數(shù)集。 , 2 , 1,ktfk國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開(3)2.隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開 NkkkNtfxtx1lim 假設(shè)接收為信號(hào)假設(shè)接收為信號(hào) tntstx 其中其

3、中s(t)是確知信號(hào)，是確知信號(hào)，n(t)是零均值的平穩(wěn)隨機(jī)過程，則是零均值的平穩(wěn)隨機(jī)過程，則接收信號(hào)也是平穩(wěn)隨機(jī)過程。接收信號(hào)也是平穩(wěn)隨機(jī)過程。 由于隨機(jī)過程是由很多樣本函數(shù)構(gòu)成的集合，而每個(gè)樣由于隨機(jī)過程是由很多樣本函數(shù)構(gòu)成的集合，而每個(gè)樣本函數(shù)是時(shí)間的函數(shù)，所以對給定的樣本函數(shù)，可以進(jìn)本函數(shù)是時(shí)間的函數(shù)，所以對給定的樣本函數(shù)，可以進(jìn)行正交級數(shù)展開行正交級數(shù)展開 Tkkdttxtfx0 所有樣本函數(shù)的展開系數(shù)，構(gòu)成了一族隨機(jī)變量。所有樣本函數(shù)的展開系數(shù)，構(gòu)成了一族隨機(jī)變量。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開(4)3.隨機(jī)過程的卡亨南隨機(jī)過程的卡亨南-洛

4、維展開洛維展開 目的：給出一種正交函數(shù)集的選擇方法，以保證目的：給出一種正交函數(shù)集的選擇方法，以保證展開系數(shù)之間是互不相關(guān)的隨機(jī)變量。展開系數(shù)之間是互不相關(guān)的隨機(jī)變量。正交函數(shù)集正交函數(shù)集 Tkkdttxtfx0 假設(shè)隨機(jī)過程為假設(shè)隨機(jī)過程為 tntstx , 2 , 1,ktfk tntstx 的展開系數(shù)是隨機(jī)變量，且的展開系數(shù)是隨機(jī)變量，且 TkTkkdttntstfEdttxtfExE00ks國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)過程的正交級數(shù)展開隨機(jī)過程的正交級數(shù)展開(5)4.白噪聲條件下，正交函數(shù)集的任意性白噪聲條件下，正交函數(shù)集的任意性utNutRn20jjkksxsxE TTjnkdt

5、duufutRtf00 TTjnkdtduufutNtf0002 TjkdttftfN002kjN20在白噪聲條件下，可任意選取正交函數(shù)集，均可保證展開系數(shù)之間是不相在白噪聲條件下，可任意選取正交函數(shù)集，均可保證展開系數(shù)之間是不相關(guān)的。關(guān)的。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(1)首先，利用隨機(jī)過程的正交級數(shù)展開，將隨機(jī)過程用一組隨機(jī)變量首先，利用隨機(jī)過程的正交級數(shù)展開，將隨機(jī)過程用一組隨機(jī)變量來表示；來表示；然后，針對展開得到的隨機(jī)變量，取前然后，針對展開得到的隨機(jī)變量，取前N個(gè)展開系數(shù)，利用第三章個(gè)展開系數(shù)，利用第三章的統(tǒng)計(jì)檢測方法，構(gòu)建貝葉斯檢測表達(dá)式的

6、統(tǒng)計(jì)檢測方法，構(gòu)建貝葉斯檢測表達(dá)式(白高斯噪聲條件下，展白高斯噪聲條件下，展開系數(shù)是不相關(guān)的，也是獨(dú)立的開系數(shù)是不相關(guān)的，也是獨(dú)立的)；最后，令最后，令N趨向于無窮大，求極限，得到波形信號(hào)的檢測表達(dá)式。趨向于無窮大，求極限，得到波形信號(hào)的檢測表達(dá)式?；緳z測方法基本檢測方法(正交級數(shù)展開法正交級數(shù)展開法)：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(2) 2ln20010sHHTENdttxts簡單二元信號(hào)判決表達(dá)式及檢測系統(tǒng)結(jié)構(gòu)簡單二元信號(hào)判決表達(dá)式及檢測系統(tǒng)結(jié)構(gòu)國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(3) 22ln2010000110

7、EENdttxtsdttxtsHHTT一般二元信號(hào)判決表達(dá)式及檢測系統(tǒng)結(jié)構(gòu)一般二元信號(hào)判決表達(dá)式及檢測系統(tǒng)結(jié)構(gòu)國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(4)國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(5)檢測性能與偏移系數(shù)有關(guān)檢測性能與偏移系數(shù)有關(guān)02012HlVarHlEHlEddef022NEds簡單二元信號(hào)簡單二元信號(hào)一般二元信號(hào)一般二元信號(hào)01010222EEEENd11101HHPHHP2ln1ddQ01001HHPHHP2ln1ddQ國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室二元波形信號(hào)檢測歸納二元波形信號(hào)檢測歸納(6) 在高斯白噪聲條件下，

8、對于確知一般二元信號(hào)的波形檢測，在高斯白噪聲條件下，對于確知一般二元信號(hào)的波形檢測，當(dāng)兩個(gè)信號(hào)設(shè)計(jì)成互反信號(hào)時(shí)，可在信號(hào)能量給定的約束下當(dāng)兩個(gè)信號(hào)設(shè)計(jì)成互反信號(hào)時(shí)，可在信號(hào)能量給定的約束下獲得最好的檢測性能。獲得最好的檢測性能。對簡單二元信號(hào)，只要保持信號(hào)對簡單二元信號(hào)，只要保持信號(hào)s(t)的能量不變，信號(hào)波形可以的能量不變，信號(hào)波形可以任意設(shè)計(jì)，檢測性能不發(fā)生變化。任意設(shè)計(jì)，檢測性能不發(fā)生變化。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室課后習(xí)題課后習(xí)題P245，4.13 TdttsE0200 解：解： 根據(jù)題設(shè)，得到兩個(gè)信號(hào)的能量分別為根據(jù)題設(shè)，得到兩個(gè)信號(hào)的能量分別為 TdttsE0211由于兩個(gè)假設(shè)先

9、驗(yàn)等概，因此在最小平均錯(cuò)誤概率準(zhǔn)則下，判決門限由于兩個(gè)假設(shè)先驗(yàn)等概，因此在最小平均錯(cuò)誤概率準(zhǔn)則下，判決門限1利用一般二元信號(hào)檢測波形判決表達(dá)式，得利用一般二元信號(hào)檢測波形判決表達(dá)式，得 22ln201030030110EENdttxtsdttxtsHHTT由于由于 tsts01sEEE10所以所以 010301HHTdttxts國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 為求平均錯(cuò)誤概率，首先需要計(jì)算偏移系數(shù)為求平均錯(cuò)誤概率，首先需要計(jì)算偏移系數(shù)02012HlVarHlEHlEddef 01300HdttstxEHlET dttstntsET1300sE dttstxlT301 在兩種假設(shè)下，統(tǒng)計(jì)量在兩種假

10、設(shè)下，統(tǒng)計(jì)量 均是高斯隨機(jī)變量，因此有均是高斯隨機(jī)變量，因此有國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室0HlVar200HlEHlE 2301TdttstnE20sEN 11301HdttstxEHlET dttstntsET1301sE國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室2/0202012sssdefENEEHlVarHlEHlEd08NEs1HlVar211HlEHlE 2301TdttstnE20sEN國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室dlHlpHHP0012lnddQdlHlpHHP1112lnddQ10HHP2ln1ddQ2dQ02NEQs21dQ021NEQs02NEQs101010HHPHPHHPHPPe

11、02NEQs國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室P246，4.18其中其中, 由題設(shè)，貝葉斯檢測表達(dá)式為由題設(shè)，貝葉斯檢測表達(dá)式為tbtats011coscos)(課后習(xí)題課后習(xí)題 22ln2010000110EENdttxtsdttxtsHHTTtbts00cos)(dttsET0211)(dttsET0200)(上述判決表達(dá)式可進(jìn)一步改寫為上述判決表達(dá)式可進(jìn)一步改寫為 1001cosHHTdttatx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 為求平均錯(cuò)誤概率，首先需要計(jì)算偏移系數(shù)為求平均錯(cuò)誤概率，首先需要計(jì)算偏移系數(shù)02012HlVarHlEHlEddef dttatxlT01cos 0100cosHtdta

12、txEHlET tdtatntbET100coscos 在兩種假設(shè)下，統(tǒng)計(jì)量在兩種假設(shè)下，統(tǒng)計(jì)量 均是高斯隨機(jī)變量，因此有均是高斯隨機(jī)變量，因此有tdttbabT100coscos國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室0HlVar 201cosTtdtatnE200HlEHlE420TaN 1101cosHtdtatxEHlET tdtatntbtaET1001coscoscostdttbabTaT1002coscos2國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室1HlVar0202012NTaHlVarHlEHlEddef211HlEHlE 201cosTtdtatnE420TaN偏移系數(shù)與信號(hào)偏移系數(shù)與信號(hào) 無關(guān)，

13、因此不影響系統(tǒng)的檢測性能。無關(guān)，因此不影響系統(tǒng)的檢測性能。tbts00cos)(國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室第五章第五章 信號(hào)的統(tǒng)計(jì)估計(jì)理論信號(hào)的統(tǒng)計(jì)估計(jì)理論課件下載地址：課件下載地址：密碼：密碼：111111國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的貝葉斯估計(jì)隨機(jī)參量的貝葉斯估計(jì)(1)1. 最小均方誤差估計(jì)最小均方誤差估計(jì)xCdpx2dpx222022msedpdpxx1dpxdpmsex國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的貝葉斯估計(jì)隨機(jī)參量的貝葉斯估計(jì)(2)1. 最小均方誤差估計(jì)最小均方誤差估計(jì)dpmsex注：注：1）最小均方誤差估計(jì)的估計(jì)量實(shí)際是條件均值）最小均方誤差估計(jì)的估計(jì)量實(shí)際是條件

14、均值xxEdpmse2）最小均方誤差估計(jì)的條件平均代價(jià)實(shí)際是條件方差）最小均方誤差估計(jì)的條件平均代價(jià)實(shí)際是條件方差dpCmsemsexx2dpExx23）最小均方誤差估計(jì)量的另一種形式）最小均方誤差估計(jì)量的另一種形式dpmsex dppxx,dpdpxx, dppdppxx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 隨機(jī)參量的貝葉斯估計(jì)隨機(jī)參量的貝葉斯估計(jì)(3)2. 最大后驗(yàn)估計(jì)最大后驗(yàn)估計(jì) dpcCxx選定的代價(jià)函數(shù)為選定的代價(jià)函數(shù)為 22dpdpxx , 0, 1cc221dpx使條件平均代價(jià)最小，應(yīng)該使使條件平均代價(jià)最小，應(yīng)該使 取到最大值取到最大值22dpx當(dāng)當(dāng)很小時(shí)，為保證上式最大，應(yīng)當(dāng)選擇估計(jì)量

15、很小時(shí)，為保證上式最大，應(yīng)當(dāng)選擇估計(jì)量 ，使它處于后驗(yàn)概率密度函數(shù)使它處于后驗(yàn)概率密度函數(shù) 最大值的位置。最大值的位置。xp國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 隨機(jī)參量的貝葉斯估計(jì)隨機(jī)參量的貝葉斯估計(jì)(4)0mappx根據(jù)上述分析，得到最大后驗(yàn)概率估計(jì)量為根據(jù)上述分析，得到最大后驗(yàn)概率估計(jì)量為兩種等價(jià)形式兩種等價(jià)形式0lnmappx 0lnlnmapppx xxxpppp國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 最大似然估計(jì)最大似然估計(jì)(1)0mlpx或或根據(jù)最大似然估計(jì)原理，如果已知似然函數(shù)根據(jù)最大似然估計(jì)原理，如果已知似然函數(shù) ，則最大似然估計(jì)量可由，則最大似然估計(jì)量可由xp0lnmlpx解得。解得。國家重

16、點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最大似然估計(jì)最大似然估計(jì)(2) 最大似然估計(jì)量不變性歸納最大似然估計(jì)量不變性歸納 則有以下兩個(gè)結(jié)論則有以下兩個(gè)結(jié)論如果參量如果參量 的最大似然估計(jì)量為的最大似然估計(jì)量為 ，函數(shù)，函數(shù) 的最大似然估計(jì)量為的最大似然估計(jì)量為 gmlml(1)如果如果 是是 的一對一變換，則有的一對一變換，則有mlmlg g所有變換參量的似然函數(shù)所有變換參量的似然函數(shù) 中具有最大值的一個(gè)中具有最大值的一個(gè)jipi, 2 , 1x通過通過 求出求出 最大似然估計(jì)量最大似然估計(jì)量 。(2)如果如果 是是 的一對的一對j變換，則應(yīng)找出在變換，則應(yīng)找出在 取值范圍內(nèi)，取值范圍內(nèi)， gjippi, 2

17、, 1,maxxxxpml國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室單參量估計(jì)方法小結(jié)單參量估計(jì)方法小結(jié) 最大似然估計(jì)適用于非隨機(jī)參量和概率密度函數(shù)未知的最大似然估計(jì)適用于非隨機(jī)參量和概率密度函數(shù)未知的隨機(jī)參量估計(jì)隨機(jī)參量估計(jì) 最小均方誤差估計(jì)和最大后驗(yàn)估計(jì)適用于概率密度函數(shù)最小均方誤差估計(jì)和最大后驗(yàn)估計(jì)適用于概率密度函數(shù)已知的隨機(jī)參量估計(jì)。已知的隨機(jī)參量估計(jì)。 但對于非高斯型的，不同的估計(jì)方法，可能會(huì)得到不同的估計(jì)量，如何來衡量一個(gè)但對于非高斯型的，不同的估計(jì)方法，可能會(huì)得到不同的估計(jì)量，如何來衡量一個(gè)估計(jì)量的好壞？估計(jì)量的好壞？如果后驗(yàn)概率密度是高斯型的，則最小均方誤差、最大后驗(yàn)和條件中值三種方法得到如

18、果后驗(yàn)概率密度是高斯型的，則最小均方誤差、最大后驗(yàn)和條件中值三種方法得到的估計(jì)量相同，都是具有最小均方誤差的估計(jì)量。的估計(jì)量相同，都是具有最小均方誤差的估計(jì)量。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 估計(jì)量的性質(zhì)估計(jì)量的性質(zhì)(1)1. 估計(jì)量的主要性質(zhì)估計(jì)量的主要性質(zhì)1.1 估計(jì)量的無偏性估計(jì)量的無偏性(1) 對于隨機(jī)參量對于隨機(jī)參量 ，如果估計(jì)量，如果估計(jì)量 的均值滿足的均值滿足 EddpE xx,則稱則稱 是隨機(jī)參量是隨機(jī)參量 的無偏估計(jì)。的無偏估計(jì)。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 估計(jì)量的性質(zhì)估計(jì)量的性質(zhì)(2)1.1 估計(jì)量的無偏性估計(jì)量的無偏性(2) 對于非隨機(jī)參量對于非隨機(jī)參量 ，如果估計(jì)量，如

19、果估計(jì)量 的均值為的均值為 bdpEx若若 則稱則稱 是非隨機(jī)參量是非隨機(jī)參量 的無偏估計(jì)。的無偏估計(jì)。 0b若若 則稱則稱 是非隨機(jī)參量是非隨機(jī)參量 的有偏估計(jì)。的有偏估計(jì)。 0b若若 則稱則稱 是非隨機(jī)參量是非隨機(jī)參量 的已知偏差的有偏估計(jì)，的已知偏差的有偏估計(jì)， bb可從估計(jì)量可從估計(jì)量 中減去常數(shù)中減去常數(shù)b獲得無偏估計(jì)。獲得無偏估計(jì)。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 估計(jì)量的性質(zhì)估計(jì)量的性質(zhì)(3)1.1 估計(jì)量的無偏性估計(jì)量的無偏性(3) 如果根據(jù)如果根據(jù)N次觀測量構(gòu)造的估計(jì)量次觀測量構(gòu)造的估計(jì)量 是有偏的，但滿足是有偏的，但滿足NxNNExlim或或 EENNxlim非隨機(jī)參量非隨機(jī)參

20、量隨機(jī)參量隨機(jī)參量則稱則稱 是是 的漸近無偏估計(jì)。的漸近無偏估計(jì)。Nx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室估計(jì)量的性質(zhì)估計(jì)量的性質(zhì)(4)1.2 估計(jì)量的有效性估計(jì)量的有效性對于被估計(jì)量對于被估計(jì)量 的任意無偏估計(jì)的任意無偏估計(jì) 和和 ，若估計(jì)的均方誤差，若估計(jì)的均方誤差2221EE12則稱估計(jì)量則稱估計(jì)量 比比 更有效。更有效。12如果如果 的無偏估計(jì)量的無偏估計(jì)量 小于其他任意無偏估計(jì)量的均小于其他任意無偏估計(jì)量的均方誤差，則稱該估計(jì)量為最小均方誤差估計(jì)量。方誤差，則稱該估計(jì)量為最小均方誤差估計(jì)量。問題：能否確定一個(gè)均方誤差的下界？問題：能否確定一個(gè)均方誤差的下界？國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室估計(jì)量

21、的性質(zhì)估計(jì)量的性質(zhì)(5)1.3 估計(jì)量的一致性估計(jì)量的一致性假設(shè)根據(jù)假設(shè)根據(jù)N次觀測量構(gòu)造的估計(jì)量為次觀測量構(gòu)造的估計(jì)量為 Nx0limNNPx若若則稱估計(jì)量則稱估計(jì)量 是一致收斂的估計(jì)量。是一致收斂的估計(jì)量。Nx0lim2NNEx若若則稱估計(jì)量則稱估計(jì)量 是均方一致收斂的估計(jì)量。是均方一致收斂的估計(jì)量。Nx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非隨機(jī)參量的克拉美非隨機(jī)參量的克拉美-羅不等式羅不等式(1)設(shè)設(shè) 是非隨機(jī)參量是非隨機(jī)參量 的無偏估計(jì)，則有的無偏估計(jì)，則有 22ln1xpEEVar或 222ln1xpEEVar當(dāng)且僅當(dāng)當(dāng)且僅當(dāng) 時(shí)，上述兩式取等號(hào)。時(shí)，上述兩式取等號(hào)。 kplnx克拉美克拉美

22、-羅羅不等式不等式克拉美克拉美-羅不等式取等號(hào)的條件羅不等式取等號(hào)的條件國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非隨機(jī)參量的克拉美非隨機(jī)參量的克拉美-羅不等式羅不等式(2)2.1 非隨機(jī)參量情況下的克拉美非隨機(jī)參量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途222ln1ln1xxpEpE(1) 非隨機(jī)參量非隨機(jī)參量 的任意無偏估計(jì)量的任意無偏估計(jì)量 的方差的方差 ，即，即均方誤差恒不小于均方誤差恒不小于 Var(2) 若非隨機(jī)參量若非隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 滿足滿足 kplnx則無偏估計(jì)量則無偏估計(jì)量 是有效的，否則是無效的。是有效的，否則是無效的。 國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非

23、隨機(jī)參量的克拉美非隨機(jī)參量的克拉美-羅不等式羅不等式(3)2.1 非隨機(jī)參量情況下的克拉美非隨機(jī)參量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途 2EVar(3) 若非隨機(jī)參量若非隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 是有效的，則估計(jì)量是有效的，則估計(jì)量的方差，即均方誤差可由克拉美的方差，即均方誤差可由克拉美-羅界取得。羅界取得。222ln1ln1xxpEpE國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非隨機(jī)參量的克拉美非隨機(jī)參量的克拉美-羅不等式羅不等式(4)2.1 非隨機(jī)參量情況下的克拉美非隨機(jī)參量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途(4) 若非隨機(jī)參量若非隨機(jī)參量 的無偏有

24、效估計(jì)量的無偏有效估計(jì)量 存在，它必定是存在，它必定是 的最大似然估計(jì)量的最大似然估計(jì)量 ，且可由最大似然方程解得。，且可由最大似然方程解得。 ml(5) 若非隨機(jī)參量若非隨機(jī)參量 的最大似然估計(jì)量的最大似然估計(jì)量 不一定是無偏有不一定是無偏有效的。效的。ml0lnmlpx最大似然估計(jì)量為 kplnx由 0mlkml國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非隨機(jī)參量的克拉美非隨機(jī)參量的克拉美-羅不等式羅不等式(5)2.2 非隨機(jī)參量情況下，無偏有效估計(jì)量的均方誤差計(jì)算方法非隨機(jī)參量情況下，無偏有效估計(jì)量的均方誤差計(jì)算方法若非隨機(jī)參量若非隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 也是有效的，則其均方誤差也是有效的

25、，則其均方誤差為為 kEVar12 kplnx由 kkpln22x kkkEpEln22x kpEEVar1ln1222x國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(1)設(shè)設(shè) 是隨機(jī)參量是隨機(jī)參量 的無偏估計(jì)，則有的無偏估計(jì)，則有 22,ln1xpEEVar或 222,ln1xpEEVar當(dāng)且僅當(dāng)當(dāng)且僅當(dāng) 時(shí)，上述兩式取等號(hào)。時(shí)，上述兩式取等號(hào)。kp,lnx克拉美克拉美-羅羅不等式不等式克拉美克拉美-羅不等式取等號(hào)的條件羅不等式取等號(hào)的條件國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(2)3.1 隨機(jī)參量情況下的克拉美隨機(jī)參

26、量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途(1) 由于由于 ppplnln,lnxx所以所以 22222lnln1ppEEVarx 22lnln1ppEEVarx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(3)3.1 隨機(jī)參量情況下的克拉美隨機(jī)參量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途222,ln1,ln1xxpEpE(2) 隨機(jī)參量隨機(jī)參量 的任意無偏估計(jì)量的任意無偏估計(jì)量 的方差的方差 ，即均，即均方誤差恒不小于方誤差恒不小于 Var國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(4)3.

27、1 隨機(jī)參量情況下的克拉美隨機(jī)參量情況下的克拉美-羅不等式的含義和用途羅不等式的含義和用途222,ln1,ln1xxpEpE 2EVar(4) 若隨機(jī)參量若隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 是有效的，則估計(jì)量的是有效的，則估計(jì)量的方差，即均方誤差可由克拉美方差，即均方誤差可由克拉美-羅界取得。羅界取得。(3) 若隨機(jī)參量若隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 滿足滿足 則無偏估計(jì)量則無偏估計(jì)量 是有效的，否則是無效的。是有效的，否則是無效的。 kp,lnx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(5)3.1 隨機(jī)參量情況下的克拉美隨機(jī)參量情況下的克拉美-羅

28、不等式的含義和用途羅不等式的含義和用途(6) 若隨機(jī)參量若隨機(jī)參量 的無偏有效估計(jì)量的無偏有效估計(jì)量 存在，它必定是存在，它必定是 的的最大后驗(yàn)估計(jì)量最大后驗(yàn)估計(jì)量 ，且可由最大后驗(yàn)方程解得。，且可由最大后驗(yàn)方程解得。 map 0lnlnmapppx最大后驗(yàn)估計(jì)量為最大后驗(yàn)估計(jì)量為 kpplnlnx由0mapkmap國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)參量的克拉美隨機(jī)參量的克拉美-羅不等式羅不等式(6)3.2 隨機(jī)參量情況下，無偏有效估計(jì)量的均方誤差計(jì)算方法隨機(jī)參量情況下，無偏有效估計(jì)量的均方誤差計(jì)算方法若隨機(jī)參量若隨機(jī)參量 的無偏估計(jì)量的無偏估計(jì)量 也是有效的，則其均方誤差為也是有效的，則其均方

29、誤差為 kEVar12kp,lnx由kp22,lnxkpE22,lnx kpEEVar1,ln1222x國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室非隨機(jī)參量函數(shù)的克拉美非隨機(jī)參量函數(shù)的克拉美-羅不等式羅不等式(1) 222lnxpEgEVar或 2222lnxpEgEVar當(dāng)且僅當(dāng)當(dāng)且僅當(dāng) 時(shí)，上述兩式取等號(hào)。時(shí)，上述兩式取等號(hào)。 kplnx克拉美克拉美-羅羅不等式不等式克拉美克拉美-羅不等式取等號(hào)的條件羅不等式取等號(hào)的條件設(shè)設(shè) 非隨機(jī)參量非隨機(jī)參量 的函數(shù)的函數(shù) ，其估計(jì)量，其估計(jì)量 是是 的任意無偏的任意無偏估計(jì)，則有估計(jì)，則有 g國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)矢量的貝葉斯估計(jì)隨機(jī)矢量的貝葉斯估計(jì)最小

30、均方誤差估計(jì)最小均方誤差估計(jì) 第j個(gè)參量的最小均方誤差估計(jì)為： 用矢量表示為：最大后驗(yàn)估計(jì)最大后驗(yàn)估計(jì) 式中 ( |),1,2,.,jmsejpdjM x( | )msepx dln( | )0mappx 最大后驗(yàn)方程組12ln( | )ln( | )ln( | )ln( | )defMpxpxpxpx 國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)矢量的偽貝葉斯估計(jì)隨機(jī)矢量的偽貝葉斯估計(jì)應(yīng)用范圍：隨機(jī)矢量的均值矢量和協(xié)方差矩陣已知，但概率密度應(yīng)用范圍：隨機(jī)矢量的均值矢量和協(xié)方差矩陣已知，但概率密度函數(shù)未知時(shí)，可采用函數(shù)未知時(shí)，可采用偽貝葉斯估計(jì)偽貝葉斯估計(jì)方法。方法。 方法：根據(jù)隨機(jī)矢量的均值矢量和協(xié)方差

31、矩陣，將隨機(jī)矢量的概方法：根據(jù)隨機(jī)矢量的均值矢量和協(xié)方差矩陣，將隨機(jī)矢量的概率密度函數(shù)假設(shè)為某種分布，然后應(yīng)用貝葉斯方法進(jìn)行估計(jì)。率密度函數(shù)假設(shè)為某種分布，然后應(yīng)用貝葉斯方法進(jìn)行估計(jì)。 最常用的，是假設(shè)為隨機(jī)矢量服從高斯分布。最常用的，是假設(shè)為隨機(jī)矢量服從高斯分布。采用偽貝葉斯估計(jì)方法得到的估計(jì)量，其均方誤差陣不差于采用采用偽貝葉斯估計(jì)方法得到的估計(jì)量，其均方誤差陣不差于采用最大似然估計(jì)時(shí)的結(jié)果。最大似然估計(jì)時(shí)的結(jié)果。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室隨機(jī)矢量的經(jīng)驗(yàn)偽貝葉斯估計(jì)隨機(jī)矢量的經(jīng)驗(yàn)偽貝葉斯估計(jì)應(yīng)用范圍：隨機(jī)矢量的均值矢量、協(xié)方差矩陣和概率密度函數(shù)均應(yīng)用范圍：隨機(jī)矢量的均值矢量、協(xié)方差矩陣和

32、概率密度函數(shù)均未知時(shí)，可采用經(jīng)驗(yàn)未知時(shí)，可采用經(jīng)驗(yàn)偽貝葉斯估計(jì)偽貝葉斯估計(jì)方法。方法。 方法：根據(jù)觀測信號(hào)，首先估計(jì)隨機(jī)矢量的均值矢量和協(xié)方差矩方法：根據(jù)觀測信號(hào)，首先估計(jì)隨機(jī)矢量的均值矢量和協(xié)方差矩陣，然后根據(jù)估計(jì)結(jié)果將隨機(jī)矢量的概率密度函數(shù)假設(shè)為某種分陣，然后根據(jù)估計(jì)結(jié)果將隨機(jī)矢量的概率密度函數(shù)假設(shè)為某種分布，并應(yīng)用貝葉斯方法進(jìn)行估計(jì)。布，并應(yīng)用貝葉斯方法進(jìn)行估計(jì)。 最常用的，是假設(shè)為隨機(jī)矢量服從高斯分布。最常用的，是假設(shè)為隨機(jī)矢量服從高斯分布。采用經(jīng)驗(yàn)偽貝葉斯估計(jì)方法得到的估計(jì)量，其均方誤差陣不差于采用經(jīng)驗(yàn)偽貝葉斯估計(jì)方法得到的估計(jì)量，其均方誤差陣不差于采用最大似然估計(jì)時(shí)的結(jié)果。采用最大

33、似然估計(jì)時(shí)的結(jié)果。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)線性最小均方誤差估計(jì)(1)線性最小均方誤差估計(jì)準(zhǔn)則線性最小均方誤差估計(jì)準(zhǔn)則 線性最小均方誤差估計(jì)量的構(gòu)造線性最小均方誤差估計(jì)量的構(gòu)造線性最小均方誤差估計(jì)矢量的性質(zhì)線性最小均方誤差估計(jì)矢量的性質(zhì)線性最小均方誤差估計(jì)的應(yīng)用范圍：線性最小均方誤差估計(jì)的應(yīng)用范圍：已知觀測信號(hào)和被估計(jì)隨機(jī)矢量的均值矢量、協(xié)方差矩陣和互協(xié)方差矩陣。已知觀測信號(hào)和被估計(jì)隨機(jī)矢量的均值矢量、協(xié)方差矩陣和互協(xié)方差矩陣。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)線性最小均方誤差估計(jì)(2)線性最小均方誤差估計(jì)準(zhǔn)則線性最小均方誤差估計(jì)準(zhǔn)則 首先，構(gòu)造的估計(jì)矢量

34、是觀測矢量x的線性函數(shù)，即： 同時(shí)要求估計(jì)矢量 的均方誤差最小，即為 最小，式中， 表示矩陣的軌跡。所以，線性最小均方誤差估計(jì)的估計(jì)規(guī)則，就是把估計(jì)量構(gòu)造成觀測量的線性函數(shù)，同時(shí)要求估計(jì)量的均方誤差最小。Bx2() () ()() TTETr E ()Tr 國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)線性最小均方誤差估計(jì)(3)解得解得1xxCCBxxxxCCBa1所以所以xCCCCBxaxxxxx11lmsexxxxCC1國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)矢量的性質(zhì)線性最小均方誤差估計(jì)矢量的性質(zhì)(1) 估計(jì)矢量是觀測矢量的線性函數(shù)估計(jì)矢量是觀測矢量的線性函數(shù)(2) 線性最小均

35、方誤差估計(jì)矢量是無偏估計(jì)線性最小均方誤差估計(jì)矢量是無偏估計(jì)lmsexxxxCC1lmseE xxxxCC1ExxxxCCE1lmse所以所以是是 無偏估計(jì)無偏估計(jì)國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)矢量的性質(zhì)線性最小均方誤差估計(jì)矢量的性質(zhì)(3)估計(jì)矢量均方誤差陣的最小性估計(jì)矢量均方誤差陣的最小性 線性最小均方誤差估計(jì)矢量在線性估計(jì)中具有最小的均方誤差，且均方誤差線性最小均方誤差估計(jì)矢量在線性估計(jì)中具有最小的均方誤差，且均方誤差矩陣也具有最小性。矩陣也具有最小性。(4)估計(jì)的誤差矢量與觀測矢量的正交性估計(jì)的誤差矢量與觀測矢量的正交性被估計(jì)矢量被估計(jì)矢量與觀測矢量與觀測矢量x是正交的，

36、即是正交的，即與線性最小均方誤差估計(jì)矢量與線性最小均方誤差估計(jì)矢量 之間的誤差矢量之間的誤差矢量lmselmse0TlmseEx國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室線性最小均方誤差估計(jì)矢量的性質(zhì)線性最小均方誤差估計(jì)矢量的性質(zhì)0TlmseExlmse由于由于是是 無偏估計(jì)無偏估計(jì)TTlmseExxTlmseExTTExxxxxxCC1TTEExxxxxxxCCx1xxxxCCCC10國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最小二乘估計(jì)最小二乘估計(jì)(1)( )() ()TJxHxH1. 最小二乘估計(jì)方法最小二乘估計(jì)方法均方誤差最?。罕还烙?jì)量與估計(jì)量之差在統(tǒng)計(jì)平均的意義上達(dá)到最小值。均方誤差最?。罕还烙?jì)量與估計(jì)量之差在

37、統(tǒng)計(jì)平均的意義上達(dá)到最小值。若只有觀測信號(hào)模型，則無法從統(tǒng)計(jì)平均的角度考慮估計(jì)誤差最小，但可以按照誤差的若只有觀測信號(hào)模型，則無法從統(tǒng)計(jì)平均的角度考慮估計(jì)誤差最小，但可以按照誤差的平方和最小的原則進(jìn)行估計(jì)。平方和最小的原則進(jìn)行估計(jì)。nHx觀測信號(hào)模型為：觀測信號(hào)模型為： 0lsJ所以，線性最小二乘估計(jì)量，是滿足下述方程的解：所以，線性最小二乘估計(jì)量，是滿足下述方程的解：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最小二乘估計(jì)最小二乘估計(jì)(2)2. 線性最小二乘估計(jì)線性最小二乘估計(jì) HxHHxHx2TTJ由于由于所以所以lsTTHHxHxHHHTTls1國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最小二乘估計(jì)最小二乘估計(jì)(3)

38、(1) 估計(jì)矢量是觀測矢量的線性函數(shù)估計(jì)矢量是觀測矢量的線性函數(shù)(2) 若觀測噪聲矢量若觀測噪聲矢量n的均值矢量為零，則線性最小的均值矢量為零，則線性最小 二乘估計(jì)矢量是二乘估計(jì)矢量是無偏的。無偏的。(3) 若觀測噪聲矢量若觀測噪聲矢量n的均值矢量為零，協(xié)方差矩陣為的均值矢量為零，協(xié)方差矩陣為 ，則線性，則線性最小二乘估計(jì)矢量的均方誤差陣為：最小二乘估計(jì)矢量的均方誤差陣為： nC11()()lsTTTnMH HH C H H H3. 線性最小二乘估計(jì)量的性質(zhì)線性最小二乘估計(jì)量的性質(zhì) xHHHTTlsEE1nHHHHTTE1 E國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最小二乘估計(jì)最小二乘估計(jì)(4)4. 線性

39、最小二乘加權(quán)估計(jì)線性最小二乘加權(quán)估計(jì)提出背景：如果各次觀測噪聲的強(qiáng)度不同，所得的各次觀測量的精度也是不同的。提出背景：如果各次觀測噪聲的強(qiáng)度不同，所得的各次觀測量的精度也是不同的。噪聲方差小時(shí)，觀測量的精度較高，噪聲方差大，觀測量的精度較低。如何在構(gòu)造估計(jì)噪聲方差小時(shí)，觀測量的精度較高，噪聲方差大，觀測量的精度較低。如何在構(gòu)造估計(jì)量時(shí)，綜合考慮上述因素？量時(shí)，綜合考慮上述因素？可以通過加權(quán)的方式，提高估計(jì)的精確度可以通過加權(quán)的方式，提高估計(jì)的精確度加權(quán)線性最小二乘估計(jì)。加權(quán)線性最小二乘估計(jì)。 HxWHxJWT 0lswJW線性最小二乘加權(quán)估計(jì)量，是滿足下述方程的解：線性最小二乘加權(quán)估計(jì)量，是滿

40、足下述方程的解：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室最小二乘估計(jì)最小二乘估計(jì)(5) HxWHHxWHxW2TTJ由于由于所以所以lswTTWHHWxHWxHWHHTTlsw1 lswTlswlswHxWHxJWminWxHWHHHxWWxHWHHHxTTTTT11國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室波形中參量估計(jì)的基本原理波形中參量估計(jì)的基本原理令令 ，得到，得到N NkkkNNNsxNptxp102,0exp1limlimxNkkkNNNNsxN102,2/0limexplim TdttstxNF020,1exp2/0limNNNF國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室波形中參量估計(jì)的基本原理波形中參量估計(jì)的基本原理

41、所以，所以， 的最大似然估計(jì)是滿足下述方程的解的最大似然估計(jì)是滿足下述方程的解 0lnmltxp由于由于 dttststxNtxpT00,2ln 0,200mldttststxNT國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室信號(hào)振幅的估計(jì)信號(hào)振幅的估計(jì)( ; )( ), 0s tas ttT 信號(hào)可表示為信號(hào)可表示為其中，其中，s(t)是已知信號(hào)，振幅是已知信號(hào)，振幅a是待估計(jì)量，其最大似然估計(jì)量是待估計(jì)量，其最大似然估計(jì)量是滿足下述方程的解是滿足下述方程的解 0,200mldttststxNT 0200mlaaTdtatastastxN國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室信號(hào)振幅的估計(jì)信號(hào)振幅的估計(jì) dttstas

42、txNdtatastastxNTT000022由于由于 dttasdttstxNTT02002所以所以0ml20( ) ( )( )TTx t s t dtas t dt國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室信號(hào)振幅的估計(jì)信號(hào)振幅的估計(jì)信號(hào)振幅估計(jì)的性質(zhì)信號(hào)振幅估計(jì)的性質(zhì)0ml20( ) ( )( )TTx t s t dtas t dt TTmldttsdttstxEaE020 TTdttsdttstxE020 TTdttsdttstntasE020a的無偏估計(jì)量。是aaml國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室信號(hào)振幅的估計(jì)信號(hào)振幅的估計(jì) dttstastxNaatxpT002ln由于由于 dttasdtts

43、txNTT02002 dttsdttstxadttsNTTT0200202mlsaaNE20有的無偏有效估計(jì)量，且是aamlsmlENaaE202國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室課后習(xí)題課后習(xí)題是高斯白噪聲，所以是高斯白噪聲，所以N次觀測是互不相關(guān)的，次觀測是互不相關(guān)的，5.9(1). 因?yàn)橐驗(yàn)?1,2,)kn kN也是統(tǒng)計(jì)獨(dú)立的。于是也是統(tǒng)計(jì)獨(dú)立的。于是12(,.,)TNxxxx的概率密度函數(shù)為的概率密度函數(shù)為:由最大似然方程，得：由最大似然方程，得：2/2221/ 21()exp22NkNknnxpx21ln1022mlNkknpx x解得：解得：12NmlkkxN國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室

44、下面考察下面考察ml的主要性質(zhì)：的主要性質(zhì)：因?yàn)橐驗(yàn)?22NmlkkEEnN所以，所以，m l是無偏估計(jì)量。是無偏估計(jì)量。又因?yàn)橛忠驗(yàn)?2211ln12224NNkkkknnpNxxNxmlk所以，所以，m l也是有效估計(jì)量。也是有效估計(jì)量。這樣，這樣，m l是無偏，有效估計(jì)量，其均方值取克拉美是無偏，有效估計(jì)量，其均方值取克拉美-羅界為羅界為2222ln|41nmlpEEN x國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室(2). 由最大后驗(yàn)方程，得：由最大后驗(yàn)方程，得： 21lnln11()224Nkknppxx221110244mapNkknnNx 解得：解得：2121,NmapknkxNN2121Nkn

45、kxNN0,map2121NknkxNN因?yàn)橐驗(yàn)?21211()()( )2NmapknnkEEnENNN所以，所以，map是有偏估計(jì)量，但是漸進(jìn)無偏的。是有偏估計(jì)量，但是漸進(jìn)無偏的。國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室估計(jì)量估計(jì)量map的均方誤差為的均方誤差為22212()2NnmapkkEEnNN2242222111422()()NNNnnnkkkkkkEnEnnNNNNN2422221144()()NNnnkkkkEnE nNNN4222222244(1)4nnnnNNNN國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室(3). 令令11NkkxxN則則2222112,210,2mlnnmapnxxxNNxN ，

46、與觀測量與觀測量 的關(guān)系如上圖所示。的關(guān)系如上圖所示。 從估計(jì)量的均方誤差看，雖然求最大后驗(yàn)估計(jì)量從估計(jì)量的均方誤差看，雖然求最大后驗(yàn)估計(jì)量 時(shí)，給出時(shí)，給出了被估計(jì)量了被估計(jì)量 的概率密度函數(shù)的概率密度函數(shù) ，但限定了它大于等于，但限定了它大于等于 0，所構(gòu)，所構(gòu)造的估計(jì)量造的估計(jì)量 是有偏的。而是有偏的。而 是無偏有效估計(jì)量。所以是無偏有效估計(jì)量。所以 的的均方誤差大于均方誤差大于 的均方誤差。但隨著觀測次數(shù)的均方誤差。但隨著觀測次數(shù)N的增加，二者的均的增加，二者的均方誤差之差隨之減小。方誤差之差隨之減小。mlmap xmap pmapm lmapml國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室 課后習(xí)題

47、課后習(xí)題方法方法1：先求：先求2mln，再利用最大似然估計(jì)的不變性得，再利用最大似然估計(jì)的不變性得 。m lnP解：噪聲解：噪聲n(t)的的N個(gè)獨(dú)立樣本個(gè)獨(dú)立樣本(1,2,)kn kN構(gòu)成構(gòu)成N維高斯隨機(jī)矢量維高斯隨機(jī)矢量12( ,.,)TNx xxx，其，其N維聯(lián)合概率密度函數(shù)為維聯(lián)合概率密度函數(shù)為22/22211()exp22NNknknnnpn方差方差2n的最大似然估計(jì)量的最大似然估計(jì)量2mln，由最大似然方程，得，由最大似然方程，得22222241ln022nnmlNnkknnnpnN x解得解得2211mlNnkknN利用最大似然估計(jì)的不變性，并考慮利用最大似然估計(jì)的不變性，并考慮2

48、10lgnnP是一對一變換，所以噪聲是一對一變換，所以噪聲n(t)的功率的最大似然估計(jì)量為的功率的最大似然估計(jì)量為221110lg10lgmlmlNnnkknNP5.13國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室方法方法2：利用：利用210lgnnP，將，將2( |)npn等效地參數(shù)化為等效地參數(shù)化為( |p )np n然后直接求然后直接求pn的最大似然估計(jì)的最大似然估計(jì) 。 pmln解：因?yàn)榻猓阂驗(yàn)?10lgnnP所以，所以，/10210nnP這樣，這樣，2( |)npn等效參數(shù)化為等效參數(shù)化為2/2/10/1011(n |p )()exp2102 10nnNNknknpPP由最大似然方程，得：由最大似然

49、方程，得：2/101lnpp22ln(2 )ln10pp102 10nNnnkknnpnNNPn/1021110|nnnmlNppkknNP兩邊取對數(shù)兩邊取對數(shù)21110 lgm lNnkknNP2/101ln 101ln 100202010nnnm lNkkppnN P即：即：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室課后習(xí)題課后習(xí)題5.14 先求先求ml，再利用最大似然估計(jì)量的不變性得，再利用最大似然估計(jì)量的不變性得ml解：觀測信號(hào)矢量解：觀測信號(hào)矢量12( ,.,)TNx xxx的的N維聯(lián)合概率密度函數(shù)為維聯(lián)合概率密度函數(shù)為2/22211()exp22NkNknnxpx由最大似然方程，得：由最大似然方

50、程，得：221ln0mlNkknnpxN x解得：解得：11NmlkkxN是無偏、有效估計(jì)量，其均方誤差是無偏、有效估計(jì)量，其均方誤差ml22nmlEN利用最大似然估計(jì)的不變性，并考慮到利用最大似然估計(jì)的不變性，并考慮到bc是一對一的變換，所以，是一對一的變換，所以，1Nm lm lkkbbcxcN國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室因?yàn)橐驗(yàn)?()()NmlkkbEEncbcN所以，所以， 是無偏估計(jì)量。是無偏估計(jì)量。ml又因?yàn)橛忠驗(yàn)?1ln1()NkknpxNxmlk21()NkknbNbcxcNb式中式中2nNkb 所以，所以， 也是有效估計(jì)量。也是有效估計(jì)量。ml均方誤差取克拉美均方誤差取克拉美

51、-羅界，為：羅界，為：222222ln|()nmlpbbcEEN x國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室課后習(xí)題課后習(xí)題解：線性最小二乘估計(jì)矢量的構(gòu)造公式為解：線性最小二乘估計(jì)矢量的構(gòu)造公式為1()TTlsx H HH估計(jì)矢量的均方誤差為估計(jì)矢量的均方誤差為11()()lsTTTnCMH HHH H H(1).單參量估計(jì)的情況，線性觀測方程為：單參量估計(jì)的情況，線性觀測方程為：,1,2,kkkxhnkN觀測矩陣為：觀測矩陣為：12,TNh hhH =觀測矢量為：觀測矢量為：12,TNx xxx =觀測噪聲矢量為：觀測噪聲矢量為：12,TNn nnn =線性最小二乘估計(jì)量為：線性最小二乘估計(jì)量為：111

52、2212122111NlsNNkkNkkkNNhxhxhhhhhhh xhhx5.31國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室221121112222121212222222111()00000011lslsnnNNNnNNNnNnkNNkkkkkEhhhhhhhhhhhhhhhhhhhhh2211nNkkh(2).在單參量估計(jì)的情況下，若觀測噪聲在單參量估計(jì)的情況下，若觀測噪聲 的統(tǒng)計(jì)特性滿足：的統(tǒng)計(jì)特性滿足：2()0,(),()0kjknjkkE nE n nEn 2220000()00nTnnnECnn于是，估計(jì)量的均方誤差為：于是，估計(jì)量的均方誤差為：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室222222222

53、211111111()()kklsNNlsknknNNNkkkkkkkkEhhhhh(3).在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：2()0,(),()0kkjknjkkE nE n nEn 122220000()00NnnTnnECnn于是，估計(jì)量的均方誤差為：于是，估計(jì)量的均方誤差為：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室121212222222222()NNNnnnnnnTnnnnECnn(4).在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：2()0,(),()0kkjknkE nE n nE

54、n在線性最小二乘估計(jì)量的均方誤差式中，各項(xiàng)分別為：在線性最小二乘估計(jì)量的均方誤差式中，各項(xiàng)分別為：112112211()TNNkkNhhhhhhhH H國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室12121212222122221222212222211111NNNNjnnnnnnTnNNnnnNNNNNknknknjknkkkjkNhhChhhhhhhhhhhhHH =22222221111111111()jjlsNNNNjknjknNNNjkjkkkkkkkhhhhhhh這樣，線性最小二乘估計(jì)量的均方誤差為：這樣，線性最小二乘估計(jì)量的均方誤差為：國家重點(diǎn)實(shí)驗(yàn)室國家重點(diǎn)實(shí)驗(yàn)室112112211()TNNkkNhhhhhhhH H1 11 212 12 2212222222222()NNNNNNn nn nn nn nn nn nTnn nn nn nECnn(5).在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：在單參量估計(jì)的情況下，若觀測噪聲的統(tǒng)計(jì)特性滿足：22()0,(),()0j kkjkjkn nn nkE nE n nEn在線性最小二乘估計(jì)量的均方誤差式中，各項(xiàng)分別為：在線性最小二乘估計(jì)