信號(hào)檢測(cè)與估計(jì)教學(xué)資料 第三章 信號(hào)檢測(cè)與估計(jì)

1、1 第三章第三章 信號(hào)的統(tǒng)計(jì)檢測(cè)理論信號(hào)的統(tǒng)計(jì)檢測(cè)理論 復(fù)習(xí)總結(jié)復(fù)習(xí)總結(jié) 2 第三章第三章 信號(hào)的統(tǒng)計(jì)檢測(cè)理論信號(hào)的統(tǒng)計(jì)檢測(cè)理論 經(jīng)典的信號(hào)統(tǒng)計(jì)檢測(cè)理論經(jīng)典的信號(hào)統(tǒng)計(jì)檢測(cè)理論 統(tǒng)計(jì)信號(hào)檢測(cè)理論的基本概念統(tǒng)計(jì)信號(hào)檢測(cè)理論的基本概念 二元信號(hào)檢測(cè)的最佳檢測(cè)準(zhǔn)則二元信號(hào)檢測(cè)的最佳檢測(cè)準(zhǔn)則 信號(hào)狀態(tài)的判決的方法和檢測(cè)性能的分析信號(hào)狀態(tài)的判決的方法和檢測(cè)性能的分析 M M元信號(hào)的最佳檢測(cè)元信號(hào)的最佳檢測(cè) 參量信號(hào)的復(fù)合假設(shè)檢驗(yàn)參量信號(hào)的復(fù)合假設(shè)檢驗(yàn) 序列檢測(cè)序列檢測(cè) 3 貝葉斯準(zhǔn)則基本思路貝葉斯準(zhǔn)則基本思路: : 根據(jù)給定的代價(jià)計(jì)算平均代價(jià)根據(jù)給定的代價(jià)計(jì)算平均代價(jià) 按照平均代價(jià)最小劃分觀察空間按照平均

2、代價(jià)最小劃分觀察空間, ,得到判決準(zhǔn)則得到判決準(zhǔn)則 對(duì)判決表達(dá)式進(jìn)行化簡(jiǎn)對(duì)判決表達(dá)式進(jìn)行化簡(jiǎn) 貝葉斯準(zhǔn)則貝葉斯準(zhǔn)則 4 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則 0 1 Hxp Hxp xl def 定義為定義為似然比函數(shù)似然比函數(shù) 11011 00100 ccHP ccHP def 定義為定義為判決門(mén)限判決門(mén)限 1 0 H H xl 是一維隨機(jī)變量，稱(chēng)為是一維隨機(jī)變量，稱(chēng)為檢驗(yàn)統(tǒng)計(jì)量檢驗(yàn)統(tǒng)計(jì)量 xl 不依賴(lài)于假設(shè)的先驗(yàn)概率，也與代價(jià)因子無(wú)關(guān)，不依賴(lài)于假設(shè)的先驗(yàn)概率，也與代價(jià)因子無(wú)關(guān)，適用于不同先驗(yàn)概率適用于不同先驗(yàn)概率

3、和不同代價(jià)因子的最佳信號(hào)檢測(cè)。和不同代價(jià)因子的最佳信號(hào)檢測(cè)。 5 貝葉斯檢測(cè)性能分析貝葉斯檢測(cè)性能分析 計(jì)算基本原則：根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行計(jì)算。計(jì)算基本原則：根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行計(jì)算。 計(jì)算步驟：計(jì)算步驟： 步驟步驟1：推導(dǎo)貝葉斯檢測(cè)準(zhǔn)則的最簡(jiǎn)表示形式推導(dǎo)貝葉斯檢測(cè)準(zhǔn)則的最簡(jiǎn)表示形式 1 0 H H xl 步驟步驟2：根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù) 1 Hlp 0 Hlp 步驟步驟3：計(jì)算判決概率計(jì)算判決概率 10 HHP 01 HHP dlHlpHHP 110 dlHlpHHP 001 6 最小

4、平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則 0 100111101111010000 R Cc P Hc P HP HccpHP HccpHd xxx 0 1100 cc1 1001 cc 0 01100 R CP HP HpHP HpHd xxx 把使被積函數(shù)取負(fù)值的觀察值把使被積函數(shù)取負(fù)值的觀察值x值劃分給值劃分給R0區(qū)域，而把其余的觀察值區(qū)域，而把其余的觀察值x值值 劃分給劃分給R1，即可保證平均代價(jià)最小。，即可保證平均代價(jià)最小。 1100 P HpHP HpHxx 判決判決H0假設(shè)成立假設(shè)成立 1100 P HpHP HpHxx 判決判決H1假設(shè)成立假設(shè)成立 7 最小平均錯(cuò)誤概率準(zhǔn)則最小平均

5、錯(cuò)誤概率準(zhǔn)則 1 0 ln ( )ln H H x 1 0 1 0 10 ( ) H defdef H pHP H P HpH x x x 最小平均錯(cuò)誤概率判決準(zhǔn)則最小平均錯(cuò)誤概率判決準(zhǔn)則 1 0 ( ) H H l x 化簡(jiǎn)化簡(jiǎn) 8 最小平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則 1 0 1 0 10 ( ) H defdef H pHP H P HpH x x x 最小平均錯(cuò)誤概率判決準(zhǔn)則最小平均錯(cuò)誤概率判決準(zhǔn)則 0 1100 cc1 1001 cc 若若，且兩個(gè)假設(shè)的先驗(yàn)概率等概，且兩個(gè)假設(shè)的先驗(yàn)概率等概 最小平均錯(cuò)誤概率準(zhǔn)則轉(zhuǎn)化為最小平均錯(cuò)誤概率準(zhǔn)則轉(zhuǎn)化為 1 0 10 H H pHpH x

6、x 最大似然檢測(cè)準(zhǔn)則最大似然檢測(cè)準(zhǔn)則 9 最大后驗(yàn)概率準(zhǔn)則最大后驗(yàn)概率準(zhǔn)則 (Maximum a posteriori prob. criterion) 11010010 cccc 應(yīng)用范圍應(yīng)用范圍 1 0 1 01000 101110 H H pHP Hcc P HccpH x x 貝葉斯判決準(zhǔn)則貝葉斯判決準(zhǔn)則 1 0 1 0 10 H H pHP H P HpH x x n 形式上于最小平均錯(cuò)誤概率準(zhǔn)則相同形式上于最小平均錯(cuò)誤概率準(zhǔn)則相同 10 極小化極大準(zhǔn)則極小化極大準(zhǔn)則(Minimax criterion) n 應(yīng)用范圍應(yīng)用范圍 假設(shè)的先驗(yàn)概率未知，判決代價(jià)因子給定假設(shè)的先驗(yàn)概率未知，

7、判決代價(jià)因子給定 n 目的目的 盡可能避免產(chǎn)生過(guò)分大的代價(jià)，使極大可能盡可能避免產(chǎn)生過(guò)分大的代價(jià)，使極大可能 代價(jià)最小化代價(jià)最小化 11 極小化極大準(zhǔn)則極小化極大準(zhǔn)則 利用極小化極大準(zhǔn)則進(jìn)行檢測(cè)的基本步驟：利用極小化極大準(zhǔn)則進(jìn)行檢測(cè)的基本步驟： 步驟步驟1：計(jì)算兩個(gè)似然函數(shù)，構(gòu)建似然比計(jì)算兩個(gè)似然函數(shù)，構(gòu)建似然比 步驟步驟2：假設(shè)判決門(mén)限為假設(shè)判決門(mén)限為 ，構(gòu)建貝葉斯檢測(cè)基本表達(dá)式，構(gòu)建貝葉斯檢測(cè)基本表達(dá)式 步驟步驟3：化簡(jiǎn)成最簡(jiǎn)形式化簡(jiǎn)成最簡(jiǎn)形式 1 0 H H l x 步驟步驟4：利用極小化極大準(zhǔn)則，確定最終判決門(mén)限利用極小化極大準(zhǔn)則，確定最終判決門(mén)限 12 奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則

8、 (Neyman-Pearson criterion) n 應(yīng)用范圍應(yīng)用范圍 假設(shè)的先驗(yàn)概率未知，判決代價(jià)未知假設(shè)的先驗(yàn)概率未知，判決代價(jià)未知(雷達(dá)信號(hào)檢測(cè)雷達(dá)信號(hào)檢測(cè)) n 奈曼奈曼-皮爾遜檢測(cè)皮爾遜檢測(cè) 01 HHP 盡可能小，盡可能小， 11 HHP盡可能大。盡可能大。 n 目標(biāo)目標(biāo) n 實(shí)際情況實(shí)際情況 01 HHP減小時(shí)，減小時(shí)， 11 HHP也相應(yīng)減小；也相應(yīng)減??； 01 HHP增加增加 ， ，也隨之增加。也隨之增加。 11 HHP 在在 約束條件下約束條件下, , 使正確判決概率使正確判決概率 最大的準(zhǔn)則。最大的準(zhǔn)則。 01 HHP 11 HHP 13 Step3 根據(jù)統(tǒng)計(jì)量計(jì)算

9、根據(jù)統(tǒng)計(jì)量計(jì)算 和和 奈曼奈曼-皮爾遜準(zhǔn)則皮爾遜準(zhǔn)則 (Neyman-Pearson criterion) 0 Hlp 求解步驟求解步驟 Step1 計(jì)算似然函數(shù)、似然比計(jì)算似然函數(shù)、似然比,并寫(xiě)出判決表達(dá)式并寫(xiě)出判決表達(dá)式 Step2 化簡(jiǎn)化簡(jiǎn) 1 Hlp Step4 在在 約束下，計(jì)算判決門(mén)限約束下，計(jì)算判決門(mén)限 1 001 R dlHlpHHP 1 0 0 1 H H Hxp Hxp 14 貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下，貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下， 使使平均代價(jià)最小平均代價(jià)最小的檢測(cè)準(zhǔn)則。的檢測(cè)準(zhǔn)則。 11011 00

10、100 0 1 1 0 ccHP ccHP Hxp Hxp H H 1 0 0 1 1 0 HP HP Hxp Hxp H H 最小平均錯(cuò)最小平均錯(cuò) 誤概率判決誤概率判決 準(zhǔn)則準(zhǔn)則 xHPxHP H H 01 1 0 最大后驗(yàn)最大后驗(yàn) 概率檢測(cè)概率檢測(cè) 準(zhǔn)則準(zhǔn)則 0 1100 cc 1 1001 cc 11010010 cccc 等概等概 01 1 0 HxpHxp H H 最大似然判最大似然判 決準(zhǔn)則決準(zhǔn)則 貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則(1) 符合最小平均錯(cuò)誤概率準(zhǔn)則的符合最小平均錯(cuò)誤概率準(zhǔn)則的 一定符合最大后驗(yàn)概率檢測(cè)準(zhǔn)一定符合最大后驗(yàn)概率檢測(cè)準(zhǔn) 則，反之不成立。則，反之不成立

11、。 15 按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式，按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式， 并在并在 的的 約束下計(jì)算最終判決門(mén)限。約束下計(jì)算最終判決門(mén)限。 貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下，貝葉斯檢測(cè)，給定各種判決代價(jià)因子，且已知各假設(shè)的先驗(yàn)概率條件下， 使使平均代價(jià)最小平均代價(jià)最小的檢測(cè)準(zhǔn)則。的檢測(cè)準(zhǔn)則。 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則(2) 信源先驗(yàn)信源先驗(yàn) 概率未知概率未知 信源先驗(yàn)概率及信源先驗(yàn)概率及 代價(jià)因子均未知代價(jià)因子均未知 極小化極大準(zhǔn)則極小化極大準(zhǔn)則奈曼皮爾遜準(zhǔn)則

12、奈曼皮爾遜準(zhǔn)則 按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式，按照似然比檢測(cè)形式構(gòu)建基本表達(dá)式， 并在并在 的約束下計(jì)算的約束下計(jì)算 最終判決門(mén)限。最終判決門(mén)限。 * 11 ()() MgFg P PP P 0 0011 cc1 0110 cc 1 100 ()()d R P H Hp l Hl 16 貝葉斯及派生檢測(cè)準(zhǔn)則貝葉斯及派生檢測(cè)準(zhǔn)則( (3) ) 分析某種檢測(cè)方法的性能時(shí)，需根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行。分析某種檢測(cè)方法的性能時(shí)，需根據(jù)化簡(jiǎn)后的最簡(jiǎn)判決表示式進(jìn)行。 計(jì)算步驟：計(jì)算步驟： 步驟步驟1：推導(dǎo)某種檢測(cè)方法下獲得的最簡(jiǎn)判決表達(dá)式推導(dǎo)某種檢測(cè)方法下獲得的最簡(jiǎn)判決表達(dá)式 1 0 H H x

13、l 步驟步驟2：根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù)根據(jù)最簡(jiǎn)表示形式，計(jì)算各種假設(shè)下，統(tǒng)計(jì)量的概率密度函數(shù) 1 Hlp 0 Hlp 步驟步驟3：計(jì)算判決概率計(jì)算判決概率 10 HHP 01 HHP 17 M元信號(hào)的統(tǒng)計(jì)檢測(cè)元信號(hào)的統(tǒng)計(jì)檢測(cè) (Detection of M-ary Signal) 基本要求：基本要求： n 掌握貝葉斯準(zhǔn)則掌握貝葉斯準(zhǔn)則 n 掌握最小平均錯(cuò)誤概率準(zhǔn)則和最大似然準(zhǔn)則掌握最小平均錯(cuò)誤概率準(zhǔn)則和最大似然準(zhǔn)則 18 M元信號(hào)檢測(cè)元信號(hào)檢測(cè) 1 0, M ijj jj i IP HpH xx 最小平均錯(cuò)誤概率準(zhǔn)則最小平均錯(cuò)誤概率準(zhǔn)則 最小的劃分至最小的劃分至

14、 ,0,1,1, ij IIjMjixx n 為保證平均錯(cuò)誤概率最小，應(yīng)把所有使為保證平均錯(cuò)誤概率最小，應(yīng)把所有使 i R ，即當(dāng)滿(mǎn)足 ，即當(dāng)滿(mǎn)足 i Ix 判決區(qū)域判決區(qū)域 時(shí)，判決時(shí)，判決Hi成立概率成立概率 n 正確判決代價(jià)為正確判決代價(jià)為0，錯(cuò)誤判決代價(jià)為，錯(cuò)誤判決代價(jià)為1，則，則 1 0, M iijjjjj jj i IccP HpH xx 11 00 () (|) MM ejij ij PP HP HH n 最小平均錯(cuò)誤概率最小平均錯(cuò)誤概率 19 M元信號(hào)檢測(cè)元信號(hào)檢測(cè) i M j j M ijj ji HxpHxp M Hxp M xI 1 0 1 , 0 11 最大似然檢測(cè)最

15、大似然檢測(cè) n 正確判決代價(jià)為正確判決代價(jià)為0，錯(cuò)誤判決代價(jià)為，錯(cuò)誤判決代價(jià)為1，且信源的假設(shè)先驗(yàn)等概時(shí)，且信源的假設(shè)先驗(yàn)等概時(shí) n 判決規(guī)則為在判決規(guī)則為在M個(gè)似然函數(shù)個(gè)似然函數(shù) 中，選擇使中，選擇使 i Hxp i Hxp 最大的假設(shè)成立。最大的假設(shè)成立。 1 , 0 M ijj jjjjiji HxpHPccxI 20 參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè) (Detection of Signal with Unknown Parameter) 基本要求：基本要求： 理解參量信號(hào)檢測(cè)的基本概念理解參量信號(hào)檢測(cè)的基本概念 掌握兩種檢測(cè)方法：掌握兩種檢測(cè)方法： 廣義似然比檢驗(yàn)和貝葉斯方法廣義

16、似然比檢驗(yàn)和貝葉斯方法 21 先利用最大似然方法對(duì)未知參量進(jìn)行估計(jì)，然后利用得到先利用最大似然方法對(duì)未知參量進(jìn)行估計(jì)，然后利用得到 的估計(jì)量按照確定信號(hào)的檢測(cè)方法進(jìn)行。的估計(jì)量按照確定信號(hào)的檢測(cè)方法進(jìn)行。 參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè) (Detection of Signal with Unknown Parameter) argmax(|;) ii imlii P pH x 廣義似然比檢驗(yàn)廣義似然比檢驗(yàn) 最大似然估計(jì)最大似然估計(jì) ; ii pHx 使似然函數(shù)使似然函數(shù) 達(dá)最大的達(dá)最大的 作為該參量的估計(jì)量，作為該參量的估計(jì)量， i iml 記為記為 廣義似然比廣義似然比 1 0 11

17、 20 (|;) ( ) (|;) H ml H ml pH pH x x x 22 參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè) (Detection of Signal with Unknown Parameter) 貝葉斯檢測(cè)方法貝葉斯檢測(cè)方法 n 概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況 n 猜測(cè)概率密度函數(shù)的情況猜測(cè)概率密度函數(shù)的情況 n 未知參量的奈曼未知參量的奈曼-皮爾遜檢測(cè)皮爾遜檢測(cè) 23 參量信號(hào)的統(tǒng)計(jì)檢測(cè)參量信號(hào)的統(tǒng)計(jì)檢測(cè) 概率密度函數(shù)已知的情況概率密度函數(shù)已知的情況 11011 00100 0 1 1 0 ccHP ccHP Hxp Hxp H H 貝葉斯檢測(cè)準(zhǔn)則貝葉斯檢測(cè)準(zhǔn)

18、則 參量信號(hào)的檢測(cè)中，信源在假設(shè)參量信號(hào)的檢測(cè)中，信源在假設(shè) Hj 下的條件概率密度函數(shù)為下的條件概率密度函數(shù)為 ; jj pHx | 函數(shù)函數(shù) 得到似然函數(shù)得到似然函數(shù) ? 如何由條件似然函數(shù)如何由條件似然函數(shù) ; jj pHx | 和未知參量的概率密度和未知參量的概率密度 j p j pHx | 24 ; j jjjjj pHpHpd xx 1 1 0 0 1111 1 01000 101110 0100 , , H H pHpd pHP Hcc P HccpHpHpd x x xx 參量檢測(cè)中，貝葉斯檢測(cè)準(zhǔn)則為：參量檢測(cè)中，貝葉斯檢測(cè)準(zhǔn)則為： 25 信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè) 基本原理

19、基本原理 觀測(cè)次數(shù)不固定，邊觀測(cè)邊判決觀測(cè)次數(shù)不固定，邊觀測(cè)邊判決 優(yōu)點(diǎn)：在給定性能指標(biāo)的要求下，可使平均觀測(cè)次數(shù)最少，優(yōu)點(diǎn)：在給定性能指標(biāo)的要求下，可使平均觀測(cè)次數(shù)最少， 即平均檢測(cè)時(shí)間最短。即平均檢測(cè)時(shí)間最短。 即如果觀測(cè)到第即如果觀測(cè)到第k次還不能做出令人滿(mǎn)意的判決，次還不能做出令人滿(mǎn)意的判決， 則繼續(xù)進(jìn)行第則繼續(xù)進(jìn)行第k+1觀測(cè)觀測(cè) 序列假設(shè)檢測(cè)理論由序列假設(shè)檢測(cè)理論由Wold在在20世紀(jì)世紀(jì)40年代建立年代建立 26 信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè) 對(duì)于二元信號(hào)的檢測(cè)，進(jìn)行第對(duì)于二元信號(hào)的檢測(cè)，進(jìn)行第k次觀測(cè)后，次觀測(cè)后， 會(huì)出現(xiàn)會(huì)出現(xiàn)3種可能的結(jié)果，即種可能的結(jié)果，即 判決判決H1成立成立 判決判決H0成立成立 不進(jìn)行判決，繼續(xù)下一次觀測(cè)不進(jìn)行判決，繼續(xù)下一次觀測(cè) 因此，需要將判決空間劃分成三個(gè)判決區(qū)域，設(shè)定兩個(gè)判決門(mén)限因此，需要將判決空間劃分成三個(gè)判決區(qū)域，設(shè)定兩個(gè)判決門(mén)限 和和 1 0 0 R 2 R 1 R 觀測(cè)空間觀測(cè)空間R 27 信號(hào)的序列檢測(cè)信號(hào)的序列檢測(cè) 1 0 1 Hxp Hxp x k k k 滿(mǎn)足滿(mǎn)足 時(shí)，判為時(shí)，判為H1成立成立 0 0 1 Hxp Hxp x k k k 滿(mǎn)足滿(mǎn)足 時(shí)，判為時(shí)，判為H0成立成立 1 0 1 0 Hxp