第二章信號檢測理論與準則

2023/2/612023/2/61SignalDetectionandEstimation2023/2/622023/2/62課程內容非高斯白噪聲中的檢測4緒論1信號檢測理論與準則2高斯白噪聲中的檢測3信號參量估計5波形估計62023/2/632023/2/63信號檢測理論與準則假設檢驗1雙擇檢測及其最佳準則2M元信號檢測及其最佳準則362023/2/6441.1、假設檢驗（HypothesisTest）（1/6）假設檢驗理論已知信號S(t)有M個狀態(tài)（M個假設,Hypotheses）對接收的信號（樣本值，samples）進行處理（在時間范圍[0,T]）根據(jù)某個準則，作出判決哪個為真，且可得到此判決為正確的概率。假設檢驗是進行判決的及其重要的統(tǒng)計工具之一。2023/2/652023/2/651.1、假設檢驗（2/6）假設檢驗理論的簡單數(shù)學模型Source（源）概率轉移機制（ProbabilisticTransitionMechanism）觀測空間（ObservationSpace）

判決準則（DecisionRule）

2023/2/662023/2/661.1、假設檢驗（3/6）1.Source（源）稱源的輸出為假設（Hypotheses）若有M個可能的輸出，則標記為M個假設例子：數(shù)字通信系統(tǒng)：發(fā)“1”：H1發(fā)“0”：H0雷達系統(tǒng)：目標出現(xiàn)：H1沒有目標：H0醫(yī)療診斷：出現(xiàn)某種疾?。篐1沒有疾?。篐0語音識別：發(fā)言者的國籍：Hi發(fā)言者的性別：Hj2023/2/672023/2/671.1、假設檢驗（4/6）2概率轉移機制（ProbabilisticTransitionMechanism）基于特定概率原則（law），生成觀測空間中的點3觀測空間（ObservationSpace）2023/2/682023/2/68例：一個獨立隨機變量n加在源輸出上，該隨機變量的概率密度為：觀測空間（ObservationSpace）在本課程中都假設觀察空間是有限維的，這也是經(jīng)典檢測理論研究的范疇。這里觀察空間為：{-2,-1,0,1,2}1.1、假設檢驗（5/6）2023/2/692023/2/694.判決準則（DecisionRule）建立一個判決規(guī)則，使得觀察空間中的任意點都對應一個特定的假設。1.1、假設檢驗（6/6）2023/2/6102023/2/610信號檢測理論與準則4假設檢驗1雙擇檢測及其最佳準則2M元信號檢測及其最佳準則362023/2/6112.雙擇檢測(BinaryHypothesisTest)問題：

問題提出（1/2）2023/2/611信息傳輸系統(tǒng)，信息發(fā)送端只有兩種狀態(tài)(假設,Hypothesis）

H1和H0發(fā)端收端問題：如何根據(jù)x(t)判定發(fā)端的狀態(tài)是H1還是H0？2023/2/6122.雙擇檢測問題：問題提出（2/2）2023/2/612問題分析在接收到x(t)的條件下，可以作出兩種判決：付出代價（Cost）！可能出錯目標：確定某種判決方法，使得由于錯判引入的平均代價最小。問題：如何確定輸入空間的劃分，使得平均代價最小？2023/2/6132.雙擇檢測問題：可以利用的條件（1/2）2023/2/613條件１：代價因子定義：Cij表示假設Hj為真，卻選擇了假設Hi的代價，稱為代價因子（costfactor）。對于雙擇檢測，有顯然：C00C01C11C10H0H1D0D12023/2/6142.雙擇檢測問題：可以利用的條件（2/2）2023/2/614條件2：先驗概率和條件3：噪聲的統(tǒng)計特性條件4：信號的波形和2023/2/6152.雙擇檢測問題：平均風險（1/3）2023/2/615平均風險(risk)（一）：給定x(t)給定X,判為D1的平均代價給定X,判為D0的平均代價定義2023/2/6162.雙擇檢測問題：平均風險（2/3）2023/2/616平均風險（二）:給定Hi給定H0，判決的平均代價給定H1，判決的平均代價判決的平均風險2023/2/6172.雙擇檢測問題：平均風險（3/3）2023/2/617可以證明，兩種平均風險是一致的判決方法與R的關系判決方法設計的核心思想是：min{R}2023/2/6182.1、貝葉斯準則(BayesCriterion)（1/8）2023/2/618已知條件代價因子：噪聲分布：思路一：先驗概率：信號波形:判決方法：2023/2/6192.1、貝葉斯準則(BayesCriterion)（2/8）2023/2/619即：整理后，有利用概率乘法公式考慮到：需要計算后驗概率，實用性差！計算似然函數(shù)，實用性好！似然比LikelihoodFunction/likelihoodRatio似然比門限2023/2/62020

思路二：總的平均風險：尋求一種對樣本空間的劃分，使得R最小，Rmin=RB，這個判決準則即成為貝葉斯準則(Bayescriterion)2023/2/621212.1、貝葉斯準則(BayesCriterion)（4/8）

總的平均風險：如n維的似然函數(shù)已知，即：則：帶入R中，有：前兩項為常數(shù)2023/2/6222/6/2023222.1、貝葉斯準則(BayesCriterion)（5/8）

要使總的平均風險R最小，即使積分項：

最小。對于一元函數(shù)f(x),要使最小，需選取R1為使f(x)為負的區(qū)域的并集

232/6/2023232.1、貝葉斯準則(BayesCriterion)（6/8）所以：

即Bayes準則，使總的平均風險最小化討論：C10（虛警代價）上升門限上升C01（漏檢代價）上升門限下降與思路一的結論一致2023/2/6242.1、貝葉斯準則(BayesCriterion)（7/8）2023/2/624討論：貝葉斯意義下的最佳判決系統(tǒng)變?yōu)橛嬎闼迫槐鹊南到y(tǒng)。物理概念：2023/2/6252.1、貝葉斯準則(BayesCriterion)（8/8）2023/2/625實現(xiàn)形式其中：似然函數(shù)比（似然比）可以根據(jù)信號波形和噪聲分布計算判決門限根據(jù)已知條件事先計算2023/2/6262023/2/626補充、假設檢驗中的兩種錯誤概率(1/3)第一類錯誤概率（虛警概率，ProbabilityofFalseAlarm）：雷達探測系統(tǒng)中稱為虛警概率通信系統(tǒng)中表征發(fā)送0，接收判決為1的錯誤概率2023/2/6272023/2/627補充、假設檢驗中的兩種錯誤概率(2/3)第二類錯誤概率（漏警概率,ProbabilityofMissDetection）：雷達探測系統(tǒng)中稱為漏警概率通信系統(tǒng)中表征發(fā)送1，接收判決為0的錯誤概率2023/2/6282023/2/628補充、假設檢驗中的兩種錯誤概率(3/3)總的錯誤概率：雷達探測系統(tǒng)中，通常通信系統(tǒng)中,通常29例子：設是統(tǒng)計獨立、方差為的高斯隨機變量。在假設下，其均值為；在假設下，其均值為,且,求似然比和等效判決量在兩種假設下，條件概率密度函數(shù)（似然函數(shù)）為似然比判決式2023/2/62023/2/630例子(續(xù))：考慮到指數(shù)函數(shù)是單調函數(shù)，取對數(shù)，有2023/2/6302023/2/6例子(續(xù))：等效判決量這里。于是，對觀測空間劃分是一個平面：實現(xiàn)形式：2023/2/6312023/2/632討論：考察測量次數(shù)與錯誤概率之間的關系由于mx是n個相互獨立高斯隨機變量的線性組合，也是高斯分布的隨機變量，在H1和H0下的的均值分別為a1和a0，方差為兩種錯誤概率為這里標準正態(tài)分布函數(shù)：Q函數(shù)2023/2/62023/2/633討論：結論：隨著觀測次數(shù)的增加，判決的錯誤概率可以降低。2023/2/6342.2、最小錯誤概率與最大后驗準則（1/5）已知條件先驗概率：P(H1)，P(H0)正確判決的代價為0，錯誤判決的代價為1于是2023/2/634與Bayes的區(qū)別Bayes判決式2023/2/635總的平均風險平均錯誤概率在數(shù)字通信系統(tǒng)中，通常假設2023/2/635最小化Bayes風險變成了最小化平均錯誤概率，稱為最小錯誤概率準則。2.2、最小錯誤概率與最大后驗準則（2/5）2023/2/6362.2、最小錯誤概率與最大后驗準則（3/5）2023/2/636已知條件代價因子條件部分可知：準則導出由Bayes準則：最小錯誤概率準則最大后驗概率準則：-先驗概率：-信號波形:-噪聲分布：2023/2/6372.2、最小錯誤概率與最大后驗準則（4/5）2023/2/637準則的含義意義：在收到x的條件下，比較兩個假設的后驗概率，判定為后驗概率較大者。2023/2/6382023/2/638由概率乘法公式，有物理含義：觀察和比較x和Hi的聯(lián)合概率：P(x,H0)

和P(x,H1)

判決規(guī)則：如果P(x,H1)

≥P(x,H0),則判決H1為真，記為D1如果P(x,H1)＜P(x,H0),則判決H0為真，記為D02023/2/6392.2、最小錯誤概率與最大后驗準則（5/5）2023/2/639討論：最大后驗概率準則是貝葉斯準則的特例。最大后驗概率準則是從信息論的觀點來研究最佳判決系統(tǒng)。后驗概率反映了獲得觀測矢量x后所獲得的信息。后驗概率越大，假設越可能出現(xiàn)。后驗概率難以計算，通常需要轉換實現(xiàn)形式2023/2/6402023/2/6402.3、假設檢驗中的最大似然檢測最大似然準則適用條件先驗概率未知代價因子部分已知信號波形已知噪聲分布已知

如果可假設(通信系統(tǒng)）與MAP準則的區(qū)別2023/2/6412.4、極大極小化（minimax）準則（1/9）2023/2/641已知條件代價因子部分已知：準則導出由Bayes準則：先驗概率：信號波形:噪聲分布：與MAP的區(qū)別不宜假設等概，雷達2023/2/6422.4、極大極小化（minimax）準則（2/9）2023/2/642貝葉斯風險和先驗信號的關系2023/2/6432023/2/643

當當2.4、極大極小化（minimax）準則（3/9）由于R非負且不恒為0，R是P(H1)的非線性函數(shù)，其在P(H1)取值區(qū)間[0,1]內某點達到極值！2023/2/6442.4極大極小化（minimax）準則（4/9）2023/2/644一個例子：2023/2/6452.4、極大極小化（minimax）準則（5/9）2023/2/645隨機假定門限的實際風險分析由于不知道P(H1)，隨機假定其為，此時，對應的判決門限為此時，有門限固定！為常數(shù)！為常數(shù)！2023/2/6462.4極大極小化（minimax）準則（6/9）2023/2/646

當當門限相同貝葉斯準則因貝葉斯準則具有最小風險門限不同2023/2/6472.4、極大極小化（minimax）準則（7/9）2023/2/6472023/2/6482.4、極大極小化（minimax）準則（8/9）2023/2/648極大極小化準則的實質當假設H1和H0的先驗概率未知時，尋求最大可能風險的極小化，等效于從貝葉斯解中尋求最不利的先驗概率。判決準則避免極大風險實際風險為最大貝葉斯風險2023/2/6492.4、極大極小化（minimax）準則（9/9）2023/2/649特點：選擇最不利先驗概率的貝葉斯準則；兩類錯誤的平均代價相等。即，滿足極大極小化準則的風險實現(xiàn)形式2023/2/650例子：二元通信系統(tǒng)通常采用如下代價因子如果采用極大極小化準則，求最不利先驗信息極大極小化風險為由Bayes平均風險的定義最不利先驗概率2023/2/651例：設一次采樣信號可表示為x=s+nH0:x=nH1:x=1+nn為零均值，方差為的高斯隨機變量。設代價因子用極大極小準則求和最不利先驗概率?！窘狻浚核迫缓瘮?shù)2023/2/652例：利用極大極小化準則的求解條件例：由于2023/2/6532.5紐曼-皮爾遜準則（Neyman-PearsonCriterion）(1/8)問題的提出：錯判的代價和先驗概率未知（雷達探測目標時），怎樣確定門限？準則：設定虛警概率一定的條件下，使檢測概率最大。即：2023/2/6542.5紐曼-皮爾遜準則（N-P準則）(2/8)問題建模：條件極值問題構造代價函數(shù)考慮到為常數(shù)，有我們的目標：2023/2/655拉格朗日乘數(shù)門限的確定回顧：在總的平均風險R中，若令（條件）則56紐曼-皮爾遜準則（N-P準則）就是滿足上述條件下的貝葉斯準則！也是似然比準則的特例！2.5紐曼-皮爾遜準則（N-PCriterion）（4/8）門限的確定如何確定？已知虛警概率一定設似然函數(shù)已知于是，有2023/2/6572.5紐曼-皮爾遜準則（N-PCriterion）（5/8）例：一次采樣的樣本是零均值，方差的高斯分布隨機變量。有兩種假設：0或者1；若令，按N-P準則確定和【解】2023/2/6582.5紐曼-皮爾遜準則（N-PCriterion）（6/8）則似然比：由Pf定義可得：2023/2/6592.5紐曼-皮爾遜準則（N-PCriterion）（7/8）于是從而檢測概率2023/2/6602.5紐曼-皮爾遜準則（N-PCriterion）（8/8）實現(xiàn)計算似然比即：每采集一個樣本，計算并與比較，做出判決。2023/2/6612.6小結：雙擇檢測的準則（1/6）基本問題對的個觀測樣本，向量統(tǒng)一的檢測原則：似然比檢測統(tǒng)一的檢測器結構2023/2/662似然比門限2.6小結：雙擇檢測的準則（2/6）不同的準則，所需要的先驗信息和確定門限的方法不同。Bayes準則：最小錯誤概率和最大后驗概率（MAP）準則2023/2/663先驗信息：先驗概率P(Hi)代價因子Ci,j似然函數(shù)先驗信息：似然函數(shù)先驗概率P(Hi)C0,0=C1,1=0C0,1=C0,1=1(最小錯誤概率)C0,1=C0,1(MAP)2.6小結：雙擇檢測的準則（3/6）最大似然（ML）準則在MAP準則中，，則極大極?。╩inmax）準則在Bayes風險（最小風險）中，改變P(Hi)，找出最大的風險（極大）2023/2/664先驗信息：似然函數(shù)代價因子Ci,jC0,0=C1,1=02.6小結：雙擇檢測的準則（4/6）紐曼-皮爾遜（N-P）準則虛警概率已知，2023/2/665先驗信息：似然函數(shù)C0,0=C1,1=02.6小結：雙擇檢測的準則（5/6）討論：似然比判別的理解似然函數(shù)似然比2023/2/666發(fā)端源輸出狀態(tài)為H1，可能出現(xiàn)觀測空間X中的任何一個樣本，但出現(xiàn)該樣本的可能性為發(fā)端源輸出狀態(tài)為H0，可能出現(xiàn)觀測空間X中的任何一個樣本，但出現(xiàn)該樣本的可能性為可能性的比較。2.6小結：雙擇檢測的準則（6/6）門限的作用代價因子的作用2023/2/667C00C01C11C10H0H1D0D12023/2/6682023/2/668信號檢測理論與準則4假設檢驗1雙擇檢測及其最佳準則2M元信號檢測及其最佳準則363.1M元信號檢測的Bayes準則(1/5)問題描述數(shù)字通信中QPSK調制，s(t)有4種可能的狀態(tài)，M=4256-QAM調制，s(t)有256種可能的狀態(tài)，M=256數(shù)學模型設接收機接收信號加噪聲s(t)有M種狀態(tài)：,對應M種假設2023/2/669M擇1的假設檢驗問題！3.1M元信號檢測的Bayes準則(2/5)問題：由x(t)的N個樣本值，判決哪一個假設為真。問題求解設先驗概率已知，且滿足完備性條件每次實驗有且僅有一個Hi為真。代價因子Cij：已知Hj為真，判為Hi為真的代價作Di判決的總風險判決準則：時，作Dk判決。2023/2/6703.1M元信號檢測的Bayes準則(2/5)已知觀測樣本x，Hj的后驗概率已得到下的判決已得到，做Di判決的代價為作Di判決的風險為：判決準則：選擇Ci中最小的Ck對應的Dk作為判決2023/2/671實際中計算困難！3.1M元信號檢測的Bayes準則(3/5)利用概率乘法公式如果已知概率密度函數(shù)（pdf）則：2023/2/6