第四章-估計與檢測理論課件

2023/1/41統(tǒng)計信號分析與處理機(jī)電學(xué)院通信工程系2009年10月

2022/12/201統(tǒng)計信號分析與處理機(jī)電學(xué)院通信工程系2023/1/42第四章參數(shù)估計與信號檢測2022/12/202第四章參數(shù)估計與信號檢測2023/1/43第四章參數(shù)估計與信號檢測4.1引言與導(dǎo)學(xué)4.2參數(shù)估計初步4.3最大似然估計4.4線性最小均方估計4.5最小二乘估計4.6信號檢測基礎(chǔ)4.7判決準(zhǔn)則4.8檢測性能及其蒙特卡羅仿真2022/12/203第四章參數(shù)估計與信號檢測4.2023/1/44信號檢測與估計理論是許多現(xiàn)代信號處理系統(tǒng)設(shè)計的基礎(chǔ)，這些系統(tǒng)包括雷達(dá)、聲吶、通信、語言處理、圖像分析、生物醫(yī)學(xué)、自動控制、地震處理等，所有這些系統(tǒng)都有兩個共同的問題：其一是需要在接收的數(shù)據(jù)或波形中判斷是否有需要的信號，稱為信號的檢測問題；其二是在檢測到信號后需要估計信號的某些參數(shù)，如信號的到達(dá)時間、頻率、相位等，稱為信號參數(shù)的估計問題。由于接收的數(shù)據(jù)或波形總是混雜著噪聲，噪聲是隨機(jī)過程，因此，信號檢測與估計理論需要應(yīng)用隨機(jī)過程的理論。本章在引言和導(dǎo)學(xué)之后首先介紹估計理論，在4.2節(jié)介紹貝葉斯估計，在此基礎(chǔ)上介紹最大似然估計、線性最小均方估、最小二乘估計，這分別是4.3、4.4、4.5節(jié)的內(nèi)容。從4.6節(jié)開始我們轉(zhuǎn)入另一個環(huán)節(jié)----假設(shè)檢驗(yàn)的基本概念的介紹，并在4.7節(jié)討論判決準(zhǔn)則的相關(guān)問題，最好在4.8節(jié)用檢測性能及其蒙特卡羅仿真結(jié)束全部的討論。4.1引言與導(dǎo)學(xué)2022/12/204信號檢測與估計理論是許2023/1/45所謂估計理論就是從含有噪聲的數(shù)據(jù)中估計信號的某些特征參量的理論和方法。例如信號中的諧波恢復(fù)下面通過一個簡單的例子來說明估計的基本方法。4.2參數(shù)估計初步2022/12/205所謂估計理論就是從含有2023/1/462022/12/2062023/1/472022/12/2072023/1/482022/12/2082023/1/492022/12/2092023/1/4102022/12/20102023/1/4112022/12/20112023/1/4124.3最大似然估計當(dāng)被估計量為未知常量時，不能采用貝葉斯方法，可以采用比較簡單的最大似然估計。最大似然估計可以簡便地實(shí)現(xiàn)復(fù)雜估計問題的求解，而且，當(dāng)觀測數(shù)據(jù)足夠多時，其性能也是非常好的。因此，最大似然估計在實(shí)際中得到了廣泛應(yīng)用。2022/12/20124.3最大似然估計2023/1/4132022/12/20132023/1/4142022/12/20142023/1/4152022/12/20152023/1/4162022/12/20162023/1/4172022/12/20172023/1/4182022/12/20182023/1/4194.4線性最小均方估計對于隨機(jī)參數(shù)的估計，在4.2節(jié)介紹了最小均方估計，最小均方估計是被估計量的條件均值，這個條件均值通常都是觀測的非線性函數(shù)，估計器實(shí)現(xiàn)起來比較復(fù)雜。條件均值的計算需要用到被估計量的概率密度，如果并不知道概率密度，而只知道的一、二階矩特性，并且希望估計器能用線性系統(tǒng)實(shí)現(xiàn)，這時可以采用線性最小均方估計。2022/12/20194.4線性最小均方估計2023/1/4202022/12/20202023/1/4212022/12/20212023/1/4224.5最小二乘估計前面介紹的幾種估計方法中，最小均方估計、最大后驗(yàn)概率估計需要知道被估計量的先驗(yàn)概率密度，最大似然估計需要知道似然函數(shù)，線性最小均方估計需要知道被估計量的一、二階矩，如果這些概率密度或矩未知，就不能采用這些方法，這時可以采用最小二乘估計。最小二乘估計對統(tǒng)計特性沒有做任何假定，因此，它的應(yīng)用非常廣泛。2022/12/20224.5最小二乘估計2023/1/4232022/12/20232023/1/4242022/12/20242023/1/4254.6信號檢測基礎(chǔ)在實(shí)際中經(jīng)常需要根據(jù)觀測波形對幾種可能的情況進(jìn)行判決，如在雷達(dá)信號檢測中，根據(jù)雷達(dá)接收機(jī)輸出的波形作出目標(biāo)存在與否的判斷。由于存在一定的環(huán)境雜波干擾以及雷達(dá)接收機(jī)內(nèi)部的噪聲，微弱的雷達(dá)回波信號總是淹沒在雜波和噪聲中（我們把雜波和噪聲統(tǒng)稱為噪聲），因此，雷達(dá)信號的檢測問題就是從含有噪聲的數(shù)據(jù)（觀測）中判斷是否有目標(biāo)回波信號存在。在數(shù)字通信系統(tǒng)中，數(shù)字0和數(shù)字1是用兩個不同信號來表示的，信號在信道中傳輸會疊加上信道噪聲，通信信號的檢測就是從含有噪聲的數(shù)據(jù)（觀測）中區(qū)分兩種不同的信號。2022/12/20254.6信號檢測基礎(chǔ)2023/1/4262022/12/20262023/1/4272022/12/20272023/1/4282022/12/20282023/1/4292022/12/20292023/1/4302022/12/20302023/1/4312022/12/20312023/1/4324.7判決準(zhǔn)則假設(shè)檢驗(yàn)的實(shí)質(zhì)就是對觀測空間進(jìn)行劃分，劃分觀測空間必須遵循一定的最優(yōu)準(zhǔn)則，前面已經(jīng)介紹了最大后驗(yàn)概率準(zhǔn)則，本節(jié)繼續(xù)介紹貝葉斯準(zhǔn)則、最小錯誤概率準(zhǔn)則、極大極小準(zhǔn)則和紐曼-皮爾遜（Neyman-Pearson）準(zhǔn)則。2022/12/20324.7判決準(zhǔn)則假2023/1/4334.7.1貝葉斯準(zhǔn)則2022/12/20334.7.1貝葉斯準(zhǔn)則2023/1/4342022/12/20342023/1/4354.7.2極大極小準(zhǔn)則2022/12/20354.7.2極大極小準(zhǔn)則2023/1/4362022/12/20362023/1/4372022/12/20372023/1/4384.7.3紐曼-皮爾遜（Neyman-Pearson）準(zhǔn)則在許多信號檢測問題中，如雷達(dá)系統(tǒng)，要確定代價因子和先驗(yàn)概率是非常困難的，前面介紹的幾種準(zhǔn)則就不能采用，這時可以采用紐曼-皮爾遜準(zhǔn)則，這一準(zhǔn)則是在約束虛警概率恒定的情況下使漏警概率最?。ɑ驒z測概率最大）。2022/12/20384.7.3紐曼-皮爾遜（Neym2023/1/4392022/12/20392023/1/4402022/12/20402023/1/4412022/12/20412023/1/4422022/12/20422023/1/443歡迎提出問題！2022/12/2043歡迎提出問題！2023/1/444中期考核測試1、請舉例說明優(yōu)化算法的本質(zhì)是搜索計算？（20分）2、舉例說明貝葉斯推斷的基本框架及其求解思路。（20分）3、如圖所示，如何理解參數(shù)空間到信號空間的映射？舉例說明。（20分）2022/12/2044中期考核測試1、請舉例說明優(yōu)化算法的2023/1/4452022/12/20452023/1/446統(tǒng)計信號分析與處理機(jī)電學(xué)院通信工程系2009年10月

2022/12/201統(tǒng)計信號分析與處理機(jī)電學(xué)院通信工程系2023/1/447第四章參數(shù)估計與信號檢測2022/12/202第四章參數(shù)估計與信號檢測2023/1/448第四章參數(shù)估計與信號檢測4.1引言與導(dǎo)學(xué)4.2參數(shù)估計初步4.3最大似然估計4.4線性最小均方估計4.5最小二乘估計4.6信號檢測基礎(chǔ)4.7判決準(zhǔn)則4.8檢測性能及其蒙特卡羅仿真2022/12/203第四章參數(shù)估計與信號檢測4.2023/1/449信號檢測與估計理論是許多現(xiàn)代信號處理系統(tǒng)設(shè)計的基礎(chǔ)，這些系統(tǒng)包括雷達(dá)、聲吶、通信、語言處理、圖像分析、生物醫(yī)學(xué)、自動控制、地震處理等，所有這些系統(tǒng)都有兩個共同的問題：其一是需要在接收的數(shù)據(jù)或波形中判斷是否有需要的信號，稱為信號的檢測問題；其二是在檢測到信號后需要估計信號的某些參數(shù)，如信號的到達(dá)時間、頻率、相位等，稱為信號參數(shù)的估計問題。由于接收的數(shù)據(jù)或波形總是混雜著噪聲，噪聲是隨機(jī)過程，因此，信號檢測與估計理論需要應(yīng)用隨機(jī)過程的理論。本章在引言和導(dǎo)學(xué)之后首先介紹估計理論，在4.2節(jié)介紹貝葉斯估計，在此基礎(chǔ)上介紹最大似然估計、線性最小均方估、最小二乘估計，這分別是4.3、4.4、4.5節(jié)的內(nèi)容。從4.6節(jié)開始我們轉(zhuǎn)入另一個環(huán)節(jié)----假設(shè)檢驗(yàn)的基本概念的介紹，并在4.7節(jié)討論判決準(zhǔn)則的相關(guān)問題，最好在4.8節(jié)用檢測性能及其蒙特卡羅仿真結(jié)束全部的討論。4.1引言與導(dǎo)學(xué)2022/12/204信號檢測與估計理論是許2023/1/450所謂估計理論就是從含有噪聲的數(shù)據(jù)中估計信號的某些特征參量的理論和方法。例如信號中的諧波恢復(fù)下面通過一個簡單的例子來說明估計的基本方法。4.2參數(shù)估計初步2022/12/205所謂估計理論就是從含有2023/1/4512022/12/2062023/1/4522022/12/2072023/1/4532022/12/2082023/1/4542022/12/2092023/1/4552022/12/20102023/1/4562022/12/20112023/1/4574.3最大似然估計當(dāng)被估計量為未知常量時，不能采用貝葉斯方法，可以采用比較簡單的最大似然估計。最大似然估計可以簡便地實(shí)現(xiàn)復(fù)雜估計問題的求解，而且，當(dāng)觀測數(shù)據(jù)足夠多時，其性能也是非常好的。因此，最大似然估計在實(shí)際中得到了廣泛應(yīng)用。2022/12/20124.3最大似然估計2023/1/4582022/12/20132023/1/4592022/12/20142023/1/4602022/12/20152023/1/4612022/12/20162023/1/4622022/12/20172023/1/4632022/12/20182023/1/4644.4線性最小均方估計對于隨機(jī)參數(shù)的估計，在4.2節(jié)介紹了最小均方估計，最小均方估計是被估計量的條件均值，這個條件均值通常都是觀測的非線性函數(shù)，估計器實(shí)現(xiàn)起來比較復(fù)雜。條件均值的計算需要用到被估計量的概率密度，如果并不知道概率密度，而只知道的一、二階矩特性，并且希望估計器能用線性系統(tǒng)實(shí)現(xiàn)，這時可以采用線性最小均方估計。2022/12/20194.4線性最小均方估計2023/1/4652022/12/20202023/1/4662022/12/20212023/1/4674.5最小二乘估計前面介紹的幾種估計方法中，最小均方估計、最大后驗(yàn)概率估計需要知道被估計量的先驗(yàn)概率密度，最大似然估計需要知道似然函數(shù)，線性最小均方估計需要知道被估計量的一、二階矩，如果這些概率密度或矩未知，就不能采用這些方法，這時可以采用最小二乘估計。最小二乘估計對統(tǒng)計特性沒有做任何假定，因此，它的應(yīng)用非常廣泛。2022/12/20224.5最小二乘估計2023/1/4682022/12/20232023/1/4692022/12/20242023/1/4704.6信號檢測基礎(chǔ)在實(shí)際中經(jīng)常需要根據(jù)觀測波形對幾種可能的情況進(jìn)行判決，如在雷達(dá)信號檢測中，根據(jù)雷達(dá)接收機(jī)輸出的波形作出目標(biāo)存在與否的判斷。由于存在一定的環(huán)境雜波干擾以及雷達(dá)接收機(jī)內(nèi)部的噪聲，微弱的雷達(dá)回波信號總是淹沒在雜波和噪聲中（我們把雜波和噪聲統(tǒng)稱為噪聲），因此，雷達(dá)信號的檢測問題就是從含有噪聲的數(shù)據(jù)（觀測）中判斷是否有目標(biāo)回波信號存在。在數(shù)字通信系統(tǒng)中，數(shù)字0和數(shù)字1是用兩個不同信號來表示的，信號在信道中傳輸會疊加上信道噪聲，通信信號的檢測就是從含有噪聲的數(shù)據(jù)（觀測）中區(qū)分兩種不同的信號。2022/12/20254.6信號檢測基礎(chǔ)2023/1/4712022/12/20262023/1/4722022/12/20272023/1/4732022/12/20282023/1/4742022/12/20292023/1/4752022/12/20302023/1/4762022/12/20312023/1/4774.7判決準(zhǔn)則假設(shè)檢驗(yàn)的實(shí)質(zhì)就是對觀測空間進(jìn)行劃分，劃分觀測空間必須遵循一定的最優(yōu)準(zhǔn)則，前面已經(jīng)介紹了最大后驗(yàn)概率準(zhǔn)則，本節(jié)繼續(xù)介紹貝葉斯準(zhǔn)則、最小錯誤概率準(zhǔn)則、極大極小準(zhǔn)則和紐曼-皮爾遜（Neyman-Pearson）準(zhǔn)則。2022/12/20324.7判決準(zhǔn)則假2023/1/4784.7.1