第1章高階統(tǒng)計量的定義與性質

1、精選優(yōu)質文檔-傾情為你奉上第1章 高階統(tǒng)計量的定義與性質§1.1 準備知識1.隨機變量的特征函數(shù)若隨機變量的分布函數(shù)為，則稱為的特征函數(shù)。其中為概率密度函數(shù)。離散情況：* 特征函數(shù)是概率密度的付里葉變換。例：設，則特征函數(shù)為令，則根據(jù)公式：，則若，則。2.多維隨機變量的特征函數(shù)設隨機變量聯(lián)合概率分布函數(shù)為，則聯(lián)合特征函數(shù)為令,，則 矩陣形式或 標量形式其中，為聯(lián)合概率密度函數(shù)。例：設維高斯隨機變量為,的概率密度為 的特征函數(shù)為 矩陣形式其中，, 標量形式3.隨機變量的第二特征函數(shù)定義：特征函數(shù)的對數(shù)為第二特征函數(shù)為(1)單變量高斯隨機過程的第二特征函數(shù) (2)多變量情形§1

2、.2 高階矩與高階累積量的定義1.單個隨機變量情形（1） 高階矩定義隨機變量的階矩定義為顯然，。隨機變量的階中心矩定義為 (1)由式(1)可見，,。若存在，則的特征函數(shù)可按泰勒級數(shù)展開，即 (2)并且與的階導數(shù)之間的關系為 （2）高階累積量定義的第二特征函數(shù)按泰勒級數(shù)展開，有 (3)并且與的階導數(shù)之間的關系為稱為隨機變量的階累積量，實際上由及的連續(xù)性，存在，使時，故第二特征函數(shù)對有意義且單值（只考慮對數(shù)函數(shù)的主值），的前階導數(shù)在處存在，故也存在。(3)二者關系下面推導與之間的關系。形式地在式(2)與式(3)中令，并利用 比較上式中各同冪項系數(shù)，可得階累積量與階矩的關系如下：若，則 由上可見，當

3、隨機變量的均值為零時，其前三階累積量與前三階矩相同，而四階累積量與相應的高階矩不相同。2.多個隨機變量情形(1)高階矩給定維隨機變量，其聯(lián)合特征函數(shù)為(4)其第二聯(lián)合特征函數(shù)為 (5)可見，聯(lián)合特征函數(shù)就是隨機變量的聯(lián)合概率密度函數(shù)的維付里葉變換。對式(4)與(5)分別按泰勒級數(shù)展開，則階數(shù)的聯(lián)合矩可用聯(lián)合特征函數(shù)定義為(2)高階累積量同樣地，階數(shù)的聯(lián)合累積量可用第二聯(lián)合特征函數(shù)定義為 (3)二者關系聯(lián)合累積量可用聯(lián)合矩的多項式來表示，但其一般表達式相當復雜，這里不加詳述，僅給出二階、三階和四階聯(lián)合累積量與其對應階次的聯(lián)合矩之間的關系。設和均為零均值隨機變量，則 (6a) (6b) (6c)對

4、于非零均值隨機變量，則式(6)中用代替即可。與單個變量情形類似，前三階聯(lián)合累積量與前三階聯(lián)合矩相同，而四階及高于四階的聯(lián)合累積量則與相應階次的聯(lián)合矩不同。注意，式(6)中采用表示聯(lián)合累積量的方法在以后將時常用到。3.平穩(wěn)隨機過程的高階累積量設為零均值階平穩(wěn)隨機過程，則該過程的階累積量定義為隨機變量的階聯(lián)合累積量，即而該過程的階矩則定義為隨機變量的階聯(lián)合矩，即這里，表示聯(lián)合矩。由于是階平穩(wěn)的，故的階累積量和階矩僅僅是時延的函數(shù)，而與時刻無關，其二階、三階和四階累積量分別為可以看出，的二階累積量正好就是其自相關函數(shù)，三階累積量也正好等于其三階矩，而的四階累積量則與其四階矩不一樣，為了得到四階累積量

5、，必須同時知道四階矩和自相關函數(shù)。§1.3 高階累積量的性質高階累積量具有下列重要特性：（） 設為常數(shù)，為隨機變量，則（） 累積量關于變量對稱，即其中為中的任意一種排列。（） 累積量關于變量具有可加性，即（） 如果為常數(shù)，則（） 如果隨機變量與隨機變量相互獨立，則（） 如果隨機變量中某個子集與補集相互獨立，則§1.4 高斯過程的高階累積量1.單個高斯隨機變量情形設隨機變量服從高斯分布，即的概率密度函數(shù)為故有的第二特征函數(shù)為 (7)利用累積量與的關系式(3)，并比較(3)與(7)兩式，可以得到隨機變量的各階累積量為 ， ， 由此，我們有下列結論：(1)高斯隨機變量的一階累積量

6、和二階累積量恰好就是的均值和方差。(2)高斯隨機變量的高階累積量等于零。(3)由于高斯隨機變量的各階矩為 可見，高階累積量與高階矩不一樣。由于高斯隨機變量的高階矩并不比其二階矩多提供信息，它仍取決于二階矩的統(tǒng)計知識，所以人們寧愿選擇高階累積量這一統(tǒng)計量，直接把多余的信息用零來處理。2.高斯隨機過程情形先討論維高斯隨機矢量，設其均值矢量為，協(xié)方差矩陣為 其中 維高斯隨機變量的聯(lián)合概率密度函數(shù)為的聯(lián)合特征函數(shù)為其中，的第二聯(lián)合特征函數(shù)為由于階數(shù)的聯(lián)合累積量可由第二特征函數(shù)定義為于是，維高斯隨機變量的各階累積量為：（1），即中某個值取1(設)，而其余值為零，于是 （2），這有兩種情況：1）中某兩個值

7、取1(設)，其余值為零，這時 上式利用了關系式。2)中某個值取2（設），其余值為零，這時 （3），由于是關于自變量的二次多項式，因而關于自變量的三階或三階以上（偏）導數(shù)等于零，因而的三階或三階以上聯(lián)合累積量等于零，即由上一節(jié)關于隨機過程的累積量的定義可知，對于高斯隨機過程，其階次大于的階累積量也為零，即由于高斯過程的高階累積量（當階次大于時）等于零，而對于非高斯過程，至少存在著某個大于的階次，其階累積量不等于零。因此，利用高階累積量可以自動地抑制高斯背景噪聲（有色或白色）的影響，建立高斯噪聲下的非高斯信號模型，提取高斯噪聲中的非高斯信號（包括諧波信號）。正因為這樣，高階累積量這一統(tǒng)計量已日益受

8、到人們的重視并已成為信號處理中一種非常有用的工具。因此，文中在今后的算法研究中均代用高階累積量而不采用高階矩。§1.5 雙譜及其性質1.高階譜的定義設為零均值平穩(wěn)隨機過程，則其階累積量的維付里葉變換定義為的階譜(kth-order spectrum)，即 (8)通常，為復數(shù)，其存在的充分必要條件是絕對可和，即高階譜又稱作多譜(Polyspectrum)，通常階譜對應于譜。例如三階譜對應雙譜(Bispectrum)，四階譜對應于三譜(Trispectrum)，今后我們大多數(shù)采用多譜這一概念。取時，式(8)分別簡化為功率譜、雙譜和三譜公式，即，為功率譜 (9)，為雙譜 ，為三譜容易看出，

9、式(9)就是維納-辛欽定理?？梢姡β首V也是高階譜的一種特殊形式。2.雙譜的性質在高階譜中，雙譜處理方法最簡單，且含有功率譜中所沒有的相位信息，是高階譜研究中的“熱點”。因此下面著重研究雙譜及其性質。設為零均值、三階實平穩(wěn)隨機過程，其自相關函數(shù)和功率譜分別為 而其三階累積量和雙譜分別為 (10) (11)由式(10)可知，三階累積量具有如下對稱性： (12)由式(11)雙譜的定義及式(12)三階累積量的對稱性可知：(1)通常是復數(shù)，即包含幅度和相位。 (2) 是以為周期的雙周期函數(shù)，即 (3) 具有如下對稱性 此外，雙譜在實際應用中還具有如下重要特性：(1) 高斯過程如果為零均值、高斯平穩(wěn)隨機

10、過程，則對于所有，都有，因此。(2)非高斯白噪聲過程如果是具有，的非高斯白噪聲過程，則其功率譜和雙譜分別為一直線與一平面，即，。(3) 非高斯白噪聲通過線性系統(tǒng) 設線性系統(tǒng)的傳遞函數(shù)為，系統(tǒng)的輸入為零均值非高斯白噪聲，且，則系統(tǒng)輸出的功率譜與雙譜分別為設則由上可見，雙譜的幅度譜和功率譜均由決定，因而雙譜的幅度譜與功率譜的信息一樣多。但功率譜不含相位信息，而雙譜則包含相位信息，這就使雙譜在信號處理領域得到越來越多的應用，因為有些場合如對圖像處理來說，相位信息比幅度信息還重要。(4) 非最小相位系統(tǒng)的辨識雙譜含有相位信息，因此在非最小相位系統(tǒng)辨識中變得十分有用，現(xiàn)用一個簡單的例子加以說明。設輸入為

11、非高斯平穩(wěn)白噪聲過程，它有，。線性系統(tǒng)為下列三種情形的二階FIR系統(tǒng)。1) 最小相位系統(tǒng) 系統(tǒng)輸出為 2) 最大相位系統(tǒng) 系統(tǒng)輸出為 3) 混合相位系統(tǒng) 系統(tǒng)輸出為 輸出，及具有相同的自相關序列，即 這就意味著它們具有相同的功率譜，因此利用功率譜無法將三個系統(tǒng)區(qū)分開來。然而利用雙譜則可以區(qū)分，因為，及具有不同的三階累積量，見表1.1。這表明三階累積量可以用來辨識非最小相位系統(tǒng)，這在地震信號反褶積及數(shù)據(jù)通信中有重要的應用。表1.1具有相同自相關的三個系統(tǒng)的輸出的三階累積量累積量最小相位系統(tǒng)最大相位系統(tǒng)混合相位系統(tǒng)(5) 混合高斯和非高斯系統(tǒng)的辨識設一過程的功率譜為，雙譜為。若與相匹配的線性系統(tǒng)的

12、傳遞函數(shù)為，即 (13)而與相匹配的線性系統(tǒng)的傳遞函數(shù)為，即 (14)當由式(13)求得的與由式(14)求得的不同時，可用來辨識高斯與非高斯分量組合的系統(tǒng)。下面就來研究這個問題?？紤]如圖1-1所示的過程，它由兩個過程組成：一為高斯白噪聲通過AR濾波器的輸出，另一為非高斯白噪聲通過AR濾波器的輸出。設與相互獨立， 圖1-1 混合高斯和非高斯系統(tǒng)因此與相互獨立。為方便起見，設，。于是的雙譜是和各自雙譜的和，因為是高斯過程，其雙譜為零，故的雙譜就是的雙譜。的雙譜可由式(14)確定，其中 而的功率譜為與各自功率譜的和，它由式(13)確定，其中 而 這個例子表明，描述過程雙譜的模型不同于描述過程功率譜的模型。雙譜的這一特征使雙譜在辨識高斯與非高斯分量組合系統(tǒng)時起著關鍵作用，這也是我們利用雙譜及多譜（或高階累積量）進行隨機信號建模以及有色噪聲中諧波恢復的理論依據(jù)。雙譜還具有其它一些性質，如可用來檢測二次相位耦合，辨識系統(tǒng)的非線性等，這里就不再詳述。§1.6 系統(tǒng)中的高階累積量對于單輸入單輸出線性時不變系統(tǒng)，輸入與輸出的高階