第2章 信源編碼技術(shù)課件

第2章信源編碼技術(shù)

2.1信源編碼的基本概念

2.2無失真信源編碼

2.3限失真信源編碼信源編碼原始的語音信號，如果不做任何處理，將含有很多的冗余信息，不利于在信道上進行傳輸。為了提高傳輸效率，需要對該信號進行壓縮，這一步驟稱為信源編碼。與此類似，圖像、視頻等信號的壓縮，都屬于信源編碼的范疇。最主要的目的：提高通信的有效性。信源編碼原理：冗余的存在是由于原有信息之間存在著一定的關(guān)聯(lián)，以及不同信息之間出現(xiàn)的概率分布不均勻所致。例：語音的冗余，文字的不均勻性通過編碼處理，使得信息之間成為完全獨立的符號，且出現(xiàn)概率相同，可以大大壓縮原有信息的長度，而保持信息量不變。 2.1.4信源的信息度量 1.信息的基本概念 我們在前面討論了信源的分類與統(tǒng)計描述,主要利用了信源的客觀概率分布(包括概率與概率密度)特性描述了信源。為了進一步深入定量地研究信源,僅限于上述一般化的描述是不夠的。信源就其信息實質(zhì)來說,具有不確定性,那么信息與不確定性是什么關(guān)系,而不確定性又如何利用客觀概率來表達,這就是信源輸出的消息(或符號)所包含信息的定量度量問題。 2.信源的信息度量

信源輸出的是消息,消息的內(nèi)涵是信息,信息的最主要特征是具有不確定性。如何度量信息的不確定性？信源的統(tǒng)計特性可以采用概率及概率密度來描述,那么度量信息的不確定性與信源的概率與概率密度是什么關(guān)系?信源輸出的信息量,信息論創(chuàng)始人Shannon將其定義為 H(X)=H［P(x1),…,P(xn)］ =E{I［P(xi)］} =E［-logP(xi)］=P(xi)logP(xi)

其中,“E”表示求概率統(tǒng)計平均值,即求數(shù)學(xué)期望值。Shannon稱H(X)為信源的信息熵,簡稱為熵。從數(shù)學(xué)上看,熵是信源消息概率P(xi)的對數(shù)函數(shù)logP(xi)的統(tǒng)計平均值,故又稱為P(xi)的泛函數(shù),它是定量描述信源的一個重要物理量。熵是Shannon于1948年首先給出的一個從概率統(tǒng)計角度來描述信源不確定性的一個客觀物理量,是從信源整體角度上反映信源不確定性的度量。

4.信源編碼的理論基礎(chǔ) 現(xiàn)在我們來討論信源冗余度的概念,它是信源統(tǒng)計分析中一個非常重要的概念,是信源信息處理、信源編碼的理論依據(jù)。由于實際信源幾乎都是有記憶的,這也就是說信源輸出的消息序列的各個消息之間存在著記憶,即統(tǒng)計關(guān)聯(lián)。如果能首先定量地計算出這一統(tǒng)計關(guān)聯(lián)引入的冗余度,就能充分地利用它。下面討論冗余度及其計算。對于一個最簡單二進制信源有下列基本不等式: 0≤H(X/Y)≤H(X)≤lb2=1(2-32) 其中l(wèi)b2為離散二進制信源消息等概率分布時的熵函數(shù)值（最大值、極值）。 例2-3關(guān)于英文文字信源冗余度的討論。 根據(jù)英文中各個字母（含空格）出現(xiàn)的概率,可列出表2-2。表2-2英文字母出現(xiàn)概率統(tǒng)計表 由表2-2,首先求得獨立等概率情況下的H0(X)值:

H0(X)=lb27=4.76b 再求獨立不等概率情況下的H1(X)值: H1(X)=P(xi)lbP(xi)=4.03b 還可進一步求得有一階、二階記憶下的H2(X)和H3(X)為 H2(X)=3.32b

H3(X)=3.1b

最后,利用統(tǒng)計推斷方法求得H∞(X)的值。一般而言,由于采用不同的逼近方法和所取樣本上的差異,所推算的結(jié)果也不同,這里我們采用Shannon求得的推算值：

H∞(X)≈1.4b 這樣,利用公式(2-35)及(2-36)可分別求得η=0.29,R=0.71。這一結(jié)論說明英文字母信源從理論上看,有71%是多余的,即可以認為一本100頁的英文書,理論上看僅有29頁是有效的,其余71頁從統(tǒng)計角度看完全是多余的。也正是由于理論上存在著這一多余成分,引導(dǎo)了實際工作者對英文信源進行壓縮編碼的研究。 英文信源的分析也帶動了各國對自己國家語言文字信源的分析,現(xiàn)將類似結(jié)果列于表2-3。表2-3不同文字信源冗余度估算 例2-4關(guān)于語音信源冗余度的一個粗略估計。 語音信源的編碼大致可以分為波形編碼、參量編碼與混合編碼三大類。這里,僅分析冗余度最大的參量編碼,即聲碼器的最大潛力。以英語為例,其音素大約有27～28個,若按人們通常講話的速率,每秒鐘大約平均發(fā)送10個音素,這時英語語音信源給出的信息率為 上限：I1=lb(256)10=80b/s 下限：I2=lb(128)10=70b/s 若按PCM常規(guī)數(shù)字化編碼傳送語音,其標(biāo)準(zhǔn)速率為64kb/s,因此可求得 η1==0.00125

η2==0.0011

R1=1-η1=1-0.00125=0.99875

R2=1-η2=1-0.0011=0.9989 可見,語音參量編碼潛力巨大。定義理論上最大壓縮倍如下： K1==800(倍)

K2==914(倍)2.2無失真信源編碼

2.2.1基本原理 我們在前面討論了無失真信源的信息度量：信源熵H（X）。在本節(jié)將進一步分析討論實現(xiàn)通信系統(tǒng)優(yōu)化的無失真信源編碼定理。為了分析簡化,這里僅討論最簡單情況組合下的信源無失真編碼定理：離散、無記憶、平穩(wěn)、遍歷、二（多）進制等（變）長編碼條件下的信源編碼定理。 下面,我們將從直觀概念出發(fā),直接推導(dǎo)出這類簡化信源編碼。首先研究等長碼,參見圖2-2,其中,x為輸入,它共有L位（長度）,每一位有n種取值可能;s為輸出,它共有K位（長度）,每一位有m種取值可能。圖2-2信源編碼原理圖

倘若不考慮信源的統(tǒng)計特性,為了實現(xiàn)無失真并有效的編碼,應(yīng)分別滿足： 無失真要求：nL≤mK（即每個信源組合必須有對應(yīng)的編碼）(2-37) 有效性要求：nL≥mK（即編碼組合總數(shù)要小于信源組合總數(shù)）(2-38) 從式(2-37)可推出(2-39) 顯然,上述兩個條件是相互矛盾的。如何解決這一對矛盾呢？惟一的方法是引入信源的統(tǒng)計特性。這時,就無需對信源輸出的全部nL種信息組合一一編碼,而僅對其中少數(shù)大概率典型組合進行編碼。 下面,先分析公式(2-39)的含義,并在引入信源統(tǒng)計特性以后對它作適當(dāng)?shù)男薷摹９?2-39)的右端,其分子部分表示等概率信源的熵,而分母部分則表示等概率碼元的熵。當(dāng)引入信源統(tǒng)計特性以后,信源不再滿足等概率,這時分子可修改為不等概率實際信源熵H(X),則有(2-40) 再將上式稍作變化,即可求得典型Shannon第一等長編碼定理形式,當(dāng)時,有效的無失真信源編譯碼存在,可構(gòu)造；(2-41) 反之,當(dāng) (2-42) 時,有效的無失真信源編譯碼不存在,不可構(gòu)造。 再討論變長碼,這時僅需將公式(2-40)修改為 (2-43) 式中將等長碼的碼長K改成相對應(yīng)變長碼的平均碼長,平均碼長由下式計算： (2-44) 再將公式(2-43)稍加修改即可求得典型的Shannon第一變長編碼定理形式: 對于二進制（m=2）,則有 當(dāng)對數(shù)取2為底時,有(2-45)(2-46)(2-47) 式中,K/L表示平均每個碼元的長度?？梢娝笃骄總€碼元的長度應(yīng)與信源熵相匹配,因此又稱為熵編碼。 實現(xiàn)無失真信源編碼的基本方法有兩大類型：一類為改造信源方式,即將實際不理想的不等概率信源變換成理想的具有最大熵值的等概率信源,再采用等長編碼進行匹配；另一類為適應(yīng)信源方式,即對實際的不等概率信源采用與之相匹配的變長編碼方法,包括最佳變長哈夫曼（Haffman）編碼、算術(shù)編碼以及適合于有記憶信源的游程編碼等。 2.2.2哈夫曼（Huffman）編碼 哈夫曼編碼是一種統(tǒng)計壓縮的可變長編碼,它將預(yù)編碼的字符用另一套不定長的編碼來表示,基本原理是：按照概率統(tǒng)計結(jié)果,出現(xiàn)概率高的字符用較短的編碼來表示,出現(xiàn)概率低的字符用較長的編碼來表示。編碼壓縮性能是由壓縮率（compressionratio）來衡量的,它等于每個采樣值壓縮前的平均比特數(shù)與壓縮后的平均比特數(shù)之比。由于編碼的壓縮性能與編碼技術(shù)無關(guān),而與字符集的大小有關(guān),因此,通?？梢詫⒆址D(zhuǎn)化成一種擴展的字符集,這樣采用相同的編碼技術(shù)就可以獲得更好的壓縮性能。 哈夫曼編碼過程可用于任意兩個字符集。下面分析一個任意輸入字符集到一個二進制輸出字符集的轉(zhuǎn)換過程。哈夫曼編碼過程類似于樹形生成過程。首先列出輸入字符集及其概率（或相對頻率）,以降序排列,這些列表項相應(yīng)于樹枝末端,每個分支都標(biāo)注了等于該分支概率的分支權(quán)值。現(xiàn)在開始生成包含這些分支的樹：將最低概率的兩個分支合并（在分支節(jié)點處）,形成一個新分支,并標(biāo)注上兩個概率的相加值；每次合并后,將新的分支和剩下的分支重新排序（若需要）,以保證減少的列表概率的遞降性,將這種排列方法稱為冒泡法。在每次合并后的重排中,新的分支在列表中不斷上升至不能上升為止。 因此,如果形成一個權(quán)值為0.2的分支,在冒泡過程中發(fā)現(xiàn)其他兩個分支的權(quán)值也是0.2,那么,新的分支將被冒泡到權(quán)值為0.2的分支組的頂端,而不是簡單地加入。 冒泡到同權(quán)值組的頂端可以生成碼長方差小的編碼,以降低緩沖溢出的可能性。 為了討論方便、描述準(zhǔn)確,我們定義n元素m字符集為：字符集中共有n個元素,每個元素都包含m個字符,即每個元素包含的字符數(shù)目相同。 例2-56元素單字符集的哈夫曼編碼。 設(shè)6元素單字符集中每個元素的出現(xiàn)概率如表2-4所示。表2-46元素單字符集哈夫曼編碼的詳細參數(shù)圖2-36元素單字符集的哈夫曼編碼樹 將哈夫曼編碼過程應(yīng)用于表2-4所示的輸入字符集。按照哈夫曼編碼規(guī)則,生成哈夫曼編碼樹,如圖2-3所示。然后在哈夫曼編碼樹的每個分支節(jié)點標(biāo)上二進制數(shù)“0”或“1”,以區(qū)分兩個分支。 這種標(biāo)記可以是任意的,但為了保持一致,將每個節(jié)點的上向分支標(biāo)為“1”,下向分支標(biāo)為“0”。 標(biāo)記好之后,沿著樹徑從樹基（最右）到每個分支（最左）的路徑包含了到達該分支的二進制序列,該二進制序列就是分支對應(yīng)字符的哈夫曼編碼,哈夫曼編碼的詳細參數(shù)如表2-4所示。 可計算出字符集的平均碼長是2.4b。這好像意味著我們必須找到一個傳輸非整數(shù)比特的方法。實際上這個結(jié)果表明,當(dāng)要傳輸100個輸入碼元時,通信信道中平均需要傳輸240b。比較一下,若采用等長碼來表示6元素單字符集,則碼長K為3b。而輸入字符集的熵（平均信息量）為2.32b。因此,哈夫曼編碼提供了1.25（3.0/2.4）的壓縮率,該字符集編碼效率達到了96.67％（2.32/2.40）。 為了說明代碼擴展的應(yīng)用,我們再舉一個例子。 例2-63元素單字符集的哈夫曼編碼（元素的概率分布不均勻）。 該字符集的哈夫曼編碼樹見圖2-4,其詳細參數(shù)見表2-5(i=1,2,3)。表2-53元素單字符集哈夫曼編碼的詳細參數(shù)圖2-43元素單字符集的哈夫曼編碼樹 該哈夫曼編碼的平均碼長是1.27b；采用等長碼則碼長為2b。這里,哈夫曼編碼提供的壓縮率是1.57（2/1.27）,比6元素單字符集的1.25大。但是,應(yīng)用式(2-21)計算字符集的熵（平均信息量）為0.9443b,該字符集編碼效率為74.35％（0.9443/1.27）,卻比6元素單字符集的96.67％小。這是因為6元素單字符集的信息熵（2.32b）與平均碼長（2.4b）的匹配比3元素單字符集的信息熵（0.9443b）與平均碼長（1.27b）的匹配要好。 由此可見,由于有較多元素的字符集具有較大的信息熵（平均信息量）,使得信息熵與平均碼長的匹配更好些,所以具有更高的編碼效率。為了提高編碼效率或獲得更大的壓縮增益,必須重新定義信源字符集的元素,對字符集進行擴展。具體的方法是：每次從源字符集（3元素單字符集）中選擇兩個元素,排序形成擴展字符集（9元素雙字符集）的新元素。如果假定元素是獨立的,那么每個新元素的概率是各個元素獨立概率之乘積。擴展字符集為X{xi∈X,i=1,2,…,9},每個元素xi的編碼序列通過上述哈夫曼過程獲得,擴展后的9元素雙字符集的參數(shù)如表2-6所示?？梢运愠鰯U展后的9元素雙字符集的壓縮率是2.07（2/0.9671）,編碼效率是97.64％（0.9443/0.9671）,比擴展前的3元素單字符集的壓縮率1.57、編碼效率74.35％有明顯的提高。表2-63元素單字符集擴展為9元素雙字符集

擴展碼提供了一種利用碼元關(guān)聯(lián)性的技術(shù)。例如,英文中的相鄰字母有很強的關(guān)聯(lián)性。特別常見的字母對有： threin shhee_ deeds_ ngatr_ teesd_ 下劃線代表一個空格。類似地,常見的3元組合有： theandfor ingioness 因此,一般不對單個字母采用哈夫曼編碼,而是將字符集擴展為包含所有單字母、常見2字母和3字母組合的擴展字符集,然后再對擴展字符集進行哈夫曼編碼,這樣可以得到更高的編碼效率。 例2-7概率分布均勻的3元素單字符集的哈夫曼編碼。 該字符集的哈夫曼編碼樹見圖2-5,其詳細參數(shù)見表2-7(i=1,2,3)。圖2-5概率分布均勻的3元素單字符集的哈夫曼編碼樹表2-7概率分布均勻的3元素單字符集哈夫曼編碼的詳細參數(shù) 該哈夫曼編碼的平均碼長是1.667b,采用等長碼時碼長為2b,則哈夫曼編碼提供的壓縮率是1.20（2/1.667）。應(yīng)用式(2-21)計算字符集的熵（平均信息量）為1.585b,該字符集編碼效率為95.08％（1.585/1.667）。 若把該3元素單字符集擴展為9元素雙字符集,則擴展后的9元素雙字符集的參數(shù)如表2-8所示。 可算出擴展后的9元素雙字符集的壓縮率是1.24（2/1.611）,編碼效率是98.39％（1.585/1.611）,與擴展前的3元素單字符集的壓縮率1.20、編碼效率95.08％相比較,有提高但提高的幅度不大。表2-8概率分布均勻的3元素單字符集擴展為9元素雙字符集

通過例2-6與例2-7的比較,我們可以得出以下兩點結(jié)論: ①字符集的哈夫曼編碼的編碼效率和壓縮率與字符集的概率分布有關(guān),概率分布不均勻,編碼效率低,壓縮率高；概率分布均勻,編碼效率高,壓縮率低。 ②擴展后的字符集的編碼效率和壓縮率提高的幅度與原字符集的概率分布有關(guān),概率分布不均勻,編碼效率和壓縮率提高的幅度大；概率分布均勻,編碼效率和壓縮率提高的幅度小。 故哈夫曼編碼適合用于概率分布不均勻的信源。

哈夫曼編碼方法是一種不等長最佳編碼方法,此處的最佳是指：對于相同概率分布的信源而言,它的平均碼長比其他任何一種有效編碼方法的平均碼長都短。2.3限失真信源編碼 2.3.1基本原理 若有一個離散、無記憶、平穩(wěn)信源,其信息率失真函數(shù)為R(D),則當(dāng)通信系統(tǒng)中實際信息率R＞R(D)時,只要信源序列L足夠長(L→∞),一定存在一種編碼方式C′使其譯碼以后的失真小于或等于D+ε,且ε為任意小的正數(shù)(ε→0),反之,若R＜R(D),則無論用什么編碼方式,其譯碼失真必大于D。 與實現(xiàn)無失真信源編碼的方法類似,實現(xiàn)限失真信源編碼的方法也分為兩大類型：一類為適應(yīng)信源方式,即首先承認信源的實際客觀概率統(tǒng)計特性,再尋找適應(yīng)這類概率統(tǒng)計特性的編碼方法。 比如充分考慮并利用信源消息序列的各個消息變量（或各取樣值）之間的統(tǒng)計關(guān)聯(lián)（記憶特性）的矢量量化編碼；另一類是改造信源方式,其著眼點首先是改造信源的客觀統(tǒng)計特性,即解除實際信源消息序列的各個消息（或各取樣值）之間的統(tǒng)計關(guān)聯(lián)相關(guān)特性,將有記憶信源改造為無記憶信源,甚至還可以進一步將無記憶信源變換為理想最大熵等概率信源。第一類：矢量量化編碼，第二類：預(yù)測編碼與變換編碼。 2.3.2連續(xù)信源的限失真信源編碼 1.標(biāo)量量化 標(biāo)量量化與連續(xù)信源的模擬信號數(shù)字化緊密相連。數(shù)字化是當(dāng)今通信技術(shù)發(fā)展的必然趨勢,也是信息化社會的基礎(chǔ)。常見的電話、傳真、電視等信號都是連續(xù)的模擬信號,但是為了傳輸、處理、存儲與交換的方便,同時為了提高通信質(zhì)量以及設(shè)備生產(chǎn)、維護的方便,通常需要對模擬信號數(shù)字化。 下面以電話的語音信號為例,簡單介紹數(shù)字化的基本原理。PCM編碼過程PCM：脈沖編碼調(diào)制，主要用于語音信號的預(yù)處理，分為三大步驟：取樣量化編碼語音信號的頻帶為300-3400Hz（聲波），通過話筒后，聲波轉(zhuǎn)化為電信號，頻率不變。（實際頻帶可達20000Hz，通過濾波器加以限制）取樣：根據(jù)取樣定理，上述語音信號可以由離散信號轉(zhuǎn)變?yōu)閿?shù)字信號，取樣頻率一般為8000Hz，即每秒鐘取樣8000次。原來的模擬語音信號轉(zhuǎn)變?yōu)闄M軸離散的抽樣信號。量化：被抽樣后的語音信號，其幅度依然為連續(xù)值，為了轉(zhuǎn)變?yōu)檫m宜在數(shù)字系統(tǒng)中傳輸?shù)男盘?，需要進行離散化，也就是量化過程。均勻量化：量化階相等非均勻量化：量化階不等編碼：量化后，原有的每個樣點值由一串?dāng)?shù)字序列表示，量化越精確，序列長度越長。目前用8位bit表示一個樣點。每秒的bit數(shù)則為：？？ 語音信號數(shù)字化的三個基本步驟：取樣、量化與編碼，分別完成對模擬信號橫向時間軸的離散化、縱向取值域的離散化,以及將已被離散化的數(shù)值編成相應(yīng)的0、1序列的碼組。第二個基本步驟量化就是一維的標(biāo)量量化,屬于典型的限失真編碼。 量化的實質(zhì)是把時間上離散的抽樣值的取值范圍按照一定的規(guī)則從無限多個數(shù)值轉(zhuǎn)換為有限多個數(shù)值,即抽樣值只能取有限多個數(shù)值中的一個。 為了簡化,設(shè)量化電平數(shù)為l=23=8,對以上三個基本步驟用比較形象的圖形表示,如圖2-6所示。 在如圖2-6所示的模擬信號數(shù)字化過程中,圖(a)表示語音信源輸出的原始連續(xù)模擬信號x(t)；圖(b)表示對原始模擬信號按均勻間隔Ts抽樣后橫向離散化的連續(xù)樣值序列x(kTs)，其取值是0～7電平區(qū)間內(nèi)的某一個值,其取值數(shù)為無限多個；圖(c)表示對已橫向離散化的連續(xù)樣值再經(jīng)過縱向離散化的量化處理后的量化序列值xl(kTs),量化是按照“四舍五入”的規(guī)則進行的,量化后的樣值在0～7的8個整數(shù)值中選取某一個值,其取值數(shù)為有限多個（此處是8個）。例如當(dāng)k=0時,x(0)＝0.3,它小于0.5,量化后的xl(0)＝0電平；當(dāng)k＝1時,x(Ts)＝1.9,超過1.5小于2.5,量化后的xl(Ts)＝2電平,依次類推,顯然量化屬于限失真編碼；圖(d)表示對每個量化序列值進行對應(yīng)的二進制編碼。 8電平可以采用3位二進制編碼來表示,例如,當(dāng)k＝0時,0量化電平可以編成3位二進制碼組為000,當(dāng)k＝1時,2量化電平可以編成010,依次類推；圖(e)表示圖(c)中的量化序列值與圖(b)中相應(yīng)的抽樣序列值之間的量化誤差序列值Ek=xl(kTs)-x(kTs)。例如當(dāng)k＝0時,量化值0與抽樣值0.3之間的量化誤差E0=xl(0)-x(0)=0-0.3=-0.3,當(dāng)k＝1時,量化誤差E1＝xl(Ts)-x(Ts)＝2－1.9＝0.1,依次類推。圖2-6模擬信號數(shù)字化過程原理示意圖圖2-6模擬信號數(shù)字化過程原理示意圖圖2-15量化的基本過程 當(dāng)輸入信號x的幅度落在xl和xl+1之間時,量化器的輸出為yl,其表達式為 yl=Q{xl≤x＜xl+1}l=1,2,…,L(2-72) 式中,yl稱為量化電平或重建電平,xl稱為分層電平。分層電平之間的間隔Δl=xl+1-xl稱為量化間隔,也稱為量階或階距。量化間隔相等時稱為均勻量化,不相等時稱為非均勻量化。 量化器輸出與輸入之間的關(guān)系稱為量化特性,可用量化特性曲線來形象地表示。一個理想的線性系統(tǒng),其輸出/輸入特性為一條直線,而量化器的輸出/輸入特性是階梯形曲線。階梯面之間的距離為階距。均勻量化器的特性曲線是等階距的,非均勻量化器的特性曲線是不等階距的。根據(jù)階梯面的位置,量化特性曲線又可分為中升型和中平型。各種量化特性曲線如圖2-16所示。

圖2-16各種量化特性曲線(a)非均勻中升型；(b)均勻中升型；

圖2-16各種量化特性曲線(c)非均勻中平型；(d)均勻中平型 量化器的輸入是連續(xù)值,輸出是離散值,所以輸入與輸出之間必然存在著誤差。由于這種誤差是因量化而產(chǎn)生的,所以稱為量化誤差。定義量化誤差為量化器的輸出與輸入之差,則第k個樣值的量化誤差為Δq(kTs)=xl(kTs)-x(kTs)(2-73) 圖2-17給出了量化誤差Δq(kTs)的示意圖。圖2-17量化誤差Δq(kTs)的示意圖 圖中,連續(xù)曲線x(t)表示原始模擬信號；x(kTs)表示第k個樣值,記為“■”；xl(kTs)表示第k個樣值的量化值,記為“▲”；Δq(kTs)表示第k個樣值的量化誤差值。 如果不考慮具體樣值,式(2-73)可以簡化為 Δq=yl-x=Q(x)-x(2-74) 量化誤差Δq的變化規(guī)律是由x的取值規(guī)律所決定的。當(dāng)x是確定性信號時,Δq是一個確定性函數(shù)；當(dāng)x是隨機信號時,Δq是一個隨機變量。量化誤差的存在對信號的解調(diào)必定會產(chǎn)生影響,這種影響會引起信號的失真,所以量化為限失真編碼。 由此看來量化誤差對信號的影響是一種干擾,所以通常又把量化誤差稱為量化噪聲。量化噪聲是正、負交變的隨機變量,其平均值為零,所以量化噪聲對信號的影響要用平均功率來度量。量化噪聲的平均功率用均方誤差表示。設(shè)輸入信號x的幅度概率密度為px(x),量化噪聲的平均功率為(2-75) 由于有L個量化間隔,因此可以把積分區(qū)域分割成L個區(qū)間,上式可寫成 式(2-76)是計算量化噪聲平均功率的基本公式。在給定消息源的情況下,px(x)是已知的,因此量化噪聲的平均功率與量化間隔的大小和分割方式有關(guān)。量化理論就是研究如何使量化噪聲的平均功率最小或者符合一定的規(guī)律。

(2-76) 與其他電子系統(tǒng)類似,通常用量化器輸出端的信號噪聲功率比（簡稱量化信噪比,通常用符號SNR表示）來衡量量化器的質(zhì)量,量化信噪比SNR的表達式為 式中,E表示求統(tǒng)計平均,Sq表示量化器輸出的信號功率,Nq表示量化噪聲功率。(2-77) （4）非均勻量化。 量化間隔不相等的量化稱為非均勻量化。從理論分析的角度看,非均勻量化可認為是先對信號進行非線性變換,然后再進行均勻量化。具體過程為：在發(fā)送端對輸入信號先進行一次非線性壓縮變換z=f(x),然后對z進行均勻量化、編碼并發(fā)送出去；在接收端,對接收到的信號解碼,得到量化電平,再對量化電平進行一次相反的非線性擴張變換f-1(x)，才能恢復(fù)原始信號,如圖2-19所示。在實際實現(xiàn)非均勻量化時,通常是把瞬時壓縮與編碼結(jié)合起來一次實現(xiàn)非線性編碼。圖2-19非均勻量化原理框圖

由于f(x)和f--1(x)分別具有把信號幅度范圍壓縮與擴張的作用,所以f(x)稱為壓縮特性,f--1(x)稱為擴張?zhí)匦浴榱诵蜗蟮卣f明壓縮與擴張的原理,可用圖2-20的圖形來解釋壓縮與擴張?zhí)幚淼倪^程。為了方便,將擴張?zhí)匦缘淖鴺?biāo)改為垂直輸入和水平輸出。因此,表面上兩個曲線相同,實際上兩個特性曲線正好是互補的。 在圖2-20中,輸入有兩個樣值,A1=2,B1=40,設(shè)均勻量化器間距Δ=1,此時最大量化誤差為0.5。如果對樣值直接進行均勻量化,樣值與最大量化誤差之比分別為4和80,但是若經(jīng)過壓縮處理,由圖2-20可知,兩個樣值對應(yīng)的輸出分別為A2=10,B2=40,此時樣值與最大量化誤差之比分別為20和80,顯然提高了弱信號的質(zhì)量,同時樣值的動態(tài)范圍也明顯縮小。在接收端,量化值通過擴張?zhí)幚砗?輸出又分別還原為A3=2,B3=40,并使動態(tài)范圍擴大到原來的范圍。圖2-20壓縮與擴張過程 考慮到實際量化器輸入的工作動態(tài)范圍大約為45dB,按照在動態(tài)范圍內(nèi)量化器的信噪比盡可能保持平穩(wěn)的要求,可設(shè)計量化器使之具有對數(shù)量化特性。這樣在大信號電平時信噪比相對于均勻量化要低一些,在小信號電平時信噪比相對于均勻量化則明顯提高。對于對數(shù)壓縮特性,其量化輸出信噪比SNR始終可以保持為一常數(shù)。在實際應(yīng)用中,理想對數(shù)量化是無法實現(xiàn)的,因為它要求當(dāng)x→0時f(x)→-∞,所以在工程設(shè)計時一般是將上述理想對數(shù)特性在x→0的小信號段進行適當(dāng)?shù)男拚?以便于實現(xiàn)。 基于對語音信號的大量統(tǒng)計和研究,國際電話電報咨詢委員會（CCITT）建議采用兩種近似對數(shù)壓縮特性：μ律與A律。其中μ律是較早的一種,它是美國與日本采用的24路系列的近似對數(shù)壓縮特性；而另一種A律是稍晚由歐洲國家提出的,它是歐洲和我國采用的32路系列的近似對數(shù)壓縮特性。不管是μ律還是A律,它們都是具有近似對數(shù)特性且通過原點呈中心對稱的曲線。為了簡化,通常只畫出第一象限圖形。 ①μ律對數(shù)壓縮特性。 為了簡明統(tǒng)一,將量化器輸入信號xi對量化器最大量化電平V進行歸一化處理,則量化器滿載電壓的歸一化值為±1,量化器輸入信號的歸一化值為

μ律對數(shù)壓縮特性定義為(2-100)(2-101) 式中,μ為壓縮系數(shù),μ=0時無壓縮,μ越大壓縮效果越明顯,在國際標(biāo)準(zhǔn)中取μ=255。 在μ=255的條件下,當(dāng)量化電平數(shù)L=256即編碼位數(shù)n=8時,與均勻量化相比較,μ律對數(shù)壓縮特性對小信號的信噪比改善值為33.5dB。μ律對數(shù)壓縮特性曲線如圖2-22(a)所示。圖2-22μ律與A律對數(shù)壓縮特性曲線(a)μ律;(b)A律 ②A律對數(shù)壓縮特性。 同樣,對量化器輸入信號進行歸一化處理后,A律對數(shù)壓縮特性定義為(2-102) 式中,A為壓縮系數(shù),A=0時無壓縮,A越大壓縮效果越明顯,在國際標(biāo)準(zhǔn)中取A=87.6。 由式(2-102)可知,在0≤x＜1/A范圍內(nèi),f(x)是線性函數(shù),對應(yīng)一段直線,相當(dāng)于均勻量化特性；在1/A≤x＜1范圍內(nèi),f(x)是對數(shù)函數(shù),對應(yīng)一段對數(shù)曲線,為非均勻量化特性。在A=87.6的條件下,當(dāng)量化電平數(shù)L=256即編碼位數(shù)n=8時,與均勻量化相比較,A律對數(shù)壓縮特性對小信號的信噪比改善值為24dB。A律對數(shù)壓縮特性曲線如圖2-22(b)所示。 ③對數(shù)壓縮特性的折線近似。 早期的μ律和A律對數(shù)壓縮特性是用模擬電路來實現(xiàn)的,其精度、一致性以及保證壓縮與擴張?zhí)匦缘钠ヅ涞榷际艿较拗啤：髞聿捎谜劬€來近似光滑曲線,可用數(shù)字技術(shù)實現(xiàn)。隨著大規(guī)模、超大規(guī)模數(shù)字集成電路的出現(xiàn),其質(zhì)量性能等得到了進一步的改善。 采用折線法逼近μ律和A律已形成國際標(biāo)準(zhǔn)。μ律對數(shù)壓縮特性采用15折線來近似,如圖2-23所示,圖中只畫出了輸入信號為正時的情形。橫坐標(biāo)表示輸入信號幅度的歸一化值x,其范圍為(0,1),被不均勻地劃分為8個區(qū)間。它的7個劃分點的分母均為28-1,分子依次為2n-1(n=1,2,…,7)。縱坐標(biāo)表示輸出信號幅度的歸一化值z,其范圍也為(0,1),但被均勻地劃分為8個區(qū)間。 這樣,以橫坐標(biāo)的劃分點作為橫坐標(biāo),以縱坐標(biāo)的劃分點作為縱坐標(biāo),兩者一一對應(yīng)構(gòu)成折線的7個拐點,分別為（1/255,1/8）、（3/255,2/8）、（7/255,3/8）、（15/255,4/8）、（31/255,5/8）、（63/255,6/8）和（127/255,7/8）。用直線順序連接原點和這7個拐點并最后連接到（1,1）點,就可以作出由8段直線連接而成的一條折線。因為壓縮特性關(guān)于原點中心對稱,所以當(dāng)輸入信號為負時,負方向也有8個線段(圖中未畫出)。由于負方向第一段與正方向第一段斜率相同,因此共有15條線段。這條折線被稱為μ律15折線,與μ=255的對數(shù)壓縮特性很接近。顯然,在第一段內(nèi)與μ=255的對數(shù)壓縮特性公式(2-101)是相等的。圖2-23μ律15折線 A律對數(shù)壓縮特性采用13折線法來近似,如圖2-24所示,圖中只畫出了輸入信號為正時的情形。橫坐標(biāo)表示輸入信號幅度的歸一化值x,其范圍為(0,1),被不均勻地劃分為8個區(qū)間,從右向左每個區(qū)間長度以1/2倍遞減。其劃分方法是：取區(qū)間(0,1)的中點將其分為左、右兩個1／2區(qū)間,右1／2區(qū)間為第8區(qū)間；取左1／2區(qū)間的中點將其分為左、右兩個1／4區(qū)間,右1／4區(qū)間為第7區(qū)間；取左1／4區(qū)間的中點將其分為左、右兩個1／8區(qū)間,右1／8區(qū)間為第6區(qū)間；依次下去,直到左1／128區(qū)間為第1區(qū)間。 縱坐標(biāo)表示輸出信號幅度的歸一化值z,其范圍也為(0,1),但被均勻地劃分為8個區(qū)間。這樣,以橫坐標(biāo)的劃分點作為橫坐標(biāo),以縱坐標(biāo)的劃分點作為縱坐標(biāo),兩者一一對應(yīng)構(gòu)成折線的7個拐點,分別為（1/128,1/8）、（1/64,2/8）、（1/32,3/8）、（1/16,4/8）、（1/8,5/8）、（1/4,6/8）和（1/2,7/8）。用直線順序連接原點和這7個拐點并最后連接到（1,1）點,就可以作出由8段直