畢業(yè)設(shè)計(jì)（論文）基于BP神經(jīng)網(wǎng)絡(luò)的脈沖噪聲圖像恢復(fù)方法

1、摘 要在信息化的社會(huì)里，圖像在信息傳播中所起的作用越來(lái)越大，而數(shù)字圖像在獲取與傳播中，可能會(huì)受到脈沖噪聲的污染。所以，消除產(chǎn)生的噪聲，保證圖像受污染度最小，成了數(shù)字圖像處理領(lǐng)域里的重要部分。本文主要針對(duì)數(shù)字圖像的脈沖噪聲污染問(wèn)題，采用一種窗口自適應(yīng)開(kāi)關(guān)中值濾波方法消除噪聲。利用bp神經(jīng)網(wǎng)絡(luò)將圖像中的每個(gè)像素點(diǎn)分類(lèi)為信號(hào)點(diǎn)或噪聲點(diǎn)，再采用改進(jìn)的中值濾波器對(duì)檢測(cè)后的圖像進(jìn)行濾波處理，根據(jù)噪聲檢測(cè)結(jié)果，濾波器自適應(yīng)調(diào)整窗口大小并選擇性取樣，逐點(diǎn)濾波消除圖像中的噪聲。該方法在抑制脈沖噪聲、保護(hù)圖像細(xì)節(jié)方面均優(yōu)于以往基于中值濾波的方法，即使在圖像遭受噪聲密度70%噪聲污染的極端情況下，仍能得到很好恢復(fù)。

2、關(guān)鍵詞：圖像去噪；脈沖噪聲檢測(cè)；自適應(yīng)開(kāi)關(guān)中值濾波abstractin the information society, the image in the information transmission is used more and more widely. during the digital images transmission, they could be affected by the impulsive noise pollution. therefore, ensuring the minimum of the noise and pollution in the proc

3、ess of image collection and transmission became an important part of the field.in order to denoise impulse noises in images, an adaptive window switching median filtering method is adopted in this paper. first, each pixel is classified as signal or noisy point by the bp-net. next, the image is filte

4、red by an improved median filter. according to the result of noise detection, the filter can adjust adaptively w indows width and sample choicely, each noisy point in image is denoised by filtering in terms of suppressing impulse noise and preserving image details, the adopted method is better than

5、that based on median filter even in the extreme case of 70% noise corruption, noisy images can be effectively recovered.key words: image denoising; impulse noise detection; adaptive switching median filters目 錄第1章 概述11.1 圖像去噪技術(shù)研究的意義11.2 噪聲檢測(cè)的方法21.3 濾波的方法21.4 噪聲種類(lèi)與圖像質(zhì)量評(píng)價(jià)標(biāo)準(zhǔn)21.5本文的主要工作4第2章 bp神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介52.1

6、人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介52.2 bp神經(jīng)網(wǎng)絡(luò)92.3 多層前饋網(wǎng)絡(luò)的主要能力112.4 bp學(xué)習(xí)算法112.5 本章小結(jié)17第3章 基于bp神經(jīng)網(wǎng)絡(luò)的脈沖噪聲檢測(cè)183.1 脈沖噪聲圖像的數(shù)學(xué)模型183.2 噪聲檢測(cè)弱分類(lèi)器的設(shè)計(jì)193.3 噪聲檢測(cè)強(qiáng)分類(lèi)器的設(shè)計(jì)203.4 本章小結(jié)25第4章 窗口自適應(yīng)開(kāi)關(guān)中值濾波264.1 中值濾波的基本理論264.2 開(kāi)關(guān)中值濾波器284.3 窗口自適應(yīng)開(kāi)關(guān)中值濾波294.4 本章小結(jié)31第5章 實(shí)驗(yàn)結(jié)果與討論325.1 性能評(píng)價(jià)指標(biāo)定義325.2 視覺(jué)效果對(duì)比325.3 噪聲檢測(cè)性能對(duì)比325.4 去噪性能對(duì)比345.5 實(shí)驗(yàn)結(jié)果討論35結(jié)論36參考文獻(xiàn)37

7、致 謝38第1章 概述1.1 圖像去噪技術(shù)研究的意義 圖像作為人們感知世界的視覺(jué)基礎(chǔ)，是人類(lèi)獲取信息、表達(dá)信息和傳遞信息的重要手段。研究表明，人類(lèi)獲取的視覺(jué)圖像信息在人類(lèi)接受的信息中的比重達(dá)到四分之三。在各類(lèi)圖像系統(tǒng)中，由于圖像的傳送和轉(zhuǎn)換，如成像、復(fù)制、掃描、傳輸、顯示等，總要造成圖像的降質(zhì)，典型的表現(xiàn)為圖像模糊、失真、有噪聲等。而在眾多的應(yīng)用領(lǐng)域中，又需要清晰的、高質(zhì)量的圖像，因此，為了抑制噪聲，改善圖像質(zhì)量，復(fù)原圖像具有非常重要的意義。在數(shù)字圖像處理領(lǐng)域圖像噪聲的濾除一直是最重要、最基本的研究課題之一。得益于應(yīng)用數(shù)學(xué)理論的發(fā)展和計(jì)算機(jī)技術(shù)的進(jìn)步，現(xiàn)代圖像去噪濾波技術(shù)己取得豐富成果。 圖像

8、主要是反映客觀事物或某些過(guò)程與空間、時(shí)間有相互關(guān)聯(lián)的特征量的信息列陣。它具有兩個(gè)基本要素：像素值層次分辨和圖像空間分辨。像素值可反映圖像的層次細(xì)節(jié)，是構(gòu)成圖像必不可少的基本要素之一。另一個(gè)基本要素是圖像空間分辨率，可由像素值在可分辨條件下的像元總數(shù)來(lái)表示?？煞直娴南裨倲?shù)越多，則反映自然界中客觀事物的細(xì)節(jié)就越清楚。一般地，圖像在空間和亮度上都是連續(xù)取值的，稱(chēng)為連續(xù)圖像或模擬圖像如果連續(xù)圖像在空間和亮度上進(jìn)行離散化，就成為數(shù)字圖像，這是唯一能夠用計(jì)算機(jī)進(jìn)行處理的圖像形式。數(shù)字圖像可表示為如公式1-1的一個(gè)矩陣： (1-1)其中，。數(shù)字圖像處理，就是把數(shù)字圖像經(jīng)過(guò)一些特定數(shù)理模式的加工處理，以達(dá)到

9、有利于人眼視覺(jué)或某種接收系統(tǒng)所需要的圖像的過(guò)程。如對(duì)被噪聲污染的圖像除去噪聲，對(duì)信息微弱的圖像進(jìn)行增強(qiáng)處理，對(duì)失真的圖像進(jìn)行幾何校正等。隨著計(jì)算機(jī)軟硬件技術(shù)的突飛猛進(jìn)，以及數(shù)字處理技術(shù)的不斷發(fā)展，數(shù)字圖像處理在科學(xué)研究、工業(yè)生產(chǎn)、國(guó)防以及現(xiàn)代管理決策等各行各業(yè)都得到越來(lái)越多的應(yīng)用。在數(shù)字圖像處理領(lǐng)域，有很多傳統(tǒng)的圖像去噪方法它們可能已經(jīng)被提出以至被應(yīng)用很久了。在這樣的學(xué)術(shù)背景下依然研究圖像去噪的意義在于：（1）在圖像去噪領(lǐng)域，傳統(tǒng)方法呈百花齊放之態(tài)，但是這些方法并非十全十美，主要表現(xiàn)在去噪的同時(shí)對(duì)圖像細(xì)節(jié)的丟失。因此進(jìn)一步研究新的去噪方法或者完善己有的算法意義依然重大。（2）不同算法都有著不同

10、的數(shù)學(xué)理論基礎(chǔ)，對(duì)圖像去噪的效果也表現(xiàn)不同。探求它們的內(nèi)部機(jī)理，尋求相應(yīng)的關(guān)系，研究不同算法之間如何取長(zhǎng)補(bǔ)短，以達(dá)到更好的去噪效果，也是很有意義的。（3）研究圖像去噪對(duì)數(shù)字圖像其他處理環(huán)節(jié)性能的提升也有著促進(jìn)意義。1.2 噪聲檢測(cè)的方法傳統(tǒng)的噪聲檢測(cè)方法有多種，如將窗口中所有像素點(diǎn)灰度值的中值與中心點(diǎn)灰度值的差值大于閾值的視為噪聲點(diǎn)1，該方法在圖像受噪聲污染較大時(shí)無(wú)法把某些真正的噪聲點(diǎn)檢測(cè)出來(lái)；另一種檢測(cè)方法是根據(jù)圖像中的某點(diǎn)灰度值與其鄰域內(nèi)像素點(diǎn)灰度值及極小值的關(guān)系進(jìn)行檢測(cè)2；還有些方法是根據(jù)圖像中某點(diǎn)灰度值與其鄰域內(nèi)像素點(diǎn)灰度值的均值的關(guān)系進(jìn)行噪聲檢測(cè)3。這些方法的弊端在于會(huì)將非噪聲點(diǎn)誤判

11、為噪聲點(diǎn)，這種矛盾在圖像中噪聲干擾較大時(shí)表現(xiàn)的尤為明顯4。1.3 濾波的方法為消除脈沖噪聲，人們提出了各種濾波方法。由于線性濾波器會(huì)引起圖像的嚴(yán)重模糊，而非線性濾波器更有利于保護(hù)圖像細(xì)節(jié)，因此，非線性濾波方法被廣泛采用5。其中，標(biāo)準(zhǔn)中值濾波器sm已成為最通用的非線性濾波器之一，它對(duì)濾波窗口內(nèi)的像素進(jìn)行排序，再用中間值替代窗口中心像素值，具有算法實(shí)現(xiàn)簡(jiǎn)單運(yùn)行效率高等優(yōu)點(diǎn)。之后，人們?cè)跇?biāo)準(zhǔn)中值濾波器的基礎(chǔ)上，又提出了各種改進(jìn)方法，如加權(quán)中值濾波器wm、中心加權(quán)濾波器cwm等。這些傳統(tǒng)的中值濾波方法無(wú)條件地對(duì)每個(gè)像素點(diǎn)進(jìn)行中值濾波處理、而對(duì)應(yīng)完整保留的信號(hào)點(diǎn)濾波，必然會(huì)造成回復(fù)后圖像質(zhì)量嚴(yán)重退，為了

12、避免對(duì)信號(hào)點(diǎn)進(jìn)行濾波，濾波前的噪聲監(jiān)測(cè)機(jī)制必不可少，因此，一些開(kāi)關(guān)中值濾波方法被廣泛采用，這些方法在特定條件下，都有各自的優(yōu)勢(shì)，當(dāng)圖像噪聲密度低于50%時(shí)都能表現(xiàn)出較好的去噪性能，而對(duì)于噪聲密度高于50%的高密度噪聲圖像，往往由于其噪聲檢測(cè)精度的下降，而嚴(yán)重影響去噪性能。1.4 噪聲種類(lèi)與圖像質(zhì)量評(píng)價(jià)標(biāo)準(zhǔn)在不同應(yīng)用中，存在著不同類(lèi)型的噪聲影響，如:各種白噪聲、白高斯噪聲、正向脈沖和負(fù)向脈沖噪聲、椒鹽噪聲、乘性噪聲、與信號(hào)有關(guān)的噪聲及它們的混合噪聲等。任何濾波器都有一定的優(yōu)點(diǎn)和缺點(diǎn)，因此對(duì)于特定應(yīng)用場(chǎng)合很難說(shuō)出哪種濾波器最合適。濾波器設(shè)計(jì)就是考慮如何濾除某種類(lèi)型噪聲。實(shí)際上，濾波器性能完全取決于

13、應(yīng)用場(chǎng)合。常用的一些濾波器性能測(cè)量項(xiàng)目有:對(duì)不同類(lèi)型噪聲的濾波特性；邊緣保護(hù)；細(xì)節(jié)信息保護(hù)；無(wú)偏性；計(jì)算復(fù)雜度。濾波器的計(jì)算復(fù)雜性包括輸出所需的代數(shù)運(yùn)算次數(shù)如乘法、比較以及加法等。在并行運(yùn)算情況下，用所需硬件和時(shí)延來(lái)測(cè)量。在串行運(yùn)算情況下，利用運(yùn)算速度測(cè)量，還與算法程序以及計(jì)算機(jī)性能有關(guān)?？梢?jiàn)濾波器計(jì)算復(fù)雜度由許多因素決定。噪聲濾波特性通常通過(guò)輸出方差或連續(xù)濾除脈沖噪聲的比率來(lái)測(cè)得。另外一些性能測(cè)量如歸一化均方誤差和灰度峰值信噪比等。這些測(cè)量的主要缺點(diǎn)是它們與人主觀判定準(zhǔn)則相對(duì)來(lái)說(shuō)差得較遠(yuǎn)。主要原因是人的視覺(jué)相對(duì)復(fù)雜得多，它的特性無(wú)法用一個(gè)性能表達(dá)函數(shù)來(lái)描述。邊緣保護(hù)是濾波器一個(gè)重要性質(zhì)，其量

14、度是保護(hù)邊緣的能力。細(xì)節(jié)信息保護(hù)的特性主要是保護(hù)圖像上各類(lèi)線段、尖角和其他圖像細(xì)節(jié)的能力。濾波器通常只能增強(qiáng)某一方向的圖像或者增強(qiáng)某種照度特征的圖像區(qū)域。所有性能測(cè)量都是定性測(cè)量，他們不能用某種嚴(yán)格的定量標(biāo)準(zhǔn)描述，因此，上述測(cè)量都帶有相對(duì)主觀性。在對(duì)幾種濾波器進(jìn)行性能比較時(shí)，通常都針對(duì)某一給定噪聲圖像進(jìn)行濾波，然后用某種測(cè)量結(jié)果進(jìn)行比較。本文主要考慮脈沖噪聲的濾波處理。之所以考察這種噪聲是因?yàn)樗拇嬖诜秶^廣，具有典型的代表性。對(duì)濾波效果從主觀視覺(jué)評(píng)價(jià)和客觀參數(shù)標(biāo)準(zhǔn)(psnr峰值信噪比)兩個(gè)角度進(jìn)行度量。在具體衡量過(guò)程中，圖像的主觀評(píng)價(jià)即目測(cè)法是評(píng)價(jià)去噪效果好壞的最直接方法。要想讓一種去噪模型

15、得到肯定，首先應(yīng)該通過(guò)眼睛這一關(guān)的許可。通過(guò)人的眼睛來(lái)觀察圖像，對(duì)圖像的優(yōu)劣做出主觀評(píng)定。這時(shí)評(píng)價(jià)出的圖像質(zhì)量與觀察者的特性及觀察條件等因素有關(guān)，測(cè)試條件應(yīng)盡可能與使用條件相匹配。但是一些研究場(chǎng)合，由于試驗(yàn)條件的限制，希望對(duì)圖像質(zhì)量有一個(gè)定量的客觀描述。圖像質(zhì)量客觀評(píng)價(jià)由于著眼點(diǎn)不同而有多種想法，常采用峰值信噪比（psnr）、噪聲點(diǎn)被檢測(cè)為信號(hào)點(diǎn)的像素?cái)?shù)量（md）以及信號(hào)點(diǎn)被檢測(cè)為噪聲點(diǎn)的像素?cái)?shù)量（fa），其計(jì)算公式為： psnr, (1-2) mse. (1-3)其中，和分別表示圖像行數(shù)與列數(shù)，和分別表示原始圖像和濾波圖像的像素值。在具體的仿真實(shí)驗(yàn)中常常要人為的加入某種特定的人工噪聲，以測(cè)試

16、去噪方法對(duì)特定噪聲模型的去噪效果。在具體評(píng)價(jià)去噪模型時(shí)，我們需要考慮的幾個(gè)因素總結(jié)如下：去噪后圖像應(yīng)盡量的平滑，不存在或有較少的噪聲痕跡；去噪結(jié)果不能使圖像過(guò)渡的失去結(jié)構(gòu)細(xì)節(jié)變得模糊；沒(méi)有由于具體去噪方法產(chǎn)生的人工噪聲；方法噪聲盡量地接近自然隨機(jī)噪聲；峰值信噪比(psnr)盡可能大，歸一化均方差(nmse)盡可能小。常用的去噪模型評(píng)價(jià)方法是在一幅清晰的圖像上加入某種噪聲，然后在加噪的圖像上用特定的方法進(jìn)行去噪實(shí)驗(yàn)。1.5 本文的主要工作本文首先在噪聲檢測(cè)階段，采用一種基于bp神經(jīng)網(wǎng)絡(luò)的脈沖噪聲圖像恢復(fù)方法，也就是說(shuō)先將bdnd噪聲檢測(cè)方法改進(jìn)后，作為弱分類(lèi)器對(duì)像素點(diǎn)進(jìn)行初步分類(lèi)，再利用bp神經(jīng)

17、網(wǎng)絡(luò)對(duì)初分類(lèi)結(jié)果進(jìn)行加工處理，并做出最終判決，得到噪聲的二值分布。在濾波階段，結(jié)合本文噪聲檢測(cè)方法的特點(diǎn)，采用一種新的窗口自適應(yīng)開(kāi)關(guān)中值濾波方法，并根據(jù)噪聲檢測(cè)結(jié)果做出噪聲密度估計(jì)，依噪聲密度的不同而自適應(yīng)地調(diào)整濾波窗口的大小并選擇性取樣濾波，這樣就完成了整個(gè)濾波過(guò)程。最后利用matlab仿真實(shí)現(xiàn)本文所述方法，并選取不同濾波器對(duì)同一幅含噪圖像進(jìn)行濾波的實(shí)驗(yàn)與對(duì)比，從多個(gè)角度說(shuō)明本文方法對(duì)于傳統(tǒng)濾波方法的優(yōu)勢(shì)，同時(shí)在總結(jié)的時(shí)候也指出本文方法的不足。第2章 bp神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介2.1 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介自從模擬人類(lèi)實(shí)際神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)方法問(wèn)世以來(lái)，人們已慢慢習(xí)慣了把這種人工神經(jīng)網(wǎng)絡(luò)(artificial

18、neural network，ann)直接稱(chēng)為神經(jīng)網(wǎng)絡(luò)6。神經(jīng)網(wǎng)絡(luò)是一種運(yùn)算模型，由大量的節(jié)點(diǎn)(或稱(chēng)神經(jīng)元，或單元)和之間相互聯(lián)接構(gòu)成。每個(gè)節(jié)點(diǎn)代表一種特定的輸出函數(shù)，稱(chēng)為激勵(lì)函數(shù)(activation function)。每?jī)蓚€(gè)節(jié)點(diǎn)間的連接都代表一個(gè)對(duì)于通過(guò)該連接信號(hào)的加權(quán)值，稱(chēng)之為權(quán)重(weight)，這相當(dāng)于人工神經(jīng)網(wǎng)絡(luò)的記憶。網(wǎng)絡(luò)的輸出則按網(wǎng)絡(luò)的連接方式，權(quán)重值和激勵(lì)函數(shù)的不同而不通。而網(wǎng)絡(luò)自身通常都是對(duì)自然界某種算法或者函數(shù)的逼近，也可能是對(duì)一種邏輯策略的表達(dá)。神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)在于神經(jīng)元。神經(jīng)元是以生物神經(jīng)系統(tǒng)的神經(jīng)細(xì)胞為基礎(chǔ)的生物模型。在人們對(duì)生物神經(jīng)系統(tǒng)進(jìn)行研究，以探討人工智能的機(jī)

19、制時(shí)，把神經(jīng)元數(shù)學(xué)化，從而產(chǎn)生了神經(jīng)元數(shù)學(xué)模型。大量的形式相同的神經(jīng)元連結(jié)在一起就組成了神經(jīng)網(wǎng)絡(luò)7。神經(jīng)網(wǎng)絡(luò)是一個(gè)高度非線性動(dòng)力學(xué)系統(tǒng)，用神經(jīng)網(wǎng)絡(luò)可以表達(dá)實(shí)際物理世界的各種現(xiàn)象。神經(jīng)元是神經(jīng)網(wǎng)絡(luò)基本元素。在人體內(nèi)，神經(jīng)元的結(jié)構(gòu)形式并非是完全相同的；但是，無(wú)論結(jié)構(gòu)形式如何，神經(jīng)元都是由一些基本的成份組成的。神經(jīng)元的生物學(xué)解釋可以用圖2-1所示的結(jié)構(gòu)表示。從圖中可以看出：神經(jīng)元是由細(xì)胞體、樹(shù)突和軸突三部分組成。圖2-1 神經(jīng)元結(jié)構(gòu)圖細(xì)胞體是由很多分子形成的綜合體，內(nèi)部含有一個(gè)細(xì)胞核、核糖體、原生質(zhì)網(wǎng)狀結(jié)構(gòu)等，它是神經(jīng)元活動(dòng)的能量供應(yīng)地，在這里進(jìn)行新陳代謝等各種生化過(guò)程。神經(jīng)元也即是整個(gè)細(xì)胞，整個(gè)細(xì)

20、胞的最外層稱(chēng)為細(xì)胞膜。細(xì)胞體的伸延部分產(chǎn)生的分枝稱(chēng)為樹(shù)突，樹(shù)突是接受從其它神經(jīng)元傳人的信息的入口。細(xì)胞體突起的最長(zhǎng)的外伸管狀纖維稱(chēng)為軸突。軸突最長(zhǎng)可達(dá)1米以上。軸突是把神經(jīng)元興奮的信息傳出到其它神經(jīng)元的出口。從神經(jīng)元的特性和功能可以知道，神經(jīng)元是一個(gè)多輸入單輸出的信息處理單元，而且，它對(duì)信息的處理是非線性的。根據(jù)神經(jīng)元的特性和功能，可以把神經(jīng)元抽象為一個(gè)簡(jiǎn)單的數(shù)學(xué)模型。工程上用的人工神經(jīng)元模型如圖2-2所示。y f 圖2-2 神經(jīng)元的數(shù)學(xué)模型在上圖中，x,x,，x是神經(jīng)元的輸入，即來(lái)自前級(jí)n個(gè)神經(jīng)元的軸突的信息；是i神經(jīng)元的閾值；w,w， , w分別是i神經(jīng)元對(duì)x,x,，x的權(quán)系數(shù)，也即突觸的

21、傳遞效率；y是i神經(jīng)元的輸出f提激發(fā)函數(shù)，它決定i神經(jīng)元受到輸人x,x,，x的共同刺激達(dá)到閾值時(shí)以何種方式輸出。神經(jīng)網(wǎng)絡(luò)在目前已有幾十種不同的模型。人們按不同的角度對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行分類(lèi)，通?？砂?個(gè)原則進(jìn)行神經(jīng)網(wǎng)絡(luò)的歸類(lèi)。按照網(wǎng)絡(luò)的結(jié)構(gòu)區(qū)分，則有前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。按照學(xué)習(xí)方式區(qū)分，則有教師學(xué)習(xí)和無(wú)教師學(xué)習(xí)網(wǎng)絡(luò)。按照網(wǎng)絡(luò)性能區(qū)分，則有連續(xù)型和離散型網(wǎng)絡(luò)，隨機(jī)型和確定型網(wǎng)絡(luò)。按照突觸性質(zhì)區(qū)分，則有一階線性關(guān)聯(lián)網(wǎng)絡(luò)和高階非線性關(guān)聯(lián)網(wǎng)絡(luò)8。按對(duì)生物神經(jīng)系統(tǒng)的層次模擬區(qū)分，則有神經(jīng)元層次模型，組合式模型，網(wǎng)絡(luò)層次模型，神經(jīng)系統(tǒng)層次模型和智能型模型。在人們提出的幾十種神經(jīng)網(wǎng)絡(luò)模型中，人們較多用的是hopf

22、ield網(wǎng)絡(luò)、bp網(wǎng)絡(luò)、kohonen網(wǎng)絡(luò)和art(自適應(yīng)共振理論)網(wǎng)絡(luò)9。hopfield網(wǎng)絡(luò)是最典型的反饋網(wǎng)絡(luò)模型，它是目前人們研究得最多的模型之一。這個(gè)網(wǎng)絡(luò)習(xí)以完成制約優(yōu)化和聯(lián)想記憶等功能。bp網(wǎng)絡(luò)是反向傳播(back propagation)網(wǎng)絡(luò)10。它是一種多層前向網(wǎng)絡(luò)，采用最小均方差學(xué)習(xí)方式。這是一種最廣泛應(yīng)用的網(wǎng)絡(luò)。它可用于語(yǔ)言綜合，識(shí)別和自適應(yīng)控制等用途。bp網(wǎng)絡(luò)需有教師訓(xùn)練。kohonen網(wǎng)絡(luò)是典型的自組織神經(jīng)網(wǎng)絡(luò)，這種網(wǎng)絡(luò)也稱(chēng)為自組織特征映射網(wǎng)絡(luò)som。它的輸入層是單層單維神經(jīng)元，而輸出層是二維的神經(jīng)元，神經(jīng)元之間存在以“墨西哥帽”形式進(jìn)行側(cè)向交互的作用。因而，在輸出層中，

23、神經(jīng)元之間有近揚(yáng)遠(yuǎn)抑的反饋特性，從而使kohonen網(wǎng)絡(luò)可以作為模式特征的檢測(cè)器。art網(wǎng)絡(luò)也是一種自組織網(wǎng)絡(luò)模型。這是一種無(wú)教師學(xué)習(xí)網(wǎng)絡(luò)。它能夠較好地協(xié)調(diào)適應(yīng)性，穩(wěn)定性和復(fù)雜性的要求。在art網(wǎng)絡(luò)中，通常需要兩個(gè)功能互補(bǔ)的子系統(tǒng)相互作用，這兩個(gè)子系統(tǒng)為注意子系統(tǒng)和取向子系統(tǒng)。art網(wǎng)絡(luò)主要用于模式識(shí)別，它不足之處是在于對(duì)轉(zhuǎn)換、失真和規(guī)模變化較敏感。總之，人工神經(jīng)網(wǎng)絡(luò)是由大量簡(jiǎn)單的處理單元組成的非線性、自適應(yīng)、自組織系統(tǒng)，是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上，試圖通過(guò)模擬人類(lèi)神經(jīng)系統(tǒng)對(duì)信息進(jìn)行加工、記憶和處理的方式，設(shè)計(jì)出的一種具有人腦風(fēng)格的信息處理系統(tǒng)。它提供了一種普遍而實(shí)用的方法從樣本中學(xué)習(xí)值

24、為實(shí)數(shù)、離散值或向量的函數(shù)。ann學(xué)習(xí)對(duì)于訓(xùn)練數(shù)據(jù)中的錯(cuò)誤健壯性很好，且已被成功應(yīng)用到很多領(lǐng)域中，例如文本識(shí)別、語(yǔ)音識(shí)別、圖像復(fù)原、圖像分割、目標(biāo)跟蹤等。一般而言，ann與經(jīng)典計(jì)算方法相比并非優(yōu)越，只有當(dāng)常規(guī)方法解決不了或效果不佳時(shí)ann方法才能顯示出其優(yōu)越性11。尤其對(duì)問(wèn)題的機(jī)理不甚了解或不能用數(shù)學(xué)模型表示的系統(tǒng)，如故障診斷、特征提取和預(yù)測(cè)等問(wèn)題，ann往往是最有利的工具。另一方面，ann對(duì)處理大量原始數(shù)據(jù)而不能用規(guī)則或公式描述的問(wèn)題，表現(xiàn)出極大的靈活性和自適應(yīng)性。2.1.1 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法（1）學(xué)習(xí)方式通過(guò)向環(huán)境學(xué)習(xí)獲取知識(shí)并改進(jìn)自身性能是神經(jīng)網(wǎng)絡(luò)的一個(gè)重要特點(diǎn)。在一般情況下，性能的改

25、善是按照某種預(yù)定的度量通過(guò)調(diào)節(jié)自身參數(shù)逐步達(dá)到的。學(xué)習(xí)方式一般有如下幾種：監(jiān)督學(xué)習(xí)監(jiān)督學(xué)習(xí)需要外界存在一個(gè)“教師”，它可以對(duì)給定一組輸入提供應(yīng)有的輸出結(jié)果，這組己知的輸入輸出數(shù)據(jù)稱(chēng)為訓(xùn)練樣本集，學(xué)習(xí)系統(tǒng)可根據(jù)己知輸出與實(shí)際輸出之間的差值來(lái)調(diào)節(jié)系統(tǒng)參數(shù)。非監(jiān)督學(xué)習(xí) 非監(jiān)督學(xué)習(xí)時(shí)不存在外部教師，學(xué)習(xí)系統(tǒng)完全按照環(huán)境提供數(shù)據(jù)的某些統(tǒng)計(jì)規(guī)律來(lái)調(diào)節(jié)自身參數(shù)或結(jié)構(gòu)，以表示外部輸入的某種固有特性。再勵(lì)學(xué)習(xí)再勵(lì)學(xué)習(xí)介于上面兩種情況之間，外部環(huán)境對(duì)系統(tǒng)輸出結(jié)果只給出評(píng)價(jià)信息(獎(jiǎng)勵(lì)或者懲罰)而不是給出正確答案。學(xué)習(xí)系統(tǒng)通過(guò)強(qiáng)化那些受獎(jiǎng)勵(lì)的動(dòng)作來(lái)改善自身性能。（2）學(xué)習(xí)算法誤差糾正學(xué)習(xí)誤差糾正學(xué)習(xí)的目的是使某一基于

26、誤差信號(hào)的目標(biāo)函數(shù)達(dá)到最小，以使網(wǎng)絡(luò)中每一個(gè)輸出單元的實(shí)際輸出在某種統(tǒng)計(jì)意義上逼近應(yīng)有輸出。一旦選定了目標(biāo)函數(shù)形式，誤差糾正學(xué)習(xí)就變成一個(gè)典型的最優(yōu)化問(wèn)題，最常用的目標(biāo)函數(shù)是均方誤差判據(jù)，定義為誤差平方和的均值。在自適應(yīng)濾波器理論中，對(duì)這種學(xué)習(xí)的收斂性及其統(tǒng)計(jì)特性有較深入的分析。 hebb學(xué)習(xí) 由hebb提出的，可以歸納為當(dāng)某一突觸(連接)兩端的神經(jīng)元同步激活(同激活或抑制)時(shí)，該連接的強(qiáng)度應(yīng)增強(qiáng)，反之應(yīng)減弱。 競(jìng)爭(zhēng)學(xué)習(xí)競(jìng)爭(zhēng)學(xué)習(xí)中，網(wǎng)絡(luò)各輸出單元互相競(jìng)爭(zhēng)，最后達(dá)到只有一個(gè)最強(qiáng)者激活，最常見(jiàn)的一種情況是輸出神經(jīng)元之間有側(cè)向抑制性連接，這樣原來(lái)輸出單元中如有某一單元較強(qiáng)，則它將獲勝并抑制其他單元，

27、最后只有此強(qiáng)單元處于激活狀態(tài)。 （3）學(xué)習(xí)與自適應(yīng)當(dāng)學(xué)習(xí)系統(tǒng)所處環(huán)境平穩(wěn)時(shí)，從理論上講通過(guò)監(jiān)督學(xué)習(xí)可以學(xué)到環(huán)境的統(tǒng)計(jì)特性，這些統(tǒng)計(jì)特性可被學(xué)習(xí)系統(tǒng)作為經(jīng)驗(yàn)記住。如果環(huán)境是非平穩(wěn)的，通常的監(jiān)督學(xué)習(xí)沒(méi)有能力跟蹤這種變化，為解決此問(wèn)題，需要網(wǎng)絡(luò)有一定的自適應(yīng)能力，此時(shí)對(duì)每一不同輸入都作為一個(gè)新的例子來(lái)對(duì)待。2.2 bp神經(jīng)網(wǎng)絡(luò)bp (back propagation)神經(jīng)網(wǎng)絡(luò)是一種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，全稱(chēng)是基于誤差反向傳播算法的人工神經(jīng)網(wǎng)絡(luò)12。bp神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程，分為由信息的正向傳播和誤差的反向傳播兩個(gè)過(guò)程。輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳遞給中間層各神經(jīng)元；中間層是內(nèi)部信息處理層

28、，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計(jì)為單隱層結(jié)構(gòu)或者多隱層結(jié)構(gòu)，最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進(jìn)一步處理后，完成一次學(xué)習(xí)的正向傳播處理過(guò)程，由輸出層向外界輸出信息處理結(jié)果。當(dāng)實(shí)際輸出與期望輸出不符時(shí)，進(jìn)入誤差的反向傳播階段。誤差通過(guò)輸出層，按誤差梯度下降的方式修正各層權(quán)值，向隱層、輸入層逐層反傳。周而復(fù)始的信息正向傳播和誤差反向傳播過(guò)程，是各層權(quán)值不斷調(diào)整的過(guò)程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程，此過(guò)程將一直循環(huán)進(jìn)行，直到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度，或者預(yù)先設(shè)定好的學(xué)習(xí)次數(shù)為止。bp神經(jīng)網(wǎng)絡(luò)相對(duì)比其他的神經(jīng)網(wǎng)絡(luò)，具有運(yùn)算速度快，疊加性好等特點(diǎn)。 bp算法的基本思

29、想是，學(xué)習(xí)過(guò)程由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過(guò)程組成。正向傳播時(shí)，輸入樣本從輸入層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。若輸出層的實(shí)際輸出與期望的輸出（教師信號(hào)）不符，則轉(zhuǎn)入誤差的反向傳播階段。圖2-3 多層前饋網(wǎng)絡(luò)模型誤差反傳是將輸出層誤差以某種形式通過(guò)隱層向輸入層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而獲得各層單元的誤差信號(hào)，此誤差信號(hào)即作為修正各單元權(quán)值的依據(jù)。這種信號(hào)正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過(guò)程，是周而復(fù)始地進(jìn)行的。權(quán)值不斷調(diào)整的過(guò)程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可接受的程度，或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。多層前饋網(wǎng)絡(luò)模型采用b

30、p算法的多層前饋網(wǎng)絡(luò)是至今為止應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)，在多層前饋網(wǎng)的應(yīng)用中，以上圖所示的單隱層網(wǎng)絡(luò)的應(yīng)用最為普遍。一般習(xí)慣將單純隱層前饋網(wǎng)成為三層前饋網(wǎng)或三層感知器，所謂三層包括了輸入層、隱層和輸出層。三層前饋網(wǎng)中，輸入向量為，如加入，可為隱層神經(jīng)元引入閾值；隱層輸出向量為，如加入，可為輸出層神經(jīng)元引入閾值；輸出層輸出向量；期望輸出向量為。輸入層到隱層之間的權(quán)值矩陣用v表示，v=（v，v，v，v），其中列向量v為隱層第個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量；隱層到輸出層之間的權(quán)值矩陣用w表示，w=(w，w，w，w)，其中列向量w為輸出層第個(gè)神經(jīng)元對(duì)應(yīng)的權(quán)向量。下面分析各層信號(hào)之間的數(shù)學(xué)關(guān)系。對(duì)于輸入層，有 （2

31、-1） （2-2）對(duì)于隱層，有 （2-3） （2-4）以上兩式中，轉(zhuǎn)移函數(shù)均為單極性sigmoid函數(shù) （2-5）具有連續(xù)、可導(dǎo)的特點(diǎn)，且有 （2-6）式（2-1）式（2-6）共同構(gòu)成了三層前饋網(wǎng)的數(shù)學(xué)模型。2.3 多層前饋網(wǎng)絡(luò)的主要能力多層前饋網(wǎng)之所以是目前應(yīng)用最多的神經(jīng)網(wǎng)絡(luò)，主要?dú)w結(jié)于基于bp算法的多層前饋網(wǎng)絡(luò)具有以下的一些重要能力。（1）非線性映射能力 多層前饋網(wǎng)能學(xué)習(xí)和存儲(chǔ)大量的輸入輸出模式映射關(guān)系，而無(wú)需事先了解描述這種映射關(guān)系的數(shù)學(xué)方程。只要能提供足夠多的樣本模式對(duì)供bp網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)訓(xùn)練，它便能完成由維輸入空間到維輸出空間的非線性映射。在工程上及許多技術(shù)領(lǐng)域中經(jīng)常遇到這樣的問(wèn)題：對(duì)

32、某輸入輸出系統(tǒng)已經(jīng)積累了大量相關(guān)的輸入輸出數(shù)據(jù)，但對(duì)其內(nèi)部蘊(yùn)含的規(guī)律仍未掌握，因此無(wú)法用數(shù)學(xué)方法來(lái)描述該規(guī)律。這一類(lèi)為題的共同特點(diǎn)是：難以得到解析解；缺乏專(zhuān)家經(jīng)驗(yàn)；能夠表示和轉(zhuǎn)化為模式識(shí)別或非線性映射問(wèn)題。對(duì)于這類(lèi)問(wèn)題，多層前饋網(wǎng)絡(luò)具有無(wú)可比擬的優(yōu)勢(shì)。（2）泛化能力 多層前饋網(wǎng)絡(luò)訓(xùn)練后將所提取的樣本對(duì)中的非線性映射關(guān)系存儲(chǔ)在權(quán)值矩陣中，在其后的工作階段，當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時(shí)未曾見(jiàn)過(guò)的非樣本數(shù)據(jù)，網(wǎng)絡(luò)也能完成由輸入空間向輸出空間的正確映射。這種能力稱(chēng)為多層前饋網(wǎng)的泛化能力，它是衡量多層前饋網(wǎng)絡(luò)性能優(yōu)劣的一個(gè)重要的指標(biāo)。（3）容錯(cuò)能力 多層前饋網(wǎng)絡(luò)的魅力還在于，允許輸入樣本中帶有較大的誤差甚至個(gè)別錯(cuò)

33、誤。因?yàn)閷?duì)權(quán)值矩陣的調(diào)整過(guò)程也是從大量的樣本對(duì)中提取統(tǒng)計(jì)特性的過(guò)程，反映正確規(guī)律的知識(shí)來(lái)自全體樣本，個(gè)別樣本中的錯(cuò)誤不能左右對(duì)權(quán)值矩陣的調(diào)整。2.4 bp學(xué)習(xí)算法bp算法的基本思想是，學(xué)習(xí)過(guò)程中由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過(guò)程組成。正向傳播時(shí)，輸入樣本從輸入層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。若輸出層的實(shí)際輸出與期望輸出（教師信號(hào)）不符，則轉(zhuǎn)入是、誤差的反向傳播階段。誤差反傳是將輸出誤差以某種形式通過(guò)隱層向輸入層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而或得各層單元的誤差信號(hào)，此誤差信號(hào)即作為修正各單元權(quán)值的依據(jù)。這種信號(hào)爭(zhēng)相傳播與誤差反向傳播的各層權(quán)值調(diào)整過(guò)程，是周而復(fù)始地進(jìn)行

34、。權(quán)值不斷調(diào)整的過(guò)程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出地誤差減小到可接受的程度，或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。2.4.1 網(wǎng)絡(luò)誤差與權(quán)值調(diào)整當(dāng)網(wǎng)絡(luò)誤差與期望輸出不等時(shí)，存在輸出誤差e，定義如下 (2-7)將以上誤差定義式展開(kāi)至隱層，有 (2-8)進(jìn)一步展開(kāi)至輸入層，有 (2-9)由上式可以看出，網(wǎng)絡(luò)誤差是各層權(quán)值、的函數(shù)，因此調(diào)整權(quán)值可改變誤差。顯然調(diào)整權(quán)值的原則是使誤差不斷地減小，因此應(yīng)使權(quán)值的調(diào)整量與誤差的負(fù)梯度成正比，即 ； (2-10) ； (2-11)式中負(fù)號(hào)表示梯度下降，常數(shù)表示比例系數(shù)，在訓(xùn)練中反映了學(xué)習(xí)速率。2.4.2 bp算法的原理推導(dǎo)式(2-8)僅是對(duì)權(quán)

35、值調(diào)整思路的數(shù)學(xué)表達(dá)，而不是具體的權(quán)值調(diào)整計(jì)算公式。下面推導(dǎo)三層bp算法權(quán)值調(diào)整的計(jì)算公式。在全部推導(dǎo)過(guò)程中，對(duì)輸出層均有；對(duì)隱層均有；。對(duì)于輸出層，式(2-10)可寫(xiě)為 (2-12)對(duì)于隱層，式(2-12)可寫(xiě)為 (2-13)對(duì)于輸出層和隱層各定義一個(gè)誤差信號(hào)，令 (2-14) (2-15)綜合應(yīng)用式(2-5)和式(2-14)，可將式(2-12)的權(quán)值調(diào)整式改寫(xiě)為 (2-16)同樣，式(2-15)改為 (2-17)可以看出，只要計(jì)算出式(2-12)中的誤差信號(hào)和，權(quán)值調(diào)整量的計(jì)算推導(dǎo)即可完成。下面推導(dǎo)如何求和。對(duì)于輸出層，可展開(kāi)為 (2-18)對(duì)于隱層，可展開(kāi)為 (2-19)下面求式(2-1

36、3)中網(wǎng)絡(luò)誤差對(duì)各層輸出地偏導(dǎo)。對(duì)于輸出層，利用式(2-7)，可得 (2-20)對(duì)于隱層，利用式(2-8)，可得 (2-21)將以上結(jié)果帶入式(2-15)，并應(yīng)用激活函數(shù)的性質(zhì)得， (2-22) (2-23)至此兩個(gè)誤差信號(hào)的推導(dǎo)已完成，將式(2-16)代回到式(2-13)，得到三層前饋網(wǎng)的bp學(xué)習(xí)算法權(quán)值調(diào)整計(jì)算公式為 (2-24) (2-25)2.4.3 bp算法的程序?qū)崿F(xiàn)之前推導(dǎo)出的算法是bp算法的基礎(chǔ)，稱(chēng)為標(biāo)準(zhǔn)bp算法。由于目前神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)仍以軟件編程為主，現(xiàn)在介紹標(biāo)準(zhǔn)bp算法的編程步驟13。（1）初始化 對(duì)權(quán)值矩陣、賦隨機(jī)數(shù)，將樣本模式計(jì)數(shù)器和訓(xùn)練次數(shù)計(jì)數(shù)器置1，總誤差置0，學(xué)習(xí)率

37、設(shè)為01間小數(shù)，網(wǎng)格訓(xùn)練后達(dá)到的精度設(shè)為一正小數(shù)；（2）輸入訓(xùn)練樣本計(jì)算各層輸出，用當(dāng)前樣本、對(duì)向量數(shù)組、賦值，計(jì)算和中各分量；（3）計(jì)算網(wǎng)絡(luò)輸出誤差 設(shè)共有對(duì)訓(xùn)練樣本，網(wǎng)絡(luò)對(duì)應(yīng)不同的樣本具有不同的誤差，可用其中最大者代表網(wǎng)絡(luò)的總誤差，也可以用其均方根作為網(wǎng)絡(luò)的總誤差；（4）計(jì)算各層誤差信號(hào) 即計(jì)算和；（5）調(diào)整各層權(quán)值 計(jì)算、中各分量；（6）檢查是否對(duì)所有樣本完成一次輪訓(xùn) 若，計(jì)數(shù)器、增1，返回步驟2，否則轉(zhuǎn)步驟5。從以上步驟可以看出，在標(biāo)準(zhǔn)bp算法中，每輸入一個(gè)樣本，都要回傳誤差并調(diào)整權(quán)值，這種對(duì)每個(gè)樣本輪訓(xùn)的權(quán)值調(diào)整方法又稱(chēng)為單樣本訓(xùn)練。由于單樣本訓(xùn)練只針對(duì)每個(gè)樣本產(chǎn)生的誤差進(jìn)行調(diào)整，難

38、免顧此失彼，使整個(gè)訓(xùn)練的次數(shù)增加，導(dǎo)致收斂速度過(guò)慢。另一種方法是在所有的樣本輸入之后，計(jì)算網(wǎng)絡(luò)的總誤差 = (2-26)然后根據(jù)總誤差計(jì)算各層的誤差信號(hào)并調(diào)整權(quán)值，這種積累誤差的批處理方式稱(chēng)為批訓(xùn)練或周期訓(xùn)練。由于批訓(xùn)練遵循以減小全局誤差的原則，因而可以保證總誤差向減小方向變化。在樣本數(shù)較多時(shí)，批訓(xùn)練比單樣本訓(xùn)練時(shí)的收斂速度要快。批訓(xùn)練流程可參見(jiàn)圖2-4。初始化v、w計(jì)數(shù)器q=1，p=1輸入樣本，計(jì)算各層輸出,計(jì)算誤差計(jì)算各層誤差信號(hào)， 調(diào)整各層權(quán)值， ， ppeemin結(jié)束p增1，q增1e=0，p=1圖2-4 批訓(xùn)練流程圖2.5 本章小結(jié)本章主要介紹了神經(jīng)網(wǎng)絡(luò)的起源與發(fā)展，是全文的理論指導(dǎo)，

39、在本章的后半段著重介紹本文引用的bp神經(jīng)網(wǎng)絡(luò)理論的數(shù)學(xué)模型及其特性，在2.3與2.4小節(jié)給出了bp神經(jīng)網(wǎng)絡(luò)的計(jì)算機(jī)算法與訓(xùn)練流程，這為我們接下來(lái)的計(jì)算機(jī)模擬仿真提供了理論依據(jù)。第3章 基于bp神經(jīng)網(wǎng)絡(luò)的脈沖噪聲檢測(cè)3.1 脈沖噪聲圖像的數(shù)學(xué)模型一般來(lái)說(shuō)，圖像中像素的灰度是連續(xù)漸變的，脈沖噪聲點(diǎn)的灰度是該點(diǎn)正?；叶扰c噪聲灰度的疊加，由于脈沖噪聲的上沖與下沖特性，其灰度值往往接近于圖像中最大或最小的灰度值，從而與其周?chē)噜徬袼攸c(diǎn)的灰度值相差較大。為了標(biāo)識(shí)脈沖噪聲，首先定義與待檢測(cè)圖像的維數(shù)大小相同的矩陣，定義為噪聲標(biāo)識(shí)矩陣w，在該矩陣中每個(gè)矩陣元素都與待處理的噪聲圖像中每個(gè)像素相對(duì)應(yīng)，用表示。即：

40、 （3-1）其中：可取1或0,0代表原圖像像素，1代表該元素所對(duì)應(yīng)的原圖像像素為脈沖噪聲。w初始化為全1矩陣，在進(jìn)行噪聲檢測(cè)的過(guò)程中，根據(jù)脈沖噪聲的檢測(cè)結(jié)果將矩陣中的元素值設(shè)置為0或保持原值1。3.1.1 脈沖噪聲模型為了更好地驗(yàn)證本文方法對(duì)各種脈沖噪聲圖像的去噪性能，下面給出兩種脈沖噪聲模型。1. 噪聲模型.對(duì)任意像素點(diǎn)，若其為信號(hào)點(diǎn)，則像素值為；若其為噪聲點(diǎn)，則像素值為，的概率密度函數(shù)定義為： （3-2）噪聲取值于長(zhǎng)度為的兩個(gè)固定范圍內(nèi)，噪聲點(diǎn)隨機(jī)地取范圍內(nèi)的任意值，且高強(qiáng)度和低強(qiáng)度脈沖噪聲按相同比例分布。當(dāng)時(shí)，為椒鹽噪聲。2. 噪聲模型. （3-3）其中，且類(lèi)似于模型，但高強(qiáng)度和低強(qiáng)度脈

41、沖噪聲按不同比例分布。3.2 噪聲檢測(cè)弱分類(lèi)器的設(shè)計(jì)根據(jù)脈沖噪聲的圖像特征，利用待識(shí)別像素及其鄰域灰度差值來(lái)判斷一個(gè)像素是否為噪聲點(diǎn)。本文噪聲判別參照傳統(tǒng)的bdnd方法。由上面給出的脈沖噪聲模型定義易見(jiàn)，噪聲點(diǎn)必然取0或255附近的某個(gè)值。以當(dāng)前點(diǎn)為中心定義一個(gè)窗口： （3-4）對(duì)窗口內(nèi)的像素點(diǎn)排序后，要設(shè)法確定兩個(gè)邊界和，可將窗口內(nèi)的像素點(diǎn)按，劃分為3個(gè)子集，使得噪聲點(diǎn)位于和區(qū)間內(nèi)，而非噪聲點(diǎn)位于區(qū)間內(nèi)。若當(dāng)前點(diǎn)像素值位于區(qū)間內(nèi)，則分類(lèi)為信號(hào)點(diǎn)；否則，分類(lèi)為噪聲點(diǎn)。具體算法描述如下：（1）以當(dāng)前點(diǎn)為中心，取尺寸為窗口；（2）將窗口內(nèi)的點(diǎn)按像素值升序排序，排序后向量記為，且向量中間元素元素記為

42、；（3）計(jì)算向量中相鄰兩個(gè)元素間的差值（后一個(gè)元素減去前一個(gè)元素），形成差異向量；（4）對(duì)于向量中位于區(qū)間內(nèi)的元素，在向量中定位最大差值位置，并將向量中相應(yīng)未知元素確定為邊界；（5）類(lèi)似地，對(duì)于向量位于區(qū)間內(nèi)的元素，可以確定出邊界；若當(dāng)前點(diǎn)像素值位于區(qū)間內(nèi)，則分類(lèi)為信號(hào)點(diǎn)；否則，分類(lèi)為噪聲點(diǎn)。易見(jiàn)，確定邊界和的準(zhǔn)確度，將直接影響該弱分類(lèi)器的精度。3.3 噪聲檢測(cè)強(qiáng)分類(lèi)器的設(shè)計(jì)對(duì)于同一像素點(diǎn)、不同尺寸的弱分類(lèi)器，可能會(huì)給出相反的分類(lèi)結(jié)果。而且，同一個(gè)弱分類(lèi)器，對(duì)于不同噪聲密度的含噪圖像也會(huì)表現(xiàn)出不同的分類(lèi)能力。因此，對(duì)于一幅含噪圖像，首先要用若干不同尺寸的弱分類(lèi)器進(jìn)行分類(lèi)；再綜合考慮各弱分類(lèi)器針

43、對(duì)不同噪聲密度圖像的分類(lèi)能力以及各弱分類(lèi)器之間的聯(lián)系，采用bp神經(jīng)網(wǎng)絡(luò)，訓(xùn)練出強(qiáng)分類(lèi)器，給出最終判決，得到含噪圖像的二進(jìn)制影射圖，0代表信號(hào)點(diǎn)，1代表噪聲點(diǎn)。bp神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)包括訓(xùn)練樣本集設(shè)計(jì)、訓(xùn)練與測(cè)試和網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)三方面內(nèi)容。3.3.1 訓(xùn)練和檢驗(yàn)樣本集設(shè)計(jì)訓(xùn)練和檢驗(yàn)數(shù)據(jù)的準(zhǔn)備工作是網(wǎng)絡(luò)設(shè)計(jì)與訓(xùn)練的基礎(chǔ)，數(shù)據(jù)選擇以及數(shù)據(jù)表示的科學(xué)合理性對(duì)于網(wǎng)絡(luò)設(shè)計(jì)具有極為重要的作用。一般來(lái)說(shuō)，訓(xùn)練樣本數(shù)越多，訓(xùn)練結(jié)果越能正確反映其內(nèi)在規(guī)律，但樣本數(shù)據(jù)多到一定程度時(shí)，網(wǎng)絡(luò)的精度也很難進(jìn)一步提高，訓(xùn)練誤差與樣本數(shù)之間的關(guān)系如圖3-1所示。誤差樣本數(shù)0圖3-1 網(wǎng)絡(luò)誤差與樣本數(shù)的關(guān)系實(shí)踐表明，網(wǎng)絡(luò)訓(xùn)練所需的樣

44、本數(shù)取決于輸入-輸出間非線性關(guān)系的復(fù)雜程度，映射關(guān)系越復(fù)雜，樣本中含有的噪聲越大，為了保證精度所需的樣本數(shù)也就越多，而且網(wǎng)絡(luò)的規(guī)模也越大。一些學(xué)者經(jīng)過(guò)長(zhǎng)時(shí)間的學(xué)習(xí)實(shí)踐，總結(jié)出了一個(gè)關(guān)于樣本數(shù)的經(jīng)驗(yàn)規(guī)則：訓(xùn)練樣本數(shù)是網(wǎng)絡(luò)連接權(quán)總數(shù)的5到10倍。由于本網(wǎng)絡(luò)結(jié)構(gòu)采用了“3-3-1”形式，故根據(jù)此原則，訓(xùn)練樣本數(shù)應(yīng)該設(shè)定在60到120之間，取網(wǎng)絡(luò)連接權(quán)總數(shù)的10倍，即120個(gè)訓(xùn)練樣本。3.3.2 樣本的選擇與組織網(wǎng)絡(luò)訓(xùn)練中提取的規(guī)律都蘊(yùn)含在樣本中，因此樣本一定要有代表性。樣本的選擇要注意樣本類(lèi)別的均衡，盡量使每個(gè)類(lèi)別的樣本數(shù)量大致相等。即使是同一類(lèi)樣本也要照顧樣本的多樣性與均勻性。這種“平均主義”原則

45、選擇的樣本能使網(wǎng)絡(luò)在訓(xùn)練時(shí)見(jiàn)多識(shí)廣，而且可以避免網(wǎng)絡(luò)對(duì)樣本數(shù)量多的類(lèi)別“印象深”，而對(duì)出現(xiàn)次數(shù)少的類(lèi)別“印象淺”。樣本的組織要注意將不同類(lèi)別的樣本交叉輸入，或從訓(xùn)練集中隨機(jī)選擇輸入樣本。因?yàn)橥?lèi)樣本太集中會(huì)使網(wǎng)絡(luò)訓(xùn)練時(shí)傾向于只建立與其匹配的映射關(guān)系，當(dāng)另一類(lèi)樣本集中輸入時(shí)，權(quán)值的調(diào)整又轉(zhuǎn)向新的映射關(guān)系而將前面的訓(xùn)練結(jié)果否定。當(dāng)各類(lèi)樣本輪流集中輸入時(shí)，網(wǎng)絡(luò)的訓(xùn)練會(huì)出現(xiàn)振蕩使訓(xùn)練時(shí)間延長(zhǎng)。3.3.3 輸入輸出量的選擇與表示一般來(lái)說(shuō)，輸入量是選取對(duì)輸出影響大而且能夠檢測(cè)或提取的變量。本文中輸入量為由弱分類(lèi)器分類(lèi)得到的0,1序列。所謂輸出量代表系統(tǒng)要實(shí)現(xiàn)的目標(biāo)功能，實(shí)際上是網(wǎng)絡(luò)訓(xùn)練的期望輸出，本文選擇

46、數(shù)值表示法，即輸出值為0,1內(nèi)實(shí)數(shù)，當(dāng)輸出值大于0.5時(shí)，認(rèn)為是噪聲點(diǎn)。在訓(xùn)練樣本選擇上遵循如下準(zhǔn)則：（1）半數(shù)以上弱分類(lèi)器能夠正確分類(lèi)的像素點(diǎn)作為待選樣本，確保樣本特征明顯；（2）樣本數(shù)量約為網(wǎng)絡(luò)連接權(quán)總數(shù)的10倍，確保樣本的多樣性；（3）不同類(lèi)別樣本（目標(biāo)結(jié)果為0或1）數(shù)量大致相等，確保樣本的均勻性；（4）隨機(jī)抽取，確保樣本間的不相關(guān)性。3.3.4 多層前饋網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)本文設(shè)計(jì)的bp神經(jīng)網(wǎng)絡(luò)為單隱層的3層前饋網(wǎng)，包括輸入層、隱層和輸出層。其中，輸入層節(jié)點(diǎn)數(shù)等于弱分類(lèi)器的個(gè)數(shù)；輸出層的節(jié)點(diǎn)數(shù)為1；隱層節(jié)點(diǎn)數(shù)可根據(jù)輸入層節(jié)點(diǎn)數(shù)確定。隱層及輸出層狀態(tài)轉(zhuǎn)移函數(shù)均采用單極性sigmoid函數(shù)： （3

47、-5）1. 隱層數(shù)的設(shè)計(jì)理論分析已經(jīng)證明，在不限制隱層節(jié)點(diǎn)的前提條件下，具有單隱層的前饋神經(jīng)網(wǎng)絡(luò)可以映像所有連續(xù)函數(shù)。在設(shè)計(jì)多層前饋網(wǎng)絡(luò)時(shí)，一般來(lái)說(shuō)先考慮設(shè)計(jì)一個(gè)隱層。雖然說(shuō)增加隱層數(shù)可以降低網(wǎng)絡(luò)誤差，提高精度，但是也會(huì)使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)的訓(xùn)練時(shí)間甚至有“過(guò)擬合”的傾向。但是實(shí)際上，我們可以同多增加隱層的節(jié)點(diǎn)數(shù)來(lái)改善這個(gè)問(wèn)題，不需要多設(shè)置一個(gè)隱層。因此，本文在設(shè)計(jì)網(wǎng)絡(luò)時(shí)，也采取單隱層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，即網(wǎng)絡(luò)結(jié)構(gòu)為一個(gè)輸入層，一個(gè)輸出層和一個(gè)隱含層。2. 輸入層節(jié)點(diǎn)數(shù)在前文中己經(jīng)說(shuō)明本文章中輸入變量為由弱分類(lèi)器分類(lèi)得到的0,1序列。因此，本文構(gòu)建的bp神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)為3個(gè)。3. 輸出

48、層節(jié)點(diǎn)數(shù)本文選擇數(shù)值表示法，即輸出值為0,1內(nèi)實(shí)數(shù)，當(dāng)輸出值大于0.5時(shí)，認(rèn)為是噪聲點(diǎn)，小于0.5時(shí)認(rèn)為是信號(hào)點(diǎn)。因此，輸出層節(jié)點(diǎn)數(shù)為1個(gè)。4. 隱含層節(jié)點(diǎn)數(shù)隱含層節(jié)點(diǎn)的作用是從樣本中提取并儲(chǔ)存其內(nèi)在的規(guī)律，每個(gè)節(jié)點(diǎn)有若干個(gè)權(quán)值，而每個(gè)權(quán)值都是增強(qiáng)網(wǎng)絡(luò)映像能力的一個(gè)參數(shù)。一般來(lái)說(shuō)，如果一個(gè)神經(jīng)網(wǎng)絡(luò)的隱含層包含有無(wú)數(shù)隱含層節(jié)點(diǎn)，那么該神經(jīng)網(wǎng)絡(luò)可以實(shí)現(xiàn)從輸入到輸出的任意精度的非線性映像。但是現(xiàn)實(shí)中我們無(wú)法實(shí)現(xiàn)無(wú)數(shù)個(gè)隱含層節(jié)點(diǎn)，我們必學(xué)根據(jù)需要確定隱含層節(jié)點(diǎn)數(shù)。一方面，如果節(jié)點(diǎn)數(shù)設(shè)置的太少，網(wǎng)絡(luò)從樣本中獲取信息的能力就差，不足以概括和體現(xiàn)訓(xùn)練集中的樣本規(guī)律;另一方面，隱含層節(jié)點(diǎn)數(shù)量過(guò)多，則有可能把非

49、規(guī)律性的內(nèi)容如噪音也學(xué)會(huì)記牢，從而出現(xiàn)“過(guò)擬合”的現(xiàn)象，反而降低了神經(jīng)網(wǎng)絡(luò)的泛化能力。此外，隱含層節(jié)點(diǎn)數(shù)量太多還會(huì)增加訓(xùn)練時(shí)間。因此，設(shè)置多少個(gè)隱含層節(jié)點(diǎn)取決于訓(xùn)練樣本的多少、樣本噪聲的大小以及樣本中蘊(yùn)含規(guī)律的復(fù)雜程度。確定最佳隱含層節(jié)點(diǎn)數(shù)的一個(gè)常用的方法成為試湊法，可以先設(shè)置較少的隱含節(jié)點(diǎn)訓(xùn)練網(wǎng)絡(luò)，然后逐漸增加隱含層節(jié)點(diǎn)數(shù)，用同一樣本集進(jìn)行訓(xùn)練，從中確定網(wǎng)絡(luò)誤差最小時(shí)對(duì)應(yīng)的隱含層節(jié)點(diǎn)數(shù)。在適用試湊法的時(shí)候，可以用一些確定隱含層節(jié)點(diǎn)數(shù)的經(jīng)驗(yàn)公式。這些公式計(jì)算出來(lái)的隱含層節(jié)點(diǎn)數(shù)可以作為試湊法的初始值。有以下幾個(gè)公式: （3-6） （3-7） （3-8）以上各式中，為隱藏節(jié)點(diǎn)數(shù)，為輸入層節(jié)點(diǎn)數(shù)，為

50、輸出層節(jié)點(diǎn)數(shù)，為1 10之間的常數(shù)。試湊法的另一種做法是先設(shè)置較多的隱含層節(jié)點(diǎn)，進(jìn)行訓(xùn)練時(shí)采用以下誤差代價(jià)函數(shù)： 其中； （3-9） 其中為網(wǎng)絡(luò)輸出的誤差平方和，對(duì)于單隱含層bp神經(jīng)網(wǎng)絡(luò)，n表示輸入層節(jié)點(diǎn)數(shù)，m表示隱含層節(jié)點(diǎn)數(shù)，其作用相當(dāng)于一個(gè)遺忘項(xiàng)，其目的是為了使訓(xùn)練后的連接權(quán)值盡量小。根據(jù)該算法，在訓(xùn)練過(guò)程中影響小的權(quán)值將逐漸衰減到零，因此可以去掉相應(yīng)的節(jié)點(diǎn)，最終能夠保留下來(lái)的即為最佳的隱含層節(jié)點(diǎn)數(shù)。在本文中選擇的是第一種方法，先算出試湊法的初始值，再根據(jù)訓(xùn)練情況逐漸增加隱含層的節(jié)點(diǎn)數(shù)，從而確定網(wǎng)絡(luò)誤差最小時(shí)的隱含層節(jié)點(diǎn)數(shù)。根據(jù)試湊法，我們選擇公式計(jì)算出試湊法的初始值為4，即隱層網(wǎng)絡(luò)的節(jié)點(diǎn)

51、數(shù)由4個(gè)開(kāi)始。根據(jù)多次實(shí)驗(yàn)發(fā)現(xiàn)，當(dāng)a=6的時(shí)候，即隱含層節(jié)點(diǎn)數(shù)為10個(gè)的時(shí)候，網(wǎng)絡(luò)達(dá)到速度和穩(wěn)定性的最佳狀態(tài)，訓(xùn)練和檢驗(yàn)的效果都最好。因此，在本文中隱含層節(jié)點(diǎn)數(shù)為10個(gè)。5轉(zhuǎn)移函數(shù)關(guān)于轉(zhuǎn)移函數(shù)前面章節(jié)已做過(guò)介紹，這里不再贅述。本模型采用單極性sigmoid函數(shù) （3-10）其特點(diǎn)如圖3-2所示 0 0.5 1.0xx 圖3-2 型轉(zhuǎn)移函數(shù)3.3.5 樣本數(shù)據(jù)的選擇和數(shù)據(jù)的預(yù)處理網(wǎng)絡(luò)訓(xùn)練中提取的規(guī)律從蘊(yùn)含在樣本中，因此樣本一定要有代表性。樣本的選擇要注意樣本類(lèi)別的均衡，盡量使每個(gè)類(lèi)別的樣本數(shù)量大致相等。即使是同一類(lèi)樣本也要照顧樣本的多樣性與均勻性。這種“平均主義”原則選擇的樣本能使網(wǎng)絡(luò)在訓(xùn)練是見(jiàn)

52、多識(shí)廣，而且可以避免網(wǎng)絡(luò)對(duì)樣本數(shù)量多的類(lèi)別“印象深”，而對(duì)出現(xiàn)次數(shù)少的類(lèi)別“印象淺”。樣本的組織要注意將不同類(lèi)別的樣本交叉輸入，或從訓(xùn)練集中隨機(jī)選擇輸入樣本。因?yàn)橥?lèi)樣本太集中會(huì)使網(wǎng)絡(luò)訓(xùn)練時(shí)傾向于只建立與其匹配的映射關(guān)系，當(dāng)另一類(lèi)樣本集中輸入時(shí)，權(quán)值的調(diào)整又轉(zhuǎn)向新的映射關(guān)系而將前面的訓(xùn)練結(jié)果否定。當(dāng)各類(lèi)樣本輪流集中輸入時(shí)，網(wǎng)絡(luò)的訓(xùn)練會(huì)出現(xiàn)振蕩使訓(xùn)練時(shí)間延長(zhǎng)。3.3.6 網(wǎng)絡(luò)的訓(xùn)練與測(cè)試訓(xùn)練時(shí)對(duì)所有樣本數(shù)據(jù)正向運(yùn)行一輪并反向修改權(quán)值一次稱(chēng)為一次訓(xùn)練。在訓(xùn)練過(guò)程中要反復(fù)使用樣本數(shù)據(jù)，但每一輪不要按固定的順序取數(shù)據(jù)，這樣做可以防止出現(xiàn)“過(guò)擬合”現(xiàn)象的出現(xiàn)。為了找到最佳訓(xùn)練次數(shù)，訓(xùn)練時(shí)將訓(xùn)練和測(cè)試交替進(jìn)行，每訓(xùn)練一次記錄一次訓(xùn)練均方誤差，然后保持網(wǎng)絡(luò)權(quán)值不變，用測(cè)試數(shù)據(jù)正向運(yùn)行網(wǎng)絡(luò)，記錄測(cè)試均方誤差。利用這兩種誤差數(shù)據(jù)繪出圖3-3中的兩種均方誤差隨訓(xùn)練次數(shù)變化的曲線。f訓(xùn)練數(shù)據(jù)均方誤差訓(xùn)練次數(shù)測(cè)試數(shù)據(jù) 圖3-3 兩種均方誤差曲線從誤差曲線可以看出，在某一個(gè)訓(xùn)練次數(shù)之前，隨著訓(xùn)練次數(shù)的增加，兩條曲線同時(shí)下降。當(dāng)超