本論文主要是發展一個移除訊號雜訊的方法，此方法是以輻射基底函數類神經網路為基礎，並運用統計學上交互驗證的概念，利用驗證資料評估類神經網路學習效果，並藉由所得驗證誤差值大小做為判斷雜訊的依據。此外，本文方法應用於二維影像訊號雜訊移除問題時，乃是運用預測編碼的概念從影像中選取資料點進入網路訓練；而在還原影像部分，本文利用移除雜訊後的資料點訓練網路得到新的映射關係，藉此求得取代受雜訊影響部分的新資料點來還原影像。由處理一維以及二維訊號雜訊移除的實驗結果可知，本文方法可以有效移除訊號雜訊；而在處理二維影像訊號時，本文方法不會損害未受雜訊影響訊號的結構且可以有效的維持影像的資訊。

The main objective of this paper is to develop a method of removing noise from signal. This method is based on the radial-basis function networks and the principle of cross-validation in statistics. In this method, we detect noise by estimating the magnitude of validation error after training the network. Besides, this paper applies the concept of predictive coding to select data set from image when the proposed method used to deal with the noise removal problem of two-dimensional image signals. Finally, the proposed method has been employed to deal with noise removal problems of one-dimensional and two-dimensional signals. From the result of simulation, the proposed method could remove noise from signals effectively.

目錄

謝誌………………………………………………………………I
中文摘要……………………………………………………………………II
英文摘要…………………………………………………………………III
目錄………………………………………………………………IV
圖目錄……………………………………………………………VII
表目錄……………………………………………………………XI
第一章 緒論…………………………………………………………………1
1.1 前言………………………………………………………………1
1.2 研究動機與目的…………………………………………………2
1.3 本文架構…………………………………………………………3
第二章 網路架構與學習法則……………………………………………4
2.1 網路架構……………………………………………………………4
2.2 正交最小平方法則…………………………………………………5
2.3 本文RBF網路所使用的學習法則…………………………………7
2.3.1 隱藏層神經元參數…………………………………………7
2.3.2 求解網路輸出加權值………………………………………8
2.3.3 Early Stop 機制……………………………………………8
第三章 處理一維訊號雜訊移除問題…………………………………11
3.1訊號雜訊移除方法概念說明………………………………………11
3.2訊號雜訊移除方法詳細流程說明…………………………………12
3.3實驗結果與分析……………………………………………………19
3.3.1 Gaussian Noise Model………………………………………19
3.3.2 Impulse Noise Model………………………………………20
3.3.3 Gross Error Model……………………………………………20
3.3.4實驗結果……………………………………………………20
3.3.4.1 本文方法在不同雜訊模型下的結果…………………22
3.3.5實驗分析……………………………………………………29
第四章 處理二維影像訊號雜訊移除問題……………………………32
4.1資料點擷取方法…….……………………………………………32
4.2影像雜訊的偵測…………………………………………………34
4.3 處理影像雜訊移除問題時雜訊偵測方法的修正………………37
4.3.1 資料點擷取方法的修正…………………………………37
4.3.2 雜訊判斷方法的修正……………………………………40
4.4影像雜訊移除方法的詳細流程說明……………………………44
4.5 雜訊移除後影像復原的方法……………………………………47
4.6 區塊式處理影像雜訊移除問題…………………………………53
4.6.1區塊式影像雜訊移除方法詳細流程說明…………………54
4.7實驗結果與分析……………………………………………………55
4.7.1影像雜訊模型………………………………………………55
4.7.2影像保真度…………………………………………………56
4.7.3實驗結果……………………………………………………57
4.7.3.1 區塊式影像雜訊移除方法實驗結果………………57
4.7.3.2 本文方法移除雜訊的效果…………………………61
4.7.3.3 比較不同雜訊比例對於本文方法的影響…………65
4.7.3.4 比較本文方法在處理不同影像尺寸時的效果……68
4.7.4實驗分析……………………………………………………69
第五章 結論…………………………………………………………………70
5.1 論文總結…………………………………………………………70
5.2 未來研究方向與建議……………………………………………70
參考文獻……………………………………………………………………72

圖目錄

圖2.1 輻射基底函數類神經網路架構圖……………………………………5
圖2.2 Early stop機制示意圖………………………………………………9
圖2.3 本文所使用的RBF學習法則的流程圖……………………………10
圖3.1 比較函數 在受到雜訊影響前後的示意圖………………14
圖3.2 原始資料點平均誤差值排名與大小關係圖…………………………15
圖3.3 平均誤差值大小排名為前5%（前25名）的資料點在函數圖形上的
分佈示意圖…………………………………………………………15
圖3.4 本文雜訊移除方法的流程圖（一）…………………………………17
圖3.5 本文雜訊移除方法的流程圖（二）…………………………………18
圖3.6 比較函數 在受到各種雜訊模型影響前後的圖形……21
圖3.7 函數 受到5%Gaussian noise影響時，利用本文方法移除
雜訊的結果…………………………………………………………23
圖3.8 函數 受到5%Impulse noise影響時，利用本文方法移除雜
訊的結果……………………………………………………………24
圖3.9 函數 受到5%Gross noise影響時，利用本文方法移除雜
訊的結果……………………………………………………………25
圖3.10 函數 受到5%Gaussian noise
影響時，利用本文方法移除雜訊的結果示意圖……………………26
圖3.11 函數 受到5%Impulse noise影
響時，利用本文方法移除雜訊的結果示意圖………………………27
圖3.12 函數 受到5%Gross noise影
響時，利用本文方法移除雜訊的結果示意圖……………………28
圖3.13 函數 受到5%Gaussian noise的影響下，討論雜訊移除效
果的示意圖…………………………………………………………29
圖3.14 函數 受到5%Gross noise的影響下，討論雜訊移除效果
的示意圖……………………………………………………………30
圖4.1 說明影像原始資料點選取方式的示意圖……………………………33
圖4.2 比較受到0.25%脈衝雜訊影響前後的Lena圖………………………35
圖4.3 利用「由左而右」方向從影像中選取原始資料點，將資料點被分成
驗證資料點時，進入網路訓練後的平均誤差值由大到小排序，取出
排名前1000名資料點的誤差值繪出如圖所示………………………35
圖4.4 在Lena圖上標記平均誤差值排名在前40名的資料點示意圖……36
圖4.5 說明影像邊界不連續性對於本文方法的影響………………………37
圖4.6 說明影像原始資料點選取方式的示意圖；以大小為10×10的影像為
例，利用影像中的第一列說明，如何從影像中由左而右，由上而下
的選取訓練資料點……………………………………………………38
圖4.7 說明影像原始資料點選取方式的示意圖；以大小為10×10的影像為
例，利用影像中的第一列說明，如何從影像中由右而左，由上而下
的選取訓練資料點……………………………………………………39
圖4.8 說明影像原始資料點選取方式的示意圖；以大小為10×10的影像為
例，利用影像中的第一行說明，如何從影像中由上而下，由左而右
的選取訓練資料點……………………………………………………39
圖4.9 說明影像原始資料點選取方式的示意圖；以大小為10×10的影像為
例，利用影像中的第一行說明，如何從影像中由左到右，由上到下
的選取訓練資料………………………………………………………40
圖4.10 影像中資料點可以計算平均誤差的區域以及其可以計算的次數示意
圖……………………………………………………………………41
圖4.11利用不同方向從影像中選取原始資料點，將資料點被分成驗證資料
點時，進入網路訓練後的平均誤差值由大到小排序，取出排名前
1000名資料點的誤差值繪出如圖所示。其中被脈衝雜訊影響的資料
點以 ‘ o ’ 標示…………………………………………………42
圖4.12 利用修正後的資料點擷取方法，從影像中選取原始資料點，資料
點被分成驗證資料點時，進入網路訓練後的平均誤差值由大到小
排序，取出排名前1000名資料點的誤差值繪出如圖所示。其中被
脈衝雜訊影響的資料點以 ‘ o ’ 標示……………………………43
圖4.13 比較單一方向以及四個方向進行資料點選取時，在受到0.25%脈衝
雜訊影響Lena圖上，標記平均誤差值大小排名在前0.25%（前40
名）的資料點………………………………………………………44
圖4.14 影像雜訊移除方法流程圖……………………………………………46
圖4.15 說明取代雜訊點值時，所需要考慮到的情形………………………49
圖4.16 說明雜訊點分佈位置相鄰時所需要注意的問題……………………51
圖4.17 影像復原方法的流程圖………………………………………………52
圖4.18 影像分割成4×4區塊示意圖（128×128 Pepper圖）…………………53
圖4.19 區塊式處理影像雜訊移除問題流程圖………………………………54
圖4.20 比較受到脈衝雜訊影響前後的Lena圖……………………………55
圖4.21 Pepper圖在分割成不同區塊下依照本文方法移除雜訊後的影像示意
圖………………………………………………………………………58
圖4.22 Lena圖在分割成不同區塊下依照本文方法移除雜訊後的影像示意
圖………………………………………………………………………59
圖4.23 Zelda圖在分割成不同區塊下依照本文方法移除雜訊後的影像示意
圖……………………………………………………………………60
圖4.24 比較移除雜訊前後的Pepper圖…………………………………62
圖4.25 比較移除雜訊前後的Lena圖………………………………………63
圖4.26 比較移除雜訊前後的Zelda圖………………………………………64
圖4.27 Pepper圖在不同比例脈衝雜訊的影響下，與影像在未移除雜訊、
使用本文方法、使用median filter以及使用mean filter時PSNR值
的關係圖……………………………………………………………65
圖4.28 Lena圖在不同比例脈衝雜訊的影響下，與影像在未移除雜訊、使
用本文方法、使用median filter以及使用mean filter時PSNR值的
關係圖………………………………………………………………66
圖4.29 Zelda圖在不同比例脈衝雜訊的影響下，與影像在未移除雜訊、使
用本文方法、使用median filter以及使用mean filter時PSNR值的
關係圖………………………………………………………………67

表目錄

表3.1函數 受到5%Gaussian noise影響時雜訊移除前後網路訓練
效能比較……………………………………………………………….23
表3.2函數 受到5%Impulse noise影響時雜訊移除前後網路訓練
效能比較……………………………………………………………….24
表3.3函數 受到5%Gross noise影響時雜訊移除前後網路訓練效
能比較………………………………………………………………….25
表3.4受到5%Gaussian noise影響函數在雜訊移除前後網路訓練效能比較
………………………………………………………………………….26
表3.5受到5%Impulse noise 影響函數在雜訊移除前後網路訓練效能比較
………………………………………………………………………….27
表3.6受到5%Gross noise影響函數在雜訊移除前後網路訓練效能比較…28
表4.1 Pepper圖在利用區塊式影像雜訊移除方法時，在分割成不同個數區
塊影像進行雜訊移除後，影像PSNR值與處理影像的運算時間…..58
表4.2 Lena圖在利用區塊式影像雜訊移除方法時，在分割成不同個數區塊
影像進行雜訊移除後，影像PSNR值與處理影像的運算時間……59
表4.3 Zelda圖在利用區塊式影像雜訊移除方法時，在分割成不同個數區
塊影像進行雜訊移除後，影像的PSNR值與處理影像的運算時間
………………………………………………………………………60
表4.4 Pepper圖在受到10%脈衝雜訊影響下，使用各個濾波方法後的PSNR
值（db）………………………………………………………………61
表4.5 Lena圖在受到10%脈衝雜訊影響下，使用各個濾波方法後的PSNR
值（db）………………………………………………………………61

表4.6 Zelda圖在受到10%脈衝雜訊影響下，使用各個濾波方法後的PSNR
值（db）………………………………………………………………61
表4.7 Pepper圖在受到不同比例的脈衝雜訊影響下，在未移除雜訊、使用
本文提出的雜訊移除方法以及使用中值濾波…等五種情況下的訊
號雜訊比(PSNR)值…………………………………………………65
表4.8 Lena圖在受到不同比例的脈衝雜訊影響下，在未移除雜訊、使用本
文提出的雜訊移除方法以及使用中間值濾波…等五種情況下的訊
號雜訊比(PSNR) 值………………………………………………66
表4.9 Zelda圖在受到不同比例的脈衝雜訊影響下，在未移除雜訊、使用
本文提出的雜訊移除方法以及使用中間值濾波…等五種情況下的
訊號雜訊比(PSNR) 值………………………………………………67
表4.10 不同尺寸Pepper圖在利用本文方法移除雜訊後影像的PSNR值
………………………………………………………………………68
表4.11 不同尺寸Lena圖在利用本文方法移除雜訊後影像的PSNR值
………………………………………………………………………68
表4.12 不同尺寸Zelda圖在利用本文方法移除雜訊後影像的PSNR值
………………………………………………………………………68

Brownrigg, D.R.K., 1984, “ The Weighted Median Filter,’’ Commum. ACM,
Vol.27, pp.807-818

Chen, S. and Billings, S. A., 1992, “Neural Networks for Nonlinear Dynamic
System Modeling and Identification,” International Journal of Control, Vol. 56, No.2, pp. 319-346

Chuang, C.C., Su, S.F. and Hsiao, C.C., 2000, “The Annealing Robust
Backpropagation (ARBP) Learning Algorithm,” IEEE Trans. Neural Networks,
Vol. 11, No.5, pp.1067-1077

Chua, W. and Yang, L., 1988, “Cellular Networks: Theory,” IEEE Trans. Circuit
Syst., Vol.35, No.10, pp.1257-1272

Chua, W. and Yang, L., 1988, “Cellular Networks: Applications,” IEEE Trans.
Circuits Syst., Vol.35, No.10, pp.1273-1290

Dony, R. D. and Haykin, S., 1995, “ Neural Network Approaches to Image
Compression, ” Proc. IEEE, Vol.83, No.2, pp.288-303

Egmont-Petersen, M., D. de Ridder and H. Handels, 2002, “ Image Processing
with Neural Networks- a Review,” Pattern Recognition, Vol.35, 2279-2301

Haykin, S., 1999, “Neural Networks, A comprehensive Foundation,” 2nd Edition,
Prentice Hall, pp. 213-218

Hanek, H. and Ansari, N., 1996, “ Speeding up the Generalized Adaptive Neural
Filters,” IEEE Trans. Image Processing, Vol.5, No.5, pp.705-712

Liano, K., 1996, “Robust Error Measure for Supervised Neural network
Learning with Outliers,” IEEE Trans. Neural Networks, Vol. 7, No.1,pp.246-250

Luo, F.L. and Unbehauen, R., 1997, “ Applied Neural Networks for Signal
Processing,” Cambridge Univ. Press, pp. 1-31

Ko, S. J. and Lee, Y. H., 1991, “Center Weighted Median Filters and their
Application to Image Enhancement, ” IEEE Trans. Circuits Syst., Vol.38,
No.1, pp.984-993

Kong, H. and Guan, L., 1998, “A Noise-Exclusive Adaptive Filtering
Framework for Removing Impulse Noise in Digital Images,” IEEE Trans.
Circuits Syst., Vol.45, No.3, pp.422-428

Paik, J.K. and Katsaggelos, A.K., “Image Restoration using a Modified Hopfield
Networks,” IEEE Trans. Image Processing, Vol.1, No.1, pp49-63

Parlett, B.N., 2000,“The QR Algorithm,” Computing in Science & Engineering,
Vol.2, pp. 38-42

William, W. H., 1988, “Applied Numerical Linear Algebra,” Prentice Hall,
pp. 192-225

林楨喨,2001,“以線性迴歸的技巧加強RBF類神經網路的引申能力”, 碩士
論文, 國立中山大學機械工程研究所