摘要

在1974年Batchelor及1982年Reilly均曾提出超球面分類器的訓練方法，1993年Telfer及Casasent提出The Minimum-Cost Ho-Kashyap Associative Processor Training Method(簡稱AP方法)，提出超球面分類器新訓練方法，經多人改良至現在的超球面分類器，所處理的問題型態多偏向具有未重疊區域的型態鑑別問題，若遇上具有重疊區域的型態鑑別問題時，所表現的結果卻不如理想。
有鑑於此本文針對以處理具有重疊區域的型態鑑別問題為出發點，改良超球面分類器，主要改良分為四個部分：1. 採用Adaptive Ho-Kashyap II Rules(AHKII Algorithm)為新的線性區別函數(Linear Discriminate Function, LDF)演算法。2. 利用K最近鄰居分類器設定資料分佈為具有重疊區域或具有未重疊區域型態。3. 引入〝分類精度要求值〞(Desired Classification Accuracy，DCA)作為分類精度指標。4. 針對問題型態改變訓練資料的分群方法。使得新超球面分類器在面對具有重疊與未重疊區域的型態鑑別問題上，均能表現出良好的分類能力。

A Hypershperical Classifier Training Method for Pattern Recognition Problems with Overlapping

目錄
第一章 緒論 1
1.1 前言 1
1.2 研究動機 1
1.3 論文架構 4
第二章 超球面分類器的原理 5
2.1超球面分類器之概念 5
2.2建立LDF之原則 8
2.3 LDF訓練方法─AHKII Algorithm 8
2.3.1 Ho-Kashyap Algorithm 8
2.3.2 Adaptive Ho-Kashyap Algorithm 11
2.3.3 AHKII Algorithm的LDF訓練方法 13
第三章 超球面分類器前期處理─利用K最近鄰居分類器設定資料分
佈型態與分類精度要求值 15
3.1 K最近鄰居分類器之原理 16
3.2 K最近鄰居分類器在超球面分類器中之應用 17
3.2.1 K最近鄰居分類器在超球面分類器中應用原理 17
3.2.2利用3-1法則刪除原型點中之雜訊點 19
3.2.3 動態K最近鄰居分類器尋找最佳分類錯誤率 22
3.3資料分佈型態之設定與分類精度要求值之設定 24
3.3.1 資料分佈型態之設定 24
3.3.1 分類精度要求值之設定 25
第四章 超球面分類器中期處理─訓練資料安排 27
4.1分群原理與AP的分群法面對重疊型態問題之缺點 24
4.2新分群法面對重疊型態問題修正地方 28
4.3設定不同資料分佈型態所搭配之分群法 29
第五章 超球面分類器訓練方法 34
5.1 AHKII超球訓練方法 34
5.2適應性超球訓練法 37
第六章 實驗結果 41
6.1訓練條件與參數說明 44
6.2人造資料驗證新超球面分類器理論之實驗結果 43
6.2.1 實驗資料說明 43
6.2.2實驗測試範例 51
6.3實際資料之實驗結果 58
第七章 結論 67
參考文獻 69
附錄A The Minimum-Cost HK AP Algorithm 71
附錄B AP分群法之步驟流程 73

參考文獻

Telfer, B., and Casasent, D. “Ho-Kashyap Optical Associative Processors”. Applied Optics, vol. 29, pp. 1191-1202, 1990.

Telfer, B., and Casasent, D. “Minimum-Cost Associative Processor for Piecewise-Hyperspherical Classification”. Neural Networks, vol. 6, pp. 1117-1130, 1993.

Y-C. Ho and R.L. Kashyap, “An algorithm for linear inequalities and its applications,” IEEE Trans. Electron. Comput., vol. EC-14, pp. 683-688, 1965.

K. Sin and R. J. P. deFigueiredo 1993, “Efficient learning procedures for optimal interpolative nets,” IEEE Trans. Neural Networks, vol. 6, pp. 99-133.

R. Penrose, “A generalized inverse for matrices,” Proc. Cambridge Pilosoph. Soc., vol. 51, pp. 406-413, 1955.

L. Holmstrom, P. Koistinen, J. Laaksonen, and E. Oja, “Neural and statistical classifiers – taxonomy and two case studies,” IEEE Trans. Neural Networks, vol. 8, pp. 5-17.

Chidananda Gowda and G. Krishna 1979, “The condensed nearest neighbor rule using the concept of mutual nearest neighborhood,” IEEE Trans. Inform. Theory, vol. IT-25, pp. 488-490.

M. H. Hassoun and J. Song, “Adaptive Ho-Kashyap Rules for Perceptron Training,” IEEE Trans. On Neural Networks, vol. 3, NO.1, pp. 51-61, 1992.

Chen-Wen V. Yen and Tsong-Zen Liu, “A competitive learning process for hyperspherical classifiers,” Neurocomputing 17, pp. 99-110, 1997.

Simon Haykin, Neural networks A Comprehensive Foundation (Second Edition), Prentice Hall International, Inc.

張善文, 1997, “最近鄰居型特徵變數萃取法,” 碩士論文, 國立中山大學機械工程研究所。

嚴志文, 1999, “最近鄰居型特徵變數萃取法之改良,” 碩士論文, 國立中山大學機械工程研究所。

陳瑞揚, 1995, “超球面分類器的原理、改良及應用,” 碩士論文, 國立中山大學機械工程研究所。

張能綺, 1996, “超球面分類器的應變訓練法,” 碩士論文, 國立中山大學機械工程研究所。

黃民孟, 1998, “超球面分類器可靠性的改善,” 碩士論文, 國立中山大學機械工程研究所。