《廣義主成分分析算法及應(yīng)用》主要討論了隨機系統(tǒng)信號廣義主成分分析方法及應(yīng)用情況。全書可分為三部分:第一部分包括概述和基礎(chǔ)理論,主要介紹廣義主成分分析的概念、國內(nèi)外研究現(xiàn)狀,以及與廣義主成分分析密切相關(guān)的矩陣?yán)碚、?yōu)化理論和神經(jīng)網(wǎng)絡(luò)等理論基礎(chǔ);第二部分研究多種廣義主成分分析方法,該部分是《廣義主成分分析算法及應(yīng)用》的核心內(nèi)容,重點介紹廣義主成分分析、成對廣義主成分分析、耦合廣義主成分分析、確定性離散時間系統(tǒng)、雙目的廣義主成分分析、奇異主成分分析等內(nèi)容;第三部分研究廣義主成分分析方法的應(yīng)用,主要討論在信號處理、圖像恢復(fù)和模式識別與分類等領(lǐng)域的應(yīng)用。
《廣義主成分分析算法及應(yīng)用》核心內(nèi)容十分新穎,均為近年來作者們發(fā)表在IEEE信號處理、神經(jīng)網(wǎng)絡(luò)與學(xué)習(xí)系統(tǒng)等匯刊上的長文組成編輯提煉而成,是基于神經(jīng)網(wǎng)絡(luò)和優(yōu)化理論的特征信息提取領(lǐng)域研究和應(yīng)用的新進展。
《廣義主成分分析算法及應(yīng)用》適合于信息科學(xué)與技術(shù)(電子、通信、自動控制、計算機、系統(tǒng)工程、模式識別、信號處理等)各學(xué)科有關(guān)教師、研究生和科技人員教學(xué)、自學(xué)或進修之用。
模式分類廣泛存在于工程實際中,一個模式分類系統(tǒng)的好壞,首先與所選特征能否較好地反映將要研究的問題密切相關(guān)。因此,設(shè)計和獲取特征是設(shè)計模式分類系統(tǒng)的第一步。很多情況下,我們可能已經(jīng)得到了一組特征,這些特征中可能有很多特征與要解決的問題并不密切,在后續(xù)的分類器設(shè)計中可能會影響分類器的性能。另一方面,有時很多特征都與分類問題密切,但特征過多會造成計算量大、推廣能力差等問題,很多方法可能會無法計算,因此需要在保證分類效果的前提下,選擇盡可能少的特征來分類。
特征提取與選擇的基本任務(wù)是研究如何從眾多的特征中求出那些對分類識別最有效的特征,從而實現(xiàn)特征空間維數(shù)的壓縮。特征提取和選擇方法很多,有基于可分性判據(jù)的特征選擇、基于誤判概率的特征選擇、離散K-L變換法、基于決策界的特征選擇、基于矩陣分解的特征提取、基于神經(jīng)網(wǎng)絡(luò)的自動特征提取等方法,這些方法各有優(yōu)缺點。一個大型復(fù)雜系統(tǒng)如果發(fā)生故障,必然表現(xiàn)在其某些指標(biāo)的檢測數(shù)據(jù)發(fā)生異常,反映數(shù)據(jù)本質(zhì)屬性的特征信息必然發(fā)生變化。如何快速有效地提取系統(tǒng)輸出信號中所包含的特征信息是大型復(fù)雜系統(tǒng)故障診斷與預(yù)測等領(lǐng)域需要解決的關(guān)鍵技術(shù)之一。
哪些信息是系統(tǒng)的特征信息?如何描述這些特征信息?如何及時發(fā)現(xiàn)并從大量復(fù)雜的數(shù)據(jù)信息中提取有用的特征信息?如何應(yīng)用這些特征信息?這些問題都是現(xiàn)代信息科學(xué)與技術(shù)各學(xué)科,如電子、通信、自動控制、計算機、系統(tǒng)工程、模式識別、信號處理等面臨的帶有共性的問題。
筆者一直從事隨機系統(tǒng)信號處理、自動控制、神經(jīng)網(wǎng)絡(luò)和模式識別的學(xué)術(shù)、科研、教學(xué)和工程應(yīng)用等研究工作。近20年來,在多個國家自然科學(xué)基金課題的支持下,我們在特征信息神經(jīng)網(wǎng)絡(luò)提取、數(shù)據(jù)驅(qū)動特征建模等方面取得了一系列研究成果,并已將它們發(fā)表在IEEE神經(jīng)網(wǎng)絡(luò)與學(xué)習(xí)系統(tǒng)、信號處理、工業(yè)電子等匯刊上。盡快將這些研究成果介紹給讀者,推動我國信息科學(xué)與技術(shù)領(lǐng)域隨機系統(tǒng)估計理論研究的發(fā)展,是作者撰寫該書的目的和動力。
第1章 緒論
1.1 隨機系統(tǒng)特征提取及其意義
1.2 主成分分析國內(nèi)外研究現(xiàn)狀
1.2.1 基于神經(jīng)網(wǎng)絡(luò)的主成分分析研究現(xiàn)狀
1.2.2 廣義主成分分析算法研究現(xiàn)狀
1.2.3 基于神經(jīng)網(wǎng)絡(luò)的奇異值分解研究現(xiàn)狀
1.2.4 主成分與廣義主成分分析的國內(nèi)研究
1.3 本章小結(jié)
第2章 基礎(chǔ)理論
2.1 特征子空間與特征提取
2.2 主成分分析與Oja學(xué)習(xí)規(guī)則
2.2.1 主成分分析基本原理
2.2.2 Hebbian規(guī)則與Oja算法
2.3 主成分分析典型算法
2.3.1 基于Hebbian規(guī)則主成分分析
2.3.2 基于優(yōu)化方法的主成分分析
2.3.3 有側(cè)向連接主成分分析
2.3.4 非線性主成分分析
2.3.5 其他主成分分析
2.3.6 次成分分析神經(jīng)網(wǎng)絡(luò)算法
2.4 廣義主成分分析及其神經(jīng)網(wǎng)絡(luò)算法
2.4.1 廣義Hermitian特征值問題
2.4.2 廣義特征信息提取神經(jīng)網(wǎng)絡(luò)算法
2.5 奇異值分解及神經(jīng)網(wǎng)絡(luò)算法
2.5.1 奇異值分解基礎(chǔ)
2.5.2 奇異值特征提取神經(jīng)網(wǎng)絡(luò)算法
2.6 Rayleigh商及其特性
2.6.1 Rayleigh商
2.6.2 Rayleigh商迭代
2.6.3 Rayleigh商求解的梯度和共軛梯度算法
2.6.4 廣義Rayleigh商
2.7 本章小結(jié)
第3章 廣義主成分分析
3.1 引言
3.2 廣義主成分分析算法
3.2.1 廣義對稱特征值問題的Mathew類牛頓算法
3.2.2 廣義特征值分解的自組織算法
3.2.3 廣義特征分解的類RLS算法
3.2.4 基于RLS方法的廣義特征向量提取算法
3.2.5 廣義對稱特征值問題的快速自適應(yīng)算法
3.2.6 基于冪方法的快速廣義特征向量跟蹤
3.2.7 基于牛頓法的廣義特征向量提取算法
3.2.8 提取次廣義特征向量的在線算法
3.3 -種新型廣義主成分分析
3.3.1 一種新型的廣義主成分分析算法
3.3.2 GOja算法的自穩(wěn)定性分析
3.3.3 GOja算法的實驗驗證
3.4 一種新型廣義次成分分析
3.4.1 基于擬牛頓法的廣義次成分分析算法
3.4.2 多維廣義次成分并行提取準(zhǔn)則
3.4.3 多維廣義次成分并行提取算法
3.4.4 WGIC算法的自穩(wěn)定性分析
3.4.5 WGIC算法的全局收斂性分析
3.4.6 仿真實驗
3.5 本章小結(jié)
……
第4章 成對廣義主成分分析
第5章 耦合廣義主成分分析
第6章 確定性離散時間系統(tǒng)
第7章 雙目的廣義主成分分析
第8章 奇異主成分分析
第9章 廣義主成分分析的工程應(yīng)用
參考文獻