目錄
前言
第1章 統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ) 1
1.1 機(jī)器學(xué)習(xí) 1
1.1.1 機(jī)器學(xué)習(xí)的定義 1
1.1.2 機(jī)器學(xué)習(xí)的發(fā)展史 1
1.1.3 學(xué)習(xí)問題的表示 2
1.1.4 經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化 3
1.2 統(tǒng)計(jì)學(xué)習(xí)理論 4
1.2.1 學(xué)習(xí)過程的一致性條件 4
1.2.2 VC維 4
1.2.3 推廣性的界 5
1.2.4 結(jié)構(gòu)風(fēng)險(xiǎn)最小化 5
1.3 本章小結(jié) 6
參考文獻(xiàn) 7
第2章 支持向量機(jī)理論基礎(chǔ) 8
2.1 支持向量分類機(jī) 8
2.1.1 最優(yōu)分類超平面 8
2.1.2 線性支持向量分類機(jī) 9
2.1.3 非線性支持向量分類機(jī) 10
2.1.4 支持向量 11
2.1.5 核函數(shù) 11
2.2 支持向量回歸機(jī) 11
2.2.1 損失函數(shù) 12
2.2.2 線性支持向量回歸機(jī) 12
2.2.3 非線性支持向量回歸機(jī) 13
2.3 本章小結(jié) 14
參考文獻(xiàn) 15
第3章 孿生支持向量機(jī)理論基礎(chǔ) 16
3.1 孿生支持向量機(jī) 16
3.2 孿生支持向量回歸機(jī) 20
3.3 本章小結(jié) 22
參考文獻(xiàn) 22
第4章 孿生支持向量機(jī)的模型選擇問題 23
4.1 基于粗糙集的孿生支持向量機(jī) 23
4.1.1 基于粗糙集的特征選擇 23
4.1.2 算法流程 23
4.1.3 數(shù)值實(shí)驗(yàn)與分析 24
4.2 基于群智能優(yōu)化的孿生支持向量機(jī) 26
4.2.1 孿生支持向量機(jī)中的參數(shù)選擇 26
4.2.2 基于粒子群算法的孿生支持向量機(jī) 27
4.2.3 基于果蠅算法的孿生支持向量機(jī) 31
4.3 孿生支持向量機(jī)核函數(shù)的選擇問題 39
4.3.1 基于混合核函數(shù)的孿生支持向量機(jī) 39
4.3.2 基于小波核函數(shù)的孿生支持向量機(jī) 42
4.4 本章小結(jié) 45
參考文獻(xiàn) 46
第5章 光滑孿生支持向量機(jī) 47
5.1 光滑孿生支持向量機(jī)的理論 47
5.1.1 原始空間中的求解算法 47
5.1.2 光滑孿生支持向量機(jī)算法過程 47
5.1.3 光滑孿生支持向量機(jī)的優(yōu)勢與不足 49
5.2 多項(xiàng)式光滑孿生支持向量機(jī) 50
5.2.1 PSTWSVM的原理及性質(zhì) 50
5.2.2 實(shí)驗(yàn)與分析 55
5.3 加權(quán)光滑CHKS孿生支持向量機(jī) 58
5.3.1 SCTWSVM的原理及性質(zhì) 58
5.3.2 非線性SCTWSVM 61
5.3.3 SCTWSVM算法 62
5.3.4 加權(quán)光滑CHKS孿生支持向量機(jī)算法過程 62
5.3.5 實(shí)驗(yàn)與分析 64
5.4 本章小結(jié) 68
參考文獻(xiàn) 68
第6章 投影孿生支持向量機(jī) 70
6.1 概述 70
6.2 投影孿生支持向量機(jī)算法理論 71
6.2.1 線性PTWSVM 71
6.2.2 非線性PTWSVM 73
6.3 基于矩陣模式的投影孿生支持向量機(jī) 74
6.3.1 線性矩陣模式的投影孿生支持向量機(jī)：PTWSVMmat 74
6.3.2 非線性的PTWSVMmat方法：Ker-PTWSVMmat 78
6.4 遞歸最小二乘投影孿生支持向量機(jī) 81
6.4.1 線性遞歸最小二乘投影孿生支持向量機(jī) 81
6.4.2 非線性遞歸最小二乘投影孿生支持向量機(jī) 83
6.5 光滑投影孿生支持向量機(jī) 85
6.6 基于魯棒局部嵌入的孿生支持向量機(jī) 87
6.6.1 線性算法 87
6.6.2 非線性算法 89
6.7 本章小結(jié) 90
參考文獻(xiàn) 91
第7章 局部保持孿生支持向量機(jī) 93
7.1 概述 93
7.2 線性局部保持孿生支持向量機(jī) 94
7.3 算法奇異性問題 96
7.4 非線性局部保持孿生支持向量機(jī) 98
7.5 實(shí)驗(yàn)與分析 99
7.5.1 測試人造數(shù)據(jù)集 99
7.5.2 測試真實(shí)數(shù)據(jù)集 100
7.6 本章小結(jié) 103
參考文獻(xiàn) 103
第8章 原空間最小二乘孿生支持向量回歸機(jī) 105
8.1 標(biāo)準(zhǔn)TSVR模型 105
8.2 最小二乘孿生支持向量回歸機(jī)學(xué)習(xí)算法 107
8.3 實(shí)驗(yàn)與分析 110
8.3.1 人工數(shù)據(jù)集上的實(shí)驗(yàn) 111
8.3.2 UCI數(shù)據(jù)集上的實(shí)驗(yàn) 113
8.4 本章小結(jié) 115
參考文獻(xiàn) 115
第9章 多生支持向量機(jī) 116
9.1 多類分類問題 116
9.2 多生支持向量機(jī)的數(shù)學(xué)模型 117
9.2.1 線性多生支持向量機(jī) 117
9.2.2 非線性多生支持向量機(jī) 119
9.3 多生支持向量機(jī)的改進(jìn)算法 120
9.3.1 多生最小二乘支持向量機(jī) 120
9.3.2 其他改進(jìn)算法 121
9.4 實(shí)驗(yàn)與分析 123
9.5 本章小結(jié) 124
參考文獻(xiàn) 125
第10章 總結(jié)與展望 127
10.1 總結(jié) 127
10.2 展望 128
索引 131