本书是关于支持向量机理论及算法的专著。全书共分八章:diyi章介绍了数据挖掘算法的发展历程、支持向量机的研究现状;第二章介绍了统计学习理论和zui优化理论中的重要概念和定理;第三章在zui优分类超平面基础之上,详细阐述了三类情形下的支持向量机模型;第四章至第六章依次介绍了zui小二乘支持向量机、支持向量域描述、光滑支持向量机;第七章将支持向量机与其他算法集成,展示了在大规模样本集上的分类性能;第八章展望支持向量机未来的发展趋势。
梁锦锦,博士,西安石油大学副教授,研究方向为zui优化理论、支持向量机,主持纵向项目2项,大学生创新项目1项。以diyi作者发表了论文二十余篇,其中被SCI、EI检索9篇,核心收录8篇,主编《积分变换与场论》教材1部,撰写13万字。
目录
1绪论(1)
1.1机器学习理论(1)
1.1.1学习问题的一般模型(2)
1.1.2经验风险zui小化原则(3)
1.1.3模型复杂度和推广能力(3)
1.1.4结构风险zui小化原则(4)
1.2支持向量机算法及研究现状(4)
1.2.1理论研究(5)
1.2.2训练算法(7)
1.2.3应用研究(8)
2统计学习理论和zui优化理论(10)
2.1统计学习理论基础(10)
2.1.1学习问题的数学表达(10)
2.1.2经验风险zui小化原则(11)
2.1.3学习过程的一致性条件(11)
2.1.4学习过程收敛速率的渐进性理论(13)
2.1.5推广能力的泛化误差界(14)
2.1.6结构风险zui小化原则(14)
2.2zui优化理论(15)
2.2.1基本概念(16)
2.2.2凸集理论基础(17)
2.2.3拉格朗日乘子理论(18)
2.3本章小结(21)
3标准支持向量机算法(22)
3.1zui优分类超平面(22)
3.2核函数理论(23)
3.3支持向量机算法(25)
3.3.1线性支持向量机(25)
3.3.2近似线性可分支持向量机(26)
3.3.3非线性支持向量机(28)
3.3.4支持向量特性(29)
3.4数值试验(30)
3.4.1数据预处理(30)
3.4.2实验结果(31)
3.5本章小结(33)
4zui小二乘支持向量机算法(34)
4.1zui小二乘支持向量机(34)
4.1.1线性zui小二乘支持向量机(34)
4.1.2非线性zui小二乘支持向量机(35)
4.2原空间zui小二乘支持向量机(36)
4.2.1线性原空间zui小二乘支持向量机(36)
4.2.2非线性原空间zui小二乘支持向量机(37)
4.2.3标准形式(38)
4.2.4仿真实验(39)
4.2.5小结(41)
4.3稀疏zui小二乘支持向量机(42)
4.3.1线性稀疏zui小二乘支持向量机(42)
4.3.2非线性稀疏zui小二乘支持向量机(42)
4.3.3稀疏模型L1SLSSVM(43)
4.3.4仿真实验(43)
4.3.5小结(46)
4.4本章小结(46)
5支持向量域描述算法(47)
5.1研究现状(47)
5.2工作机理(48)
5.2.1线性空间SVDD(48)
5.2.2特征空间SVDD(49)
5.2.3支持向量特性及分布(51)
5.3约简支持向量域描述RSVDD(51)
5.3.1中心距离比值SVM(52)
5.3.2约简支持向量域描述(53)
5.3.3约简集规模(54)
5.3.4数值实验(55)
5.3.5结论(57)
5.4信赖支持向量域描述(57)
5.4.1信赖支持向量域描述(57)
5.4.2抽样集规模(58)
5.4.3抽样集分布(58)
5.4.4参数设置和复杂度(60)
5.4.5数值实验(61)
5.4.6结论(63)
5.6本章小结(64)
6光滑支持向量机算法(65)
6.1引言(65)
6.2Mangasasian的光滑SSVM(66)
6.2.1标准SVM(66)
6.2.2光滑支持向量机(67)
6.2.3多项式光滑模型(67)
6.3光滑对角加权支持向量机(69)
6.3.1二次损失函数SVM(69)
6.3.2线性光滑对角加权支持向量机(70)
6.3.3非线性光滑对角加权支持向量机(72)
6.3.4算法实现(76)
6.3.5数值实验(77)
6.4隐空间光滑支持向量机(80)
6.4.1隐空间简介(81)
6.4.2隐空间支持向量机(81)
6.4.3隐空间光滑支持向量机HS3VM (83)
6.4.4PSO参数寻优(83)
6.4.5数值试验(85)
6.4.6结束语(87)
6.5本章小结(87)
7大规模样本集下的支持向量机算法(88)
7.1同心超球面支持向量机HSVM(88)
7.1.1理论基础(88)
7.1.2同心超球面组的构造(90)
7.1.3算法实现(92)
7.1.4数值实验(93)
7.1.5小结(95)
7.2支持向量机的集成算法(95)
7.2.1集成学习算法概述(95)
7.2.2空间支持向量域分类器SSVDC(96)
7.2.3算法实现(100)
7.2.4数值实验(101)
7.2.5结论(105)
7.3聚类分片双支持向量域分类器(106)
7.3.1聚类分片(106)
7.3.2双支持向量域分类器(108)
7.3.3链接规则(110)
7.3.4复杂度分析(111)
7.3.5数值试验(111)
7.4本章小结(114)
8总结与展望(116)
8.1总结(116)
8.2展望(117)
参考文献(119)