本书依据作者多年从事模式识别教学和研究的体会,并参考相关文献编写而成,概括地介绍了模式识 别理论和技术的基本概念、原理、方法和实现。 全书共分为11章,每章阐述模式识别中的一个知识点,内容包括贝叶斯决策、概率密度函数的估计、 线性判别分析、非线性判别分析、组合分类器、无监督模式识别、特征选择、特征提取、半监督学习以及人工 神经网络。除了经典算法以外,本书增加了部分较新的理论和算法,读者可以选择性地学习。本书还配以 电子课件、MATLAB仿真程序和实验指导书,便于教和学。 本书可以作为高等学校人工智能、计算机、信息、自动化、遥感、控制等专业本科生或研究生的教材或 参考书,也可以作为从事相关研究与应用人员的参考书。

第1章绪论

1.1模式识别的基本概念

1.2模式识别方法

1.3模式识别系统

1.4模式识别的应用

习题

第2章贝叶斯决策

2.1贝叶斯决策的基本概念

2.2*小错误率贝叶斯决策

2.2.1决策规则

2.2.2错误率

2.2.3仿真实现

2.3*小风险贝叶斯决策

2.3.1决策规则

2.3.2两种贝叶斯决策的关系

2.4朴素贝叶斯分类器

2.5NeymanPearson决策规则

2.6判别函数和决策面

2.7正态分布模式的贝叶斯决策

2.7.1正态概率密度函数

2.7.2正态概率模型下的*小错误率贝叶斯分类器

2.7.3仿真实现

2.8贝叶斯决策的实例

习题

第3章概率密度函数的估计

3.1基本概念

3.2参数估计

3.2.1*大似然估计

3.2.2*大后验估计

3.2.3贝叶斯估计

3.3非参数估计

3.3.1直方图方法

3.3.2Parzen窗法

3.3.3kN近邻密度估计法

3.4*小错误率贝叶斯决策的实例

习题

第4章线性判别分析

4.1基本概念

4.1.1线性判别函数

4.1.2广义线性判别函数

4.1.3线性判别函数的设计

4.2Fisher线性判别分析

4.2.1基本原理

4.2.2准则函数及求解

4.2.3分类决策

4.2.4仿真实现

4.3感知器算法

4.3.1基本概念

4.3.2感知器准则函数及求解

4.3.3仿真实现

4.4*小二乘法

4.4.1平方误差和准则函数

4.4.2均方误差准则函数

4.4.3仿真实现

4.5支持向量机

4.5.1*优分类超平面与线性支持向量机

4.5.2非线性可分与线性支持向量机

4.5.3核函数与支持向量机

4.5.4仿真实现

4.6多类问题

4.6.1化多类分类为两类分类

4.6.2多类线性判别函数

4.6.3纠错输出编码方法

4.7线性判别分析的实例

习题

第5章非线性判别分析

5.1近邻法

5.1.1*小距离分类器

5.1.2分段线性距离分类器

5.1.3近邻法及仿真实现

5.2二次判别函数

5.3决策树

5.3.1基本概念

5.3.2决策树的构建

5.3.3过学习与决策树的剪枝

5.3.4仿真实现

5.4Logistic回归

5.4.1基本原理

5.4.2多分类任务

5.4.3仿真实现

5.5非线性判别分析的实例

习题

第6章组合分类器

6.1组合分类器的设计

6.1.1个体分类器的差异设计

6.1.2分类器性能度量

6.1.3组合策略

6.2Bagging算法

6.3随机森林

6.4Boosting算法

6.4.1AdaBoost算法

6.4.2LogitBoost算法

6.4.3Gentle AdaBoost算法

6.4.4仿真实现

6.5组合分类的实例

习题

第7章无监督模式识别

7.1聚类的基本概念

7.2相似性测度

7.2.1样本相似性测度

7.2.2点和集合之间的相似性测度

7.2.3集合和集合之间的相似性测度

7.3动态聚类

7.3.1C均值算法

7.3.2ISODATA算法

7.4层次聚类

7.4.1分裂层次聚类

7.4.2合并层次聚类

7.4.3仿真实现

7.5高斯混合聚类

7.5.1高斯混合分布

7.5.2高斯混合聚类

7.5.3EM算法

7.5.4仿真实现

7.6模糊聚类

7.6.1模糊集的基本知识

7.6.2模糊C均值算法

7.7密度聚类

7.8聚类性能度量

7.8.1外部准则

7.8.2内部准则

7.8.3仿真实现

7.9聚类分析的实例

习题

第8章特征选择

8.1概述

8.2特征的评价准则

8.2.1基于类内类间距离的可分性判据

8.2.2基于概率分布的可分性判据

8.2.3基于熵函数的可分性判据

8.2.4基于统计检验的可分性判据

8.2.5特征的相关性评价

8.3特征选择的优化算法

8.3.1特征选择的*优算法

8.3.2特征选择的次优算法

8.3.3特征选择的启发算法

8.4过滤式特征选择方法

8.4.1*小冗余*大相关算法

8.4.2Relief和ReliefF算法

8.4.3基于拉普拉斯分数的特征选择算法

8.5包裹式特征选择方法

8.6嵌入式特征选择方法

习题

第9章特征提取

9.1概述

9.2基于类别可分性判据的特征提取

9.3KL变换

9.3.1KL变换的定义

9.3.2KL变换的性质

9.3.3信息量分析

9.3.4奇异值分解

9.3.5仿真实现

9.4独立成分分析

9.4.1问题描述

9.4.2ICA算法

9.4.3RICA算法

9.5非负矩阵分解

9.6稀疏滤波

9.7多维尺度法

9.7.1经典尺度法

9.7.2度量型MDS

9.7.3非度量型MDS

9.7.4等度量映射

9.8tSNE算法

9.9其他非线性降维方法

9.9.1拉普拉斯特征映射

9.9.2局部线性嵌入

习题

第10章半监督学习

10.1基本概念

10.2半监督分类

10.2.1生成式模型

10.2.2半监督支持向量机

10.2.3基于图的半监督学习

10.3半监督聚类

10.3.1约束C均值算法

10.3.2约束种子C均值算法

10.4半监督降维

10.4.1半监督局部Fisher判别分析

10.4.2基于约束的半监督降维

习题

第11章人工神经网络

11.1神经元模型

11.2多层感知器神经网络

11.2.1单层感知器

11.2.2多层感知器

11.2.3反向传播算法

11.2.4网络结构的设计

11.2.5用于模式识别

11.3其他常见神经网络

11.3.1径向基函数神经网络

11.3.2自组织映射网络

11.3.3概率神经网络

11.3.4学习向量量化神经网络

11.4基于前馈型神经网络的分类实例

11.5深度神经网络简介

11.5.1受限玻尔兹曼机与深度置信网络

11.5.2卷积神经网络

11.5.3循环神经网络

11.5.4生成对抗网络

习题

参考文献