模式识别

第1章 导论 1

1.1 模式识别的重要性 1

1.2 特征、特征向量和分类器 2

1.3 有监督和无监督模式识别 4

1.4 本书的内容安排 5

第2章 基于贝叶斯决策理论的分类器 7

2.1 引言 7

2.2 贝叶斯决策理论 7

2.3 判别函数和决策面 11

2.4 正态分布的贝叶斯分类 11

2.5 未知概率密度函数的估计 17

2.6 最近邻规则 30

2.7 贝叶斯网络 31

习题 36

参考文献 41

第3章 线性分类器 44

3.1 引言 44

3.2 线性判别函数和决策超平面 44

3.3 感知器算法 45

3.4 最小二乘法 50

3.5 均方估计的回顾 55

3.6 逻辑识别 58

3.7 支持向量机 60

习题 75

参考文献 76

第4章 非线性分类器 79

4.1 引言 79

4.2 异或问题 79

4.3 两层感知器 80

4.4 三层感知器 83

4.5 基于训练集准确分类的算法 84

4.6 反向传播算法 85

4.7 反向传播算法的改进 91

4.8 代价函数选择 92

4.9 神经网络大小的选择 95

4.10 仿真实例 98

4.11 具有权值共享的网络 99

4.12 线性分类器的推广 100

4.13 线性二分法中l维空间的容量 101

4.14 多项式分类器 103

4.15 径向基函数网络 104

4.16 通用逼近 107

4.17 支持向量机：非线性情况 108

4.18 决策树 111

4.19 合并分类器 115

4.20 合并分类器的增强法 120

4.21 讨论 125

习题 125

参考文献 128

第5章 特征选择 138

5.1 引言 138

5.2 预处理 138

5.3 基于统计假设检验的特征选择 139

5.4 接收机操作特性ROC曲线 145

5.5 类可分性测量 145

5.6 特征子集的选择 150

5.7 最优特征生成 153

5.8 神经网络和特征生成／选择 156

5.9 推广理论的提示 157

5.10 贝叶斯信息准则 163

习题 164

参考文献 167

第6章 特征生成Ⅰ：线性变换 171

6.1 引言 171

6.2 基本向量和图像 171

6.3 Karhunen-loève变换 173

6.4 奇异值分解 177

6.5 独立成分分析 179

6.6 离散傅里叶变换（DFT） 184

6.7 离散正弦和余弦变换 186

6.8 Hadamard变换 187

6.9 Haar变换 188

6.10 回顾Haar展开式 189

6.11 离散时间小波变换（DTWT） 192

6.12 多分辨解释 199

6.13 小波包 201

6.14 二维推广简介 202

6.15 应用 203

习题 207

参考文献 209

第7章 特征生成Ⅱ 213

7.1 引言 213

7.2 区域特征 213

7.3 字符形状和大小的特征 229

7.4 分形概述 235

7.5 语音和声音分类的典型特征 240

习题 250

参考文献 253

第8章 模板匹配 259

8.1 引言 259

8.2 基于最优路径搜索技术的测度 259

8.3 基于相关的测度 269

8.4 可变形的模板模型 273

习题 276

参考文献 276

第9章 上下文相关分类 279

9.1 引言 279

9.2 贝叶斯分类器 279

9.3 马尔可夫链模型 279

9.4 Viterbi算法 280

9.5 信道均衡 282

9.6 隐马尔可夫模型 285

9.7 状态驻留的HMM 294

9.8 用神经网络训练马尔可夫模型 298

9.9 马尔可夫随机场的讨论 299

习题 301

参考文献 302

第10章 系统评价 307

10.1 引言 307

10.2 误差计算方法 307

10.3 探讨有限数据集的大小 308

10.4 医学图像实例研究 310

习题 312

参考文献 313

第11章 聚类：基本概念 314

11.1 引言 314

11.2 近邻测度 318

习题 332

参考文献 334

第12章 聚类算法Ⅰ：顺序算法 336

12.1 引言 336

12.2 聚类算法的种类 337

12.3 顺序聚类算法 339

12.4 BSAS的改进 342

12.5 两个阈值的顺序方法 343

12.6 改进阶段 345

12.7 神经网络的实现 346

习题 348

参考文献 350

第13章 聚类算法Ⅱ：层次算法 352

13.1 引言 352

13.2 合并算法 352

13.3 Cophenetic矩阵 370

13.4 分裂算法 371

13.5 用于大数据集的层次算法 372

13.6 最佳聚类数的选择 377

习题 378

参考文献 380

第14章 聚类算法Ⅲ：基于函数最优方法 383

14.1 引言 383

14.2 混合分解方法 384

14.3 模糊聚类算法 390

14.4 可能性聚类 405

14.5 硬聚类算法 409

14.6 向量量化 415

附录 417

习题 419

参考文献 421

第15章 聚类算法Ⅳ 425

15.1 引言 425

15.2 基于图论的聚类算法 425

15.3 竞争学习算法 430

15.4 二值形态聚类算法 435

15.5 边界检测算法 441

15.6 谷点搜索聚类算法 443

15.7 通过代价最优聚类（回顾） 445

15.8 核聚类方法 450

15.9 对大数据集的基于密度算法 453

15.10 高维数据集的聚类算法 457

15.11 其他聚类算法 467

习题 468

参考文献 470

第16章 聚类有效性 478

16.1 引言 478

16.2 假设检验回顾 478

16.3 聚类有效性中的假设检验 480

16.4 相关准则 487

16.5 单独聚类有效性 497

16.6 聚类趋势 499

习题 506

参考文献 508

附录A 概率论和统计学的相关知识 512

附录B 线性代数基础 520

附录C 代价函数的优化 522

附录D 线性系统理论的基本定义 534

索引 537