模式识别
授课教师：刘家锋
第一章 绪论
一、模式识别的概念
? 机器智能系统应该包括三个部分：
1,感知部分,相当于人的眼、耳、触觉、嗅觉
等等； -- 模式识别
2,学习部分,模仿人在自己的行动中总结经验，
改善自身能力的功能； -- 机器学习
3,思维部分,相当于人的逻辑推理和计算能力；
-- 人工智能
一、模式识别的概念
? 模式,泛指一切客观事物的存在形式。从工程
角度讲是指客观事物存在形式的数学表达。
? 识别,人的识别过程是一个非常复杂的心理和
生理过程。从工程的角度讲，识别可以看作是
一个分类问题。
二、模式识别的应用
? 工业用途,产品质量检验，设备故障检测，智
能机器人的感知系统；
? 商业用途,钱币的自动识伪，信函的自动分拣，
电话信息查询，声控拨号；
? 医学用途,对心电、脑电,CT等信号进行处
理和识别，自动进行疾病的诊断；
? 安全领域,生理特征鉴别 (Biometrics)，网上
电子商务的身份确认，对公安对象的刑侦和鉴
别；
二、模式识别的应用
? 军事领域,巡航导弹的景物识别，战斗单元的
敌我识别；
? 办公自动化,文字识别技术和声音识别技术；
? 数据挖掘,数据分析；
? 网络应用,文本分类。
计算机应用学科
模式识别 图像处理 语言处理
语音识别 汉字识别 图像识别 Biometrics
信息检索 语言理解 机器翻译
三、模式识别的研究方法
? 统计模式识别,将模式看作空间中的一个点，
采用解析几何和概率论、数理统计的方法，判
别输入模式的类别属性；
? 结构模式识别,也称为句法模式识别，将模式
看成是由一些基本元素有组织的构成，用字符
串对模式进行描述，利用形式语言和自动机理
论对模式的结构进行分析和判别；
四、模式识别的发展历史
? 60年代初，数理统计学中已经形成了完整的统
计决策理论；
? 70年代中期，美籍华人傅京孙教授建立了句法
模式识别理论；
? 80年代，在傅京孙教授的指导下，我国的一批
专家学者在美国进修，回国后开展了我国的模
式识别研究。
参考书
?, 模式识别,,清华大学出版社，边肇祺，张
学工；
?, 现代模式识别,,国防科技大学出版社，孙
即祥；
?, 模式识别,,西安电子科技大学出版社，蔡
元龙 。
期刊
? IEEE Transaction on Pattern Analysis and
Machine Intelligence,PAMI；
? Pattern Recognition；
? Pattern Recognition Letter；
? 模式识别与人工智能；
五、统计模式识别系统
数 据 采 集 及 预
处 理
特 征 提 取 与 选
择
模 式 分 类
数 据 采 集 及 预
处 理
特 征 提 取 与 选
择
分 类 器 设 计
待 识 模 式
训 练 模 式
识 别 结 果
分类
训练
什么是特征？
什么是特征？
什么是特征？
特征抽取
特征抽取
模式的特征空间表示
物 体 1
物 体 2
物 体 3
物 体 4
物 体 5
物 体 6
实 物 空 间
模 式 1
模 式 2
模 式 3
模 式 4
模 式 5
模 式 6
模 式 空 间
特 征 1
特 征 2
特 征 3
特 征 4
特 征 5
特 征 6
类 别 1
类 别 2
特 征 空 间 类 别 空 间
特征的分布
1, 4 0
1, 0 0
0, 6 0
0, 2 0
0, 3 0
x
2
x
1
0, 4 0 0, 5 0 0, 6 0 0, 7 0
红 苹 果
橙 子
特征的分布
1, 4 0
1, 0 0
0, 6 0
0, 2 0
0, 3 0
x
2
x
1
0, 4 0 0, 5 0 0, 6 0 0, 7 0
红 苹 果
绿 苹 果
橙 子
模式识别的训练方法
? 有监督学习 （有教师学习）：预先已知训练样
本集合中每个样本的类别标号；
? 无监督学习 （无教师学习）：预先不知道训练
样本集合中每个样本的类别标号；
统计识别方法的分类
? 一、根据样本在空间中的几何分布进行分类
方法一：近邻法；
方法二：判别函数法
? 二、根据样本在空间中的概率分布进行分类
Bayes分类器
模式识别研究的内容
给定一个训练样本的特征矢量集合：
分别属于 N个类别：
设计出一个分类器，能够对未知类别样本 Y 进行分类
? ?2,,,MX ? 1X X XL
12,,,N? ? ?L
六、识别系统的设计步骤
? 收集样本
? 确定识别特征
? 特征抽取
? 特征分析
? 确定识别方法
? 性能评价
识别系统的性能评价
? 正确识别率 = 正确分类数 /总数
? 错误识别率 = 错误分类数 /总数
? 拒绝识别率 = 拒绝分类数 /总数
授课教师：刘家锋
第一章 绪论
一、模式识别的概念
? 机器智能系统应该包括三个部分：
1,感知部分,相当于人的眼、耳、触觉、嗅觉
等等； -- 模式识别
2,学习部分,模仿人在自己的行动中总结经验，
改善自身能力的功能； -- 机器学习
3,思维部分,相当于人的逻辑推理和计算能力；
-- 人工智能
一、模式识别的概念
? 模式,泛指一切客观事物的存在形式。从工程
角度讲是指客观事物存在形式的数学表达。
? 识别,人的识别过程是一个非常复杂的心理和
生理过程。从工程的角度讲，识别可以看作是
一个分类问题。
二、模式识别的应用
? 工业用途,产品质量检验，设备故障检测，智
能机器人的感知系统；
? 商业用途,钱币的自动识伪，信函的自动分拣，
电话信息查询，声控拨号；
? 医学用途,对心电、脑电,CT等信号进行处
理和识别，自动进行疾病的诊断；
? 安全领域,生理特征鉴别 (Biometrics)，网上
电子商务的身份确认，对公安对象的刑侦和鉴
别；
二、模式识别的应用
? 军事领域,巡航导弹的景物识别，战斗单元的
敌我识别；
? 办公自动化,文字识别技术和声音识别技术；
? 数据挖掘,数据分析；
? 网络应用,文本分类。
计算机应用学科
模式识别 图像处理 语言处理
语音识别 汉字识别 图像识别 Biometrics
信息检索 语言理解 机器翻译
三、模式识别的研究方法
? 统计模式识别,将模式看作空间中的一个点，
采用解析几何和概率论、数理统计的方法，判
别输入模式的类别属性；
? 结构模式识别,也称为句法模式识别，将模式
看成是由一些基本元素有组织的构成，用字符
串对模式进行描述，利用形式语言和自动机理
论对模式的结构进行分析和判别；
四、模式识别的发展历史
? 60年代初，数理统计学中已经形成了完整的统
计决策理论；
? 70年代中期，美籍华人傅京孙教授建立了句法
模式识别理论；
? 80年代，在傅京孙教授的指导下，我国的一批
专家学者在美国进修，回国后开展了我国的模
式识别研究。
参考书
?, 模式识别,,清华大学出版社，边肇祺，张
学工；
?, 现代模式识别,,国防科技大学出版社，孙
即祥；
?, 模式识别,,西安电子科技大学出版社，蔡
元龙 。
期刊
? IEEE Transaction on Pattern Analysis and
Machine Intelligence,PAMI；
? Pattern Recognition；
? Pattern Recognition Letter；
? 模式识别与人工智能；
五、统计模式识别系统
数 据 采 集 及 预
处 理
特 征 提 取 与 选
择
模 式 分 类
数 据 采 集 及 预
处 理
特 征 提 取 与 选
择
分 类 器 设 计
待 识 模 式
训 练 模 式
识 别 结 果
分类
训练
什么是特征？
什么是特征？
什么是特征？
特征抽取
特征抽取
模式的特征空间表示
物 体 1
物 体 2
物 体 3
物 体 4
物 体 5
物 体 6
实 物 空 间
模 式 1
模 式 2
模 式 3
模 式 4
模 式 5
模 式 6
模 式 空 间
特 征 1
特 征 2
特 征 3
特 征 4
特 征 5
特 征 6
类 别 1
类 别 2
特 征 空 间 类 别 空 间
特征的分布
1, 4 0
1, 0 0
0, 6 0
0, 2 0
0, 3 0
x
2
x
1
0, 4 0 0, 5 0 0, 6 0 0, 7 0
红 苹 果
橙 子
特征的分布
1, 4 0
1, 0 0
0, 6 0
0, 2 0
0, 3 0
x
2
x
1
0, 4 0 0, 5 0 0, 6 0 0, 7 0
红 苹 果
绿 苹 果
橙 子
模式识别的训练方法
? 有监督学习 （有教师学习）：预先已知训练样
本集合中每个样本的类别标号；
? 无监督学习 （无教师学习）：预先不知道训练
样本集合中每个样本的类别标号；
统计识别方法的分类
? 一、根据样本在空间中的几何分布进行分类
方法一：近邻法；
方法二：判别函数法
? 二、根据样本在空间中的概率分布进行分类
Bayes分类器
模式识别研究的内容
给定一个训练样本的特征矢量集合：
分别属于 N个类别：
设计出一个分类器，能够对未知类别样本 Y 进行分类
? ?2,,,MX ? 1X X XL
12,,,N? ? ?L
六、识别系统的设计步骤
? 收集样本
? 确定识别特征
? 特征抽取
? 特征分析
? 确定识别方法
? 性能评价
识别系统的性能评价
? 正确识别率 = 正确分类数 /总数
? 错误识别率 = 错误分类数 /总数
? 拒绝识别率 = 拒绝分类数 /总数
