1、模式识别课程模式识别(Pattern Recognition)主讲教师：宫宁生2提 纲o 模式识别概论o 主要模式识别方法o 模式识别过程o 案例介绍o DEMO3为什么需要模式识别？o 模式识别：人类学习的基本方法n人眼识别物n中医看舌苔/脉搏n图谱辨别化合物4什么是模式？分类n确定模式n非确定模式n随机模式5定义：模式类o 模式x:具有某些量化测量值或者特征o 模式类(vi)：A collection of“similar”(not necessarily identical)objectsnInter-class variabilitynIntra-class variabilityo
2、模式类的统计特性n相似性-先验概率：P(vi)n类条件概率密度：p(x|vi)The letter“T”in different typefacesCharacters that look similar6定义：模式识别o 依据一定的规则，将模式进行分类的过程（Classifies“patterns”into“classes”）o 主要过程:n 数据处理：n 模式类的模型假设：n 选择最优的模型并分类：7模式识别的主要问题o 建模问题n 描述n 表示p 例如：用面积和周长表示某种形状o 特征提取与选择问题n 维数灾难如何降维？主成分分析PCAn 选择具有最大区分能力的特征 线性判别分析LDAo
3、 任务特定的学习问题n 贝叶斯决策理论、统计学习理论和SVM8模式分类 vs.模式聚类o Classificationo ClusteringCategory“A”Category“B”Classification(Recognition)(Supervised Classification)Clustering(Unsupervised Classification)9典型应用o 语音识别（例如：IBM ViaVoice系统）o 表情分析、年龄、种族、性别分类o OCR:车牌照、集装箱号码o 手写体识别：汉王o 手势识别：基于视觉的，基于数据手套o 人脸识别、指纹识别、虹膜识别o 军事目标识
4、别o 生物信息、医学图像o 遥感、气象模式识别方法10参数估计近邻法直接计算判别函数非参数方法有监督学习最小距离分层聚类无监督学习静态模式（不相关）HMM时序模式（相关的静态模式）统计模式识别模板匹配结构模式识别神经网络句法模式识别统计学习理论和支持向量机模糊模式识别半监督学习11模板匹配Template MatchingTemplateInput scene12统计模式识别o 模式识别最初从统计理论发展而来o 基本思想：模式被描述为一组测量值组成的随机特征向量，用概率统计理论对其进行建模，用统计决策理论划分特征空间来进行分类。13统计模式识别的一般过程预处理特征提取/选择分类预处理特征提取/
5、选择学习分类规则测试模式训练模式分类训练错误率检测14模糊模式识别o 1965年Zadeh提出模糊集理论n 是对传统集合理论的一种推广p 传统：属于或者不属于p 模糊：以一定的程度属于n 模糊逻辑：相对传统二值逻辑“是或不是”n 模糊数学：研究模糊集和模糊逻辑n 模糊系统：应用角度15特征提取：PR的第一步o 任务：提取适于分类的特征（量化测量值）o 好的特征n Objects from the same class have similar feature values.n Objects from different classes have different values.“Good”
6、features“Bad”features16特征提取与选择o 问题变成：如何优化特征提取算子 的参数n 维数灾难如何降维？PCAn 选择具有最大区分能力的特征 LDAkmmm21nxxx2112nkmmmm321nxxx21Feature extractionFeature selection()1718AdaBoost算法简介o 在2001年的ICCV上，Compaq的研究员Paul Viola和Michael J.Jones发表了一个实时人脸检测系统，其速度是平均每秒15帧，图像大小是384x288。n参见：Paul Viola,Michael J.Jones.Robust Real-t
7、ime Object Detection.CRL 2001/01 February 2001.o 系统在技术上的三个贡献：n1.用简单的矩形特征来作为人脸图像特征;n2.基于AdaBoost的分类器;n3.采用了Cascade(分级分类器)技术提高检测速度。o 这种技术具有实时性的特点，而且有可能扩展到多个姿态的人脸检测。19人脸的特征表示方法o 矩形特征（Harr-like特征）n 矩形特征的值是所有白色矩形中点的亮度值的和减去所有灰色矩形中点的亮度值的和，所得到的差n 有4种类型的矩形特征20输入图像积分图像基于积分图像的Haar-like特征计算21AdaBoost分类器o AdaBoo
8、st分类器nAdaboost学习算法是用来提高某种简单分类算法的性能的。它通过对一些弱分类器的组合来形成一个强分类器o 功能n将分类性能不好的弱分类器提升为分类性能好的强分类器的学习算法。o 思想n学习一系列分类器，在这个序列中每一个分类器对它前一个分类器导致的错误分类样例给予更大的重视。Adaboost学习算法o 输入：n 1.训练用人脸和非脸样本n 2.指定要挑选出来的弱分类器的数目T,这也是程序循环的次数 n 3.利用先验知识初始化权值向量o 弱分类器22其中，表示弱分类器的值，表示弱学习算法寻找出的阈值，表示不等号的方向，表示特征值，表示一个Harr-like特征。23基于AdaBoo
9、st的快速人脸检测o 基于分级分类器的加速策略n大量候选窗口可以利用非常少量的特征（简单快速的分类器）就可以排除是人脸的可能性！n只有极少数需要大量的特征（更复杂的更慢的分类器来判别是否人脸）24分级分类器的构建o 采用由粗到细的思想（coarse to fine）n 将数量少的重要的特征构成的分类器置于前面若干层，检测大部分人脸的同时，排除大量非脸n 后面层包含大量次重要的特征对非脸进行进一步排除n 每层训练用非脸样本使用前面层分类器误判为人脸的那些样本25基于AdaBoost的快速人脸检测o 分级分类器的训练算法 26实验结果和系统o 训练样本n 正例p 4800张手工标定的人脸照片作为训练样本集p 1000张人脸照片作为测试集n 反例p 10万张反例样本 人脸样本
