1、基于小波多尺度统计特征的图像分类报告人:翟俊海n1.小波变换n2.图像分类问题现状n3.小波多尺度统计特征抽取及图像分类n4.实验比较n5.下一步工作n6.参考文献报告内容1.小波变换小波变换 小波变换是强有力的时频分析(处理)工具,是在克服傅立叶变换缺点的基础上发展而来的。已成功应用于很多领域,如信号处理、图像处理、模式识别等。小波变换的一个重要性质是它在时域和频域均具有很好的局部化特征,它能够提供目标信号各个频率子段的频率信息。这种信息对于信号分类是非常有用的。小波变换一个信号为一个小波级数,这样一个信号可由小波系数来刻画。1.1 一维小波变换(一维多尺度分析)一维小波变换(一维多尺度分析
2、)设有L2(R)空间的子空间序列:210VVVVj 的正交基函数是由一个称为尺度函数的函数(x)经伸缩平移得到的 kxxjjk2设Wj 是Vj 相对于Vj+1的正交补空间,Wj 的正交基函数是由一个称为小波函数的函数(x)经伸缩平移得到的 kxxjjk2小波函数必须满足以下两个条件的函数:(1)小波必须是振荡的;(2)小波的振幅只能在一个很短的一段区间上非零,即是局部化的。如:图1 小波例1图2 小波例2不是小波的例图4图3 xxjkjk,构成Vj+1的正交基。xx和满足下列关系式(二尺度方程):nlnhnhnlnxnhxnxnlxnZnZn112222且称为高通滤波器。称为低通滤波器,其中信
3、号的多尺度分解:算法一维计算:称为小波系数,它们的称为尺度系数,MALLATknhddknlccdcxdxcnxcxfZnjkjkZnjkjkjkjkJjkJkjkkJkJkZnn2211101.2 二维小波变换(二维多尺度分析)二维小波变换(二维多尺度分析)二维小波变换是由一维小波变换扩展而来的,二维尺度函数和二维小波函数可由一维尺度函数和小波函数张量积得到,即:yxxyxxyxxyxxHHHLLHLL;图像的二维小波变换包括沿行向(水平方向)和列向(垂直方向)滤波和2-下采样,如图所示:图5 图像滤波采样说明:如图所示,首先对原图像I(x,y)沿行向(水平方向)进行滤波和2-下采样,得到系
4、数矩阵IL(x,y)和IH(x,y),然后再对IL(x,y)和IH(x,y)分别沿列向(垂直方向)滤波和2-下采样,最后得到一层小波分解的4个子图:q ILL(x,y)I(x,y)的(粗)逼近子图q IHL(x,y)I(x,y)的水平方向细节子图q ILH(x,y)I(x,y)的垂直方向细节子图q IHH(x,y)I(x,y)的对角线方向细节子图二维金字塔分解算法二维金字塔分解算法令I(x,y)表示大小为MN的原始图像,l(i)表示相对于分析小波的低通滤波器系数,i=0,1,2,Nl-1,Nl表示滤波器L的支撑长度;h(i)表示相对于分析小波的高通滤波器系数,i=0,1,2,Nh-1,Nh表示
5、滤波器H的支撑长度,则 1,1,0;12,1,0,mod21,mod21,1010NyMxyMjxIjlNyxIyMixIilNyxIhlNjhHNilL 12,1,0;12,1,0mod2,1,mod2,1,mod2,1,mod2,1,10101010NyMxNjxxIjhNyxINixxIilNyxINjxxIjhNyxINixxIilNyxIhlhlNjHhHHNiHlHLNjLhLHNiLlLL对逼近子图重复此过程,直到确定的分解水平,下图是二层小波分解的示意图。图6 图像多尺度分解,(a)一层分解,(b)二层分解2.图像分类问题现状图像分类问题现状q 目前常用的分类器如支持向量机,神
6、经网络分类器等大多以结构化数据作为输入;q 图像数据是非结构化数据,不能直接用于分类;q 图像特征提取在图像分类中扮演着非常重要的角色,特征提取的好坏直接影响着分类精度和分类器的性能;q 图像的小波变换可用于图像特征提取,实际上,可将小波变换看作一种特征映射;q 图像分类就是利用计算机对图像进行定量分析,把图像或图像中的每个像元或区域划归为若干个类别中的某一种,以代替人的视觉判读。q 图像分类方法可分为:图像空间的分类方法利用图像的灰度、颜色、纹理、形状、位置等底层特征对图像进行分类;例如:文献1利用灰度直方图特征对图像进行分类;文献2利用纹理特征对图像进行分类;文献3采用纹理、边缘和颜色直方
7、图混合特征对图像进行分类;文献1、2、3均采用SVM作为分类器。文献4用矩阵表示图像,矩阵元素是相应象素的灰度值,然后用SVD和PCA方法抽取图像特征,BP网络作为分类器。图像空间的分类方法的共同缺点是数据量大、计算复杂性高,但分类精度一般比较理想。特征空间的分类方法首先将原图像经过某种变换如K-L变换、小波变换等变换到特征空间,然后在特征空间提取图像的高层特征以实现图像的分类。这类分类方法的文献尤以纹理图像分类和遥感图像分类最多。文献5对常见的纹理分类进行了综述,如下表:文献特征分类器文献6Gabor filtersSupport vector machine classifier 文献7G
8、abor filters andStatistical featuresBayesian network classifier文献8Gabor filtersMultiple neural network classifiers文献9Gabor filters andwavelet transformSupport vector machine classifier特征空间的分类方法可降低数据维数,降低计算复杂性,但问题相关性较强,与特征提取的方法和效果有很大关系。3.小波多尺度统计特征抽取及图像分类小波多尺度统计特征抽取及图像分类图像特征提取及分类方法图像特征提取及分类方法q 图像的小波特征
9、提取首先对输入图像做J层二维小波分解;q 因为小波变换具有很好的时频局部化特性,所以可以将图像的不同底层特征变换为不同的小波系数;q 输入图像经过经一层小波分解后,被分成4个子图:LL1逼近子图,它代表输入图像水平和垂直两个方向的低频成分;HL1细节子图,它代表输入图像水平方向的高频成分和垂直方向的低频成分;LH1细节子图,它代表输入图像水平方向的低频成分和垂直方向的高频成分;HH1细节子图,它代表输入图像水平和垂直方向高频成分。q 在逼近子图LL1上重复二维小波分解过程,进行二层小波分解,如此继续分解,得到子图序列LLJ,HLk,LHk,HHk(k=1,2,J)。q 小波基与分解层次的选取是
10、非常重要的,目前还没有一个统一的标准。小波基的选取小波基的选取一般考虑下列因素:一般考虑下列因素:q 线性相位:如果小波具有线性相位或至少具有广义线性相位,则可以避免小波分解和重构时的图像失真,尤其是图像在边缘处的失真;q 紧支性和衰减性:紧支性和衰减性是小波的重要性质,紧支宽度越窄或衰减越快,小波的局部化特性越好。计算复杂度越低,便于快速实现;q 正交性:用正交小波基对图像做多尺度分解,可得一正交的镜像滤波器。低通子带数据和高通子带数据分别落在相互正交的L2(R2)的子空间中,使个子带数据相关性减少;q 其他 分解层次分解层次分解层次一般2-5层均可,要视具体应用而定,我们取为3,即作3层小
11、波分解,共得到10个子图,如图如图7。特征抽取特征抽取每个子图抽取四个特征:最大的小波系数;最小的小波系数;小波系数均值;小波系数均方差。这样对于一幅图像,可得到一个40维的向量,再加上一个类别属性,最后所得特征向量的维数维41维。MxNyiiiMxNyiiyxINMyxINM11211),(1),(1均值和方差的计算公式:NEXTI(x,y)128128I1(x,y)6464I1H(x,y)6464I1V(x,y)6464I1D(x,y)6464I2(x,y)3232I2H(x,y)3232I2V(x,y)3232I2D(x,y)3232I3(x,y)1616I3H(x,y)1616I3V(
12、x,y)1616I3D(x,y)1616I4(x,y)88I4H(x,y)88I4V(x,y)88I4D(x,y)88图7 图像I(x,y)的多尺度分解RETURN4.实验比较实验比较q 采用了标准的Columbia Object Image Library(COIL-20)图像数据库,该数据库共有20大类1440幅图像(如图如图8 8),每类72幅图像,每次旋转5得到,如图如图9 9所示,PNG文件格式。q 每次实验从中选取视觉相似度较高的两类图像,在每一类中随机选取40幅作为训练集,另32幅作为测试集,所以训练集包含80幅图像,测试集包含64幅图像。q 采用Db4小波对实验图像做三层小波分
13、解,共有10个不同频率字段的子图,每个子图抽取出4个特征,这样共有40个特征,再加上一维的类别属性,所以特征向量是41维的。SVM分类器,高斯核函数。实验结果实验结果列于表1。NEXT图8 COIL-20图像RETURN图9 7个位置的图像RETURN表1 两种方法的实验结果比较 RETURN4.下一步的工作下一步的工作q 从图像小波系数中抽取其它特征,如多尺度熵特征;q 小波函数逼近与径向基函数逼近的联系;q 完善实验设计。6.参考文献参考文献1 Olivier Chapelle,Patrick Haffner,and Vladimir N.Vapnik.Support Vector Mac
14、hines for Histogram-Based Image Classification.IEEE TRANSACTIONS ON NEURAL NETWORKS,VOL.10,NO.5,SEPTEMBER 1999.2 Kwang In Kim,Keechul Jung,Se Hyun,and Hang Joon Kim,Support Vector Machine for Texture classification,IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE,VOL.24,NO.11 NOVEMBER
15、2002,pp.1542-1550.3 万华林,M.U.Chowdhury.基于支持向量机的图像语义分类.软机学报,2003,VOL.14 NO.11,PP.1892-1899.4 R.Swiniarski,L.Hargis,Rough set as a front end of neural-networks texture classifiers,Neurocomputing 36(1-4)(2001)85102.5 Chih-Fong Tsai,Image mining by spectral features:A case study of scenery image classifi
16、cation,Expert Systems with Application 32(2007)135-142.6 Autio,I.,&Elomaa,T.(2003).Flexible view recognition for indoor navigation based on Gabor filters and support vector machines.Pattern Recognition,36(12),27692779.7 Huang,Y.,Chan,K.L.,&Zhang,Z.(2003).Texture classification by multi-model feature
17、 integration using Bayesian networks.Pattern Recognition Letters,24,393401.8 Monadjemi,A.,Thomas,B.T.,&Mirmehdi,M.(2002).Experiments on high resolution images towards outdoor scene classification.Proceedings of the seventh computer vision winter workshop(pp.325334).Bad Aussee,Austria,47 February.9 Li,S.,&Shawe-Taylor,S.(2005).Comparison and fusion of multiresolution features for texture classification.Pattern Recognition Letters,26(5),633638.