1、2002秋季学期网上课程多媒体技术基础与应用(Multimedia Fundamentals and Applications)(Face to Face 2 of 4)林 福 宗清华大学 计算机科学与技术系智能技术与系统国家重点实验室L2002年10月9日小波变换与应用小波变换与应用n一、小波变换u1.小波u2.小波变换u3. 离散小波变换 n二、Haar小波变换u1.哈尔函数u2.求均值和差值u3. 哈尔变换的特性u4.一维哈尔小波变换u5. 二维哈尔小波变换n三、阅读和练习作业一、一、Wavelet Transform 小波分析是近十几年才发展起来并迅速应用到图像处理和语音分析等众多领域
2、的一种数学工具。它是继110多年前的傅立叶(Joseph Fourier)分析之后的一个重大突破，无论是对古老的自然学科还是对新兴的高新技术应用学科都产生了强烈冲击。 小波理论是应用数学的一个新领域。要深入理解小波理论需要用到比较多的数学知识。本教学提纲企图从工程应用角度出发，用比较直观的方法来介绍小波变换和它的应用，为读者深入研究小波理论和应用提供一些背景材料1. What is waveletn一种函数u具有有限的持续时间、突变的频率和振幅u波形可以是不规则的，也可以是不对称的u在整个时间范围里的幅度平均值为零u比较正弦波n部分小波波形小波的定义小波的定义n Wavelets are a
3、class of a functions used to localize a given function in both space and scaling. A family of wavelets can be constructed from a function , sometimes known as a mother wavelet, which is confined in a finite interval. Daughter wavelets are then formed by translation (b) and contraction (a). Wavelets
4、are especially useful for compressing image data, since a wavelet transform has properties which are in some ways superior to a conventional Fourier transform. ( ) x( , )( )a bxnAn individual wavelet can be defined by and Calderns formula givesThenA common type of wavelet is defined using Haar funct
5、ions. 2. Wavelet Transformn老课题函数的表示方法 n新方法Fourier Haar wavelet transform (1) 1807: Joseph Fouriern傅立叶理论指出，一个信号可表示成一系列正弦和余弦函数之和，叫做傅立叶展开式。n用傅立叶表示一个信号时，只有频率分辨率而没有时间分辨率，这就意味我们可以确定信号中包含的所有频率，但不能确定具有这些频率的信号出现在什么时候。 n为了继承傅立叶分析的优点，同时又克服它的缺点，人们一直在寻找新的方法。傅立叶变换的定义：A mathematical description of the relationship
6、 between functions of time and corresponding functions of frequency; a map for converting from one domain to the other. For example, if we have a signal that is a function of time-an impulse response- then the Fourier Transform will convert that time domain data into frequency data, for example, a f
7、requency response. (http:/ 1910: Alfred Haar发现发现Haar小波小波n哈尔(Alfred Haar)对在函数空间中寻找一个与傅立叶类似的基非常感兴趣。n1909年他发现了小波，1910年被命名为Haar waveletsn他最早发现和使用了小波。 (3) 1945: Gabor提出提出STFT n20世纪40年代Gabor开发了STFT (short time Fourier transform)nSTFT的时间-频率关系图(4) 1980: Morlet提出了提出了CWTnCWT (continuous wavelet transform) n20
8、世纪70年代，当时在法国石油公司工作的年轻的地球物理学家Jean Morlet提出了小波变换WT(wavelet transform)的概念。n 20世纪80年代,从STFT开发了CWT： nDefinition - Basis Functions: a set of linearly independent functions that can be used (e.g., as a weighted sum) to construct any given signal.nwhere:ua = scale variable 缩放因子uk = time shift 时间平移uh* = wave
9、let function 小波函数 u用y = scaled (dilated) and shifted (translated) Mother wavelet function,n在CWT中，scale和position是连续变化的缩放缩放(scaled)的概念的概念n例1：正弦波的算法缩放缩放(scaled)的概念的概念(续续)n例2：小波的缩放平移平移(translation)的概念的概念(5) CWT的变换过程的变换过程可分成如下可分成如下5个步骤个步骤n步骤步骤1: 把小波把小波 和原始信号和原始信号 的开始部分进行比较的开始部分进行比较n步骤步骤2: 计算系数计算系数c 。该系数表
10、示该部分信号与小波的。该系数表示该部分信号与小波的近似程度。系数近似程度。系数 c 的值越高表示信号与小波越相似，的值越高表示信号与小波越相似，因此系数因此系数c 可以反映这种波形的相关程度可以反映这种波形的相关程度n步骤步骤3: 把小波向右移，距离为把小波向右移，距离为 ，得到的小波函数为，得到的小波函数为 ，然后重复步骤然后重复步骤1和和2。再把小波向右移，得到小波。再把小波向右移，得到小波 ，重，重复步骤复步骤1和和2。按上述步骤一直进行下去，直到信号。按上述步骤一直进行下去，直到信号 结结束束n步骤步骤4: 扩展小波扩展小波 ，例如扩展一倍，得到的小波函数为，例如扩展一倍，得到的小波函
11、数为 n步骤步骤5: 重复步骤重复步骤14(a) 二维图(b) 三维图连续小波变换分析图(6) 三种变换的比较三种变换的比较(7) 1984: subband coding (Burt and Adelson) nSBC (subband coding)的基本概念：把信号的频率分成几个子带，然后对每个子带分别进行编码，并根据每个子带的重要性分配不同的位数来表示数据 n20世纪70年代，子带编码开始用在语音编码上n20世纪80年代中期开始在图像编码中使用n1986年Woods, J. W.等人曾经使用一维正交镜像滤波器组(quadrature mirror filterbanks，QMF)把信号
12、的频带分解成4个相等的子带 图(a) 正交镜像滤波器(QMF) 图中的符号 表示频带降低1/2，HH表示频率最高的子带，LL表示频率最低的子带。这个过程可以重复，直到符合应用要求为止。这样的滤波器组称为分解滤波器树(decomposition filter trees)图(b) 表示其相应的频谱(8) 20世纪世纪80年代年代Mallat, Meyer等人提出multiresolution theoryn法国科学家Y.Meyer创造性地构造出具有一定衰减性的光滑函数，他用缩放(dilations)与平移(translations)均为 2的j次幂的倍数构造了平方可积的实空间L2(R)的规范正交
13、基，使小波得到真正的发展n小波变换的主要算法由法国的科学家Stephane Mallat提出 uS.Mallat于1988年在构造正交小波基时提出了多分辨率分析(multiresolution analysis)的概念, 从空间上形象地说明了小波的多分辨率的特性 u提出了正交小波的构造方法和快速算法，叫做Mallat算法。该算法统一了在此之前构造正交小波基的所有方法，它的地位相当于快速傅立叶变换在经典傅立叶分析中的地位。 n小波分解得到的图像 (9)著名科学家著名科学家 Inrid Daubechies，Ronald Coifman和 Victor Wickerhauser等著名科学家n把这个
14、小波理论引入到工程应用方面做出了极其重要的贡献nInrid Daubechies于1988年最先揭示了小波变换和滤波器组(filter banks)之间的内在关系，使离散小波分析变成为现实 n在信号处理中，自从S.Mallat和Inrid Daubechies发现滤波器组与小波基函数有密切关系之后，小波在信号(如声音信号，图像信号等)处理中得到极其广泛的应用。n 经过十几年的努力，这门学科的理论基础已经基本建立，并成为应用数学的一个新领域。这门新兴学科的出现引起了许多数学家和工程技术人员的极大关注，是国际科技界和众多学术团体高度关注的前沿领域。 小波变换小波变换3. 离散小波变换离散小波变换n
15、在计算连续小波变换时，实际上也是用离散的数据进行计算的，只是所用的缩放因子和平移参数比较小而已。不难想象，连续小波变换的计算量是惊人的。n为了解决计算量的问题，缩放因子和平移参数都选择 ( j.0的整数)的倍数。使用这样的缩放因子和平移参数的小波变换叫做双尺度小波变换(dyadic wavelet transform)，它是离散小波变换(discrete wavelet transform，DWT)的一种形式。n使用离散小波分析得到的小波系数、缩放因子和时间关系如图所示。u图(a)是20世纪40年代使用Gabor开发的短时傅立叶变换(short time Fourier transform，S
16、TFT)得到的时间-频率关系图u图(b)是20世纪80年代使用Morlet开发的小波变换得到的时间-缩放因子(反映频率)关系图。3. 离散小波变换离散小波变换(续续)离散小波变换分析图DWT变换方法变换方法n执行离散小波变换的有效方法是使用滤波器u该方法是Mallat在1988年开发的，叫做Mallat算法u这种方法实际上是一种信号的分解方法，在数字信号处理中称为双通道子带编码n用滤波器执行离散小波变换的概念如图所示uS表示原始的输入信号，通过两个互补的滤波器产生A和D两个信号uA表示信号的近似值(approximations)uD表示信号的细节值(detail) 在许多应用中，信号的低频部分
17、是最重要的，而高频部分起一个“添加剂”的作用。犹如声音那样，把高频分量去掉之后，听起来声音确实是变了，但还能够听清楚说的是什么内容。相反，如果把低频部分去掉，听起来就莫名其妙。在小波分析中，近似值是大的缩放因子产生的系数，表示信号的低频分量。而细节值是小的缩放因子产生的系数，表示信号的高频分量。双通道滤波过程n离散小波变换可以被表示成由低通滤波器和高通滤波器组成的一棵树u原始信号通过这样的一对滤波器进行的分解叫做一级分解u信号的分解过程可以叠代，也就是说可进行多级分解。u如果对信号的高频分量不再分解，而对低频分量连续进行分解，就得到许多分辨率较低的低频分量，形成如图所示的一棵比较大的树。这种树
18、叫做小波分解树(wavelet decomposition tree)u分解级数的多少取决于要被分析的数据和用户的需要小波分解树小波分解树(a)信号分解 (b)系数结构 (c)小波分解树小波分解树小波包分解树小波包分解树 n小波分解树表示只对信号的低频分量进行连续分解。如果不仅对信号的低频分量连续进行分解，而且对高频分量也进行连续分解，这样不仅可得到许多分辨率较低的低频分量，而且也可得到许多分辨率较低的高频分量。这样分解得到的树叫做小波包分解树(wavelet packet decomposition tree)，这种树是一个完整的二进制树。三级小波包分解树n图表示的是一棵三级小波包分解树。小
19、波包分解方法是小波分解的一般化，可为信号分析提供更丰富和更详细的信息。例如，小波包分解树允许信号S表示为1 3 3 2SAAADDADDD降采样过程降采样过程n在使用滤波器对真实的数字信号进行变换时，得到的数据将是原始数据的两倍。例如，如果原始信号的数据样本为1000个，通过滤波之后每一个通道的数据均为1000个，总共为2000个。n根据尼奎斯特(Nyquist)采样定理就提出了降采样(downsampling)的方法，即在每个通道中每两个样本数据取一个，得到的离散小波变换的系数(coefficient)分别用cD和cA表示降采样过程n如图所示。图中的符号 表示降采样。小波变换的定义小波变换的
20、定义nA transform which localizes a function both in space and scaling and has some desirable properties compared to the Fourier transform. The transform is based on a wavelet matrix, which can be computed more quickly than the analogous Fourier matrix.nAn alternative to the discrete cosine transform (
21、DCT), the wavelet transform changes data, such as video data, into the sum of varying frequency wavelets. Wavelets are sometimes used instead of the DCT because they are more versatile and dont slow down as much with larger images as the DCT does. Intels Indeo technology makes use of wavelets. http:
22、/ Transform A one-dimensional transform which makes use of the Haar functions. H- Transform, Haar Function References Haar, A. 1999-2003 Wolfram Research, Inc. header.nH-Transform A two-dimensional generalization of the Haar transform which is used for the compression of astronomical images. The alg
23、orithm consists of dividing the image into blocks of pixels, calling the pixels in the block , , , and . For each block, compute the four coefficients Construct.二、二、Haar小波变换小波变换1.哈尔函数哈尔函数n哈尔基函数基函数是生成矢量空间V j 而定义的一组线性无关的函数，可以用来构造任意给定的信号。也称尺度函数(scaling function)，用符号V j 表示。 n哈尔小波函数哈尔小波函数是生成矢量 的一组线性无关的函数
24、 ，用符号W j表示。矢量空间W j中的小波可用来表示一个函数在矢量空间 中不能表示的部分。n见多媒体技术基础第2版，8.2 jV2. 哈尔变换原理哈尔变换原理n假设两个信号的数值分别为a和b，计算它们的和与差，n从s和d重新获得a和b，哈尔变换举例哈尔变换举例【例】假设有一幅分辨率只有4个像素 的一维图像，对应的像素值或者叫做图像位置的系数分别为： 9 7 3 5计算它的哈尔小波变换系数n步骤1：求均值(averaging)。计算相邻像素对的平均值，得到一幅分辨率比较低的新图像，它的像素数目变成了2个，即新的图像的分辨率是原来的1/2，相应的像素值为：8 4哈尔变换举例哈尔变换举例(续续)n
25、步骤2：求差值(differencing)用2个像素表示这幅图像时，图像的信息已经部分丢失。为了能够从由2个像素组成的图像重构出由4个像素组成的原始图像，就需要存储一些图像的细节系数(detail coefficient)，以便在重构时找回丢失的信息。原始图像可用下面的两个平均值和两个细节系数表示，8 4 1 -1n步骤3：重复步骤1和2把由第一步分解得到的图像进一步分解成分辨率更低的图像和细节系数。在这个例子中，分解到最后，就用一个像素的平均值6和三个细节系数2,1和1表示整幅图像：6 2 1 -1哈尔变换过程分辨率 平均值 细节系数4 9 7 3 528 4 1 -11 6 2n把由4像素
26、组成的一幅图像用一个平均像素值和三个细节系数表示n这个过程就叫做哈尔小波变换(Haar wavelet transform)，也称哈尔小波分解(Haar wavelet decomposition)n这个概念可以推广到使用其他小波基的变换3. 哈尔变换的特性哈尔变换的特性n从这个例子中我们可以看到：u变换过程中没有丢失信息，因为能够从所记录的数据中重构出原始图像。u对这个给定的变换，我们可以从所记录的数据中重构出各种分辨率的图像。例如，在分辨率为1的图像基础上重构出分辨率为2的图像，在分辨率为2的图像基础上重构出分辨率为4的图像u通过变换之后产生的细节系数的幅度值比较小，这就为图像压缩提供了一
27、种途径。例如，去掉一些微不足道的细节系数并不影响对重构图像的理解4. 一维哈尔小波变换一维哈尔小波变换n求均值和差值的过程实际上就是一维小波变换的过程，现在用数学方法重新描述小波变换的过程(1) 哈尔基函数哈尔基函数n基函数是一组线性无关的函数，可以用来构造任意给定的信号, 如用基函数的加权和表示。定义了基和矢量空间，就可以把由2j 个像素组成的一维图像看成为矢量空间 中的一个矢量。n最简单的基函数是哈尔基函数(Haar basis function)。哈尔基函数在1909年提出，它是由一组分段常值函数(piecewise-constant function)组成的函数集。这个函数集定义在半开
28、区间 上，每一个分段常值函数的数值在一个小范围里是“1”，其他地方为“0”n以图像为例并使用线性代数中的矢量空间来说明哈尔基函数。n这4个常值函数就是构成矢量空间V 2的基 20( )x21( ) x22( ) x23( )x20( )x21( ) x22( ) x23( )x012322221,01/41,1/41/2( )( )0,0,1,1/23/41,3/41( )( )0,0,xxxxxxxx其他其他其他其他20( )x21( )x22( )x23( )x哈尔基函数哈尔基函数(续续1)哈尔基函数哈尔基函数(续续2)n为了表示矢量空间中的矢量，每一个矢量空间V j 都需要定义一个基(b
29、asis)n为生成矢量空间 而定义的基函数也叫做尺度函数(scaling function)，这种函数通常用符号 表示。n哈尔基函数定义为( )jix101( )0 xx其他哈尔基函数哈尔基函数(续续3)n哈尔基尺度函数 定义为 ( )jix( )(2),0,1,(21) jjjixxii其中，j 为尺度因子，改变j 使函数图形缩小或者放大；i为平移参数，改变i使函数沿轴方向平移。 n空间矢量V j定义为( )0,21jjjiVspxi其中，表示线性生成(linear span) (2) 哈尔小波函数哈尔小波函数n小波函数通常用 表示。与框函数相对应的小波称为基本哈尔小波函数(Haar wav
30、elet functions)，并由下式定义，n哈尔小波尺度函数 定义为，( )ijx101/2( )11/210 xxx 当当其他( )ijx( )(2),0,(21) ijjjxxii哈尔小波函数哈尔小波函数(续续1)n用小波函数构成的矢量空间用W j表示为，n根据哈尔小波函数的定义，可以写出生成，W 0,W 1和W 2 等矢量空间的小波函数 ( )0,1,21jjjiWspxi 其中，SP表示线性生成；j为尺度因子，改变j 使函数图形缩小或者放大；i为平移参数，改变i 使函数沿轴方向平移哈尔小波函数哈尔小波函数(续续2)n生成矢量空间W 2 的哈尔小波： 22012223101/812/
31、83/8( )1 1/82/8( )13/84/80014/85/816/87/8( )15/86/8( )17/8100 xxxxxxxxxxxx 其他其他其他其他哈尔小波函数哈尔小波函数(续续3)n生成矢量空间W 2 的哈尔小波 (3) 哈尔小波变换过程哈尔小波变换过程n(1) 用V2 中的哈尔基表示n图像9 7 3 5有2j =22=4个像素，因此可以用生成矢量空间中的框基函数的线性组合表示， 2222222200112233( )( )( )( )( )I xcxcxcxcx 其中的系数 是4个正交的像素值9 7 3 5，因此， 22220123,c c cc和22220123( )9
32、( )7( )3( )5( ) I xxxxx哈尔小波变换过程哈尔小波变换过程(续续1)图I(x)用V2中的哈尔基表示 n用V 0, W 0和W1中的函数表示图像u生成矢量空间V 0的基函数为 ，生成矢量空间W 0的小波函数为 ，生成矢量空间W1的小波函数为 和 ，根据哈尔小波变换过程哈尔小波变换过程(续续2)uI(x)可表示成00( ) x00( )x10( )x11( ) x2001VVWW0000111100000011( )( )( )( )( )I xcxdxdxdxn其中，4个系数 ， ， 和 就是原始图像通过哈尔小波变换所得到的系数，用来表示整幅图像的平均值和不同分辨率下的细节系
33、数。4个函数 , , 和 就是构成空间V2的基。 哈尔小波变换过程哈尔小波变换过程(续续3)n用图表示为00c00d10d11d00( )x00( )x10( ) x11( ) xn一幅图像是一个二维的数据阵列，进行小波变换时可以对阵列的每一行进行变换，然后对行变换之后的阵列的每一列进行变换，最后对经过变换之后的图像数据阵列进行编码u1. 求均值与求差值使用求均值和求差值的方法，对矩阵的每一行进行计算u3. 使用线性代数由于图像可用矩阵表示，使用N个矩阵M1, M2，和MN 同样可以对图像矩阵进行求平均值和求差值。这N个矩阵分别是第一、第二和第N次分解图像时所构成的矩阵5. 二维哈尔小波变换二
34、维哈尔小波变换二维哈尔小波变换二维哈尔小波变换(续续1)n用小波对图像进行变换有两种方法，一种叫做标准分解(standard decomposition)，另一种叫做非标准分解(nonstandard decomposition)。标准分解方法是指首先使用一维小波对图像每一行的像素值进行变换，产生每一行像素的平均值和细节系数，然后使用一维小波对这个经过行变换的图像的列进行变换，产生这个图像的平均值和细节系数。标准分解的过程如下， procedure StandardDecomposition(C: array 1. . . h, 1. . . w of reals) for row 1 to
35、h do Decomposition(C row, 1 . . . w) end for for col 1 to w do Decomposition(C 1 . . . h, col) end forEnd procedure二维哈尔小波变换二维哈尔小波变换(续续2)n标准分解方法，使用MATLAB编写的程序分解得到 二维哈尔小波变换二维哈尔小波变换(续续3)二维哈尔小波变换二维哈尔小波变换(续续4)n非标准分解是指使用一维小波交替地对每一行和每一列像素值进行变换。首先对图像的每一行计算像素对的均值和差值，然后对每一列计算像素对的均值和差值。这样得到的变换结果只有1/4的像素包含均值，再对
36、这1/4的均值重复计算行和列的均值和差值，依此类推。非标准分解的过程如下:二维哈尔小波变换二维哈尔小波变换(续续5)procedure NonstandardDecomposition (C: arrayof reals) (normalize input coefficients)while h 1 dofor row 1 to h do DecompositionStep(C row, 1 . . . h)end forfor col 1 to h doDecompositionStep(C 1 . . . h, col)end forend whileend procedure C/Ch
37、二维哈尔小波变换二维哈尔小波变换(续续6)n非标准分解方法，使用MATLAB编写的程序分解得到 三、阅读和练习作业三、阅读和练习作业nRobi Polikar, The Engineers Ultimate Guide to Wavelet Analysis: The Wavelet Tutorial：http:/engineering.rowan.edu/polikar/WAVELETS/WTtutorial.html n Scientific Computer Consulting, Information and Technology Services, University of Colorado at Boulder, Matlab tutorial, http:/amath.colorado.edu/scico/tutorials/matlab/， End of Lecture多媒体技术基础与应用小波变换与应用
