1、第章自适应滤波器第章自适应滤波器v7.1 LMS自适应滤波器的基本原理自适应滤波器的基本原理v7.2 Widrow-Hoff LMS算法算法v7.3 自适应滤波器的应用自适应滤波器的应用v我们已经研究了维纳滤波器与卡尔曼滤波器。维纳滤波我们已经研究了维纳滤波器与卡尔曼滤波器。维纳滤波参数是固定的，适用于平稳随机信号最佳滤波。卡尔曼参数是固定的，适用于平稳随机信号最佳滤波。卡尔曼滤波器参数可以是时变的，适用于非平稳随机信号。然滤波器参数可以是时变的，适用于非平稳随机信号。然而，只有对信号和噪声的统计特性先验已知条件下，这而，只有对信号和噪声的统计特性先验已知条件下，这两种滤波器才能获得最优滤波。
2、遗憾的是，在实际应用两种滤波器才能获得最优滤波。遗憾的是，在实际应用中，常常无法得到这些统计特性的先验知识。因此，这中，常常无法得到这些统计特性的先验知识。因此，这种情况下，用维纳滤波器和卡尔曼滤波器实现不了最优种情况下，用维纳滤波器和卡尔曼滤波器实现不了最优滤波。然而，自适应滤波能够提供卓越的滤波性能。滤波。然而，自适应滤波能够提供卓越的滤波性能。v所谓的自适应滤波，就是利用前一时刻已获得滤波器参所谓的自适应滤波，就是利用前一时刻已获得滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信数等结果，自动地调节现时刻的滤波器参数，以适应信号或噪声未知的或随时间变化的统计特性，从而实现最号或噪
3、声未知的或随时间变化的统计特性，从而实现最优滤波。设计自适应滤波器时可以不必要求预先知道信优滤波。设计自适应滤波器时可以不必要求预先知道信号和噪声的自相关函数，而且在滤波过程中信号与噪声号和噪声的自相关函数，而且在滤波过程中信号与噪声的自相关函数即使随时间作慢变化它也能自动适应，自的自相关函数即使随时间作慢变化它也能自动适应，自动调节到满足最小均方差的要求。这些都是它突出优点，动调节到满足最小均方差的要求。这些都是它突出优点，因此近年来它被广泛的应用于各种信号处理中。因此近年来它被广泛的应用于各种信号处理中。kyv7.1 LMS自适应滤波器的基本原理自适应滤波器的基本原理v如图如图7-1所示，
4、其输入是一随机信号所示，其输入是一随机信号 ：v v其中其中 表示信号的真值，表示信号的真值，表示噪声。其输出表示噪声。其输出 等等于的估计值，用于的估计值，用 表示。维纳滤波器是具有这样的表示。维纳滤波器是具有这样的 或或 的滤波器，它能使的滤波器，它能使 与与 间的均方误差间的均方误差v最小，即最小，即v从而达到最好地从噪声中提取信号的目的。而自适应滤从而达到最好地从噪声中提取信号的目的。而自适应滤波器则能自动调节它的波器则能自动调节它的 值以满足上述最小均方误差值以满足上述最小均方误差的准则。的准则。)(nx)(ns)(nv)(ny)(ns)(nh)(zH)(ns)(ns)(2neEmi
5、n)()()(22nsnsEneE)(nhv如果如果 长为长为N，则从图，则从图7-1可以得到可以得到v （7-1)v这里这里 ，。v 由此可见，输出由此可见，输出 是是N个所有过去各输入的线性加个所有过去各输入的线性加权之和，其加权系数就是权之和，其加权系数就是 。在自适应滤波器中这个。在自适应滤波器中这个加权系数常用符号加权系数常用符号 表示，所希望的输出常用表示，所希望的输出常用 表示，表示，并为了书写简化，时间并为了书写简化，时间 用下标用下标 表示，于是式表示，于是式(7-1)成成为为v (7-2)v由式由式(7-2)可见，自适应滤波可见，自适应滤波v器可看成是自适应线性组合器可看成
6、是自适应线性组合v器，如图器，如图7-2所示。所示。)(nhiNmNiixhmnxmhny101)()()(1 mi)1(ihhi)1(inxxi)(nyihiwdnjNiijijjxwy1v一般来讲，一般来讲，其可以是任意一组输入信号，并不其可以是任意一组输入信号，并不一定要求当一定要求当 时时 ，即并，即并不一定要求其各不一定要求其各 是由同一信号的不同延迟组成延时线是由同一信号的不同延迟组成延时线抽头形式的所谓横向抽头形式的所谓横向FIR结构，如图结构，如图7-3(a)所示。所示。Njjjxxx,21jjxx112jjxx23jjxx1NjNjxxijxv图图7-3(b)是它的原理图。自
7、适应滤波器的要害在于按照是它的原理图。自适应滤波器的要害在于按照v 及各及各 值，通过某种算法寻找值，通过某种算法寻找 时的各时的各 ，从而可自动地调节各从而可自动地调节各 值。值。v自适应滤波器可以用图自适应滤波器可以用图7-4的简化符号表示。图的简化符号表示。图7-5表示表示包括个自适应横向滤波器的自适应系统，当所处理的输包括个自适应横向滤波器的自适应系统，当所处理的输入信号来自不同信号源时，它实际上等于自适应线性组入信号来自不同信号源时，它实际上等于自适应线性组合器。合器。v jeijxmin2jeEiwiwv利用讨论维纳滤波器时域解时的相同方法可以求得在利用讨论维纳滤波器时域解时的相同
8、方法可以求得在v 时的权系数。将式时的权系数。将式(7-2)写成矩阵形式写成矩阵形式有有v (7-3)v这里这里v (7-4)v (7-5)v所以所以v (7-6)v令令v (7-7)min)(22jjjydEeEjjjyXWWXjwww21WNjjjjxxx21XjjjjjdydeXWWXXWWX2)(222jjjjjjjjEdEdEydEeE的互相关矢量与jjNjjjjjjjjdxdxdxdEdEXXP,21v v =输入输入 的自相关矩阵的自相关矩阵 (7-8)v于是式于是式(7-6)可以写成可以写成v (7-9)v注意，对于平稳输入，式注意，对于平稳输入，式(7-9)的的 是权矢量是权
9、矢量 的二的二次方函数，因此次方函数，因此 是一个凹的抛物体曲面，它具是一个凹的抛物体曲面，它具有唯一的极小点。可以用梯度方法沿该曲面调节权矢量有唯一的极小点。可以用梯度方法沿该曲面调节权矢量的各元素，得到这个均方误差的各元素，得到这个均方误差 的最小点。的最小点。v均方误差的梯度（用均方误差的梯度（用 表示）可以通过将式表示）可以通过将式(7-9)，对权，对权矢量的各矢量的各 进行微分得到进行微分得到v (7-10)NjNjjNjjNjNjjjjjjNjjjjjjjjxxxxxxxxxxxxxxxxxxEE212221212111XXRjXRWWWP222jjdEeE2jeEW2jeEW2j
10、eEijwRWP22,22212NjjjjweEweEweEv 置置 就可得到最佳权矢量，用就可得到最佳权矢量，用 表示，即表示，即v(7-11)v式式(7-11)是维纳是维纳-霍夫方程的矩阵形式。满足式霍夫方程的矩阵形式。满足式(7-11)的的v 即为最佳权矢量或称维纳权矢量。将式即为最佳权矢量或称维纳权矢量。将式(7-11)代回代回式式(7-10)，得最小均方误差为，得最小均方误差为v (7-12)v实际上，上述这套方程与维纳滤波器推出的结果完全相实际上，上述这套方程与维纳滤波器推出的结果完全相同。自适应滤波器与维纳滤波器比较，其差别在于它加同。自适应滤波器与维纳滤波器比较，其差别在于它加
11、了一个识别控制环节，将输出了一个识别控制环节，将输出 与所希望的值与所希望的值 比较，比较，看是否一样。如果有误差看是否一样。如果有误差 ，则，则 用去控制用去控制 v，使，使 为为 的的 。因此它的关键在于怎样能。因此它的关键在于怎样能简便地寻找简便地寻找 ，或者说，或者说 用什么样的算法来求得用什么样的算法来求得 ，最常用的算法是所谓最小均方最常用的算法是所谓最小均方(Least Mean Square)算算法，简称法，简称LMS算法。算法。0j*WPRWWRWP1*022*WPW*2min2)(jjdEeEjyjdjejeWjWmin2jeE*W*W*Wv 7.2 Widrow-Hoff
12、 LMS算法算法v自适应滤波器的自适应过程的实际目的是要寻求自适应滤波器的自适应过程的实际目的是要寻求 ，虽然按式虽然按式(7-11)可求得准确的可求得准确的 。但需要预。但需要预先知道相关矩阵先知道相关矩阵P和和R。当。当P和和R不能预先获得时，就只不能预先获得时，就只能直接用数值计算的方法。在权的数目很大或者输入数能直接用数值计算的方法。在权的数目很大或者输入数据率很高时，这种方法将会遇到计算上的严重困难。这据率很高时，这种方法将会遇到计算上的严重困难。这种方法不仅需要计算种方法不仅需要计算 矩阵的逆，而且还需要测量矩阵的逆，而且还需要测量或估算或估算 这么多个自相关和互相关函数才能得到这
13、么多个自相关和互相关函数才能得到P和和R的矩阵元素。不仅如此，当输入信号的统计特性的矩阵元素。不仅如此，当输入信号的统计特性在慢慢地变化时，还必须从头重新计算。由于这些原因，在慢慢地变化时，还必须从头重新计算。由于这些原因，人们宁愿应用另外一些更有使用价值的递推估计的算法。人们宁愿应用另外一些更有使用价值的递推估计的算法。*W*WPRW1*WNN2/)1(NNv 7.2.1 最陡下降法原理最陡下降法原理vWidrow-Hoff LMS算法正是求最佳权矢量的一个简单和算法正是求最佳权矢量的一个简单和有效的递推方法，它是有效的递推方法，它是Widrow与与Hoff二人于二人于1959年提年提出的，
14、此法不需要求相关矩阵，也不涉及矩阵求逆，而出的，此法不需要求相关矩阵，也不涉及矩阵求逆，而是运用最优化的数学算法最陡下降法（是运用最优化的数学算法最陡下降法（Steepest descent method）。按照这种方法，下一个权矢量）。按照这种方法，下一个权矢量 等于现在的权矢量等于现在的权矢量 加一个正比于梯度加一个正比于梯度 的负值的变的负值的变化量，即化量，即 v (7-13)v其中其中 是一个控制稳定性和收敛速度的参量，称之为收是一个控制稳定性和收敛速度的参量，称之为收敛因子。敛因子。v在作必要的推导之前，我们先讨论一下这个方程的物理在作必要的推导之前，我们先讨论一下这个方程的物理意
15、义。由式意义。由式(7-9)可见可见 是是 的二次方程，并且的二次方程，并且 是是一个多维矢量，因此一个多维矢量，因此 随随 的变化关系可以画成一个的变化关系可以画成一个“碗形碗形”的的“曲面曲面”，自适应过程正是连续地调节，自适应过程正是连续地调节 去寻找去寻找“碗碗”的底点的底点 1jWjWjjjjWW12jeEWW2jeEWWv为了简单，我们假设为了简单，我们假设 是一维的，则是一维的，则 与与 的关系的关系成为一个抛物线，如图成为一个抛物线，如图7-6所示。抛物线底部这点正是所示。抛物线底部这点正是我们要寻找的由我们要寻找的由 得出的得出的 的点。的点。v我们可以用梯度下降法来找到这一
16、点。如果现在我们可以用梯度下降法来找到这一点。如果现在 v时，时，则，则 必在必在 的左边如图的左边如图7-6所示。所示。v为了使下一个值为了使下一个值 更接近更接近 ，应有（设，应有（设 ）v (7-14)v如果如果 时，时，则，则 必在必在 的右边，此时的右边，此时v为了使下一个值为了使下一个值 更接近于更接近于 ，应有，应有v (7-15)W2jeEW02dWedEj*WW 1 jjWW 012jWWjdWedE1 jW*W11jW*W0WWWWjj1112jWW 022jWWjdWedE2jW*W12jW*WWWWjj212v式式(7-14)与式与式(7-15)可合并为可合并为v(7-
17、16)v这里这里0。按式。按式(7-16)，不论，不论 原来在原来在 的左边还是的左边还是v右边，都使下一个值右边，都使下一个值 比比 更接近于更接近于 。式。式(7-16)v中的中的 可以用可以用 点的梯度点的梯度 来表示，即来表示，即v v (7-17)v当当 是多维的情况，梯度是多维的情况，梯度 可以用列矩阵表示如下：可以用列矩阵表示如下：v (7-18)v于是对于多维的权矢量式于是对于多维的权矢量式(7-17)成为成为jWWjjjdWedEWW21jW*W1jWjW*WjWWjdWedE2jWjjjjWW1WjjWWNjjjjweEweEweE,22212jjjWW1v这就是前面的式这
18、就是前面的式(7-13)。因为某点梯度方向是代表该点。因为某点梯度方向是代表该点变化率最大的方向，在这里即是变化率最大的方向，在这里即是 下降最快的方向，下降最快的方向，因此这种方法称为最陡下降法。按式因此这种方法称为最陡下降法。按式(7-13)，当，当 时，时，将以将以 的方向，即的方向，即 最陡下降的方向向最陡下降的方向向 靠拢，靠靠拢，靠拢的步距由拢的步距由 确定，当达到确定，当达到 的最小点的最小点时，时，。将式。将式(7-18)中，求导与求期望值中，求导与求期望值次序对换，得次序对换，得v (7-19)v再考虑到式（再考虑到式（7-5）的关系，即）的关系，即v (7-5)v得得 v
19、(7-20)2jeE*WW j1jWj2jeE*W2jeEW*W0j*1WWWjjNjjjjjweweweeE,221jjjdeXWjjjjjweweweX,21v于是，式于是，式(7-20)约束了改变约束了改变 的走向，将式的走向，将式(7-20)代入代入式式(7-19)，得，得v (7-21)v令令 ，即，即v (7-22)v由此可解得这个凹的抛物体曲面的最小点。式由此可解得这个凹的抛物体曲面的最小点。式(7-22)正正v是维纳滤波器理论中所讨论到的正交性原理。是维纳滤波器理论中所讨论到的正交性原理。v因此令因此令 ，从而得出，从而得出 及及 的结论是的结论是v与维纳滤波理论一致的。与维纳
20、滤波理论一致的。v这个方法求这个方法求 是比较简单和有效的，不用预先求得相是比较简单和有效的，不用预先求得相v关矩阵，也不用作矩阵的求逆运算，关键是如何适时地关矩阵，也不用作矩阵的求逆运算，关键是如何适时地v求得（或估计得）求得（或估计得）。W2jjjeEX0j0jjeEX0j*WW jmin22jjeEeE*Wjv在实际中，为了便于实时系统实现，取单个样本误差的在实际中，为了便于实时系统实现，取单个样本误差的v平方平方 的梯度作为均方误差梯度的估计。如用的梯度作为均方误差梯度的估计。如用 表示表示v 的估计，则有的估计，则有v v将式将式(7-20)代入上式，得代入上式，得v (7-23)v
21、将上式与式将上式与式(7-21)比较，有比较，有v (7-24)2jejjNjjjjwewewe22212,Njjjjwewewee22212,2jjje X22jjjjeEEXv在实际中，为了便于实时系统实现，取单个样本误差的在实际中，为了便于实时系统实现，取单个样本误差的v平方平方 的梯度作为均方误差梯度的估计。如用的梯度作为均方误差梯度的估计。如用 表示表示v 的估计，则有的估计，则有v v将式将式(7-20)代入上式，得代入上式，得v (7-23)v将上式与式将上式与式(7-21)比较，有比较，有v (7-24)v即即 的期望等于其真值的期望等于其真值 ，故这种对，故这种对 的估计是无
22、的估计是无v偏估计。偏估计。的估计值的估计值 是用是用 的瞬时值代替它的期望的瞬时值代替它的期望v值值 得到的得到的。2jejjNjjjjwewewe22212,Njjjjwewewee22212,2jjje X22jjjjeEEXjjjjjjje XjjeEXv于是，将于是，将 作为作为 代入式代入式(7-13)，得，得v (7-25)v其中其中v (7-26)v式式(7-25)与式与式(7-26)的这种算法即称为的这种算法即称为Widrow-Hoff LMS算法。这种算法对于每一个输入样本，只需对其进算法。这种算法对于每一个输入样本，只需对其进行式行式(7-25)与式与式(7-26)中的二
23、个乘法与二个加法运算，因中的二个乘法与二个加法运算，因此该算法易于用实时系统实现。此该算法易于用实时系统实现。v 应用应用Widrow-Hoff LMS算法的自适应横向滤波器示算法的自适应横向滤波器示于图于图7-7。jjjjjjje XWWW21jjjjdeXWv7.2.2 能使能使LMS算法收敛于算法收敛于 的的值范围值范围v本节我们将证明：当本节我们将证明：当的值选择在一定范围时，的值选择在一定范围时，Widrow-Hoff LMS算法将收敛于算法将收敛于 。证明了这一点，。证明了这一点，也就证明了也就证明了LMS算法的有效性。算法的有效性。v为了讨论式为了讨论式(7-25)的收敛过程，首
24、先让我们假设在二次的收敛过程，首先让我们假设在二次递推之间有充分大的时间间隔，以致可以认为二次输入递推之间有充分大的时间间隔，以致可以认为二次输入信号信号 与与 是不相关的，即是不相关的，即v 当当 (7-27)v同时，由于同时，由于 仅是输入仅是输入 的函数的函数见式（见式（7-25），故由上述假设，导致，故由上述假设，导致 与与 也不相关。也不相关。v将式将式(7-26)代入式代入式(7-25)，得，得v (7-28)v由于由于 是随机变量，我们必须利用它的集合平均：是随机变量，我们必须利用它的集合平均：v考虑到与不相关，故考虑到与不相关，故v考虑到考虑到 与与 不相关，故不相关，故*W*
25、WjX1jX0ljjEXX0ljW021,XXXjjjWjX221jjjjjjjjjdeWXXWXWWjW221jjjjjjjEdEEEWXXXWWjWjXjjjjjjEEEWXXWXXv又考虑到又考虑到 及及 ，代入上式，得，代入上式，得v (7-29)v设初始权矢量设初始权矢量 为，则用递推法可以解得为，则用递推法可以解得 。利用式。利用式(7-29)，有，有v v (7-30)v由于自相关矩阵是对称的和正定的二次型矩阵，总可以由于自相关矩阵是对称的和正定的二次型矩阵，总可以通过正交变换将其化成标准型通过正交变换将其化成标准型v (7-31)v这里这里Q是自相关矩阵是自相关矩阵R的正交矩阵
26、，因此有的正交矩阵，因此有v 或或 (7-32)jjdEXP jjEXXR PWRIW221jjEE0W1jWPWRIW2201EEPWRIW2212EEPPRIWRI222202EPRIWRIWjiijjEE0011222QQRIQQ 1QQv是由的特征值组成的对角矩阵是由的特征值组成的对角矩阵v (7-33)v将式将式(7-31)代入式代入式(7-29)，得，得v (7-34)v所以所以v v (7-35)v上式要收敛必须满足上式要收敛必须满足N00000021PWQQQQW22111jjEEPWQIQ221jEPWQIQW22011EEPWQIQW22112EEPQIQWQIQ11001
27、2222iiEPQIQWQIQW100111222jiijjEE121maxv即即 (7-36)v即只有当即只有当 大于零小于自相关矩阵大于零小于自相关矩阵R的最大特征值的倒的最大特征值的倒数时，才有数时，才有 ，该算法才可能收敛，该算法才可能收敛，并保持稳定。并保持稳定。v由于自相关矩阵由于自相关矩阵R的本征值（包括的本征值（包括 ）通常是预先不）通常是预先不知道的，因此利用式（知道的，因此利用式（7-36)来确定来确定 的范围是不现实的范围是不现实的，然而我们知道矩阵的，然而我们知道矩阵R的迹的迹 等于等于R对角线上的元对角线上的元素之和，因此素之和，因此v (7-37)v由于正定矩阵的各
28、值由于正定矩阵的各值 均大于零均大于零v故故v所以收敛的充分条件可以写成所以收敛的充分条件可以写成v(7-38)01maxj021jImaxRtriiiiEtr2XRmaxRtr0112NiiE Xv而而 信号的总输入功率，一般是已知的，因而可信号的总输入功率，一般是已知的，因而可v按式按式(7-38)选取选取 值。值。v当当 时，式时，式(7-35)中的第一项为零，因此式中的第一项为零，因此式(7-35)成成v为为v因为因为v v所以所以 v (7-39)v所以当所以当 时，这种递推法最终将使时，这种递推法最终将使 的集合平的集合平v均均 收敛于维纳权矢量收敛于维纳权矢量 。因此，当。因此，
29、当 的值满足：的值满足：v 时，这种递推法式有效的。时，这种递推法式有效的。iiE2XjPQIQW1012lim2limjiijjjE1021212limIIIjiij*111111212limWPRPQQPQQWjjE01maxWWE*W01maxv为了进一步说明是一个控制为了进一步说明是一个控制v稳定性和收敛速度的参量，稳定性和收敛速度的参量，v我们不妨还是以我们不妨还是以 为一维的为一维的v情况来讨论。为此我们将图情况来讨论。为此我们将图v7-6重画于图重画于图7-8(a)，如果记，如果记v ，可以证明，可以证明 v愈大在该愈大在该 点的斜率点的斜率 也也v愈大，这是因为当我们用愈大，这
30、是因为当我们用v代替代替 时时v因此，因此，关系为一直线，如图关系为一直线，如图7-8(b)所示，其斜率所示，其斜率为为W*WWWjjjWjWjjj2222)(22jjjjjjjjjjjjjjXWXdXXWdWeeWejjW22jjjXWv因此，因此，关系为一直线，如图关系为一直线，如图7-8(b)所示，其斜率所示，其斜率为为v或或v v即即 正比于正比于 。v而按式而按式(7-13)，每递推一次，每递推一次，向向 靠拢的量为靠拢的量为v即每次修正的量即每次修正的量 正比于正比于 ，因此，显然有，因此，显然有 jjW22jjjXWjjjWX 22jjWjWjW*WjjjjjWXWWW212Wj
31、Wv因此，显然有因此，显然有v1.在在 的范围内，当的范围内，当取得愈大，有取得愈大，有 愈大，收愈大，收敛愈快。敛愈快。v2.在满足在满足 条件下的条件下的 ，最后仍可收敛于，最后仍可收敛于。图图7-9（a）表示在这种情况收敛的过程（这种情况称为）表示在这种情况收敛的过程（这种情况称为欠阻尼情况。对应于欠阻尼情况，欠阻尼情况。对应于欠阻尼情况，1情况成为过阻尼）。情况成为过阻尼）。v当当 选得过大使选得过大使 时（这种情况正就是时（这种情况正就是 v的情况），此时的情况），此时 将不能收敛于将不能收敛于 。而会发生发散。而会发生发散（不稳定）的状态，如图（不稳定）的状态，如图7-9（b）及及
32、(c)v所示。因此所示。因此 是一个控制稳定性和收敛速度的参量。是一个控制稳定性和收敛速度的参量。jWWWjjWWW2*jW)2(jWWmax1jW*W)2(jWW)2(jWWv7.2.3LMS算法的动态特性算法的动态特性学习曲线及其时间常数学习曲线及其时间常数v前面我们讨论了前面我们讨论了 需要经过需要经过v一个迭代过程才能到达一个迭代过程才能到达 v（维纳解），也就是说（维纳解），也就是说v趋于趋于 需要一个过程。需要一个过程。v图图7-10表示了表示了 与迭代与迭代v次数次数n的关系曲线，该曲线的关系曲线，该曲线v称为学习曲线，它表示了称为学习曲线，它表示了vLMS算法的动态特性，即任算
33、法的动态特性，即任v意一个初始权矢量意一个初始权矢量 通过通过v一次次逼近最后趋于一次次逼近最后趋于 的过程，也即的过程，也即 趋于趋于v的过程。图中表明了一个典型的个别样本的学习曲线以的过程。图中表明了一个典型的个别样本的学习曲线以v及及48个样本集合平均的学习曲线的例子。集合平均曲线个样本集合平均的学习曲线的例子。集合平均曲线v呈现指数和特性。呈现指数和特性。jW*W2jeEmin2)(jeE2jeE0W*W2jeEmin2)(jeEv这是由于在一维的情况这是由于在一维的情况 ，即，即 正比于正比于 ，故，故v一维情况的学习曲线应有指数特性；当一维情况的学习曲线应有指数特性；当 为一维的情
34、为一维的情v况，有一个自由度（有一个权），自适应过程将含有一况，有一个自由度（有一个权），自适应过程将含有一v个特征振动模式，于是学习曲线呈现有指数和特性。个特征振动模式，于是学习曲线呈现有指数和特性。v按照式按照式(7-9)与式与式(7-12)，可将，可将 表达式用表达式用 表示表示为为v (7-40)v或或v(7-41)v这里这里 。又若令。又若令 ，则，则v v于是式于是式(7-41)成为成为v(7-42)jjWXW22WjWjW2jeEmin2)(jeERWWWPPW2)(*min22jjeEeEjjjjeEeERVVWWRWWmin2*min2)()()()(jjjjeEeEVQQV
35、1min22)(*WWVjjjjVQVQV1QVVQVjjj)()(min22)(jjjjeEeEVVv将式将式(7-40)对对 进行微分，得进行微分，得v (7-43)v又又v故故v v即即 (7-44)v (7-45)v于是于是v v(7-46)v代入式代入式(7-42)得得v （7-47)v这里，因为这里，因为 与与 均是对角矩阵，而对角矩阵与均是对角矩阵，而对角矩阵与它本身的转置相等。它本身的转置相等。jWjjRV2)(1jjjWWjjjjjRVWWWW2*1jjjjVQIQRVVV112212jjVIV012VIV021122VIVIV02VIVjj020min222)(VIVjjj
36、eEeE2Iv由式由式(7-47)可见，它的右方第二项每迭代一次衰减可见，它的右方第二项每迭代一次衰减 v倍，当倍，当 ，。由此可见，。由此可见，随随 增加增加的衰减比的衰减比 快一倍。如果权矢量快一倍。如果权矢量 有有N个分量，则有个分量，则有N个自由度和个自由度和N个特征量个特征量 ，同时有，同时有N个特征振动模式，个特征振动模式，第第p个振动模式的均方误差能量每次衰减为个振动模式的均方误差能量每次衰减为 。v定义定义v 随迭代次数随迭代次数 作指数衰减。为了求得指数衰减的作指数衰减。为了求得指数衰减的时间常数，我们将其写成时间常数，我们将其写成v (7-48)v所以所以v当当 时上式成为
37、时上式成为v所以所以 (7-49 22Ijmin22)(jjeEeE2jeEjjWW2)21(p22)21(ppjp)(2jmscppjjjjpjpeee/2/222)21()(2/1!2111ppppe1pppp11)21(pp21v由式由式(7-48)可见对均方误差来讲，第可见对均方误差来讲，第p个特征振动模式的个特征振动模式的v衰减时间常数衰减时间常数 ，它为，它为 的衰减时间的二分之一：的衰减时间的二分之一：v所以所以 (7-50)v在各个振动模式的特征值均相等并且等于在各个振动模式的特征值均相等并且等于的特殊情况的特殊情况下，各振动模式的时间常数也相等，为下，各振动模式的时间常数也相
38、等，为v (7-51)v这种情况发生在所有输入信号分量不相关，且具有相同这种情况发生在所有输入信号分量不相关，且具有相同v功率的情况，此时学习曲线具有其时间常数为功率的情况，此时学习曲线具有其时间常数为 的纯的纯v指数形式。以上这些时间常数都用迭代次数计算。指数形式。以上这些时间常数都用迭代次数计算。2/pmscjWpmsc4141mscmscv7.3 自适应滤波器的应用自适应滤波器的应用v7.3.1 自适应抵消器自适应抵消器v 自适应滤波器的许多应用是将它用作为自适应抵消器。自适应滤波器的许多应用是将它用作为自适应抵消器。v图图7-11为自适应抵消器的原理图。它有二个输入：原始为自适应抵消器
39、的原理图。它有二个输入：原始输入与参考输入。当用作噪声抵消器时，原始输入为受输入与参考输入。当用作噪声抵消器时，原始输入为受干扰信号：干扰信号：v而参考输入为与干扰而参考输入为与干扰 相关、而与信号相关、而与信号 不相关的干不相关的干扰扰 。原始输入加到自适应滤波器的。原始输入加到自适应滤波器的 端，参考输入端，参考输入则加到自适应滤波器的则加到自适应滤波器的 输入端。图中自适应滤波器输入端。图中自适应滤波器AF接受误差接受误差 的控制调整的控制调整 ，使得它的输出，使得它的输出 趋于等于趋于等于 v 中与它相关的中与它相关的 ，于是，于是 作为作为 与与 之差就接近等于之差就接近等于信号信号
40、 。)()()(nvnsnx)(0nv)(ns)(1nvjdjxjejwjyjd0vjejdjy)(nsv现在来证明这一结论。设现在来证明这一结论。设 、都是平稳随机过程并都是平稳随机过程并具有零均值（因而具有零均值（因而 也是如此）。因也是如此）。因 与与 及及 均不均不相关，而相关，而 与与 相关。从图相关。从图7-11，有，有v (7-52)v将上式进行平方：将上式进行平方：v于是于是v如前所述，自适应过程就是自动调节如前所述，自适应过程就是自动调节 使使 的过的过程。上式中第一项为信号功率程。上式中第一项为信号功率 ，它与，它与 无关。因为无关。因为v 与与 以及以及 均不相关，第三项
41、等于零。因而，要使均不相关，第三项等于零。因而，要使v 最小就要求上式第二项最小，即最小就要求上式第二项最小，即v从而有从而有v(7-53)v按式按式(7-52)有有v因而因而s0v1vjys0v1v0v1vjjjjyvsyde0)(2)(02022jjjyvsyvse)(2)(02022jjjyvsEyvEsEeEWmin2jeE2sEWs0vjy2jeEmin2020)()(jjyvEyvEmin202min2)(jjyvEsEeEjjyvse0)()(202jjyvEseEv当当 被最小化，被最小化，也被最小化，即也被最小化，即 以最以最小均方误差趋于小均方误差趋于 ，可能的最好情况为，
42、可能的最好情况为v则则v因此，自适应滤波器可以用来从噪声中提取信号。上述因此，自适应滤波器可以用来从噪声中提取信号。上述v结果似乎用结果似乎用Wiener滤波器也能得到，但是，设计一个滤波器也能得到，但是，设计一个vWiener滤波器要预先知道信号和干扰分别的自相关函滤波器要预先知道信号和干扰分别的自相关函v数，而设计一个自适应滤波器并不要求预先知道数，而设计一个自适应滤波器并不要求预先知道 和和v或或 的统计特性。此外，当信号统计特性与噪声统计的统计特性。此外，当信号统计特性与噪声统计v特性变化时，自适应滤波器能自适应地调节它的冲激响特性变化时，自适应滤波器能自适应地调节它的冲激响v应特性（
43、即应特性（即 ）来适应新的情况。但是，自适应抵消）来适应新的情况。但是，自适应抵消v器要有一个参考输入，这个参考输入要求与原始输入中器要有一个参考输入，这个参考输入要求与原始输入中v希望去除的噪声相关。希望去除的噪声相关。s0v)(20jyvE)(2seEjjes0vyjsejs0v1vjwv这里我们再讨论两个问题：（这里我们再讨论两个问题：（1）自适应抵消器的原始）自适应抵消器的原始输入中如有与参考输入不相关的干扰，是否也可去除？输入中如有与参考输入不相关的干扰，是否也可去除？（2）参考输入中如果也含有一定的所需要的信号，但）参考输入中如果也含有一定的所需要的信号，但在强度上较弱，会不会导致
44、滤波器输出中将需要的信号在强度上较弱，会不会导致滤波器输出中将需要的信号也被抵消？也被抵消？v第一个问题是明白的：对于原始输入信号中所含与参考第一个问题是明白的：对于原始输入信号中所含与参考输入不相关的干扰，不能自适应地抵消，这是因为，自输入不相关的干扰，不能自适应地抵消，这是因为，自适应滤波器的冲激响应（即适应滤波器的冲激响应（即 ）不论如何调节，也不）不论如何调节，也不会使它的输出会使它的输出 中含有它的输入中不含有的成份。中含有它的输入中不含有的成份。sjwjyv关于第二个问题，总的结论是只需参考输入中信号量较关于第二个问题，总的结论是只需参考输入中信号量较v少，抵消器仍有效。关于这个问
45、题我们需要作一些定量少，抵消器仍有效。关于这个问题我们需要作一些定量v分析。现在假设信号分析。现在假设信号 除了进入原始输入端（除了进入原始输入端（端）端）v外，还通过传递函数外，还通过传递函数 为的路径进入参考输入端为的路径进入参考输入端v（端（端 ），而干扰），而干扰 除了通过通道除了通过通道 进入端进入端 外外v，还进入，还进入 端，如图端，如图7-12所示。所示。v可以证明，参考输入端存在少量信号可以证明，参考输入端存在少量信号 分量并不会使自分量并不会使自v适应抵消器失效。适应抵消器失效。v自适应抵消的方法在信号处理中有着广泛的应用。例如自适应抵消的方法在信号处理中有着广泛的应用。例
46、如v（1）用来消除心电图中的电源干扰。将由电源干扰的）用来消除心电图中的电源干扰。将由电源干扰的v心电图信号作为抵消器的原始输入信号，将电源信号作心电图信号作为抵消器的原始输入信号，将电源信号作v为参考信号，即可从端取得消除了电源干扰的心电图信为参考信号，即可从端取得消除了电源干扰的心电图信v号。号。jsjd)(zGjxjv)(zHjxjdjsv（2）用来检测胎儿心音，而将母亲的心音及背景干扰）用来检测胎儿心音，而将母亲的心音及背景干扰v去除。母亲的心音强度通常是胎儿心音的去除。母亲的心音强度通常是胎儿心音的2倍到倍到10倍，倍，v肌肉活动及胎儿运动产生的背景干扰也常常大于胎儿心肌肉活动及胎儿
47、运动产生的背景干扰也常常大于胎儿心v音的强度。将母亲腹部取出的信号（它包括胎儿心音，音的强度。将母亲腹部取出的信号（它包括胎儿心音，v母亲心音和背景干扰）作为自适应抵消器的原始输入信母亲心音和背景干扰）作为自适应抵消器的原始输入信v号，而将母亲胸部的信号（主要包括母亲心音与背景干号，而将母亲胸部的信号（主要包括母亲心音与背景干v扰）作为参考输入信号，则可在扰）作为参考输入信号，则可在 端输出比较清晰的端输出比较清晰的v胎儿心音信号。胎儿心音信号。v（3）用来在有其他人讲话的背景中提取某人的讲话。）用来在有其他人讲话的背景中提取某人的讲话。v此时，可将靠近所需要的讲话人的微音器的输出送至此时，可
48、将靠近所需要的讲话人的微音器的输出送至v端，而将远离讲话人而靠近干扰源（其他人的讲话）的端，而将远离讲话人而靠近干扰源（其他人的讲话）的v微音器的输出送至微音器的输出送至 端，则在端，则在 端可以提取消除了干端可以提取消除了干v扰的讲话。扰的讲话。jejdjxjev（4）用来作为天线阵的自适应旁瓣抑制器。图）用来作为天线阵的自适应旁瓣抑制器。图7-13表表示应用于抑制来自一定方向的干扰的自适应旁瓣抑制器。示应用于抑制来自一定方向的干扰的自适应旁瓣抑制器。v首先，将天线阵的主瓣对准接收的信号来源，此时，从首先，将天线阵的主瓣对准接收的信号来源，此时，从点干扰源来的干扰，通过天线阵方向图旁瓣与信号
49、一起点干扰源来的干扰，通过天线阵方向图旁瓣与信号一起进入接收机，将它作为自适应抵消器的原始输入。进入接收机，将它作为自适应抵消器的原始输入。jev然后，取天线阵中的若干根组成其方向图正好在信号的然后，取天线阵中的若干根组成其方向图正好在信号的v入射方向有一个零响应谷点。从这个组合，只能得到干入射方向有一个零响应谷点。从这个组合，只能得到干v扰而得不到信号。于是，按抵消器的原理，将后一组合扰而得不到信号。于是，按抵消器的原理，将后一组合v的输出作为参考输入，就达到将主天线输出中的干扰抑的输出作为参考输入，就达到将主天线输出中的干扰抑v制的目的。这是自适应抵消器的一个重要应用方面。制的目的。这是自
50、适应抵消器的一个重要应用方面。v许许多多类似这样的例子，都可以利用自适应抵消器来许许多多类似这样的例子，都可以利用自适应抵消器来v从干扰背景中提取信号。从干扰背景中提取信号。v 如果信号中的噪声是单色的干扰（频率为如果信号中的噪声是单色的干扰（频率为 的正弦的正弦v波干扰），则消除这种干扰的正确方法是应用陷波器。波干扰），则消除这种干扰的正确方法是应用陷波器。v我们希望陷波器特性理想，即其缺口的肩部可以任意我们希望陷波器特性理想，即其缺口的肩部可以任意v窄，马上进入平的区域（见图窄，马上进入平的区域（见图7-14）。）。0v用自适应滤波器组成的陷波器与一般固定网络的陷波器用自适应滤波器组成的陷
