1、维纳滤波和卡尔曼滤波维纳滤波和卡尔曼滤波 5 5 卡尔曼卡尔曼(Kalman(Kalman)滤波滤波 1 1 引言引言2 2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解3 3 离散维纳滤波器的离散维纳滤波器的z域解域解4 4 维纳预测维纳预测1 1 引引 言言 观测到的信号都是受到噪声干扰的。如何最大限度地观测到的信号都是受到噪声干扰的。如何最大限度地抑制噪声，将有用信号提取出来，是信号处理基本的抑制噪声，将有用信号提取出来，是信号处理基本的问题。信号处理的目的就是要得到不受干扰影响的真问题。信号处理的目的就是要得到不受干扰影响的真正信号。相应的处理系统称为滤波器。正信号。相应的处理
2、系统称为滤波器。x(n)s(n)v(n)()()(nvnsnx这里，只考虑加性噪声的影响，即观测数据这里，只考虑加性噪声的影响，即观测数据x(n)是信是信号号s(n)与噪声与噪声v(n)之和之和信号处理的目的是得到信号处理的目的是得到s(n)，也称为期望信号，滤波，也称为期望信号，滤波系统的单位脉冲响应为系统的单位脉冲响应为h(n)，系统的期望输出为，系统的期望输出为yd(n)，yd(n)应等于应等于s(n)；系统的实际输出为；系统的实际输出为y(n)，y(n)是是s(n)的逼近或估计，的逼近或估计，yd(n)=s(n)，y(n)=。)(nsh(n)x(n)s(n)v(n)y(n)采用不同的最
3、佳准则，估计得到的结果可能不同采用不同的最佳准则，估计得到的结果可能不同对信号对信号x(n)处理，可以看成是对期望信号的估计，可处理，可以看成是对期望信号的估计，可以将以将h(n)看作是估计器，信号处理的目的是要得到信看作是估计器，信号处理的目的是要得到信号的一个最佳估计。号的一个最佳估计。得到结果是封闭公式。采用谱分解的方法求解，简单得到结果是封闭公式。采用谱分解的方法求解，简单易行，具有一定的工程实用价值，并且物理概念清楚易行，具有一定的工程实用价值，并且物理概念清楚维纳滤波器的求解，要求知道随机信号的统计分布规维纳滤波器的求解，要求知道随机信号的统计分布规律（自相关函数或功率谱密度）律（
4、自相关函数或功率谱密度）维纳滤波的最大缺点是仅适用于平稳随机信号维纳滤波的最大缺点是仅适用于平稳随机信号以估计结果与信号真值之间的误差的均方值最小作为以估计结果与信号真值之间的误差的均方值最小作为最佳准则。最佳准则。最小均方误差准则最小均方误差准则(MMSE,Mininum Mean Square Error)2 2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 根据线性系统的基本理论，并考虑到系统的因果根据线性系统的基本理论，并考虑到系统的因果性，可以得到滤波器的输出性，可以得到滤波器的输出y(n):0)()()()()(mmnxmhnhnxnyn=0,1,2,设期望信号为设期望信号
5、为d(n)，误差信号及其均方值分别为，误差信号及其均方值分别为:)()()(22nyndEneE2.1 2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法)()()(nyndne)()(nyns20)()()(mmnxmhndE要使均方误差为最小，须满足要使均方误差为最小，须满足 0|)(|2jhneE误差的均方值是标量，因此上式是一个标量对复函数误差的均方值是标量，因此上式是一个标量对复函数的求导问题，的求导问题，它等价于它等价于 0|)(|)(|22jjbneEjaneE记记 jjjbjajjjjbahj=0,1,2,则上式可以写为则上式可以写为 0|)(|2neEj展开得展开得 )
6、()()()()()()()(|)(|*2njebnenjebneneaneneaneEneEjjjjj0|)(|)(|)(|222jjjbneEjaneEneEjjnxjhnsnynsne)()()()()()(jjjjbahjane)(0)()()()(jjjjnxjbansnejane)(*jbne)(*jbne)()(jnx)(*jnx)(*jnjx)(jnjx)()()()()()()()(|)(|*2njebnenjebneneaneneaneEneEjjjjj)()()()()()()()(*njejnjxnjejnjxnejnxnejnxE)()(2*nejnxEj=0,1,2
7、,说明：说明：均方误差达到最小值的充要条件是误差信号与均方误差达到最小值的充要条件是误差信号与任一进入估计的输入信号正交，这就是正交性原理。任一进入估计的输入信号正交，这就是正交性原理。它的重要意义在于提供了一个数学方法，用以判断线它的重要意义在于提供了一个数学方法，用以判断线性滤波性滤波系统是否工作于最佳状态。系统是否工作于最佳状态。)()(2|)(|*2nejnxEneEj因此因此 0)()(*nejnxE输出信号输出信号y(n)与误差信号与误差信号e(n)的互相关函数的互相关函数 )()()(0*jnejnxjhE滤波器工作于最佳状态时的输出为滤波器工作于最佳状态时的输出为yopt(n)
8、joptoptnejnxEjhnenyE)()()()()(*opt此时，输出此时，输出yopt(n)与期望信号与期望信号d(n)的误差为的误差为eopt(n)()()0(*nenyErey0*)()()(jnejnxEjh0期望信号、估计值与误差信号的几何关系期望信号、估计值与误差信号的几何关系 )(nyopt)(neopt)(nd当滤波器处于最佳工作状态时，估计值加上估计偏当滤波器处于最佳工作状态时，估计值加上估计偏差等于期望信号差等于期望信号)(e)()(optoptnnynd对于随机信号，上图中各矢量的几何表示为相应量的对于随机信号，上图中各矢量的几何表示为相应量的统计平均统计平均或者
9、是数学期望。或者是数学期望。|222optdopteEy假定输入信号假定输入信号x(n)和期望信号和期望信号d(n)都是零均值都是零均值,应用应用正交性原理正交性原理因此在滤波器处于最佳状态时，估计值因此在滤波器处于最佳状态时，估计值y(n)的能的能量总是小于等于期望信号量总是小于等于期望信号d(n)的能量。的能量。0)()()()(0*mmnxmhndknxE)()()(0*kmrmhkrmxxdxryx(-k)=r*xy(k)()()(0mkrmhkrmxxxdk=0,1,2,2.2 2.2 维纳维纳霍夫方程霍夫方程0)()(*neknxE0)()()()(mmnxmhndne)()()(
10、)()(*0*knxmnxEmhknxndEm)()(krkhxx上式称为维纳上式称为维纳-霍夫（霍夫（WienerWienerHopfHopf）方程。）方程。)()()()()(10krkhmkrmhkrxxMmxxxdk=0,1,2,当当k=0时时当当h(n)是一个长度为是一个长度为M M的因果序列的因果序列(即即系统系统是一个长是一个长度为度为M M的的FIRFIR滤波器滤波器)时，时，维纳维纳-霍夫方程表述为霍夫方程表述为 当当k=1时时当当k=M-1时时)0()1()1()0(21xdxxMxxxxrMrhrhrh)1()2()0()1(21xdxxMxxxxrMrhrhrh)1()
11、0()2()1(21MrrhMrhMrhxdxxMxxxxMhhhh21)1()1()0(MrrrRxdxdxdxd)0()2()1()2()0()0()1()1()0(xxxxxxxxxxxxxxxxxxxxrMrMrMrrrMrrrR可以写成矩阵的形式可以写成矩阵的形式hRRxxxdxdxxRRh1已知期望信号与观测数据的互相关函数和观测数据已知期望信号与观测数据的互相关函数和观测数据的自相关函数时，可以通过矩阵求逆运算，得到维的自相关函数时，可以通过矩阵求逆运算，得到维纳滤波器的最佳解。纳滤波器的最佳解。同时可以看到，直接从时域求解因果的维纳滤波器，同时可以看到，直接从时域求解因果的维纳
12、滤波器，当选择的滤波器的长度当选择的滤波器的长度M M较大时，计算工作量很大，较大时，计算工作量很大，并且需要计算并且需要计算Rxx的逆矩阵，从而要求的存贮量也很的逆矩阵，从而要求的存贮量也很大。此外，在具体实现时，滤波器的长度是由实验大。此外，在具体实现时，滤波器的长度是由实验来确定的，如果想通过增加长度提高逼近的精度，来确定的，如果想通过增加长度提高逼近的精度，就需要在新就需要在新M M基础上重新进行计算。因此，从时域基础上重新进行计算。因此，从时域求解维纳滤波器，并不求解维纳滤波器，并不是一个有效的方法。是一个有效的方法。假定所研究的信号都是零均值的，维纳滤波器为假定所研究的信号都是零均
13、值的，维纳滤波器为M M长长的的FIRFIR型，估计的均方误差为：型，估计的均方误差为：|)(|2neE2.3 2.3 估计误差的均方值估计误差的均方值)()()()()()()()()()(|)(|*1010*10*10*2inxknxEihkhndknxEkhndknxEkhndEMkMiMkMk1010*10*10*2)()()()()()()(MkxxMiMkxdxdMkdkirihkhkrkhkrkh|)()()(|210knxkhndEMkhRhhRRhxxxdxddTTT*)()()(*2均方误差与滤波器的单位脉冲响应是一个二次函数关均方误差与滤波器的单位脉冲响应是一个二次函数关
14、系。由于单位脉冲响应系。由于单位脉冲响应h(n)为为M M维向量，因此均方误差维向量，因此均方误差是一个是一个M M维超椭圆抛物形曲面，该曲面有极小点存在。维超椭圆抛物形曲面，该曲面有极小点存在。当滤波器工作于当滤波器工作于最佳状态时，均方误差取得最小值。最佳状态时，均方误差取得最小值。1010*10*10*2)()()()()()()(MkxxMiMkxdxdMkdkirihkhkrkhkrkhxdxxxdxdxxxxxdxxdRRRRRhRRRhneE1*1*122)()(|)(|TTxdxxxddRRRneE1*2min2)(|)(|ToptxddhRT)(*2xdxxRRh1例例:设设
15、y(n)=x(n)+v2(n),v2(n)是白噪声是白噪声,方差方差22=0.1.期望期望信号信号x1(n)的信号模型如的信号模型如图图(a)(a)所示，其中白噪声所示，其中白噪声v1(n)的的方差方差21=0.27,b0=0.8458。x(n)的信号模型如图的信号模型如图(b)(b)所示所示，b1=0.9458。假定假定v2(n)与与x(n)、x1(n)不相关，并都是实信不相关，并都是实信号。设计一个维纳滤波器，得到该信号的最佳估计，要号。设计一个维纳滤波器，得到该信号的最佳估计，要求滤波器是一长度为求滤波器是一长度为2 2的的FIRFIR滤波滤波器。器。xdxxRRh121hhh)1()0
16、(xdxdxdrrR)0()1()1()0(xxxxxxxxxxrrrrR解解观测数据为观测数据为y(n)，期望信号为，期望信号为x1(n)(1mryx)(mryy)()()(2nvnxny)()()(mnynyEmryy)()(22mrmrvvxx)()()()(22mnvmnxnvnxE)9458.01)(8458.01(1)()()(1121zzzHzHzH)()2()1()(121nvnxanxanx)(*mnx)()()2()1()(121mnxnvEmramramrxxxxxxH1(z)H2(z)v1(n)x1(n)x(n)y(n)v2(n)1.0)()()2()1()(121mn
17、xnvEmramramrxxxxxx0)()()2()1()0(121nxnvErararxxxxxx1)0(xxr)1()()1()0()1(121nxnvErararxxxxxx)2()()0()1()2(121nxnvErararxxxxxx)(21nvE05.0)1(xxr)()2()1()(121nvnxanxanx)0()1()1()0(yyyyyyyyyyrrrrR)0()0()1()1()1()1()0()0(22222222vvxxvvxxvvxxvvxxrrrrrrrr1.15.05.01.11)0(xxr5.0)1(xxrm=0,1)()()(11mnxnyEmryx)(
18、)(1mnxnxE)()()(2nvnxny)()()(22mrmrmrvvxxyy计算输出信号与期望信号的互相关函数矩阵计算输出信号与期望信号的互相关函数矩阵1yxR)()()(11mnxnxEmryx)1()()(11nxbnxnx)1()()(1mnxbmnxnxE)1()(1mrbmrxxxx)1()()(11nxbnxnx)1()0()0(11xxxxyxrbrr5272.0)0()1()1(11xxxxyxrbrr4458.04458.05272.0ydRydyyoptRRh11.15.05.01.1yyR4458.05272.0ydR7853.08360.0该维纳滤波达到最佳状该
19、维纳滤波达到最佳状态时的均方误差态时的均方误差optThRneEydd)(|)(|*2min2)()0(21211nxErxxd)1()()(1011nxbnvnx22021db)1()1()(2)(212011021nxbnxnvbnvE9486.0optThRneEydd)(|)(|*2min21579.03 3 离散维纳滤波器的离散维纳滤波器的z域解域解 在时域设计维纳滤波器就是求解在时域设计维纳滤波器就是求解维纳维纳-霍夫方程霍夫方程)()()(0mkrmhkrmxxxd)()(krkhxx 1)1)求解该方程时需要计算自相关函数矩阵求解该方程时需要计算自相关函数矩阵Rxx的的逆矩阵，
20、使得运算量很大。逆矩阵，使得运算量很大。2)2)滤波器的长度事先不能确定，当改变长度时，滤波器的长度事先不能确定，当改变长度时，所有数据就需要重新进行计算。效率很低。所有数据就需要重新进行计算。效率很低。因此，维纳滤波器的设计和求解，一般是在频因此，维纳滤波器的设计和求解，一般是在频域和复频域进行。域和复频域进行。xdxxRRh1若不考虑滤波器的因果性若不考虑滤波器的因果性)()()(zSzHzSxxoptxs设设d(n)=s(n)，对上式两边做，对上式两边做z变换，得变换，得)()()(zSzSzHxxxsopt)()()()()(krkhmkrmhkrxxmxxxd-k假设期望信号和噪声不
21、相关，即假设期望信号和噪声不相关，即rsv(m)=0，则，则 )()()(*mnsnvnsE)()()(*mnsnxEmrxs)(mrss)()(mrmrvsss上式表示，当噪声为上式表示，当噪声为0 0时，信号全部通过；当信号时，信号全部通过；当信号为为0 0时，噪声全部被抑制掉，因此维纳滤波确有滤时，噪声全部被抑制掉，因此维纳滤波确有滤除噪声的能力。除噪声的能力。)()(zSzSssxs)()()(zSzSzSvvssxx)()()()(*mnvmnsnvnsE)()()(*mnxnxEmrxx)()(mrmrvvss)()()()(mrmrmrmrvvvssvss)()()(zSzSzS
22、vvssss)()()(zSzSzHxxxsopt011)e(joptHPss(ej)0,Pvv(ej)=0 Pss(ej)0,Pvv(ej)0 Pss(ej)=0,Pvv(ej)0 图图 非因果维纳滤波器的传输函数的幅频特性非因果维纳滤波器的传输函数的幅频特性 Hopt(ej)PSS(ej)Pvv(ej)0 然而实际的系统都是因果的。对于一个因果系然而实际的系统都是因果的。对于一个因果系统，不能直接转入频域求解的原因是统，不能直接转入频域求解的原因是由于输入信号由于输入信号与期望信号的互相关序列是一个因果序列与期望信号的互相关序列是一个因果序列，如果能，如果能够把因果维纳滤波器的求解问题转化
23、为非因果问题，够把因果维纳滤波器的求解问题转化为非因果问题，求解方法将大大简化。求解方法将大大简化。0|)(|2jhneEj=0,1,2,0)()(*nejnxEk=0,1,2,0)()(*neknxE)()()()()(0krkhmkrmhkrxxmxxxd 假设观测数据假设观测数据x(n)的信号模型的信号模型B(z)已知，求出信已知，求出信号模型的逆系统号模型的逆系统B-1(z)，将，将x(n)作为输入，那么逆系统作为输入，那么逆系统的输出的输出(n)为白噪声。为白噪声。回顾前面讲的时间序列信号模型回顾前面讲的时间序列信号模型 把信号转化为白噪声的过程称为白化，对应的滤把信号转化为白噪声的
24、过程称为白化，对应的滤波器称为白化滤波器波器称为白化滤波器.x(n)的白化滤波器的白化滤波器 )(n)(nx)(1zB)(n)(nx)(zBx(n)的时间序列信号模型的时间序列信号模型 用白噪声作为维纳滤波器用白噪声作为维纳滤波器G(z)的输入，假设的输入，假设1/B(z)为信号为信号x(n)的白化滤波器的传输函数，那么关于的白化滤波器的传输函数，那么关于x(n)的的维纳滤波器的传输函数维纳滤波器的传输函数H(z)表示为表示为 )()()(zBzGzH因此，维纳滤波器因此，维纳滤波器H(z)的求解转化为的求解转化为G(z)的求解的求解图图 维纳滤波解题思路维纳滤波解题思路 )(n)(nx)(1
25、zB)()(nsny)(zG)()()()(ngnnsny3.1 3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解)(n)(nx)(1zB)()(nsny)(zG 假设待求维纳滤波器的输入为假设待求维纳滤波器的输入为(n)，期望信号，期望信号d(n)=s(n)，系统的输出信号，系统的输出信号 ，g(n)是是G(z)的逆的逆z变换变换 )()(nsnykknkg)()(|)(|2neE均方误差为：均方误差为：kkrknsknkgnsknkgErnknrgkgEnsE)()()()()()()()()()(|)(|*22)()()(kknkgnsE|)()(|2nynsE)()()()(|)(
26、|)0(*22krkgkrkgkgrkkskssskskskrkrkgr222|)(|)()()0(ss 均方误差的第一项和第三项都是与均方误差的第一项和第三项都是与g(k)无关的常无关的常数数,要使均方误差为最小，当且仅当要使均方误差为最小，当且仅当 0)()(krkgs -k 因此因此g(k)的最佳值为的最佳值为 2)()(krkgsopt对上式两边同时做对上式两边同时做z变换，得变换，得 2)()(zSzGsopt -k 因此，非因果维纳滤波器的最佳解为因此，非因果维纳滤波器的最佳解为 )()()(optoptzBzGzH根据相关卷积定理根据相关卷积定理,得得对上式两边做对上式两边做z变
27、换，得到变换，得到 )()()(1zBzSzSxss)()(12zBzSs)()()(nnsns)()()(nbnnx)()()(mbmrmrsxs)(zSxs)()()(1zBzSzSsxs非因果的维纳滤波器的复频域非因果的维纳滤波器的复频域最佳解的一般表达式最佳解的一般表达式 )()()(11)(12zBzSzBzHxsopt假定信号与噪声不相关，即假定信号与噪声不相关，即Es(n)v(n)=0)()(zSzSxxxs)()()()(*mnsnvnsEmrxs)(mrss)()()()(*mnvmnsnvnsE)()()(*mnxnxEmrxx)()(mrmrvvss)()(zSzSssx
28、s)()()(zSzSzSvvssxx得到信号和噪声不相关时，非因得到信号和噪声不相关时，非因果维纳滤波器的复果维纳滤波器的复频域最佳解和频率响应分别为频域最佳解和频率响应分别为 )()()()()()(optzSzSzSzSzSzHvvssssxxxs)()()()(jjjjopteeeevvssssSSSH)()()(vvssssPPP 下面推出在复频域下面推出在复频域(z域域)计算维纳滤波器最小均计算维纳滤波器最小均方误差方误差E|e(n)|2min的计算方法的计算方法kssskrrneE22min2|)(|)0(|)(|)0(ssr)(mrss)(zSss)(mrs)(zSs)(zSs
29、s)()(1zBzSxsCxxvvsszdzzSzSzSjneE)()()(21|)(|min2CxxvvsszdzzSzSzSjneE)()()(21|)(|min2 维纳滤波器的最小均方误差不仅与输入信号的功维纳滤波器的最小均方误差不仅与输入信号的功率谱，而且与信号和噪声的功率谱乘积有关，也就是率谱，而且与信号和噪声的功率谱乘积有关，也就是说，最小均方误差与说，最小均方误差与信号和噪声功率谱的重叠部分的信号和噪声功率谱的重叠部分的大小有关大小有关维纳滤波器是一个因果滤波器时，有维纳滤波器是一个因果滤波器时，有g(n)=0 n0 则滤波器的输出为则滤波器的输出为 0)()()()()()(k
30、knkgngnnsny类似于非因果时的推导，可得类似于非因果时的推导，可得022202|)(|1)()()0(|)(|kskssskrkrkgrneE3.2 3.2 因果维纳滤波器的求解因果维纳滤波器的求解均方误差为：均方误差为：|)(|2neE20)()()(kknkgnsE|)()(|2nynsE要使均方误差取得最小值，当且仅当要使均方误差取得最小值，当且仅当 000)()(2nnnrngsopt0)()(nnssznrzS)(ngopt)(nrs 双边序列双边序列 取其因果部分取其因果部分 )()()(2nunrngsopt求解因果序列问题转化为求解非因果序列的问题求解因果序列问题转化为
31、求解非因果序列的问题)(12zSs)()(ngzGoptoptZT)()(1)(12optzBzSzGxs所以因果维纳滤波器的复频域最佳解为所以因果维纳滤波器的复频域最佳解为 )()()(zBzGzHoptopt)(1)(2zSzGsopt)()()(1zBzSzSxss)()()(1112zBzSzBxs对于非因果情况对于非因果情况kssskrrneE22min2|)(|)0(|)(|对于因果情况对于因果情况 022min2|)(|)0(|)(|kssskrrneE非因果情况的非因果情况的E|e(n)|2min一定小于等于因果情况一定小于等于因果情况E|e(n)|2min (2)(2)求求的
32、的z反变换，取其因果部反变换，取其因果部分再做分再做z变变换，即舍掉单位圆外的极点，得换，即舍掉单位圆外的极点，得)()(1zBzSxs)()(1zBzSxs因果维纳滤波器设计的步骤为：因果维纳滤波器设计的步骤为：(1)(1)根据观测信号根据观测信号x(n)的功率谱求出所对应的信号的功率谱求出所对应的信号模型的传输函数，即采用谱分解方法得到模型的传输函数，即采用谱分解方法得到B(z)。方法。方法为为Sxx(z)=2B(z)B(z-1)，单位圆内的零极点分配给，单位圆内的零极点分配给B(z)，单位圆外的零极点分配给单位圆外的零极点分配给B(z-1)，系数分配，系数分配2(3)(3)()()(11
33、)(12zBzSzBzHxsopt022min2|)(|)0(|)(|kssskrrneE例例 已知已知 )8.01)(8.01(36.0)(1zzzSss信号和噪声不相关信号和噪声不相关,rsv(m)=0，噪声，噪声v(n)是零均值、单位是零均值、单位功率的白噪声功率的白噪声(2v=1,mv=0)，求，求Hopt(z)和和E|e(n)|2min)()()(zSzSzSvvssxx解解1)8.01)(8.01(36.01zz)8.01)(8.01()5.01)(5.01(6.111zzzz)()(12zBzB)()()(11)(12zBzSzBzHxsopt根据白噪声的特点得出根据白噪声的特点
34、得出Svv(z)=1,由噪声和信号不相由噪声和信号不相关，关，得到得到rxx(m)=rss(m)+rvv(m)118.015.01)(zzzB(1)(1)首先分析物理可实现情况首先分析物理可实现情况)()()(11)(12zBzSzBzHxsoptzzzB8.015.01)(16.12)5.01)(8.01(36.0)5.01(6.18.01111zzzz)8.01)(8.01(36.0)()(1zzzSzSssxs)5.01)(8.01(36.01zz)5.01)(8.0(36.0zzzzzzz5.013.08.06.01118.016.0)5.01(6.18.01)(zzzzHopt15.
35、01183z022min2|)(|)0(|)(|kssskrrneE)8.01)(8.01(36.0)(1zzzSsszzzz8.018.08.008.0)0(kkssr)8.01)(8.0(36.0zzz1)()()(1zBzSzSxss)5.01)(8.01(36.01zzzzzz5.013.08.06.008.06.0)(kkrks08.06.0)(kkrks02)(kskr064.036.0kk164.01136.0022min2|)(|)0(|)(|kssskrrneE6.11183观测数据的均方误差为观测数据的均方误差为22|)()(|)(|nsnxEneE1|)(|22vnvE(
36、2)(2)对于非物理可实现情况对于非物理可实现情况,有有 )()()()()()(zSzSzSzSzSzHvvssssxxxsopt)8.01)(8.01(36.0)(1zzzSss)()()(zSzSzSvvssxx1)8.01)(8.01(36.01zz)8.01)(8.01()5.01)(5.01(6.111zzzz)5.01)(5.01(225.0)(1zzzHoptkssskrrneE22min2|)(|)0(|)(|08.0)0(kkssr1)()()(1zBzSzSxss)5.01)(8.01(36.01zz)1(26.0)(8.06.0)(kukukrkkszzzz26.08.
37、06.0kskr2)(10436.064.036.0kkkk112.0103可以看出非物理可实现情况的最小均方误差小于物理可以看出非物理可实现情况的最小均方误差小于物理可实可实现情况的均方误差。现情况的均方误差。4 4 维维 纳纳 预预 测测 )()()()()(optzSzSzSzSzHxxxyxxxsdSxx(z)是观测数据的功率谱是观测数据的功率谱;Sxyd(z)是观测数据与期望信是观测数据与期望信号的号的互功率谱，即互相关函数互功率谱，即互相关函数rxyd(k)的傅里叶变换的傅里叶变换 )()(*)(knynxErdkxyd4.1 4.1 维纳预测的计算维纳预测的计算在维纳滤波中，期望
38、的输出信号在维纳滤波中，期望的输出信号yd(n)=s(n)，实际的输，实际的输出为出为 。在维纳预测中，期望的输出信号。在维纳预测中，期望的输出信号yd(n)=s(n+N)，实际的输出，实际的输出 。前面已。前面已经经推导得到维纳滤波的最佳解为推导得到维纳滤波的最佳解为 )()(Nnsny)()(nsny 对应于维纳预测器，其输出信号对应于维纳预测器，其输出信号y(n)和预测误差和预测误差信号信号e(n+N)分别为分别为 1)()()()(mmNnxmhNnsny要使预测误差的均方值为最小，须满足要使预测误差的均方值为最小，须满足 0|)(|2khNneE其中，其中，hk表示表示h(k)()(
39、)(NnsNnsNne 观测数据与期望的输出的互相关函数观测数据与期望的输出的互相关函数rxyd(k)和互功和互功率谱密度率谱密度Sxyd(z)分别为分别为 )()()(*knynxEkrdxyd非因果维纳预测器的最佳解为非因果维纳预测器的最佳解为 )()()(zSzSzHxxxydopt因果维纳预测器的最佳解为因果维纳预测器的最佳解为 )()()(11)(12zBzSzBzHdxyoptNxsxyzzSzSd)()()()(*kNnsnxE)(kNrxs)()(zSzSzxxxsN)()()(1112zBzSzzBxsN维纳预测的最小均方误差为维纳预测的最小均方误差为 CxysszdzzSz
40、HzSNneEd)()()(21|)(|1min2optj从上面分析可以看出，维纳预测的求解和维纳从上面分析可以看出，维纳预测的求解和维纳滤波器的求解方法是一致的。滤波器的求解方法是一致的。CNxssszdzzzSzHzS)()()(211optj 假设假设x(n)=s(n)+v(n)，式中，式中v(n)是噪声，当是噪声，当v(n)=0，期望信号为期望信号为s(n+N),N0，此种情况称为纯预测。，此种情况称为纯预测。)()()()()(12zBzBzSzSzSssxsxx4.2 4.2 纯预测纯预测 假定维纳预测器是因果的，纯预测情况下的输入假定维纳预测器是因果的，纯预测情况下的输入信号的功
41、率谱及信号的功率谱及维纳预测器的最佳解分别为维纳预测器的最佳解分别为 )()()(11)(12zBzSzzBzHxsNopt)()(1zBzzBN纯预测器的最小均方误差为纯预测器的最小均方误差为 CNxssszdzzzSzHzSNneE)()()(21|)(|1min2optj应用复卷积定理应用复卷积定理 CNNzdzzzBzBzBzBzzBzB)()()()()()(211212jCNNzdzzBzzzBzBzB)()()()(2112jnnNnbnuNnbnbNneE)()()()(|)(|22min200222)()(nnNnbnbb(n)是因果系统是因果系统)(1022nbNn当预测的
42、距离越远，预测的效果越差，偏差越大，当预测的距离越远，预测的效果越差，偏差越大，因而因而 越大。越大。min2|)(|NneE解解)1)(1(1)(12azazazSxx例：已知例：已知 )1)(1(1)(),()(12azazazSnsnxxx其中其中-1a1，求求:(1)(1)最小均方误差下的最小均方误差下的 (2)(2)E|e(n+N)|2min )(Nns对对Sxx(z)进行功率谱分解进行功率谱分解)()(1)(zBzzBzHNopt221a)()(12zBzB111)(azzB111)(azzB11azzN)()(1)(zBzzBzHNopt)()(1)(zBzzBzHNopt)(n
43、uan)(nuaNn)(NnuaNn11azaN取因果取因果NNaazaaz111)1(纯预测维纳滤波器纯预测维纳滤波器 aNx(n)y(n)由由Hopt(z)=aN，此时可以把纯预测的维纳滤波器看作是，此时可以把纯预测的维纳滤波器看作是一个线性比例放大器一个线性比例放大器。111)(azzB可以写出可以写出x(n)所对应的输入输出差分方程所对应的输入输出差分方程 )1()()(naxnnx根据根据x(n)的时间序列信号模型的时间序列信号模型已知已知x(n-1),x(n-2),x(n-p),预测预测x(n)，假设噪声，假设噪声v(n)=0，称为一步称为一步线性预测。设定系统的单位脉冲响应为线性
44、预测。设定系统的单位脉冲响应为h(n)，则输出信号则输出信号y(n)为为 pkknxkhnxny1)()()()(令令apk=-h(k)，则，则 pkpkknxanx1)()(预测误差预测误差 )()()(nxnxne4.3 4.3 一步线性预测的时域解一步线性预测的时域解pkpkknxanx1)()(pkpkknxa0)(其中其中,ap0=1212)()(|)(|pkpkknxanxEneE要使均方误差为最小值，要求要使均方误差为最小值，要求 planeEpl,2,10|)(|2与维纳滤波的推导过程类似与维纳滤波的推导过程类似,可以得到可以得到正交性原理正交性原理 均方预测误差均方预测误差
45、pllnxneE,2,10)()(*pkpkknxanxne1)()()(将误差公式代入上式将误差公式代入上式 pkxxpkxxlkralr10)()(pllnxneE,2,10)()(*0)()()()(*1*knxlnxEanxlnxEpkpk0)()()(1*pkpkknxanxlnxEpl,2,1由于预测器的输出由于预测器的输出 是输入信号的线性组合，得是输入信号的线性组合，得 )(nx0)()(*nxneEpkknxkhnxny1)()()()(说明误差信号与输入信号满足正交性原理，预测误差说明误差信号与输入信号满足正交性原理，预测误差与预与预测的信号值同样满足正交性原理。测的信号值
46、同样满足正交性原理。)()()(|)(|*min2nxnxneEneE预测误差的最小均方值预测误差的最小均方值 0)()(*nxneE)()(*nxneE)()()(1*nxknxanxEpkpkpkxxpkxxkrar1)()0(pkxxpkxxneEkrar1min2|)(|)()0(将方程组写成矩阵形式将方程组写成矩阵形式 00|)(|1)0()1()()1()0()1()()1()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxxpkxxpkxxpllkralr1,2,10)()(这就是有名的这就是有名的Yule-Walker方程方程Yule-
47、Walker方程具有以下特点：方程具有以下特点：(1)(1)除了第一个方程外，其余都是齐次方程除了第一个方程外，其余都是齐次方程;(2)(2)与维纳与维纳-霍夫方程相比，不需要知道观测数据霍夫方程相比，不需要知道观测数据x(n)与期望信号与期望信号s(n)的互相关函数。的互相关函数。该方程组有该方程组有p+1个方程，对应地，可以确定个方程，对应地，可以确定apk,k=1,2,p和和Ee2(n)min，共计，共计p+1个未知数，因此可用个未知数，因此可用来求解来求解AR模型参数。这就是后面要介绍的模型参数。这就是后面要介绍的AR模型法模型法进行功率谱估计的原理，它再一次揭示了时间序列信进行功率谱
48、估计的原理，它再一次揭示了时间序列信号模型号模型、功率谱和自相关函数描述一个随机信号的等、功率谱和自相关函数描述一个随机信号的等价性。价性。对对Sxx(z)做做z反变换，得到反变换，得到x(n)的自相关函数的自相关函数rxx(m)rxx(m)=0.8|m|采用试验的方法确定模型阶数采用试验的方法确定模型阶数p。先取。先取p=2，代入，代入Yule-Walker方程方程 00118.064.08.018.064.08.01221aa例：已知例：已知 )8.01)(8.01(36.0)(1zzzSxxx(n)为为AR模型，求模型，求AR模型参数模型参数 求解求解ARAR模型参数包括确定模型参数包括
49、确定ARAR模型的阶数模型的阶数p及系数及系数ap1,ap2,app解解计算得计算得 a1=-0.8，a2=0,2=0.36 取取p=3，可计算出，可计算出a1=-0.8,a2=a3=0,2=0.36，说明，说明AR模型的阶数是一阶的。模型的阶数是一阶的。18.011)(zzB采用谱分解的方法，即对采用谱分解的方法，即对Sxx(z)进行谱分解，得到的模进行谱分解，得到的模型也是一阶的，其时间序列模型和差分方程为型也是一阶的，其时间序列模型和差分方程为)1(8.0)()(nxnnx)8.01)(8.01(36.0)(1zzzSxx设计维纳滤波器要求已知信号和噪声的统计特性。设计维纳滤波器要求已知
50、信号和噪声的统计特性。维纳滤波器最大缺点是仅适用于一维平稳随机信号维纳滤波器最大缺点是仅适用于一维平稳随机信号为了解决非平稳、多输入多输出随机序列的估计问为了解决非平稳、多输入多输出随机序列的估计问题，卡尔曼提出了递推最优估计理论。题，卡尔曼提出了递推最优估计理论。卡尔曼递推法根据前一个状态的估计值和最近的观卡尔曼递推法根据前一个状态的估计值和最近的观测数据，递推估计当前的状态值。适合于计算机处测数据，递推估计当前的状态值。适合于计算机处理，可以处理多维、非平稳随机信号，已广泛的应理，可以处理多维、非平稳随机信号，已广泛的应用于很多领域。用于很多领域。2.5 2.5 卡尔曼卡尔曼(Kalman
