1、确定性信号:信号随时间的变化有确定的规律，只要条件相同，不论何人、何时、何地观察总成同一性质。其每个时间点上的值可以用某个数学表达式或图表唯一地确定的信号。随机信号：信号的变化不遵循任何确定性的规律，而是一个随机变量随时间变化的过程。只能用统计的方法进行描述，只能在一定的准确性（accuracy）或可信性（confidence）范围内进行预测。随机相位信号许多样本函数的集合 0(,)cos()iiix nAn 样本函数01020304050607080-10101020304050607080-10101020304050607080-10101020304050607080-10112340
2、()cos()X nAn 例 分析随机相位信号(-,)U 050100150200-505050100150200-505050100150200-505050100150200-505接收机噪声 t1随时间变化的随机变量-随机变量的集合例 分析接收机的噪声X(t1)随机过程的直观解释:对随机相位信号或噪声信号作一次观测相当于做一次随机试验，每次试验所得到的观测记录结果xi(t)是一个确定的函数，称为样本函数，所有这些样本函数的全体构成了随机过程X(t)。S1(,)X t e2(,)X t e3(,)X t e1e2e3e设随机试验E的样本空间为S=e，对其每一个元素ei（i=1,2,.）都以
3、某种法则确定一个样本函数x(t,ei)，由全部元素e所确定的一簇样本函数X(t,e)称为随机过程，简记为X(t)。随机过程也称随机信号、随机函数或随机序列 随机信号是随机变量的时间过程随机过程的概率分布(;)()XFx nP X nx(;)(;)XXFx nfx nx对于随机序列：一维概率分布：对于某特定时刻t，X(t)是个随机变量，设x为任意实数，定义一维概率分布为一维概率密度(;)(;)XXFx tfx tx(;)()XFx tPXtx二维概率分布注意：X(t1)及X(t2)为同一随机过程在两个不同时刻的状态对应的随机变量。21212121212(,;,)(,;,)XXFx xt tfx
4、xt tx x 12121122(,;,)(),()XFxxttPXtxXtxN维分布12121122(,;,)(),(),()XNNNNFxxxtttP XtxXtxXtx1212121212(,;,)(,;,)NXNNXnNNFxxxt ttfxxxt ttxxx 在随机信号情况下，一般的说，概率密度函数是时间函数，能完整地完整地表现随机变量和随机过程的统计性质表现随机变量和随机过程的统计性质。对于一个随机信号，虽然我们不能确定它的每个时刻的值，但可以从统计平均的角度来认识它。我们可以知道它在每个时刻可能取哪几种值和取各种值的概率是多少，以及各个时间点上取值的关联性。因此，如果已经知道了它
5、的概率分布，我们就认为对这个随机信号在统计意义上有了充分的了解。而随机过程的各种统计特征量分别从各个侧面间接反映了概率分布特性。可以用概率密度函数概率密度函数来描述随机信号的统计特征。由下表可以看出，随着抛掷次数的增加，比值m/n在1/2附近摆动，而且总是在1/2附近摆动。这种在个别实验中其结果呈现不确定性，在大量重复实验中其结果又具有规律性的现象，称之为随机现象。大量同类随机现象所呈现的固有规律称为随机现象的统计特征统计特征。n阶原点矩：，21)(nXEXEnn,2,1nXEmnnn阶中心矩：数字特征.数字期望（均值）：随机过程的均值是时间t的函数，也称为均值函数，统计均值是对随机过程中所有
6、样本函数在时间t的所有取值进行概率加权平均，所以又称为集合平均。随机过程的均值可以直观地理解为在t时刻所有样本函数取值的一取值中心，它反映了样本函数统计意义下的平均变化规律。随机过程的数字特征一般不是常数，而是时间t（或n）的函数，因此也常称为矩函数()()(;)xXm tE X txfx t dx2 2.方差：方差：22()()()xxtE X tm t 方差反映了一个随机过程的取值相对于均值起伏的大小,一个起伏较大的过程方差也大.3 3.均方值：均方值：2()xE X tD它反映的是随机信号的平均功率。易得：222()()()xxtE X tm t数字特征表示单一时刻随机变量的特征；自相关
7、函数表征信号在不同时刻取值间的关联程度。对随机信号，自相关函数的定义须从统计概念入手，如下图所示的随机过程 总体自相关：式中，表示随机变量x1,x2的二阶联合概率密度函数。1212(,;,)f x x t t()()1212121121212121(,)()()lim(,;,)NiixNiR t tE X t X txxNx x f x x t t dx dx 上图两随机过程具有相似均值和方差的随机过程,但自相关函数不同.自相关函数反映了随机过程在两个不同的时刻取值的依赖性 自相关函数可正可负，其绝对值越大，表示相关性越强。一般说来，时间相隔越远，相关性越弱，自相关函数的绝对值也越弱，当两个时
8、刻重合时，其相关性应是最强的，所以RX(t,t)最大。自协方差自协方差 实际进行信号处理时，往往先把均值（直流分量）去掉再做剩余部分的相关函数：121122(,)()-()()-()xxxCt tEX tm tX tm t周期性非周期性确定性各态遍历非各态遍历平稳非平稳性随机性物理信号在随机信号情况下，一般的说，概率密度函数是时间函数，能完整地完整地表现随机变量和随机过程的统计性质表现随机变量和随机过程的统计性质。如果随机过程的任意N维分布不随时间起点的不同而变化，即当时间平移c时，其任意的N维概率密度函数不变化，则称该随机过程是平稳的。根据定义有：1111(,.,;,.,)(,.,;,.,)
9、xNNxNNfxxtctcfxxtt12121212(,;,)(,;)()xxfx x t tfx xtt(;)()xxfx tfx则一维概率密度二维概率密度平稳过程与非平稳过程：如果随机信号的统计特性与开始进行统计分析的时刻无关，则为平稳随机过程，否则为非平稳随机过程。(弱、强，广义平稳)弱平稳、广义平稳：随机过程的一阶矩和二阶矩不随给定时刻t而变化，也称平稳过程。强平稳：随机过程除了一阶矩和二阶矩的结果外，它的无限个高阶矩和联合矩的结果都不随给定时刻t而变化，称为强平稳过程。下图中每一行曲线代表随机信号的一个样本（一个实现）随机信号在不同时刻是取值不同的随机变量，如在t1时刻，随机变量x1
10、的取值分别为x1(1),x1(2),x1(3).它们的分布遵循概率密度函数，在t1时刻，随机变量X1的取值样本分布服从f(x1;t1)，t2时刻，随机变量x2服从f(x2;t2)则有：若 f(x1;t1)=f(x2;t2)则总有 E(x1)=E(x2)则此随机过程在均值意义上平稳均值意义上平稳()11111111()lim(;)NiNiE xxx f x t dxN 设x(i)(t1)表示第i个样本在t1时刻的取值，如果如果总体平均等于时间平均：则在均值意义上为各态遍历的。等式左边称为总体均值，右边为时间均值。TT-(i)TN1i(i)Ndt)t(x2T1lim)t1(xN1lim如果所有样本
11、在固定时刻的统计特征和单一样本在全时间上的统计特征一致，则为各态遍历的随机过程。例例1 1：随机相位正弦波x(t)=Asin(0t+)，式中A，0是固定值，是随机变量，其取值在0 2pi之间均匀分布，即f()=1/2pi (02pi).00202001limsin()2()()sin()()()()()1sin()02TxTTAAmAtdtTE xxfx dxxAtlE xlfdAtd 过程的时间均值：过程的总体均值：平稳性：因为任意时刻信号取值的概率密度函数都一样(在1与-1之间均匀分布)所以是平稳的。各态遍历性：因为信号的时间平均随样本而异，信号的总体平均为零，两者不同，故而不是各态遍历。
12、1样本2样本N样本平稳性：因为任意时刻信号取值的概率都是p(x=0)=p(x=A)=1/2，总体均值为A/2，平稳的。各态遍历性：因为任意样本的时间平均也是A/2，故而是各态遍历的。T 2T 3T 4T1样本2样本N样本22(;)xE xDx f x t dx1.数字期望（均值）：2.均方值：3.方差：(;)xmE xxfx t dx222()()(;)xxxExmxmf x t dx对于平稳随机过程，方差、均值、均方值都是与时间无关的常数对于平稳过程，因为联合概率密度函数只是t1,t2差值的函数，所得结果只与其有关，与时间起点t1无关，因而可写为：当过程各态遍历时，它又等于单一样本的自相关函
13、数，如下式所示：121212()(,;)()()xRx x f x xdx dxE x t x t dttxtxTRTTTx)()(21lim)(xxxmtxmtxEC)(-)()(自协方差自协方差自相关自相关实信号x(t)的自相关函数有以下主要特征：自相关不等式：，当 0对称性：自相关函数是偶函数极限值：波形的相邻值越是独立无关，随 衰减的越快。可以证明：)()0(xxRR)()(xxRR)(xR)()0()()(lim222xEDRxEmRxxxx 最后，再对随机信号独立、不相关和正交的含义作一些解释。概率课上已经知道，对随机变量x,y而言：x,y独立，则 f(x,y)=f(x)f(y);
14、x,y不相关，则 E(xy)=E(x)E(y);x,y正交，则 E(xy)=0 推广到随机过程x(t)、y(t)，这些定义要适当的扩展，把时间这一因素考虑在内，即x(t)、y(t)独立，不但意味着同一时刻f(x1,y1)=f(x1)f(y1)，而且要求不同时刻的f(x1,y2)=f(x1)f(y2)；x(t)、y(t)不相关，不但意味着同一时刻的E(x1y1)=E(x1)E(y1)，而且要求不同时刻的E(x1y2)=E(x1)E(y2)，也就是，或可见两随机过程不相关是指 它们的互协方差为0。x(t)、y(t)正交，不但意味着同一时刻E(x1y1)=0，更严格的，还应要求E(x1y2)=0，不
15、过实际工作中常把两随机 过程正交理解成只要求E(x1y1)=0，即，例如，通 常说sinw0t和cosw0t是正交的。生物医学信息研究中往往需要同时观察几个信号。例如，脑电图通常要在头皮的多个位置同时测量。当研究几组随机信号的相互关系时，需要采用联合特征来描述。下面只着重讨论两个信号x(t)和y(t)间的二阶统计特征：互相关函数。讨论二阶统计特性时要引用的是两个变量间的二维联合概率密度函数如果它不依赖时间原点的位置，则称此两过程是广义联合平稳的。1212(,;,)f x y t t()()1212121212121211(,)()lim(,;,)NiixyNiRt tE x yxyx y f
16、xyt tdx dyN)(),()()(tytxii互相关函数互相关函数 互相关函数说明两个随机信号x(t)和y(t)在不同时刻取值间的关联程度。设有x(t)和y(t)的一组样本)(11)()(iixtx)(22)()(iiytyt1时刻：t2时刻：则总体互相关函数为：121212()()()(,;)xyRE x t y tx y f xydx dy dttytxTRTTTxy)()(21lim)(12tt当过程联合平稳时，如 则又可写作：如果平稳过程同时又是各态遍历的，则互相关函数又可以由单一样本从时间上来统计。时间互相关函数：12121212()()()()()(,;)xyxyxyCExm
17、ymxmymf xydx dyTTyxTxydtmtymtxTC)()(21lim)(yxxyxymmCR)()(和自相关函数情况一样，如果从x(t),y(t)中去掉均值再做类似统计，所得结果成为互协方差函数。总体互协方差为：时间互协方差为：容易证明：)()(yxxyRR)()(yxxyRR互相关函数的性质：互相关函数的性质：对称性对称性 当x(t),y(t)是实信号时，互相关函数也是实函数，但不具备偶对称性。且但有如下关系，平稳时：0)0()0()(yxxyRRR)0()0(21)(yxxyRRR不等式不等式 互相关函数与自相关函数不同，当 时未必最大。但它具有以下的不等式关系：0)(xyC
18、yxxymmR)(极限值极限值 对于通常的信号，当时，因此可知此时：傅氏分解是从频域上描述信号的基本工具。在确定性情况下，当信号是周期性时可分解成傅氏级数，构成离散频谱。当信号是非周期性时可做傅氏变换。但随机信号一般既不是周期的，又不是平方可积（或绝对可积）的，因此严格地说，既不能作傅氏级数分解，又不能作傅氏变换。为了解决这一困难，维纳首先提出了广义谐波分析的概念。其指出：随机信号的傅氏分析可以从极限意义上来讨论。取随机信号在有限时间内（-T-+T）的一段，并定义：，其它，0)()(TtTtxtxT由于时间有限，存在傅氏变换，即)()(TFTTXtx取极限值：TXTT2)(lim2并就全部样本
19、集合从总集意义上求均值，便得功率谱的定义如下：2()()lim2TxTXGET()()jxxGRed1()()2jxxRGed可以证明，上式又可以表示成自相关函数的傅氏变换：反演关系是：功率谱的主要性质如下：功率谱的主要性质如下：功率谱是非负的函数；对称性：对于实信号，由于它的自相关函数是实偶函数，所以功率谱也是偶函数：*()();()()xxxxGGGG01()()2jxxRGed1(0)()2xxxRDGd()xG 极限值 可见，功率谱曲线在横轴上的面积，正比于信号的均方（即平均功率）。因此 表示各频率成分功率的密度，这就是功率谱密度得名的由来。)sin()(0tAtx1(),022f例例
20、4 4：求随机相位正弦波的总体自相关函数和时间自相关函数及其功率谱。1212121212(,)(,;,)xR t tx x f x x t t dx dx)(1tx)(2tx)sin()(101tAtx)sin()(202tAtx2120 10 20220 10 20202120(,)sin()sin()()sin()sin()2cos()2cos2xR t tAtAtfdAttdAttA 解：总体自相关总体自相关：由于是同一个的函数，即所以上式可以转化成对来求得时间自相关：时间自相关：令t1=t,t2=t+,则有dttAtATRTTTx)(sin()sin(21lim)(0002cos2A由
21、上面两个结果，知过程是平稳且各态遍历的。功率谱：功率谱：200()()()2xAG 由傅氏变换的特性可知，当时，02cos2)(ARx()()jxyxyGRed 1()()2jxyxyRGed*1()lim()()2TTTG xyE XYT 互谱密度互谱密度互相关函数的傅氏变换成为互谱密度：)(),(tytxTT)(),(TTYX 它一般是的复函数，实部叫做共谱密度，虚部叫做交谱密度。注意，互谱一般并不具有功率含义。互谱密度也可以表示成有限时间信号傅氏变换的极限值。设持续时间在-T-+T范围内的随机信号是 ，它们的傅氏变换分别为则：2()()()xyxyGGG*()()xyxyGG)()(yx
22、xyRR()()xyyxGG互谱密度的主要性质如下：对称性对称性：由于对于实信号，互相关也是实函数，所以它的傅氏变换是共轭对称的：又由于所以有互谱不等式互谱不等式：可以证明对每一频率都有例例5 5：两个随机过程分别为：式中，A，0是实常数，B（t）是均值为mB的平稳随机过程，是随机相位，在0-2pi之间均匀分布，且与B（t）互相独立。试求：1、互相关函数 ，从而判断此两过程是否联合平稳2、互谱)cos()()()cos()(00ttBtytAtx),(ttRxy()xyG0000000000cos21)22cos(cos21)cos()cos()()cos()()cos()()(),(BBxy
23、AmtEAmttEtBAEttBtAEtytxEttR由于互相关函数与t无关，所以这两个过程是联合平稳的。00()()()2BxyAmG 例例6 6：已知两个独立随机过程x(t),y(t)，随机过程z(t)是随机过程x(t),y(t)的线性组合：z(t)=ax(t)+by(t),且x(t),y(t)是统计独立且均值为0时，求z(t)的自相关函数。222222()()()()()()()()()()()(),()0,()()0()()()()()()zxyxyyxxyyxzxyzxyRE z t z tEax tby tax tby ta Rb Rab RRx ty tRRRa Rb RGa G
24、b G由于统计独立且均值为所以因此),2,1(niti),2,1)(nitXXii 高斯过程高斯过程中心极限定理已证明：大量独立的、均匀微小的随机变量之和都近似地服从正态分布。高斯过程定义：如果对于任意时刻随机过程的任意n维随机变量服从高斯分布，则X(t)就是高斯过程。高斯过程的n维概率密度函数为：1()()212121 221(,;,)(2)Tx mCx mnnnf x xx t tteCnnnxxxxtmtmtmtXEtXEtXEm212121)()()()()()(),(),(),(),(),(),(1212111nnXnXnXXnXXttCttCttCttCttCttCC式中m,x为n
25、维向量协方差矩阵 由此可见，正态随机过程的n维概率分布仅取决于其一、二阶矩函数。2)(,)(XXtXDmtXEnkittRttRikikikXkiX,2,1,;,)(),(广义平稳正态过程定义：若正态随机过程X(t)的均值和方差都是与时间无关的常数，即而自相关函数只取决于时间间隔则称此正态过程为广义平稳正态过程。)(TttX3 3：若正态随机过程 在T上是均方可微的，则其导数也是正态过程。高斯过程有许多特殊性质：1 1：若平稳高斯过程在任意两个不同时刻是不相关的，那么也一定是互相独立的。2 2：平稳高斯过程与确定时间信号之和仍是高斯过程。白噪声过程白噪声过程从功率谱的角度来看：白噪声白噪声：如
26、果一个随机过程的功率谱为常数，无论是什么分布，都称它为白噪声。色噪声色噪声：功率谱中各种频率分量的大小不同。0()2NNG )(2)(0NRN1.理想白噪声理想白噪声一个均值为零，功率谱密度在整个频率轴上为非零常数，即的平稳过程N(t)，称为白噪声过程，简称为白噪声。利用傅立叶反变换可求得白噪声的自相关函数为：)sin()(PRNPRN)0(),0,NPG 其 它2.低通白噪声低通白噪声若白噪声的功率谱在 内不为零，而在其外为零，且分布均匀，其表达式为 可得低通白噪声的平均功率为：称这类白噪声为低通白噪声。则其自相关函数为：随机信号的采样定理随机信号的采样定理 如果随机信号的功率谱是限带的，其
27、最高频率成分是 。当采样间隔 时，采样值的加权和为：可以保证：即在均方误差意义下收敛，此即随机信号在时域上的采样定理。maxf）（max2/1fTSSSSSnSTnTtTnTtnTxtx/)(/)(sin)()(0)()(2txtxE总体意义下的统计特性总体意义下的统计特性其表示式与连续时间情况相同：均值：自相关：1()Miiix f x12121211(,;,)MMijijijx xf xxt t时间意义下的统计特性：时间意义下的统计特性：均值：自相关函数：自协方差函数：互相关函数：互协方差函数：谱密度函数：)(121)(121)(121limlimlimnNNnnNNNnNNNnSNxxExNnxNnTxNm)(121)()(limmnnmnNNnnNSxxxxExxNmTRmRxmnxnxmxmxEmC)(ymnxnxymymxEmC)()()(mnnxyyxEmR()()jj mxxmG eR m e()()mxxmG zR m z
