《随机过程》全册配套课件.ppt

1、随机过程全册配套课件随机过程全册配套课件随机过程随机过程 Stochastic processes引言本课程的研究对象 概率论主要是以概率论主要是以一个或有限个随机变量一个或有限个随机变量为研究为研究对象的对象的.随着科学技术的不断发展随着科学技术的不断发展,人们发现几乎一切可人们发现几乎一切可观察现象都具有随机性观察现象都具有随机性.必须对一些随机现象的必须对一些随机现象的变化过程变化过程进行研究进行研究.即需即需要研究要研究无穷多个随机变量无穷多个随机变量随机过程随机过程是概率论的深入和发展是概率论的深入和发展.它是研究客观世界中随机演变过程的它是研究客观世界中随机演变过程的规律性规律性的

2、的学科学科.随机过程的理论与方法在自动控制、雷达与通信、随机过程的理论与方法在自动控制、雷达与通信、生物工程、天文气象、地质能源、社会科学及工生物工程、天文气象、地质能源、社会科学及工程技术、经济管理等许多领域有着极为广泛的应程技术、经济管理等许多领域有着极为广泛的应用。用。课程任务掌握随机过程的基本概念掌握随机过程的基本概念.掌握随机过程的基本理论和分析方法掌握随机过程的基本理论和分析方法.具备处理随机现象的思想与方法具备处理随机现象的思想与方法.具有应用随机过程的理论和方法来分析问题和具有应用随机过程的理论和方法来分析问题和解决问题的能力解决问题的能力.基本内容随机过程基本概念随机过程基本

3、概念随机分析随机分析平稳过程平稳过程马尔科夫过程（链）马尔科夫过程（链） 教材随机过程随机过程张卓奎张卓奎 陈慧婵西安电子科技大学出版社陈慧婵西安电子科技大学出版社 2003随机过程随机过程 同步学习指导同步学习指导 张卓奎张卓奎 陈慧婵陈慧婵 西安电子科技大学西安电子科技大学出版社出版社 2004参考教材1.随机过程随机过程毛用才毛用才 胡奇英胡奇英 西安电子科技大学西安电子科技大学出版社出版社 1998 2.随机过程理论随机过程理论 周荫清周荫清 电子工业出版社电子工业出版社 第二版第二版 20063. An introduction to stochastic processes Edw

4、ard P.C. kao Thomson 2003Basic Concepts-Probability 随机试验 (Random Experiment)结果事先不确定 outcome is unknown; 可重复 reproducible 样本空间(Sample Space): S所有可能结果的全体 the set of all possible outcomes 事件(Events): E 样本空间的某子集 any subset of S概率概率 (Probability): P 在样本空间S中，实值函数函数P满足：(1) ;(2) ；(3)对于任何互斥事件 ，有则称P为E的概率。0( )

5、1P E1)(SPjiEEji ,11)()(nnnnEPEP概率的性质：(1) ; (2) Monotonicity: 若 , (3) (4) Subadditivity: 布尔不等式： (5) (6) Continuity for below: 若 单调递增，则 (7) Continuity for above: 若 单调递减，则( )( )P EP F0)(PEF)(1)(EPEPc11)()(nnnnEPEP)() 1()()()()(2111111nnnkjikjinjijiniiniiEEEPEEEPEEPEPEPnEnE)()(lim1nnnnEPEP)()(lim1nnnnEP

6、EPn条件概率n乘法公式n全概率公式nBayes公式公式 与 之间的关系)()()()()(12121312121nnnEEEEPEEEPEEPEPEEEP,ijFFij1( )() ()iiiP EP F P E F()P E F()P F E1() ()()() ()iiijjjP F P E FP F EP F P E F()()( )P EFP E FP FExample:n在多项选择题考试中，学生要么知道答案，要么去猜答案。令学生知道答案的概率为p，不知道答案的概率为1-p，假设猜对答案的概率为1/m，其中m为选择项数。问：学生答对问题时，他知道答案的概率为多少？n解：令C,K分布为

7、学生答对问题和确实知道答案的事件。n相互独立 (Independent)n独立独立与互斥互斥独立的两个事件不一定互斥，也即两个事件独立则可能交集不空互斥的两个事件不一定独立，也即交集为空的两个事件不一定独立()( ) ( )P EFP E P Fn随机变量：随机变量：样本空间里的实值函数n分布函数（分布函数（distribution function）：）：描述随机变量的分布 性质性质: (1) 非减函数nondecreasing function； (2) (3)扩展到n-维xxXPxF),()(),(),()(221121nnnxXxXxXPxxxFxF),(21nxxxx随机变量(ran

8、dom variable)及其分布 随机变量随机变量离散型：离散型： 概率密度函数概率密度函数 分布函数分布函数n连续型连续型 xxiipxF)(xdttfxF)()(概率密度函数()iipP Xx扩展到2维X, Y联合分布函数),(),(yYxXPyxFX与Y的分布函数)(),(lim)(xXPyxFxFyX)(),(lim)(yYPyxFyFxY典型离散型随机变量：nBernouli Random VariablenBinomial Random Variable n个独立事件successfailExamplen已知一台机器制造出来的产品，废品率为0.1，并且产生废品的事件是独立的。问：

9、三个产品中最多有一个为废品的概率是多少？n解：离散型随机变量：nGeometric Random VariablenPoisson Random Variable当二项随机变量中参数n很大，p很小时，二项随机变量可以近似看作是Poisson随机变量。连续型随机变量：典型连续型随机变量：nUniform Random VariablenExponential Random Variable 连续型随机变量：nGamma Random Variable Gamma函数 连续型随机变量：nNormal Random Variable 随机变量的数字特征1. 期望(Expectation)n定义 加权

10、平均例：掷一个色子的期望E(X)练习：试求前面所讲几个典型随机变量的期望 ，dxxxfpxxxdFEXiii)()(离散型连续型n定理：X是一随机变量，F(x)为分布函数，y=g(x)是连续函数，若 存在，则n推论：如果a，b为常数，则 )()(xdFxg)()()(xdFxgXgEEY2. 方差 (Variable)()()(222XEXEEXXEDX3. 协方差 (Covariance)(),(EYYEXXEYXCov不相关：若Cov(X,Y)=0独立随机变量是不相关的，其逆不真。4. 矩母函数矩母函数 (Moment Generating Function)The moments of

11、X性质：X, Y 是独立变量小结 第一章第一章 随机过程的基本概念随机过程的基本概念 随机过程的定义及其有限维分布函数族随机过程的定义及其有限维分布函数族 随机过程的数字特征随机过程的数字特征 几类重要的随机过程几类重要的随机过程 重点重点 随机过程的定义、数字特征、正态过程、随机过程的定义、数字特征、正态过程、 Poisson过程过程要求要求（1）准确理解随机过程的定义，熟悉研究准确理解随机过程的定义，熟悉研究 随机过程的方法随机过程的方法(2)熟练求出样本函数、有限维分布、熟练求出样本函数、有限维分布、 数字特征、特征函数数字特征、特征函数 难点难点 有限维分布和有限维分布和Poisson

12、过程过程例例1. 考察考察 0，t0时间内某网站收到的访问次数时间内某网站收到的访问次数(t), 则则(t)是一个随机变量是一个随机变量 如果要长时间内该网站的访问次数如果要长时间内该网站的访问次数, 则需要让则需要让t 变化起来变化起来,即即t趋于无穷大趋于无穷大,则则 (t)是一族随机变量是一族随机变量 此时此时(t) 是与时间有关系的随机变量，称是与时间有关系的随机变量，称 (t), t0,） 是随机过程是随机过程1)cos(tAX(t)其中其中 为常数，为常数，服从服从0,20,2 上的均匀分布上的均匀分布. .若要观察任一时刻若要观察任一时刻t的波形，则需要用一族随机变量的波形，则需

13、要用一族随机变量(t)描述描述. 则称则称(t)，t00 ，+)为随机过程为随机过程由于初位相的随机性，在某时刻由于初位相的随机性，在某时刻tt0，(t0)是一个随机变量是一个随机变量例例.生物群体的增长问题生物群体的增长问题.以以t表示在时刻表示在时刻t某种某种 生物群体的个数生物群体的个数,则对每一个固定的则对每一个固定的t,t是一是一 个随机变量个随机变量 如果从如果从t开始每隔开始每隔24小时对群体的个数观小时对群体的个数观 察一次，则对每一个察一次，则对每一个t，t是一族随机变量是一族随机变量 也记为也记为n，n，.则称则称t ,t, 2 , . 是随机过程是随机过程例例4. 在天气

14、预报中在天气预报中, 以以Xt 表示某地区第表示某地区第t次统计所得次统计所得 到的最高气温到的最高气温,则则Xt 是一个随机变量是一个随机变量.为了预报该地区未来的气温为了预报该地区未来的气温,要让要让t趋于无穷大趋于无穷大,则可得到一族随机变量则可得到一族随机变量: Xt , t=0,1,2,， 称称t，t，2，.， 是随机过程是随机过程以上以上4个例子的共同特点是个例子的共同特点是:对某参数集中的任意一个参数对某参数集中的任意一个参数t,就有一个就有一个随机变量随机变量X(t)与之对应与之对应.随机过程定义随机过程定义若对每一若对每一 t T,均有定义在均有定义在(,F,P)上的一个上的

15、一个随机变量随机变量X(,t),()与之对应与之对应,则称则称X(,t)为为(,F,P)上的一个上的一个随机过程随机过程(S.P.)记记X(,t), ,tT,简记简记X(t),tT,或或X(t).设设(,F,P)为一概率空间为一概率空间,T为一参数集为一参数集,T R, T T称为参数集或参数空间称为参数集或参数空间, t, t称为参数称为参数, ,一般表一般表示时间或空间示时间或空间. . 参数集通常有以下形式参数集通常有以下形式: T=0,1,2,或或 T= -2,-1,0,1,2, T=a,b,其中其中a 可以为可以为, b可以为可以为+.当参数集为形式时当参数集为形式时,随机过程随机过

16、程X(t)也称为也称为随机序列随机序列1. X(,t),t),实质上为定义在实质上为定义在T T上的二元单值函数上的二元单值函数. 2.对每一个固定的对每一个固定的t, X(t)为一随机变量，称之为为一随机变量，称之为X(t),tTT在在t t时刻的时刻的状态状态. .该随机变量所有可能取值的集合该随机变量所有可能取值的集合,称为随机过程的称为随机过程的状态空间状态空间.记为记为S. 3.对每一个确定的对每一个确定的0,X(0,t)是定义在是定义在T上的普通上的普通函数函数. 记为记为 x(0,t), 称为为随机过程的一个称为为随机过程的一个样本函数样本函数.也称也称轨道或实现轨道或实现.样本

17、函数的图形称为样本函数的图形称为样本曲线样本曲线 tX(t)tt0状态X(t0)=4状态X(t0)=5样本曲线x1(t)x1(t)x2(t)样本曲线x2(t)状态空间S=0,1,2,., T=0,+)状态空间S=-A,A,参数集T=-,+ tX(t)样本曲线样本曲线x1(t)样本曲线x2(t)t0状态X(t0)状态X(t0)例例2 的样本曲线与状态的样本曲线与状态)cos(tAX(t)t0状态X(t0)=18状态状态X(t0)=25样本曲线样本曲线x1(t)样本曲线样本曲线x2(t)状态状态X(t0)=40样本曲线样本曲线x3(t)X(t)t10203040506070024状态空间S=0,1

18、,2,., T=0,24,)4.4.根据参数集与状态空间离散与否根据参数集与状态空间离散与否, ,随机过程可分为随机过程可分为离散参数,离散状态的随机过程 (例3) 离散参数,连续状态的随机过程 (例4) 连续参数,离散状态的随机过程 (例1) 连续参数,连续状态的随机过程 (例2) 参数集为离散的随机过程也称为随机序列，或时间序列2随机过程的有限维分布函数族随机过程的有限维分布函数族设设X(t),tTT是是S.P.S.P.1.一维分布函数对任意对任意tT, X (t)为一随机变量为一随机变量.称其分布称其分布函数函数 F (t ; x)=P(X(t) x), x R为随机过程为随机过程X(t

19、),tT的一维分布函数的一维分布函数.2.2.二维分布函数二维分布函数对任意固定的对任意固定的t1,t2T, X (t1) ,X (t2)为两个随为两个随机变量机变量.称其联合分布函数称其联合分布函数 F (t1,t2; x1, x2)=P(X(t1) x1, X(t2) x2 ), x1, x2R为随机过程为随机过程X(t),tT的二维分布函数的二维分布函数. 对任意固定的对任意固定的t1,t2, ,tnT, X (t1) ,X (t2), X (tn)为为n个随机变量个随机变量.称其联合分布函数称其联合分布函数 F (t1,t2 ,tn ; x1, x2, xn) = P(X(t1) x1

20、, X(t2) x2 X(tn) xn ) x1 x2, xn R为随机过程为随机过程X(t),tT的的n维分布函数维分布函数. 称随机过程称随机过程X(t),tTT的一维分布函数的一维分布函数, ,二维二维分布函数分布函数,n,n维分布函数维分布函数,的全体的全体 为随机为随机过程的过程的有限维分布函数族有限维分布函数族.有限维分布函数族定义有限维分布函数族定义注注: 有限维分布函数族能够描述随机过程的有限维分布函数族能够描述随机过程的 统计特性统计特性.有限维分布函数族的性质有限维分布函数族的性质对称性对称性),;,(2121nniiiiiixxxtttF),;,(2121nnxxxttt

21、F的任意一个排列，则是设niiin, 2 , 1,21相容性相容性设mn,则),;,(2121mmxxxtttF),;,(21121mnmmxxxtttttF注注:随机过程的统计特性还可以用另一种工随机过程的统计特性还可以用另一种工具描述具描述,即随机过程的即随机过程的有限维特征函数族有限维特征函数族(后面补充介绍后面补充介绍)本节内容举例本节内容举例例例1.1.设随机过程设随机过程 X(t)=VcosX(t)=Vcost,t(-,+),t,t(-,+),其中其中为常数为常数,V V服从服从0,10,1上的均匀分布上的均匀分布. .确定确定X(t),X(t),t(-,+)的两个样本函数的两个样

22、本函数.求求t=0,t=3t=0,t=3/4/4时时,随机变量的概率密度函数随机变量的概率密度函数.求求t= t= 22 时时X(t) 的分布函数的分布函数.解解 (1) 取V=1/2, 1/3分别得到两个样本函数ttxcos21)(1ttxcos31)(2(2)X(0)1( )0fx其它10 x时，43tVVtX2243cos)(上均匀分布，则，为而时， 10,0cos)(0VVVtXt则利用公式其导数为的反函数为由于函数,2)(,2)(22xhxxhVVx0)()()()43X(xhxhfxfV其它1)(0 xh02其它120 x02其它022x(3)( )cos0,22,2tX tVX时

23、，此时 （）是单点分布 则)2()()2(xXPxFX0100 xx例例2 设随机过程设随机过程 X(t)=A+Bt, t0,其中其中A,B 是相互是相互独立的随机变量独立的随机变量,且都服从标准正态分布且都服从标准正态分布N(0,1).求求该随机过程的一维和二维分布该随机过程的一维和二维分布解解 对任意的对任意的t0, X(t)=A+Bt, 有题意知有题意知X(t)是正态分布是正态分布.又又 EX(t)=0, DX(t)=1+t2所以所以S.P.的一维分布为的一维分布为X(t) N(0,1+t2)又对任意的t10, t20, X(t1)=A+Bt1 N(0,1+t12), X(t2)=A+B

24、t2 N(0,1+t22), (定理定理 正态变量的线性变换是正态变量正态变量的线性变换是正态变量) page24 定理定理1.5.3(3)121211( )( )()X tX tABtt即由由A,B独立知独立知, (A,B)服从二维正态分布服从二维正态分布所以所以( X(t1), X(t2) ) 也服从二维正态分布也服从二维正态分布)(EX)(EX)(X)EX()(X),(X(212121ttttttCov又21211)B)(ABE(At ttt所以协方差矩阵为222121211111tt tt ttM而( X(t1), X(t2) ) 的均值向量为 =(0, 0) 0, 0),()()(2

25、121ttMNtXtX所以该S.P.的二维分布为例例3.0,cosA)(S.P.Xttt设其中A具有以下概率分布. 3 , 2 , 1,31)(iiAP试求 (1)该S.P.的一维分布函数(, ),(4, )2xFFx(2)该S.P.的二维分布函数),;3, 0(21xxF解解21()cos,442XAA（）232222111333分布律为 0,1,3; )2,31,x分布函数为F(4222223222322xxxx12122(0,;,)(0),()33Fx xP Xx Xx（ ）12(,)2AP Axx12(,2)P Ax Ax0,1,32,31,12()(2)P AxP Ax121222x

26、xxx1111112233xxxx 12(2)xx2222211 222 2323xxxx或12(2)xx作业作业1.1.利用重复掷硬币的试验定义一个随机过程出现反面出现正面,2,cos)(tttX0t 出现正面与反面的概率相等. 求X(t)的一维分布函数F(1/2; F(1/2; x),F(1; ),F(1; x).). 求X(t) 的二维分布函数F(1/2,1; x1,x2). 3 随机过程的有限维特征函数族随机过程的有限维特征函数族nkkkkxgxgfS11)()()(S0lim1.Stieltjes积分定义 设f(x), g(x)是定义在a,b上的两个有界函数,对a,b 的任一划分 a

27、=x0 x1xn=b, 记 =maxxk任取kxk-1,xk,k=0,1,n.作和若极限存在,且与a,b的分法及k的取法无关.则称此极限为f(x)对函数g(x)在a,b上的Stieltjes积分.简称S积分.也称f(x)对g(x)在a,b上S可积.记baxdgxf)()(设f(x), g(x)是定义在(-,+ )上的两个函数,若在任意有限区间a,b f(x)对 g(x)在a,b S可积,且babaxgxf)()(lim存在则称此极限为f(x)对g(x)在无穷区间(-,+ )上的Stieltjes积分.记)()(xdgxf关于Stieltjes积分有如下性质当g(x)为跳跃函数,且在xi (i=

28、1,2,)具有跃度pi时有iiipxfxdgxf)()()(当g(x)存在导数g(x)时,有dxxgxfxdgxf)()()()(利用Stieltjes积分可以统一离散型r.v.与连续型r.v.(或随机变量的函数)的数学期望定义.如下 定义 设随机变量X的分布函数为F(x),若)()(xdFxXE( )xdF x 则X的期望为并有以下结论(1)设 r.v.X的分布函数为F(x), y=g(x)是连 续函数,若)()(xdFxg则r.v.Y=g(X)的期望为)()()(xdFxgYE(2)一般设r.v.(X1,Xn)的联合分布函数为F(x1,x2,xn),g(x1,x2,xn)为连续函数.若),

29、.,(),.,(2121nnxxxdFxxxg则r.v.Y=g(X1,X2,Xn)的数学期望存在.且),.,(),.,()(2121nnxxxdFxxxgYE( )E( )juXjuxueedF xu 定义 设随机变量X的分布函数F(x),则称为随机变量X的特征函数.2.随机变量的特征函数其中u为实参变量, 为复随机变量juXe对任意实数u,有|ejux|=1.故Eejux总存在.(1) 特征函数总是存在的.关于特征函数的几点说明(2)特征函数的性质(证明page17)01u（ ） （ ）( )()uu 若Y=aX+b ,a,b为常数,则( )()jbuYXueau( )u 在（，）上一致连续

30、. 若X与Y相互独立,Z=X+Y,则 ( )( )( )ZXYuuu(可推广到n个相互独立随机变量)11()0nnklkllkuuz z是非负定的. ( )u即对任意的n,任意复数Zk,任意实数uk(k=1,2,n),有 设随机变量X的n阶原点矩(即EXk)存在, 则( )u存在k(kn)阶导数,且有( )(0)EX ,kkkjkn(3)一些重要分布的特征函数单点分布P(X=c)=1, c常数.则( )juXjucuE ee二项分布,C)X(Pknkknqpkk=0,1,n.0p0则特征函数0( )!kjuXjukkuE eeek(1)0()!jujujukeekeee eek均匀分布r.v.

31、XU(a,b,密度函数为其它bxaabxf, 0,1)(则特征函数X( )E( )jujuxueef x dx11()()bjuxjbujuaaedxeebajt ba正态分布r.v.XN(, 2),密度函数为常数)0(,21)(222)(xexfx则特征函数X( )E( )jujuxueef x dx222()()221122xvjuxjuveedxeedv222221()122212vjuj uuj uueedvexv令特别XN(0,1)时22)uue（指数分布r.v.X服从参数为(0)的指数分布, 概率密度为00, 0,)(xxexfx则特征函数X( )E( )jujuxueef x d

32、x()00juxxjuxeedxedxju(4)随机变量的分布函数与其特征函数 相互唯一确定.定义(多元特征函数)设n维随机变量X=(X1,X2,Xn)的联合分布函数为F(x1,x2,xn),则称1122()12( ,)EnnuXjXuu Xnu uueETjuXe1 12 2()12(,)n nj u xu xu xnedF x xx为n维随机变量X的特征函数.也称多元特征函数多元特征函数具有与一元特征函数类似的性质 n维随机变量的特征函数与其联合分布函数 是一一对应的特征函数应用举例:21.PoissonEX EXDX设X服从参数为 的分布，求，(1)( )jueue解： 由题意(1)22

33、(1)( ),( )()jujujuejujueuj e eueee 则( )(0)EXkkkj则利用特征函数性质：(0)EXj得222(0)EXj22()DXEXEX22.1 212nkkkX ,X ,XXNk = , ,n设相互独立，且（，）,nkk=1用特征函数求随机变量Y=X 的概率分布2 212( ),1,2,.,kkkjuuXuekn解：由题意1( )( )knYXkuu2 2121kknjuuke22111()()2nnkkkkjuue211(,)nnkkkkNnkk=1Y=X定义 (随机过程的有限维特征函数族)设X(t),tT是一个S.P.对于任意固定的t1,t2,tn T,

34、X(t1),X(t2),X(tn)是n个随机变量,称1212( , ,., ;,.,)nnt tt u uu1( )11( ,;,)niiiju X tnnedF ttxxE)()(11nntXutXuje为S.P.X(t),tT的n维特征函数.(ui R, i=1,2,n) 1212 ( , ,.,.,),1,2,., nniit tt u uutT uR in 称;为随机过程的有限维特征函数族4 随机过程的数字特征有限维分布函数族虽然能够完整描述随机过程的统计特征,但是在实际中很难得到.因此,如同随机变量一样,也用数字特征来表征随机过程.即将随机变量的数字特征推广到随机过程中.但要注意其区

35、别:随机过程的数字特征不再是确定的数,而是确定的时间的函数.1. 均值函数对任意的tT,若EX(t)存在,则称EX(t)为S.P.X(t)的 均值函数.记mX(t) 即 mX(t)= EX(t) tT设X(t)是一S.P.2. 方差函数设X(t)是一S.P.对任意的tT, 若 DX(t)=EX(t)-mX(t)2 存在, 则称DX(t)为S.P.X(t)的方差函数. 记DX(t). 即 DX(t)= EX(t)-mX(t)2 tT3. 协方差函数协方差函数设X(t)是一S.P. 对任意的s,tT,若 Cov(X(s),X(t)=EX(s)-mX(s)X(t)-mX(t)存在,则称Cov(X(s

36、),X(t)为S.P.X(t)的协方差函数.记 CX(s,t). 即 CX(s,t)= EX(s)-mX(s)X(t)-mX(t) s,tT4. 相关函数设X(t)是一S.P.对任意的s,tT, 若EX(s)X(t) 存在, 则称EX(s)X(t)为S.P.X(t)的相关函数. (自相关函数)记RX(s,t).即 RX(s,t)=EX(s)X(t) s,tT显然 mX(t)=0时, CX(s,t)= RX(s,t)5. 均方值函数设X(t)是一S.P.对任意的tT, 若EX(t)2存在,则称EX(t)2为S.P.X(t)的均方值函数. 记X(t).即 X(t)= EX(t)2 tT随机过程的数

37、字特征有如下关系CX(s,t)=RX(s,t)-mX(s)mX(t) s,tT DX(t)=CX(t,t) tTX(t)=RX(t,t) tT 所以最关键的数字特征是均值函数与相关函数本节内容举例1. 设S.P. X(t)=acos(t+). a, 常数, U0, 2 求该过程的均值函数,相关函数,方差函数. 解( )( )XmtE X t201cos()20atdt ( , )( )( )XRs tE X s X t22021cos()cos()2cos(),2astdatss t ( , )( , )( )( )XXXXCs tRs tms mt2( , )cos(),2XRs tatss

38、 t 2( )( , )2XXaDtCt tt 2. 设S.P. X(t)=Acost+Bsint t0, 为常数. A,B相互独立,同服从正态分布N(0,2) 求该过程的均值函数和相互函数.解( )( )0XmtE X tt ( , )( )( )XRs tE X s X t22coscos(sincoscossin)sinsinE AstE ABststE Bst2cos (),tss t 5 两个随机过程的联合分布和 数字特征在实际问题中,有时需要同时考虑两个或者两个以上的随机过程.例如:一个线性系统的输入信号和输入噪声两者可能同为随机过程.同时考虑一个线性系统的随机输入和随机输出的关系

39、等.定义 设X(t),tT和Y(t),tT 是 两个随机过程.则称 X(t),Y(t), tT是二维随机过程.二维过程的概率分布与数字特征有以下定义定义 设X(t),Y(t), tT是二维随机过程.12121,1, , ,., , ,.,mnmnt ttT t ttT 对1212( ),( ),(), ( ), ( ), ( )mnX tX tX tY tY tY tmn是维随机变量，称12121212( , ,;,; , , ;,)mmnnF t ttx xxt tty yy 112211( ),( ),(), ( ), ( )mmnnP X tx X txX txY tyY ty( ),

40、( ),X t Y t tTmn为二维随机过程的维分布函数12121212( , ,;,)( , , ;,)XmmYnnFt ttx xxF t tty yy 若也记和分定义别为随机过程( ), ( ),X t tTY t tTmn和的 维和 维分布函数.( ), ( ),( ), ( ),X t Y y tTX t tTY t tTmn也称之为二维过程关于和的 维边缘分布函数和 维边缘分布函数.12121,1, , ,., , ,.,mnmnt ttT t ttT 如果对有12121212( , ,;,; , , ;,)mmnnF t ttx xxt tty yy 12121212( , ,

41、;,)( , , ;,)XmmYnnFt ttx xxF t tty yy =( ), ( ),X t tTY t tT则称随机过程和相互独立.定义 设X(t),Y(t), tT是二维S.P. 则对任 意s,tT,X(s) Y(t)是两个随机变量.(1) 若EX(s)Y(t)存在,则称 EX(s)Y(t)=RX,Y(s,t) 为该二维S.P.的互相关函数(2) 若cov(X(s),Y(t)=E(X(s)-mX(s)(Y(t)-mY(t)存在,则称 cov(X(s),Y(t)=CXY(s,t) 为该二维S.P.的互协方差函数显然有 CXY(s,t)=RXY(s,t)-mX(s)mY(t) 定义

42、设X(t), tT, Y(t), tT是二个 S.P.若 CXY(s,t)=0 或 RX,Y(s,t)= mX(s)mY(t) s,tT,则称S.P.X(t), tT与S.P.Y(t), tT不相关.结论 若S.P.X(t), tT和S.P.Y(t), tT相互独立, 则 X(t), tT和Y(t), tT不相关6. 复随机过程及其数字特征定义 设X(t),tT和Y(t),tT 是定义 在同一概率空 间(,F,P)上的两个 实随机过程.令 Z(t)= X(t)+jY(t) tT 则称Z(t), tT是复随机过程.定义 设Z(t), tT是复S.P. 对任意t T, 称 mZ(t)=EZ(t)

43、为复S.P.的均值函数 称 DZ(t)=DZ(t) =E|Z(t)- mZ(t)|2 为复S.P.的方差函数 称 Z(t)=E|Z(t)|2 为复S.P.的均方值函数. 对任意的s,tT,称 RZ(s,t)=EZ(s)Z(t) 为复S.P.的相关函数. 称 CX(s,t) =cov(Z(s),Z(t) =E(Z(s)-mz(s)(Z(t)-mz(t) 为复S.P.的协方差函数.由以上定义可得(1) mZ(t)=mX(t)+jmY(t) tT(2) DZ(t)= DX(t)+DY(t) tT (3) CX(s,t)=RZ(s,t)-mZ(s)mZ(t) s,tT反映两个复随机过程之间相关程度的数

44、字特征(1)互协方差函数 设Z1(t), tT,Z2(t), tT是两个复S.P.(2)互相关函数12121212( , )( ),( )( )( )( )( )Z ZZZCs tCov Z s Z tE Z smsZ tmtTts,)( )(),(2121tZsZEtsRZZTts,举例,)(1)(0RteXtZnktjkk设其中0为正常数, n为固定正整数,nnXXX,2121是相互独立的实随机变量,且, 02kkkDXEXkU0,2,求S.P.Z(t),tR的均值函数和相关函数.k=1,2,n.0()1( )E0knjtZkkmtX e解00()()11R ( , )EkknnjsjtZ

45、kkkks tX eX e00()()11EklnnjsjtklklX X ee0()()11Elknnjjt sklklX X ee 0()21njt skke7 几类重要的随机过程几类重要的随机过程之前按照参数和状态对随机过程进行了简单的分类之前按照参数和状态对随机过程进行了简单的分类.随机过程可以按照不同的标准进行分类随机过程可以按照不同的标准进行分类.本讲按照随机过程所具有的一些性质本讲按照随机过程所具有的一些性质,介绍几类重要介绍几类重要的随机过程的随机过程: 二阶矩过程二阶矩过程 正态过程正态过程 正交增量过程正交增量过程 独立增量过程独立增量过程 Wiener过程过程 Poiss

46、on过程过程1.二阶矩过程二阶矩过程定义定义若若S.P.X(t),tTS.P.X(t),tT的一、二阶矩存在，的一、二阶矩存在， 则称则称. .X(t),tT.X(t),tT是是二阶矩过程二阶矩过程注注 二阶矩过程的均值函数与相关函数一定存在二阶矩过程的均值函数与相关函数一定存在可利用均值函数和相关函数讨论二阶矩阵过程可利用均值函数和相关函数讨论二阶矩阵过程的性质的性质.(下章内容下章内容)二阶矩过程的相关函数具有以下性质二阶矩过程的相关函数具有以下性质 定理定理 设设X(t),tTX(t),tT是二阶矩过程是二阶矩过程, ,则相关函数则相关函数R RX X(s,t)(s,t)有有 (1)(1

47、)共轭对称性共轭对称性 R RX X(s,t)=R(s,t)=RX X(t,s)(t,s) (2)非负定性非负定性 对任意对任意 t1,t2,tnT,T,任意复数任意复数 1 ,2, n有有0),(11lklnknlkXttR证明证明(1) RX(s,t)=EX(s)X(t)=EX(s)X(t)= RX(t,s)(2) lklnknlkXttR),(11lklnknlktt)X()(XE11_)X()(XE11_llnknlkktt)X( )X(E11_llnknlkktt)X()()X(E(11_lnknllkkttnlllnkkktt1_1)X()X(E0)(XE21nkkkt2.正态过程

48、正态过程补充补充:n维正态随机变量分布及性质维正态随机变量分布及性质11()()21221( )(2 )( , )T12nn12xBxnX =(X ,X ,.,X )nfeBX =(X ,X ,.,X )BnNBx定义 设是 维随机变量，如果其联合概率密度函数为则称服从均值向量为 ，协方差矩阵为 的是 维正态分布.记X)( , ).12nnkkkk=1X ,X ,.,XNBYl Xl定理 设X=(则（1） =服从一维正态分布是常数2).Xm mnm（ ） 的（个分量服从 维正态分布3)mNC BCTn m（ ）Y=XC(C),服从 维正态分布 ( C, 正态过程定义正态过程定义 设设X(t),

49、tT是是S.P. ,若对任意的若对任意的n1 及及t1,t2,tnTT, X(t1), X(t2), , X(tn),是是n维正态随机变量维正态随机变量, 则称则称S.P.X(t),tT为为正态过程正态过程或或高斯过程高斯过程注意注意(1) 若若X(t),tT是一族正态随机变量是一族正态随机变量, 但但X(t),tT不一定是正态过程不一定是正态过程. (2) 正态过程的有限维分布由其均值函数正态过程的有限维分布由其均值函数 与相关函数完全确定与相关函数完全确定.(3) 正态过程是二阶矩过程正态过程是二阶矩过程.举例举例独立的独立的r.v.，且都服从正态分布，且都服从正态分布N(0,2 2),)

50、,是常数是常数设设S.P.( )cossin,X tAtBt tR试证明试证明 该过程是正态过程，并求它的有限维分布该过程是正态过程，并求它的有限维分布,其中其中A,B为相互为相互3.正交增量过程正交增量过程定义定义 设设X(t),tT是二阶矩过程，若对任意的是二阶矩过程，若对任意的 t1t2 t3 t4TT 都有都有0)(X)(X)()(X)X(E34_12tttt则称则称S.P. X(t),tT是一是一正交增量过程正交增量过程.注注: 这里这里 =EXY可视为内积可视为内积 若若T取为有限区间取为有限区间a,b,对对astb ( )( )( )( )0E X sX aX tX s 特别的，