第十章-随机过程及其统计描述（VIP专享）课件.ppt

1、2关键词：随机过程 状态和状态空间 样本函数 有限维分布函数 均值函数 方差函数 自相关函数 自协方差函数 互相关函数 互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程第十章 随机过程及其统计描述tt确定信号如：方波、锯齿波等。其幅度、相位均随时间做有规律的、已知的变化。即：这次测出的是这种波形，下次测出的还是这种 波形。可以用确定的时间函数来描述。人 们可以准确地预测它未来的变化。随机信号其幅度、相位均随时间做无规 律的、未知的、随机的变化。这次测出 的是这种波形，下次测出的可能会是另 一种波形。无法用确定的时间函数来描 述，无法准确地预测它未来的变化。但是，随机信号的统计规律则是确

2、定的。信号是个随时间、空间、或其它某个参量变化的，携带某种信息的物理量。通常遇到最多的是时间信号，是随时间变化的物理量。因此，人们用统计学方法建立随机信号的数学模型因此，人们用统计学方法建立随机信号的数学模型随机过程。随机过程。下面由一个试验实例来建立随机过程的概念。下面由一个试验实例来建立随机过程的概念。举例：举例：在相同条件下，对同一雷达接收机的内部噪声电压（或在相同条件下，对同一雷达接收机的内部噪声电压（或电流）经过大量的重复测试后，设观测到的所有的可能结果有电流）经过大量的重复测试后，设观测到的所有的可能结果有m种，记录下种，记录下m个不相同的波形。个不相同的波形。1km10inttt

3、t111(,)(,)()iX tX tx t(,)(,)()kikkX tX tx t(,)(,)()mimmX tX txt()iX tS.,),(,),(,.,),(,是随机过程则称是一个随机变量若此函数对任意固定的二元函数上的和为定义在是一个无限实数集设TtStXtXTtTSTtStXT定义：这里对每一个tT,X(t)是一随机变量.T叫做参数集.常把t看作为时间,称X(t)为时刻t时过程的状态,而X(t1)=x(实数)说成是t=t1时过程处于状态x,对于一切tT,X(t)所有可能取的一切值的全体称为随机过程的状态空间.t固定，固定，变化：变化：X(ti,)随机变量（状态）。随机变量（状态

4、）。t固定，固定，固定：固定：X(ti,k)一个确定的值。一个确定的值。t变化，变化，固定固定：X(t,k)确定的时间函数确定的时间函数(随机过程的样本函数）随机过程的样本函数）t变化，变化，变化：变化：X(t,)随机过程（一族时间函数的总体，随机过程（一族时间函数的总体，或随时间变化的随机变量）或随时间变化的随机变量）下标下标i和和k，分别表示确定的某个时刻，分别表示确定的某个时刻i和确定的某个样本和确定的某个样本k。对随机过程而言：).(),(tXtX简记为今后将一般，随机变量写成一般，随机变量写成:X,Y,Z。随机过程写成。随机过程写成:X(t),Y(t),Z(t)样本函数写成样本函数写

5、成:x(t),y(t),z(t)或或X1(t)Xn(t)7 例1：抛掷一枚硬币的试验，样本空间是S=H,T，现定义：1(),()()2 (),cos tHX ttP HP TtTX t t 当出现，其中当出现则是一随机过程。,()t X tcos tt解：对任意固定的是随机变量，取值为和1234()X t1()X t2()Xtt1()()2P X tcos tP X tt12(),()X tcos t Xtt此随机过程的样本函数只有两个，即82()(),(0,2),()(),(0,2),()(),X tcosttt X tcostx tcost 例：考虑式中 和 是 正常数,是在上服从均匀分布

6、的随机变量,这是一个随机过程。对每一固定的时刻是随机变量 的函数,从而也是随机变量。它的状态空间是-.在内随机取一数相应的就得到一个样本函数这族样本函数的差异在于它们相位 的不同,故这一过程称为随机相位正弦波。93(),0,1()()0,1().X tVcos ttVX ttX tVcos tVcos tvx tvcos t 例：设其中 是常数；在上服从均匀分布,则是一个随机过程。对每一固定的，是随机变量 乘以常数，故也是随机变量,对上随机变量取一 值,就得到相应的一个样本函数 104120()0,0()(),00,1,2,.X tttX tX t t例：设某城市的急救中心电话台迟早会接到用户

7、的呼叫。以表示时间间隔内接到的呼叫次数，它是一个随机变量，且对于不同的，是不同 的随机变量，于是是一随机过程，且它的 状态空间是1t2t3t4t1t2t4t3t14231()x t2()x t()x tt 例5：考虑抛掷一颗骰子的试验：16(1)(1)1,2,(),1,2,3,4,5,6,1nnnnXnnnXP XiiXn 设是第 次抛掷的点数，对于的不同值，是随机变量，服从相同的分布，因而构成一随机过程，称为伯努利过程或伯努利随机序列,它的状态空间为 1,2,3,4,5,6。(2),11,2,3,4,5,6nnYnY n设 是前 次抛掷中出现的最大点数,也是 一随机过程，它的状态空间仍是。下

8、面分别给出它们的一条样本函数：n87654321nx321654nx(1)(2)n87654321ny321654ny12随机过程的分类：随机过程的分类：随机过程可根据参数集T和任一时刻的状态分为四类，参数集T可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随机变量和连续型随机变量两种：1.连续参数连续型的随机过程，如例2，例32.连续参数离散型的随机过程，如例1，例43.离散参数离散型的随机过程，如例54.离散参数连续型的随机过程，132 随机过程的统计描述()一随机过程的分布函数族(),(),(,),(,)(XXF x tP X txx RX t t Tt TX t t TF x

9、t t T 设随机，过程对每一固定的称为随机一过程的称维分布函数一为，维分布函数族数字特征分布函数两种描述一维分布函数族刻画了随机过程在各个个别时刻的统计特性。一维分布函数族刻画了随机过程在各个个别时刻的统计特性。1212121111222221(,)(),()(2,3,),(),(),(),1,2,(),(,;,)(),()XnnnniXnnnniFx xxt ttP X tx X txX tn nt ttTnX tX tX txR inX t tTFx xx t tttTX t tnxnT一般地，对任意个不同的时刻，维随机变量的分布函数：称为随机变；，量的称为的维分布函数维分布函数族121

10、2(,;,),1,2,(),XnniFx xx t ttntTX t tT有限维分布一般地，称为随机过程的它完全确定了随机过程函数族的统计特性科尔莫戈罗夫定理：为了描述随机过程在不同时刻状态之间的统计联系为了描述随机过程在不同时刻状态之间的统计联系,15 例1：抛掷一枚硬币的试验，定义一随机过程：12cos 1(),()(),2 ()(1)(;0)(;1);(2)(,;0,1);tHX ttP HP TtTX tF xF xF x x 出现，设出现试确定的：一维分布函数，二维分布函数 1 (0)0 HXT出现解：出现 0 01(;0)012 1 1xF xxx故1 (1)1 HXT出现出现 0

11、 11(;1)112 1 1xF xxx 故162(),0,130,()442X tVcos t tVtX t 例：设随机过程，在上均匀分布 求在时的密度函数。,0,tcos tacos t解：对给定的 若记，()X taV则的密度函数为：1 011;0 XVxxaafx tfaa其他01acos1 01;00 Xxfx于是 其他2,42acos22 0;240 Xxfx其他23,42acos 22 03;240 Xxfx其他1,acos 1 10;0 Xxfx 其他0,2acos012P X 随机过程的数字特征随机过程的数字特征 一、数学期望一、数学期望 如果将过程如果将过程X(t)中的中的

12、 t 看成是固定的，则看成是固定的，则 X(t)就是一个随机变量，就是一个随机变量，它随机的取值它随机的取值x，其在，其在 t 时刻取时刻取x值的概率密度为值的概率密度为 。据期望的定义：据期望的定义：)(0)(tmttXXmX(t)描述了描述了X(t)所有样本函数在各个时刻摆动的中心所有样本函数在各个时刻摆动的中心即即X(t)在各个时刻的状态在各个时刻的状态(随机变量随机变量)的数学期望。的数学期望。(,)Xfx t1()Xmt1t()XimtitdxtxxftXEtmtXXX),()()()(二、随机过程二、随机过程X(t)的均方值和方差的均方值和方差 同理，把过程同理，把过程X(t)中的

13、中的t视为固定时，视为固定时，X(t)为时刻为时刻t的状态（随机的状态（随机变量）。其二阶原点矩：变量）。其二阶原点矩：将将t视为变量时，即为过程视为变量时，即为过程X(t)的均方值。的均方值。22()(,)XE Xtx fx t dx222()()()()(,)()XXXXD X tE X tm tx m tfx t dxt同理，过程同理，过程X(t)的方差：的方差：过程过程X(t)的均方差：的均方差：)()()(2tttXDXX)(2tX故离散型随机过程故离散型随机过程Y(t)的数学期望为：的数学期望为：)()(iiytYPtp对离散型随机过程对离散型随机过程Y(t),tT.若所有状态取值

14、的样本空间为若所有状态取值的样本空间为 Sy1,y2,ym。均方值为：均方值为：方差为：方差为：表示状态表示状态Y(t)取取t时刻值为时刻值为yi的概率。的概率。miiiYtpytm1)()()()()(1222tpytYEtimiiYmiiYiYtptmytYDt122)()()()(三、随机过程的自相关函数三、随机过程的自相关函数 下面两个随机过程下面两个随机过程 X(t)，Y(t)它们的期望和方差都相同，它们的期望和方差都相同，mx(t)=mY(t)，x(t)=Y(t)。但从样本函数看有明显不同。但从样本函数看有明显不同。x(t)随随时间变化慢，不同时刻的两个状态时间变化慢，不同时刻的两

15、个状态X(t1),X(t2)之间的依赖性强（相之间的依赖性强（相关性强）。关性强）。y(t)随时间变化快，不同时刻的两个状态随时间变化快，不同时刻的两个状态Y(t1),Y(t2)之间之间的依赖性弱（相关性弱）。因此期望和方差不能反应过程内部变的依赖性弱（相关性弱）。因此期望和方差不能反应过程内部变化快慢、相关性强弱的状况。化快慢、相关性强弱的状况。ttttmttXXX210)()()(ttttmttYYY210)()()(一般用来描述随机过程一般用来描述随机过程“任意两个时刻的两个状态之间内在联系任意两个时刻的两个状态之间内在联系”的重要数字特征的重要数字特征 自相关函数定义为：自相关函数定义

16、为：它反应了任意两个时刻的状态它反应了任意两个时刻的状态X(t1)与与X(t2)之间的之间的“相关程度相关程度”。状态状态X(t1)与与X(t2)之间的相关程度也可以用自协方差函数来描述：之间的相关程度也可以用自协方差函数来描述：212121212121),;,()()(),(xdxttxxfxxtXtXEttRXX12112211221212121212121222(,)()()()()()()(,;,)(,)(,)()()(,)()(,)()()XXXXXXXXXXXXXCt tEX tmtX tmtxmtxmtfx x t tdx xCt tRt tmtmttttRt tE XtCt t

17、D X tt 时，过程的均方值。过程的方差。随机过程的自相关系数定义为：随机过程的自相关系数定义为：0)(0)(.)()(),(),(21212121ttttttCttXXXXXX注：随机过程的期望、方差、自相关函数、协方差函数、自相注：随机过程的期望、方差、自相关函数、协方差函数、自相关系数等存在的条件是：关系数等存在的条件是：)()(2tXEtXE各数字特征之间的关系如下：2,XXtRt t 121212,XXXXCt tRt ttt 22,XXXXtCt tRt tt以后，所有例题都满足上述两个条件，不必再去验证232(),()()X t tTtT E XtX t随机过程，如果对每一都存

18、在，则称是，二阶矩过程的均值函数和相关二阶函数定总义：是程 矩过存在的。1212(),1,(),(),()(),nnX t tTnt ttTX tX tX tnX t tT 是一随机过程，若它的每一个有限维分布 都是正态分布，即对任意整数及任意服从 维正态分布，则称是正态过程的全部统计特性完全由它的均值函数和自协方差正函定义：态过程数所确定。243,()3,1,4,0,2,()A BX tAtB tTA BANBUX t 例：设是两个随机变量，试求随机过程:的均值函数和自相关函数。如果相互独立，且问的均值函数和自相关函数又是怎样的？()()XtE X t解：()3()tE AE B1212(,

19、)()()XRt tE X t X t221 21212()3()()9(),t t E AttE ABE Bt tT,A B又因为独立，()()()1E ABE A E B故121 21212()3,(,)53()12 ,XXttRt tt tttt tT 1,4,0,2ANBU当时，224()1,()5,()1,()3E AE AE BE B25()(),(0,2)X tacostt 例4：求随机相位正弦波在上均匀分布 的均值函数、方差函数和自相关函数。解：由假设 的概率密度为：1212(,)()()XRt tE X t X t 1 022 0 f 其他()()XtE X t于是E aco

20、st20102acostd212()()E a costcost221()2acostt221201()()2acostcostd2122ttacos22()(,)()XXXtRt tt2(,)2XaRt t26()()()()()()0,E AE BE CE ABE ACE BC因为2222()()()E AE BE C2()XtE ABtCt故2()()()0E AE B tE C t1212(,)(,)XXCt tRt t221122()()E ABtCtABtCt2221 212(1)t tt t225(),(0,)()X tABtCttA B CNX t 例：设其中是相互独立,且都服

21、从正态分布的随机变量，试证明是正态过程,并求它的均值函数和自相关函数。求它的均值函数和自相关函数。27(),(),(),()(),()X t Y ttTtT X t Y tX t Y ttT 设是依赖于同一参数的随机过程，对于不同的()是不同的二维随二机变量，称为维随机过程(三三)二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征1211121212121212(),(),;,(),(),();(),(),()(,;,;,;,)nmnmnnmmX t Y ttTt tt t ttTnmX tX tX tY tY tY tF x xx t tty yytmtnt 给定二维随机过程，

22、是 中任意两组实数，则维随机变量的分布函数：称为二维随机过程的维分布函数12111212(),(),;,(),(),()(),(),()()()nmnmX t Y ttTn mt ttT t ttTnX tX tX tmY tY tY tX tY t 给定二维随机过程对任意的正整数，任意的数组维随机变量与 维随机变量相互独立，称随机变量和是相互独立的28(),()X t Y t关于数字特征，除了各自的均值函数和自相关函数，还有如下两个数字特征:1212(),(),(,)0,()()XYX t Y tt tTCt tX tY t如果二维随机过程对任意的恒有称和是不相关的。121212121212

23、(,)()(),(,)()(),XYYXRt tE X t Y tt tTRt tE Y t X tt tT互相关函数12112212121212121212(,)()()()()(,)()(),(,)(,)()(),XYXYXYXYYXYXYXCt tEX ttY ttRt tttt tTCt tRt tttt tT互协方差函数2912121212121212()(),(),()(),(),(),(,),(,),(,),(,),(,),(,)(),(,).XYZXYZXYYZZXWWW tX t Y t Z ttttRt tR t tRt tRt tRt tRt ttRt t例6：随机过程是

24、三个随机过程之和，已知，求()()()()W tX tY tZ t解：()()()()WXYZtttt12121212(,)(,)(,)(,)WXYZRt tRt tR t tRt t121212(,)(,)(,)XYYXXZRt tRt tRt t121212(,)(,)(,)ZXYZZYRt tRt tRt t12121212(,)(,)(,)(,)WXYZRt tRt tR t tRt t则()()()0XYZttt若特，别的，(),(),()X t Y t Z t 两两不相关1212(,)()()0,XYXYRt ttt即1212(,)0,(,)0XZYZRt tRt t303 泊松过

25、程及维纳过程0110211(),0,0()()0,()(),()(),()(),(),0nnnX t ts tstX tX sntttnX tX tX tX tX tX tX ts tt给定二阶矩过程，对，上的增量；独立的增量过若称随机变量为随机过程在区间对任意选定的正整数 和任意选定的个增量相互独立，称为；它具有“在互不重叠的区间上，状态的增量是相互独立”的程这直观地说，一特征；0,()()()()()()(0)0,(X tXhsX tsXshthX thX shX tX stsstts 若对任意的实数和与具有相同的分布，称；这时，增量的分布函数与的分布函数相同，即只依赖于时间差而不依赖于

26、和 本身，当增量具有平稳性时，称相应的独立增量过增量程是具有平稳性齐次的；31 独立增量过程的性质：(),0(0)0,X t tX若是独立增量过程，且则：()()()(0)1.X tX tX sst的有限维分布函数族可以由增量的 分布所确定；121212121111121211,(),(),()()(0),()()()(0),.,()()(),(),()()(0),()(),()()nnnniiinnnnt tttttX tX tX tX tXX tX tX tXX tX tX tX tX tX tXX tX tX tX t事实上，对任意的 及任意的，不妨设,则：即的分布函数可由：的分布函数确

27、定32()(,)(,2.)XXXDtCs tDmin s t设已知，则()()()()XY tX ttX t证明：记，则当具有独立增量性时，(0)0,()0,()()YXYE Y tD tDt且()Y t 也具有独立增量性，2()(0)()()()(0)E Y sYY tY sY sY,(,)()()XstCs tE Y s Y t设则 2()(0)()()()E Y sYY tY sE Ys 2()(0)()()()()XE Y sYE Y tY sE YsDs,(,)()XXtsCs tDt同理当时 可证得综上可得综上可得:),(),(tsminDtsCXX(1)(1)!)()(,0,.)

28、3()2(0)0()1(:,0,0),()2(ntensNstNPtsttNttNnt即对一切泊松分布的从均值为的区间中事件的个数服在任一长度为过程有独立增量如果具有参数称为泊松过程计数过程泊松过程定义3.,0NNCs tDmin s tmin s ts t（4）协方差函数),(min(),(:),(0:)()()()()()()()()()()()()(),(0:2121221221221211212112121121211212111212112ttt tttRtt tttRtttttttttttxEtxtxEtxEtxEtxtxtxEtxtxtxtxEttRtt综上若同理若相关函数表达式

29、的推导40若N(t)是强度为的泊松流，则增量的概率分布为：.,2,1,0,!)(),(),(0)(0000kttekttkttNPttPttkk特别地，当t0=0时：.,2,1,0!)()(),0(kektktNPtPtkk如果强度非均匀,即是时间的函数=(t),t 0.则称泊松过程为非齐次的.对于非齐次泊松过程,用类似的方法,可得.d)(1d)(),(.d)()(.,2,1,0,0,!ed)()()(),max(0),min(000d)(000tstsNtktttsRtNEkttkktNtNPtt42(),0(5)4;(5)4,(7.5)6,(12)9;(12)9(5)4;(4)(5),(5

30、),(5),(12).N t tP NP NNNP NNE ND NCov NN例7：设服从强度为 的泊松过程，求(1)(2)(3)45(1)P54(5)4!Ne解：(4)EN(5)=5,55,(5),(12)55.D NCov NND N 4522.534.5(2)P54,(7.5)6,(12)9P54,(7.5)(5)2,(12)(7.5)3(5)4!(2.5)2!(4.5)3!NNNNNNNNeee57(3)(12)9(5)4(12)(5)5(5)4(12)(5)5(7)5!P NNP NNNP NNe等待时间及其概率分布等待时间及其概率分布 在较多的实际问题中,通常对质点的观察,不是对

31、时间间隔(t1,t2中出现的质点计数,而是对记录到某一预定数量的质点所需要的时间进行计时.例如,为研究含某种放射性元素的物质,常对它发射出来的粒子作计时试验.一般,设质点(或事件)依次重复出现的时刻t1,t2,.,tn,.是一强度为的泊松流,N(t),t0为相应的泊松过程.以惯用记号记W0=0,Wn=tn,n=1,2,.Wn是一随机变量,表示第n个质点(或事件第n次)出现的等待时间.如下图所示.T1T2TkOW1W2Wk 1Wkt45 0,nnWnWFtP WtP N tnnttn 的分布函数 即第 个质点出现的时间内至少 个质点出现 0!0 0nktWk nk ntP N tketFtkt于

32、是 111 0!1!0 0nnnnk kkkWtttk nk nWWdFttktteeetdtkkftnt 因此，的概率密度为：,nWn即服从分布。11 00 0tWWetftt特别地，质点首次出现地等待时间服从指数分布：点间间距及其概率分布 记Ti=Wi-Wi-1,i=1,2,.它也是一个连续型随机变量,称为相继出现的第i-1个质点和第i个质点的点间间距.47 11110111 0 0 2 1,2,0 1 iiiiitiiiiTTitP TtP N ttN tetF tTW WiWii。下面来求 的分布，设第个质点出现的时刻为，记 称为相继出现的第个质点和第点间间距 个质点的 则,1,2 ,

33、0 00 0iitiTT itetTftt即 于是 的概率密度为：点间间距序列服从同一个指 数分布。点间间距及其概率分布 记Ti=Wi-Wi-1,i=1,2,.它也是一个连续型随机变量,称为相继出现的第i-1个质点和第i个质点的点间间距.48 定理一：强度为的泊松流(泊松过程)的点间间距是相互独立的随 机变量，且服从同一指数分布 定理二：如果任意相继出现的两个质点的点间间距是相互独立，且服从同一个指数分布：这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数分布。00 0tetf tt则质点流构成强度为的泊松过

34、程49(二)维纳过程维纳过程维纳过程是布朗运动的数学模型 以W(t)表示运动中一微粒从时刻t=0到时刻t0的位移的横坐标，且设W(0)=0。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是:(1)粒子在时段(s,t上的位移可看作是许多微小位移的 和，根据中心极限定理，假设位移W(t)-W(s)服从正态分布是合理的。(2)由于粒子的运动完全由液体分子不规则碰撞而引起的，这样，在不相重叠的时间间隔内，碰撞的次数、大小和方向可假设相互独立，即W(t)具有独立增量，同时W(t)的增量具有平稳性。50 2(),0 1.2.00,0 3.(0)0W t ttsW tW sNtsW给定二阶矩过

35、程，如果它满足：具有独立增量对任意，增量 且 称此过程为定义：维纳过程51维纳过程的性质：1.维纳过程是齐次的独立增量过程2.()维纳过程是正态过程，因此其分布完全由它的均值 函数和自协方差函数 即自相关函数 所确定 223.()0 (),0WWWWWtE W tDtD W ttCs tRs tDmin s tmin s ts t维纳过程的数字特征:52(),0()(1)()W t tX tW tW t例8：设是一个维纳过程，求+-的均值函数和相关函数。()()(1)()0XtE X tE W tE W t解：+-(,)(1)()(1)()R s tE W sW sW tW t+(1)(1)()(1)(1)()()()E W sW tE W s W tE W sW tE W s W t+(min(1,1)(min(,1)(min(1,)(min(,)DstDs tDstDs t22222(min(1,1)(1),(min(,1),(1),1(min(,),(min(1,),1stDstsDs tsstsDs ts Dsttts设，则20,1(,)(1),1tsR s tts ts 于是，20,1(,)(1),1sttsR s ttsts类似讨论的情况，合起来有