1、 随机过程随机过程 Stochasstic processes西安电子科技大学教师 冯海林 E-mail 引言本课程的研究对象 概率论主要是以概率论主要是以一个或有限个随机变量一个或有限个随机变量为研究为研究对象的对象的.随着科学技术的不断发展随着科学技术的不断发展,人们发现几乎一切可人们发现几乎一切可观察现象都具有随机性观察现象都具有随机性.必须对一些随机现象的必须对一些随机现象的变化过程变化过程进行研究进行研究.即需即需要研究要研究无穷多个随机变量无穷多个随机变量随机过程随机过程是概率论的深入和发展是概率论的深入和发展.它是研究客观世界中随机演变过程的它是研究客观世界中随机演变过程的规律性
2、规律性的的学科学科.随机过程的理论与方法在自动控制、雷达与通信、随机过程的理论与方法在自动控制、雷达与通信、生物工程、天文气象、地质能源、社会科学及工生物工程、天文气象、地质能源、社会科学及工程技术、经济管理等许多领域有着极为广泛的应程技术、经济管理等许多领域有着极为广泛的应用。用。课程任务掌握随机过程的基本概念掌握随机过程的基本概念.掌握随机过程的基本理论和分析方法掌握随机过程的基本理论和分析方法.具备处理随机现象的思想与方法具备处理随机现象的思想与方法.具有应用随机过程的理论和方法来分析问题和具有应用随机过程的理论和方法来分析问题和解决问题的能力解决问题的能力.基本内容随机过程基本概念随机
3、过程基本概念随机分析随机分析平稳过程平稳过程马尔科夫过程(链)马尔科夫过程(链)教材随机过程随机过程张卓奎张卓奎 陈慧婵西安电子科技大学出版社陈慧婵西安电子科技大学出版社 2003随机过程随机过程同步学习指导同步学习指导 张卓奎张卓奎 陈慧婵陈慧婵 西安电子科技大学西安电子科技大学出版社出版社 2004参考教材1.随机过程随机过程毛用才毛用才 胡奇英胡奇英 西安电子科技大学西安电子科技大学出版社出版社 1998 2.随机过程理论随机过程理论 周荫清周荫清 电子工业出版社电子工业出版社 第二版第二版 20063.An introduction to stochastic processes Ed
4、ward P.C.kao Thomson 2003 第一章第一章 随机过程的基本概念随机过程的基本概念 随机过程的定义及其有限维分布函数族随机过程的定义及其有限维分布函数族 随机过程的数字特征随机过程的数字特征 几类重要的随机过程几类重要的随机过程 重点重点 随机过程的定义、数字特征、正态过程、随机过程的定义、数字特征、正态过程、Poisson过程过程要求要求(1)准确理解随机过程的定义,熟悉研究准确理解随机过程的定义,熟悉研究 随机过程的方法随机过程的方法(2)熟练求出样本函数、有限维分布、熟练求出样本函数、有限维分布、数字特征、特征函数数字特征、特征函数 难点难点 有限维分布和有限维分布和
5、Poisson过程过程例例1.考察考察 0,t0时间内某网站收到的访问次数时间内某网站收到的访问次数(t),则则(t)是一个随机变量是一个随机变量 如果要长时间内该网站的访问次数如果要长时间内该网站的访问次数,则需要让则需要让t 变化起来变化起来,即即t趋于无穷大趋于无穷大,则则 (t)是一族随机变量是一族随机变量 此时此时(t)是与时间有关系的随机变量,称是与时间有关系的随机变量,称(t),t0,)是随机过程是随机过程)cos(tAX(t)其中其中 为常数,为常数,服从服从0,20,2 上的均匀分布上的均匀分布.若要观察任一时刻若要观察任一时刻t的波形,则需要用一族随机变量的波形,则需要用一
6、族随机变量(t)描述描述.则称则称(t),t00,+)为随机过程为随机过程由于初位相的随机性,在某时刻由于初位相的随机性,在某时刻tt0,(t0)是一个随机变量是一个随机变量例例.生物群体的增长问题生物群体的增长问题.以以t表示在时刻表示在时刻t某种某种 生物群体的个数生物群体的个数,则对每一个固定的则对每一个固定的t,t是一是一 个随机变量个随机变量 如果从如果从t开始每隔开始每隔24小时对群体的个数观小时对群体的个数观 察一次,则对每一个察一次,则对每一个t,t是一族随机变量是一族随机变量 也记为也记为n,n,.则称则称t,t,2,.是随机过程是随机过程例例4.在天气预报中在天气预报中,以
7、以Xt 表示某地区第表示某地区第t次统计所得次统计所得 到的最高气温到的最高气温,则则Xt 是一个随机变量是一个随机变量.为了预报该地区未来的气温为了预报该地区未来的气温,要让要让t趋于无穷大趋于无穷大,则可得到一族随机变量则可得到一族随机变量:Xt,t=0,1,2,,称称t,t,2,.,是随机过程是随机过程以上以上4个例子的共同特点是个例子的共同特点是:对某参数集中的任意一个参数对某参数集中的任意一个参数t,就有一个就有一个随机变量随机变量X(t)与之对应与之对应.随机过程定义随机过程定义若对每一若对每一 t T,均有定义在均有定义在(,F,P)上的一个上的一个随机变量随机变量X(,t),(
8、)与之对应与之对应,则称则称X(,t)为为(,F,P)上的一个上的一个随机过程随机过程(S.P.)记记X(,t),tT,简记简记X(t),tT,或或X(t).设设(,F,P)为一概率空间为一概率空间,T为一参数集为一参数集,T R,T T称为参数集或参数空间称为参数集或参数空间,t,t称为参数称为参数,一般表一般表示时间或空间示时间或空间.参数集通常有以下形式参数集通常有以下形式:T=0,1,2,或或 T=-2,-1,0,1,2,T=a,b,其中其中a 可以为可以为,b可以为可以为+.当参数集为形式当参数集为形式时时,随机过程随机过程X(t)也称为也称为随机序列随机序列1.X(,t),t),实
9、质上为定义在实质上为定义在T T上上的二元单值函数的二元单值函数.2.对每一个固定的对每一个固定的t,X(t)为一随机变量为一随机变量(r.v.).tTT时时.该随机变量所有可能取值的集合该随机变量所有可能取值的集合,称为随机过程的称为随机过程的状态空间状态空间.记为记为S.S中的元素称为中的元素称为状态状态.3.对每一个确定的对每一个确定的0,X(0,t)是定义在是定义在T上的普通上的普通函函数数.记为记为 x(0,t),称为为随机过程的一个称为为随机过程的一个样本函数样本函数.也称也称轨道或实现轨道或实现.样本函数的图形称为样本函数的图形称为样本曲线样本曲线 tX(t)tt0状态X(t0)
10、=4状态X(t0)=5样本曲线x1(t)x1(t)x2(t)样本曲线x2(t)状态空间S=0,1,2,.,T=0,+)状态空间S=-A,A,参数集T=-,+tX(t)样本曲线样本曲线x1(t)样本曲线x2(t)t0状态X(t0)状态X(t0)例例2 的样本曲线与状态的样本曲线与状态)cos(tAX(t)t0状态X(t0)=18状态状态X(t0)=25样本曲线样本曲线x1(t)样本曲线样本曲线x2(t)状态状态X(t0)=40样本曲线样本曲线x3(t)X(t)t10203040506070024状态空间S=0,1,2,.,T=0,24,)4.4.根据参数集与状态空间离散与否根据参数集与状态空间离
11、散与否,随机过程可分为随机过程可分为离散参数,离散状态的随机过程 (例3)离散参数,连续状态的随机过程 (例4)连续参数,离散状态的随机过程 (例1)连续参数,连续状态的随机过程 (例2)参数集为离散的随机过程也称为随机序列,或时间序列二随机过程的有限维分布函数族二随机过程的有限维分布函数族设设X(t),tTT 是是S.P.S.P.1.一维分布函数对任意对任意tT,X(t)为一随机变量为一随机变量.称其分布称其分布函数函数 F(t;x)=P(X(t)x),x R为随机过程为随机过程X(t),tT的一维分布函数的一维分布函数.2.2.二维分布函数二维分布函数对任意固定的对任意固定的t1,t2T,
12、X(t1),X(t2)为两个随为两个随机变量机变量.称其联合分布函数称其联合分布函数 F(t1,t2;x1,x2)=P(X(t1)x1,X(t2)x2),x1,x2R为随机过程为随机过程X(t),tT的二维分布函数的二维分布函数.对任意固定的对任意固定的t1,t2,tnT,X(t1),X(t2),X(tn)为为n个随机变量个随机变量.称其联合分布函数称其联合分布函数 F(t1,t2,tn;x1,x2,xn)=P(X(t1)x1,X(t2)x2 X(tn)xn)x1 x2,xn R为随机过程为随机过程X(t),tT的的n维分布函数维分布函数.称随机过程称随机过程X(t),tTT 的一维分布函数的
13、一维分布函数,二维二维分布函数分布函数,n,n维分布函数维分布函数,的全体的全体 为随机为随机过程的过程的有限维分布函数族有限维分布函数族.有限维分布函数族定义有限维分布函数族定义注注:有限维分布函数族能够描述随机过程的有限维分布函数族能够描述随机过程的 统计特性统计特性.有限维分布函数族的性质有限维分布函数族的性质对称性对称性),;,(2121nniiiiiixxxtttF),;,(2121nnxxxtttF的任意一个排列,则是设niiin,2,1,21相容性相容性设mn,则),;,(2121mmxxxtttF),;,(21121mnmmxxxtttttF注注:随机过程的统计特性还可以用另一
14、种工随机过程的统计特性还可以用另一种工具描述具描述,即随机过程的即随机过程的有限维特征函数族有限维特征函数族(后面补充介绍后面补充介绍)本节内容举例本节内容举例例例1.1.设随机过程设随机过程 X(tX(t)=)=VcosVcost,tt,t(-,+),(-,+),其中其中为常数为常数,V V服从服从0,10,1上的均匀分布上的均匀分布.确定确定 X(t),X(t),t(-,+)的两个样本函数的两个样本函数.求求t=0,t=3t=0,t=3/4/4时时,随机变量的概率密度函数随机变量的概率密度函数.求求t=t=22 时时X(t)的分布函数的分布函数.解解(1)取V=1/2,1/3分别得到两个样
15、本函数ttxcos21)(1ttxcos31)(2(2)X(0)1()0fx其它10 x时,43tVVtX2243cos)(上均匀分布,则,为而时,10,0cos)(0VVVtXt则利用公式其导数为的反函数为由于函数,2)(,2)(22xhxxhVVx0)()()()43X(xhxhfxfV其它1)(0 xh02其它120 x02其它022x(3)()cos0,22,2tX tVX时,此时()是单点分布 则)2()()2(xXPxFX0100 xx例例2 设随机过程设随机过程 X(t)=A+Bt,t0,其中其中A,B 是相互是相互独立的随机变量独立的随机变量,且都服从标准正态分布且都服从标准正
16、态分布N(0,1).求求该随机过程的一维和二维分布该随机过程的一维和二维分布解解 对任意的对任意的t0,X(t)=A+Bt,有题意知有题意知X(t)是正态分布是正态分布.又又 EX(t)=0,DX(t)=1+t2所以所以S.P.的一维分布为的一维分布为X(t)N(0,1+t2)又对任意的t10,t20,X(t1)=A+Bt1 N(0,1+t12),X(t2)=A+Bt2 N(0,1+t22),(定理定理 正态变量的线性变换是正态变量正态变量的线性变换是正态变量)page24 定理定理1.5.3(3)121211()()()X tX tABtt即由由A,B独立知独立知,(A,B)服从二维正态分布
17、服从二维正态分布所以所以(X(t1),X(t2)也服从二维正态分布也服从二维正态分布)(EX)(EX)(X)EX()(X),(X(212121ttttttCov又21211)B)(ABE(At ttt所以协方差矩阵为222121211111tt tt ttM而(X(t1),X(t2)的均值向量为 =(0,0)0,0),()()(2121ttMNtXtX所以该S.P.的二维分布为例例3.0,cosA)(S.P.Xttt设其中A具有以下概率分布.3,2,1,31)(iiAP试求(1)该S.P.的一维分布函数(,),(4,)2xFFx(2)该S.P.的二维分布函数),;3,0(21xxF解解21()
18、cos,442XAA()232222111333分布律为 0,1,3;)2,31,x分布函数为F(4222223222322xxxx12122(0,;,)(0),()33Fx xP Xx Xx()12(,)2AP Axx12(,2)P Ax Ax0,1,32,31,12()(2)P AxP Ax121222xxxx1111112233xxxx 12(2)xx2222211 222 2323xxxx或12(2)xx例例4.4.利用重复掷硬币的试验定义一个随机过程出现反面出现正面,2,cos)(tttX0t 出现正面与反面的概率相等.求X(t)的一维分布函数F(1/2;F(1/2;x),F(1;),F(1;x).).求X(t)的二维分布函数F(1/2,1;x1,x2).例例5.5.利用掷一枚硬币的试验定义一个随机过程出现反面出现正面,2,cos)(tttX0t