1、随机过程随机过程 Stochastic processes东华大学信息学院自动化系高尚策 Email: 引言本课程的研究对象 概率论主要是以概率论主要是以一个或有限个随机变量一个或有限个随机变量为研究为研究对象的对象的.随着科学技术的不断发展随着科学技术的不断发展,人们发现几乎一切可人们发现几乎一切可观察现象都具有随机性观察现象都具有随机性.必须对一些随机现象的必须对一些随机现象的变化过程变化过程进行研究进行研究.即需即需要研究要研究无穷多个随机变量无穷多个随机变量随机过程随机过程是概率论的深入和发展是概率论的深入和发展.它是研究客观世界中随机演变过程的它是研究客观世界中随机演变过程的规律性规
2、律性的的学科学科.随机过程的理论与方法在自动控制、雷达与通信、随机过程的理论与方法在自动控制、雷达与通信、生物工程、天文气象、地质能源、社会科学及工生物工程、天文气象、地质能源、社会科学及工程技术、经济管理等许多领域有着极为广泛的应程技术、经济管理等许多领域有着极为广泛的应用。用。课程任务掌握随机过程的基本概念掌握随机过程的基本概念.掌握随机过程的基本理论和分析方法掌握随机过程的基本理论和分析方法.具备处理随机现象的思想与方法具备处理随机现象的思想与方法.具有应用随机过程的理论和方法来分析问题和具有应用随机过程的理论和方法来分析问题和解决问题的能力解决问题的能力.基本内容随机过程基本概念随机过
3、程基本概念随机分析随机分析平稳过程平稳过程马尔科夫过程（链）马尔科夫过程（链） 教材随机过程随机过程张卓奎张卓奎 陈慧婵西安电子科技大学出版社陈慧婵西安电子科技大学出版社 2003随机过程随机过程 同步学习指导同步学习指导 张卓奎张卓奎 陈慧婵陈慧婵 西安电子科技大学西安电子科技大学出版社出版社 2004参考教材1.随机过程随机过程毛用才毛用才 胡奇英胡奇英 西安电子科技大学西安电子科技大学出版社出版社 1998 2.随机过程理论随机过程理论 周荫清周荫清 电子工业出版社电子工业出版社 第二版第二版 20063. An introduction to stochastic processes
4、Edward P.C. kao Thomson 2003Basic Concepts-Probability 随机试验 (Random Experiment)结果事先不确定 outcome is unknown; 可重复 reproducible 样本空间(Sample Space): S所有可能结果的全体 the set of all possible outcomes 事件(Events): E 样本空间的某子集 any subset of S概率概率 (Probability): P 在样本空间S中，实值函数函数P满足：(1) ;(2) ；(3)对于任何互斥事件 ，有则称P为E的概率。0
5、( )1P E1)(SPjiEEji ,11)()(nnnnEPEP概率的性质：(1) ; (2) Monotonicity: 若 , (3) (4) Subadditivity: 布尔不等式： (5) (6) Continuity for below: 若 单调递增，则 (7) Continuity for above: 若 单调递减，则( )( )P EP F0)(PEF)(1)(EPEPc11)()(nnnnEPEP)() 1()()()()(2111111nnnkjikjinjijiniiniiEEEPEEEPEEPEPEPnEnE)()(lim1nnnnEPEP)()(lim1nnn
6、nEPEPn条件概率n乘法公式n全概率公式nBayes公式公式 与 之间的关系)()()()()(12121312121nnnEEEEPEEEPEEPEPEEEP,ijFFij1( )() ()iiiP EP F P E F()P E F()P F E1() ()()() ()iiijjjP F P E FP F EP F P E F()()( )P EFP E FP FExample:n在多项选择题考试中，学生要么知道答案，要么去猜答案。令学生知道答案的概率为p，不知道答案的概率为1-p，假设猜对答案的概率为1/m，其中m为选择项数。问：学生答对问题时，他知道答案的概率为多少？n解：令C,K
7、分布为学生答对问题和确实知道答案的事件。n相互独立 (Independent)n独立独立与互斥互斥独立的两个事件不一定互斥，也即两个事件独立则可能交集不空互斥的两个事件不一定独立，也即交集为空的两个事件不一定独立()( ) ( )P EFP E P Fn随机变量：随机变量：样本空间里的实值函数n分布函数（分布函数（distribution function）：）：描述随机变量的分布 性质性质: (1) 非减函数nondecreasing function； (2) (3)扩展到n-维xxXPxF),()(),(),()(221121nnnxXxXxXPxxxFxF),(21nxxxx随机变量(
8、random variable)及其分布 随机变量随机变量离散型：离散型： 概率密度函数概率密度函数 分布函数分布函数n连续型连续型 xxiipxF)(xdttfxF)()(概率密度函数()iipP Xx扩展到2维X, Y联合分布函数),(),(yYxXPyxFX与Y的分布函数)(),(lim)(xXPyxFxFyX)(),(lim)(yYPyxFyFxY典型离散型随机变量：nBernouli Random VariablenBinomial Random Variable n个独立事件successfailExamplen已知一台机器制造出来的产品，废品率为0.1，并且产生废品的事件是独立的
9、。问：三个产品中最多有一个为废品的概率是多少？n解：离散型随机变量：nGeometric Random VariablenPoisson Random Variable当二项随机变量中参数n很大，p很小时，二项随机变量可以近似看作是Poisson随机变量。连续型随机变量：典型连续型随机变量：nUniform Random VariablenExponential Random Variable 连续型随机变量：nGamma Random Variable Gamma函数 连续型随机变量：nNormal Random Variable 随机变量的数字特征1. 期望(Expectation)n定义
10、 加权平均例：掷一个色子的期望E(X)练习：试求前面所讲几个典型随机变量的期望 ，dxxxfpxxxdFEXiii)()(离散型连续型n定理：X是一随机变量，F(x)为分布函数，y=g(x)是连续函数，若 存在，则n推论：如果a，b为常数，则 )()(xdFxg)()()(xdFxgXgEEY2. 方差 (Variable)()()(222XEXEEXXEDX3. 协方差 (Covariance)(),(EYYEXXEYXCov不相关：若Cov(X,Y)=0独立随机变量是不相关的，其逆不真。4. 矩母函数矩母函数 (Moment Generating Function)The moments
11、of X性质：X, Y 是独立变量小结 第一章第一章 随机过程的基本概念随机过程的基本概念 随机过程的定义及其有限维分布函数族随机过程的定义及其有限维分布函数族 随机过程的数字特征随机过程的数字特征 几类重要的随机过程几类重要的随机过程 重点重点 随机过程的定义、数字特征、正态过程、随机过程的定义、数字特征、正态过程、 Poisson过程过程要求要求（1）准确理解随机过程的定义，熟悉研究准确理解随机过程的定义，熟悉研究 随机过程的方法随机过程的方法(2)熟练求出样本函数、有限维分布、熟练求出样本函数、有限维分布、 数字特征、特征函数数字特征、特征函数 难点难点 有限维分布和有限维分布和Pois
12、son过程过程例例1. 考察考察 0，t0时间内某网站收到的访问次数时间内某网站收到的访问次数(t), 则则(t)是一个随机变量是一个随机变量 如果要长时间内该网站的访问次数如果要长时间内该网站的访问次数, 则需要让则需要让t 变化起来变化起来,即即t趋于无穷大趋于无穷大,则则 (t)是一族随机变量是一族随机变量 此时此时(t) 是与时间有关系的随机变量，称是与时间有关系的随机变量，称 (t), t0,） 是随机过程是随机过程1)cos(tAX(t)其中其中 为常数，为常数，服从服从0,20,2 上的均匀分布上的均匀分布. .若要观察任一时刻若要观察任一时刻t的波形，则需要用一族随机变量的波形
13、，则需要用一族随机变量(t)描述描述. 则称则称(t)，t00 ，+)为随机过程为随机过程由于初位相的随机性，在某时刻由于初位相的随机性，在某时刻tt0，(t0)是一个随机变量是一个随机变量例例.生物群体的增长问题生物群体的增长问题.以以t表示在时刻表示在时刻t某种某种 生物群体的个数生物群体的个数,则对每一个固定的则对每一个固定的t,t是一是一 个随机变量个随机变量 如果从如果从t开始每隔开始每隔24小时对群体的个数观小时对群体的个数观 察一次，则对每一个察一次，则对每一个t，t是一族随机变量是一族随机变量 也记为也记为n，n，.则称则称t ,t, 2 , . 是随机过程是随机过程例例4.
14、在天气预报中在天气预报中, 以以Xt 表示某地区第表示某地区第t次统计所得次统计所得 到的最高气温到的最高气温,则则Xt 是一个随机变量是一个随机变量.为了预报该地区未来的气温为了预报该地区未来的气温,要让要让t趋于无穷大趋于无穷大,则可得到一族随机变量则可得到一族随机变量: Xt , t=0,1,2,， 称称t，t，2，.， 是随机过程是随机过程以上以上4个例子的共同特点是个例子的共同特点是:对某参数集中的任意一个参数对某参数集中的任意一个参数t,就有一个就有一个随机变量随机变量X(t)与之对应与之对应.随机过程定义随机过程定义若对每一若对每一 t T,均有定义在均有定义在(,F,P)上的一
15、个上的一个随机变量随机变量X(,t),()与之对应与之对应,则称则称X(,t)为为(,F,P)上的一个上的一个随机过程随机过程(S.P.)记记X(,t), ,tT,简记简记X(t),tT,或或X(t).设设(,F,P)为一概率空间为一概率空间,T为一参数集为一参数集,T R, T T称为参数集或参数空间称为参数集或参数空间, t, t称为参数称为参数, ,一般表一般表示时间或空间示时间或空间. . 参数集通常有以下形式参数集通常有以下形式: T=0,1,2,或或 T= -2,-1,0,1,2, T=a,b,其中其中a 可以为可以为, b可以为可以为+.当参数集为形式时当参数集为形式时,随机过程
16、随机过程X(t)也称为也称为随机序列随机序列1. X(,t),t),实质上为定义在实质上为定义在T T上的二元单值函数上的二元单值函数. 2.对每一个固定的对每一个固定的t, X(t)为一随机变量，称之为为一随机变量，称之为X(t),tTT在在t t时刻的时刻的状态状态. .该随机变量所有可能取值的集合该随机变量所有可能取值的集合,称为随机过程的称为随机过程的状态空间状态空间.记为记为S. 3.对每一个确定的对每一个确定的0,X(0,t)是定义在是定义在T上的普通上的普通函数函数. 记为记为 x(0,t), 称为为随机过程的一个称为为随机过程的一个样本函数样本函数.也称也称轨道或实现轨道或实现
17、.样本函数的图形称为样本函数的图形称为样本曲线样本曲线 tX(t)tt0状态X(t0)=4状态X(t0)=5样本曲线x1(t)x1(t)x2(t)样本曲线x2(t)状态空间S=0,1,2,., T=0,+)状态空间S=-A,A,参数集T=-,+ tX(t)样本曲线样本曲线x1(t)样本曲线x2(t)t0状态X(t0)状态X(t0)例例2 的样本曲线与状态的样本曲线与状态)cos(tAX(t)t0状态X(t0)=18状态状态X(t0)=25样本曲线样本曲线x1(t)样本曲线样本曲线x2(t)状态状态X(t0)=40样本曲线样本曲线x3(t)X(t)t10203040506070024状态空间S=
18、0,1,2,., T=0,24,)4.4.根据参数集与状态空间离散与否根据参数集与状态空间离散与否, ,随机过程可分为随机过程可分为离散参数,离散状态的随机过程 (例3) 离散参数,连续状态的随机过程 (例4) 连续参数,离散状态的随机过程 (例1) 连续参数,连续状态的随机过程 (例2) 参数集为离散的随机过程也称为随机序列，或时间序列2随机过程的有限维分布函数族随机过程的有限维分布函数族设设X(t),tTT是是S.P.S.P.1.一维分布函数对任意对任意tT, X (t)为一随机变量为一随机变量.称其分布称其分布函数函数 F (t ; x)=P(X(t) x), x R为随机过程为随机过程
19、X(t),tT的一维分布函数的一维分布函数.2.2.二维分布函数二维分布函数对任意固定的对任意固定的t1,t2T, X (t1) ,X (t2)为两个随为两个随机变量机变量.称其联合分布函数称其联合分布函数 F (t1,t2; x1, x2)=P(X(t1) x1, X(t2) x2 ), x1, x2R为随机过程为随机过程X(t),tT的二维分布函数的二维分布函数. 对任意固定的对任意固定的t1,t2, ,tnT, X (t1) ,X (t2), X (tn)为为n个随机变量个随机变量.称其联合分布函数称其联合分布函数 F (t1,t2 ,tn ; x1, x2, xn) = P(X(t1)
20、 x1, X(t2) x2 X(tn) xn ) x1 x2, xn R为随机过程为随机过程X(t),tT的的n维分布函数维分布函数. 称随机过程称随机过程X(t),tTT的一维分布函数的一维分布函数, ,二维二维分布函数分布函数,n,n维分布函数维分布函数,的全体的全体 为随机为随机过程的过程的有限维分布函数族有限维分布函数族.有限维分布函数族定义有限维分布函数族定义注注: 有限维分布函数族能够描述随机过程的有限维分布函数族能够描述随机过程的 统计特性统计特性.有限维分布函数族的性质有限维分布函数族的性质对称性对称性),;,(2121nniiiiiixxxtttF),;,(2121nnxxx
21、tttF的任意一个排列，则是设niiin, 2 , 1,21相容性相容性设mn,则),;,(2121mmxxxtttF),;,(21121mnmmxxxtttttF注注:随机过程的统计特性还可以用另一种工随机过程的统计特性还可以用另一种工具描述具描述,即随机过程的即随机过程的有限维特征函数族有限维特征函数族(后面补充介绍后面补充介绍)本节内容举例本节内容举例例例1.1.设随机过程设随机过程 X(t)=VcosX(t)=Vcost,t(-,+),t,t(-,+),其中其中为常数为常数,V V服从服从0,10,1上的均匀分布上的均匀分布. .确定确定X(t),X(t),t(-,+)的两个样本函数的
22、两个样本函数.求求t=0,t=3t=0,t=3/4/4时时,随机变量的概率密度函数随机变量的概率密度函数.求求t= t= 22 时时X(t) 的分布函数的分布函数.解解 (1) 取V=1/2, 1/3分别得到两个样本函数ttxcos21)(1ttxcos31)(2(2)X(0)1( )0fx其它10 x时，43tVVtX2243cos)(上均匀分布，则，为而时， 10,0cos)(0VVVtXt则利用公式其导数为的反函数为由于函数,2)(,2)(22xhxxhVVx0)()()()43X(xhxhfxfV其它1)(0 xh02其它120 x02其它022x(3)( )cos0,22,2tX t
23、VX时，此时 （）是单点分布 则)2()()2(xXPxFX0100 xx例例2 设随机过程设随机过程 X(t)=A+Bt, t0,其中其中A,B 是相互是相互独立的随机变量独立的随机变量,且都服从标准正态分布且都服从标准正态分布N(0,1).求求该随机过程的一维和二维分布该随机过程的一维和二维分布解解 对任意的对任意的t0, X(t)=A+Bt, 有题意知有题意知X(t)是正态分布是正态分布.又又 EX(t)=0, DX(t)=1+t2所以所以S.P.的一维分布为的一维分布为X(t) N(0,1+t2)又对任意的t10, t20, X(t1)=A+Bt1 N(0,1+t12), X(t2)=
24、A+Bt2 N(0,1+t22), (定理定理 正态变量的线性变换是正态变量正态变量的线性变换是正态变量) page24 定理定理1.5.3(3)121211( )( )()X tX tABtt即由由A,B独立知独立知, (A,B)服从二维正态分布服从二维正态分布所以所以( X(t1), X(t2) ) 也服从二维正态分布也服从二维正态分布)(EX)(EX)(X)EX()(X),(X(212121ttttttCov又21211)B)(ABE(At ttt所以协方差矩阵为222121211111tt tt ttM而( X(t1), X(t2) ) 的均值向量为 =(0, 0) 0, 0),()(
25、)(2121ttMNtXtX所以该S.P.的二维分布为例例3.0,cosA)(S.P.Xttt设其中A具有以下概率分布. 3 , 2 , 1,31)(iiAP试求 (1)该S.P.的一维分布函数(, ),(4, )2xFFx(2)该S.P.的二维分布函数),;3, 0(21xxF解解21()cos,442XAA（）232222111333分布律为 0,1,3; )2,31,x分布函数为F(4222223222322xxxx12122(0,;,)(0),()33Fx xP Xx Xx（ ）12(,)2AP Axx12(,2)P Ax Ax0,1,32,31,12()(2)P AxP Ax121222xxxx1111112233xxxx 12(2)xx2222211 222 2323xxxx或12(2)xx作业作业1.1.利用重复掷硬币的试验定义一个随机过程出现反面出现正面,2,cos)(tttX0t 出现正面与反面的概率相等. 求X(t)的一维分布函数F(1/2; F(1/2; x),F(1; ),F(1; x).). 求X(t) 的二维分布函数F(1/2,1; x1,x2).
