应用随机过程课件资料.ppt_163文库

资源描述

1、应用随机过程应用随机过程Application of Stochastic Processes范爱华范爱华数理科学与工程学院数理科学与工程学院应用数学系应用数学系8 .2701. 13654 .137702. 1365成功的道路并不拥挤，成功的道路并不拥挤，的人并不是很多。的人并不是很多。因为坚持到最后因为坚持到最后教材教材应用随机过程应用随机过程主要教学参考书主要教学参考书张波张波张景肖张景肖编编中国人民大学出版社参考书参考书1.1.应用随机过程应用随机过程林元烈林元烈编著编著清华大学出版社清华大学出版社 2.随机过程随机过程王风雨王风雨编著编著北京师范大学出版社

2、北京师范大学出版社前前言言第第1 1章章预备知识预备知识1.1 概率空间概率空间在自然界和人类的活动中经常遇到各种各样的现在自然界和人类的活动中经常遇到各种各样的现象，大体上分为两类：象，大体上分为两类：必然现象和随机现象必然现象和随机现象。具有随机性的现象具有随机性的现象随机现象随机现象对随机现象的观察或为观察而进行的实验对随机现象的观察或为观察而进行的实验随机试验随机试验随机试验的结果随机试验的结果基本事件或样本点。基本事件或样本点。记记作作记作记作所有可能的结果称为所有可能的结果称为样本空间样本空间。由基本事件组成的子集AA称为事件称为事件。（有（有3个特征）个特征）事件的

3、性质事件的性质假设假设A,B,C是任意事件，则他们满足：是任意事件，则他们满足：(1)交换律交换律(2)结合律结合律(3)分配律分配律(4)对偶原则对偶原则 (De Morgan律律)A AB BB BA A C CB BA AC CB BA A) )( () )( ( C CB BA AC CB BA A) )( () )( ( ) )( () )( () )( (C CA AB BA AC CB BA A ) )( () )( () )( (C CA AB BA AC CB BA A B BA AB BA A B BA AB BA A i ii ii ii iA AA A1 11 1 i

4、 ii ii ii iA AA A1 11 1 ；，则则如如果果）（F FA AF FA A 2 2. ., , ,2 2 , ,1 13 31 1F FA Ai iF FA Ai ii ii i 则则，如如果果）（；）（F F 1 1. .- - 代代数数中中的的为为那那么么，称称 F F.),(中的元素称为事件为可测空间，FF 定义定义1.1 中的某些子集是为样本空间，设F：组成的集合族，若满足性质性质假假代代数数，则则中中的的任任一一事事件件是是设设- - F F; ;) )1 1( (F F ; ;, , , ,2 2 , ,1 1, ,) )2 2( (1 11 1n ni ii

5、in ni ii ii iF FA AF FA An ni iF FA A 则则若若果果; ;, , ,2 2 , ,1 1, ,) )3 3( (1 1 i ii ii iF FA Ai iF FA A则则若若果果; ;, , , ,) )4 4( (F FA AB BF FB BA AF FB BA A 则则若若果果.-5代数必为代数）（例例1.1例例1.2例例1.3. .- - 代数代数类是事件类是事件的一切事件构成的事件的一切事件构成的事件由由，由,F. .- - 代数代数称作平凡事件称作平凡事件 , , , , , , A AA AF FA A对任意事件对任意事件代数。是事件-.)

6、-(代数常常它为称为最广泛的代数。是事件则-F ; ;6 6 , ,5 5 , ,4 4 , ,3 3 , ,3 3 , ,2 2 , ,1 1 , , , ) )1 1( ( F F事事件件类类 ; ;6 6 , ,5 5 , ,4 4 , ,3 3 , ,2 2 , ,1 1 , , , ) )2 2( ( F F事事件件类类 ; ;6 6 , ,4 4 , ,2 2 5 5 , ,3 3 , ,1 1 , , , ) )3 3( ( F F事事件件类类随机试验随机试验: 掷一枚骰子，观察出现的点数，掷一枚骰子，观察出现的点数，思考题：思考题：，下下列列事事件件是是否否构构成成样样本本空空

7、间间 6 6 , ,5 5 , ,4 4 , ,3 3 , ,2 2 , ,1 1 代数？-定义定义1.2).(A记作代数，的最小的上任意包含事件对于-A.)(, 2 , 1,-,1iiiFAiFAAA之交，即代数的事件上包含代数，并且等于最小事件的必定存在含中的任意事件类对于注：代数，生成的称为事件-A结论：结论：中的一个集系，是设A的最小的则包含A.)(-一定存在代数A定义定义1.3).),().(,-.)(,-,-),(-),(,RaaBRBBorelRBorelRBBorelRRaaaRnn显然记作代数上的类似可以定义合集，其中的元素称为记作代数上的称为代数）的最小（即包含代数生成的由

8、所有半无限区间设定义定义1.4- - 上上的的事事件件是是定定义义在在样样本本空空间间设设 F F足足上上的的非非负负集集函函数数，且且满满是是定定义义在在代代数数，F FF FA AA AP P ) ), ,( (; ;1 1) )( (0 01 1 A AP PF FA A，有有）对对任任意意（; ;1 1) )( (P P) )2 2( ( j ji iA AA Ai iF FA Aj ji ii i , , , ,2 2 , ,1 13 3，）对对任任意意（ 1 11 1) )( (i ii ii ii iA AP PA AP P）（的概率。称为事件间，称作概率空）上的概率，是则称AA

9、PPFFP)(),(,(例例1.1：,1 , 0,1 , 0 1 , 0BFBorel概率空间：设上的),(,- 1 , 0 1 , 0FBorelB称代数上的是局限在即 1 , 0,. 1 , 0)1 , 0,1 , 0(BbaABorelB可测空间上的为概率空间，上的为，称定义BorelPFabAP 1 , 0),(,)(. 1 , 0概率测度上的为称BorelP概率的基本性质概率的基本性质, 0)() 1 (P)(1)()3(APAP,)2(FBA若)()()()(ABPBPAPBAP则)()()(APBPABP,)4(FBABA若)()(BPAPBA若单调性单调性则)(1nnAP1)(

10、nnAP次可列可加性次可列可加性1,)5(nFAn若1,)6(iijiAAAji设有则对任意事件 ,A1)()(iiAAPAP公式的推广，）性质（Jordan)2(7有对任意nAAA,21)(1niiAP1)(iiAPnjijiAAP1)(nkjinnkjiAAAPAAAP1211)() 1()( ,iA假设事件序列,) 1 (21nAAA如果,)2(21nAAA如果事件列极限事件列极限1：nnAlim则nnA1AAnAAnnnAlim则nnA1结论：结论：.)(序列必有极限集合单调事件概率的连续性：)8(的事件序列或递减是单调递增若)(1,nAn定理：定理：则)(limnnAP)lim(nn

11、AP具体情况：具体情况：AAAAAAFAnnnnnn11,) 1 (且即且若AAAAAAFAnnnnnn11,)2(且即且若)(AP)(limnnAP)lim(nnAP)(1nnAP)(AP)(limnnAP)lim(nnAP)(1nnAP事件列极限事件列极限2：，）对于任意事件序列（, 2 , 1,3nAn, 2 , 1,knkAn, knnA, 2 , 1k.因而分别有极限定义定义1.51kknnAdefnnA inflimnAlim 的下极限的下极限nAknnA1kdefnnA suplimnAlim 的上极限的上极限nA例例1.2：nnAxsuplim) 1 (.中无穷多个集合属于意味

12、着nAxnnAxinflim)2(中的有限多个集合外，意味着除去, 2 , 1nAn.属于该序列的其余集合x关系：关系：nnAinflimnnAsuplim含义：含义：:axx_1:naxx1)(nA1)(nB例例1.3：.序列面”和“反面”组成的所以投掷硬币结果“正，的所有子集F.结果是“正面”第nAn则nnAinflimnnAsuplim是“正面”有无限多次投掷的结果掷的结果都是除有限多次外，其余投.“正面”1.2 随机变量和分布函数随机变量和分布函数随机变量：随机变量：用实数来表示随机实验的各种结果用实数来表示随机实验的各种结果.定义定义1.6上，是定义在是概率空间，设XPF),(，且

13、对上的函数取值于实数集RxXR)(,)(:FxX上的随机变量。是则称FX)(关于随机变量的几点说明：关于随机变量的几点说明：义它的概率。一个事件，因而可以定中的是的集合，定义要求点的样本是指所有满足),()(:,)()(:)1 (PFaXaXFaX便，简记为自变量，为了书写方定义中)2()(:aX,(aXaX，记为以下把XX)(等表示。大写字母一般随机变量符号常用ZYX,则易证：满足,)(:)()3(FaXX., ,FbXabXabXaaXaXaXRba定理定理1.1：下列命题等价：是随机变量；X) 1 (；RaFaX,)(:)2(；RaFaX,)(:)3(.,)(:)4(RaFaX定义定义1

14、.7上的随机变量，函数是设FX)()(xF),)(:(xXPx的分布函数。称为随机变量X分布函数的含义：分布函数的含义：取值表示随机变量分布函数XxF)().( 为任意实数x的概率不超过x分布函数分布函数的性质：的性质：)(xF；）（1)(01xF是非降函数，)()2(xF21xx 即);()(21xFxF, 0)(lim)3(xFx; 1)(limxFx,)()4(是又连续的xF).()(lim)0(xFtFxFxt即随机变量的类型：随机变量的类型：离散型：离散型：kkpxXP)()(xF)(xXPxxkkp11kkp连续型：连续型：)(xF)(xXPxdttf)(）为概率密度函数，（其中

15、1)()(dxxfxf)(xfdxxdF)(多维随机变量：多维随机变量：),(21dXXXX d维随机向量维随机向量多维随机变量联合分布函数：多维随机变量联合分布函数：),(21dxxxF),(2211ddxXxXxXPRxk性质：性质：是联合分布函数，则若),(21dxxxF；1),(0) 1 (21dxxxF；对每个变量都是单调的),()2(21dxxxF的；对每个变量都是右连续),()3(21dxxxF),(lim)4(1dixxxxFi, 0),(lim1dixxxxFi, 1), 2 , 1(di),()5(21dxxxF121),(12dtdttttfddxxxd),(1dxxfd

16、ddxxxxxxF2121),(一些常见的分布：一些常见的分布：1.离散均匀分布：离散均匀分布：分布列：分布列：,1npk), 2 , 1(nk2.二项分布：二项分布：分布列：分布列：10 pn和对固定的)0(,)1 (kppCpknkknk.为参数的二项分布和称之为以pn3.几何分布：几何分布：分布列：分布列：),1(,1kpqpkk1 qp4.Poisson分布：分布：分布列：分布列：0), 1 , 0(,!kekpkk_参数为参数为的的 Poisson分布分布5.均匀分布：均匀分布：密度函数）（其它babxaabxf, 0,1)(,baUX记作6.正态分布：正态分布：密度函数Rxxxf

17、,2)(exp21)(22分布，的正态分布，也称为和称之为参数为Gauss2),(2NX记作.) 1 , 0(称为标准正态分布NX7. 分布：分布：密度函数）（00, 00,)()(1xxexxfx函数定义为分布，为参数的，称之为以）（0)(01dxexx函数的性质：函数的性质：);() 1() 1 (; 1) 1 ()2(;)21()3(!) 1()4(nn8.指数分布：指数分布：00，分布中，令在0, 00,)(xxexfx9. 分布：分布：22121为正整数，分布中，令在nn0,)2(2)(22112xexnxfxnn.2分布的称为自由度为n10.d维正态分布：（略）维正态分布：（略）作

18、业题：).(169)(,21)()()(,. 1APCBAPCPBPAPABCCBA求，且满足设两两独立的随机事件., 0, 0, 0,)(. 222BxxBeAxFXx求的概率分布函数设随机变量1.3 数字特征、矩母函数与特征函数数字特征、矩母函数与特征函数征值就够了。特要知道随机变量的某些实际问题中，有时只需在来说是相当不容易的。而确定其分布函数一般率分布（函数）描述，随机变量完全由它的概一、数字特征一、数字特征定义定义1.8：学期望的离散型随机变量的数取值为）（1kxEXkkkpxkkkxXPx)(kkkpx)|(期望连续型随机变量的数学）（2EXdxxxfxxdF)()()(|(xdF

19、x X的一阶矩的一阶矩阶中心矩的）（kX3kkkEXxdFxm)()()(二阶中心矩即方差2)(XDRxdFEXx)()(2可测函数为设）（BorelRRgdd:4),(21dXXXgE),(),(2121dRRdxxxdFxxxg.),(21期望的联合分布多元函数的为dXXX可测函数为设）（BorelRRgdd:5)(2121dkdkkXXXE),()212121dRRkdkkxxxdFxxxd.),(),(211阶矩的称为ddkkkXX二、二、Rieman-Stieltjes 积分积分协方差）（6),(YXCov)(YXYXEEXEYXYE)(),(EYEXYX积分。经不再是简单的前面数字

20、特征的定义已Rieman复习：积分Riemanniiixf10)(limdxxfba)(Rieman-Stieltjes 积分：积分：上的实值函数，为有限区间设,)(),(baxFxgbxxxxxanii110),()()(1iiixFxFxF,1iiixxmaxix时，若当0存在，niiixFg10)()(lim的且与分法及i取值无关，上在关于称该极限值为,)()(baxFxgSR 的积分，记为)()(xdFxgbaniiixFg10)()(lim注：注：但反之不成立。时，意味着当,0) 1 (n积分。积分化为了时，当）（RiemanSRxxF)(2)()()3(xdFxga)()(limx

21、dFxgbab）积分（广义.SR 积分的一个充分条件：SR )4(单调，连续，若)()(xFxg.积分存在则称SR为分布连续，特别地，当)()(xFxg.积分必存在函数时，SR R-S 积分性质：积分性质：)()()() 1 (2211xdFxgkxgkba)()()()(2211xdFxgkxdFxgkbaba)()(2xdFxgba）（niccxdFxgii0)()(1)(110bcccan 可加性可加性baxdF)(3）（)()(aFbF注：注：积分的最大的不同：积分与RiemanSR 积分：Riemanaadxxf-)(0:积分SR aadxxdF-)(aaxdF)(lim0)()(a

22、FaF.)(点处的跳跃度即等于a是一个阶梯函数时，当)(xF处有跳跃度在设ixxxF)(), 2 , 1(ipi则)()(-xdFxg1)(iiipxg)(包含了离散型.敛转化为判别级数是否收达式：离散、连续型的统一表kEX)(-xdFxkkEXXE)()()(-xdFEXxk四、矩母函数与特征函数四、矩母函数与特征函数1. 矩母函数矩母函数（moment generating function )定义定义1.9：的矩母函数定义为随机变量X)(tX)(tXeE显然)(tX)(tXXeE)()(tnX)(tXneXE)(nXE)0()(nX的分布函数）为XxFX)(.矩母函数由此得名.布函数是一

23、一对应的可以证明矩母函数与分变的分够用矩母函数刻画随机当矩母函数存在时，能.布函数.,常用特征函数来描述当矩母函数不存在时)(xdFeXtx的矩母函数，则是设XtX)()0() 1 (X)0()2()(nX互互独独立立，且且也也相相与与，则则是是相相互互独独立立的的随随机机变变量量若若t tY Yt tX Xe ee eY YX X, ,) )3 3( ()(tYX 矩母函数的性质：矩母函数的性质：RXxdF)(; 1);(nXE)()(ttYX2. 特征函数特征函数（characteristic function )复随机变量复随机变量定义定义1.10：称为二维实随机变量，则设YX,iYX

24、ZiEYEXEZ复随机变量的数学期望复随机变量的数学期望)(tX的特征函数定义为随机变量X)(itXeE)(xdFeXitx的分布函数）为XxFX)(txitxeitxsincos)(tX)(itXeE)(sin)(costxiEtxE.的复值函数特征函数是一个实变量特征函数的性质：特征函数的性质：, 1)0() 1 (, 1| )(|t有界性有界性)()()2(tt共轭对称性共轭对称性.),()()3(上是一致连续的在t,)4(baXYRba ，若的特征函数为则Y)()(atetXibtY时存在，则当若随机变量nkEXXn,)5()()0()(kkkXEi或)0(-)()(kkkiXE）（的

25、特征函数设相互独立的随机变量nXXX,)6(21则分别为),(,),(),(21tttn的特征函数是nkkX1. )(1nkkt.)7(互唯一确定特征函数与分布函数相,特别地存在时，有当)()( xfxFdxxfetitx)()()(xdFeitxdttexfitx)(21)() 1 ()2(.)()2(的傅里叶变换式恰好是可积函数t.函数的泊松分布，求其特征服从参数为设X.,征函数上的均匀分布，求其特服从设baXDXEXXpnBX,),(的特征函数以及求设例例3.1：例例3.2：例例3.3：例例3.4：.),(2的特征函数求正态分布N例例3.5：上服从均匀分布，在随机变量2,2X,cosXY

26、 .的概率密度利用特征函数求Y作业题：作业题：.) 1 (求指数分布的特征函数.)2(求几何分布的特征函数1.4 条件概率条件概率条件期望条件期望独立性独立性一、条件概率一、条件概率1. 定义：定义：为任意两个事件，为样本空间，设BA, 0)(BP若则称)/(BAP)()(BPABP出现的情况下，为事件B的条件概率，事件A.的条件概率关于事件简称事件BA1. 基本公式基本公式定理定理1:(乘法公式乘法公式)(ABP)/()(BAPBP0)(21nAAAP若)2(,21nnAAAn个事件为任意设)(21nAAAP)(1AP)/(12AAP)/(213AAAP)/(121nnAAAAP定理定理

27、2: (全概率公式全概率公式)的一个分割，是设nB,jiBB （,1）niiB, 0)(iBP设,1FAni则)(APniiiBAPBP1)/()(定理定理3: (Bayes公式公式)有，若对任意事件, 0)(APA)/(ABPiniiiiiBAPBPBAPBP1)/()()/()(二、独立性二、独立性1. 定义：定义：满足若两个事件BA,)(ABP)()(BPAP.相互独立，则称事件BA个事件，为设nAAAn,21和如果对任意)2(nss有,121niiis)(21siiiAAAP)()()(21siiiAPAPAP.,21相互独立则称事件nAAA注注1：两两独立并不包含独立性。两两独立并不

28、包含独立性。例：例：.均匀的硬币设随机实验是抛掷两枚，第一次投掷结果是正面 1A，第二次投掷结果是正面2A.3两次投掷结果都是正面A问：是否两两独立？）（321,1AAA三个事件是否独立？）（321,2AAA注注2我们有我们有 9 9 6 65 5 , ,4 4 5 52 2 , ,1 1 两次仍得点数之和为两次仍得点数之和为或或第二次仍得第二次仍得或或第一次仍得第一次仍得 C CB BA A2. 独立性的性质：独立性的性质：定理定理4：相互独立，若事件BA；与；与则BABA分别相互独立。与BA推论推论1：相互独立，若事件nAAA,21则)(1niiAPniiAP1)(1 1是相互独立的充分必

29、要随机变量nXXX,21函数可分解为：条件是它们的联合分布),(21nxxxF)()()(2121nXXXxFxFxFn证明：推论推论2：),(21nxxxF),(2211nnxXxXxXP)()()(2211nnxXPxXPxXP)()()(2121nXXXxFxFxFn定理定理5：是相互独立的随机变量nXXX,) 1 (211LXi且即)(|xdFx则nkkXE1)(nkkXE1)(是相互独立的设221,)2(LXXXn则)(1nkkXVarnkkXVar1)(定理定理6：引理CantelliBorel 是一列事件，设1,nAnFnAn, 2 , 1,即,)(11nnAP如果）（则)sup

30、lim(nnAP0,2是独立事件列如果）（nA使得，1)(nnAP则)suplim(nnAP1四、条件期望四、条件期望1. 边缘分布边缘分布，的分布函数为设),(),(YXFYX的则YX,，分布函数为)(),(yFxFYX的边缘和依次称为关于YX分布函数，且有)(xFX),(YxXPdxdyyxfx),(),(xF同理)(yFY),(yF )()(),(yFxFyxFYX若称称X,Y独立独立.离散型：的联合分布律若),(YXijjipyYxXP),(则)(iixXPP), 2 , 1(i)(jjyYPP1jijp1iijp), 2 , 1(j.),(的边缘分布律和关于分别称为及YXYXPPji

31、:相互独立的充要条件是和YXijPjiPP连续型：),(),(yxfYX的概率密度函数为若随机变量则)(xfXdyyxf),()(yfYdxyxf),(的边缘分和关于分别称为及YXYXyfxfYX),()()(.概率密度:相互独立的充要条件是和YX),(yxf)()(yfxfYX2. 条件分布函数条件分布函数离散型：0)(jyYP若则称)|(jiyYxXP)()(jjiyYPyYxXP，jijPP.的分布律下，随机变量为条件XyYj同理)|(ijxXyYP)()(ijixXPyYxXP，iijPP.的分布律下，随机变量称为条件XxXj连续型：,)(),(yfyxfY)|(yxf)|(xyf)(

32、),(xfyxfX.的条件分布律下随机变量称为在条件XyY 3. 条件数学期望条件数学期望.念之一程中最基本最重要的概条件数学期望是随机过离散型：的数学期望XEXiiixXpx)(）iyYXE|(iiiiyYxXpx)|(.,_的条件数学期望时称为给定XyYj异同：异同：时，）是局限在而jjiByYyYXE)(:|(.)()(的加权平均取值局部jBX具体地：,)(:jjyYB记,)(:iixXA于是，,1jBBY的不同取值分为按照整个样本空间等互不相容的事件),(jjB.iiA同理时，当jiBA, 0),(iiyYxXp0)|(iiyYxXp）iyYXE|()|(iiiiyYxXpxjiBAi

35、1,XX，分别是它们的分布函数)(),(21xFxF，其分布函数为令)(,21xFXXXX则由独立性有)(xFX)(21xXXP)(|1121tdFtXxXXP)()(12tdFtxXP)()(12tdFtxF)(21xFF 称为称为的卷积的卷积)(),(21xFxF),()(xFxg和一个单调函数一般地，对有界函数的卷积定义为：与)()(xgxF)(xgF )()(tdFtxg注：注：.) 1 (可能没有意义与顺序有关，FggF都是分布函数时，与当)()()2(xgxF.卷积可以交换顺序都是分布函数时，有当)(),(),()3(xHxGxF)()(xHGF)(xHGF结合律结合律)(xHG

36、F)()(xHFxGF分配律分配律）的随机变量，是独立同分布当xFnkXk(, 2 , 1,)4(, 00S令,2 , 1,1nXSnkkn则有）xF (0,0010 xx)(xFn, 2 , 1)(1nxFFn），.)()(重卷积的称为nxFxFn)(xFn)(21xXXXPn)(|121tdFtXxXXXPn)()(2tdFtxXXPn)()(1tdFtxFn)(1xFFn).()(), 0()(,0, 00,)()(12yfYXYxxxexfXYxX的的概概率率密密度度函函数数上上有有均均匀匀分分布布，求求在在而而随随机机变变量量有有密密度度函函数数假假设设随随机机变变量量：思思考考题题

37、 .)2(;),()1(:, 0, 1, 0, 1,21)|(,31)|(41)(,222的分布律的分布律的分布律的分布律二维随机变量二维随机变量求求不发生不发生发生发生，不发生不发生发生发生，为两个随机事件，且为两个随机事件，且设设：思考题思考题YXZYXBBYAAXBAPABPAPBA ).1|1()3();|(),|()2();(),()1(, 00,),(),(3| YXPyxfxyfyfxfxyeyxfYXYXXYYXx求求条条件件概概率率求求条条件件概概率率密密度度求求边边缘缘概概率率密密度度其其他他具具有有概概率率密密度度：设设二二维维随随机机变变量量思思考考题题.2)3()2(

38、;,)1(016/116/1034/104/116/1216/1004/113210),(1的的条条件件数数学学期期望望时时求求是是否否相相互互独独立立；与与判判断断的的边边缘缘分分布布律律求求的的联联合合分分布布律律为为设设二二维维随随机机变变量量：作作业业YXYXYXXYYX EYEXyyYXExxXYEyxYX, 321)|(, 5)|(,2求求，和和满满足足：对对任任给给的的：设设随随机机变变量量作作业业第第2 2章章随机过程的基本随机过程的基本概念和基本类型概念和基本类型2.1 基本概念基本概念在概率论中，我们研究了随机变量，在概率论中，我们研究了随机变量，n维随机向量。维随机

39、向量。在极限定理中，我们研究了无穷多个随机变量在极限定理中，我们研究了无穷多个随机变量，但局限但局限在它们相互独立的情形。在它们相互独立的情形。将上述情形加以推广，将上述情形加以推广，即研究即研究一族无穷多个、相互有关的随机变量，一族无穷多个、相互有关的随机变量，这就是随机过程。这就是随机过程。定义定义2.12.1：设设),(P是一概率空间，是一概率空间，对每一个参数对每一个参数Tt， ),(tX是一定义在概率空间是一定义在概率空间),(P 上的随机上的随机变量，变量，则称随机变量族则称随机变量族);,(TttXXT 为该概率为该概率空间上的一随机过程。空间上的一随机过程。T称为参

40、数集。称为参数集。随机过程的两种描述方法：随机过程的两种描述方法：用映射表示用映射表示,TXRTtX :),( ),( X T即即是一定义在是一定义在上的二元单值函数，上的二元单值函数， ,Tt ),( tX固定固定是一定义在样本空间是一定义在样本空间上的函数，上的函数，即为一随机变量；即为一随机变量；对于固定的对于固定的,0 ),(0 tX是一个是一个关于参数关于参数Tt 的函数，的函数，或称随机或称随机过程的一次实现。过程的一次实现。记号记号通常称为样本函数，通常称为样本函数，),( tX有时记为有时记为)( tX或简记为或简记为).(tX参数参数T一般表示时间或空间。一般表示时间或空

41、间。参数常用的一般有：参数常用的一般有：(1)(2), 2, 1, 0 T,baT (3), 2 , 1 , 00 NT时间时间此时称之为随机序列或此时称之为随机序列或0)(. nnX，随随机机序序列列写写为为序序列列., 1 , 0, nXn或或.,0 可可以以取取或或可可以以取取其其中中ba当参数取可列集时，当参数取可列集时，一般称随机过程为随机序列。一般称随机过程为随机序列。随机过程随机过程);(TttX 可能取值的全体所构成的集合可能取值的全体所构成的集合称为此随机过程的状态空间，记作称为此随机过程的状态空间，记作S.S中的元素中的元素称为状态。状态空间可以由复数、实数或更一般的称为

42、状态。状态空间可以由复数、实数或更一般的抽象空间构成。抽象空间构成。同同的的类类：的的不不同同过过程程可可以以分分成成不不和和根根据据ST参数空间分类：参数空间分类： 0|2 , 1 , 0ttTT如如连续参数连续参数如如离散参数离散参数状态空间分类：状态空间分类：取值是连续的取值是连续的连续状态连续状态取值是离散的取值是离散的离散状态离散状态SS随机过程分为以下四类：随机过程分为以下四类：(1)离散参数离散型随机过程；离散参数离散型随机过程；(2)连续参数离散型随机过程；连续参数离散型随机过程；(3)连续参数连续型随机过程；连续参数连续型随机过程；(4)离散参数连续型随机过程。离散参数连续

43、型随机过程。以随机过程的统计特征或概率特征的分类，一般有以随机过程的统计特征或概率特征的分类，一般有：独立增量过程；独立增量过程；Markov过程；过程；二阶矩过程；二阶矩过程；平稳过程；平稳过程；更新过程；更新过程；Poission过程；过程；维纳过程。维纳过程。鞅；鞅；随机过程举例随机过程举例例例2.1 .)()(,1机游动机游动就是直线上的随就是直线上的随时刻在路上的位置，则时刻在路上的位置，则他在他在记记以以相同）相同）后退一步（假设其步长后退一步（假设其步长以概率以概率前进一步，前进一步，概率概率一醉汉在路上行走，以一醉汉在路上行走，以随机游动：随机游动：tXttXpp 例例2.2

44、抛掷一枚硬币，样本空间为抛掷一枚硬币，样本空间为,THS 定义：定义：时时当出现当出现，时时当出现当出现T2H,cos)(tttX ),( t, 2/1 TPHP其中其中是是一一则则),(, )( ttX随机过程。随机过程。例例2.3 运动。运动。则它是平面上的则它是平面上的位置，位置，为粒子在平面坐标上的为粒子在平面坐标上的碰撞的结果。记碰撞的结果。记动。同时分子大量随机动。同时分子大量随机运运来称为来称为则的运动，这种运动后则的运动，这种运动后子不断进行无规子不断进行无规漂浮在液面上的微小粒漂浮在液面上的微小粒注意到注意到英国植物学家英国植物学家运动：运动：BrowntYtXBrown

45、BrownBrown)(),( 2.2 有限维分布与有限维分布与Kolmogvrov定理定理一、随机过程的分布函数一、随机过程的分布函数 1. 一维分布函数一维分布函数是一随机过程，称是一随机过程，称设设)(tX)(),()(xtXPxtFxFt .)(的一维分布函数的一维分布函数称为称为tX , 0),( xtf若若 xtdyytfxtFxF-),(),()(使使得得.)(),(的的一一维维概概率率密密度度为为则则称称tXxtf 2. 二维分布函数二维分布函数),()(),(2121TtttXtX 设设二二维维随随机机向向量量)(,)(),(),(2211212121,21xtXxtXPxx

46、ttFxxFtt .),(2121为为二二维维概概率率密密度度则则称称xxttf的的分分布布函函数数。称称为为二二维维随随机机向向量量)(),(21tXtX, 0),(2121 xxttf若若),(),(212121,21xxttFxxFtt 21-212112),(dydyyyttfxx 3. n维分布函数维分布函数.),;,(11维维概概率率密密度度为为则则称称nxxttfnn的的联联合合分分布布函函数数为为维维随随机机向向量量)(,),(),(21ntXtXtXn),;,(),(111,1nnnttxxttFxxFn )(,)(11nnxtXxtXP , 0),;,(11 nnxxttf

47、若若),;,(),(111,1nnnttxxttFxxFn nxxnndydyyyttfn1-111),;,( .)(,),(),(21维维分分布布函函数数的的维维随随机机向向量量称称为为ntXtXtXnn 4. 有限维分布族有限维分布族),(1,1nttxxFn )(,)(11nnxtXxtXP :维维分分布布函函数数的的全全体体，一一维维、二二维维，n 称为有限维分布族称为有限维分布族1,),(11,1 nTttxxFnnttn， 5. 有限维分布族的性质有限维分布族的性质 (1) 对称性对称性),;,(),(1111,nnnnjjjjjjjjttxxttFxxF )(,)(11nnjjj

48、jxtXxtXP ),;,(11nnxxttF (2) 相容性相容性有有对对于于nm ),(1,11 mttttxxFnjmjmjj),(1,1mttxxFmjj 注注1：随机过程的统计特性完全由它的有限维分：随机过程的统计特性完全由它的有限维分布族决定。布族决定。注注2：有限维分布族与有限维特征函数族相互唯有限维分布族与有限维特征函数族相互唯一确定。一确定。问题：问题：一个随机过程一个随机过程是否描述了该过程的全部概率特性？是否描述了该过程的全部概率特性？);(TttX 的有限维分布族，的有限维分布族，定理：定理：（Kolmogorov存在性定理）存在性定理）设分布函数族设分布函数族1,

49、),(11,1 nTttxxFnnttn，满足以上提到的对称性和相容性满足以上提到的对称性和相容性，则必有一随机过程则必有一随机过程，);(TttX 1,),( 11,1 nTttxxFnnttn，使使恰好是恰好是);(TttX 的有限维分布族，即：的有限维分布族，即：),(1,1nttxxFn)(,)(11nnxtXxtXP 定理说明定理说明：);(TttX );(TttX 的有限维分布族包含了的有限维分布族包含了的所有概率信息。的所有概率信息。例例2.4 对应随机变量对应随机变量一个确定的一个确定的任取一球后放回，对每任取一球后放回，对每袋中袋中红球，每隔单位时间从红球，每隔单位时间从袋中

50、有一个白球，两个袋中有一个白球，两个t 时取得白球时取得白球如果对如果对时取得红球时取得红球如果对如果对tetttXt3)(.维分布函数族维分布函数族试求这个随机过程的一试求这个随机过程的一例例2.5 是相同的。是相同的。设出现正面反面的概率设出现正面反面的概率出现反面出现反面，出现正面出现正面义一个随机过程义一个随机过程利用抛掷硬币的试验定利用抛掷硬币的试验定RttttX 2,cos)(. ).1 ;()21;()()2()()1(11xFxFtXtX和和的以为分布函数的以为分布函数写出写出）；）；的所有样本函数（实现的所有样本函数（实现写出写出特特征征。来来刻刻画画随随机机过过程程的的概概

展开阅读全文