1、应用随机过程应用随机过程Application of Stochastic Processes范爱华范爱华 数理科学与工程学院数理科学与工程学院 应用数学系应用数学系函数与极限18 .2701. 13654 .137702. 1365成功的道路并不拥挤，成功的道路并不拥挤，的人并不是很多。的人并不是很多。因为坚持到最后因为坚持到最后函数与极限2 教材教材 应用随机过程应用随机过程 主要教学参考书主要教学参考书 张波张波 张景肖张景肖 编编 中国人民大学 出版社函数与极限3参考书参考书1.1.应用随机过程应用随机过程林元烈林元烈 编著编著 清华大学出版社清华大学出版社 2.随机过程随机过程王风雨
2、王风雨 编著编著 北京师范大学出版社北京师范大学出版社函数与极限4前前言言函数与极限5函数与极限6 第第1 1章章 预备知识预备知识1.1 1.1 概率空间概率空间 在自然界和人类的活动中经常遇到各种各样的现在自然界和人类的活动中经常遇到各种各样的现象，大体上分为两类：象，大体上分为两类：必然现象和随机现象必然现象和随机现象 。具有随机性的现象具有随机性的现象随机现象随机现象对随机现象的观察或为观察而进行的实验对随机现象的观察或为观察而进行的实验随机试验随机试验随机试验的结果随机试验的结果 基本事件或样本点。基本事件或样本点。 记作记作 记作记作所有可能的结果称为所有可能的结果称为样本空间样本
3、空间。由基本事件组成的子集AA A称为事件称为事件。（有（有3 3个特征）个特征）函数与极限7事件的性质事件的性质 假设假设A,B,CA,B,C是任意事件，则他们满足：是任意事件，则他们满足：(1)(1)交换律交换律(2)(2)结合律结合律(3)(3)分配律分配律(4)(4)对偶原则对偶原则 (De Morgan(De Morgan律律) )A AB BB BA A C CB BA AC CB BA A) )( () )( ( C CB BA AC CB BA A) )( () )( ( ) )( () )( () )( (C CA AB BA AC CB BA A ) )( () )( ()
4、 )( (C CA AB BA AC CB BA A B BA AB BA A B BA AB BA A i ii ii ii iA AA A1 11 1 i ii ii ii iA AA A1 11 1 函数与极限8；，则，则如果如果）（F FA AF FA A 2 2. ., , ,2 2 , ,1 13 31 1F FA Ai iF FA Ai ii ii i 则则，如果如果）（；）（F F 1 1. .- - 代数代数中的中的为为那么，称那么，称 F F.),(中的元素称为事件为可测空间，FF 定义定义1.1 1.1 中的某些子集是为样本空间，设F：组成的集合族，若满足函数与极限9性质
5、性质 假假代代数数，则则中中的的任任一一事事件件是是设设- - F F; ;) )1 1( (F F ; ;, , , ,2 2 , ,1 1, ,) )2 2( (1 11 1n ni ii in ni ii ii iF FA AF FA An ni iF FA A 则则若果若果; ;, , ,2 2 , ,1 1, ,) )3 3( (1 1 i ii ii iF FA Ai iF FA A则则若果若果; ;, , , ,) )4 4( (F FA AB BF FB BA AF FB BA A 则则若果若果.-5代数必为代数）（函数与极限10例例1.11.1例例1.21.2例例1.31.3
6、. .- - 代数代数类是事件类是事件的一切事件构成的事件的一切事件构成的事件由由 ，由,F. .- - 代数代数称作平凡事件称作平凡事件 , , , , , , A AA AF FA A对任意事件对任意事件代数。是事件-.)-(代数常常它为称为最广泛的代数。是事件则-F函数与极限11 ; ;6 6 , ,5 5 , ,4 4 , ,3 3 , ,3 3 , ,2 2 , ,1 1 , , , ) )1 1( ( F F事事件件类类;6 6 , ,5 5 ,4 4 , ,3 3, ,2 2 , ,1 1 , , , ) )2 2( ( F F事件类事件类;6 6 , ,4 4 , ,2 25
7、5 , ,3 3 , ,1 1 , , , ) )3 3( ( F F事件类事件类随机试验随机试验: : 掷一枚骰子，观察出现的点数，掷一枚骰子，观察出现的点数，思考题：思考题：，下下列列事事件件是是否否构构成成样样本本空空间间 6 6 , ,5 5 , ,4 4 , ,3 3 , ,2 2 , ,1 1 代数？-函数与极限12定义定义1.21.2).(A记作代数，的最小的上任意包含事件对于-A.)(, 2 , 1,-,1iiiFAiFAAA之交，即代数的事件上包含代数，并且等于最小事件的必定存在含中的任意事件类对于注：代数，生成的称为事件-A结论：结论：中的一个集系，是设A的最小的则包含A.
8、)(-一定存在代数A函数与极限13定义定义1.31.3).),().(,-.)(,-,-),(-),(,RaaBRBBorelRBorelRBBorelRRaaaRnn显然记作代数上的类似可以定义合集，其中的元素称为记作代数上的称为代数）的最小（即包含代数生成的由所有半无限区间设函数与极限14定义定义1.41.4- - 上上的的事事件件是是定定义义在在样样本本空空间间设设 F F足足上的非负集函数，且满上的非负集函数，且满是定义在是定义在代数，代数，F FF FA AA AP P ),),( (; ;1 1) )( (0 01 1 A AP PF FA A，有，有）对任意）对任意（; ;1 1
9、) )( (P P) )2 2( ( j ji iA AA Ai iF FA Aj ji ii i , , , ,2 2 , ,1 13 3，）对任意）对任意（ 1 11 1) )( (i ii ii ii iA AP PA AP P）（的概率。称为事件间，称作概率空）上的概率，是则称AAPPFFP)(),(,(函数与极限15例例1.11.1：,1 , 0,1 , 0 1 , 0BFBorel概率空间：设上的),(,- 1 , 0 1 , 0FBorelB称代数上的是局限在即 1 , 0,. 1 , 0)1 , 0,1 , 0(BbaABorelB可测空间上的为概率空间，上的为，称定义Bore
10、lPFabAP 1 , 0),(,)(. 1 , 0概率测度上的为称BorelP函数与极限16概率的基本性质概率的基本性质, 0)() 1 (P)(1)()3(APAP,)2(FBA若)()()()(ABPBPAPBAP则)()()(APBPABP,)4(FBABA若)()(BPAPBA若单调性单调性则)(1nnAP1)(nnAP次可列可加性次可列可加性1,)5(nFAn若函数与极限171,)6(iijiAAAji设有则对任意事件 ,A1)()(iiAAPAP公式的推广，）性质（Jordan)2(7有对任意nAAA,21)(1niiAP1)(iiAPnjijiAAP1)(nkjinnkjiAA
11、APAAAP1211)() 1()(函数与极限18 ,iA假设事件序列,) 1 (21nAAA如果,)2(21nAAA如果事件列极限事件列极限1 1：nnAlim则nnA1AAnAAnnnAlim则nnA1结论：结论：.)(序列必有极限集合单调事件函数与极限19概率的连续性：)8(的事件序列或递减是单调递增若)(1,nAn定理：定理：则)(limnnAP)lim(nnAP具体情况：具体情况：AAAAAAFAnnnnnn11,) 1 (且即且若AAAAAAFAnnnnnn11,)2(且即且若)(AP)(limnnAP)lim(nnAP)(1nnAP)(AP)(limnnAP)lim(nnAP)(
12、1nnAP函数与极限20事件列极限事件列极限2 2：，）对于任意事件序列（, 2 , 1,3nAn, 2 , 1,knkAn, knnA, 2 , 1k.因而分别有极限定义定义1.51.51kknnAdefnnA inflimnAlim 的下极限的下极限nAknnA1kdefnnA suplimnAlim 的上极限的上极限nA函数与极限21例例1.21.2：nnAxsuplim) 1 (.中无穷多个集合属于意味着nAxnnAxinflim)2(中的有限多个集合外，意味着除去, 2 , 1nAn.属于该序列的其余集合x关系：关系：nnAinflimnnAsuplim含义：含义：:axx_1:na
13、xx1)(nA1)(nB函数与极限22例例1.31.3：.序列面”和“反面”组成的所以投掷硬币结果“正，的所有子集F.结果是“正面”第nAn则nnAinflimnnAsuplim是“正面”有无限多次投掷的结果掷的结果都是除有限多次外，其余投.“正面”函数与极限231.2 1.2 随机变量和分布函数随机变量和分布函数随机变量：随机变量： 用实数来表示随机实验的各种结果用实数来表示随机实验的各种结果. .定义定义1.61.6上，是定义在是概率空间，设XPF),(，且对上的函数取值于实数集RxXR)(,)(:FxX上的随机变量。是则称FX)(关于随机变量的几点说明：关于随机变量的几点说明：义它的概率
14、。一个事件，因而可以定中的是的集合，定义要求点的样本是指所有满足),()(:,)()(:)1 (PFaXaXFaX函数与极限24便，简记为自变量，为了书写方定义中)2()(:aX,(aXaX，记为以下把XX)(等表示。大写字母一般随机变量符号常用ZYX,则易证：满足,)(:)()3(FaXX., ,FbXabXabXaaXaXaXRba函数与极限25定理定理1.11.1：下列命题等价：是随机变量；X) 1 (；RaFaX,)(:)2(；RaFaX,)(:)3(.,)(:)4(RaFaX函数与极限26定义定义1.71.7上的随机变量，函数是设FX)()(xF),)(:(xXPx的分布函数。称为随
15、机变量X分布函数的含义：分布函数的含义：取值表示随机变量分布函数XxF)().( 为任意实数x的概率不超过x分布函数分布函数 的性质：的性质：)(xF；）（1)(01xF是非降函数，)()2(xF21xx 即);()(21xFxF, 0)(lim)3(xFx; 1)(limxFx,)()4(是又连续的xF).()(lim)0(xFtFxFxt即函数与极限27随机变量的类型：随机变量的类型：离散型：离散型：kkpxXP)()(xF)(xXPxxkkp11kkp连续型：连续型：)(xF)(xXPxdttf)(）为概率密度函数，（其中1)()(dxxfxf)(xfdxxdF)(多维随机变量：多维随机
16、变量：),(21dXXXX d d维随机向量维随机向量函数与极限28多维随机变量联合分布函数：多维随机变量联合分布函数：),(21dxxxF),(2211ddxXxXxXPRxk性质：性质：是联合分布函数，则若),(21dxxxF；1),(0) 1 (21dxxxF；对每个变量都是单调的),()2(21dxxxF的；对每个变量都是右连续),()3(21dxxxF),(lim)4(1dixxxxFi, 0),(lim1dixxxxFi, 1), 2 , 1(di),()5(21dxxxF121),(12dtdttttfddxxxd),(1dxxfdddxxxxxxF2121),(函数与极限29一
17、些常见的分布：一些常见的分布：1. 1.离散均匀分布：离散均匀分布：分布列：分布列：,1npk), 2 , 1(nk2. 2.二项分布：二项分布：分布列：分布列：10 pn和对固定的)0(,)1 (kppCpknkknk.为参数的二项分布和称之为以pn3. 3.几何分布：几何分布：分布列：分布列：),1(,1kpqpkk1 qp函数与极限304. 4.PoissonPoisson分布：分布：分布列：分布列：0), 1 , 0(,!kekpkk_参数为参数为 的的 PoissonPoisson分布分布5. 5.均匀分布：均匀分布：密度函数）（其它babxaabxf, 0,1)(,baUX记作6.
18、 6.正态分布：正态分布：密度函数Rxxxf,2)(exp21)(22分布，的正态分布，也称为和称之为参数为Gauss2),(2NX记作.) 1 , 0(称为标准正态分布NX函数与极限317. 7. 分布：分布：密度函数）（00, 00,)()(1xxexxfx函数定义为分布，为参数的，称之为以）（0)(01dxexx函数的性质：函数的性质：);() 1() 1 (; 1) 1 ()2(;)21()3(!) 1()4(nn函数与极限328. 8.指数分布：指数分布：00，分布中，令在0, 00,)(xxexfx9. 9. 分布：分布：22121为正整数，分布中，令在nn0,)2(2)(2211
19、2xexnxfxnn.2分布的称为自由度为n10.10.d d维正态分布：（略）维正态分布：（略）函数与极限33作业题：).(169)(,21)()()(,. 1APCBAPCPBPAPABCCBA求，且满足设两两独立的随机事件., 0, 0, 0,)(. 222BxxBeAxFXx求的概率分布函数设随机变量函数与极限341.3 1.3 数字特征、矩母函数与特征函数数字特征、矩母函数与特征函数征值就够了。特要知道随机变量的某些实际问题中，有时只需在来说是相当不容易的。而确定其分布函数一般率分布（函数）描述，随机变量完全由它的概一、数字特征一、数字特征定义定义1.81.8：学期望的离散型随机变量
20、的数取值为）（1kxEXkkkpxkkkxXPx)(kkkpx)|(期望连续型随机变量的数学）（2EXdxxxfxxdF)()()(|(xdFx X X的一阶矩的一阶矩函数与极限35阶中心矩的）（kX3kkkEXxdFxm)()()(二阶中心矩即方差2)(XDRxdFEXx)()(2可测函数为设）（BorelRRgdd:4),(21dXXXgE),(),(2121dRRdxxxdFxxxg.),(21期望的联合分布多元函数的为dXXX可测函数为设）（BorelRRgdd:5)(2121dkdkkXXXE),()212121dRRkdkkxxxdFxxxd.),(),(211阶矩的称为ddkkk
21、XX函数与极限36二、二、Rieman-Stieltjes Rieman-Stieltjes 积分积分协方差）（6),(YXCov)(YXYXEEXEYXYE)(),(EYEXYX积分。经不再是简单的前面数字特征的定义已Rieman复习：积分Riemanniiixf10)(limdxxfba)(Rieman-Stieltjes Rieman-Stieltjes 积分：积分：上的实值函数，为有限区间设,)(),(baxFxgbxxxxxanii110函数与极限37),()()(1iiixFxFxF,1iiixxmaxix时，若当0存在，niiixFg10)()(lim的且与分法及i取值无关，上在
22、关于称该极限值为,)()(baxFxgSR 的积分，记为)()(xdFxgbaniiixFg10)()(lim注：注：但反之不成立。时，意味着当,0) 1 (n积分。积分化为了时，当）（RiemanSRxxF)(2)()()3(xdFxga)()(limxdFxgbab）积分（广义.SR 积分的一个充分条件：SR )4(单调，连续，若)()(xFxg.积分存在则称SR 为分布连续，特别地，当)()(xFxg.积分必存在函数时，SR 函数与极限38R-S R-S 积分性质：积分性质：)()()() 1 (2211xdFxgkxgkba)()()()(2211xdFxgkxdFxgkbaba)()
23、(2xdFxgba）（niccxdFxgii0)()(1)(110bcccan 可加性可加性baxdF)(3）（)()(aFbF注：注：积分的最大的不同：积分与RiemanSR 积分：Riemanaadxxf-)(0:积分SR aadxxdF-)(aaxdF)(lim0)()(aFaF.)(点处的跳跃度即等于a函数与极限39是一个阶梯函数时，当)(xF处有跳跃度在设ixxxF)(), 2 , 1(ipi则)()(-xdFxg1)(iiipxg)(包含了离散型.敛转化为判别级数是否收达式：离散、连续型的统一表kEX)(-xdFxkkEXXE)()()(-xdFEXxk函数与极限40四、矩母函数与
24、特征函数四、矩母函数与特征函数1. 1. 矩母函数矩母函数（moment generating function )moment generating function )定义定义1.91.9：的矩母函数定义为随机变量X)(tX)(tXeE显然)(tX)(tXXeE)()(tnX)(tXneXE)(nXE)0()(nX的分布函数）为XxFX)(.矩母函数由此得名.布函数是一一对应的可以证明矩母函数与分变的分够用矩母函数刻画随机当矩母函数存在时，能.布函数.,常用特征函数来描述当矩母函数不存在时)(xdFeXtx函数与极限41的矩母函数，则是设XtX)()0() 1 (X)0()2()(nX互独
25、立，且互独立，且也相也相与与，则，则是相互独立的随机变量是相互独立的随机变量若若tYtYtXtXe ee eY YX X, ,) )3 3( ()(tYX 矩母函数的性质：矩母函数的性质：RXxdF)(; 1);(nXE)()(ttYX函数与极限422. 2. 特征函数特征函数（characteristic function )characteristic function )复随机变量复随机变量 定义定义1.101.10：称为二维实随机变量，则设YX,iYXZiEYEXEZ复随机变量的数学期望复随机变量的数学期望)(tX的特征函数定义为随机变量X)(itXeE)(xdFeXitx的分布函数）
26、为XxFX)(txitxeitxsincos)(tX)(itXeE)(sin)(costxiEtxE.的复值函数特征函数是一个实变量函数与极限43特征函数的性质：特征函数的性质：, 1)0() 1 (, 1| )(|t有界性有界性)()()2(tt共轭对称性共轭对称性.),()()3(上是一致连续的在t,)4(baXYRba ，若的特征函数为则Y)()(atetXibtY时存在，则当若随机变量nkEXXn,)5()()0()(kkkXEi或)0(-)()(kkkiXE）（函数与极限44的特征函数设相互独立的随机变量nXXX,)6(21则分别为),(,),(),(21tttn的特征函数是nkkX
27、1. )(1nkkt.)7(互唯一确定特征函数与分布函数相,特别地存在时，有当)()( xfxFdxxfetitx)()()(xdFeitxdttexfitx)(21)() 1 ()2(.)()2(的傅里叶变换式恰好是可积函数t函数与极限45.函数的泊松分布，求其特征服从参数为设X.,征函数上的均匀分布，求其特服从设baXDXEXXpnBX,),(的特征函数以及求设例例3.13.1：例例3.23.2：例例3.33.3：例例3.43.4：.),(2的特征函数求正态分布N例例3.53.5：上服从均匀分布，在随机变量2,2X,cosXY .的概率密度利用特征函数求Y函数与极限46作业题：作业题：.)
28、 1 (求指数分布的特征函数.)2(求几何分布的特征函数函数与极限471.4 1.4 条件概率条件概率 条件期望条件期望 独立性独立性一、条件概率一、条件概率1. 1. 定义：定义：为任意两个事件，为样本空间，设BA, 0)(BP若则称)/(BAP)()(BPABP出现的情况下，为事件B的条件概率，事件A.的条件概率关于事件简称事件BA1. 1. 基本公式基本公式定理定理1:(1:(乘法公式乘法公式) )(ABP)/()(BAPBP0)(21nAAAP若)2(,21nnAAAn个事件为任意设函数与极限48)(21nAAAP)(1AP)/(12AAP)/(213AAAP)/(121nnAAAAP
29、定理定理2: (2: (全概率公式全概率公式) )的一个分割，是设nB,jiBB （,1）niiB, 0)(iBP设,1FAni则)(APniiiBAPBP1)/()(定理定理3: (Bayes3: (Bayes公式公式) )有，若对任意事件, 0)(APA)/(ABPiniiiiiBAPBPBAPBP1)/()()/()(函数与极限49二、独立性二、独立性1. 1. 定义：定义：满足若两个事件BA,)(ABP)()(BPAP.相互独立，则称事件BA个事件，为设nAAAn,21和如果对任意)2(nss有,121niiis)(21siiiAAAP)()()(21siiiAPAPAP.,21相互独
30、立则称事件nAAA函数与极限50注注1 1：两两独立并不包含独立性。两两独立并不包含独立性。例：例：.均匀的硬币设随机实验是抛掷两枚，第一次投掷结果是正面 1A，第二次投掷结果是正面2A.3两次投掷结果都是正面A问：是否两两独立？）（321,1AAA三个事件是否独立？）（321,2AAA函数与极限51注注2 2我们有我们有 9 9 6 65 5 , ,4 4 5 52 2 , ,1 1 两次仍得点数之和为两次仍得点数之和为或或第二次仍得第二次仍得或或第一次仍得第一次仍得 C CB BA A函数与极限522. 2. 独立性的性质：独立性的性质：定理定理4 4：相互独立，若事件BA；与；与则BAB
31、A分别相互独立。与BA推论推论1 1：相互独立，若事件nAAA,21则)(1niiAPniiAP1)(1 1是相互独立的充分必要随机变量nXXX,21函数可分解为：条件是它们的联合分布),(21nxxxF)()()(2121nXXXxFxFxFn证明：推论推论2 2：),(21nxxxF),(2211nnxXxXxXP)()()(2211nnxXPxXPxXP)()()(2121nXXXxFxFxFn函数与极限53定理定理5 5：是相互独立的随机变量nXXX,) 1 (211LXi且即)(|xdFx则nkkXE1)(nkkXE1)(是相互独立的设221,)2(LXXXn则)(1nkkXVarn
32、kkXVar1)(函数与极限54定理定理6 6：引理CantelliBorel 是一列事件，设1,nAnFnAn, 2 , 1,即,)(11nnAP如果）（则)suplim(nnAP0,2是独立事件列如果）（nA使得，1)(nnAP则)suplim(nnAP1函数与极限55四、条件期望四、条件期望1. 1. 边缘分布边缘分布，的分布函数为设),(),(YXFYX的则YX,，分布函数为)(),(yFxFYX的边缘和依次称为关于YX分布函数，且有)(xFX),(YxXPdxdyyxfx),(),(xF同理)(yFY),(yF )()(),(yFxFyxFYX若称称X,YX,Y独立独立. .离散型：
33、的联合分布律若),(YXijjipyYxXP),(则)(iixXPP), 2 , 1(i)(jjyYPP1jijp1iijp), 2 , 1(j函数与极限56.),(的边缘分布律和关于分别称为及YXYXPPji:相互独立的充要条件是和YXijPjiPP连续型：),(),(yxfYX的概率密度函数为若随机变量则)(xfXdyyxf),()(yfYdxyxf),(的边缘分和关于分别称为及YXYXyfxfYX),()()(.概率密度:相互独立的充要条件是和YX),(yxf)()(yfxfYX函数与极限572. 2. 条件分布函数条件分布函数离散型：0)(jyYP若则称)|(jiyYxXP)()(jj
34、iyYPyYxXP，jijPP.的分布律下，随机变量为条件XyYj同理)|(ijxXyYP)()(ijixXPyYxXP，iijPP.的分布律下，随机变量称为条件XxXj连续型：,)(),(yfyxfY)|(yxf)|(xyf)(),(xfyxfX.的条件分布律下随机变量称为在条件XyY 函数与极限583. 3. 条件数学期望条件数学期望.念之一程中最基本最重要的概条件数学期望是随机过离散型：的数学期望XEXiiixXpx)(）iyYXE|(iiiiyYxXpx)|(.,_的条件数学期望时称为给定XyYj异同：异同：时，）是局限在而jjiByYyYXE)(:|(.)()(的加权平均取值局部jB
35、X函数与极限59具体地：,)(:jjyYB记,)(:iixXA于是，,1jBBY的不同取值分为按照整个样本空间等互不相容的事件),(jjB.iiA同理时，当jiBA, 0),(iiyYxXp0)|(iiyYxXp）iyYXE|()|(iiiiyYxXpxjiBAiiiiyYxXpx:)|(因此时，）是局限在jiByYXE|(.)(的局部加权平均X函数与极限60,|(,|(1jjyYyYXEyYXE依赖于）显然.)(:jjyYB依赖于即从全局样本空间这样,可以变化的观点看，及对有必要引进一个新的,随机变量).|(YXE记作时，当jB.|(）它取值为jyYXE为随机变量称随机变量)|(YXE.的条
36、件数学期望YX关于随机变量函数与极限61记)(:0)(:1)(jjjjByYByYBIj显然1)(jBI.)(发生jyY亦记)(jBI).()(jyYI定义：定义：记）YXE|()|()()(ijyYyYXEIj.|(的条件数学期望关于随机变量）为称YXYXE）的直观意义：YXE|(,|(1 (的函数）是随机变量）YYXE)(:jyY当,时,|(|(）取值为jyYXEYXE它是局部事实上,.,|(的统一表达式）平均NjyYXEj函数与极限62时，）当）)(|(|(2(kjyYXEyYXEkj|(|(）jyYXEYXEP;(）jyYP令否则,|(|(:）kjjyYXEyYXEkD则|(|(）jy
37、YXEYXEPjDkjyYP）(,|(3的函数）是随机变量）由于（YYXE故它的数学期望为：)|(）YXEEjjjyYPyYXE） (|(函数与极限63函数与极限64定理：定理：|()(1），有和对一切随机变量）（YXEEXEYXXXXE）（|(2例例2 2：函数与极限65五、独立随机变量和的分布五、独立随机变量和的分布卷积公式卷积公式相互独立，设21,XX，分别是它们的分布函数)(),(21xFxF，其分布函数为令)(,21xFXXXX则由独立性有)(xFX)(21xXXP)(|1121tdFtXxXXP)()(12tdFtxXP)()(12tdFtxF)(21xFF 称为称为 的卷积的卷积
38、)(),(21xFxF),()(xFxg和一个单调函数一般地，对有界函数的卷积定义为：与)()(xgxF)(xgF )()(tdFtxg函数与极限66注：注：.) 1 (可能没有意义与顺序有关，FggF都是分布函数时，与当)()()2(xgxF.卷积可以交换顺序都是分布函数时，有当)(),(),()3(xHxGxF)()(xHGF)(xHGF结合律结合律)(xHGF)()(xHFxGF分配律分配律函数与极限67）的随机变量，是独立同分布当xFnkXk(, 2 , 1,)4(, 00S令,2 , 1,1nXSnkkn则有）xF (0,0010 xx)(xFn, 2 , 1)(1nxFFn），.)
39、()(重卷积的称为nxFxFn)(xFn)(21xXXXPn)(|121tdFtXxXXXPn)()(2tdFtxXXPn)()(1tdFtxFn)(1xFFn函数与极限68).()(), 0()(,0, 00,)()(12yfYXYxxxexfXYxX的的概概率率密密度度函函数数上上有有均均匀匀分分布布，求求在在而而随随机机变变量量有有密密度度函函数数假假设设随随机机变变量量：思思考考题题 函数与极限69.)2(;),()1(:, 0, 1, 0, 1,21)|(,31)|(41)(,222的分布律的分布律的分布律的分布律二维随机变量二维随机变量求求不发生不发生发生发生，不发生不发生发生发生
40、，为两个随机事件，且为两个随机事件，且设设：思考题思考题YXZYXBBYAAXBAPABPAPBA 函数与极限70).1|1()3();|(),|()2();(),()1(, 00,),(),(3| YXPyxfxyfyfxfxyeyxfYXYXXYYXx求求条条件件概概率率求求条条件件概概率率密密度度求求边边缘缘概概率率密密度度其其他他具具有有概概率率密密度度：设设二二维维随随机机变变量量思思考考题题函数与极限71.2)3()2(;,)1(016/116/1034/104/116/1216/1004/113210),(1的的条条件件数数学学期期望望时时求求是是否否相相互互独独立立；与与判判断
41、断的的边边缘缘分分布布律律求求的的联联合合分分布布律律为为设设二二维维随随机机变变量量：作作业业YXYXYXXYYX 函数与极限72EYEXyyYXExxXYEyxYX, 321)|(, 5)|(,2求求，和和满满足足：对对任任给给的的：设设随随机机变变量量作作业业 函数与极限73 第第2 2章章 随机过程的基本随机过程的基本 概念和基本类型概念和基本类型2.1 2.1 基本概念基本概念在概率论中，我们研究了随机变量，在概率论中，我们研究了随机变量，n维随机向量。维随机向量。 在极限定理中，我们研究了无穷多个随机变量在极限定理中，我们研究了无穷多个随机变量，但局限但局限在它们相互独立的情形。在
42、它们相互独立的情形。 将上述情形加以推广，将上述情形加以推广， 即研究即研究一族无穷多个、相互有关的随机变量，一族无穷多个、相互有关的随机变量， 这就是随机过程。这就是随机过程。定义定义2.12.1：设设),(P是一概率空间，是一概率空间， 对每一个参数对每一个参数Tt， ),(tX是一定义在概率空间是一定义在概率空间),(P 上的随机上的随机变量，变量， 则称随机变量族则称随机变量族);,(TttXXT 为该概率为该概率空间上的一随机过程。空间上的一随机过程。T称为参数集。称为参数集。函数与极限74随机过程的两种描述方法：随机过程的两种描述方法：用映射表示用映射表示,TXRTtX :),(
43、),( X T即即是一定义在是一定义在上的二元单值函数，上的二元单值函数， ,Tt ),( tX固定固定是一定义在样本空间是一定义在样本空间 上的函数，上的函数， 即为一随机变量；即为一随机变量；对于固定的对于固定的,0 ),(0 tX是一个是一个关于参数关于参数Tt 的函数，的函数，或称随机或称随机过程的一次实现。过程的一次实现。记号记号通常称为样本函数，通常称为样本函数，),( tX有时记为有时记为)( tX或简记为或简记为).(tX参数参数T一般表示时间或空间。一般表示时间或空间。参数常用的一般有：参数常用的一般有：函数与极限75(1)(1)(2)(2), 2, 1, 0 T,baT (
44、3)(3), 2 , 1 , 00 NT时间时间此时称之为随机序列或此时称之为随机序列或0)(. nnX，随机序列写为随机序列写为序列序列., 1 , 0, nXn或或.,0 可以取可以取或或可以取可以取其中其中ba当参数取可列集时，当参数取可列集时， 一般称随机过程为随机序列。一般称随机过程为随机序列。随机过程随机过程);(TttX 可能取值的全体所构成的集合可能取值的全体所构成的集合称为此随机过程的状态空间，记作称为此随机过程的状态空间，记作S. S.S S中的元素中的元素称为状态。状态空间可以由复数、实数或更一般的称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。抽象空间构成。函
45、数与极限76同同的的类类：的的不不同同过过程程可可以以分分成成不不和和根根据据ST参数空间分类：参数空间分类： 0|2 , 1 , 0ttTT如如连续参数连续参数如如离散参数离散参数状态空间分类：状态空间分类： 取值是连续的取值是连续的连续状态连续状态取值是离散的取值是离散的离散状态离散状态SS函数与极限77随机过程分为以下四类：随机过程分为以下四类：(1)(1)离散参数离散型随机过程；离散参数离散型随机过程；(2)(2)连续参数离散型随机过程；连续参数离散型随机过程；(3)(3)连续参数连续型随机过程；连续参数连续型随机过程；(4)(4)离散参数连续型随机过程。离散参数连续型随机过程。函数与
46、极限78以随机过程的统计特征或概率特征的分类，一般有以随机过程的统计特征或概率特征的分类，一般有：独立增量过程；独立增量过程；MarkovMarkov过程；过程；二阶矩过程；二阶矩过程；平稳过程；平稳过程；更新过程；更新过程；PoissionPoission过程；过程；维纳过程。维纳过程。鞅；鞅；函数与极限79 随机过程举例随机过程举例例例2.1 2.1 .)()(,1机游动机游动就是直线上的随就是直线上的随时刻在路上的位置，则时刻在路上的位置，则他在他在记记以以相同）相同）后退一步（假设其步长后退一步（假设其步长以概率以概率前进一步，前进一步，概率概率一醉汉在路上行走，以一醉汉在路上行走，以
47、随机游动：随机游动：tXttXpp 例例2.2 2.2 抛掷一枚硬币，样本空间为抛掷一枚硬币，样本空间为,THS 定义：定义： 时时当当出出现现，时时当当出出现现T2H,cos)(tttX ),( t, 2/1 TPHP其中其中是一是一则则),(, )( ttX随机过程。随机过程。函数与极限80例例2.3 2.3 运动。运动。则它是平面上的则它是平面上的位置，位置，为粒子在平面坐标上的为粒子在平面坐标上的碰撞的结果。记碰撞的结果。记动。同时分子大量随机动。同时分子大量随机运运来称为来称为则的运动，这种运动后则的运动，这种运动后子不断进行无规子不断进行无规漂浮在液面上的微小粒漂浮在液面上的微小粒
48、注意到注意到英国植物学家英国植物学家运动：运动：BrowntYtXBrownBrownBrown)(),(函数与极限81 2.2 2.2 有限维分布与有限维分布与KolmogvrovKolmogvrov定理定理一、随机过程的分布函数一、随机过程的分布函数 1. 1. 一维分布函数一维分布函数是一随机过程，称是一随机过程，称设设)(tX)(),()(xtXPxtFxFt .)(的一维分布函数的一维分布函数称为称为tX , 0),( xtf若若 xtdyytfxtFxF-),(),()(使得使得.)(),(的的一一维维概概率率密密度度为为则则称称tXxtf函数与极限82 2. 2. 二维分布函数二
49、维分布函数),()(),(2121TtttXtX 设设二二维维随随机机向向量量)(,)(),(),(2211212121,21xtXxtXPxxttFxxFtt .),(2121为为二二维维概概率率密密度度则则称称xxttf的分布函数。的分布函数。称为二维随机向量称为二维随机向量)(),(21tXtX, 0),(2121 xxttf若若),(),(212121,21xxttFxxFtt 21-212112),(dydyyyttfxx 函数与极限83 3. n 3. n维分布函数维分布函数.),;,(11维维概概率率密密度度为为则则称称nxxttfnn的联合分布函数为的联合分布函数为维随机向量维
50、随机向量)(,),(),(21ntXtXtXn),;,(),(111,1nnnttxxttFxxFn )(,)(11nnxtXxtXP , 0),;,(11 nnxxttf若若),;,(),(111,1nnnttxxttFxxFn nxxnndydyyyttfn1-111),;,( .)(,),(),(21维分布函数维分布函数的的维随机向量维随机向量称为称为ntXtXtXnn函数与极限84 4. 4. 有限维分布族有限维分布族),(1,1nttxxFn )(,)(11nnxtXxtXP :维分布函数的全体维分布函数的全体，一维、二维，一维、二维，n 称为有限维分布族称为有限维分布族1,),(1
