1、 第二章第二章 随机过程的基本概念随机过程的基本概念 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类 第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征第三节第三节 复随机过程复随机过程第四节第四节 几种重要的随机过程简介几种重要的随机过程简介 第一节第一节 随机过程的定义及其分类随机过程的定义及其分类一、直观背景及例一、直观背景及例电话站在时刻t时以前接到的呼叫次数例例1一般情况下它是一个随机变数X ，并且依赖时间t，即随机变数X（t），t0，24。例例2研究某一商品的销售量一般情况下它是一个随机变数X ，并且依赖时间t，即随机变数X（t），t=1，2，首页首页例
2、例3国民收入问题表示依赖于一个变动参量的一族随机变量。它虽然不能用一个确定的函数来描述，但也是有规律的。随着各种随机因素的影响而随机变化，一般地有 其中C（t）、I（t）分别表示t年的消费和积累随机过程 )()()(tItCtY首页首页二、随机过程的定义二、随机过程的定义1随机 过程 设E是随机试验， 是它的的样本空间，T是一个参数集，若对于每一个都有随机变量 ，与之对应，则称依赖于t的随机变量 为随机过程，或称为随机函数， 通常记作Tt),(tX),(tX)(tX，Tt或)(tX。说明1参数集T在实际问题中，常常指的是时间参数，但有时也用其它物理量作为参数集。首页首页说明2因为 随机过程)(
3、tX，Tt是一个二元函数对于每一个固定的时刻Tt 0，)(0tX是一个随机变量，并称作随机过程)(tX在0tt 时的一个状态，它反映了)(tX的“随机”性；对于每一个0，)(tX是一个确定的样本函数，它反映了)(tX的变化“过程” 。首页首页2贝努利过程 设每隔单位时间掷一次硬币，观察它出现的结果。如果出现正面，记其结果为1；如果出现反面，记其结果为0。一直抛掷下去，便可得到一无穷序列 因为每次抛掷的结果是一个随机变量（1或0），所以无穷次抛掷的结果是一随机变量的无穷序列，称为随机序列，也可称为随机过程。 每次抛掷的结果与先后各次抛掷的结果是相互独立的，并且出现1或0的概率与抛掷的时间n无关。
4、 0121或；，；nnxnx首页首页设 P1nx= p （第n次抛掷出现正面的概率） P0nx= q = 1p （第n次抛掷出现反面的概率）其 中 P1nx = p 与 n 无 关 ，且ix、kx(ki 时)是相互独立的随机变量。称具有这种特性的随机过程为贝努利型随机过程。注如果固定观测时刻t，则它的试验结果是属于两个样本点（0，1）所组成的样本空间如果在二个不同时刻1t，2t观测试验结果则样本空间出现的值为（0,0）,（0,1）,（1,0）,（1,1）则21,xx是一个二维随机变量首页首页三、随机过程的分类三、随机过程的分类1、按参数集和状态分类 参数集T的是一个可列集T=0，1，2，离散参
5、数连续参数参数分类参数集T的是一个不可列集0|ttT状态分类离散状态连续状态)(tX取值是离散的取值是连续的首页首页T离散、I离散T离散、I非离散（连续）参数T状态I分类概率结构分类2按过程的概率结构分类T非离散（连续） 、I离散T非离散（连续） 、I非离散（连续） 独立随机过程独立增量随机过程马尔可夫过程平稳随机过程首页首页（1）独立随机过程简称独立随机过程。 设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn )(1tX，)(2tX，)(ntX是相互独立的则称)(tX为具有独立随机变量的随机过程，首页首页（2）独立增量随机过程是相互独立的，设)(tX，Tt 对任意 n 个不同的1t，
6、2t，Ttn 且nntttt121)()(12tXtX，)()(23tXtX，)()(1nntXtX则称)(tX为具有独立增量的随机过程。首页首页（3）马尔可夫过程简称马氏过程。设)(tX，Tt 对任意 n 个不同的1t，2t，Ttn 且nntttt121|)(nnxtXP11)(nnxtX，)(11xtX=|)(nnxtXP11)(nnxtX） ，则称)(tX为马尔可夫过程首页首页马氏过程的特点马氏性实质上是无后效性，所以也称马氏过程为无后效过程。称这个特性为马尔可夫性，简称马氏性。 当随机过程在时刻1nt的状态已知的条件下，它在时刻nt（1nntt）所处的状态仅与时刻1nt的状态有关，而与
7、过程在时刻1nt以前的状态无关首页首页（4）平稳随机过程 平稳过程的统计特性与马氏过程不同，它不随时间的推移而变化，过程的“过去”可以对“未来”有不可忽视的影响。返回返回首页首页第二节第二节 随机过程的分布及其数字特征随机过程的分布及其数字特征一、随机过程的分布函数一、随机过程的分布函数一维分布函数其分布函数为设)(tX，Tt 是一个随机过程，对于固定的Tt 1，)(1tX是一个随机变量， )()(1111xtXPxtF；，Tt 1称)(11xtF；为随机过程)(tX的一维分布函数。一维概率密度 若 存 在 二 元 非 负 函 数)(11xtf；， 使11111)()(1dyytfxtFx；则
8、称)(11xtf；为随机过程)(tX的一维概率密度首页首页二维分布函数联合分布函数二维概率密度二维随机向量（)(1tX，)(2tX） Ttt),(21)(,)(),(22112121xtXxtXPxxttF；，称为随机过程)(tX的二维分布函数若存在非负函数),(2121xxttf；),(2121xxttF；=212121),(12dydyyyttfxx； 则称),(2121xxttf；为)(tX的二维概率密度首页首页n 维分布函数联合分布函数 n维概率密度n 维随机向量（)(1tX，)(2tX，)(ntX）),(2121nnxxxtttF；)(,)(,)(2211nnxtXxtXxtXP，若
9、存在非负函数),(2121nnxxxtttf；),(2121nnxxxtttF；=nnnxxxdydydyyyytttfn212121),(12； 首页首页有限维分布族一维，二维，n维分布函数的全体：易知1,),(212121nTtttxxxtttFnnn；它不仅刻划了每一时刻Tt 1随机过程)(tX的状态)(1tX的分布规律，而且也刻划了任意时刻Ttttn,21随机过程)(tX的状态)(1tX，)(2tX，)(ntX之间的关系 因此，一个随机过程的统计特性可由其有限维分布函数族表达出来。首页首页联合分布函数n + m维随机向量分布函数设)(tX和)(tY，nttt,21，Ttttm,21)(
10、1tX,)(2tX,)(ntX，)(1tY,)(2tY,)(mtYnXYttF,(1；mtt,1；nxx,1；myy,1）；nnxtXxtXP)(,)(11mmytYytY）（）（,11称为随机过程和的n + m维联合分布函数首页首页相互独立n + m维随机向量 分布函数设)(tX和)(tY，nttt,21，Ttttm,21nXYttF,(1；mtt,1；nxx,1；myy,1）则称随机过程 相互独立；nXttF,(1nxx,1）(YFmtt,1；myy,1）)(tX和)(tY首页首页例例1 袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的t对应随机变量 时取得
11、白球如果时取得红球如果tttettX,3)(试求这个随机过程的一维分布函数族。分析分析先求概率密度首页首页所以解解对每一个确定的时刻 t，)(tX的概率密度为3tte)(tX3231P)(11xtF；)(11xtXP ttexexttx，13,323,011 首页首页二、随机过程的数字特征二、随机过程的数字特征 1均值函数或称为数学期望说明说明设随机过程)(tX，Tt ，则 )()(tXEtm，Tt ，称为随机过程)(tX的均值函数)(tm是)(tX的所有样本函数在时刻 t 的函数值的平均它表示随机过程)(tX在时刻 t 的摆动中心首页首页 2方差函数说明说明随机过程)(tX，Tt 的二阶中心
12、矩)()()()(2tmtXEtXDtD称为随机过程)(tX的方差函数)(tD的平方根)(t)(tD均方差函数它表示)(tX在各个时刻 t 对于)(tm的偏离程度首页首页 3协方差函数二阶中心混合矩简称协方差函数随机过程)(tX在Ttt21,的状态)(1tX和)(2tX ),(21ttK)()()()(2211tmtXtmtXE称为随机过程)(tX的自协方差函数 当Tttt21，有注 ),()(ttKtD)()(2tmtXE首页首页 4互协方差函数其中设)(tX和)(tY是两个随机过程对任意Ttt21,，则),(21ttKXY)()()()(2211tmtYtmtXEYX称为随机过程)(tX与
13、)(tY的互协方差函数)()(11tXEtmX)()(22tYEtmY首页首页 5相关函数简称相关函数注对任意Ttt21,)(1tX和)(2tX的二阶原点混合矩 ),(21ttR)()(21tXtXE称 为 随 机 过 程)(tX的 自 相 关 函 数 ，当0)( tm时，有 ),(21ttR=),(21ttK首页首页 6互相关函数注对任意Ttt21,设)(tX和)(tY是两个随机过程 ),(21ttRXY)()(21tYtXE称为随机过程)(tX与)(tY的互相关函数 ),(21ttKXY=),(21ttRXY)()(21tmtmYX则首页首页 7互不相关注对任意Ttt21,设)(tX和)(
14、tY是两个随机过程 ),(21ttKXY=0则称随机过程)(tX与)(tY互不相关有若随机过程)(tX与)(tY互不相关则 ),(21ttRXY)()(21tmtmYX即)()()()(2121tYEtXEtYtXE若首页首页例例2解解求：（1）均值函数；（2）协方差函数；（3）方差函数。设随机过程tUtX2cos)(，其中 U 是随机变量且5)(UE，6)(UD（1）)(tm2cos)(tUEtXE2cosUtEt2cos5（2）),(21ttK)()()()(2211tmtXtmtXE2cos)5(2cos)5(21tUtUE)5(2cos2cos221UEtt2cos2cos21UDtt
15、212cos2cos6tt（3）令ttt21得ttXD2cos6)(2首页首页例例3解解试求它们的互协方差函数。所以设两个随机过程2)(UttX，3)(UttY其中U 是随机变量且5)(UD)(tX和)(tY的均值函数)(2UtEtmX2UEt)(3UtEtmY3UEt),(21ttKXY)()()()(322211UEttYUEttXE)(23221UEUEtt)(3221UDtt32215tt)(tX和)(tY的互协方差函数 首页首页三、随机过程的特征函数三、随机过程的特征函数1一维特征函数则注设)(tX是一个随机过程对固定的Tt 1),()(1111tXieEt111)(11dxxtfe
16、xi；（)(11xtf；是)(1tX的一维密度函数，1是实数）称为随机过程)(tX的一维特征函数它是1t与1的二元函数首页首页 2n维特征函数则3.有限维特征函数族设)(tX是一个随机过程对固定的Tttn,1，),()()(1111nntXtXinneEtt；称为随机过程)(tX的 n 维特征函数其中1，n,是实数。)(tX，Tt的一维，, n维特征函数的全体),(11nntt ；，Tttn,1，1n注随机过程)(tX的有限维分布函数族与有限维特征函数族相互唯一决定返回返回首页首页 第三节第三节 复随机过程复随机过程一、定义一、定义是两个实随机过程则则设)(tX,Tt 与)(tY,Tt )()
17、()(tiYtXtZ，Tt 称为复随机过程记作)(tZ,Tt，简记作)(tZ并称并称实随机过程)(tX、)(tY的联合分布为复随机过程)(tZ的分布首页首页二、数字特征二、数字特征1均值 函数2自协方差函数其中记号“”表示“共轭”)()()()(tYiEtXEtZEtmZ)()(timtmYX)(tZ，Tt 在时刻Ttt21,的状态)(1tZ与)(2tZ的二阶中心混合矩),(21ttKZ)()()()(2211tmtZtmtZEZZ称为复随机过程)(tZ的自协方差函数首页首页3自相关函数自协方差函数与自相关函数的关系4方差 函数 )()(E),(2121tZtZttRZ)()(),(),(21
18、2121tmtmttRttKZZZZ| )()(|)(2tmtZEtDZZ它实际上等于自协方差函数),( ttKZ且有)(tDZ)()(tDtDYX首页首页证由于所以即)(tDZ)()(tDtDYX)()(tmtZZ)()()()(timtmtiYtXYX)()()()(tmtYitmtXYX)(tDZ)()()()(22tmtYtmtXEYX)()()()(22tmtYEtmtXEYX)()(tDtDYX首页首页5 互 协方差函数6互相关函数 设)(1tZ，)(2tZ是两个复随机过程对固定的Ttt21,),(2121ttKZZ)()()()(22211121tmtZtmtZEZZ称为)(1t
19、Z与)(2tZ的互协方差函数。 )()(E),(22112121tZtZttRZZ首页首页自相关关系)()()(tiYtXtZ的自相关函数可有)(tX和)(tY的自相关函数和互相关函数表示即 )()(E),(2121tZtZttRZ),(),(),(),(21212121ttRttRittRttRXYYXYX类似地 )()(E),(22112121tZtZttRZZ),(),(21212121ttRttRYYXX),(),(21212112ttRttRiYXXY互相关关系首页首页例例1已知复随机过程 tietZ)(，1Rt 其中N（0，1） ，是给定常数，求)(tZ的均值函数和相关函数。解解)
20、(tieEtZE0Eeti),(21ttR21titieeE2)(21Eetti)(21ttie21titieeE返回返回首页首页第四节第四节 几种重要的随机过程简介几种重要的随机过程简介一、独立增量过程一、独立增量过程1定义随机变量的增量是相互独立的设)(tX,Tt 是一随机过程，若对任意正整数 n 及Tttn,1，nntttt121)()(12tXtX,)()(23tXtX,)()(1nntXtX则称)(tX为独立增量的过程首页首页2齐次性或称时齐的注若 对 任 意 的t，Tt，增量)()(tXtX的概率分布只依赖于而与t无关，则称随机过程)(tX为齐次的，若)(tX是 齐 次 的 ，所以
21、只要时间间隔相同那么增量服从的分布也相同，具有平稳性增量所服从的分布与时间起点无关首页首页例例1证证设)(nX，, 2 , 1 , 0n是相互独立的随机变量序列，令)()(0nXiYin则)(iY，, 2 , 1 , 0i是一个独立增量过程。) 1()(iYiY)(iX （, 2 , 1i）而)(iX（, 2 , 1i）是相互独立的所以)(iY，, 2 , 1 , 0i是一个独立增量过程。首页首页二、泊松过程二、泊松过程1计数过程则且满足：如果用)(tX表示0，t内随机事件发生的总数，随机过程)(tX，0t称为一个计数过程（ 1）0)( tX（2）)(tX是整数值（3）对任意两个时刻210tt
22、 ，有)()(21tXtX（4）对任意两个时刻210tt ，)()(12tXtX等于在区间,(21tt中发生的事件的个数首页首页注注 如果在不相交的时间区间中发生的事件个数是独立的，则称计数过程有独立增量。2泊松过程满足 若在任一时间区间中发生的事件个数的分布只依赖于时间区间的长度，则称计数过程有平稳增量。设 随 机 过 程 )(tX，0t是 一 个 计 数 过 程 ，（1）0)0(X（2）)(tX是独立增量过程首页首页则称注意（ 3） 对 任 一 长 度 为 t 的 区 间 中 事 件 的 个 数服 从 均 值 为t（0） 的 泊 松 分 布 ，即对一切0, ts，有)()(ksXstXPt
23、kekt!)(, 2 , 1 , 0k)(tX为具有参数的泊松过程从条件（3）可知泊松过程有平稳增量，且ttXE)(并称为此过程的生起率或强度（单位时间内发生的事件的平均个数）首页首页说明说明 要确定计数过程是泊松过程，必须证明它满足三个条件：为此给出一个与泊松过程等价的定义满足设 随 机 过 程 )(tX，0t是 一 个 计 数 过 程 ，条件（1）只是说明事件的计数是从时刻0t开始条 件 （ 2） 通常 可 从 对过 程 的 了解 的 情 况去 直 接验 证然而全然不清楚如何去确定条件（3）是否满足参数为（0） ，首页首页则称)(tX为具有参数的泊松过程（3）)(1)(hhhXP（4）)(
24、2)(hhXP其中)(h表示当0h时对 h 的高阶无穷小，（1）0)0(X（2）过程有平稳与独立增量首页首页例例2顾客到达某 商店服从 参数4人/小时的泊松过 程，已知商店上午9：00开门，试求到9：30时仅到一位顾客，而到11：30时总计已达5位顾客的概率。解解)5)5 . 2(, 1)5 . 0(XXP)4)5 . 0()5 . 2(, 1)5 . 0(XXXP)4)2() 1) 5 . 0(XPXP5 . 041! 1)5 . 04(e244! 4)24(e0155. 0设 表示在时间t时到达的顾客数)(tX首页首页3到达时间间隔和等待时间的分布定义则称设)(tX，0t为泊松过程，)(t
25、X表示到时刻 t 为止已发生的事件的总数iW（, 2 , 1i）表示事件第 i 次发生的等待时间nW，1n为等待时间序列以nT（1n）表示第1n次发生到第n次发生之间的时间间隔则称nT，1n为到达时间间隔序列首页首页定理定理1证证或设)(tX，0t是参数为（0）的泊松过程，则到达时间间隔序列，21TT是相互独立的随机变量序列，且都有相同的均值为/1的指数分布。事件tT 1的发生当且仅当没有泊松事件在0t，内发生故当0t时，有0)(1tXPtTPtteet!0)(01tTPte1故1T的分布函数为首页首页那么类似地有0,00,1)(1ttetFtT即1T是服从均值为/1的指数分布。又因2T为事件
26、第一次发生到第二次发生之间的时间间隔，|112sTtTP|,(1111sTtssP内没有事件发生在,(11内没有事件发生在tssP（增量的独立性）0)()(11sXtsXP0)0()(XtXP（齐次独立增量过程）tetXP0)(首页首页可见可见一般地2T也服从均值为/1的指数分布且2T与1T独立同分布。对1n和0121nssst，,|112211nnnsTsTsTtTP内没有事件发生在,(1111tssssPnn,|112211nnsTsTsT内没有事件发生在,(1111tssssPnn0)()(1111nnsstssXPX0)0()(XtXPtetXP0)(首页首页这就证明了到达时间间隔序列
27、 是相互独立同分布的随机变量序列，且都具有相同均值为 的指数分布。例例3nT（1n）/1甲、乙两路公共汽车都通过某一车站，两路汽车的到达分别服从10分钟1辆（甲），15分钟1辆（乙）的泊松分布。假定车总不会满员，试问可乘坐甲或乙两路公共汽车的乘客在此车站所需等待时间的概率分布及其期望。解解反映甲、乙两路公共汽车到达情况的泊松分布)(1tX和)(2tX的生起率分别为10/11，15/12下面证明两路车混合到达过程 服从生起率为)(tX21的泊松分布首页首页事实上且所以由泊松过程的定义可知因此)(tX=)(1tX+)(2tX是独立增量)()(tXstX是相互独立地服从泊松分布的随机变量)()(11
28、tXstX及)()(22tXstX的和，)(tX服从均值为s的泊松分布。)(tX服从生起率为6/ 115/ 110/ 1的泊松过程。由定理1知公共汽车的到达时间间隔服从均值为6分钟的指数分布。再由指数分布的无记忆性，这位乘客的等待时间也服从均值为6分钟的指数分布。首页首页定理定理2其概率密度为设)(tX，0t为泊松过程，证证则等待时间nW（1n）服从),(n分布，)(tf)!1()(1ntent，0t因为事件tWn等价于事件ntX)(所以nW的 分 布 函 数为)(tWPtFn)(ntXPtnkkekt!)(0t首页首页于是nW的概率密度为)()(tFtftnkkekt)!1()(1tnkke
29、kt)!()(tnent)!1()(1tnkkekt11)!1()(tnkkekt)!()()!1()(1ntent首页首页三、维纳过程三、维纳过程1定义则称或布朗运动过程如果随机过程)(tX，), 0 Tt满足（1）0)0(X（2）)(tX是齐次的独立增量过程（3）对于每一个0t，有 )(tX), 0(2tN 随机过程)(tX为维纳过程当1时，称为标准维纳过程特别首页首页2均值、方差、协方差及相关函数均值协方差及相关函数证0)(tXE方差ttXD2)( ),(21ttK),(21ttR),min(212tt由定义可得均值、方差公式首页首页下证 ),(21ttK),(21ttR),min(21
30、2tt当21tt 时)()(),(2121tXtXEttR)(1tXE)()(12tXtX+)(12tX)(12tXE)0()(1XtXE)()(12tXtX)(1tXD12t同理当12tt 时),(21ttR22t 故 ),min(),(21221ttttR显然),(21ttK),(21ttR首页首页3对任意nttt,21，210ttnt维纳过程)(tX有)()(1iitXtX)(, 0(12iittN，ni, 2 , 1 证由于增量)()(1iitXtX，ni, 2 , 1 是相互独立的正态变量。所以)()(1iitXtXE0)()(1iitXEtXE首页首页)()(1iitXtXD)()
31、(21iitXtXE)()()(2)(1212iiiitXtXtXtXE)()()(2)(1212iiiitXEtXtXEtXEit2122it12itiitt1)(12iitt首页首页4具有马氏性证因此所以因)(tX是维纳过程增量)()(sXstX与时刻 s 以前的状态)(X (s0)独立，xsXastXP)(|)(，)(X，s0 xsXxasXstXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()(xsXastXP)(|)(所以维纳过程是马氏过程。首页首页例4试求的协方差函数。且解设)(tW，0t是一个维纳过程，0)0(W)()(tWltW（0l常数）),(21ttK)(
32、)(11tWltWE)()(22tWltW)()(tWltWE)()(21ltWtWE)()(21tWltWE)()(21tWtWE),min(212ltlt),min(212ltt),min(212tlt ),min(212tt)(tm0)()(21ltWltWE首页首页当21tt 时，可得),(21ttK1221212),(, 0ttltltttl当21tt ，可得),(21ttK2112221),(, 0ttltltttl所以),(21ttK|),|(|, 02121221ttlttlttl首页首页四、正态过程四、正态过程1定义为n维正态分布，其密度函数为也称高斯过程则称设)(tX,Rt
33、是一随机过程，对 任 意 正 整 数 n 及Rtttn,21，随机变量)(1tX,)(2tX,)(ntX的联合分布函数),(2121nnxxxtttf；)()(21exp|)2(112/ 12/mxKmxKn)(tX为 正 态 过 程首页首页其中nxxxx21)()()(21ntmtmtmm),(),(),(),(),(),(),(),(),(212221212111nnnnnnttKttKttKttKttKttKttKttKttKK且)()(iitXEtm)()()()(),(jjiijitmtXtmtXEttK),(ijttKK为协方差矩阵1K是 K 的逆矩阵)( mx表示)(mx 的转置
34、矩阵首页首页注2维纳过程是正态过程由正态过程的n维概率密度表达式知，正态过程的统计特性，由它的均值函数 及自协方差函数 完全确定。由维纳过程定义知)(tm),(21ttK设)(tX,0t是一维纳过程，0)0(X对任意nttt21，)(1tX（,)(2tX)(1tX, ）)()(1nntXtX服从n维正态分布首页首页故知)(1tX（,)(2tX, ）)(ntX)(1tX（,)(2tX)(1tX, ）)()(1nntXtX100110111)(1tX（,)(2tX, ）)(ntX服从 n 维正态分布，所以)(tX为正态过程又因首页首页例例5证可得设)(tX,Rt是一个独立的正态过程，则其协方差函数0),(21ttK （21tt ） 。若21tt ，)(1tX与)(2tX相互独立，)()()()(),(212121tmtmtXtXEttK0)()()()(2121tmtmtEXtEX注注逆命题也成立返回返回首页首页
