《随机过程》课件第3章.pptx

1、第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分3.1 随机变量序列的均方极随机变量序列的均方极限限3.2 随机过程的均方连随机过程的均方连续续3.3 随机过程的均方导数随机过程的均方导数 3.4 随机过程的均方积随机过程的均方积分分3.5 均方随机微分方程均方随机微分方程 3.6 正态过程的均方微积正态过程的均方微积分分习题三习题三第3章 二阶矩过程的均方微积分注意到随机过程是函数的推广，那么不可避免地要考虑对随机过程进行微分和积分。研究发现，在随机过程中有一类具有二阶矩的随机过程可以建立有如普通函数的微积分概念，这就构成了二阶矩过程的随机微积分。二阶矩过程的均方微积分对研究在实

2、际应用中常用到的平稳过程是很有用的。本章将要探讨把普通函数的微积分概念推广到二阶矩过程。我们知道，普通函数的微积分是通过极限来定义的。对随机过程也一样，为了确定二阶矩过程 X(t)的连续性、导数和积分，也必须先定义随机变量的极限。随机变量的极限有许多定义，本章讨论的是所谓的均方极限，因此，更确切地说，本章主要研究二阶矩过程的均方极限意义下的随机微积分。第3章 二阶矩过程的均方微积分3.1 随机变量序列的均方极限随机变量序列的均方极限为讨论方便起见，先引入如下定义。定定义义 3.1.1 称定义在概率空间(，F，P)上的具有二阶矩的随机变量的全体所组成的集合为二阶矩变量空间，简称为二阶矩空间。第3

3、章 二阶矩过程的均方微积分在 H 中，我们对两个以概率 1 相等的随机变量不加区别，我们所说的两个随机变量相等也是指以概率 1 相等。下面讨论空间 H 的一些性质。引引理理 3.1.1 设 X，Y H，则对任意的复数 a，b，有 aX+bY H。证证明明 由 Schwarz 不等式得第3章 二阶矩过程的均方微积分于是即 aX+bY H。引理 3.1.1 说明 H 为一线性空间。说到“空间”，我们常常希望能够在其中定义“距离”或者“范数”。为此，对 X H，令它具有如下的性质。第3章 二阶矩过程的均方微积分引理引理 3.1.2第3章 二阶矩过程的均方微积分引理引理 3.1.3 为 H 中的范数，

4、即有与通常一样，对 X，Y H，称 X-Y 为 X，Y 的距离。有了上述范数与距离等概念后，我们即可引入均方收敛的概念。第3章 二阶矩过程的均方微积分定义定义 3.1.2 设 X，X n H，n=1，2，如果则称X n 均方收敛到 X，或称 X 为X n 的均方极限，记为。与数列收敛一样，均方收敛有以下的判别准则。第3章 二阶矩过程的均方微积分定理定理 3.1.1 (均方收敛 Cauchy 准则)X n H 均方收敛的充要条件为这个准则平行于实数序列的 Cauchy 准则。证明证明(必要性)第3章 二阶矩过程的均方微积分(充分性)设 X n H 是均方收敛 Cauchy 列，则由均方收敛与依概

5、率收敛的关系知X n 是依概率收敛 Cauchy 列，因此存在随机变量 X，使得从而存在子列X nk，使得因而一定存在 k，使 有限，但 X nk H，故 X H。由三角不等式知第3章 二阶矩过程的均方微积分当 n ，k 时，由所给充分性条件知，上式右端第一项趋于 0，第二项由 Fatou 引理知也趋于 0，即定理 3.1.1 也称为完备性定理。缩上所述，二阶矩随机变量全体 H 是一个完备的线性赋范空间，即 Banach 空间，也是一个完备的内积空间，即 Hilbert 空间。第3章 二阶矩过程的均方微积分例例 3.1.1 设X n 是相互独立的随机变量序列，其分布律为讨论此序列X n 是否均

6、方收敛。第3章 二阶矩过程的均方微积分解解 由于可见X n 不均方收敛。现在，我们讨论均方收敛的一些性质，首先与数列极的性质类似，我们有以下定理。第3章 二阶矩过程的均方微积分定理定理 3.1.2 第3章 二阶矩过程的均方微积分证明证明(1)由得到。第3章 二阶矩过程的均方微积分(2)由注意到 X+，Y+，令 m，n ，知(2)得证。第3章 二阶矩过程的均方微积分(3)由条件 E(X-Y)2 E(X-X n)2+E(X n-Y)2 0，故 E(X-Y)2=0，而 E(X-Y)=0，故 X-Y 的方差 D(X-Y)=0，因此 P(X=Y)=1。以下定理证明均方收敛与数学期望、方差等可交换次序。第

7、3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分证明证明(1)在定理 3.1.2 的(2)中取 X n=1 得到;(2)在定理 3.1.2 的(2)中取 Y n=X n 得到;(3)由于 D(X n)=E(|X n|2)-|E(X n)|2，D(X)=E(|X|2)-|E(X)|2，故由(1)和(2)即得(3);第3章 二阶矩过程的均方微积分得到。以上定理表明，当随机变量列均方收敛时，相应的数学期望、方差及特征函数列也是收敛的。以下定理进一步给出均方收敛的第二个判别准则。第3章 二阶矩过程的均方微积分定理定理 3.1.4 (均 方 收 敛 准 则)X n H 均方收敛的充要条件为极限

8、第3章 二阶矩过程的均方微积分例例 3.1.2 设 X n，n 1 H，其相关函数为 R(m，n)=复数序列，试研究随机变量序列均方收敛的条件。解解 因为第3章 二阶矩过程的均方微积分故由均方收敛准则可知，当且仅当存在，即级数)收敛时，Y n 均方收敛。故 Y n 均方收敛的充要条件为级数第3章 二阶矩过程的均方微积分定理定理 3.1.5 (均方极限下的大数定律)设 X n，n 1 H 是相互独立同分布的随机变量序列，E(X n)=a，n=1，2，则有:第3章 二阶矩过程的均方微积分证明证明 由X n，n 1 H 的相互独立同分布性得:第3章 二阶矩过程的均方微积分定理 3.1.5 说明，相互

9、独立同分布的二阶矩随机变量序列的算术平均必均方收敛于它的统计平均。随机变量序列的均方收敛定义及上述诸定理都可以推广 到连续参数 情形。例 如设X(t)，t T 是二阶矩过程，X H，若 X(t)-X=0，则称 X(t)均方收敛于 X，记为设 X(t)，t T 是二阶矩过程，则当 t 时，X(t)均方收敛的充要条件为极限 第3章 二阶矩过程的均方微积分3.2 随机过程的均方连续随机过程的均方连续基于均方收敛就可定义随机过程的连续性，称之为均方连续。定定义义 3.2.1 (1)称二阶矩过程 X(t)，t T 在 t 0 T 处均方连续，如果(2)若 X(t)在 T 的每一点处都均方连续，则称 X(

10、t)，t T 是均方连续的。首先，给出以下定理。第3章 二阶矩过程的均方微积分定理定理 3.2.1 (均方连续准则)二阶矩过程 X(t)，t T 在 t 0 T 处均方连续的充要条件为X(t)，t T 的相关函数 R(s，t)在(t 0，t 0)处连续。证证明明 由均方收敛准则可知该定理表明，均方连续准则的重要性在于将一个二阶矩过程的均方连续性等价地转换成它的相关函数的普通连续性。第3章 二阶矩过程的均方微积分定理定理 3.2.2 如果二阶矩过程 X(t)，t T 的相关函数 R(s，t)在所有(t，t)处连续，则它在 T T=(s，t)|s，t T 上连续。证证明明 因为 R(s，t)对任意

11、的 t T 在点(t，t)处连续，故由定理 3.2.1 知，X(t)，t T 在 T 上均方连续。因此对任意的 s 0，t 0 T，有故由定理 3.1.3 知由 s 0，t 0 T 的任意性知 R(s，t)在 T T 上连续。该结论表明，对相关函数 R(s，t)而言，它在整个区域 T T 上连续与它在 T T 的对角线上连续是等价的。这是一个有趣的性质，因为通常的二元函数不具有这样的性质。第3章 二阶矩过程的均方微积分例例 3.2.1 设 N(t)，t 0 为强度 的 Poisson 过程，则其均值函数为 m N(t)=t，相关函数 R N(s，t)=min(s，t)+2st 在所有的(t，t

12、)处连续，故 Poisson 过程 N(t)，t 0 均方连续。Poisson 过程的每个样本函数都是具有单位跳跃的阶梯函数，可见均方连续的随机过程的样本函数可以都不连续。第3章 二阶矩过程的均方微积分例例 3.2.2 设 W(t)，t 0 为参数 2的 Wiener 过程，由于其相关函数 R W(s，t)=2 min(s，t)在(t，t)处恒连续，故 Wiener 过程均方连续。以下定理的证明是简单的。定理定理 3.2.3 若二阶矩过程 X(t)，t T 均方连续，则其均值函数及协方差函数也在 T上连续。第3章 二阶矩过程的均方微积分3.3 随机过程的均方导数随机过程的均方导数先给出均方导数

13、的定义，它由均方收敛的定义容易想到。第3章 二阶矩过程的均方微积分定义定义 3.3.1 设 X(t)，t T 是二阶矩过程，给定 t T，如果存在 Y H，使得则称 X(t)在 t 处均方可微，称 Y 为 X(t)在 t 处的均方导数，记为 X(t)或第3章 二阶矩过程的均方微积分如果 X(t)在 T 中每一个点 t T 处都均方可微，则称 X(t)，t T 为均方可微过程。此时X(t)，t T 的均方导数 X(t)，t T 也是一个随机过程，且仍是二阶矩过程。如果X(t)，t T 存在，且在 t T 处是均方可微的，则称 X(t)，t T 在 t 处是二阶均方可微的，X(t)的均方导数称为

14、X(t)在 t T 处的二阶均方导数，记为 X(t)或类似地，可定义X(t)，t T 的 n 阶均方导数，记为 X(n)(t)，t T，n 1。为了建立均方可微的判别准则，先引入普通二元函数的广义二阶导数的概念。第3章 二阶矩过程的均方微积分定义定义 3.3.2 普通的二元函数 f(s，t)称为在(s，t)处广义二阶可微，如果极限存在，并称此极限为 f(s，t)在(s，t)处的广义二阶导数。需要指出的是，只要 f(s，t)关于 s，t的二阶混合偏导数存在且连续，则 f(s，t)一定是广义二阶可微的，且广义二阶导数为fst(s，t)=fts(s，t)，没有上述的连续条件，即使fst(s，t)和f

15、ts(s，t)均存在，其广义二阶导数也未必存在。第3章 二阶矩过程的均方微积分定理定理 3.3.2 (均方可微准则)二阶矩过程 X(t)，t T 在 t 0 T 处均方可微的充要条件为它的相关函数 R(s，t)在(t 0，t 0)处广义二阶可微。证证明明 由均方收敛准则可知，X(t)，t T 在 t 0 T 处均方可微，即极限第3章 二阶矩过程的均方微积分存在的充要条件为存在，而上式可表为这正是 R(s，t)在(t 0，t 0)处广义二阶可微的定义。以下引理是显然的。第3章 二阶矩过程的均方微积分推论推论 3.3.1 二阶矩过程 X(t)，t T 在 T 上均方可微的充要条件为它的相关函数R(

16、s，t)对任意的 t T 在(t，t)处广义二阶可微。导数过程的均值函数、相关函数与原过程的均值函数、相关函数有什么关系呢?如下推论给出相应的答案。第3章 二阶矩过程的均方微积分推论推论 3.3.2 如果二阶矩过程 X(t)，t T 的相关函数 R(s，t)对任意的 t T 在(t，t)处广义二阶可微，则 Rs(s，t)，R t(s，t)，R st(s，t)及 R ts(s，t)在 T T 上都存在，且有第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分最后，证明(2):重复推论 3.3.2(1)的证明，可以得到如下推论。第3章 二阶矩过程的均方微积分推论推论 3.3.3 如果二阶矩

17、过程 X(t)，t T 是 n 次均方可微的，则 X(t)，t T 的这些均方导数的均值函数存在，且即均方求导运算与期望运算可以交换次序。下面来看一个例子。第3章 二阶矩过程的均方微积分例例 3.3.1 设 A 是一均值为 0，方差为 2的二阶矩随机变量，对 t T，令 X(t)=At，则随机过程X(t)，t T 是二阶矩过程，且 R X(s，t)=2st。R X(s，t)的广义二阶导数为故 X(t)，t T 是一均方可微过程。到现在我们看到的都是均方可微的，读者自然会问:有没有不均方可微的例子?第3章 二阶矩过程的均方微积分例例 3.3.2 设设Y n，n 1 是一列均值为 0，方差为 1

18、的相互独立同分布的随机变量，对t 0，1，令 X(0)=0，X(t)=Y j，2-j t 21-j，j=1，2，。讨论随机过程 X(t)，t 0，1 的均方可微性。解解 由于 X(t)，t 0，1 的相关函数为第3章 二阶矩过程的均方微积分而当 t=t 0 时据此 R X(s，t)在(0，0)这一点不是广义二次可微的，因此 X(t)在 t=0 处不均方可微。下面给出均方导数的一些基本性质，它们的证明与数学分析中的情形相类似。第3章 二阶矩过程的均方微积分性质性质 3.3.1 设 X(t)，t T 在 t T 处均方可微，则 X(t)在 t T 处均方连续。证证明明 由于 X(t)H，故性质 3

19、.3.1 的逆未必成立，即确实存在均方连续但不是均方可微的随机过程。第3章 二阶矩过程的均方微积分例例 3.3.3 参数为 2的 Wiener 过程 W(t)，t 0 是一均方连续但不是均方可微的随机过程。证证明明 前面已经证明 W(t)，t 0 均方连续，又由于 R W(s，t)=2 min(s，t)，因此第3章 二阶矩过程的均方微积分故 Rs(t，t)不存在，因此 W(t)，t 0 不是均方可微的。由于实际需要，我们可按下面的方法定义 Wiener 过程形式上的导数过程。第3章 二阶矩过程的均方微积分则有第3章 二阶矩过程的均方微积分设 (s，t)=(s-t)，则形式上有则有由推论 3.3

20、.2 可知，若 W(t)是一均方可微过程，则其均方导数过程的相关函数为第3章 二阶矩过程的均方微积分这样就规定，若有一实随机过程的相关函数等于 2(s-t)，其中 2=D W(t)，则称此过程为 Wiener 过程的均方导数过程，记为 W(t)，即参数为 2的 Wiener 过程 W(t)，t 0 的导数过程 W(t)，t 0 称为参数为 2的白噪声过程。第3章 二阶矩过程的均方微积分性质性质 3.3.2 均方导数在概率 1 的意义下是唯一的，即若 X(t)=Y 1(t)，X(t)=Y 2(t)，则 Y 1(t)=Y 2(t)。证证明明 可由均方极限的唯一性立即得到。由极限的线性性可得如下性质

21、。性质性质 3.3.3 均方导数具有线性性，即若 X(t)，t T，Y(t)，t T 均方可微，a，b为任意常数，则aX(t)+bY(t)，t T 也是均方可微的，且有第3章 二阶矩过程的均方微积分性质性质 3.3.4 设 f(t)是定义在 T 上的普通的可微函数，X(t)，t T 是均方可微过程，则f(t)X(t)，t T 也是均方可微过程，且有第3章 二阶矩过程的均方微积分证明证明第3章 二阶矩过程的均方微积分性质性质 3.3.5 设 X(t)，t T 是一均方可微过程，且 X(t)=0，则 X(t)是一常随机变量(即与 t 无关的随机变量)。证证明明 由 X(t)=0 知 R(s，t)的

22、一阶偏导为零，从而其各阶偏导数均为零。由泰勒展开式可知 R(s，t)=R(s，s)为常数。而 m X(t)=EX(t)=0，故 m X(t)为常数。记 Y(t)=X(t)-X(s)，则 DY(t)=0，即 Y(t)=EY(t)=0，等价地，X(t)=X(a)t。第3章 二阶矩过程的均方微积分3.4 随机过程的均方积分随机过程的均方积分本节讨论二阶矩过程在均方意义下的随机积分，包括定积分和不定积分。3.4.1 二阶矩过程的均方定积分二阶矩过程的均方定积分仿照普通函数在区间上的定积分的定义，我们有以下定义。第3章 二阶矩过程的均方微积分与前几节中一样，我们用相关函数的可积来判定二阶矩过程的可积。第

23、3章 二阶矩过程的均方微积分定理定理 3.4.1 设 X(t)，t a，b 是二阶矩过程，f(t，u)对每一个 u U 是 t a，b 的 Riemann 可积函数，则 f(t，u)X(t)的相关函数 f(s，u)f(t，u)R(s，t)在 a，b a，b 上的二重积分存在且有限的充要条件是 f(t，u)X(t)在 a，b 上均方可积。第3章 二阶矩过程的均方微积分证明证明 为记号简单起见，这里只给出 f(s，t)=1 时的情形。必要性。定义当 存在时，对 a，b 的任一分割 =t k，t*k，k=0，1，2，(满足 a=t 0 t 1 t 2 0)的二阶均方连续过程。第3章 二阶矩过程的均方

24、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

25、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

26、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

27、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

28、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

29、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

30、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方

31、微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分第3章 二阶矩过程的均方微积分