1、第五章第五章 大数定律和中心极限定理大数定律和中心极限定理5.1 5.1 5.2 5.2 5.3 5.3 概率论与数理统计是研究随机现象统计概率论与数理统计是研究随机现象统计规律性的学科。随机现象的规律性只有在相规律性的学科。随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出同的条件下进行大量重复试验时才会呈现出来，也就是说，要从随机现象中去寻求必然来，也就是说，要从随机现象中去寻求必然的法则，应该研究大量的随机现象。的法则，应该研究大量的随机现象。研究大量的随机现象时，常常采用极限研究大量的随机现象时，常常采用极限形式。例如第一章中曾指出频率是概率的反形式。例如第一章中曾指出频率
2、是概率的反映映,随着观察次数的增大，频率将会逐渐稳定随着观察次数的增大，频率将会逐渐稳定于概率。这里的于概率。这里的“稳定稳定”是指试验的次数无是指试验的次数无限增大时限增大时,频率值在某种收敛意义下逼近某频率值在某种收敛意义下逼近某一常数。此类极限形式导致了对极限定理进一常数。此类极限形式导致了对极限定理进行研究。行研究。本章要解决的问题本章要解决的问题 1.为何能以某事件发生的频率为何能以某事件发生的频率 作为该事件的作为该事件的 概率的估计概率的估计？2.为何能以样本均值作为总体为何能以样本均值作为总体 期望的估计？期望的估计？3.为何正态分布在概率论中占为何正态分布在概率论中占 有极其
3、重要的地位有极其重要的地位？4.大样本统计推断的理论基础大样本统计推断的理论基础 是什么？是什么？大数大数定律定律中心极中心极限定理限定理5.1 5.1 切比雪夫不等式切比雪夫不等式引理引理1 1 设随机变量设随机变量X的数学期望的数学期望E(X)与方差与方差 D(X)均存在，则对于任意实数均存在，则对于任意实数 0，有下述，有下述不等式成立不等式成立2()(|()|)D XPXE X 或或2()(|()|)1D XPXE X 切比雪夫不等式示意图切比雪夫不等式示意图E(X)E(X)+E(X)F(x)x D(X)/2例例1 1 已知已知E(X)=100,D(X)=30，试估计随机试估计随机变量
4、变量X 落在落在(70,130)内的概率。内的概率。解解:P70X130=P|X 100|30由切比雪夫不等式可得由切比雪夫不等式可得230|100|30130PX 0.967 契比雪夫不等式给出了在随机变量契比雪夫不等式给出了在随机变量X的的分布未知的情况下，事件分布未知的情况下，事件|X|0，有，有lim0AnnPpn+或或lim1AnnPpn+引入随机变量序列引入随机变量序列Xk10kkAXkA 第第 次次试试验验 发发生生第第 次次试试验验 发发生生(1)kP Xp设设(),()kkE Xp D Xpq则则1nAkknX11nnkkYXn记()()nnpqE YpD Yn则 由题设由题
5、设X1 1,X2 2,Xn n相互独立相互独立证明：证明：0AnPpn故故n+时，结论成立。时，结论成立。()()nnP YE Y21pqn11()nkkkPXE Xn由由切切比比雪雪夫夫不不等等式式贝努里贝努里（Bernoulli）大数定律的意义大数定律的意义“稳定于稳定于”事件事件 A 在一次试验中发生的概率是指：在一次试验中发生的概率是指：在概率的统计定义中，事件在概率的统计定义中，事件 A 发生的频率发生的频率AnnAnn频率频率 与与 p 有较大偏差有较大偏差Anpn是小概率事件是小概率事件 因而在试验次数因而在试验次数 n 足够大时，可用事件发生足够大时，可用事件发生的频率近似代替
6、事件发生的概率的频率近似代替事件发生的概率，即此类定律说即此类定律说明了大次数的重复试验所呈现的客观规律。同时，明了大次数的重复试验所呈现的客观规律。同时，频率的这种稳定性也称为频率的这种稳定性也称为依概率稳定依概率稳定。切比雪夫切比雪夫（Chebyshev）大数定律大数定律定理定理2 2 设设X1,X2,.,Xn,.,.是相互独立的随机是相互独立的随机变量，且分别具有数学期望变量，且分别具有数学期望E(Xk)和方差和方差D(Xk),（k=1,2,.)。若方差有界，即存在常数若方差有界，即存在常数C，使得，使得 D(Xk)C，则对于任意的，则对于任意的 0，恒有，恒有1111lim()1nnk
7、knkkPXE Xnn+切比雪夫大数定律是贝努里大数定律的推切比雪夫大数定律是贝努里大数定律的推广，而贝努里大数定律是切比雪夫大数定律的广，而贝努里大数定律是切比雪夫大数定律的一个特例。一个特例。证明：对于随机变量序列证明：对于随机变量序列 Xk记记11nnkkYXn11()()nnkkE YE Xn2211()()nnkknCCD YD Xnnn根据切比雪夫不等式可知根据切比雪夫不等式可知221()1|()|11nnnkkD YCP YE Xnn n1由方差和期望的性质可由方差和期望的性质可得得均服从同一分布，并且有相同的数学期望均服从同一分布，并且有相同的数学期望 和方差和方差 2，则对于
8、任意的，则对于任意的 0，恒有，恒有或或11lim1nkknXnP,21nXXX是相互独立的随机变量，是相互独立的随机变量，推论推论 设设01lim1nkknXnP当当 n 足够大时，算术平均值几乎是一常数。足够大时，算术平均值几乎是一常数。具有相同数学期望和方差的独立随机变量具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望。序列的算术平均值依概率收敛于数学期望。算术算术均值均值数学数学期望期望近似代替近似代替可被可被切比雪夫切比雪夫（Chebyshev）大数定律的意义大数定律的意义辛钦（辛钦（）大数定律）大数定律定理定理3 3 设随机变量设随机变量,21nXXX相互独
9、立相互独立，均服从同一分布，且具有相同的数学期望均服从同一分布，且具有相同的数学期望 E(X k)=,k=1,2,则对任意的则对任意的 0，均有，均有01lim1nkknXnP5.3 5.3 中心极限定理中心极限定理 在实际问题中，常常需要考虑许多随机因在实际问题中，常常需要考虑许多随机因素所产生的总影响。素所产生的总影响。观察表明，如果一个量是由大量相互独立观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个随机因素的随机因素的影响所造成，而每一个随机因素在总影响中所起的作用不大，那么这种量一般在总影响中所起的作用不大，那么这种量一般都服从或近似服从正态分布。都服从或近似服从
10、正态分布。研究研究“在一定条件下，大量独立随机变量在一定条件下，大量独立随机变量和的分布是以正态分布为极限分布和的分布是以正态分布为极限分布”的定理统的定理统称为称为中心极限定理中心极限定理。独立同分布的中心极限定理独立同分布的中心极限定理 的分布函数的分布函数Fn(x)收敛到标准正态分布函数，即收敛到标准正态分布函数，即定理定理4 4 设随机变量设随机变量X1,X2,Xn,相互独立相互独立,服从同一分布服从同一分布,且具有有限的数学期望和方差且具有有限的数学期望和方差,E(Xk)=,D(Xk)=20 (k=1,2,)则随机变量则随机变量 1nkknXnYn 221lim()lim()2txn
11、nnnFxP Yxedtx +()(2)lim()nnP Yxx+对于11()()nknknkkXnXE XYXnD X 其中(X=)(1)对于对于当当 n 足够大时，足够大时，Y n 的分布函数近似于标准的分布函数近似于标准正态随机变量的分布函数，即正态随机变量的分布函数，即)1,0(NYn近似近似1(3)nkkX X=),(2nnN近似服从近似服从表明：当表明：当n充分大时，充分大时，n个具有期望和方差的独个具有期望和方差的独立同分布的随机变量之和近似服从正态分布。立同分布的随机变量之和近似服从正态分布。称称 Y n 为为nkkX1的标准化随机变量。的标准化随机变量。德莫弗德莫弗-拉普拉斯
12、拉普拉斯（DeMoivre-Laplace）定理定理定理定理5 5 设随机变量设随机变量 Xn B(n,p),0 p 1,n=1,2,，则对任意实数，则对任意实数 x，均有，均有221lim(1)2txnnXnpPxedtnppX n N(np,np(1-p)(近似近似)(x即即 n 足够大时足够大时1 1 会利用契比雪夫不等式作简单的估计。会利用契比雪夫不等式作简单的估计。3 3 掌握独立同分布的中心极限定理和德莫掌握独立同分布的中心极限定理和德莫 弗弗-拉普拉斯定理拉普拉斯定理,会利用它们解决一般会利用它们解决一般 实际应用问题。实际应用问题。小小 结结2 2 了解切比雪夫大数定律和贝努里大数了解切比雪夫大数定律和贝努里大数 定律的意义和内容。定律的意义和内容。
