1、理学院数学系理学院数学系概率论与数理统计概率论与数理统计 大数定律大数定律 第五章第五章 大数定律与中心极限定理大数定律与中心极限定理第1页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 弱大数定律:弱大数定律:切比雪夫弱大数定律 辛钦弱大数定律强大数定律:强大数定律:科尔莫哥洛夫强大数定律 博雷尔强大数定律讨论讨论“概率是频率的稳定值概率是频率的稳定值”的确切含义:的确切含义:伯努利大数定律和博雷尔强大数定律伯努利大数定律弱大数定律:弱大数定律:切比雪夫弱大数定律 辛钦弱大数定律强大数定律:强大数定律:科尔莫哥洛夫强大数定律 博雷尔强大数定律讨论讨论“概率是频率的稳定值
2、概率是频率的稳定值”的确切含义:的确切含义:伯努利大数定律和博雷尔强大数定律伯努利大数定律第2页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 回顾第一章概率的统计定义,我们是用事件的频率近似代替这个事件的概率。德.摩 根 试 验 者 抛 掷 次 数n 出现正面的频率2048 1061 0.518 蒲 丰 4040 2048 0.5069 皮尔逊 12000 6019 0.5016 皮尔逊 24000 12012 0.5005 维 尼 0.4998 14994 30000/m n出现正面的次数m 第3页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计
3、=0 0011lim02nnnnvPn 我我们们用用表表示示抛抛硬硬币币次次中中出出现现正正面面的的次次数数,是是任任意意小小的的一一个个正正数数,譬譬如如.,则则 1212 频频率率不不一一定定恰恰好好就就是是,有有细细微微偏偏差差,但但是是与与 的的偏偏差差超超过过的的可可能能性性趋趋于于零零。第4页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 伯努利大数定律:伯努利大数定律:频率频率“收敛于收敛于”概率概率对一般的伯努利实验对一般的伯努利实验(p不一定是二分之一)有:不一定是二分之一)有:设设 vn 是是n重伯努利试验中事件重伯努利试验中事件A出现的次数出现的次数
4、,每次试,每次试验中验中 P(A)=p,则对任意的则对任意的 0,有,有lim0nnvPpn 注:这种极限收敛形式在概率论中,我们称为注:这种极限收敛形式在概率论中,我们称为依概率收敛依概率收敛,极限符号在概率符号之前。极限符号在概率符号之前。第5页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 意义意义:随着:随着n的增大,依的增大,依概率意义概率意义讲,讲,频率频率 越来越接近越来越接近概率概率p,而不接近而不接近 p 的可能性越来越小。的可能性越来越小。不能说:不能说:,因为不管,因为不管n有多大,仍可能有有多大,仍可能有 pn 偏离偏离 p 的的情形出现情形出现(
5、虽然这些例外情形出现的概率趋于虽然这些例外情形出现的概率趋于0)0)。limnnnpv nvn第6页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 l伯努利大数定律可以说是最早发现,也是最基本的大数定律,伯努利大数定律可以说是最早发现,也是最基本的大数定律,以它为基础人们又发展起来其它的大数定律。以它为基础人们又发展起来其它的大数定律。l大家很容易理解抛硬币出现正面的概率是二分之一,但是日常大家很容易理解抛硬币出现正面的概率是二分之一,但是日常生活中,生活中,很多问题里事件的概率不能直观感受到或者预先知道很多问题里事件的概率不能直观感受到或者预先知道,这时我们就利用伯努利
6、大数定律,以频率来代替概率。这时我们就利用伯努利大数定律,以频率来代替概率。发芽率 发芽粒数 种子粒数 2 5 10 70 130 310 700 1500 2000 3000 2 4 9 60 116 282 639 1339 1806 2715 1 0.8 0.9 0.857 0.892 0.910 0.913 0.893 0.903 0.905 0.9p 我我们们可可以以大大胆胆认认为为:第7页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 除了伯努利实验,对一般的事件除了伯努利实验,对一般的事件有没有类似的大数定律?有没有类似的大数定律?某学校有10000个学生,
7、平均身高为a;1、随意观察1个学生的身高X1,则X1与a可能相差较大。2、随意观察10个学生的身高X1,X2,X10,则10个数据的均值(X1+X2+X10)/10与a较接近;3、随意观察100个学生的身高X1,X2,X100,则100个数据的均值(X1+X2+X100)/100与a更接近;4、随意观察1000个学生的身高X1,X2,X1000,则我们可以有很大把握很大把握认为这些数据的均值(X1+X2+Xn)/n与 a 充分接近.第8页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 对伯努利大数定律进行演绎对伯努利大数定律进行演绎121211(1,).lim0,lim0
8、iinnninnnnpXiXBpXXXnXXXPpnE XpXXE XE XPnn 在在次次伯伯努努利利试试验验中中,以以表表示示事事件件成成功功概概率率,以以表表示示第第 次次实实验验成成功功次次数数,则则而而就就表表示示次次试试验验中中成成功功次次数数.根根据据伯伯努努利利大大数数定定律律有有注注意意到到 进进一一步步改改写写 第9页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 1212,1,2,0lim0.innXXVar XC iXXXPn 设设为为独独立立随随机机变变量量序序列列,具具有有共共同同的的数数学学期期望望,并并且且则则对对任任意意有有 注:这里的随
9、机变量不要求是同分布的,注:这里的随机变量不要求是同分布的,但是要求它们的方差有一致的上界。但是要求它们的方差有一致的上界。第10页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 注:这里的随机变量序列是同分布的,注:这里的随机变量序列是同分布的,但不要求它们的方差存在或有一致上界。但不要求它们的方差存在或有一致上界。1212,0lim0.nnXXXXXPn 设设为为独独立立同同分分布布的的随随机机变变量量序序列列,具具有有有有限限的的数数学学期期望望,则则对对任任意意有有第11页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 (1)切比雪夫弱大数定
10、律和辛钦弱大数定律切比雪夫弱大数定律和辛钦弱大数定律的条件是不同的,但它们的条件是不同的,但它们都可以推导出都可以推导出伯努利大数定律伯努利大数定律.(2)以下我们仅就切比雪夫弱大数定律给出证明以下我们仅就切比雪夫弱大数定律给出证明.l切比雪夫弱大数定律里切比雪夫弱大数定律里随机变量序列不要求是同分布的,随机变量序列不要求是同分布的,但是要求它们的方差有一致的上界。但是要求它们的方差有一致的上界。l辛钦弱大数定律里辛钦弱大数定律里随机变量序列是同分布的,但不要求它们的随机变量序列是同分布的,但不要求它们的方差存在或有一致上界。方差存在或有一致上界。第12页,共38页。理学院数学系理学院数学系概
11、率论与数理统计概率论与数理统计 第13页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 12121212122,0.ninninXXVar XXXXXXXCEVarnnnnXXXCPnnn 证明:由,的独立性有所以,由(5.1.4)有证毕.第14页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 前面讲的一些大数定律都是弱大数定律,关于随机变量平均和前面讲的一些大数定律都是弱大数定律,关于随机变量平均和的刻画都是用的刻画都是用依概率收敛依概率收敛的形式表达,后来人们证明了更强的的形式表达,后来人们证明了更强的收敛形式,从而得到了相应的强大数定律,这里的
12、强弱之分收敛形式,从而得到了相应的强大数定律,这里的强弱之分就在于极限收敛形式的强弱之分。就在于极限收敛形式的强弱之分。大数定律的命名:都可以数学严格证明,为什么不叫做定理?大数定律的命名:都可以数学严格证明,为什么不叫做定理?下面我们不加证明的给出几个强大数定律。下面我们不加证明的给出几个强大数定律。第15页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 1212211,lim=1.nnnnXXVar XXXXPnn 、设设为为独独立立随随机机变变量量序序列列,具具有有共共同同数数学学期期望望,且且则则 柯尔莫戈洛夫强大数定律柯尔莫戈洛夫强大数定律1和和2:12122,
13、lim1.nnXXXXXPn 、设设为为独独立立同同分分布布随随机机变变量量序序列列,数数学学期期望望有有限限,则则 lim1nnnnpPpn 记记为为重重伯伯努努利利试试验验中中成成功功的的次次数数,为为一一博博次次雷雷尔尔强强大大实实验验成成功功的的概概率率:则则数数定定律律,注:上面的极限收敛形式称为注:上面的极限收敛形式称为以概率以概率1收敛收敛,它可以推出,它可以推出依概率收敛,依概率收敛,所以强大数定律可以推出对应的弱大数定律。所以强大数定律可以推出对应的弱大数定律。第16页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 5.2 5.2 中心极限定理中心极限定
14、理 讨论独立随机变量和的极限分布极限分布,本节指出极限分布为正态分布正态分布.设 Xn 为独立随机变量序列,记其和为1niinYX第17页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 定理5.2.1 林德伯格林德伯格莱维中心极限定理莱维中心极限定理设 Xn 为独立同分布随机变量序列,数学期望为,方差为 20,则Xn服从中心极限定理,即212lim()1d2nnuxkkPxXnxeun 第18页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 中心极限定理的推论中心极限定理的推论1/1(0,1)niinXnN1(0,1)niinnXN/(0,1)nXN
15、2(,).nXNn 当当 很很大大时时,可可以以近近似似认认为为 第19页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 1.1.中心极限定理有很多,本书中只给出了这类定理中最简单,也中心极限定理有很多,本书中只给出了这类定理中最简单,也是最重要的一种情况,即是最重要的一种情况,即独立同分布独立同分布的情形:不论随机变量服的情形:不论随机变量服从何种分布,只要它们是独立同分布的,则它们和的极限分从何种分布,只要它们是独立同分布的,则它们和的极限分布总是正态分布,这一事实增加了正态分布的重要性。布总是正态分布,这一事实增加了正态分布的重要性。2.中心极限定理比大数定律更为精
16、细的刻画了独立同分布随机变量中心极限定理比大数定律更为精细的刻画了独立同分布随机变量序列和的极限,它指出了分布特性。特别地,中心极限定理蕴含序列和的极限,它指出了分布特性。特别地,中心极限定理蕴含了大数定律。了大数定律。第20页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 例例1 每袋味精的净重为随机变量,平均重量为 100克,标准差为10克.一箱内装200袋味精,求一箱味精的净重大于20500克的概率?解:设箱中第 i 袋味精的净重为 Xi,则Xi 独立同分布,且 EXi=100,VarXi=100,由中心极限定理得,所求概率为:200120500200 100205
17、001200 100iiPX 1(3.54)=0.0002故一箱味精的净重大于20500克的概率为0.0002.(很小)第21页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 例2 设 X 为一次射击中命中的环数,其分布列为求100次射击中命中环数在900环到930环之间的概率.XP10 9 8 7 6 0.8 0.1 0.05 0.02 0.03解:设 Xi 为第 i 次射击命中的环数,则Xi 独立同分布,且 EXi=9.62,VarXi=0.82,故10019301009.629001009.629009301000.821000.82iiPX(3.53)(6.85)
18、=0.00021第22页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 林德伯格林德伯格莱维定理的特殊情形:棣莫弗莱维定理的特殊情形:棣莫弗拉普拉斯定理拉普拉斯定理在林德伯格在林德伯格莱维定理中,若对任意莱维定理中,若对任意 k 有有 XkB(1,p),则则EXk=p,VarXk=p(1-p),从而有如下定理:从而有如下定理:2121221(),(1,),11limd(1)2unxknkxXXBpXXPXnpxeunpp 设设为为独独立立同同分分布布的的随随机机变变量量序序列列,同同服服从从则则服服从从中中心心极极限限定定理理棣棣莫莫弗弗-拉拉普普拉拉斯斯定定理理即即:,
19、注:该定理是历史上最早的中心极限定理,注:该定理是历史上最早的中心极限定理,1716年棣莫弗证明了年棣莫弗证明了的情形,后来拉普拉斯把它推广到一般的情形,后来拉普拉斯把它推广到一般 p 的情形。的情形。12p 第23页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 棣莫弗棣莫弗拉普拉斯定理的另一种叙述形式:拉普拉斯定理的另一种叙述形式:1212,(1,),(,).knnnXXXBpYXXXYB n p若若独独立立同同分分布布,且且记记则则二项分布的正态近似二项分布的正态近似设Yn 为服从二项分布 B(n,p)的随机变量,则当 n 充分大时,有(1)lim()nnYnpxn
20、ppPx第24页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 二项分布是离散分布,而正态分布是连续分布,所以用正态分布作为二项分布的近似时,一般可作如下修正:1212210.50.50.50.5 (1)(1)nnP kYkP kYkknpknpnppnpp注:当注:当 n 很大时,该修正影响不大;当很大时,该修正影响不大;当 n 不是很大时,该修正可提高精度!不是很大时,该修正可提高精度!第25页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 棣莫弗棣莫弗拉普拉斯中心极限定理的拉普拉斯中心极限定理的应用应用:ii)已知 n 和概率,求x;iii)已
21、知 x 和概率,求 n.i)已知 n 和 x,求概率;221()11d(1)2unxkkxPXnpxeunpp 第26页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 例例5.2.2 设某地区原有一家小电影院,现拟筹建一所较大的电影院。根据分析,该地区每天平均看电影者约有n=1600人,预计新电影院开业后,平均约有3/4的观众将去新电影院。现计划其座位数,要求座位数尽可能多,但“空座达到200或更多”的概率不能超过0.1,问设多少座位为好?解:解:设每天看电影的人编号1,2,3,1600,且令1i (1,2,1600)0(1)3/4 (0)1/4iiiXiP XP X若第
22、 号观众去新影院否则第27页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 假设各观众去不去电影院是独立选择的,则X1,X1600是独立的0-1分布的随机变量。设座位数是m,按要求有 P(X1+X2+X1600m-200)0.1要在此条件下m最大,就是在上式取等号时.11600200 1200(200)0.110 3200 1200200 120011 0.10.910 310 3(1.28)0.9200 12001.28 1377.80310 31378.mP XXmmmmmm 查表得,取第28页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 大数
23、定律大数定律:依概率收敛:契比雪夫弱大数定理、辛钦弱大数定理、伯努利大数定理。以概率1收敛:柯尔莫哥洛夫强大数定律、博雷尔强大数定律。中心极限定理:中心极限定理:独立同分布的中心极限定理林德伯格-莱维定理;独立B(1,p)分布的情形棣莫弗拉普拉斯定理;学习要求:理解并会简单应用学习要求:理解并会简单应用第29页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 oP98 5.1,oP99 5.3、5.4、5.8、5.9作作 业业第30页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 222123456323135.52,6,.nnnPnnnXE XVar
24、 XXX XXX XXXXa nna 设是独立同分布的随机变量序列,且假设证明:并确定常数 之值第31页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 23231322212345632313122323133231323232313,()64414kkkknnnknnnkkkkkkkkkkkkYXXXXYYXX XXX XXXXE YE XXXE XE XXVar XE XE XE X设=由于是独立同分布的随机变量序列所以,也是独立同分布的随机变量解序列,:且2221123456323131,2,14nnkPknnnknYYXX XXX XXXXa nnna 满足辛钦大
25、数定律条件,所以第32页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 15.1111iniiiXnnXn 假设某洗衣店为第 个顾客服务的时间服从区间5,53(单位:分钟)上的均匀分布,且对每个顾客是相互独立的,试问当时,次服务时间的算术平均值以概率 收敛于何值?1(535)/229,1,2,1129nniiniiXXXE XinnnXn 依题意,显然有,是一个独立同分布的随机变量序列,只要存在有限的公共数学期望,则的算术平均值依概率收敛于其公共数学期望,由于服从5,53上的均匀分布,所以所以,当时,次服务时间的算术平均值以概率 收敛于(解:分钟).注:本题参考答案有误第
26、33页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 中心极限定理的应用例题补充第34页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 补充例3 100个独立工作(工作的概率为0.9)的部件组成一个系统,求系统中至少有85个部件工作的概率.解:用由此得:Xi=1表示第i个部件正常工作,反之记为Xi=0.又记Y=X1+X2+X100,则 EY=90,VarY=9.185 0.5 90850.9669.P Y 第35页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 补充例4 有200台独立工作(工作的概率为0.7)的机床,每台机床工
27、作时需15kw电力.问共需多少电力,才可 有95%的可能性保证供电充足?解:用设供电量为x,供电充足即为15Yx,则从Xi=1表示第i台机床正常工作,反之记为Xi=0.又记Y=X1+X2+X200,则 EY=140,VarY=42./15 0.5 140150.9542xPYx 2252.x中解得第36页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 补充例5 用调查对象中的收看比例 k/n 作为某电视节 目的收视率 p 的估计。要有 90 的把握,使k/n与p 的差异不大于0.05,问至少要调查多少对象?解:用根据题意Xn表示n 个调查对象中收看此节目的人数,则20.9
28、0/0.050.05/(1)1nPXnpn pp0.05/(1)1.645n pp从中解得Xn 服从 b(n,p)分布,k 为Xn的实际取值。又由0.25(1)pp可解得270.6nn=271第37页,共38页。理学院数学系理学院数学系概率论与数理统计概率论与数理统计 补充例6 设每颗炮弹命中目标的概率为0.01,求500发炮弹中命中 5 发的概率.解:设 X 表示命中的炮弹数,则X b(500,0.01)55495500(1)(5)0.010.99P XC0.17635(2)应用正态逼近:P(X=5)=P(4.5 X 5.5)5.554.554.954.95=0.1742第38页,共38页。