1、2023年年1月月11日日定理定理5.1 设随机变量设随机变量 X 的均值的均值 E(X)及方差及方差D(X)都存在，都存在，则对于任意给定的则对于任意给定的 ，有不等式有不等式02()|()|D XPXE X2()|()|1D XPXE X或或证明证明（我们仅对连续性的随机变量进行证明）（我们仅对连续性的随机变量进行证明）设设 f(x)为为 X 的密度函数，记的密度函数，记()E X，2().D X则则22|()|()()()xxPXE Xxf x dxf x dx2222211()()()D Xxf x dxPafnuty Lvovich ChebyshevBorn:16 May 1821
2、 in Okatovo,RussiaDied:8 Dec 1894 in St Petersburg,Russia说明说明 从定理中看出，如果从定理中看出，如果D(x)越小，那么随机变量越小，那么随机变量 X 取值于开区取值于开区间间 中的概率就越中的概率就越大，这就说明方差是一个反映随机变量的概率分布大，这就说明方差是一个反映随机变量的概率分布对其分布中心对其分布中心(E(X)的离散程度的数量指标的离散程度的数量指标(),()E XE X2 契比雪夫大数定律CHAP5 大数定律及中心极限定理设相互独立的随机变量序列 分别具有均值 及方差 且若存在常数C，使 则对于任意给定的 ，有则称随机变量
3、序列 服从大数定律.从定理中看出，如果D(x)越小，那么随机变量 X 取值于开区间 中的概率就越大，这就说明方差是一个反映随机变量的概率分布对其分布中心(E(X)的离散程度的数量指标设相互独立的随机变量序列 分别具有均值 及方差 且若存在常数C，使 则对于任意给定的 ，有根据题意应确定最小的 x 使下式成立Jarl Waldemar Lindeberg例 某单位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?Born:26 May 1667 in Vitry-le
4、-Franois,Champagne,FranceDied:27 Nov 1754 in London,EnglandBorn:19 July 1894 in Kondrovo,Kaluzhskaya guberniya,RussiaDied:18 Nov 1959 in Moscow,USSRBorn:26 May 1667 in Vitry-le-Franois,Champagne,FranceDied:27 Nov 1754 in London,EnglandAleksandr Yakovlevich Khinchin根据实际推断原理,当试验次数很大时,便可以用事件发生的频率来代替事件的
5、概率.Born:16 May 1821 in Okatovo,RussiaDied:8 Dec 1894 in St Petersburg,RussiaPaul Pierre Lvy例 某单位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?则称随机变量序列 依概率收敛于a.1111lim()1.nnkknkkPXE Xnn定理定理5.25.2 设相互独立的随机变量序列设相互独立的随机变量序列 分别具分别具有均值有均值 及方差及方差 且若且若存在常数存在常数C，使使
6、 则对于任意给定的则对于任意给定的 ，有有12,nXXX12(),(),(),nE XE XE X2(),(),nD XD X(),kD XC021111()nnkkkkCDXD Xnnn证明证明 由于由于 相互独立，那么对于任意相互独立，那么对于任意的的 相互独立相互独立.于是于是12,nXXX12,nXXX由契比雪夫不等式可得由契比雪夫不等式可得22()1()11,nnnD YCP YE Yn ，在在上上式式中中令令 n即即11nnkkYXn令1111lim()1.nnkknkkPXE Xnn推论推论5.1有有数数则对于任意正则对于任意正的算术平均的算术平均个随机变量个随机变量作前作前和方
7、差：和方差：且具有相同的数学期望且具有相同的数学期望相互独立相互独立设随机变量设随机变量 ,1),2,1()(,)(,1221 nkkkknXnXnkXDXEXXX11lim1.nknkPXn 一般地一般地，称概率接近于称概率接近于1 1 的事件为的事件为大概率事件大概率事件，而称概率接近于而称概率接近于0 0 的事件为的事件为小概率事件小概率事件.在一次试验在一次试验中大概率事件几乎肯定要发生，而小概率事件几乎不中大概率事件几乎肯定要发生，而小概率事件几乎不可能发生，这一规律称之为可能发生，这一规律称之为实际推断原理实际推断原理 定义定义5.1 设设 是一随机变量序列是一随机变量序列，a 为
8、为一常数，对于任意给定的一常数，对于任意给定的 ，有，有012,nY YYlim1nnP Ya则称随机变量序列则称随机变量序列 依概率收敛于依概率收敛于a.12,nY YY.PnYa记为记为lim1nnnP Ya定义定义5.2则称随机变量序列则称随机变量序列 服从大数定律服从大数定律.12,nXXX 设设 是一随机变量序列，是一随机变量序列，若存在常数列若存在常数列 使对于任意给定使对于任意给定 的的 ，有有012,nXXXna11,nnkkYXn.0lim1lim,0,pnnPpnnPApAnnAnAnA或或有有则对于任意正数则对于任意正数率率在每次试验中发生的概在每次试验中发生的概是事件是
9、事件的次数的次数发生发生次独立重复试验中事件次独立重复试验中事件是是设设定理定理5.3（伯努利大数定理伯努利大数定理）7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率一般地，称概率接近于1 的事件为大概率事件，而称概率接近于0 的事件为小概率事件.7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率服从同一分布，已知均值为设相互独立的随机变量序列 分别具有均值 及方差 且若存在常数C，使 则对于任意给定的 ，有7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率根据实际推断原理,当试验次数很大时,便可以用事
10、件发生的频率来代替事件的概率.（我们仅对连续性的随机变量进行证明）设 f(x)为 X 的密度函数，记Born:26 May 1667 in Vitry-le-Franois,Champagne,FranceDied:27 Nov 1754 in London,England（我们仅对连续性的随机变量进行证明）Aleksandr Yakovlevich KhinchinJarl Waldemar Lindeberg(2)伯努利定理是辛钦定理的特殊情况.一般地，称概率接近于1 的事件为大概率事件，而称概率接近于0 的事件为小概率事件.5（林德贝格勒维中心极限定理）表示同时使用外线的分机数，例 某单
11、位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?Born:23 March 1749 in Beaumont-en-Auge,Normandy,FranceDied:5 March 1827 in Paris,FranceBorn:16 May 1821 in Okatovo,RussiaDied:8 Dec 1894 in St Petersburg,Russia证明证明引入随机变量引入随机变量 .,2,1,1,0kAkAkXk发生发生次试验中次试验中若在第若
12、在第不发生不发生次试验中次试验中若在第若在第,21nAXXXn 显然显然是是相相互互独独立立的的，因因为为,21nXXX ,)10(分分布布为为参参数数的的服服从从以以且且 pXk.,2,1),1()(,)(kppXDpXEkk所以所以根据推论根据推论5.15.1有有,1)(1lim21 pXXXnPnn.1lim pnnPAn即即证毕证毕.该定理该定理 称为称为伯努利大数定理伯努利大数定理.故而当故而当 n 很大时很大时,事件发生的频率与概率有较事件发生的频率与概率有较大偏差的可能性很小大偏差的可能性很小.根据实际推断原理根据实际推断原理,当试验次当试验次数很大时数很大时,便可以用事件发生的
13、频率来代替事件的便可以用事件发生的频率来代替事件的概率概率.,表表达达了了频频率率的的稳稳定定性性它它以以严严格格的的数数学学形形式式率率收收敛敛于于事事件件的的概概率率依依概概生生的的频频率率伯伯努努利利定定理理表表明明事事件件发发pnnA关于伯努利定理的说明关于伯努利定理的说明:Jacob(Jacques)BernoulliBorn:27 Dec 1654 in Basel,SwitzerlandDied:16 Aug 1705 in Basel,Switzerland),2,1()(,21 kXEXXXkn 且且具具有有数数学学期期望望服服从从同同一一分分布布相相互互独独立立设设随随机机
14、变变量量.11lim,1 nkknXnP有有则则对对于于任任意意正正数数关于辛钦定理的说明关于辛钦定理的说明:(1)(1)与定理一相比与定理一相比,不要求方差存在不要求方差存在;(2)(2)伯努利定理是辛钦定理的特殊情况伯努利定理是辛钦定理的特殊情况.定理定理5.4（辛钦定理辛钦定理）Aleksandr Yakovlevich KhinchinBorn:19 July 1894 in Kondrovo,Kaluzhskaya guberniya,RussiaDied:18 Nov 1959 in Moscow,USSR定理定理5.5（林德贝格林德贝格勒维中心极限定理勒维中心极限定理）则随机变量
15、之和的则随机变量之和的和方差：和方差：且具有数学期望且具有数学期望同一分布同一分布服从服从相互独立相互独立设随机变量设随机变量),2,1(0)(,)(,221 kXDXEXXXkkn nkknkknkknXDXEXY111标准化变量标准化变量 nnXnkk 1 xnnXPxFxxFnkknnnn 1lim)(lim)(满足满足对于任意对于任意的分布函数的分布函数 xtxt).(de2122 定理表明定理表明:.,数数标标准准正正态态分分布布的的分分布布函函的的分分布布函函数数收收敛敛于于随随机机变变量量序序列列当当nYn Jarl Waldemar Lindeberg(August 4 187
16、6 December 12 1932)Paul Pierre LvyBorn:15 Sept 1886 in Paris,FranceDied:15 Dec 1971 in Paris,France根据实际推断原理,当试验次数很大时,便可以用事件发生的频率来代替事件的概率.5（林德贝格勒维中心极限定理）Pierre-Simon Laplace(2)伯努利定理是辛钦定理的特殊情况.服从同一分布，已知均值为7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率例 设某城市供电网中内有10000盏灯，夜间每一盏灯开着的概率为0.2 契比雪夫大数定律当n很大的时候,近似地服从
17、正态分布例 某单位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率例 某单位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?设相互独立的随机变量序列 分别具有均值 及方差 且若存在常数C，使 则对于任意给定的 ，有设相互独立的随机变量序列 分别具有均值 及
18、方差 且若存在常数C，使 则对于任意给定的 ，有CHAP5 大数定律及中心极限定理设 是一随机变量序列，a 为一常数，对于任意给定的 ，有（我们仅对连续性的随机变量进行证明）根据题意应确定最小的 x 使下式成立该定理 称为伯努利大数定理.服从同一分布，已知均值为Born:19 July 1894 in Kondrovo,Kaluzhskaya guberniya,RussiaDied:18 Nov 1959 in Moscow,USSR推论推论5.2 近似服从正态分布近似服从正态分布12,nXXX201nkkXX2(,()N nn设相互独立的随机变量设相互独立的随机变量服从同一分布，已知均值为
19、服从同一分布，已知均值为,方差为方差为但分布函数未知，但分布函数未知，当当n 充分大时，充分大时，推论推论5.35.3 近似服从正态分布近似服从正态分布12,nXXX20设相互独立的随机变量设相互独立的随机变量服从同一分布，已知均值为服从同一分布，已知均值为,方差为方差为但分布函数未知，当但分布函数未知，当n 充分大时，充分大时，11nkkXXn2(,().Nn.,1nkk 推论推论5.25.2表明表明:当当n很大的时候很大的时候,近似地服从正态分布近似地服从正态分布那么它们的和那么它们的和只要满足定理的条件只要满足定理的条件,分布分布服从什么服从什么无论各个随机变量无论各个随机变量X12,n
20、XXX例例 某单位内部有某单位内部有260 260 部电话分机，每部分机有部电话分机，每部分机有4%4%的的时间使用外线与外界通话，可以认为每部电话分机使时间使用外线与外界通话，可以认为每部电话分机使用不同的外线是相互独立的，问总机需备多少条外线用不同的外线是相互独立的，问总机需备多少条外线才能才能 95%95%满足每部分机在使用外线时不用等候满足每部分机在使用外线时不用等候?解解1,0,kkXk,令.第 部分机使用外线 第 部分机不使用外线(1,2,)k,26012260,XXX是是260260个相互独立的随机变量，且个相互独立的随机变量，且()0.04kE Xp，表示同时使用外线的分机数，
21、表示同时使用外线的分机数，12260mXXX95%P mx由定理由定理5.55.5有有260260260(1)260(1)mpxpP mxPpppp2212tbedt(1.65)0.95050.95查得，1.65b 故取根据题意应确定最小的根据题意应确定最小的 x 使下式成立使下式成立 于是于是260(1)260 xbppp1.652600.040.962600.0415.61也就是说，至少需要也就是说，至少需要1616条外线才能条外线才能95%95%满足每部分机在满足每部分机在使用外线时不用等候使用外线时不用等候 xtnnnxtxpnpnpPxppnn).(de21)1(lim,)10(,)
22、,2,1(22 恒有恒有对于任意对于任意则则的二项分布的二项分布服从参数为服从参数为设随机变量设随机变量证明证明定理定理5.6(德莫佛拉普拉斯定理德莫佛拉普拉斯定理)1,nnkkX根据上述可知，分布律为分布律为分布的随机变量分布的随机变量一一是相互独立的、服从同是相互独立的、服从同其中其中,)10(,21nXXX,)(pXEk),2,1()1()(nkppXDk 根据定理根据定理5.55.5得得 xpnpnpPnn)1(lim xpnpnpXPnkkn)1(lim1 xtxt).(de2122.1,0,)1(1 ippiXPiik定理定理5.65.6表明表明:正态分布是二项分布的极限分布正态分
23、布是二项分布的极限分布.一般来说，当一般来说，当 n 较大时二项分布的概率计算起来非常复杂，根据该定理较大时二项分布的概率计算起来非常复杂，根据该定理就可以利用正态分布来近似地计算二项分布就可以利用正态分布来近似地计算二项分布 Abraham de MoivreBorn:26 May 1667 in Vitry-le-Franois,Champagne,FranceDied:27 Nov 1754 in London,EnglandPierre-Simon LaplaceBorn:23 March 1749 in Beaumont-en-Auge,Normandy,FranceDied:5 M
24、arch 1827 in Paris,France(2)伯努利定理是辛钦定理的特殊情况.2 契比雪夫大数定律(August 4 1876 December 12 1932)（我们仅对连续性的随机变量进行证明）则称随机变量序列 依概率收敛于a.7，假设各灯的开关彼此独立,计算同时开着的灯数在6 800与7 200之间的概率Born:19 July 1894 in Kondrovo,Kaluzhskaya guberniya,RussiaDied:18 Nov 1959 in Moscow,USSR例 某单位内部有260 部电话分机，每部分机有4%的时间使用外线与外界通话，可以认为每部电话分机使用
25、不同的外线是相互独立的，问总机需备多少条外线才能 95%满足每部分机在使用外线时不用等候?关于伯努利定理的说明:则称随机变量序列 依概率收敛于a.服从同一分布，已知均值为设相互独立的随机变量序列 分别具有均值 及方差 且若存在常数C，使 则对于任意给定的 ，有Pierre-Simon Laplace设随机变量 X 的均值 E(X)及方差D(X)都存在，则对于任意给定的 ，有不等式Paul Pierre Lvy设随机变量 X 服从设 f(x)为 X 的密度函数，记Born:16 May 1821 in Okatovo,RussiaDied:8 Dec 1894 in St Petersburg,
26、Russia设随机变量设随机变量 X 服从服从 80100.PX求(100,0.8)b，例例解解1001008010080100(0.8)(1 0.8)kkkPXk100808080()()0.8 0.20.8 0.2nn(5)(0)10.50.5 例例 设某城市供电网中内有设某城市供电网中内有1000010000盏灯，夜间每一盏灯盏灯，夜间每一盏灯开着的概率为开着的概率为0.70.7，假设各灯的开关彼此独立，假设各灯的开关彼此独立,计算计算同时开着的灯数在同时开着的灯数在6 8006 800与与7 2007 200之间的概率之间的概率解解记同时开着的灯数为记同时开着的灯数为 X X，服从服从 (10000,0.7)b，于是于是6 8007 200PX7 2007 0006 8007 000()()0.7)10 000 0.70.310 000 0.70.3 2002()12(4.36)1145.83
