1、物理科学与技术学院物理科学与技术学院 张国英张国英教材：教材：概率论与数理统计（第四版）概率论与数理统计（第四版）浙江大学浙江大学 盛骤，谢式千，潘承毅编盛骤，谢式千，潘承毅编高等教育出版社高等教育出版社前前 言言 概率论概率论是研究偶然、随机现象的规律性的数是研究偶然、随机现象的规律性的数学理论，产生于学理论，产生于17世纪中叶。世纪中叶。17世纪中叶，法国宫廷贵族中间盛行掷骰子世纪中叶，法国宫廷贵族中间盛行掷骰子游戏。概率论发展初期，主要是从讨论赌博问题游戏。概率论发展初期，主要是从讨论赌博问题开始的。开始的。16世纪的意大利学者吉罗拉莫世纪的意大利学者吉罗拉莫卡尔达诺卡尔达诺（Girol
2、amo Cardano）研究了掷骰子等赌博中的）研究了掷骰子等赌博中的一些简单问题。一些简单问题。点数问题：对谁有利？点数问题：对谁有利？两个赌徒相约赌若干局，谁先赢两个赌徒相约赌若干局，谁先赢 n局就算赢。局就算赢。现在一个人赢了现在一个人赢了 a（an）局，另一个人赢了）局，另一个人赢了b局局（bn）。如果赌博提前中断，该如何在两赌徒）。如果赌博提前中断，该如何在两赌徒间分配赌金间分配赌金?掷骰子问题：对谁有利掷骰子问题：对谁有利 玩家连续掷玩家连续掷 4 次骰子，如果其中没有次骰子，如果其中没有 6 点出现，玩家赢，点出现，玩家赢，如果出现一次如果出现一次 6 点，则庄家赢。按照这一游戏
3、规则，从长点，则庄家赢。按照这一游戏规则，从长期来看，庄家扮演赢家的角色，而玩家大部分时间是输家，期来看，庄家扮演赢家的角色，而玩家大部分时间是输家，因为庄家总是要靠此为生的，因此当时人们也就接受了这因为庄家总是要靠此为生的，因此当时人们也就接受了这种现象。种现象。后来为使游戏更刺激，游戏规则发生了变化，玩家这回后来为使游戏更刺激，游戏规则发生了变化，玩家这回用用 2 个骰子连续掷个骰子连续掷 24 次，不同时出现次，不同时出现2个个6点，玩家赢，否点，玩家赢，否则庄家赢。当时人们普遍认为，则庄家赢。当时人们普遍认为，2 次出现次出现 6 点的概率是一点的概率是一次出现次出现 6 点的概率的点
4、的概率的 1/6，因此，因此 6 倍于前一种规则的次数，倍于前一种规则的次数，也即也即 24 次赢或输的概率与以前是相等的。然而事实却刚好次赢或输的概率与以前是相等的。然而事实却刚好相反，从长期来看，这回庄家处于输家的相反，从长期来看，这回庄家处于输家的 状态。状态。帕斯卡和费马（帕斯卡和费马（Fermat）在通信中讨论了点）在通信中讨论了点数问题及其他问题。他们把这些日常赌博问题变数问题及其他问题。他们把这些日常赌博问题变成了真正的数学问题，用排列组合理论得出正确成了真正的数学问题，用排列组合理论得出正确解答，并提出了数学期望的这一核心概念。现在，解答，并提出了数学期望的这一核心概念。现在，
5、大家公认他们二人是概率论的共同创立者。大家公认他们二人是概率论的共同创立者。随着随着18、19世纪科学的发展，人们注意到在世纪科学的发展，人们注意到在某些生物、物理和社会现象与游戏之间有某种相某些生物、物理和社会现象与游戏之间有某种相似性，从而由游戏起源的概率论被应用到这些领似性，从而由游戏起源的概率论被应用到这些领域中；同时这也大大推动了概率论本身的发展。域中；同时这也大大推动了概率论本身的发展。真正使概率论作为一门独立数学分支的莫基人是雅各真正使概率论作为一门独立数学分支的莫基人是雅各布布伯努利（伯努利（Jacob Bernoulli）。他建立了概率论中第一）。他建立了概率论中第一个极限定
6、理，即伯努利大数定律，证明了随着试验次数个极限定理，即伯努利大数定律，证明了随着试验次数的增加，某一事件出现的频率会越来越接近该事件的概的增加，某一事件出现的频率会越来越接近该事件的概率。其意义在于揭示了因偶然性的作用而呈现的杂乱无率。其意义在于揭示了因偶然性的作用而呈现的杂乱无章现象中的一种规律性。章现象中的一种规律性。随后棣莫弗和拉普拉斯又导出了第二个基本极限定理随后棣莫弗和拉普拉斯又导出了第二个基本极限定理（中心极限定理）的原始形式。拉普拉斯在系统总结前（中心极限定理）的原始形式。拉普拉斯在系统总结前人工作的基础上写出了概率论专著，明确给出了概率的人工作的基础上写出了概率论专著，明确给出
7、了概率的古典定义，并在概率论中引入了更有力的分析工具，从古典定义，并在概率论中引入了更有力的分析工具，从 而将概率论推向一个新的发展阶段。而将概率论推向一个新的发展阶段。如何定义概率，如何把概率论建立在严格的逻辑基础如何定义概率，如何把概率论建立在严格的逻辑基础上，是概率理论发展的困难所在，对这一问题的探索一上，是概率理论发展的困难所在，对这一问题的探索一直持续了直持续了3个世纪。个世纪。苏联数学家柯尔莫哥洛夫苏联数学家柯尔莫哥洛夫1933年在他的年在他的概率论基础概率论基础一书中第一次给出了概率的定义和一套严密的公理体系。一书中第一次给出了概率的定义和一套严密的公理体系。他的公理化方法成为现
8、代概率论的基础，使概率论成为他的公理化方法成为现代概率论的基础，使概率论成为严谨的数学分支，对概率论的迅速发展起了积极的作用。严谨的数学分支，对概率论的迅速发展起了积极的作用。现在，概率与统计的方法日益渗透到各个领域，并广现在，概率与统计的方法日益渗透到各个领域，并广泛应用于自然科学、经济学、医学、金融保险甚至人文泛应用于自然科学、经济学、医学、金融保险甚至人文科学中科学中。为什么要学习这门课？为什么要学习这门课？理论严谨、应用广泛、发展迅速。理论严谨、应用广泛、发展迅速。目前目前,不仅高等学校各专业都开设了这门课程不仅高等学校各专业都开设了这门课程,而而且从上世纪末开始且从上世纪末开始,这门
9、课程特意被国家教这门课程特意被国家教委定为本科生考研的数学课程之一委定为本科生考研的数学课程之一 概率论应用非常广泛，几乎遍及所有的概率论应用非常广泛，几乎遍及所有的科学领域，例如天气预报、股市预测、地震科学领域，例如天气预报、股市预测、地震预报、产品的抽样调查；在通讯工程中可用预报、产品的抽样调查；在通讯工程中可用以提高信号的抗干扰性、分辨率等等以提高信号的抗干扰性、分辨率等等第一章第一章 概率论的基本概念概率论的基本概念 n随机试验、样本空间、随机事件随机试验、样本空间、随机事件n频率与概率频率与概率n等可能概型（古典概型）等可能概型（古典概型）n条件概率条件概率n独立性独立性 在一定条件
10、下必然发生的在一定条件下必然发生的现象称为确定性现象现象称为确定性现象 “太阳总是从东边升起太阳总是从东边升起”,1.确定性现象确定性现象“同性电荷互斥同性电荷互斥”“水往低处流水往低处流”,实例实例确定性现象与随机现象确定性现象与随机现象自然界所观察到的现象自然界所观察到的现象:确定性现象、随机现象确定性现象、随机现象 我们事先知道每次试验所有可能出现的结果。我们事先知道每次试验所有可能出现的结果。但每次但每次 的结的结果呈现出不确定性，而在大量重复试果呈现出不确定性，而在大量重复试验中，其结果又具有统计规律性的现象验中，其结果又具有统计规律性的现象2.随机现象随机现象 实例实例1 “在相同
11、条件下掷一枚均匀的硬币，观在相同条件下掷一枚均匀的硬币，观察正反两面出现的情况察正反两面出现的情况”。结果有可能结果有可能出现正面出现正面也可能也可能出现反面出现反面。结果有可能为结果有可能为:“1”,“2”,“3”,“4”,“5”或或“6”。实例实例3 “抛掷一枚骰子，观察出现的点数抛掷一枚骰子，观察出现的点数”。实例实例2 “用同一门炮向同用同一门炮向同 一目标发射同一种炮弹多一目标发射同一种炮弹多 发发,观察弹落点的情况观察弹落点的情况”。结果结果:“弹落点会各不相同弹落点会各不相同”。在我们所生活的世界上，充满了不确定性在我们所生活的世界上，充满了不确定性 随机现象是通过随机试验来研究
12、的。随机现象是通过随机试验来研究的。问题：问题：什么是随机试验？什么是随机试验？试验（试验（ExperimentExperiment）：是一个广泛的术语，）：是一个广泛的术语，包括各种各样的科学实验，也包括对客观事物包括各种各样的科学实验，也包括对客观事物的的“观察观察”、“测量测量”等。等。如何来研究随机现象如何来研究随机现象?1.1 随机试验随机试验例例1.1E1:抛一枚硬币抛一枚硬币，观察出现正面观察出现正面H和反面和反面T的情况的情况；E2:将一枚硬币连抛三次将一枚硬币连抛三次，观察出现正反面的情况观察出现正反面的情况；E3:将一枚硬币连抛三次将一枚硬币连抛三次，观察出现正面的次数观察
13、出现正面的次数；E4:掷一颗骰子掷一颗骰子，察出现的点数察出现的点数；E5:记录某记录某城市城市120急救电话台急救电话台一一昼夜接到昼夜接到的的呼唤呼唤次数次数；E6:在一批灯泡中任取一只在一批灯泡中任取一只，测其寿命测其寿命；E7:记录记录某地某地一一昼夜的最高温度和最低温度。昼夜的最高温度和最低温度。上述实验有共同的特点：上述实验有共同的特点：（1）可以在相同的条件下重复地进行）可以在相同的条件下重复地进行;（2）每次试验的可能结果不止一个，并且能）每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果事先明确试验的所有可能结果;（3）进行一次试验之前不能确定哪一个结果）进行一次试
14、验之前不能确定哪一个结果会出现。会出现。具有以上三个特征的试验成为具有以上三个特征的试验成为随机试验（随机试验（E，Random experiment）。样本空间（样本空间（Sample space）:随机试验随机试验E的的所有可能的结果组成的集合。记为所有可能的结果组成的集合。记为S。样本点（样本点（Sample,Outcome）：）：样本空间中样本空间中的每个元素，即试验的每个结果。记为的每个元素，即试验的每个结果。记为e。EX：给出：给出例例1.1的样本空间。的样本空间。1.2 1.2 样本空间样本空间、随机事件随机事件 随机事件随机事件（简称事件）：（简称事件）：试验试验E的样本空间的
15、样本空间S的子的子集为集为E的随机事件。的随机事件。注意注意：每次试验，当且仅当这一子集中的一个样本每次试验，当且仅当这一子集中的一个样本点出现时，称这一事件发生，如：点出现时，称这一事件发生，如：事件事件A发生发生（Event occurrence）当且仅当当且仅当A中中的一个样本点出现。的一个样本点出现。基本事件基本事件（Elementary event）由一个样本点由一个样本点组成的单点集，如组成的单点集，如E 1有两个基本事件有两个基本事件H,T.E4有有6个基本事件个基本事件1,2,3,4,5,6.必然事件必然事件（Certain event）S 样本空间样本空间S包包含所有的样本点
16、，它是含所有的样本点，它是S自身的子集，在每次实验自身的子集，在每次实验中它总是发生的，中它总是发生的，S称为必然事件。称为必然事件。不可能事件不可能事件（Impossible event）空集不包括任何样本点，也是样本空间的子集，空集不包括任何样本点，也是样本空间的子集，每次实验中都不发生，空集称不可能事件。每次实验中都不发生，空集称不可能事件。E2:将一枚硬币连抛三次将一枚硬币连抛三次，观察正反面出现的情况；观察正反面出现的情况；A=HHH,HHT,HTH,HTTA=HHH,HHT,HTH,HTT对于试验对于试验E2，A，B为以下为以下随机事件随机事件B=HHH,TTTB=HHH,TTT
17、A:第一次第一次出现正面出现正面;B:三次出现同一面三次出现同一面;在在E6中中:事件事件A3：“寿命小于寿命小于100小时小时”，即，即 A3=t|0t0)个样本点，则个样本点，则(|)ABAnP B An 称为称为事件事件A发生的条件下事件发生的条件下事件B发生的条件概率发生的条件概率（Conditional probability）。）。一般地，设一般地，设A、B是两个事件是两个事件，且且P(A)0，则则 ABAnnnn()(|)()P ABP B AP A 条件概率的定义()()P ABP A 条件概率的性质 设设B是一事件，且是一事件，且P(A)0，则，则1.对任意事件对任意事件B,
18、0P(B|A)1;2.P(S|A)=1;3.设设B1,B2,是两两互不相容事件，则是两两互不相容事件，则11(|)(|)iiiiPBAP BA 而且，前面对于概率所证明的一些重要性质都而且，前面对于概率所证明的一些重要性质都适用于条件概率。适用于条件概率。比如对任意事件比如对任意事件设设A、B是随机事件，是随机事件，P(A)0，则则 P(AB)P(B|A)P(A)称为事件称为事件A、B的的乘法公式乘法公式。二、乘法公式二、乘法公式 乘法公式还有一种对称形式：乘法公式还有一种对称形式：若若P(B)0，则则P(AB)P(A|B)P(B)。利用乘法公式可计算几个事件同时发生利用乘法公式可计算几个事件
19、同时发生的概率。的概率。推广：推广：P(ABC)P(C|AB)P(B|A)P(A).P(A1A2An)P(An|A1An1).P(A2|A1)P(A1)定义定义 事件组事件组B 1，B2，Bn（n可为可为），称，称为样本空间为样本空间S的一个的一个划分划分，若满足：，若满足：B1B2BnA三、全概率公式和贝叶斯公式三、全概率公式和贝叶斯公式 定理定理1、设设B1，,Bn 是是 S 的一个划分，的一个划分，且且P(Bi)0，(i1，n)，则对任何事件则对任何事件A有有 上式就称为全概率公式。上式就称为全概率公式。则称则称B 1，B2，Bn 是是样本空间样本空间S的一个的一个划分划分。事件事件B
20、1，B2，Bn中必有一个且仅有一个发中必有一个且仅有一个发生。生。因为因为 A=AS=A(B1B2 Bn)=AB1AB2ABn 由假设，由假设，P(Bi)0，(i1n),且且(ABi)(ABj)=，ij 那么那么,P(A)=P(AB1)+P(AB2)+P(ABn)=P(A|B1)P(B1)+P(A|B2)P(B2)+P(A|Bn)P(Bn)证明：证明：定理定理2 设设A1,An是是S的一个划分的一个划分，且且P(Ai)0，（i1,n），），则对任何事件则对任何事件B，有有 1(|)()(|),(1,.,)(|)()jjjniiiP B A P AP ABjnP B A P A 上式就称为上式就
21、称为贝叶斯公式贝叶斯公式。该该公式于公式于1763年由贝叶斯年由贝叶斯（Bayes）给出给出。它是在它是在观察到事件观察到事件B已发生的条件下，寻找导致已发生的条件下，寻找导致B发生的发生的每个原因的概率。每个原因的概率。1.6 独立性独立性一、两个事件的独立性一、两个事件的独立性先看例子：先看例子：将一颗均匀骰子连掷两次，设将一颗均匀骰子连掷两次，设A=第一次掷出第一次掷出6点点，B=第二次掷出第二次掷出6点点,求求 P(B|A)，P(B)。1(|)()6P B AP B这就是说：已知事件这就是说：已知事件A发生，并不影响事件发生，并不影响事件B发发生的概率生的概率,即即 P(B|A)=P(
22、B),这时称事件这时称事件A、B独立。独立。由乘法公式知，由乘法公式知，当事件当事件A、B独立时，有独立时，有 P(AB)=P(A)P(B)。P(AB)=P(A)P(B|A)用用 P(AB)=P(A)P(B)刻划独立性，比用刻划独立性，比用P(A|B)=P(A)或或 P(B|A)=P(B)更好，它不受更好，它不受P(B)0或或P(A)0的制约。的制约。两事件独立定义：两事件独立定义：若两事件若两事件A、B满足满足 P(AB)=P(A)P(B)(1)则称则称A、B独立独立,或称或称A、B相互独立相互独立（Independent）。若若P(A)0,P(B)0,“A 与与 B 相互独立相互独立”和和
23、“A 与与 B 互斥互斥”不能同时成立。不能同时成立。定理一定理一 A，B两事件，两事件，P(A)0，若，若A，B相互独立，则相互独立，则P(B|A)=P(B)，反之亦然。，反之亦然。即若即若P(A)0,则则A 与与 B 相互独立的充分必要条相互独立的充分必要条是是P(B|A)=P(B)。若若P(B)0,则则A 与与 B 相互独立的充分必要条件相互独立的充分必要条件是是P(A|B)=P(A)。问：问：能否在样本空间能否在样本空间S中找两个事件，它们既相互中找两个事件，它们既相互独立又互斥独立又互斥?任意事件任意事件A与与 独立且互斥。独立且互斥。因为，因为，A ,P(A )=P()=0=P(A
24、)P()，所以所以,任意事件任意事件A与与 独立且互斥。独立且互斥。S 设设A、B为互斥事件，且为互斥事件，且P(A)0,P(B)0,下面四个结论中，正确的是：下面四个结论中，正确的是：前面我们看到独立与互斥的区别和联系，前面我们看到独立与互斥的区别和联系，1.P(B|A)0，2.P(A|B)=P(A)，3.P(A|B)=0，4.P(AB)=P(A)P(B)。设设A、B为独立事件，且为独立事件，且P(A)0,P(B)0,下面四个结论中，正确的是：下面四个结论中，正确的是：1.P(B|A)0，2.P(A|B)=P(A)，3.P(A|B)=0，4.P(AB)=P(A)P(B)。再来做个小练习。再来
25、做个小练习。=P(A)-P(AB)BP(A )=P(A-A B)A、B独立独立故故A与与 独立。独立。B=P(A)-P(A)P(B)证明证明:仅证仅证A与与 独立。独立。B定理二：定理二：若两事件若两事件A、B独立，则独立，则 ,AB AB AB与与与与与与也相互独立也相互独立。=P(A)1-P(B)=P(A)P(),B二、多个事件的独立性二、多个事件的独立性定义定义 若三个事件若三个事件A、B、C满足：满足：（1）P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P(B)P(C),则称事件则称事件A、B、C两两相互独立两两相互独立；若在此基础上还满足：若在此基础上还满足
26、：（2）P(ABC)P(A)P(B)P(C),则称事件则称事件A、B、C相互独立相互独立。一般地，设一般地，设A1,A2,An是是 n个个事件，如果对任意事件，如果对任意k(1kn),任意任意 1i1 i2 2)个事件两两独立与事件相互独立个事件两两独立与事件相互独立的区别与联系的区别与联系两两独立两两独立相互独立相互独立/常由实际问题的意义判断事件的独立性。常由实际问题的意义判断事件的独立性。事件独立性的判断事件独立性的判断由于由于“甲命中甲命中”并不影响并不影响“乙命中乙命中”的概率，故的概率，故认为认为A、B独立独立。例如例如:甲、乙两人向同一目标射击，记甲、乙两人向同一目标射击，记 A
27、:甲命中甲命中,B:乙命中，乙命中，A与与B是否独立？是否独立？又如：一批产品共又如：一批产品共n件件,从中抽取从中抽取2件件,设设 Ai=第第i 件是合格品件是合格品,i=1,2。则。则A1与与A2是否相互独立是否相互独立?若抽取是有放回的，则若抽取是有放回的，则A1与与A2独立独立。因为第二次抽取的结果受到第一因为第二次抽取的结果受到第一 次抽取的影响。次抽取的影响。因为第二次抽取的结果因为第二次抽取的结果不受第一次抽取的影响不受第一次抽取的影响。若抽取无放回，若抽取无放回，则则A1与与A2不独立不独立。三、事件独立性的应用三、事件独立性的应用1.1.利用公式简化独立事件积事件的概率利用公式简化独立事件积事件的概率计算。计算。2.2.加法公式的简化：加法公式的简化：若若事件事件A1,A2,An相互独立相互独立，则则112(.)1().()nnP AAAP AP A
