1、第一章 随机事件及其概率一、随机事件及其运算1. 样本空间、随机事件样本点:随机试验的每一个可能结果,用表示;样本空间:样本点的全集,用表示;注:样本空间不唯一.随机事件:样本点的某个集合或样本空间的某个子集,用A,B,C,表示;必然事件就等于样本空间;不可能事件是不包含任何样本点的空集;基本事件就是仅包含单个样本点的子集。2. 事件的四种关系包含关系:,事件A发生必有事件B发生;等价关系:, 事件A发生必有事件B发生,且事件B发生必有事件A 发生;互不相容(互斥): ,事件A与事件B一定不会同时发生。对立关系(互逆):,事件发生事件A 必不发生,反之也成立; 互逆满足注:互不相容和对立的关系
2、(对立事件一定是互不相容事件,但互不相容事件不一定是对立事件。)3. 事件的三大运算事件的并:,事件A与事件B至少有一个发生。若,则;事件的交:,事件A与事件B都发生; 事件的差:,事件A发生且事件B不发生。4. 事件的运算规律交换律:结合律:分配律:德摩根(De Morgan)定律: 对于n个事件,有二、随机事件的概率定义和性质1公理化定义:设试验的样本空间为,对于任一随机事件都有确定的实值P(A),满足下列性质:(1) 非负性: (2) 规范性:(3)有限可加性(概率加法公式):对于k个互不相容事件,有.则称P(A)为随机事件A的概率.2概率的性质 若,则注:性质的逆命题不一定成立的. 如
3、若则。() 若,则。()三、 古典概型的概率计算古典概型:若随机试验满足两个条件: 只有有限个样本点, 每个样本点发生的概率相同,则称该概率模型为古典概型,。典型例题:设一批产品共N件,其中有M件次品,从这批产品中随机抽取n件样品,则(1)在放回抽样的方式下, 取出的n件样品中恰好有m件次品(不妨设事件A1)的概率为(2)在不放回抽样的方式下, 取出的n件样品中恰好有m件次品(不妨设事件A2)的概率为四、条件概率及其三大公式1.条件概率:2.乘法公式: 3.全概率公式:若,则。4.贝叶斯公式:若事件如全概率公式所述,且 .五、事件的独立 1. 定义:.推广:若相互独立,2. 在四对事件中,只要
4、有一对独立,则其余三对也独立。3. 三个事件A, B, C两两独立:注:n个事件的两两独立与相互独立的区别。(相互独立两两独立,反之不成立。)4.伯努利概型:1.事件的对立与互不相容是等价的。(X)2.若 则。(X)3.。 (X)4.A,B,C三个事件恰有一个发生可表示为。()5. n个事件若满足,则n个事件相互独立。(X)6. 当时,有P(B-A)=P(B)-P(A)。()第二章 随机变量及其分布一、随机变量的定义:设样本空间为,变量为定义在上的单值实值函数,则称为随机变量,通常用大写英文字母,用小写英文字母表示其取值。二、分布函数及其性质1. 定义:设随机变量,对于任意实数,函数称为随机变
5、量的概率分布函数,简称分布函数。 注:当时,(1)X是离散随机变量,并有概率函数则有(2) X连续随机变量,并有概率密度f (x),则.2. 分布函数性质:(1 F(x)是单调非减函数,即对于任意x1 x2,有;(2 ;且;(3离散随机变量X,F (x)是右连续函数, 即;连续随机变量X,F(x)在(-,+)上处处连续。注:一个函数若满足上述3个条件,则它必是某个随机变量的分布函数。三、离散随机变量及其分布1. 定义. 设随机变量X只能取得有限个数值,或可列无穷多个数值且,则称X为离散随机变量, pi (i=1,2,)为X的概率分布,或概率函数 (分布律).注:概率函数pi的性质: 2. 几种
6、常见的离散随机变量的分布:(1)超几何分布,XH(N,M,n),(2)二项分布,XB(n.,p),当n=1时称X服从参数为p的两点分布(或01分布)。若Xi(i=1,2,n)服从同一两点分布且独立,则服从二项分布。(3)泊松(Poisson)分布,四、连续随机变量及其分布1.定义.若随机变量X的取值范围是某个实数区间I,且存在非负函数f(x),使得对于任意区间,有则称X为连续随机变量; 函数f (x)称为连续随机变量X的概率密度函数,简称概率密度。注1:连续随机变量X任取某一确定值的概率等于0, 即注2:2. 概率密度f (x)的性质:性质1: 性质2:注1:一个函数若满足上述2个条件,则它必
7、是某个随机变量的概率密度函数。注2:当时,且在f(x)的连续点x处,有3.几种常见的连续随机变量的分布:(1) 均匀分布 , (2) 指数分布, (3) 正态分布 , 1. 概率函数与密度函数是同一个概念。( X )2.当N充分大时,超几何分布H (n, M, N)可近似成泊松分布。( X )3.设X是随机变量,有。( X )4.若的密度函数为=,则 ( X )第三章 随机变量的数字特征一、期望(或均值)1定义: 2期望的性质:3. 随机变量函数的数学期望4. 计算数学期望的方法(1) 利用数学期望的定义; (2) 利用数学期望的性质;常见的基本方法: 将一个比较复杂的随机变量X 拆成有限多个
8、比较简单的随机变量Xi之和,再利用期望性质求得X的期望.(3)利用常见分布的期望;1方差 注:D(X)=EX-E(X)20;它反映了随机变量X取值分散的程度,如果D(X)值越大(小),表示X取值越分散(集中)。2方差的性质(4) 对于任意实数CR,有 E ( X-C )2D( X )当且仅当C = E(X)时, E ( X-C )2取得最小值D(X).(5) (切比雪夫不等式): 设X的数学期望 E(X) 与方差D(X) 存在,对于任意的正数有或 3. 计算(1) 利用方差定义;(2) 常用计算公式(3) 方差的性质;(4) 常见分布的方差.注:常见分布的期望与方差1. 若XB(n, p),
9、则 E(X)=np, D(X) = npq; 2. 若3. 若XU(a, b), 则 4. 若5. 若三、原点矩与中心矩(总体)X的k阶原点矩: (总体)X的k阶中心矩:1.只要是随机变量,都能计算期望和方差。( X )2.期望反映的是随机变量取值的中心位置,方差反映的是随机变量取值的分散程度。()3.方差越小,随机变量取值越分散,方差越大越集中。( X )4.方差的实质是随机变量函数的期望。()5.对于任意的X,Y,都有成立。( X )第四章 正态分布一、正态分布的定义1. 正态分布 概率密度为其分布函数为注:.正态密度函数的几何特性: 2. 标准正态分布当时,其密度函数为且其分布函数为的性
10、质: 3.正态分布与标准正态分布的关系定理:若 则.定理:设则二、正态分布的数字特征设 则1. 期望E(X) 2.方差D(X) 3.标准差三、正态分布的性质1线性性. 设则;2可加性. 设且X和Y相互独立,则3线性组合性 设,且相互独立,则四、中心极限定理1.独立同分布的中心极限定理设随机变量相互独立,服从相同的分布,且则对于任何实数x,有定理解释:若满足上述条件,有(1);(3)2. 棣莫弗-拉普拉斯中心极限定理设则定理解释:若当n充分大时,有(1); (2)1.若则( X )2.若则 ( )3. 设随机变量X与Y均服从正态分布:4.已知连续随机变量X的概率密度函数为 则X的数学期望为_1_
11、; X的方差为_1/2_.第五章 数理统计的基本知识一、总体 个体 样本1.总体:把研究对象的全体称为总体 (或母体).它是一个随机变量,记X. 2.个体:总体中每个研究对象称为个体.即每一个可能的观察值.3.样本:从总体X中,随机地抽取n个个体, 称为总体X的容量为n的样本。注: 样本是一个n维的随机变量; 本书中提到的样本都是指简单随机样本,其满足2个特性: 代表性:中每一个与总体X有相同的分布. 独立性:是相互独立的随机变量.4.样本的联合分布设总体X的分布函数为F(x),则样本的联合分布函数为(1) 设总体X的概率密度函数为f (x), 则样本的联合密度函数为 (2) 设总体X的概率函
12、数为, 则样本的联合概率函数为二、统计量1. 定义 不含总体分布中任何未知参数的样本函数称为统计量,是的观测值.注:(1)统计量是随机变量; (2)统计量不含总体分布中任何未知参数; (3)统计量的分布称为抽样分布.2. 常用统计量(1)样本矩:样本均值 ; 其观测值 . 可用于推断:总体均值 E(X).样本方差 ; 其观测值 可用于推断:总体方差D(X).样本标准差 其观测值 样本k 阶原点矩 其观测值 样本 k 阶中心矩 其观测值 注:比较样本矩与总体矩,如样本均值和总体均值E(X);样本方差与总体方差D(X);样本k阶原点矩与总体k阶原点矩;样本k阶中心矩与总体k阶原点矩. 前者是随机变
13、量,后者是常数.(2)样本矩的性质:设总体X的数学期望和方差分别为,为样本均值、样本方差,则 3.抽样分布:统计量的分布称为抽样分布.三、 3大抽样分布: 定义.设相互独立,且,则注:若则(2)性质(可加性)设相互独立,且则2. t分布: 设X 与Y 相互独立,且则注:t分布的密度图像关于t=0对称;当n充分大时,t分布趋向于标准正态分布N(0,1).3. F分布: 定义. 设X与Y相互独立,且则(2) 性质. 设则.四、分位点定义:对于总体X和给定的若存在,使得则称为X分布的分位点。注:常见分布的分位点表示方法(1)分布的分位点 (2)分布的分位点 其性质: (3)分布的分位点其性质(4)N
14、(0,1)分布的分位点有第六章 参数估计一、点估计:设为来自总体X的样本,为X中的未知参数,为样本值,构造某个统计量作为参数的估计,则称为的点估计量,为的估计值.2.常用点估计的方法:矩估计法和最大似然估计法.二、矩估计法1.基本思想: 用样本矩(原点矩或中心矩)代替相应的总体矩.2.求总体X的分布中包含的m个未知参数的矩估计步骤: 求出总体矩,即; 用样本矩代替总体矩,列出矩估计方程: 解上述方程(或方程组)得到的矩估计量为: 的矩估计值为:3. 矩估计法的优缺点: 优点:直观、简单; 只须知道总体的矩,不须知道总体的分布形式. 缺点:没有充分利用总体分布提供的信息;矩估计量不具有唯一性;可
15、能估计结果的精度比其它估计法的低三、最大似然估计法1. 直观想法:在试验中,事件A的概率P(A)最大, 则A出现的可能性就大;如果事件A出现了,我们认为事件A的概率最大.2. 定义 设总体X的概率函数或密度函数为(或),其中参数未知,则X的样本的联合概率函数(或联合密度函数)(或称为似然函数.3. 求最大似然估计的步骤:(1)求似然函数:X离散: X连续: (2)求和似然方程:(3)解似然方程,得到最大似然估计值:(4)最后得到最大似然估计量:4. 最大似然估计法是在各种参数估计方法中比较优良的方法,但是它需要知道总体X的分布形式.四、 估计量的评价标准1.无偏性:设是未知参数的估计量,若,则是的无偏估计量,是的无偏估计值。有效性:设和是未知参数的无偏估计量,若,则称比有效。1.若是来自总体X的样本,则相互独立. ( )2.不含总体X的任何未知参数的样本函数就是统计量. ( )3.样本矩与总体矩是等价的。( X )4.矩估计法的基本思想是用总体矩代替样本矩,故矩估计量不唯一.( X )设总体,则估计量分别是的无偏估计量.( X )