第五章参数估计和假设检验PPT课件.ppt

1、利用样本统计量对总体某些性质或数量利用样本统计量对总体某些性质或数量特征进行推断。特征进行推断。随机原则随机原则总体参数总体参数统计量统计量推断估计推断估计参数估计参数估计检验检验假设检验假设检验抽样分布抽样分布抽样分布抽样分布简单随机抽样和简单随机样本的性质简单随机抽样和简单随机样本的性质不放回不放回放放 回回放回放回不放不放 回回独立性和同一性独立性和同一性同一性同一性当当n/N5%时，有限总时，有限总体不放回抽体不放回抽样等同于放样等同于放回抽样回抽样统计量与抽样分布统计量与抽样分布统计量：即统计量：即样本指标样本指标。样本均值样本均值样本成数样本成数样本方差样本方差如：如：nXXinn

2、Pi22)(11XXnSi抽样分布：抽样分布：某一统计量所有可能的样本的取值形成某一统计量所有可能的样本的取值形成的分布。的分布。性性 质质数字特征数字特征0P（Xi）1P（Xi）=1均值均值E（X）方差方差Ex-E(x)2样本均值的抽样分布（简称均值的分布）样本均值的抽样分布（简称均值的分布）抽样抽样 均值均值均值均值=Xi/NnxXi样本均值是样本的函数，样本均值是样本的函数，故样本均值是一个故样本均值是一个统计量统计量，统计量是一个统计量是一个随机变量随机变量，样本均值的概率分布称为样本均值的概率分布称为样本均值的抽样分布。样本均值的抽样分布。抽抽 样样 方方 法法 均均 值值 方方 差

3、差 标标 准差准差（1）从无）从无限总体抽限总体抽 样样和有限总体和有限总体放回抽样放回抽样（2）从有限）从有限总体不放回总体不放回抽样抽样xxE)(xxE)(nx22)1(22NnNnxnx1NnNnx即均值推断的抽样误差和,12NnNnnxx抽样误差抽样误差抽样误差抽样误差从正态总体中抽样得到的均值的分布也服从从正态总体中抽样得到的均值的分布也服从正态分布正态分布。从非正态总体中抽样得到的均值的分布呢？从非正态总体中抽样得到的均值的分布呢？中心极限定理：无论总体为何种分布，只要中心极限定理：无论总体为何种分布，只要样本样本n足够大足够大（n30），均值（），均值（）标准化为（）标准化为（z

4、）变量，必定服从标准正态）变量，必定服从标准正态分布，均值（分布，均值（）则服从）则服从正态分布，正态分布，即：即：x)1(,)/,(),1,0(/22NnNnNXnNXNnX或关于均值的抽样分布有如下的一些结论关于均值的抽样分布有如下的一些结论:1.对于多数总体分布来说，不论其形态如何，如果样本观察对于多数总体分布来说，不论其形态如何，如果样本观察值值超过超过30个个，那么均值的抽样分布将，那么均值的抽样分布将近似于正态分布近似于正态分布。2.2.如果总体分布是明显对称的，那么只要样本观察值超过如果总体分布是明显对称的，那么只要样本观察值超过15个，均值的抽样分布也近似于正态分布。个，均值的

5、抽样分布也近似于正态分布。3.3.如果总体是正态分布的，则不管样本大小如何，均值的抽如果总体是正态分布的，则不管样本大小如何，均值的抽样分布一定是正态分布的。样分布一定是正态分布的。x两个样本均值之差的抽样分布两个样本均值之差的抽样分布抽样抽样抽样抽样?21Axx21估计估计),(2111NX),(2222NX),()(2221212121nnNxx则（1）如：）如：（2如果两个总体都是非如果两个总体都是非正态总体，只要正态总体，只要n1、n2足够足够大，根据中心极限定理，可大，根据中心极限定理，可知：知：),()(2221212121nnNxx)1()1(,()(22222211112121

6、21NnNnNnNnNxx)1()1(,()(2222221111212121NnNnNnNnNxx样本成数（即比例）的抽样分布（简称成数的分布）样本成数（即比例）的抽样分布（简称成数的分布）抽样抽样 成数成数成数成数P=Ni/N 所有可能的样本的成数（所有可能的样本的成数（）所形成的分）所形成的分布，称为样本成数的抽样分布。布，称为样本成数的抽样分布。nnPi/nPPP,21抽抽 样样 方方 法法 均均 值值 方方 差差 标标 准差准差（1）从无）从无限总体抽限总体抽 样样和有限总体和有限总体放回抽样放回抽样（2）从有限）从有限总体不放回总体不放回抽样抽样PnnEPEi)/()(PnnEPE

7、i)/()(nPqP/2)1(2NnNnPqPnPqP)1(NnNnPqP根据中心极限定理，只要样本足够大，根据中心极限定理，只要样本足够大，的分布就近的分布就近似正态分布。（似正态分布。（np和和nq大于大于5时）时）抽样误差抽样误差抽样误差抽样误差P两个样本成数之差的抽样分布两个样本成数之差的抽样分布抽样抽样抽样抽样估计估计 当当n1、n2都足够大时，样本成都足够大时，样本成数数 都近似服从正态分布，都近似服从正态分布，两个样本成数之差（两个样本成数之差（）也）也近似服从正态分布。近似服从正态分布。APP21P1-P2=？),()()1(2221112121nqPnqPPPNPP)1()1

8、(,)()2(2222211111121212NnNnqPNnNnqPPPNPP21,PP21PP 一个样本方差的抽样分布一个样本方差的抽样分布抽样抽样若若:从一个正态总体中抽样所得到的样本方差的分布从一个正态总体中抽样所得到的样本方差的分布),(2NXn,S2则则)1(/)1(222nSn当当 分布趋近于正态分布2,30n)1(2nxX若)1(222nZ则则 两个样本方差之比的抽样分布两个样本方差之比的抽样分布抽样抽样从两个正态总体中分别独立抽样所得到的两个样本方从两个正态总体中分别独立抽样所得到的两个样本方差之比的抽样分布。差之比的抽样分布。),(2111NXn1,S12则则 抽样抽样),

9、(2222NXn2,S22)1)(1(/2122222121nnFSSF点估计点估计以样本指标直接估计总体参数。以样本指标直接估计总体参数。评价准则评价准则的数学期望的数学期望等于总体参等于总体参数，即数，即E该估计量称该估计量称为无偏估计。为无偏估计。无偏性无偏性有效性有效性当当 为为 的无的无偏估计时，偏估计时，方方差差 越小越小，无偏估计越，无偏估计越有效。有效。2)(E一致性一致性对于无限总体，对于无限总体，如果对任意如果对任意 满足条件满足条件00)|(|nnPLim则称则称的一致估计。的一致估计。是是充分性充分性一个估计一个估计量如能完量如能完全地包含全地包含未知参数未知参数信息，

10、即信息，即为充分量为充分量估计量估计量点估计点估计常用的求点估计量的方法常用的求点估计量的方法 1.1.数字特征法数字特征法:当样本容量增大时当样本容量增大时,用样本的数字特征用样本的数字特征去估计总体的数字特征。去估计总体的数字特征。XXniin1221211SnXXiin例如例如，我们可以用样本平均数，我们可以用样本平均数(或成数或成数)和样本方差来估和样本方差来估计总体的均值计总体的均值(或比率或比率)和方差。和方差。2.2.顺序统计量法顺序统计量法 :如果把取得的样本观测值按大小排列起来，那么与排如果把取得的样本观测值按大小排列起来，那么与排列位置有关的统计量就称为顺序统计量。常用的顺

11、序列位置有关的统计量就称为顺序统计量。常用的顺序统计量有样本中位数和极差。统计量有样本中位数和极差。当总体服从当总体服从正态分布正态分布时时,用样本中位数来估计总体的数学期望用样本中位数来估计总体的数学期望:em3.极大似然估计法极大似然估计法:极大似然估计是根据样本的似然函数对总体参数进行极大似然估计是根据样本的似然函数对总体参数进行估计的一种方法估计的一种方法。其实质就是根据样本观测值发生的可能性达到其实质就是根据样本观测值发生的可能性达到最大最大这这一原则来选取未知参数的估计量一原则来选取未知参数的估计量，其理论依据就是，其理论依据就是概率最大的事件最可能出现。概率最大的事件最可能出现。

12、区间估计区间估计估计未知参数所在的可能的区间。估计未知参数所在的可能的区间。评价准则评价准则随机区间随机区间置信度置信度精确度精确度随机区间随机区间1)(ULP),(UL包含包含（即可靠程度（即可靠程度）越大越好。）越大越好。的概率的概率),(UL的平均长度的平均长度（误差范围（误差范围）越小越好）越小越好),(LUE一般形式一般形式)()(或或总体参数总体参数估计值估计值误差范围误差范围：一定倍数的抽样误差：一定倍数的抽样误差nZx2例如：例如：抽样误差抽样误差 n/一定时，一定时，2Z越大，越大，x概率（可靠性）大；概率（可靠性）大；随之增大，随之增大，精确度就差。精确度就差。参数的区间估

13、计参数的区间估计待估计参数待估计参数已知条件已知条件置信区间置信区间正态总体，正态总体，2已知已知正态总体，正态总体，2未知未知非正态总体，非正态总体，n30有限总体，有限总体，n30（不放回抽样）（不放回抽样）总体均值总体均值（）nZX/2nZX/2nStXn/)1(212NnNnZX未知时，用未知时，用S未知时，用未知时，用S222121221)(nnZXX)(21XX 21)2(21121nnStpnn222121221)(nnZXX两个正态总体两个正态总体2221,已知已知两个正态总体两个正态总体2221,未知但相等未知但相等两个非正态总体两个非正态总体,n1，n230两个总体两个总体

14、均值之差均值之差1-2待估计参数待估计参数已知条件已知条件置信区间置信区间无限总体，无限总体，np和和nq都大于都大于5总体成数总体成数（p）无限总体，无限总体，n1p15,n1q1 5n2p25,n2q25两个总体成两个总体成数之差数之差（P1-P2）有限总体，有限总体，np和和nq都大于都大于5nqPZP212NnNnqpZP222111221)(nqPnqPZPP有限总体，有限总体，11)(222222111111221NnNnqPNnNnqPZPPn1p15,n1q1 5n2p25,n2q25待估计参数待估计参数已知条件已知条件置信区间置信区间正态总体正态总体总体方差总体方差 两个正态

15、总体两个正态总体两个总体两个总体方差之比方差之比)(22212222)1(,)1(SnSn2221/21222122221/,/FSSFSS样本数的确定样本数的确定待估计参数待估计参数已知条件已知条件样本数的确定样本数的确定正态总体，正态总体，2已知已知总体均总体均值（值（）例：误差范围例：误差范围简简单单随随机机抽抽样样2222xZn有限总体，不放回抽样，有限总体，不放回抽样，2已知已知2222222ZNNZnx222pPqZnPqZNPqNZnp22222总体成数总体成数（P）服从正态分布服从正态分布有限总体，不放回抽样有限总体，不放回抽样Pxx2pp2 基本思想基本思想 检验规则检验规则

16、 检验步骤检验步骤 常见的假设检验常见的假设检验 方差分析方差分析 基本思想基本思想小概率原理：小概率原理：如果对总体的某种假设是如果对总体的某种假设是的，那么不利于的，那么不利于或不能支持这一假设的事件或不能支持这一假设的事件A（小概率事件）（小概率事件）在一次试验中几乎不可能发生的；要是在一次试验中几乎不可能发生的；要是，就有理由怀疑该假设的，就有理由怀疑该假设的真实性，真实性，这一假设。这一假设。总总 体体（某种假设）（某种假设）抽样抽样样样 本本（观察结果）（观察结果）检验检验（接受）（接受）（拒绝）（拒绝）小概率事件小概率事件未未 发发 生生小概率事件小概率事件发发 生生假设的形式：

17、假设的形式：H0原假设，原假设，H1备择假设备择假设 双侧检验：双侧检验：H0：=0，H1：0单侧检验：单侧检验：H0：=0，H1：0 H0：=0，H1：0 假设检验就是根据样本观察结果对原假设（假设检验就是根据样本观察结果对原假设（H0）进行检验，）进行检验，接受接受H0，就否定，就否定H1；拒绝；拒绝H0，就接受，就接受H1。检验规则检验规则检验过程是比较样本观察结果与总体假设的差异。差异显著，检验过程是比较样本观察结果与总体假设的差异。差异显著，超过了临界点，拒绝超过了临界点，拒绝H0；反之，差异不显著，接受；反之，差异不显著，接受H0差差 异异|0X|0X两类错误两类错误接受或拒绝接受

18、或拒绝H0，都可能犯错误，都可能犯错误I类错误类错误弃真错误，弃真错误，发生发生 的概率为的概率为 II类错误类错误取伪错误，发生取伪错误，发生 的概率为的概率为检验决策检验决策 H0为真为真 H0非真非真拒绝拒绝H0 犯犯I类错误（类错误（）正确正确接受接受H0 正确正确 犯犯II类错误（类错误（）怎样确定怎样确定c?大大就小，就小，小小就大就大 显著性水平，取值：显著性水平，取值：0.1,0.05,0.01,等。如果犯等。如果犯I类错误损类错误损失更大，为减少损失，失更大，为减少损失，值取小；如果犯值取小；如果犯II类错误损失更，类错误损失更，值值取大。取大。确定确定，就确定了临界点，就确

19、定了临界点c。),(2nNXX)1,0(NnXZ|2Z2Z2Z0 当检验判断为接受原假设当检验判断为接受原假设H0时，就有可能犯取伪的错误即时，就有可能犯取伪的错误即II类错误。类错误。确定犯第确定犯第类错误的概率类错误的概率比较困难比较困难，具体计算可根，具体计算可根据书上的例子。据书上的例子。统计上把统计上把 称为统计检验的势，它是原假设实际上是错误的称为统计检验的势，它是原假设实际上是错误的应该被拒绝的概率。应该被拒绝的概率。II类错误的概率类错误的概率的计算的计算1 检验步骤检验步骤根据具体问题的要求，根据具体问题的要求，建立总体假设建立总体假设H0，H112选择统计量选择统计量确定确

20、定H0为真时的抽样分布为真时的抽样分布3给定显著性水平给定显著性水平，当原假，当原假设设H0为真时，求出临界值。为真时，求出临界值。计算检验统计量的数计算检验统计量的数值与临界值比较值与临界值比较4 几种常见的假设检验几种常见的假设检验条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：=0 H1：022z(2)H0：=0 H1：0(3)H0：=0 H1：z0z0nxZ0正态总正态总体体2已已知知2Z2ZZZ2Z条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：=0 H1：022t(2)H0：=0 H1：0(3)H0：=0 H1：t0t0nsxt02t2t0正态总正态总体

21、体2未未知知(n30)tt条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：=0 H1：022z(2)H0：=0 H1：0(3)H0：=0 H1：z0z02Z2Z0nxZ0nSxZ0非正态非正态总体总体n302已知已知或未知或未知ZZ条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：1=2 H1:1 2 22z(2)H0：1=2 H1:1 2(3)H0：1=2 H1：1 2 z0z02Z2Z022212121nnxxZ两个正两个正态总体态总体2122,已知已知ZZ条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0:1=2 H1:1 2 22t(2)H0:1=2

22、 H1:1 2(3)H0：1=2 H1：1 2 t0t02t2t0两个正两个正态总体态总体2122,未知，未知，但相等但相等2)1()1(21222211nnSnSnSptt212111nnsxxtp条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：1=2 H1：1 2 22(2)H0：1=2 H1：1 2(3)H0：1=2 H1：1 2 0z02Z2Z0两个非两个非正态体正态体n130 n2302122,已知或已知或未知未知22212121nnxxZ22212121nSnSxxZzzZZ条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：P=P0 H1：PP022z(2

23、)H0：P=P0 H1：PP0(3)H0：P=P0 H1：PP0z0z02Z2Z0np5nq5nqpppZ000ZZ条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1)H0：P1=P2 H1：P1 P2 22z(2)H0：P1 P2 H1：P1 P2(3)H0：P1 P2 H1：P1 P2z0z02Z2Z0n1p15n1q15n2p25n2q252122112121nnpnpnpnqpnqpppZZZ条件条件检验条件量检验条件量拒绝域拒绝域H0、H1总体服总体服从正态从正态分布分布222)1(Sn2020:H2021:H22)1(22)1(21nn2020:H2021:H2020:H202

24、1:H222)1(n2)1(1n条件条件检验条件量检验条件量拒绝域拒绝域H0、H1总体服总体服从正态从正态分布分布22210:H22211:H22210:H22211:H22210:H22211:H22222221/SSF)1,1(2)1,1(212121nnnnFF)1,1(21 nnF)1,1(121nnFFFF 方差分析方差分析一、问题的提出一、问题的提出同一原材同一原材料加工产料加工产品质量品质量产地产地各组产品各组产品的质量是的质量是否有显著否有显著差异？差异？随机随机 原则原则一个班级一个班级 的学生，的学生，某门课程某门课程的成绩的成绩专业专业 分组分组各组学生的成各组学生的成绩

25、是否有显著绩是否有显著差异？差异？差异差异随机误差随机误差系统误差系统误差随机随机 原则原则加以比较加以比较若存在显著性差异，则说明该因素的影响是显著的若存在显著性差异，则说明该因素的影响是显著的二、假定条件二、假定条件各组水平都服从正态分布，均值和方差未知，但各组水平都服从正态分布，均值和方差未知，但方差相同方差相同),(2iiNX（i=1,2,3,k)三、单因素方差分析三、单因素方差分析H0：各水平的均值相等：各水平的均值相等 H1：各水平均值不全相等各水平均值不全相等总离差平方和总离差平方和=组间离差平方和组间离差平方和+组内离差平方和组内离差平方和 离差平方和：离差平方和：SST=SS

26、B +SSE自由度：自由度：n-1=k-1 +n-k方差：方差：MST MSB MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即：F=MSB/MSE),1(knkF检验规检验规则则学员成绩表1234职员家庭6.27.89.18.9工人家庭5.45.86.97.5农民家庭5.16.35.97.5方差分析：单因素方差分析SUMMARY组计数求和平均方差职员家庭4328 1.766667工人家庭425.66.40.94农民家庭424.86.21方差分析差异源SSdfMSFP-valueF crit组间7.7866672 3.893333 3.151079 0.091771 4.25649

27、2组内11.129 1.235556总计18.9066711因为：因为：F=3.15 (0.05)所以接受原假设，认为不同的家庭背景对学员成绩没所以接受原假设，认为不同的家庭背景对学员成绩没有显著影响。有显著影响。四、不考虑交互作用的两因素方差分析四、不考虑交互作用的两因素方差分析H0(A):因素因素A的的k个水平的均值相等个水平的均值相等 H1(A):不全相等不全相等总离差平方和总离差平方和=组间离差平方和组间离差平方和 +组内离差平方和组内离差平方和 离差平方和：离差平方和：SST=SS(A)+SS(B)+SSE自由度：自由度：kh-1=k-1 +h-1 +(k-1)(h-1)方差：方差：

28、MST MS(A)MS(B)MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即：F(A)=MS(A)/MSE F(B)=MS(B)/MSE H0(B):因素因素B的的h个水平的均值相等个水平的均值相等 H1(B):不全相等不全相等)1)(1(,1(hkkF检验规检验规则则)1)(1(,1(hkhFB1B2B3B4A115171518A219151815A316191817方差分析：无重复双因素分析SUMMARY计数求和平均方差A146516.252.25A246716.754.25A347017.5 1.666667B1350 16.66667 4.333333B2351174B33

29、51173B4350 16.66667 2.333333 方差分析差异源SSdfMSFP-valueF crit行3.1666672 1.583333 0.3931030.69115 5.143249列0.3333333 0.111111 0.0275860.99317 4.757055误差24.166676 4.027778总计27.6666711因为：因为：F(A)=0.3935.14 F(B)=0.028 (0.05)P(B)（0.99)(0.05)所以接受原假设，认为不同的机器设备和不同的工艺所以接受原假设，认为不同的机器设备和不同的工艺方法对生产量都没有显著影响。方法对生产量都没有显

30、著影响。五、考虑交互作用的两因素方差分析五、考虑交互作用的两因素方差分析H0(A):因素因素A的的k个水平的均值相等个水平的均值相等 H1(A）：不全相等不全相等总离差平方和总离差平方和=组间离差平方和组间离差平方和 +组内离差平方和组内离差平方和离差平方和离差平方和:SST=SS(A)+SS(B)+SS(AB)+SSE自由度：自由度：khm-1=k-1 +h-1+(k-1)(h-1)+kh(m-1)方差：方差：MST MS(A)MS(B)MS(AB)MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即：F(A)=MS(A)/MSE F(B)=MS(B)/MSE F(AB)=MS(AB

31、)/MSEH0(B):因素因素B的的h个水平的均值相等个水平的均值相等 H1(B)：不全相等不全相等H0(AB):AB之间不存在交互影响的作用之间不存在交互影响的作用 H1(AB)：有交互影响有交互影响)1(,1(mkhkF检验规检验规则则)1(,1(mkhhF)1(),1)(1(mkhkhF例：例：B1B2B3B4A1151715181517172017171622A2191518151915171616151617A3161918171822181721221817 方差分析：可重复双因素分析SUMMARYB1B2B3B4总计A1计数333312求和47514860206平均15.6666

32、7171620 17.16667方差1.333333014 4.333333A2计数333312求和54455148198平均1815171616.5方差3011 2.272727A3计数333312求和55635451223平均18.33333211817 18.58333方差6.333333300 4.083333 总计计数9999求和156159153159平均17.33333 17.6666717 17.66667方差4.257.751.254.5方差分析差异源SSdfMSFP-valueF crit样本27.166672 13.58333 7.8870970.00233 3.4028

33、32列2.753 0.916667 0.532258 0.664528 3.008786交互73.5612.25 7.112903 0.000192 2.508187内部41.3333324 1.722222 因为：因为：F(A)=7.893.40 F(B)=0.532.51或或 P(A)（0.002)(0.05)P(AB)（0.0002)(0.05)所以认为不同的机器设备对日产量有显著影响。不同所以认为不同的机器设备对日产量有显著影响。不同的工艺方法对日产量没有显著影响。不同机器设备与的工艺方法对日产量没有显著影响。不同机器设备与工艺搭配的交互作用对日产量有显著的影响。工艺搭配的交互作用对日产量有显著的影响。