1、第八讲第八讲 假设检验假设检验一、基本概念一、基本概念二、二、Neyman-Pearson 引理引理三、一致最优势检验三、一致最优势检验一、基本概念一、基本概念在自然科学和社会科学等中，常常要对某在自然科学和社会科学等中，常常要对某些重要问题做出回答：些重要问题做出回答：是是或或否否。如月球比地球如月球比地球早形成吗？早形成吗？一种新药对某种病有效吗？一种新药对某种病有效吗？某种某种股票会张吗？股票会张吗？新推出的电视节目收视率高吗？新推出的电视节目收视率高吗？等等。等等。为了回答这些问题，为了回答这些问题，我们需要对感兴趣我们需要对感兴趣的问题进行试验或观察获得相关数据，的问题进行试验或观察
2、获得相关数据，根据这根据这些数据决定些数据决定是是或或否否的过程称为的过程称为假设检验假设检验。(Hypothesis Testing)在这节，给出一般的在这节，给出一般的Neyman-Pearson假设假设检验构架。检验构架。原假设和备择假设原假设和备择假设的分的分是统计模型，关于总体是统计模型，关于总体设设XP,布或关于参数布或关于参数 的推测，的推测，：即即H称为称为假设假设，其中其中 是是 的非空真子集。的非空真子集。在一个假设检验中，常涉及两个假设。在一个假设检验中，常涉及两个假设。所所要检验的假设称为要检验的假设称为原假设原假设或或零假设零假设，记为记为 。0H而与而与 不相容的假
3、设，称为不相容的假设，称为备择假设备择假设或或对立对立0H假设假设，记为记为 。1H对参数统计模型对参数统计模型 而而,P言，原假设和备择假设这对矛盾的统一体言，原假设和备择假设这对矛盾的统一体1100 ：，：HH称为称为假设检验问题假设检验问题。在假设检验问题中，在假设检验问题中，的两个互的两个互是是和和 10不相交的非空子集，不相交的非空子集，10但并不要求但并不要求一定成立。一定成立。保留这个的灵活性，保留这个的灵活性，不仅是理论的不仅是理论的需要，需要，也有其实际意义。也有其实际意义。，仅包含一个参数，即仅包含一个参数，即如果如果000 则称则称0H为简单假设为简单假设(Simple
4、Hypothesis)，否则称为否则称为复复合假设合假设(Composite Hypothesis)，对备择假设也有对备择假设也有简单假设和复合假设。简单假设和复合假设。拒绝域、接受域、检验统计量和检验函数拒绝域、接受域、检验统计量和检验函数检验一个假设，就是根据某一法则在原检验一个假设，就是根据某一法则在原假设和备择假设之间做出选择，假设和备择假设之间做出选择，而基于样本而基于样本x做出拒绝做出拒绝 或接受或接受 所依赖的法则称为所依赖的法则称为检验检验。0H0H这样一个检验就等同于将样本空间分成这样一个检验就等同于将样本空间分成两个互不相交的子集两个互不相交的子集 和和 ，WcW时就拒时就
5、拒当当Wx绝绝 ，0H成立；成立；认为备择假设认为备择假设1H时就接时就接当当cWx成立。成立。，认为，认为受受00HH称称 为为拒绝域拒绝域，W(Rejection Region)称称cW为接受域为接受域(Acceptance Region)。这样检验和拒绝这样检验和拒绝域就建立起一一对应关系。域就建立起一一对应关系。为了确定拒绝域，为了确定拒绝域，往往根据问题的直观背往往根据问题的直观背景，景，寻找合适的统计量寻找合适的统计量 ，)(xT为真时，为真时，当当0H要要能由统计量能由统计量 确定出拒绝域确定出拒绝域 ，)(xTW这样的统这样的统计量计量 称为称为检验统计量检验统计量(Test
6、Statistic)。)(xT为了便于描述拒绝域及数学理论上的需要，为了便于描述拒绝域及数学理论上的需要，有必要引入函数有必要引入函数,0,1)(WxWxx 它是拒绝于上的示性函数，它是拒绝于上的示性函数，称其为称其为检验函数检验函数。时接受时接受，当，当时拒绝时拒绝当当000)(1)(HxHx 种检验函数也称为非随机化的，种检验函数也称为非随机化的，而随机化的检而随机化的检验函数的定义是：验函数的定义是：这这上取值的样本的函数上取值的样本的函数在在1,0。)(x 在随机化检验时，在随机化检验时，有了样本有了样本 后，后，x),(x 计算计算试验，试验，为成功概率做为成功概率做依依Minomi
7、al)(x 若若，成功就拒绝成功就拒绝0H。否则接受否则接受0H两类错误、功效和功效函数两类错误、功效和功效函数由于样本时随机的，由于样本时随机的，进行检验时可能犯进行检验时可能犯两类错误，两类错误，其一是当其一是当 为真时，却拒绝为真时，却拒绝 ，0H0H称为称为第一类错误第一类错误，其概率为其概率为.,)(0 WxP其二是当其二是当 为假时，却接受为假时，却接受 ，0H0H称为称为第二类第二类错误错误，其概率为其概率为定义定义8.1 一个检验的一个检验的功效功效(Power)定义为当定义为当 假假0H时拒绝时拒绝 的概率，的概率，0H即即.),(1)(1 WxP而第一类错误和功效可以看成函
8、数而第一类错误和功效可以看成函数 ),()(xEWxPg的不同取值，的不同取值，这个函数称为这个函数称为功效函数功效函数。(Power Function)；时，时，当当)()(0 g 时，时，而当而当1 。)()(g.,1)(1 WxPWxP检验的水平检验的水平当样本容量当样本容量 固定时，固定时，n要减少犯第一类错要减少犯第一类错误的概率，误的概率，就会增大犯第二类错误的概率；就会增大犯第二类错误的概率；反反之，之，若要减少犯第二类错误的概率，就会增大若要减少犯第二类错误的概率，就会增大犯第一类错误的概率。犯第一类错误的概率。即就是说当样本容量固即就是说当样本容量固定时，定时，不可能同时减少
9、犯两类错误的概率，不可能同时减少犯两类错误的概率，这这是一对不可调和的矛盾。是一对不可调和的矛盾。Neyman-Pearson检验原理就是控制犯第一检验原理就是控制犯第一类错误的概率在给定的范围内，类错误的概率在给定的范围内，寻找检验使得寻找检验使得犯第二类错误的概率尽可能的小，犯第二类错误的概率尽可能的小，即就是使检即就是使检验的功效尽可能的大。验的功效尽可能的大。这样就是在给定一个较这样就是在给定一个较小的数小的数 (一般取为一般取为0.01,0.05,0.1等等)，)10(在满足在满足0,)(xEWxP的检验函数类中，的检验函数类中，寻找使得功效寻找使得功效)()(1 WxPxE尽可能大
10、的检验函数。尽可能大的检验函数。，对给定的对给定的1,0 对所有的对所有的若检验若检验)(x，0 ,)(xE满足满足则称则称 是一个是一个水水)(x 平平(Level)为为 的检验。的检验。根据这个定义，根据这个定义，水平不唯一。水平不唯一。若若 是水平是水平)(x 为为 的检验，的检验，则对任何满足则对任何满足 的的 ，1 )(x 也是水平为也是水平为 的检验。的检验。称称),(sup0 xE为检验为检验 的的大小大小(Size)或或真实水平真实水平。)(x 实用上当提到一个检验的水平时，实用上当提到一个检验的水平时，一般是一般是指它的真实水平。指它的真实水平。二、二、Neyman-Pear
11、son 引理引理设统计模型为设统计模型为 ，,P1100 ：，：HH考虑检验问题考虑检验问题。其中其中10 ,),(sup),(sup)(01 xpxpxL 比检验比检验(Likelihood Ratio Test)。对较大对较大 拒绝原假设拒绝原假设 的检验称为的检验称为似然似然)(xL0H定义定义似然比似然比(Likelihood Ratio)为为是密度函数或分布率，是密度函数或分布率，其中其中),(xp是统计是统计)(xL量。量。在这节，我们先讨论简单原假设对简单备择在这节，我们先讨论简单原假设对简单备择假设的检验问题，假设的检验问题，设统计模型为设统计模型为 ，,P，其中其中,10 下
12、节讨论较复杂的检验问题。下节讨论较复杂的检验问题。即参数空间仅包含两个参数，即参数空间仅包含两个参数，所考虑的检验问所考虑的检验问题为题为比较两个检验比较两个检验 的优劣的一个自然的优劣的一个自然)()(21xx 和和1100 ：，：HH（1）的准则就是比较它们功效的大小。的准则就是比较它们功效的大小。),()(2111xExE 若若差，差，不比检验不比检验则称检验则称检验)()(21xx )(1x 或检验或检验好。好。比检验比检验)(2x 根据这点我们有所谓最优的根据这点我们有所谓最优的检验定义如下。检验定义如下。定义定义8.2 在检验问题在检验问题(1)中，中，是水平为是水平为设设)(x的
13、检验，的检验，的检验的检验如果对任一水平为如果对任一水平为)(x 有有)()(11xExE 成立，成立，的的是水平为是水平为则称则称 )(x(Most Powerful Test)最优功效检验最优功效检验，简记为简记为MPT。对于检验问题对于检验问题(1)，下面的下面的N-P引理不但彻底解决了检验问题引理不但彻底解决了检验问题(1)的的而且还给出了构造而且还给出了构造MPT检检验的方法。验的方法。虽然这个引理仅针对检验问题虽然这个引理仅针对检验问题(1)，但它对解决复合假设检验问题最优检验的存在但它对解决复合假设检验问题最优检验的存在起到非常重要的作用。起到非常重要的作用。,),(),()(0
14、1 xpxpxL似然比为似然比为MPT的存在问题，的存在问题，规定：规定：.0)(0),(),(10 xLxpxp时，时，当当 ,)(0),(,0),(10 xLxpxp时，时，当当 就检验问题就检验问题(1)，(1)及检验及检验存在常数存在常数0k,)(,0)(,1)(时时当当时时当当kxLkxLx 满足满足.)(0 xE（2）（3）。的的是水平为是水平为且检验且检验MPT )(x，有，有对给定对给定)1,0(2)，则必存在，则必存在的的是水平为是水平为如果如果MPT )(x,0k常数常数。满足式满足式使得使得)2()(x 的功的功进一步若进一步若。也满足式也满足式则则)3()(x,1)(1
15、xE 效满足效满足引理引理8.1(Neyman-Pearson引理引理)注注:（1）为为连连续续随随机机变变量量时时，当当)(xLMPT的的检验统计量可取为检验统计量可取为非随机化的形式非随机化的形式,)(,0)(,1)(kxLkxLx,)()(00确定确定由由其中常数其中常数 kxLPxEk。：的拒绝域具有形式的拒绝域具有形式)(kxLxW。这是因为这是因为0)(0 kxLP 这说明此种情形下这说明此种情形下引理的证明可参看引理的证明可参看高等统计学高等统计学(郑忠国郑忠国)。（2）为为离离散散随随机机变变量量时时，当当)(xLMPT的的检验统计量检验统计量具有形式具有形式.)(,0)(,)
16、()()(,1)(00kxLkxLkxLPkxLPkxLx 由于没有给出由于没有给出N-P引理的证明，引理的证明，关于关于)(x 具有这种形式的原因解释如下：具有这种形式的原因解释如下：。由由其中常数其中常数)()(00kxLPkxLPk （5）为为离离散散随随机机变变量量时时，当当)(xLMPT的检验的检验统计量未必统计量未必具有形式具有形式.)(,0)(,1)(kxLkxLx 如果对给定的如果对给定的 ，存在存在k恰有恰有,)()()(000 kxLPkxLPxE（6）则则MPT的检验统计量具有形式的检验统计量具有形式(6)，即具有形，即具有形为为 的拒绝域。的拒绝域。)(kxLxW：的分
17、布函数是阶梯函数，的分布函数是阶梯函数，)(xL但由于但由于故可能不存在故可能不存在k使得使得 )()()(000kxLPkxLPxE成立，成立，。)()(00kxLPkxLP 却只能找到却只能找到k有有,)(0 xE因此为了使因此为了使就有必要改变就有必要改变)(x.)(,0)(,)(,1)(kxLkxLrkxLx 上上的的取取值值，：在在事事件件)(kxLx可令可令注意这样的做法是合适的，注意这样的做法是合适的，仍具有仍具有N-P引引)(x 理中理中MPT的形式。的形式。.)()()(000 kxLPkxLrPxE从而可得所待定的从而可得所待定的r为为.)()(00kxLPkxLPr 由于
18、由于,)(0 xE即即因此此时的水平为因此此时的水平为 的的MPT是随机检验，检验是随机检验，检验 统计量具有式统计量具有式(5)。由于当由于当 时，时，)(0kxLP,1r所以式所以式(5)更具一般性，包括了式更具一般性，包括了式(6)。例例8.1)1,(,21 NXXXn是来自正态总体是来自正态总体设设的简单样本。的简单样本。求检验问题求检验问题)0(01110 ：，：HH。的的的水平为的水平为MPT)10(解解)0(由由N-P引理知，引理知，MPT的拒绝域具有形式的拒绝域具有形式.)(kxLxW：似然比统计量为似然比统计量为,21exp)0,(),()(2111 nxnxpxpxL由于由
19、于,01 的严格单调增函数，的严格单调增函数，为为且且xxL)(故故.)(cxxkxLx：xH 为真时，为真时，又因为当又因为当0),1,0(nN所以对给定所以对给定，的水平的水平，ncncnxPcxP/1/1/1 有有这样这样.1nuc 的的，所求的，所求的从而对给定的从而对给定的MPT 拒绝域为拒绝域为 。cxxW：注意这个例子的注意这个例子的MPT仅与水平仅与水平 有关，有关，而与而与备择假设中备择假设中 的具体取值无关，只要的具体取值无关，只要 。1 01 作为课后练习，作为课后练习，试求原假设不变而备择假设试求原假设不变而备择假设改为改为 时的时的MPT。011：H例例8.2分布的简
20、单分布的简单是来自是来自设设PoissonnXXX,21样本，样本，试求检验问题试求检验问题)10(11110 ：，：HH。的的的水平为的水平为MPT)10(解解 似然比统计量为似然比统计量为,)0,(),()()1(111 expxpxLix,101 由于由于的严格单的严格单是是因此因此niixxTxL1)()(调减函数。调减函数。根据根据N-P引理，水平为引理，水平为 的的MPT为为.)(,0)(,)()()(,1)(11kxTkxTkxTPkxTPkxTx 。由由其中常数其中常数)()(11kxTPkxTPk 例如取例如取 ，10n)(10 xTH成立时，成立时，：当假设当假设 分布。分
21、布。的的就服从参数为就服从参数为Poisson10 若给定若给定,05.0 则由则由Poisson分布表，有分布表，有,05.0067086.0!105)(1050eixTPii,05.0029253.0!105)(1040eixTPii从而可取从而可取k=5，.548384.0037833.0029253.005.0r因此有因此有.5)(,05)(,548384.05)(,1)(xTxTxTx 故水平为故水平为 的的MPT的检验统计量为的检验统计量为05.0 拒绝原假拒绝原假设；设；6)(100iixxT当当 时，时，则接受原假设；则接受原假设；当当5)(100iixxT时，时，做一次成功概率为做一次成功概率为0.548384的的Binomial试验，试验，若试验成功，则拒绝原假设，若试验成功，则拒绝原假设，若试验失败，则接受原假设。若试验失败，则接受原假设。这样当抽样所得的这样当抽样所得的 ，4)(100iixxT
