1、大家晚上好3.4 3.4 派生贝叶斯准则派生贝叶斯准则(Generalized Bayes(Generalized Bayes Criterion) Criterion)基本要求：基本要求： 掌握最小平均错误概率准则和最大后验概掌握最小平均错误概率准则和最大后验概率准则率准则 掌握极小化极大准则和奈曼掌握极小化极大准则和奈曼- -皮尔逊准则的皮尔逊准则的应用范围和基本原理应用范围和基本原理3.4.1 3.4.1 最小平均错误概率准则最小平均错误概率准则(Minimum mean prob. of error criterion)(Minimum mean prob. of error crit
2、erion)01100cc应用范围应用范围11001cc1111100101100000,HHPcHHPcHHPcHHPcC10010110,HHPcHHPcC101010HHPHPHHPHP平均错误概率平均错误概率此时此时, ,平均代价最小即转化为平均错误概率最小平均代价最小即转化为平均错误概率最小(P(Pe e) )。3.4.1 3.4.1 最小平均错误概率准则最小平均错误概率准则dxHxpccHPHxpccHPHPcHPcCR000010011101111101001100cc11001ccdxHxpHPHxpHPHPCR000110把使被积函数取负值的观察值把使被积函数取负值的观察值x
3、值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。0011HxpHPHxpHP判决判决H0假设成立假设成立0011HxpHPHxpHP判决判决H1假设成立假设成立3.4.1 3.4.1 最小平均错误概率准则最小平均错误概率准则100110HPHPHxpHxpHH最小平均错误概率判决准则最小平均错误概率判决准则110011001HHHHp x Hp x Hp x Hp x H最大似然准则最大似然准则3.4.1 3.4.1 最小平均错误概率准则最小平均错误概率准则Ex3.5 Ex3.5 在闭启键控通信系统中，两个假设
4、下的观察在闭启键控通信系统中，两个假设下的观察信号模型为：信号模型为：若两个假设的先验概率相等，且若两个假设的先验概率相等，且采用最小平均错误概率准则，试确定判决表示式，采用最小平均错误概率准则，试确定判决表示式，并求最小平均错误概率。并求最小平均错误概率。上述情况下上述情况下, ,噪声噪声n n是均值为零是均值为零, ,方差为方差为 的高斯噪声。的高斯噪声。2nAxHnxH:1001100cc11001ccdefHHNiiANAxN2ln12110dlNlNHHP222012exp22lnddQduuHHPAN2exp212102ln1ddQ由例由例3.33.3，知，知由于由于1010101
5、HHPHPHHPHPPe2212121dQdQ2dQ222NAd3.4.2 3.4.2 最大后验概率准则最大后验概率准则(Maximum a posteriori prob. criterion)(Maximum a posteriori prob. criterion)11010010cccc应用范围应用范围11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则贝叶斯判决准则100110HPHPHxpHxpHHxHPxHPHH0110最大后验概率检测准则：最大后验概率检测准则：100110HPHPHxpHxpHH001110HxpHPHPHxpHHdxxXxPHPHdxx
6、XxPdxxXxHP111dxHxpHdxxXxP11 dxxpdxxXxP因此，当因此，当dxdx很小时，有很小时，有xHPdxxXxHP11 xpHPHxpdxxpdxHPHxpxHP11111111( )P x HP HP H xP x 00000p x HP Hdxp x HP HP H xp x dxp x 111HPxpxHPHxp 000HPxpxHPHxp 10101010HHP H x p xP H x p xP Hp HP HP HxHPxHPHH0110最大后验概率检测准则：最大后验概率检测准则：贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，
7、给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。11011001000110ccHPccHPHxpHxpHH100110HPHPHxpHxpHH最小平均最小平均错误概率错误概率判决准则判决准则xHPxHPHH0110最大后验最大后验概率检测概率检测准则准则01100cc11001cc11010010cccc等概等概0110HxpHxpHH最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)(1)贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率
8、条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。11011001000110ccHPccHPHxpHxpHH贝叶斯及派生检测准则贝叶斯及派生检测准则(2)(2)信源先验信源先验概率未知概率未知信源先验概率及信源先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则3.4.3 3.4.3 极小化极大准则极小化极大准则(Minimax(Minimax criterion) criterion)应用范围应用范围假设的先验概率未知，判决代价因子给定假设的先验概率未知，判决代价因子给定目的目的尽可能避免产生过分大的代价，使极大可能代价最小化。尽可能避免
9、产生过分大的代价，使极大可能代价最小化。3.4.3 3.4.3 极小化极大准则极小化极大准则(Minimax(Minimax criterion) criterion)在先验概率未知的情况下在先验概率未知的情况下, ,最小平均代价是先验概率的函数最小平均代价是先验概率的函数. .在先验概率未知的情况下在先验概率未知的情况下, ,进行检测的方法是进行检测的方法是: :先假设一个先验概率先假设一个先验概率P P1g, ,然后按照贝叶斯准则进行检测然后按照贝叶斯准则进行检测为尽可能降低代价为尽可能降低代价, ,需设计一种先验概率的假设方法，使由此需设计一种先验概率的假设方法，使由此 得到的检测准则的
10、代价值与得到的检测准则的代价值与先验概率无关先验概率无关.(.(最好的例子就是保最好的例子就是保险了险了) )。3.4.3 3.4.3 极小化极大准则极小化极大准则1 1 几种表示符号定义几种表示符号定义0100011RRdefFdxHxpdxHxpHHPP0110RdefMdxHxpHHPP001111PHPHPPdefdef虚警概率虚警概率漏警概率漏警概率3.4.3 3.4.3 极小化极大准则极小化极大准则2 2 先验概率未知的情况下，平均代价的性质先验概率未知的情况下，平均代价的性质dxHxpccHPHxpccHPHPcHPcCR0000100111011111010 100101111
11、0111111101111PPccPPPccPPcPcPCFM平均代价平均代价C C( (P P1) )是先验概率是先验概率P P1 1的的严格上凸函数严格上凸函数 0010001111000111110001FMFcccPPPccccPPccPP3.4.3 3.4.3 极小化极大准则极小化极大准则3.4.3 3.4.3 极小化极大准则极小化极大准则3.4.3 3.4.3 极小化极大准则极小化极大准则3 3 先验概率未知的情况下，可以采用的检测方法先验概率未知的情况下，可以采用的检测方法可猜测一个先验概率可猜测一个先验概率P P1g，然后利用贝叶斯准则进行检测。，然后利用贝叶斯准则进行检测。g
12、MdefRMPPdxHxpP110判决门限是判决门限是P P1g1g的函数的函数判决区域判决区域R R0 0是是P P1g1g的函数的函数判决区域判决区域R R1 1是是P P1g1g的函数的函数gFdefRFPPdxHxpP101 10010111010011110010001PPccPPccccPPPcccPCFMFgMdefRMPPdxHxpP110gFdefRFPPdxHxpP101 gFgMgFgPPccPPccccPPPcccPPC100101110100111100100011,给定给定 条件下，平均代价条件下，平均代价 是先验概率是先验概率P1的线性函数的线性函数 gP1gPP
13、C11,若若 ，平均代价，平均代价 大于最小平均代价大于最小平均代价 11PPggPPC11,为避免产生过分大的代价，需要猜测一种先验概率为避免产生过分大的代价，需要猜测一种先验概率 ,使得平均代价使得平均代价不依赖于信源的先验概率不依赖于信源的先验概率P1 *1gP*11,gPPC3.4.3 3.4.3 极小化极大准则极小化极大准则如果猜测一个如果猜测一个P P1g,1g,则则C(PC(P1 1,P,P1g1g) )变为线性函数变为线性函数 3.4.3 3.4.3 极小化极大准则极小化极大准则 gFgMgFgPPccPPccccPPPcccPPC10010111010011110010001
14、1,为避免产生过分大的代价，需要猜测一种先验概率为避免产生过分大的代价，需要猜测一种先验概率 ,使得平均代价使得平均代价不依赖于信源的先验概率不依赖于信源的先验概率P1 *1gP*11,gPPC3.4.3 3.4.3 极小化极大准则极小化极大准则 0*10010*111010011gFgMPPccPPcccc*10010001gFgC PcccP P*11111,0ggPPC P PP3.4.3 3.4.3 极小化极大准则极小化极大准则 0*10010*111010011gFgMPPccPPcccc *1001000*1gFgPPcccPC00011cc *10010*11101gFgMPPc
15、cPPcc *1*1gFgMPPPP00011cc10110cc*11gFgC PP P*1101gFgC Pc P P3.4.3 3.4.3 极小化极大准则极小化极大准则利用极小化极大准则进行检测的基本步骤：利用极小化极大准则进行检测的基本步骤：步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比步骤步骤2：假设判决门限为：假设判决门限为 ，构建贝叶斯检测基本表达式，构建贝叶斯检测基本表达式步骤步骤3：化简成最简形式：化简成最简形式 01HHxl步骤步骤4：利用极小化极大准则，确定最终判决门限。：利用极小化极大准则，确定最终判决门限。 3.4.3 3.4.3 极小化极大准则
16、极小化极大准则(Minimax(Minimax criterion) criterion)Ex3.6 Ex3.6 在闭启键控通信系统中，两个假设下的观察在闭启键控通信系统中，两个假设下的观察信号模型为：信号模型为：若两个假设的先验概率未知，且若两个假设的先验概率未知，且采用极小化极大准则采用极小化极大准则, ,试确定检测门限和平均错误概率。试确定检测门限和平均错误概率。上述情况下上述情况下, ,噪声噪声n n是均值为零是均值为零, ,方差为方差为 的高斯噪声的高斯噪声2nAxHnxH:1001100cc11001cc解：解：步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比
17、,:0nxH,:1nAxH由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，假设下，x服从高斯分布，服从高斯分布，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，假设下，x服从均值为服从均值为A，方差为，方差为的高斯分布。的高斯分布。 2222202exp21xHxp22212exp21AxHxp步骤步骤2：假设门限，构建似然比检测基本表达式：假设门限，构建似然比检测基本表达式1001HHHpHpxx102222222exp212exp21HHxAx步骤步骤3：化简：化简102222expHHAxxln222210HHAxAdefHHAAx2ln21010222
18、2222exp212exp21HHxAx步骤步骤4：计算判决门限化简：计算判决门限化简defHHAAx2ln210 *1*1gFgMPPPP00011cc10110ccQdxxdxHxpHHPPdefF2220012exp21AQdxHxpdxHxpHHPPRdefM111100 *1*1gFgMPPPPAQQ12A010101HHPHPHHPHPPe *01FFMPPHPPHP2AQ3.4.4 3.4.4 奈曼奈曼- -皮尔逊准则皮尔逊准则(Neyman(Neyman-Pearson criterion)-Pearson criterion)应用范围应用范围假设的先验概率未知，判决代价未知假
19、设的先验概率未知，判决代价未知(雷达信号检测雷达信号检测)奈曼奈曼-皮尔逊检测皮尔逊检测01HHP尽可能小，尽可能小，11HHP尽可能大。尽可能大。目标目标实际情况实际情况01HHP减小时，减小时，11HHP也相应减小；也相应减小；01HHP也随之增加。也随之增加。11HHP增加增加在在 约束条件下约束条件下,使正确判决概率使正确判决概率 最大的准则。最大的准则。01HHP11HHP 1. 1. 奈曼奈曼皮尔逊准则解的存在性概念说明皮尔逊准则解的存在性概念说明 123图3.9奈曼皮尔逊准则概念性说明示意图 3.4.4 3.4.4 奈曼奈曼- -皮尔逊准则皮尔逊准则3.4.4 3.4.4 奈曼奈
20、曼- -皮尔逊准则皮尔逊准则2 奈曼奈曼-皮尔逊准则的推导皮尔逊准则的推导在在 约束条件下约束条件下,使正确判决概率使正确判决概率 最大的准则。最大的准则。01HHP11HHP在在 约束条件下约束条件下,使判决概率使判决概率 最小的准则。最小的准则。01HHP10HHP等价于等价于利用拉格朗日乘子利用拉格朗日乘子 ，构建目标函数，构建目标函数00110HHPHHPJ若若 ,J达到最小时，达到最小时， 也达到最小。也达到最小。01HHP10HHP3.4.4 3.4.4 奈曼奈曼- -皮尔逊准则皮尔逊准则2 奈曼奈曼-皮尔逊准则的推导皮尔逊准则的推导0110HHPHHPJdxHxpdxHxpRR1
21、001dxHxpdxHxpRR000110101 Rp x Hp x Hdx把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。01HxpHxp判决判决H0假设成立假设成立01HxpHxp判决判决H1假设成立假设成立3.4.4 3.4.4 奈曼奈曼- -皮尔逊准则皮尔逊准则(Neyman(Neyman-Pearson criterion)-Pearson criterion)判决表达式判决表达式其中其中,判决门限由下式确定判决门限由下式确定1001RdxHxpH
22、HP1001HHHxpHxp100P H HpHd作用作用作用作用3.4.4 3.4.4 奈曼奈曼- -皮尔逊准则皮尔逊准则(Neyman(Neyman-Pearson criterion)-Pearson criterion)Ex3.7 在二元通信系统中，两个假设下的观察信号在二元通信系统中，两个假设下的观察信号模型为：模型为：试构造一个在试构造一个在 条件下的奈曼条件下的奈曼- -皮尔逊接收机皮尔逊接收机. .nxHnxH1:101 . 001HHP上述情况下上述情况下,噪声噪声n是均值为零是均值为零,方差为方差为1的高斯噪声的高斯噪声解：解：步骤步骤1：计算两个似然函数，构建似然比：计算
23、两个似然函数，构建似然比,:0nxH,1:1nxH由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，假设下，x服从高斯分布，服从高斯分布，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，假设下，x服从均值为服从均值为1，方差为，方差为的高斯分布。的高斯分布。 2222202exp21xHxp222121exp21xHxp步骤步骤2：假设门限，构建似然比检测基本表达式：假设门限，构建似然比检测基本表达式1001HHHpHpxx102222222exp2121exp21HHxx步骤步骤3：化简：化简1022221expHHxxln221210HHxdefHHx21l
24、n210102222222exp2121exp21HHxx步骤步骤4：计算判决门限：计算判决门限defHHx21ln210 1 . 02exp212001QdxxdxHxpHHPPdefF1 . 001HHPPdefF在在条件下确定判决门限条件下确定判决门限29. 1解得解得2 . 2 11121 21.29|d11expd0.38622P HHp l Hlll 3.10 图例3.4.3的判决域及判决概率贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。110110
25、01000110ccHPccHPHxpHxpHH100110HPHPHxpHxpHH最小平均最小平均错误概率错误概率判决准则判决准则xHPxHPHH0110最大后验最大后验概率检测概率检测准则准则01100cc11001cc11010010cccc等概等概0110HxpHxpHH最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)(1)贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。11011001000110ccHPccHPHxpHxp
26、HH贝叶斯及派生检测准则贝叶斯及派生检测准则(2)(2)信源先验信源先验概率未知概率未知信源先验概率及信源先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则1001RdlHlpHHP按照似然比检测形式构建基本表达式，按照似然比检测形式构建基本表达式，并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。按照似然比检测形式构建基本表达式，按照似然比检测形式构建基本表达式，并在并在 的约束下计的约束下计算最终判决门限。算最终判决门限。 *1*1gFgMPPPP00011cc10110cc练习：如果两个假设为练习：如果两个假设为其中，其中， ，要求，要求 ，设计，设计奈曼奈曼皮尔逊接收机。皮尔逊接收机。0 Hxn：1 1Hxn ：0,1nN10|0.1P HH
