1、21()(|)()jjjp xp xP|()iiip xPPxp x,1,2;iPi|,1,2ip xi。iP|x似然 先验后验(分布或密度)全概率1122(|)(|)PxPxx111222(|)()(|)()p xPp xPx112221(|)()()(|)()p xPl xxp xP2121()ln()()ln(|)ln(|)ln()()h xl xPp xp xP 12x1|,|,1,2,ciijjjRxPxia ,1(|)(|)(,)(|),1,2,.,iijcijjjRxEPxia 1,.,(|)min|kiikRxRxIfthen112222221111(|)().(|)()p x
2、Pp xP第第2 2章章 BayesBayes决策理论决策理论本节课内容本节课内容第第2 2章章 BayesBayes决策理论决策理论第第2 2章章 BayesBayes决策理论决策理论2121211221112211221122()()()()()()()(,)(,)()()()()()()()()()()()()ttRRP eP e x p x dxPx p x dxPx p x dxP x RP x RP x RPP x RPPp xdx Pp xdxPP ePP e第第2 2章章 BayesBayes决策理论决策理论2111220()()()()RRP ep xdxP ep xdx12
3、0()()P eP e用用Lagrange乘子法建立其数学模型乘子法建立其数学模型:第第2 2章章 BayesBayes决策理论决策理论120()()P eP e2111111120120021021()()1()()1()()1()()RRRRRRRp xdxp xdxp xdxp xdxp xdxp xdxp xp xdx 12211111 ()()1()1()RRRRp xdxp xdxp xdxp xdx 第第2 2章章 BayesBayes决策理论决策理论1122012()0 ()0 ()()()Rptpp xdxRtRt tt1021 1()()Rp xp xdx 第第2 2章章
4、BayesBayes决策理论决策理论与最小错误率与最小错误率BayesBayes决策的比较：决策的比较：112221()()()()p xPxp xP 1122()gj(x),那么 。(2)决策面方程：如果Ri和Rj是相邻的两个决策域,那么分割它们的决策面方程应满足:gi(x)=gj(x)。(3)分类器设计 ix第第2 2章章 BayesBayes决策理论决策理论两类分类器两类分类器第第2 2章章 BayesBayes决策理论决策理论可看成是由硬件或软件组成的“机器.其功能是:先计算c 个判别函数 gi(x),再从中选出对应于判别函数为最大值的类作为决策结果.样本 x1 x2 xn g1(x)
5、g2(x)gc(x)MAX最大值选择器 决策()x多类分类器多类分类器第第2 2章章 BayesBayes决策理论决策理论第第2 2章章 BayesBayes决策理论决策理论1122(x)(x)PPx111222()()()()p xPp xPx112221()()()()()p xPl xxp xP2121()ln()()ln(/)ln(/)ln()()h xl xPp xp xP 12x第第2 2章章 BayesBayes决策理论决策理论一、两类情况一、两类情况 1.判别函数：判别函数：2.决策规那么：决策规那么：1211221122()(|)(|)()(|)()(|)()(|)()()l
6、nln(|)()gPPgpPpPpPgpPxxxxxxxxx12()0gxx3.决策面方程：决策面方程：()0gx第第2 2章章 BayesBayes决策理论决策理论g(x)12.dxxxx特特征征向向量量判判别别计计算算决决策策1211x阈值单元阈值单元4.分类器设计：分类器设计：两类分类器可看作只是计算判别函数g(x)的一个 “机器，它根据计算结果的符号将x分类。第第2 2章章 BayesBayes决策理论决策理论二、多类情况二、多类情况 2.决策规那么：1()max(),(1,2,.,)jiijijcgxgxxic 1.判别函数：判别函数：c类有类有c个判别函数个判别函数()(|)()(
7、|)()()ln(|)ln()iiiiiiiigPgpPgpPxxxxxx,c12g(x),g(x),g(x)1212,cdx xx x第第2 2章章 BayesBayes决策理论决策理论3、决策面方程：、决策面方程：()(),()()0ijijgxgxgxgx即g1(x)max g(x)nxxxx.21特特征征向向量量判判别别计计算算决决策策ix g2(x)gn(x)最最大大值值选选择择器器.4、分类器设计：、分类器设计：第第2 2章章 BayesBayes决策理论决策理论 利用样本估计错误率，直观上可认为N个考试样本testing samples中错分的样本数越多，那么错误率越大，因此可用错分样本数与总考试样本数的比作为错误率的估计。这可分为两种情况：(1)对于已设计好的分类器，利用样本来估计错误率。这种只用来估计分类器错误率的样本集称为检验(样本)集或考试(样本)集(testing set)。(2)对于未设计好的分类器，需将样本分成两局部，即分为设计集(training set)和检验集(testing set)，分别用以设计分类器和估计错误率。用来设计分类器的样本集称为设计(样本)集(training set)。2021/11/541谢谢欣赏！
