1、L/O/G/O第四章第四章 不确定性推理不确定性推理本章内容本章内容不确定性推理中的基本问题不确定性推理中的基本问题证据理论证据理论概率方法概率方法主观主观BayesBayes方法方法4163可信度方法可信度方法5不确定性推理方法分类不确定性推理方法分类 24.1 4.1 不确定性推理中的基本问题不确定性推理中的基本问题 要实现对不确定性知识的处理,必须要解决不要实现对不确定性知识的处理,必须要解决不确定知识的表示问题,不确定信息的计算问题,以确定知识的表示问题,不确定信息的计算问题,以及不确定性表示和计算的语义解释问题。及不确定性表示和计算的语义解释问题。1 1表示问题表示问题1 1、知识不
2、确定性的表示、知识不确定性的表示2 2、证据的不确定性表示、证据的不确定性表示2.2.计算问题计算问题1 1、不确定性的传递算法、不确定性的传递算法2 2、结论不确定性的合成、结论不确定性的合成3 3、组合证据的不确定性算法、组合证据的不确定性算法3.3.语义问题语义问题1 1、知识的不确定性度量、知识的不确定性度量2 2、证据的不确定性度量、证据的不确定性度量4.2 4.2 不确定性推理方法分类不确定性推理方法分类1 1、模型方法、模型方法 特点特点:把不确定的证据和不确定的知识分别与某把不确定的证据和不确定的知识分别与某种度量标准对应起来,并且给出更新结论不确定性的种度量标准对应起来,并且
3、给出更新结论不确定性的算法,从而构成了相应的不确定性推理的模型。算法,从而构成了相应的不确定性推理的模型。非数值方法是指出数值方法外的其他各种处非数值方法是指出数值方法外的其他各种处理不确定性的方法理不确定性的方法 ,它采用集合来描述和处它采用集合来描述和处理不确定性,而且满足概率推理的性质。理不确定性,而且满足概率推理的性质。非数值非数值方法方法数值方法是对不确定性的一种定量表示和数值方法是对不确定性的一种定量表示和处理方法。处理方法。数值方法数值方法数值方法数值方法分类分类2 2、模糊推理、模糊推理1 1、基于概基于概率的方法率的方法 对于数值方法,按其依据的理论不同又可分为对于数值方法,
4、按其依据的理论不同又可分为以下两类:以下两类:4.2 4.2 不确定性推理方法分类不确定性推理方法分类4.2 4.2 不确定性推理方法分类不确定性推理方法分类 纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验纯概率方法虽然有严密的理论依据,但它通常要求给出事件的先验概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为概率和条件概率,而这些数据又不易获得,因此其应用受到了限制。为了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法了解决这这个问题,人们在概率理论的基础上发展起来了一些新的方法及理论及理论:1 1、主观、主观BayesBayes方法方法2 2、可信度方
5、法、可信度方法3 3、证据理论、证据理论它是它是PROSPECTORPROSPECTOR专专家系统中使用的不家系统中使用的不确定推理模型,是确定推理模型,是对对BayesBayes公式修正公式修正后形成的一种不确后形成的一种不确定推理方法。定推理方法。它是它是MYCINMYCIN专家系专家系统中使用的不确定统中使用的不确定推理模型,它以确推理模型,它以确定性理论为基础,定性理论为基础,方法简单、易用。方法简单、易用。它通过定义信任它通过定义信任函数、似然函数,函数、似然函数,把知道和不知道把知道和不知道区别开来。区别开来。4.2 4.2 不确定性推理方法分类不确定性推理方法分类2 2、控制方法
6、控制方法 特点特点:通过识别领域中引起不确定性的某些特征及通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的相应的控制策略来限制或减少不确定性对系统产生的影响,这类方法没有处理不确定性的统一模型,其效影响,这类方法没有处理不确定性的统一模型,其效果极大地依赖于控制策略。果极大地依赖于控制策略。相关性制相关性制导回溯导回溯 机缘控制机缘控制 启发式启发式搜索搜索 设有如下产生式规则:设有如下产生式规则:IF IF E E THEN THEN H H其中,其中,E E为前提条件,为前提条件,H H为结论,具有随机性。为结论,具有随机性。根据概率论中条件概率的含义,
7、我们可以用条件概率根据概率论中条件概率的含义,我们可以用条件概率表示上述产生式规则的不确定性程度,即表示为在证据表示上述产生式规则的不确定性程度,即表示为在证据出现的条件下,结论出现的条件下,结论H H成立的确定性程度。成立的确定性程度。对于复合条件对于复合条件 E E=E E1 1 ANDAND E E2 2 ANDAND ANDAND EnEn可以用条件概率作为在证据出现时结论的确定程度。可以用条件概率作为在证据出现时结论的确定程度。4.3 4.3 概率方法概率方法4.3.1 4.3.1 经典概率方法经典概率方法4.3 4.3 概率方法概率方法4.3.2 4.3.2 BayesBayes定
8、理定理 设设 为一些事件,为一些事件,互不互不相交,相交,P P(BiBi)0)0,i i=1,2,=1,2,n n,且,且 则对于则对于 有,有,(4.3.1)(4.3.1)()(|)(|)()(|)kkkiiiP B P A BP BAP B P A B12,nA B BB12()0,nP AB BBiiBP)1(BayesBayes公式容易由条件概率的定义、乘法公式和全公式容易由条件概率的定义、乘法公式和全概率公式得到。在概率公式得到。在BayesBayes公式中,称为先验概率,而称公式中,称为先验概率,而称为后验概率,也就是条件概率。为后验概率,也就是条件概率。1,2,kn4.3 4.
9、3 概率方法概率方法4.3.3 4.3.3 逆概率方法的基本思想逆概率方法的基本思想1 1单个证据的情况单个证据的情况 如果用产生式规则如果用产生式规则 IF IF E E THEN THEN H Hi i i i 1,2,1,2,n n其中前提条件其中前提条件E E 代替代替BayesBayes公式中公式中B B,用,用H Hi i 代替公式中的代替公式中的A Ai i 就可得到就可得到 i i1,2,1,2,n n (4.3.2)(4.3.2)这就是说,当已知结论这就是说,当已知结论HiHi 的先验概率,并且已知结论的先验概率,并且已知结论Hi(iHi(i=1,2,=1,2,)成立时前提条
10、件成立时前提条件E E 所对应的证据出现的条件概率所对应的证据出现的条件概率P(E|HiP(E|Hi),就可以用上,就可以用上式 求 出 相 应 证 据 出 现 时 结 论式 求 出 相 应 证 据 出 现 时 结 论H iH i 的 条 件 概 率的 条 件 概 率P(H i|EP(H i|E)。1(|)()(|)(|)()iiinjjjP E H P HP HEP E HP H4.3 4.3 概率方法概率方法2 2多个证据的情况多个证据的情况 对于有多个证据对于有多个证据 和多个结论和多个结论 并且每个证据都以一定程度支持结论的情况,上面的并且每个证据都以一定程度支持结论的情况,上面的式子
11、可进一步扩充为式子可进一步扩充为 (4.3.3)(4.3.3)12,mE EE12,nHHH1212121(/)(/)(/)()(/)(/)(/)(/)()iimiiimnjjmjjjP E H P EHP EH P HP HEEEP E H P EHP EH P H 逆概率公式的优点是它有较强的理论背景和良好逆概率公式的优点是它有较强的理论背景和良好的数学特征,当证据及结论彼此独立时计算的复杂度的数学特征,当证据及结论彼此独立时计算的复杂度比较低。其缺点是要求给出结论比较低。其缺点是要求给出结论 的先验概率的先验概率 及及证据证据 的条件概率的条件概率 ,尽管有些时候,尽管有些时候 比比 相
12、对容易得到,但总的来说,要想得到这相对容易得到,但总的来说,要想得到这些数据仍然是一件相当困难的工作。另外,些数据仍然是一件相当困难的工作。另外,BayesBayes公式公式的应用条件是很严格的,它要求各事件互相独立等,的应用条件是很严格的,它要求各事件互相独立等,如若证据间存在依赖关系,就不能直接使用这个方法。如若证据间存在依赖关系,就不能直接使用这个方法。4.3 4.3 概率方法概率方法()iP HjE4.3.4 4.3.4 逆概率方法的优缺点逆概率方法的优缺点iH(/)jiP EH(/)ijPHE(/)jiP EH4.4 4.4 主观主观BayesBayes方法方法4.4.1 4.4.1
13、 知识不确定性的表示知识不确定性的表示 在主观在主观BayesBayes方法中,知识是用产生式规则表示的,具体方法中,知识是用产生式规则表示的,具体形式为形式为 IF E THEN (LSIF E THEN (LS,LN)H (P(H)LN)H (P(H)其中其中(1 1)E E 是该知识的前提条件。它既可以是一个简单条件,也可是该知识的前提条件。它既可以是一个简单条件,也可以是复合条件。以是复合条件。(2 2)H H 是结论。是结论。P(H)P(H)是是 H H 的先验概率,它指出在没有任何证据的先验概率,它指出在没有任何证据情况下的结论情况下的结论 H H 为真的概率,即为真的概率,即 H
14、 H 的一般可能性。其值由领的一般可能性。其值由领域专家根据以往的实践及经验给出。域专家根据以往的实践及经验给出。(3 3)(LSLS,LNLN)为规则强度。其值由领域专家给出。为规则强度。其值由领域专家给出。LSLS,LNLN相相当于知识的静态强度。当于知识的静态强度。4.4 4.4 主观主观BayesBayes方法方法4.4.2 4.4.2 证据不确定性的表示证据不确定性的表示 若以若以O(A)O(A)或或P P(A A)表示证据表示证据A A的不确定性,则转换公式的不确定性,则转换公式是:是:0()()1()0,P AO AP A当A为假时当A为真时当A介于真假之间时4.4 4.4 主观
15、主观BayesBayes方法方法4.4.3 4.4.3 不确定性的遗传算法不确定性的遗传算法1 1证据肯定存在的情况证据肯定存在的情况 在证据在证据E E 肯定存在时,把先验几率肯定存在时,把先验几率O O(H H)更新为后验更新为后验几率几率O O(H H/E E)的计算公式为的计算公式为 (4.4.1)(4.4.1)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.2)(4.4.2)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H/E E)的计算公式。的计算公式。(/)()O H ELSO H()(/)(1)()1LSP HP H E
16、LSP H4.4 4.4 主观主观BayesBayes方法方法2 2证据肯定不存在的情况证据肯定不存在的情况 在证据在证据E E肯定不存在时,把先验几率肯定不存在时,把先验几率O(H)O(H)更新为后验更新为后验几率几率O O(H H/E E)的计算公式为的计算公式为 (4.4.3)(4.4.3)如果将上式换成概率,就可得到如果将上式换成概率,就可得到 (4.4.4)(4.4.4)这是把先验概率这是把先验概率P P(H H)更新为后验概率更新为后验概率P P(H H/E E)的计算公式。的计算公式。(/)()O HELNO H()(/)(1)()1LNP HP HELNP H4.4 4.4 主
17、观主观BayesBayes方法方法3 3证据不确定的情况证据不确定的情况 在证据不确定的情况下,不能再用上面的公式计算在证据不确定的情况下,不能再用上面的公式计算后验概率,而要用杜达等人后验概率,而要用杜达等人19761976年证明了的公式年证明了的公式 (4.4.5)(4.4.5)来计算。来计算。(/)(/)(/)(/)(/)P H SP H EP E SP HEPE S下面分四种情况讨论这个公式下面分四种情况讨论这个公式(4.4.5)(4.4.5):(1 1)当)当P(E/S)=1P(E/S)=1时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定存在的情况。这就是证据肯
18、定存在的情况。(2 2)当)当P(E/S)=0P(E/S)=0时,此时式时,此时式(4.4.5)(4.4.5)变成变成这就是证据肯定不存在的情况。这就是证据肯定不存在的情况。4.4 4.4 主观主观BayesBayes方法方法()(/)(/)(1)()1LSP HP H SP H ELSP H1)()1()()/()/(HPLNHPLNEHPSHP(3 3)当)当P(E/S)=P(E)P(E/S)=P(E)时,表示时,表示E E与与S S无关,利用全概率公式无关,利用全概率公式将公式将公式(4.4.5)(4.4.5)变为变为(4 4)当)当P(E/S)P(E/S)为其它值时,通过分段线性插值就
19、可得计为其它值时,通过分段线性插值就可得计算算P(H/S)P(H/S)的公式的公式 该公式称为该公式称为EHEH公式或公式或UEDUED公式。公式。4.4 4.4 主观主观BayesBayes方法方法(/(/)()(/)()()P H SP H EP EP HEPEP H)()(/)(/)(/)()0(/)()(/)(/)()()(/)1()(/)()1()P HP HEP HEP E SP EP E SP EP H SP H EP HP EP E SP HP E SP EP E当当 4 4组合证据的情况组合证据的情况 (1 1)当组合证据是多个单一证据的合取时,即)当组合证据是多个单一证据的
20、合取时,即 E E=E E1 and 1 and E E2 and 2 and andand EnEn 时,如果已知时,如果已知 则则 P P(E E/S S)=)=minmin (2 2)当组合证据)当组合证据E E是多个单一证据的析取时,即是多个单一证据的析取时,即 E E=E E1 or 1 or E E2 or 2 or oror EnEn 时,如果已知时,如果已知 则,则,P P(E E/S S)=)=maxmax “非非”运算用下式计算运算用下式计算 4.4 4.4 主观主观BayesBayes方法方法12(/),(/),(/),nP ESP ESP ES12(/),(/),(/)
21、nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES12(/),(/),(/)nP ESP ESP ES(/)1(/)PESP ES 若有若有n n条知识都支持相同的结论条知识都支持相同的结论,而且每条知识的,而且每条知识的前提条件所对应的证据前提条件所对应的证据 都有相应的观察都有相应的观察 与之对应,此时只要先对每条知识分别求出与之对应,此时只要先对每条知识分别求出 然后就可运用下述公式求出然后就可运用下述公式求出4.4 4.4 主观主观BayesBayes方法方法iS(/)iO HS4.4.4 4.4.4 结论不确定性的合成算法结论不确定性的合成算法iS(1,2
22、,)iE in12(/,)nO H S SS12121212,1,2(/)(/)(/)(/,)()()()()(/,)(/,)1(/,)nnnnnO H SO H SO H SO H S SSO HO HO HO HO H S SSP H S SSO H S SS 4.4 4.4 主观主观BayesBayes方法方法例例2 2 设有如下知识设有如下知识R R1 1:IF IF A A THEN(20 THEN(20,1)1)B B1 1(0.03)(0.03)R R2 2:IF IF B B1 1 THEN(300 THEN(300,0.0001)0.0001)B B2 2(0.01)(0.0
23、1)求:当证据求:当证据A A不存在时不存在时,P(BP(B2 2/A)A)的值是多少?的值是多少?解解:(1 1)由于)由于A A必发生,由必发生,由R R1 1得得111()200.03(/)0.3822(1)()1(201)0.031LSP BP BALSP B (2 2)由于)由于B B1 1不是必发生的,所以需作插值处理。不是必发生的,所以需作插值处理。21212()300 0.01(/)1(/)0.75188(1)()1(300 1)0.03 1LS P BP B AP B BLSP B 设设4.4.5 4.4.5 例子例子 4.4 4.4 主观主观BayesBayes方法方法11
24、(/)()0.03P BAP B2()0.01P B1(/)0.03,1P BA 20.751880.01(/)0.01(0.38220.03)0.30510510.03P BA当当时,有时,有,所以在此区间插值。,所以在此区间插值。由于由于 主观主观BayesBayes方法的主要优点如下:方法的主要优点如下:(1 1)主观)主观BayesBayes方法中的计算公式大多是在概率论的基方法中的计算公式大多是在概率论的基础上推导出来的,具有较坚实的理论基础。础上推导出来的,具有较坚实的理论基础。(2 2)知识的静态强度)知识的静态强度LSLS及及LNLN是由领域专家根据实验经验是由领域专家根据实验
25、经验给出的,这就避免了大量的数据统计工作。另外,它给出的,这就避免了大量的数据统计工作。另外,它既用既用LSLS指出了证据指出了证据E E对结论对结论H H的支持程度,又用的支持程度,又用LNLN指出指出了了E E对对H H的必要性程度,这就比较全面地反映了证据与的必要性程度,这就比较全面地反映了证据与结论间因果关系,符合现实世界中某些领域的实际情结论间因果关系,符合现实世界中某些领域的实际情况,使推出的结论有较况,使推出的结论有较准确的确定性。准确的确定性。4.4 4.4 主观主观BayesBayes方法方法4.4.6 4.4.6 主观主观BayesBayes方法的主要优缺点方法的主要优缺点
26、(3 3)主观)主观BayesBayes方法不仅给出了在证据肯定存在或肯定方法不仅给出了在证据肯定存在或肯定不存在情况下由不存在情况下由H H的先验概率更新为后验概率的方法,的先验概率更新为后验概率的方法,而且还给出了在证据不确定情况下更新先验概率为后验而且还给出了在证据不确定情况下更新先验概率为后验概率的方法。另外,由其推理过程可以看出,它确实实概率的方法。另外,由其推理过程可以看出,它确实实现了不确定性的逐级传递。因此,可以说主观现了不确定性的逐级传递。因此,可以说主观BayesBayes方方法是一种比较实用且较灵活的不确定性推理方法。法是一种比较实用且较灵活的不确定性推理方法。它的主要缺
27、点如下它的主要缺点如下(1 1)要求领域专家在给出知识的同时给出)要求领域专家在给出知识的同时给出H H的先验概率的先验概率P(H)P(H),这是比较困难的。,这是比较困难的。(2 2)BayesBayes方法中关于事件间独立性的要求使主观方法中关于事件间独立性的要求使主观BayesBayes方法的应用受到了限制。方法的应用受到了限制。4.4 4.4 主观主观BayesBayes方法方法 所谓可信度就是在实际生活中根据自己的经验对某一事所谓可信度就是在实际生活中根据自己的经验对某一事物或现象进行观察,判断相信其为真得程度。物或现象进行观察,判断相信其为真得程度。例如,张三昨天没有上课,他的理由
28、是肚子疼,就此理由例如,张三昨天没有上课,他的理由是肚子疼,就此理由而言,听话的人可能完全相信,也可能完全不相信,也可能而言,听话的人可能完全相信,也可能完全不相信,也可能在某种程度上相信,这与张三平时的表现和人们对他的话相在某种程度上相信,这与张三平时的表现和人们对他的话相信程度有关。信程度有关。这里的相信程度就是我们说的可信度。可信度也称为确定这里的相信程度就是我们说的可信度。可信度也称为确定性因子。性因子。4.5 4.5 可信度方法可信度方法4.5.1 4.5.1 可信度的概念可信度的概念 在以产生式作为知识表示的专家系统在以产生式作为知识表示的专家系统MYCINMYCIN中,用中,用以
29、度量知识和证据的不确定性。以度量知识和证据的不确定性。显然,可信度具有较大的主观性和经验性,其准显然,可信度具有较大的主观性和经验性,其准确性是难以把握的。但是,对于某一具体领域而言,由确性是难以把握的。但是,对于某一具体领域而言,由于该领域的专家具有丰富的专业知识和实践经验,要给于该领域的专家具有丰富的专业知识和实践经验,要给出该领域知识的可信度还是完全有可能的。另外,人工出该领域知识的可信度还是完全有可能的。另外,人工智能所面临的问题,通常都较难用精确的数学模型进行智能所面临的问题,通常都较难用精确的数学模型进行描述,而且先验概率及条件概率的确定也比较困难,因描述,而且先验概率及条件概率的
30、确定也比较困难,因此用可信度来表示知识及证据的不确定性仍然不失为一此用可信度来表示知识及证据的不确定性仍然不失为一种可行的方法。种可行的方法。4.5 4.5 可信度方法可信度方法4.5 4.5 可信度方法可信度方法4.5.2 C-F4.5.2 C-F模型模型 C-F C-F模型是基于可信度表示的不确定性推理的基本方法,模型是基于可信度表示的不确定性推理的基本方法,其他可信度方法都是在此基础上发展起来的。其他可信度方法都是在此基础上发展起来的。1 1知识不确定性的表示知识不确定性的表示 2 2证据不确定性的表示证据不确定性的表示3 3组合证据不确定性的算法组合证据不确定性的算法 4 4不确定性的
31、传递算法不确定性的传递算法 5 5结论不确定性的合成算法结论不确定性的合成算法 4.5 4.5 可信度方法可信度方法4.5.3 4.5.3 可信度方法应用举例可信度方法应用举例 已知已知 R R1 1:IF IF A A1 1 THEN THEN B B1 1 CF(CF(B B1 1,A,A1 1)=0.8)=0.8;R R2 2:IF :IF A A2 2 THEN THEN B B1 1 CF(CF(B B1 1,A,A2 2)=0.5)=0.5;R R3 3:IF :IF B B1 1A A3 3 THEN THEN B B2 2 CF(CF(B B2 2,B B1 1A A3 3)=
32、0.8;)=0.8;初始证据为初始证据为A A1 1,A,A2 2,A,A3 3的可信度的可信度CFCF均设为均设为1 1,即即,CF(,CF(A A1 1)=CF()=CF(A A2 2)=CF()=CF(A A3 3)=1,)=1,对对B B1 1,B,B2 2一无所知一无所知,求求CF(CF(B B1 1)和和CF(CF(B B2 2)。例例4.5.14.5.14.5 4.5 可信度方法可信度方法 解解:由于对由于对B B1 1,B B2 2一无所知,所以使用合成算法进行计算。一无所知,所以使用合成算法进行计算。由题意得到推理网络如下图所示。由题意得到推理网络如下图所示。B B2 2B
33、B1 1A A3 3A A1 1A A2 24.5 4.5 可信度方法可信度方法(1)(1)对于知识对于知识 ,分别计算分别计算 12,RR1()CF B1111121122()(,)max0,()0.8 10.8()(,)max0,()0.5 10.5CF BCF B ACF ACF BCF B ACF A (2)(2)利用合成算法计算利用合成算法计算 的综合可信度的综合可信度1B1,211211121()()()()0.80.50.80.50.9CFCF BCF BCF BCF B(3)(3)计算计算 的可信度,这时,的可信度,这时,作为作为 的证据,其可信度已由的证据,其可信度已由前面计
34、算出来。前面计算出来。CF()=0.9CF()=0.9,而,而 的可信度为初始制定的的可信度为初始制定的1 1。由规则由规则 和公式和公式(4.5.1)(4.5.1)得到得到 2B1B2B1B3A3R所以,所求得的所以,所求得的 ,的可信度更新值分别为的可信度更新值分别为12()0.9,()0.72CF BCF B1B2B72.09.0,0max8.0)(,0max),()(313122ABCFABBCFBCF4.6 4.6 证据理论证据理论4.6.1 4.6.1 基本概念基本概念 证据理论假设有一个不变的两两相斥的完备元素集合证据理论假设有一个不变的两两相斥的完备元素集合U U,如下图所示,
35、这里如下图所示,这里U U为为 12,nUA AA例如例如,U U=三轮车,汽车,火车三轮车,汽车,火车 U U=赤,橙,黄,绿,青,蓝,紫赤,橙,黄,绿,青,蓝,紫 U U=马,牛,羊,鸡,狗,兔马,牛,羊,鸡,狗,兔 图图4.4 4.4 证据理论说明图证据理论说明图4.6 4.6 证据理论证据理论4.6.2 D-S4.6.2 D-S理论理论 证据理论是用集合表示命题的。设证据理论是用集合表示命题的。设D D是变量是变量x x所有可能所有可能取值的集合,且取值的集合,且D D中的元素是互斥的,在任一时刻中的元素是互斥的,在任一时刻x x都取都取D D中中的某一个元素为值,则称的某一个元素为值
36、,则称D D为为x x的样本空间。在证据理论中,的样本空间。在证据理论中,D D的任何一个子集的任何一个子集A A都对应于一个关于都对应于一个关于x x的命题,称该命题为的命题,称该命题为“x x的值在的值在A A中中”。证据理论中,为了描述和处理不确定性,引入了概率分证据理论中,为了描述和处理不确定性,引入了概率分配函数、信任函数及似然函数等概念。配函数、信任函数及似然函数等概念。设设D D为样本空间,领域内的命题都用为样本空间,领域内的命题都用D D的子集表示,则概的子集表示,则概率分配函数(率分配函数(Function of Probability AssignmentFunction
37、of Probability Assignment)定义)定义如下。如下。定义定义4.6.1 4.6.1 设函数设函数M M:,且满足且满足则称则称M M是是 上的概率分配函数,上的概率分配函数,M M(A A)称为称为A A的基本概率的基本概率函数(函数(Function of Basic Probability AssignmentFunction of Basic Probability Assignment),),即对于样本空间即对于样本空间D D的任一子集都分配一个概率值。的任一子集都分配一个概率值。4.6 4.6 证据理论证据理论20,1D()0M ()1ADM A1 1、概率分配
38、函数、概率分配函数2D 定义定义4.6.2 4.6.2 设函数设函数BelBel:,且且 ()则称为命题则称为命题A A的信任函数(的信任函数(Function of BeliefFunction of Belief),即命题即命题A A的信任函数值,就是的信任函数值,就是A A的所有子集的基本概率分配函数之和,的所有子集的基本概率分配函数之和,用来表示对用来表示对A A的总信任。的总信任。BelBel函数又称为下限函数,以函数又称为下限函数,以BelBel(A A)表示对命题表示对命题A A为真的信任程度。为真的信任程度。4.6 4.6 证据理论证据理论20,1D()()BABel AM B
39、2.2.信任函数信任函数2DA 似然函数(似然函数(Plausible FunctionPlausible Function)又称为不可驳斥)又称为不可驳斥函数或上限函数,下面给出它的定义。函数或上限函数,下面给出它的定义。定义定义4.6.3 4.6.3 似然函数似然函数:,:,且且 ()命题命题A A的似然函数值就是所有与的似然函数值就是所有与A A相交的子集的基本概相交的子集的基本概率分配函数之和,用来表示不否定率分配函数之和,用来表示不否定A A的信任度。的信任度。4.6 4.6 证据理论证据理论()1()Pl ABelA 3.3.似然函数似然函数 1,02:Dpl2DA 因为因为 ,所
40、以,所以即即 由于由于 表示对表示对A A为真的信任程度,为真的信任程度,表表示对示对A A为非假的信任程度,因此可分别称为非假的信任程度,因此可分别称 和和 为对为对A A信任程度的下限和上限,记作信任程度的下限和上限,记作4.6 4.6 证据理论证据理论()()()()()1BACAEDBel ABelAM BM CM E()()1()()Pl ABel ABelABel A 1()()0BelABel A 4 4信任函数与似然函数的关系信任函数与似然函数的关系()()Pl ABel A()Bel A()Pl A(),()A Bel A Pl A()Bel A()Pl A 有时对同样的证据
41、会得出两个不同的概率分配函数。有时对同样的证据会得出两个不同的概率分配函数。例如,对于样本空间例如,对于样本空间 ,从不同的来源可分别得,从不同的来源可分别得到如下两个概率分配函数:到如下两个概率分配函数:此时需要对它们进行组合,德普斯特提出的组合方法此时需要对它们进行组合,德普斯特提出的组合方法可对这两个概率分配函数进行正交和运算。可对这两个概率分配函数进行正交和运算。4.6 4.6 证据理论证据理论,Da b5 5概率分配函数的正交和概率分配函数的正交和11112222()0.3,()0.6,(,)0.1,()0()0.4,()0.4,(,)0.2,()0MaMbMa bMMaMbMa b
42、M4.6 4.6 证据理论证据理论12MM和 设设 是两个概率分配函数,则其正交和是两个概率分配函数,则其正交和 为为 其中,其中,。如果如果 ,则正交和则正交和M M也是一个概率分配函数;也是一个概率分配函数;如果如果K K0,0,则不存在正交和则不存在正交和M M,称,称 矛盾。矛盾。定义定义4.6.44.6.412MMM0)(MAYXYMXMKAM)()()(211YXYXYMXMYMXMK)()()()(121210K 12MM和4.6 4.6 证据理论证据理论定义定义4.6.54.6.5 对于多个概率分配函数对于多个概率分配函数 ,如果它们,如果它们可以组合,则也可通过正交和运算将它
43、们组合为一个概率可以组合,则也可通过正交和运算将它们组合为一个概率分配函数,其定义如下。分配函数,其定义如下。12,nMMM 设设 是是n n个概率分配函数,则其正交个概率分配函数,则其正交 和和 为为其中,其中,。12,nM MM12nMMMM11()0()()iiiAAi nMM AKMA 1()iiiAinKMA 4.6 4.6 证据理论证据理论定义定义4.6.54.6.56 6类概率函数类概率函数 除了可以利用区间除了可以利用区间(BelBel(A A)和和 )表示表示A A的不确定性的不确定性以外,还可以用以外,还可以用A A的类概率函数表示的类概率函数表示A A的不确定性。的不确定
44、性。定义定义4.6.6 4.6.6 命题命题A A的类概率函数为的类概率函数为 其中,分别是其中,分别是A A及及D D中元素的个数。中元素的个数。具有如下性质:具有如下性质:()Pl A()()()()Af ABel APl ABel AD()f A(1)()0;(2)()1;(3),0()1ff DADf A 对于任何有4.6 4.6 证据理论证据理论4.6.3 4.6.3 知识的不确定性的表示知识的不确定性的表示 在该模型中,不确定性知识用如下的产生式规则表示:在该模型中,不确定性知识用如下的产生式规则表示:IF IF E E THEN CF=THEN CF=其中,其中,(1 1)E E
45、为前提条件,它是样本空间为前提条件,它是样本空间D D的子集。的子集。E E既可以是简单既可以是简单条件,也可以是用条件,也可以是用ANDAND或或OROR连接起来的复合条件。连接起来的复合条件。(2 2)H H是结论,它用样本空间中的子集表示,是结论,它用样本空间中的子集表示,是该子集中的元素。是该子集中的元素。(3 3)CF CF 是可信度因子,用集合形式表示,其中,用来指出是可信度因子,用集合形式表示,其中,用来指出 的可信度,的可信度,与与 一一对应一一对应,应满足如下条件应满足如下条件12,nHh hh12,nc cc12,nh hhic(1,2,)ih inicihic0(1,2,
46、)icinniic114.6 4.6 证据理论证据理论4.6.4 4.6.4 证据的不确定性的表示证据的不确定性的表示 不确定性证据不确定性证据E E的确定性用的确定性用CER(CER(E E)表示。对于初始证据,其表示。对于初始证据,其确定性由用户给出;当用前面推理所得结论作为当前推理的证确定性由用户给出;当用前面推理所得结论作为当前推理的证据时,其确定性由推理得到。据时,其确定性由推理得到。CER(CER(E E)的取值范围为的取值范围为 。1 1 组合证据不确定性的算法组合证据不确定性的算法 当组合证据是多个证据的合取,即当组合证据是多个证据的合取,即 时,时,则则E E的确定性的确定性
47、CER(CER(E E)为为 当组合证据是多个证据的析取,即当组合证据是多个证据的析取,即 时,时,则则E E的确定性的确定性CER(CER(E E)为为0,112nEE ANDE ANDANDE12()min(),(),()nCER ECER ECER ECER E12nEE ORE ORORE12()max(),(),()nCER ECER ECER ECER E4.6 4.6 证据理论证据理论2 2 不确定性的传递算法不确定性的传递算法 1 1)如果只有一条知识支持结论)如果只有一条知识支持结论H H,即,即 IF IF E E THEN THEN 结论结论H H的确定性通过下述步骤求出
48、。的确定性通过下述步骤求出。对于上述知识,对于上述知识,H H的概率分配函数规定为的概率分配函数规定为这样便求得这样便求得M M(H H)。12,nHh hh12,nCFc cc121211(,)(),(),()()1()nnniMhhhCER Ec CER EcCER EcM DCER Ec 4.6 4.6 证据理论证据理论 2 2)如果有两条知识支持同一结论,即)如果有两条知识支持同一结论,即 IF THEN IF THEN IF THEN IF THEN 结论结论H H的确定性通过下述步骤求出。的确定性通过下述步骤求出。首先分别对每一条知识求出概率分配函数:首先分别对每一条知识求出概率分
49、配函数:然后再用公式然后再用公式对对 求正交和,从而得到求正交和,从而得到H H的概率分配函数的概率分配函数M M。1E12,nHh hh2E12,nHh hh11121,nCFc cc21222,nCFccc112212(,)(,)nnMhhhMhhh12MMM12MM与4.6 4.6 证据理论证据理论 3 3)如果有)如果有n n条知识都支持同一结论条知识都支持同一结论H H,则用公式,则用公式 对对 求其正交和,从而得到求其正交和,从而得到H H的概率分配的概率分配函数函数M M。最后求出最后求出12nMMMM12,nMMM(),()()Bel HPl Hf H及11()()()1()(
50、)()()()niBel HMhPl HBelHHf HBel HPl HBel HD()()HBel HM DD4.6 4.6 证据理论证据理论 4 4)按如下公式求出)按如下公式求出H H的确定性的确定性CERCER(H H)CER CER(H H)=)=MDMD(H H/E E)f f(H H)其中,其中,MDMD(H H/E E)是知识的前提条件与相应证据是知识的前提条件与相应证据E E的匹配的匹配度,定义为度,定义为MDMD(H H/E E)这样,就对一条知识或者多条有相同结论的知识这样,就对一条知识或者多条有相同结论的知识求出了结论的确定性。如果该结论不是最终结论,即求出了结论的确