1、1.不确定性推理概论 不确定性及其类型 不确定性推理概念2.不确定性推理中的基本问题 表示问题 计算问题3.不确定性推理方法分类4.经典的不确定性推理模型 可信度方法 主观贝叶斯方法2023-4-261不确定性:由于客观世界的复杂、多变性和人类自身认识的局限、主观性,致使我们所获得、所处理的信息和知识中,往往含有不肯定、不准确、不完全甚至不一致的成分。事实上,不确定性大量存在于我们所处的信息环境中,例如人的日常语言中就几乎处处含有不确定性(瞧!这句话本身就含有不确定性:什么叫“几乎”?)。不确定性也大量存在于我们的知识特别是经验性知识之中。2023-4-2621、(狭义)不确定性:一个命题的真
2、实性不能完全肯定,而只能对其为真的可能性给出某种估计。2、不确切性(模糊性):一个命题中所出现的某些言词其含意不够确切,从概念角度讲,也就是其代表的概念的内涵没有硬性的标准或条件。3、不完全性:对某些事物,关于它的 信息或知识还不全面、不完整、不充分。4、不一致性:在推理过程中发生了前后不相容的结论,或者随着时间的推移或者范围的扩带,原来的一些成立的命题就变得不合适、不成立了。2023-4-263 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理,模糊知识的推理,非单调性推理等。不确定性推理过程实际上是一种从不确定的初始证据出发,通过运用不确定性知识,最终推出具有
3、一定不确定性但却又是合理或基本合理的结论的思维过程。2023-4-264 要实现对不确定性知识的处理,必须要解决不确定知识的表示问题,不确定信息的计算问题,以及不确定性表示和计算的语义解释问题。1表示问题表达要清楚。表示方法规则不仅仅是数,还要有语义描述。2.计算问题不确定性的传播和更新。也是获取新信息的过程。3.语义问题将各个公式解释清楚。2023-4-265一、知识的不确定性表示 知识不确定性的表示方式是与不确定性推理方法密切相关的一个问题。在选择知识的不确定性表示时,通常需要考虑以下两个方面的因素:要能够比较准确地描述问题本身的不确定性便于推理过程中不确定性的计算2023-4-266(1
4、)狭义不确定性知识的表示 我们只讨论随机性产生式规则的表示。对于狭义不确定性,一般采用信度(或称可信度可信度)来刻划。一个命题的信度是指该命题为真的可信程度。例如,(这场球赛甲队取胜,0.9)这里的0.9就是命题“这场球赛甲队取胜”的可信度。它表示“这场球赛甲队取胜”这个命题为真(即这个事件发生)的可能性程度是0.9。在实际应用中,知识的不确定性是由领域专家给出的。2023-4-267(2)不确切性知识的表示 对于不确切性,一般采用程度或集合来刻划。所谓程度就是一个命题中所描述的事物的属性、状态和关系等的强度。例如,我们用三元组(张三,体型,(胖,0.9))表示命题“张三比较胖”,其中的0.9
5、就代替“比较”而刻划了张三“胖”的程度。这种程度表示法,一般是一种针对对象的表示法。其一般形式为(,(,))2023-4-268二、证据的不确定性的表示二、证据的不确定性的表示推理中的证据有两种来源:一种是用户在求解问题时所提供的初始证据,如病人的症状、检查结果等;另一种是在推理中得出的中间结果,即把当前推理中所得到的中间结论放入综合数据库,并作为以后推理的证据来使用。一般来说,证据的不确定性表示应该与知识的不确定性表示保持一致,以便推理过程能对不确定性进行统一处理。证据的不确定性可以用概率来表示,也可以用可信度等来表示,其意义与知识的不确定性类似。2023-4-269(1)组合证据的不确定性
6、如何由两个证据A1和A2的可信度度量P(A1)、P(A2)计算“与”、“或”逻辑计算结果的可信度度量:P(A1A2)=f(P(A1),P(A2)、P(A1A2)=f(P(A1),P(A2)最大最小法:P(A1A2)min(P(A1),P(A2)P(A1A2)max(P(A1),P(A2)概率方法:P(A1A2)P(A1)P(A2)P(A1A2)P(A1)+P(A2)-P(A1)P(A2)有界方法:P(A1A2)max(0,P(A1)+P(A2)-1)P(A1A2)min(1,P(A1)+P(A2)2023-4-2610(2)结论不确定性的合成 用多个不同知识推理得到了 相同的结论,但不确定性程
7、度不同。系统需要将相同结论的多个不确定性进行综合,即对不确定性进行合成。结论不确定合成的方法也很多,一般视不同推理方法而定2023-4-2611关于不确定性推理的类型由多种不同的分类方关于不确定性推理的类型由多种不同的分类方法,如果按照是否采用数值来描述非精确性,法,如果按照是否采用数值来描述非精确性,可将其分为数值方法和非数值方法两大类型。可将其分为数值方法和非数值方法两大类型。非数值方法是指出数值方法外的其他各种处理不确定性的方法,它采用集合来描述和处理不确定性,而且满足概率推理的性质。非数值方法数值方法是对不确定性的一种定量表示和处理方法。数值方法2023-4-2612 对于数值方法,按
8、其依据的理论不同又可分为以下两类:1、基于概率的方法:是基于概率论的有关理论发展起来的方法,如可信度方法、主观Bayes方法、证据理论等;2、模糊推理:是基于模糊逻辑理论发展起来的可能性理论方法2023-4-26132023-4-2614规则的一般表示形式:IF E THEN H,CF (H,E)其中:E 表示规则的前提条件,即证据 H 表示规则的结论部分,即假设 C F(H,E)表示规则的精确程度或可信度。任何一个不确定性推理模型必须解决三个问题:前提(证据,事实)的不确定性描述 规则(知识)的不确定性描述 不确定性的更新算法2023-4-2615证据的不确定性 C F(E),表示证据E为真
9、的程度。需定义其在三种典型情况下的取值:E 为真 E 为假 对 E 一无所知 (该情况下的取值称为证据的单位元e(E)规则的不确定性 CF(H,E),表示规则的强度。需定义其在三种典型情况下的取值:若 E 为真,则H为真 若 E 为假,则H 为假 E对 H没有影响(该情况下的取值称为规则的单位元 e(H,E)2023-4-2616E.Short 和B.Buchanan 在MYCIN系统研制过程中产生了可信度方法,第一个采用了不确定推理逻辑,在70年代很有名。2023-4-2617所谓可信度就是在实际生活中根据自己的经验对某一事物或现象进行观察,判断相信其为真得程度。例如,张三昨天没有上课,他的
10、理由是肚子疼,就此理由而言,听话的人可能完全相信,也可能完全不相信,也可能在某种程度上相信,这与张三平时的表现和人们对他的话相信程度有关。这里的相信程度就是我们说的可信度。可信度也称为确定性因子。2023-4-2618 显然,可信度具有较大的主观性和经验性,其准确性是难以把握的。但是,对于某一具体领域而言,由于该领域的专家具有丰富的专业知识和实践经验,要给出该领域知识的可信度还是完全有可能的。另外,人工智能所面临的问题,通常都较难用精确的数学模型进行描述,而且先验概率及条件概率的确定也比较困难,因此用可信度来表示知识及证据的不确定性仍然不失为一种可行的方法。2023-4-2619 CF模型是基
11、于可信度表示的不确定性推理的基本方法,其它可信度方法都是在此基础上发展起来 其一般形式为:IF E THEN H,CF(H,E)CF(H,E)是该条知识的可信度,称为可信度因子或规则强度.它指出当前提条件E为真时,它对结论H为真的支持程度,CF(H,E)的值越大,就越支持结论H为真。证据的不确定性也是用可信度因子表示。证据E的可信度表示为CF(E).2023-4-2620-1 CF(H,E)1CF(B,A)的特殊值:CF(B,A)=1,前提真,结论必真CF(B,A)=-1,前提真,结论必假CF(B,A)=0,前提真假与结论无关实际应用中CF(B,A)的值由专家确定,并不是由P(B|A),P(B
12、)计算得到的。2023-4-2621 规则 E H,可信度表示为CF(H,E)。2023-4-2622(,)CF H E()()1()0()()()P H EP HP HP HP H EP H当P(H|E)P(H)当P(H|E)=P(H)当P(H|E)0,表示由于证据E的出现增加了对H的信任程度。当MD(H,E)0,表示由于证据E的出现增加了对H的不信任程度。由于对同一个证据E,它不可能既增加对H的信任程度又增加对H的不信任程度,因此,MB(H,E)与MD(H,E)是互斥的,即当MB(H,E)0时,MD(H,E)0;当MD(H,E)0时,MB(H,E)0。2023-4-2624 前提证据事实总
13、前提证据事实总CF值计算值计算 CF(E1E2En)minCF(E1),CF(E2),CF(En)CF(E1E2En)maxCF(E1),CF(E2),CF(En)其中E1,E2,En是与规则前提各条件匹配的事实。推理结论推理结论CF值计算值计算 CF(H)CF(H,E)max0,CF(E)其中E是与规则前提对应的各事实,CF(H,E)是规则中结论的可信度,即规则强度。2023-4-2625重复结论的重复结论的CF值计算值计算若同一结论H分别被不同的多条规则推出,但可信度不同,则可用合成算法求出综合可信度。多条知识的综合可通过两两的合成实现。当两条规则推出同一结论H时,CF(H)的计算:CF(
14、H)1CF(H)2CF(H)1CF(H)2 ,当CF(H)10,且CF(H)20CF(H)=CF(H)1CF(H)2CF(H)1CF(H)2 ,当CF(H)10,且CF(H)20 CF(H)1CF(H)2 ,否则 2023-4-2626已知R:IF(E1 or E2)and E3 THEN H (0.8),CF(E1)=0.4、CF(E2)=0.6、CF(E3)=0.7,求CF(H)。解:设E=(E1 or E2)and E3 CF(E1 or E2)=max(CF(E1),CF2(E2)=0.6 CF(E)=min(CF(E1 or E2),CF(E3)=0.6 CF(H)=CF(E)CF(
15、H,E)=0.60.8=0.48前提证据事实总前提证据事实总CF值计算值计算推理结论推理结论CF值计算值计算2023-4-2627R1:IF E1 THEN H CF(H,E1)=(0.8)R2:IF E2 THEN H CF(H,E2)=(0.7)CF(E1)=0.4、CF(E2)=0.6 解:CF1(H)=CF(E1)CF(H,E1)=0.4 0.8=0.32 CF2(H)=CF(E2)CF(H,E2)=0.6 0.7=0.42 CF(H)=0.32+0.42-0.320.42=0.6重复结论的重复结论的CF值计算值计算推理结论推理结论CF值计算值计算2023-4-2628 主观贝叶斯方法
16、是主观贝叶斯方法是R.O.Duda等人于等人于1976年提出的一种不年提出的一种不确定性推理模型确定性推理模型,并成功地应用于地质勘探专家系统并成功地应用于地质勘探专家系统PROSPECTOR。主观贝叶斯方法是以概率统计理论为基础。主观贝叶斯方法是以概率统计理论为基础,将贝叶斯将贝叶斯(Bayesian)公式与专家及用户的主观经验相结合而建公式与专家及用户的主观经验相结合而建立的一种不确定性推理模型。立的一种不确定性推理模型。1.不确定性度量不确定性度量主观贝叶斯方法的不确定性度量为概率主观贝叶斯方法的不确定性度量为概率P(x),另外还有三另外还有三个辅助度量个辅助度量:LS,LN和和O(x)
17、,分别称充分似然性因子、必要似然分别称充分似然性因子、必要似然性因子和几率函数。性因子和几率函数。2023-4-2629在在PROSPECTOR中中,规则一般表示为规则一般表示为 if E then(LS,LN)H(P(H)或者图示为或者图示为)(),(HPHELNLS其中其中,E为前提为前提(称为证据称为证据);H为结论为结论(称为假设称为假设);P(H)为为H为真的先验概率为真的先验概率;LS,LN分分别为充分似然性因子和必要似然性因子别为充分似然性因子和必要似然性因子,其定义为其定义为)|()|(HEPHEPLS(8-8)2023-4-2630)|()|(HEPHEPLN(8-9)前者刻
18、画前者刻画E为真时对为真时对H的影响程度的影响程度,后者刻画后者刻画E为假时对为假时对H的影响程度。的影响程度。另外另外,几率几率函数函数O(x)的定义为的定义为)(1)()()()(xPxPxPxPxO(8-10)它反映了一个命题为真的概率它反映了一个命题为真的概率(或假设的似然性或假设的似然性(likelihood)(likelihood)与其否定命题为真的与其否定命题为真的概率之比概率之比,其取值范围为其取值范围为0,+。2023-4-2631下面我们介绍下面我们介绍LS,LN的来历并讨论其取值范围和意义。的来历并讨论其取值范围和意义。由概率论中的贝叶斯由概率论中的贝叶斯公式公式)()|
19、()()|(EPHEPHPEHP有有)()|()()|(EPHEPHPEHP两式相除得两式相除得)|()()|()()|()|(HEPHPHEPHPEHPEHP2023-4-2632即即 LSHPHPEHPEHP)()()|()|(亦即亦即 O(H|E)=O(H)LS 从而从而)()|(HOEHOLS 由此式不难看出:由此式不难看出:LS1 LS1 当且仅当当且仅当O(H|E)O(H),O(H|E)O(H),说明说明E E以某种程度支持以某种程度支持H;H;LS1 LS1 当且仅当当且仅当O(H|E)O(H),O(H|E)11当且仅当当且仅当O(H|O(H|E E)O()O(H H),),说明
20、说明 E E以某种程度支持以某种程度支持H;H;LN LN11当且仅当当且仅当O(H|O(H|E E)O()1,1,且且LNLN1;1;LSLS1,1;1;LSLN1。2023-4-2635需说明的是需说明的是,在概率论中在概率论中,一个事件的概率是在统计数据的基础上计算出来的一个事件的概率是在统计数据的基础上计算出来的,这通常需要大量的统计工作。为了避免大量的统计工作这通常需要大量的统计工作。为了避免大量的统计工作,在主观贝叶斯方法中在主观贝叶斯方法中,一个一个命题的概率可由领域专家根据经验直接给出命题的概率可由领域专家根据经验直接给出,这种概率称为主观概率。这种概率称为主观概率。推理网络中
21、推理网络中每个陈述每个陈述H的先验概率的先验概率P(H)都是由专家直接给出的主观概率。同时都是由专家直接给出的主观概率。同时,推理网络中每推理网络中每条规则的条规则的LS、LN也需由专家指定。例如也需由专家指定。例如PROSPECTOR中有规则中有规则 2023-4-2636FLECVR)1,800(说明专家认为说明专家认为:当当CVR为真时为真时,它支持它支持FLE为真为真;但当但当CVR为假时为假时,FLE的成立与否与的成立与否与CVR无关。无关。而按理论限制应有而按理论限制应有LS8001时时,LN P(E1)=0.5 所以应采用公式所以应采用公式)()|()(1)()|()()|(EP
22、SEPEPHPEHPHPSHP2023-4-2649即即)()|()(1)()|()()|(1111111111EPSEPEPHPEHPHPSHP其中其中P(H1)、P(E1)已知,还需要计算已知,还需要计算E1肯定存在的情况下的肯定存在的情况下的P(H1|E1),我们直接,我们直接采用前面例采用前面例1的结果,于是有的结果,于是有 9822.05.099.05.016.099.06.0)|()|(1111cSHPEHP2023-4-2650例例8.10 设有规则设有规则 R1:if E1 then (200,0.02)H R2:if E2 then (300,1)H 已知证据已知证据E1和和
23、E2必然发生,并且必然发生,并且P(H)=0.04,求,求H的后验概率的后验概率P(H|E1 E2)。解解 由由P(H)=0.04,有,有 O(H)=0.04/(1-0.04)=0.04 由由R1有有 O(H|E1)=LS1O(H)=200*0.04=8 2023-4-2651由由R2有有 O(H|E2)=LS2O(H)=300*0.04=12 于是于是 240004.004.01204.08)()()|()()|()|(2121HOHOEHOHOEHOEEHO从而从而 5583999.0240012400)|(21EEHP2023-4-26522023-4-2653谢谢 谢谢 !谢谢你的阅读v知识就是财富v丰富你的人生