1、1第第6章章 不确定性推理不确定性推理 6.1 6.1 不确定性推理的基本概念不确定性推理的基本概念 6.1.1 不确定性推理的含义不确定性推理的含义 6.1.2 不确定性推理的基本问题不确定性推理的基本问题 6.1.3 不确定性理的类型不确定性理的类型6.2 6.2 不确定性推理的概率论基础不确定性推理的概率论基础6.3 6.3 确定性理论确定性理论6.4 6.4 主观主观BayesBayes方法方法6.4 6.4 证据理论证据理论6.5 6.5 模糊推理模糊推理 现实世界中的大多数问题是不精确、非完备的。对于这些问题，若采用现实世界中的大多数问题是不精确、非完备的。对于这些问题，若采用前面
2、所讨论的精确性推理方法显然是无法解决的。前面所讨论的精确性推理方法显然是无法解决的。为此，人工智能需要研究不精确性的推理方法，以满足客观问题的需求。为此，人工智能需要研究不精确性的推理方法，以满足客观问题的需求。26.1.1 不确定性推理的含义不确定性推理的含义 1.什么是不确定性推理什么是不确定性推理 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理，模糊知识的推理，非单调性推理等。完备、不精确知识的推理，模糊知识的推理，非单调性推理等。不确定性推理过程实际上是一种从不确定的初始证据出发，通过不确定性推理过
3、程实际上是一种从不确定的初始证据出发，通过运用不确定性知识，最终推出具有一定不确定性但却又是合理或基运用不确定性知识，最终推出具有一定不确定性但却又是合理或基本合理的结论的思维过程。本合理的结论的思维过程。2.为什么要采用不确定性推理为什么要采用不确定性推理 所需知识不完备所需知识不完备 不精确所需知识描述模糊不精确所需知识描述模糊 多种原因导致同一结论多种原因导致同一结论 问题的背景知识不足问题的背景知识不足 解题方案不唯一解题方案不唯一31.不确定性的表示不确定性的表示2.不确定性的匹配不确定性的匹配3.组合证据的不确定性的计算组合证据的不确定性的计算4.不确定性的更新不确定性的更新5.不
4、确定性结论的合成不确定性结论的合成6.1.2 不确定性推理的基本问题不确定性推理的基本问题 4(1)知识的不确定性的表示知识的不确定性的表示 考虑因素：问题的描述能力考虑因素：问题的描述能力 推理中不确定性的计算推理中不确定性的计算含义：知识的确定性程度，或动态强度含义：知识的确定性程度，或动态强度表示：用概率，表示：用概率，0,1，0接近于假，接近于假，1接近于真接近于真 用可信度，用可信度，-1,1，大于，大于0接近于真接近于真 小于小于0接近于假接近于假6.1.2 不确定性推理的基本问题不确定性推理的基本问题1.不确定性的表示不确定性的表示(2)证据的非精确性表示证据的非精确性表示 证据
5、来源：初始证据，中间结论证据来源：初始证据，中间结论 表示：用概率或可信度表示：用概率或可信度5含义含义 不确定的前提条件与不确定的事实匹配不确定的前提条件与不确定的事实匹配问题问题 前提是不确定的，事实也是不确定的前提是不确定的，事实也是不确定的方法方法 设计一个计算相似程度的算法，给出相似的限度设计一个计算相似程度的算法，给出相似的限度标志标志 相似度落在规定限度内为匹配，否则为不匹配相似度落在规定限度内为匹配，否则为不匹配6.1.2 不确定性推理的基本问题不确定性推理的基本问题2.不确定性的匹配不确定性的匹配6含义含义 知识的前提条件是多个证据的组合知识的前提条件是多个证据的组合方法方法
6、 最大最小方法，如合取取最小、析取取最大最大最小方法，如合取取最小、析取取最大 概率方法，按概率概率方法，按概率6.1.2 不确定性推理的基本问题不确定性推理的基本问题3.组合证据不确定性的计算组合证据不确定性的计算74.非精确性的更新非精确性的更新 主要问题主要问题 如何用证据的不确定性去更新结论的不确定性如何用证据的不确定性去更新结论的不确定性 如何在推理中把初始证据的不确定性传递给最终结论如何在推理中把初始证据的不确定性传递给最终结论 解决方法解决方法 对对，不同推理方法的解决方法不同不同推理方法的解决方法不同 对对，不同推理方法的解决方法基本相同，即把当不同推理方法的解决方法基本相同，
7、即把当 前结论及其前结论及其不确定性作为新的结论放入综合数据库，依次不确定性作为新的结论放入综合数据库，依次 传递，直到得出最终传递，直到得出最终结论结论5.非精确性结论的合成非精确性结论的合成 含义：含义：多个不同知识推出同一结论，且不确定性程度不同多个不同知识推出同一结论，且不确定性程度不同 方法：方法：视不同推理方法而定视不同推理方法而定6.1.2 不确定性推理的基本问题不确定性推理的基本问题4.不确定性的更新不确定性的更新 5.不确定性结论的合成不确定性结论的合成8模糊推理模糊推理基于概率的方法基于概率的方法主观主观Bayes方法方法确定性理论确定性理论证据理论证据理论数数值值方方法法
8、非非数数值值方方法法不不确确定定性性推推理理框架推理框架推理 语义网络推理语义网络推理 常识推理常识推理6.1.2 不确定性推理的类型不确定性推理的类型96.1 不确定性推理的基本概念不确定性推理的基本概念6.2 不确定性推理的概率论基础不确定性推理的概率论基础 6.2.1 样本空间和随机事件样本空间和随机事件 6.3.2 事件的概率事件的概率 6.3.3 全概率公式和全概率公式和Bayes公式公式6.3 确定性理论确定性理论6.4 主观主观Bayes方法方法6.5 证据理论证据理论6.6 模糊推模糊推第第6章章 不确定性推理不确定性推理 10 概念概念 在概率论中，把试验中每一个可能出现的结
9、果称为试验的在概率论中，把试验中每一个可能出现的结果称为试验的一个样本点，由全体样本点构成的集合称为样本空间。一个样本点，由全体样本点构成的集合称为样本空间。表示表示 通常，用通常，用D表示样本空间，表示样本空间，d表示样本点。表示样本点。例子例子 在掷币试验中，若用在掷币试验中，若用d1表示硬币的正面向上，用表示硬币的正面向上，用d2表示硬表示硬币的反面向上，则该试验的样本空间为：币的反面向上，则该试验的样本空间为：D=d1,d26.2.1 样本空间和随机事件样本空间和随机事件1.样本空间样本空间11 概念概念 由样本点构成的集合称为随机事件由样本点构成的集合称为随机事件 例子：例子：在掷币
10、试验中，若用在掷币试验中，若用A表示硬币正面向上这一事件，则有表示硬币正面向上这一事件，则有 A=d1 运算运算 并事件并事件 事件事件A与事件与事件B至少有一个发生至少有一个发生 记为记为AB 交事件交事件 事件事件A与事件与事件B同时发生同时发生 记为记为AB 互逆事件互逆事件 事件事件A与与B之间满足之间满足“AB=,AB=D”6.2.1 样本空间和随机事件样本空间和随机事件2.随机事件随机事件12 频率的概念频率的概念 统计概率是通过某一事件出现的频率定义的。频率：统计概率是通过某一事件出现的频率定义的。频率：fn(A)=m/n式中，式中，A所讨论的事件，所讨论的事件，n是试验的总次数
11、，是试验的总次数，m是实验中是实验中A发生的次数发生的次数 统计概率的定义统计概率的定义 定义定义6.1 在同一组条件下所进行大量重复试验时，如果事件在同一组条件下所进行大量重复试验时，如果事件A出现的频率出现的频率总是在区间总是在区间0，1上的一个确定常数上的一个确定常数p附近摆动，并且稳定于附近摆动，并且稳定于p，则称，则称p为事件为事件A的统计概率。即的统计概率。即 P(A)=p 统计概率例子统计概率例子 在掷币试验中，当掷币次数足够多时有在掷币试验中，当掷币次数足够多时有 fn(正面向上正面向上)=0.5则称正面向上的概率为则称正面向上的概率为0.5，即，即 P(正面向上正面向上)=0
12、.56.2.2 事件的概率事件的概率1.统计概率统计概率(1/2)13 统计概率的性质统计概率的性质 (1)对任一事件对任一事件A，有，有 0P(A)=1 (2)必然事件必然事件D的概率的概率P(D)=1，不可能事件，不可能事件的概率的概率P()=0。(3)对任一事件对任一事件A，有，有 P(A)=1-P(A)(4)设事件设事件A1,A2,Ak(kn)是两两互不相容的事件，即有是两两互不相容的事件，即有AiAj=(ij)，则，则 (5)设设A、B是两个事件，则是两个事件，则 P(AB)=P(A)+P(B)-P(AB)()()()(211kkiiAPAPAPAP6.2.2 事件的概率事件的概率1
13、.统计概率统计概率(2/2)14 概念概念 定义定义6.2 设设A与与B是两个随机事件，是两个随机事件，P(B)0，则称：，则称：P(A|B)=P(AB)/P(B)为在事件为在事件B发生的条件下事件发生的条件下事件A 的条件概率的条件概率。例子例子 设样本空间设样本空间D是扑克牌中的是扑克牌中的54张牌，即张牌，即D=红桃红桃A，方块，方块A，黑桃，黑桃A，梅花，梅花A，红桃，红桃2，方块，方块2，小王，大王，小王，大王，且有以下两个事件，且有以下两个事件 A=取花脸牌取花脸牌，B=取红桃牌取红桃牌，求在事件求在事件B发生的条件下事件发生的条件下事件A发生的概率发生的概率P(A|B)。解：解：
14、由于事件由于事件B已经发生，因此以下事件取到红桃已经发生，因此以下事件取到红桃A；取到红桃；取到红桃2；取；取到红桃到红桃3；取到红桃；取到红桃K中必有一个出现。中必有一个出现。而对事件而对事件A，在事件，在事件B发生的前提下，只有以下事件取到红桃发生的前提下，只有以下事件取到红桃J；取到红；取到红桃桃Q；取到红桃；取到红桃K中的一个发生时事件中的一个发生时事件A才能发生。才能发生。因此，在事件因此，在事件B发生的条件下事件发生的条件下事件A发生的概率是发生的概率是3/13。6.2.2 事件的概率事件的概率2.条件概率条件概率15 定理定理6.16.1 设事件设事件A A1 1,A,A2 2,
15、A,An n满足：满足：(1)(1)任意两个事件都互不相容，即当任意两个事件都互不相容，即当ijij时，有时，有A Ai iAAj j=(i=1,2,n(i=1,2,n；j=1,2,n)j=1,2,n)；(2)(2)P(AP(Ai i)0(i=1,2,n);)0(i=1,2,n);(3)D=(3)D=则对任何事件则对任何事件B B由下式成立：由下式成立：该公式称为全概率公式，它提供了一种计算该公式称为全概率公式，它提供了一种计算P(B)P(B)的方法。的方法。niiA11()()(|)niiiP BP AP BA6.2.3 全概率公式和全概率公式和Bayes公式公式1.全概率公式全概率公式16
16、 定理定理6.2 设事件设事件A1,A2,An满足定理满足定理6.1规定的条件，则对任何事件规定的条件，则对任何事件B有下式有下式成立：成立：该定理称为该定理称为Bayes定理，上式称为定理，上式称为Bayes公式。公式。其中，其中，P(Ai)是事件是事件Ai的先验概率，的先验概率，P(B|Ai)是在事件是在事件Ai发生条件下事件发生条件下事件B的条的条件概率；件概率；P(Ai|B)是在事件是在事件B发生条件下事件发生条件下事件Ai的条件概率。的条件概率。如果把全概率公式代入如果把全概率公式代入Bayes公式，则有：公式，则有：即即这是这是Bayes公式的另一种形式。公式的另一种形式。Baye
17、s定理给处了用逆概率定理给处了用逆概率P(B|Ai)求原概率求原概率P(Ai|B)的方法。的方法。niABPAPABPAPBAPnjjjiii,2,1)/()()/()()|(16.2.3 全概率公式和全概率公式和Bayes公式公式2.Bayes公式()(|)(|)1,2,()iiiP AP B AP A BinP B(|)()(|)()1,2,.,iiiP A BP BP BAP Ain176.1 不确定性推理的基本概念不确定性推理的基本概念6.2 不确定性推理的概率论基础不确定性推理的概率论基础6.3 确定性理论确定性理论 6.3.1 可信度的概念可信度的概念 6.3.2 CF模型模型6.
18、4 主观主观Bayes方法方法6.5 证据理论证据理论6.6 模糊推理模糊推理第第6章章 不确定性推理不确定性推理 18 可信度是指人们根据以往经验对某个事物或现象为真的程度的可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断，或者说是人们对某个事物或现象为真的相信程度。一个判断，或者说是人们对某个事物或现象为真的相信程度。例如，沈强昨天没来上课，理由是头疼。就此理由，只有以下例如，沈强昨天没来上课，理由是头疼。就此理由，只有以下两种可能：一是真的头疼了，理由为真；二是没有头疼，理由为两种可能：一是真的头疼了，理由为真；二是没有头疼，理由为假。但就听话人而言，因不能确切知道，就只能
19、某种程度上相信，假。但就听话人而言，因不能确切知道，就只能某种程度上相信，即可信度。即可信度。可信度具有一定的主观性，较难把握。但对某一特定领域，让可信度具有一定的主观性，较难把握。但对某一特定领域，让该领域专家给出可信度还是可行的。该领域专家给出可信度还是可行的。6.3.1 可信度的概念可信度的概念196.3.2 CF模型模型1.知识不确定性的表示知识不确定性的表示 表示形式：表示形式：在在C-F模型中，知识是用产生式规则表示的，其一般形式为：模型中，知识是用产生式规则表示的，其一般形式为：IF E THEN H (CF(H,E)其中，其中，E是知识的前提条件；是知识的前提条件；H是知识的结
20、论；是知识的结论；CF(H,E)是知识的可信度。是知识的可信度。说明：说明：(1)E可以是单一条件，也可以是复合条件。例如：可以是单一条件，也可以是复合条件。例如：E=(E1 OR E2)AND E3 AND E4 (2)H可以是单一结论，也可以是多个结论可以是单一结论，也可以是多个结论 (3)CF是知识的静态强度，是知识的静态强度，CF(H,E)的取值为的取值为-1,1，表示当，表示当E为真时，证为真时，证据对据对H的支持程度，其值越大，支持程度越大。的支持程度，其值越大，支持程度越大。例子：例子：IF 发烧发烧 AND 流鼻涕流鼻涕 THEN 感冒感冒 (0.8)表示当某人确实有表示当某人
21、确实有“发烧发烧”及及“流鼻涕流鼻涕”症状时，则有症状时，则有80%的把握是患了感的把握是患了感冒。冒。20 可信度的定义可信度的定义 在在CF模型中，把模型中，把CF(H,E)定义为定义为 CF(H,E)=MB(H,E)-MD(H,E)式中式中MB称为信任增长度，称为信任增长度，MB(H,E)定义为定义为MD称为不信任增长度，称为不信任增长度，MB(H,E)定义为定义为6.3.2 CF模型模型2.可信度的定义可信度的定义与性质与性质(1/5)1,()1(,)max(|),()(),1()P HMB H EP H E P HP HP H若否则1,()0(,)min(|),()(),()P HM
22、D H EP H E P EP HP H若否则21 MB和和MD的关系的关系 当当MB(H,E)0时，有时，有P(H|E)P(H)，即，即E的出现增加了的出现增加了H的概率的概率 当当MD(H,E)0时，有时，有P(H|E)0，CF(H,E)=0，CF(H,E)0)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若6.3.2 CF模型模型2.可信度的定义可信度的定义与性质与性质(2/5)22 可信度的性质可信度的性质 (1)互斥性互斥性对同一证据，它不可能既增加对对同一证据，
23、它不可能既增加对H的信任程度，又同时增加对的信任程度，又同时增加对H的不信任程的不信任程度，这说明度，这说明MB与与MD是互斥的。即有如下互斥性：是互斥的。即有如下互斥性：当当MB(H,E)0时，时，MD(H,E)=0 当当MD(H,E)0时，时，MB(H,E)=0 (2)值域值域 (3)典型值典型值 当当CF(H,E)=1时，有时，有P(H/E)=1，它说明由于，它说明由于E所对应证据的出现使所对应证据的出现使H为真。为真。此时，此时，MB(H,E)=1，MD(H,E)=0。当当CF(H,E)=-1时，有时，有P(H/E)=0，说明由于，说明由于E所对应证据的出现使所对应证据的出现使H为假。
24、此为假。此时，时，MB(H,E)=0，MD(H,E)=1。当当CF(H,E)=0时，有时，有MB(H,E)=0、MD(H,E)=0。前者说明。前者说明E所对应证据的所对应证据的出现不证实出现不证实H；后者说明；后者说明E所对应证据的出现不否认所对应证据的出现不否认H。6.3.2 CF模型模型2.可信度的定义与可信度的定义与性质性质(3/5)1),(1,1),(0,1),(0EHCFEHMDEHMB23 (4)对对H的信任增长度等于对非的信任增长度等于对非H的不信任增长度的不信任增长度 根据根据MB、MD的定义及概率的性质有：的定义及概率的性质有：再根据再根据CF的定义和的定义和MB、MD的互斥
25、性有的互斥性有 CF(H,E)+CF(H,E)=(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E)=(MB(H,E)-0)+(0-MD(H,E)(由互斥性由互斥性)=MB(H,E)-MD(H,E)=0 它说明：它说明：(1)对对H的信任增长度等于对非的信任增长度等于对非H的不信任增长度的不信任增长度 (2)对对H的可信度与非的可信度与非H的可信度之和等于的可信度之和等于0 (3)可信度不是概率，不满足可信度不是概率，不满足 P(H)+P(H)=1 和和 0P(H),P(H)16.3.2 CF模型模型2.可信度的定义与可信度的定义与性质性质(4/5)(|)()(1(|)(1()(
26、,)()(1()(|)()(|)()(1()(1()(|)()(,)()1()PH EPHP H EP HMDH EPHP HP H EP HP H EP HP HP HP H EP HMB H EP H 信任增长度24(5)对同一前提对同一前提E，若支持若干个不同的结论，若支持若干个不同的结论Hi(i=1,2,n)，则，则因此，如果发现专家给出的知识有如下情况因此，如果发现专家给出的知识有如下情况 CF(H1,E)=0.7,CF(H2,E)=0.4则因则因0.7+0.4=1.11为非法，应进行调整或规范化。为非法，应进行调整或规范化。niiEHCF11),(6.3.2 CF模型模型2.可信度
27、的定义与可信度的定义与性质性质(5/5)25 不确定性的表示：不确定性的表示：证据的不确定性也是用可信度来表示的，其取值范围也为证据的不确定性也是用可信度来表示的，其取值范围也为-1,1 若若E为初始证据，其值由用户给出。为初始证据，其值由用户给出。若若E为中间结论，其值可通过计算得到。为中间结论，其值可通过计算得到。不确定性的含义：不确定性的含义：对对E，其可信度，其可信度CF(E)的含义如下：的含义如下：CF(E)=1，证据，证据E肯定它为真肯定它为真 CF(E)=-1，证据，证据E肯定它为假肯定它为假 CF(E)=0，对证据，对证据E一无所知一无所知 0CF(E)1，证据，证据E以以CF
28、(E)程度为真程度为真 -1CF(E)0，证据，证据E以以CF(E)程度为假程度为假6.3.2 CF模型模型3.证据不确定性的表示证据不确定性的表示264.否定证据不确定性的计算否定证据不确定性的计算 CF(E)=-CF(E)5.组合证据不确定性的计算组合证据不确定性的计算 对证据的组合形式可分为对证据的组合形式可分为“合取合取”与与“析取析取”两种基本情况。两种基本情况。合取合取 当组合证据是多个单一证据的组合时，即当组合证据是多个单一证据的组合时，即 E=E1 AND E2 AND AND En时，若已知时，若已知CF(E1)，CF(E2)，CF(En)，则，则 CF(E)=minCF(E
29、1),CF(E2),CF(En)析取析取当组合证据是多个单一证据的析取时，即当组合证据是多个单一证据的析取时，即E=E1 OR E2 OR OR En时，时，若已知若已知CF(E1)，CF(E2)，CF(En)，则，则 CF(E)=maxCF(E1),CF(E2),CF(En)6.3.2 CF模型模型4、5.否定、不确定证据的计算否定、不确定证据的计算27 CF模型中的不确定性推理实际上是从不确定的初始证据出发，不模型中的不确定性推理实际上是从不确定的初始证据出发，不断运用相关的不确性知识，逐步推出最终结论和该结论可信度的过程。断运用相关的不确性知识，逐步推出最终结论和该结论可信度的过程。而每
30、一次运用不确定性知识，都需要由证据的不确定性和知识的不确而每一次运用不确定性知识，都需要由证据的不确定性和知识的不确定性去计算结论的不确定性。定性去计算结论的不确定性。不确定性的更新公式不确定性的更新公式 CF(H)=CF(H,E)max0,CF(E)若若CF(E)0，则，则 CF(H)=0即该模型没考虑即该模型没考虑E为假对为假对H的影响。的影响。若若CF(E)=1，则，则 CF(H)=CF(H,E)即规则强度即规则强度CF(H,E)实际上是在实际上是在E为真时，为真时，H的可信度的可信度6.3.2 CF模型模型6.不确定性的更新不确定性的更新28 当有多条知识支持同一个结论，且这些知识的前
31、提相互独立，结论的可信当有多条知识支持同一个结论，且这些知识的前提相互独立，结论的可信度又不相同时，可利用不确定性的合成算法求出结论的综合可信度。度又不相同时，可利用不确定性的合成算法求出结论的综合可信度。设有知识：设有知识：IF E1 THEN H (CF(H,E1)IF E2 THEN H (CF(H,E2)则结论则结论H 的综合可信度可分以下两步计算：的综合可信度可分以下两步计算：(1)分别对每条知识求出其分别对每条知识求出其CF(H)。即。即 CF1(H)=CF(H,E1)max0,CF(E1)CF2(H)=CF(H,E2)max0,CF(E2)(2)用如下公式求用如下公式求E1与与E
32、2对对H的综合可信度的综合可信度 6.3.2 CF模型模型7.结论不确定性的合成结论不确定性的合成异号与若且若且若)()(0)(0)(0)(0)()(,)(min1)()()()()()()()()()()(212121212121212121HCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCFHCHHCFHCFHCFHCFHCFHCFHCF1时，时，O(H|E)O(H)，说明，说明E支持支持H，LS越大，越大，O(H|E)比比O(H)大得越大得越多，即多，即LS越大，越大，E对对H的支持越充分。当的支持越充分。当LS时，时，O(H|E)，即，即P(H/E)1，表示由于，表示由于
33、E的存在，将导致的存在，将导致H为真。为真。当当LS=1时，时，O(H|E)=O(H)，说明，说明E对对H没有影响。没有影响。当当LS1时，时，O(H|E)1时，时，O(H|E)O(H)，说明，说明E支持支持H，即由于，即由于E的不出现，增大了的不出现，增大了H为真的概率。并且，为真的概率。并且，LN得越大，得越大，P(H|E)就越大，即就越大，即E对对H为真的支持就为真的支持就越强。当越强。当LN时，时，O(H|E)，即，即P(H|E)1，表示由于，表示由于E的存在，的存在，将导致将导致H为真。为真。当当LN=1时，时，O(H|E)=O(H)，说明，说明E对对H没有影响。没有影响。当当LN1
34、时，时，O(H|E)1且且LN1 LS1 LS=LN=1 证证：LS1 P(E|H)/P(E|H)1 P(E|H)P(E|H)1-P(E|H)1-P(E|H)P(E|H)P(E|H)P(E|H)/P(E|H)1 LN 1 同理可证同理可证、，证明略，证明略36 在主观在主观Bayes方法中，证据方法中，证据E的不精确性是用其概率或几率来表的不精确性是用其概率或几率来表示的。概率与几率之间的关系为：示的。概率与几率之间的关系为：非真也非假时当为真时当为假时当EEEEPEPEO),0(0)(1)()(6.4.2 证据不确定性的表示证据不确定性的表示 在实际应用中，除了需要考虑证据在实际应用中，除了
35、需要考虑证据E的先验概率与先验几率外，的先验概率与先验几率外，往往还需要考虑在当前观察下证据往往还需要考虑在当前观察下证据E的后验概率或后验几率。的后验概率或后验几率。以概率情况为例，对初始证据以概率情况为例，对初始证据E，用户可以根据当前观察，用户可以根据当前观察S将其将其先验概率先验概率P(E)更改为后验概率更改为后验概率P(E|S)，即相当于给出证据，即相当于给出证据E的动的动态强度。态强度。37 证据的基本组合方式只有合取和析取两种。证据的基本组合方式只有合取和析取两种。当组合证据是多个单一证据的合取时，例当组合证据是多个单一证据的合取时，例 E=E1 AND E2 AND AND E
36、n如果已知在当前观察如果已知在当前观察S下，每个单一证据下，每个单一证据Ei有概率有概率P(E1|S),P(E2|S),P(En|S)，则，则 P(E|S)=min P(E1|S),P(E2|S),P(En|S)当组合证据是多个单一证据的析取时，例当组合证据是多个单一证据的析取时，例 E=E1 OR E2 OR OR En 如果已知在当前观察如果已知在当前观察S下，每个单一证据下，每个单一证据Ei有概率有概率P(E1|S),P(E2|S),P(En|S)，则，则P(E|S)=max P(E1|S),P(E2|S),P(En|S)6.4.3 组合证据不确定性的计算组合证据不确定性的计算386.4
37、.4 不确定性的更新不确定性的更新 根据根据E的概率的概率P(E)及及LS和和LN的值，把的值，把H的先验概率的先验概率P(H)或先或先验几率验几率O(H)更新为后验概率或后验几率。更新为后验概率或后验几率。分以下分以下3种情况讨论：种情况讨论：1.证据肯定为真证据肯定为真 2.证据肯定为假证据肯定为假 3.证据既非为真有非为假证据既非为真有非为假39 1.证据肯定为真时证据肯定为真时当证据当证据E肯定为真时，肯定为真时，P(E)=P(E|S)=1。将。将H的先验几率更新为后验几率的的先验几率更新为后验几率的公式为公式为(6.3)，即，即 O(H|E)=LSO(H)把把H的先验概率的先验概率P
38、(H)更新为后验概率更新为后验概率P(H|E)的计算公式，可将的计算公式，可将(6.2)代入代入(6.4)而得到：而得到：2.当证据当证据E肯定为假时肯定为假时 当证据当证据E肯定为假时，肯定为假时，P(E)=P(E|S)=0，P(E)=1。将。将H的先验几率更新为后的先验几率更新为后验几率的公式为验几率的公式为(6.4)，即，即 O(H|E)=LNO(H)把先验概率把先验概率P(H)更新为后验概率更新为后验概率P(H|E)的计算公式的计算公式，可将，可将(6.2)代入代入(6.4)而得到：而得到：6.4.4 不确定性的更新不确定性的更新1、2.证据肯定为真、为假证据肯定为真、为假()(|)(
39、6.6)(1)()1LN PHPHELNPH ()(|)(6.5)(1)()1LS PHPH ELSPH 40 当证据既非真假时，需要使用杜达等人给出的公式：当证据既非真假时，需要使用杜达等人给出的公式：P(H|E)=P(H|E)P(E|S)+P(H|E)P(E|S)(6.7)下面分四种情况讨论：下面分四种情况讨论：(1)P(E|S)=1 当当P(E|S)=1时，时，P(E|S)=0。由。由(6.7)式和式和(6.5)式可得式可得 这实际是证据肯定存在的情况这实际是证据肯定存在的情况 (2)P(E|S)=0 当当P(E|S)=0时，时，P(E|S)=1。由。由(6.7)式和式和(6.6)式可得
40、式可得 (3)P(E|S)=P(E)当当P(E|S)=P(E)时，表示时，表示E与与S无关。由无关。由(6.7)式和全概率公式可得式和全概率公式可得()(|)(|)(1)()1LSP HP H SP H ELSP H6.4.4 不确定性的更新不确定性的更新3.证据既非为真有非为假证据既非为真有非为假()(|)(|)(1)()1LNP HP H SP HELNP H(|)(|)(|)(|)(|)(|)()(|)()()P H SP H EP E SP HEPE SP H EP EP HEPEP H410P(E)1P(E|S)P(H|E)P(H)P(H|E)P(H|S)(4)P(E/S)为其它值为
41、其它值 上面已经得到了上面已经得到了P(E|S)的的3个特殊值：个特殊值：0，P(E),1；它们分别对应的；它们分别对应的3个值为个值为P(H|E),P(H),P(H|E)。由此构造的分段线性插值函数为：。由此构造的分段线性插值函数为：()(|)(|)(|),0(|)()()(|)(|)()()(|)(),()(|)11()P HP HEP HEP E SP E SP EP EP H SP H EP EP HP E SP EP EP E SP EP(E)，使用，使用(6.8)式的后半部分，得式的后半部分，得P(H1|S1)为：为：111111(|)0.121(|)0.1381(|)1 0.12
42、1P HSO HSP HS46 (2)计算计算O(H1|(S1 AND S2)由于由于r2的前件是的前件是E1、E2的合取关系，且已知的合取关系，且已知 P(E1|S1)=0.76，P(E2|S2)=0.68，即即P(E2|S2)P(E2)，还使用，还使用(6.8)式的后半部分，得式的后半部分，得P(H1|S2)为：为：471112112111(|)(|)(|,)()()()0.1380.3420.10.4720.10.1O HSO HSO HS SO HO HO H1.0091.01091.0)(1)()(111HPHPHO112112112(|,)0.472(|,)0.3211(|,)10
43、.472O HS SP HS SO HS S (3)计算计算O(H1|S1,S2)先将先将H1的先验概率转换为先验几率的先验概率转换为先验几率 再根据合成公式计算再根据合成公式计算H1的后验几率的后验几率 然后再将后验几率转换为后验概率然后再将后验几率转换为后验概率48212212221211(|)()(|,)()(|,)()1()0.6690.010.1(0.321 0.091)0.1771 0.091P HHP HP HS SP HP HS SP HP H322132()200 0.01(|)0.669(1)()1(200 1)0.01 1LSP HP HHLSP H (4)计算计算P(H
44、2|S1,S2)对对r3，H1相当于已知事实，相当于已知事实，H2为结论。将为结论。将H2的先验概率的先验概率P(H2)更新为在更新为在H1下的后验概率下的后验概率P(H2|H1)由于由于P(H1|S1,S2)=0.321 P(H1)，仍使用，仍使用(6.8)式的后半部分，得到在当前观式的后半部分，得到在当前观察察S1、S2下下H2的后验概率的后验概率P(H2|S1,S2)可以看出，可以看出，H2的先验概率是的先验概率是0.01，通过，通过r1、r2、r3及初始证据进行推理，最及初始证据进行推理，最后推出后推出H2的后验概率为的后验概率为0.177，相当于概率增加了，相当于概率增加了16倍多。
45、倍多。主观主观Bayes方法的主要优点是理论模型精确，灵敏度高，不仅考虑了证据方法的主要优点是理论模型精确，灵敏度高，不仅考虑了证据间的关系，而且考虑了证据存在与否对假设的影响，因此是一种较好的方法。间的关系，而且考虑了证据存在与否对假设的影响，因此是一种较好的方法。其主要缺点是所需要的主观概率太多，专家不易给出。其主要缺点是所需要的主观概率太多，专家不易给出。496.1 不确定性推理的基本概念不确定性推理的基本概念6.2 不确定性推理的概率论基础不确定性推理的概率论基础6.3 确定性理论确定性理论6.4 主观主观Bayes方法方法6.5 证据理论证据理论 证据理论是由德普斯特证据理论是由德普
46、斯特(A.P.Dempster)首先提出，并有沙佛首先提出，并有沙佛(G.Shafer)进一步发展起来的用于处理不确定性的一种理论，也称进一步发展起来的用于处理不确定性的一种理论，也称DS(Dempster-Shafer)理论。它将概率论中的单点赋值扩展为集合赋值，可以处理由理论。它将概率论中的单点赋值扩展为集合赋值，可以处理由“不知道不知道”所引起的不确定性，比主观所引起的不确定性，比主观Bayes方法有着更大的灵活性。方法有着更大的灵活性。在在DS理论中，可以分别用信任函数、似然函数及类概率函数来描述理论中，可以分别用信任函数、似然函数及类概率函数来描述知识的精确信任度、不可驳斥信任度及估
47、计信任度。知识的精确信任度、不可驳斥信任度及估计信任度。6.5.1 DS理论的形式描述理论的形式描述 6.5.2 证据理论的推理模型证据理论的推理模型 6.5.3 推理实例推理实例6.6 模糊推理模糊推理第第6章章 不确定性推理不确定性推理 506.5.1 DS理论的形式描述理论的形式描述 1.概率分配函数（概率分配函数（1/3）DS理论处理的是集合上的不确定性问题，为此需要先建立命题与集合之间理论处理的是集合上的不确定性问题，为此需要先建立命题与集合之间的一一对应关系，以把命题的不确定性问题转化为集合的不确定性问题，。的一一对应关系，以把命题的不确定性问题转化为集合的不确定性问题，。设设为样
48、本空间，且为样本空间，且中的每个元素都相互独立，则由中的每个元素都相互独立，则由的所有子集构成的的所有子集构成的幂集记为幂集记为2。当当中的元素个数为中的元素个数为N时，则其幂集时，则其幂集2的元素个数为的元素个数为2N，且其中的每一个元，且其中的每一个元素都对应于一个关于素都对应于一个关于x取值情况的命题。取值情况的命题。例例6.4 设设=红，黄，白红，黄，白，求，求的幂集的幂集2。解：解：的幂集可包括如下子集：的幂集可包括如下子集：A0=,A1=红红,A2=黄黄,A3=白白,A4=红，黄红，黄,A5=红，白红，白,A6=黄，白黄，白,A7=红，黄，白红，黄，白其中，其中，表示空集，空集也可
49、表示为表示空集，空集也可表示为。上述子集的个数正好是。上述子集的个数正好是23=8516.5.1 DS理论的形式描述理论的形式描述 1.概率分配函数（概率分配函数（2/3）定义定义6.3 设函数设函数m：20，1，且满足，且满足则称则称m是是2上的概率分配函数，上的概率分配函数，m(A)称为称为A的基本概率数。的基本概率数。对例对例6.4，若定义，若定义2上的一个基本函数上的一个基本函数m：m(,红红,黄黄,白白,红，黄红，黄,红，白红，白,黄，白黄，白,红，黄，白红，黄，白)=(0,0.3,0,0.1,0.2,0.2,0,0.2)其中，其中，(0,0.3,0,0.1,0.2,0.2,0,0.
50、2)分别是幂集分别是幂集2中各个子集的基本概率数。中各个子集的基本概率数。显然显然m满足概率分配函数的定义。满足概率分配函数的定义。AAmm1)(0)(526.5.1 DS理论的形式描述理论的形式描述 1.概率分配函数（概率分配函数（3/3）对概率分配函数的说明对概率分配函数的说明 (1)概率分配函数的作用是把概率分配函数的作用是把的任一子集映射为的任一子集映射为0，1上的一个数上的一个数m(A)当当A ，且，且A由单个元素组成时由单个元素组成时，则，则m(A)表示对表示对A的精确信任度；的精确信任度；当当A 、A，且，且A由多个元素组成时由多个元素组成时，m(A)也表示对也表示对A的精确信任
