1、 第9章 隐马尔可夫模型(HMM)一、马尔可夫模型的定义一、马尔可夫模型的定义二、隐马尔可夫模型的定义二、隐马尔可夫模型的定义三、隐马尔可夫模型的参数三、隐马尔可夫模型的参数四、隐马尔可夫模型在语音识别中的应用四、隐马尔可夫模型在语音识别中的应用五、五、隐马尔可夫模型的基本算法隐马尔可夫模型的基本算法n18701870年，俄国有机化学家年，俄国有机化学家Vladimir V.Vladimir V.MarkovnikovMarkovnikov第一次提出马尔可夫模型第一次提出马尔可夫模型HMMHMM的由来的由来马尔可夫性马尔可夫性n如果一个过程的如果一个过程的“将来将来”仅依赖仅依赖“现在现在”而
2、而不依赖不依赖“过去过去”，则此过程具有，则此过程具有马尔可夫性马尔可夫性,或称此过程为或称此过程为马尔可夫过程马尔可夫过程nX(t+1)=f(X(t)nX(n+1)=f(X(n)马尔科夫链马尔科夫链p时间时间和和状态状态都离散的马尔科夫过程称为马尔科都离散的马尔科夫过程称为马尔科夫链夫链p记作记作SSn n=S(n=S(n),n=0,1,2,),n=0,1,2,n在时间集在时间集T T1 1=0,1,2,=0,1,2,上对离散状态的过上对离散状态的过程相继观察的结果程相继观察的结果p链的状态空间记做链的状态空间记做I=SI=S1 1,S,S2 2,S,Si iRR.p条件概率条件概率PSPS
3、j j|S|Si i 为马氏链在时刻为马氏链在时刻m m处于状态处于状态S Si i条件下，在时刻条件下，在时刻m+1m+1转移到状态转移到状态S Sj j的的转移概率转移概率。雨雨S1多云多云S2晴晴S30.40.30.30.60.80.20.20.10.11112132122233132330.40.30.30.20.60.20.10.10.8aaaPaaaaaa一、马尔可夫模型一、马尔可夫模型(MM)(MM)的定义的定义 MMMM是一个输出符号序列的统计模型，具有是一个输出符号序列的统计模型，具有N N个状个状态态S S1 1,S,S2 2,S SN N,它按一定的周期从一个状态转移到另
4、外它按一定的周期从一个状态转移到另外一个状态，每次转移时，输出一个符号。一个状态，每次转移时，输出一个符号。S1S2S3起始状态起始状态终止状态终止状态a/b 输出符号输出符号 转移到哪一个状态，转移时输出什么符号，分别转移到哪一个状态，转移时输出什么符号，分别由状态转移概率和转移时的输出概率来决定。即每一由状态转移概率和转移时的输出概率来决定。即每一条弧上有一个状态转移概率以及输出概率。条弧上有一个状态转移概率以及输出概率。a aijij表示从表示从状态状态S Si i转移到状态转移到状态S Sj j的概率。的概率。S1S2S32.08.0ba3.011a4.022a7.03.0ba5.01
5、2a01ba01ba5.05.0ba2.013a6.023aS1S2S32.08.0ba3.011a4.022a7.03.0ba5.012a01ba01ba5.05.0ba2.013a6.023a1112322131211baaaaaa从一个状态转移出去从一个状态转移出去的概率之和为的概率之和为1 1。每次转移时输出符号每次转移时输出符号a a和和b b的概率之和为的概率之和为1 1。雨雨S1多云多云S2晴晴S30.40.30.30.60.80.20.20.10.11112132122233132330.40.30.30.20.60.20.10.10.8aaaPaaaaaa 已知一天已知一天(
6、t=1)(t=1)的天气是晴（的天气是晴（S3S3），问：其后），问：其后7 7天天的天气为的天气为“晴，晴，雨，雨，晴，多云，晴晴，晴，雨，雨，晴，多云，晴”的的概率是多少？概率是多少？观察序列观察序列O=S3O=S3，S3S3，S3S3，S1S1，S1S1，S3S3，S2S2，S3S3 对应时间对应时间t=1,2,3,4,5,6,7,8t=1,2,3,4,5,6,7,8333331111332234()3,3,3,1,1,3,2,3(3)(33)(33)(13)(11)(31)(23)(32)11.53610P OP SSSSSSSSP SP SSP SSP SSP SSP SSP SSP
7、 SSaaaaaaa 一般情况下，只能观察到输出符号序列一般情况下，只能观察到输出符号序列(ab(ab)，而不能观测到状态之间如何转移（而不能观测到状态之间如何转移（状态转移概率状态转移概率）和状态的分布（和状态的分布（状态的概率状态的概率），所以称为隐藏的马），所以称为隐藏的马尔可夫模型。尔可夫模型。二、隐马尔可夫模型的定义二、隐马尔可夫模型的定义球和缸S S1 1SNS2P(red)=b1(1)P(yellow)=b1(2)P(bule)=b1(3)P(green)=b1(4)P(black)=b1(M)P(red)=b2(1)P(yellow)=b2(2)P(bule)=b2(3)P(g
8、reen)=b2(4)P(black)=b2(M)P(red)=bN(1)P(yellow)=bN(2)P(bule)=bN(3)P(green)=bN(4)P(black)=bN(M)观察序列观察序列O=绿，绿，蓝，红，红，黄，绿，绿，蓝，红，红，黄，.蓝蓝 设有设有N N个缸，每个缸中装有很多彩色的球，不同颜色个缸，每个缸中装有很多彩色的球，不同颜色的球的球(M M)的多少由一组概率分布来描述，的多少由一组概率分布来描述，根据某个初始概率分布，随机选择一个缸，例如第根据某个初始概率分布，随机选择一个缸，例如第i i个缸，再根据这个缸中彩色球颜色的概率分布，随个缸，再根据这个缸中彩色球颜色的
9、概率分布，随机选择一个球，记机选择一个球，记O O1 1,再把球放回缸中。再把球放回缸中。根据缸的转移概率，选择下一个缸，例如第根据缸的转移概率，选择下一个缸，例如第j j个缸。个缸。再根据这个缸中彩色球颜色的概率分布，随机选择再根据这个缸中彩色球颜色的概率分布，随机选择一个球，记一个球，记O O2 2,再把球放回缸中。再把球放回缸中。最后得到描述球颜色的序列最后得到描述球颜色的序列O O1 1 O O2 2 ，成为观察值，成为观察值序列，但每次选取的缸和缸之间的转移并不能直接序列，但每次选取的缸和缸之间的转移并不能直接观察，被隐藏。观察，被隐藏。()PH1()PH1()PH()PH一个硬币一
10、个硬币正面正面反面反面11a22a111 a221 a二个硬币二个硬币S1S2状态状态 1 21 2()PH()PT1p11 p2p21 p,.OH HT HT H HT T H从从S S1 1到到S S3 3,并且输出并且输出aabaab，可能的路径有三种，可能的路径有三种：S S1 1S S1 1S S2 2S S3 3S S1 1S S2 2S S2 2S S3 3S S1 1S S1 1S S1 1S S3 30.30.80.510.60.5=0.0360.510.40.30.60.5=0.0180.30.80.30.80.20=0S1S2S32.08.0ba3.011a4.022a7
11、.03.0ba5.012a01ba01ba5.05.0ba2.013a6.023a设观察到的输出符号序列是设观察到的输出符号序列是aabaab。试求。试求aabaab的输出概率？的输出概率？由于是隐由于是隐HMMHMM模型，不知输出模型，不知输出aabaab时，到底是经时，到底是经过了哪一条不同状态组成的路径，因此，求过了哪一条不同状态组成的路径，因此，求aabaab的的输出概率时，将每一种可能路径的的输出概率相加输出概率时，将每一种可能路径的的输出概率相加得到的总的概率值作为得到的总的概率值作为aabaab的输出概率值的输出概率值:0.036+0.018+0=0.054 0.036+0.01
12、8+0=0.0541.1.HMMHMM包含两个随机过程包含两个随机过程：（1 1）马尔可夫链：马尔可夫链：一个随机过程描述的状态一个随机过程描述的状态（S S1 1,S,S2 2,S,S3 3）和状态转移序列（）和状态转移序列（状态转移序列状态转移序列S S1 1 S S1 1 S S2 2 S S3 3、S S1 1 S S2 2 S S2 2 S S3 3和和S S1 1 S S1 1 S S1 1 S S3 3 等等）；）；（2 2）一个随机过程描述状态和观察值之间的统计对）一个随机过程描述状态和观察值之间的统计对应关系（应关系（每次转移时输出的符号组成的符号序列，每次转移时输出的符号组
13、成的符号序列，如，如，aabaab）。）。总结总结转移中输出符号的概率转移中输出符号的概率P3P32.HMM2.HMM包含三个概率矩阵包含三个概率矩阵:5.05.07.03.001012.08.030006.04.002.05.03.023131311333231232221131211PaaaaaaaaaPP每个状态存在的概率矩阵每个状态存在的概率矩阵P1P1状态之间转移状态之间转移的概率矩阵的概率矩阵P2P23.3.一个输出概率一个输出概率:将每一种可能路径的的输出概率相加将每一种可能路径的的输出概率相加得到的总的概率值作为输出概率。得到的总的概率值作为输出概率。三、隐马尔可夫模型的参数三
14、、隐马尔可夫模型的参数,NMTA B模型中状态的数目。状态的集合模型中状态的数目。状态的集合N12,NSSSS每个状态对应的观测符号数。观测符号集合每个状态对应的观测符号数。观测符号集合M12,MVvvv观测符号序列的长度，观测符号序列观测符号序列的长度，观测符号序列T12,TOOOO状态转移概率分布状态转移概率分布A,1,ijijjiAaaP SSijN状态的观测符号概率分布状态的观测符号概率分布B(),()|,1,1jjkjBbkbkP vSjNkM初始状态的概率分布初始状态的概率分布,1iiiP SiN,A BHMMHMM的基本要素的基本要素参数参数含义含义实例实例N状态数目状态数目缸的
15、数目缸的数目M每个状态可能的观察每个状态可能的观察值数目值数目彩球颜色数目彩球颜色数目A与时间无关的状态转与时间无关的状态转移概率矩阵移概率矩阵在选定某个缸的情况在选定某个缸的情况下，选择另一个缸的下，选择另一个缸的概率概率B给定状态下，观察值给定状态下，观察值概率分布概率分布每个缸中的颜色分布每个缸中的颜色分布初始状态空间的概率初始状态空间的概率分布分布初始时选择某口缸的初始时选择某口缸的概率概率,NMTA BHMM的应用领域 语音识别语音识别 机器视觉机器视觉人脸检测人脸检测机器人足球机器人足球 图像处理图像处理图像去噪图像去噪图像识别图像识别 生物医学分析生物医学分析DNA/DNA/蛋白
16、质序列分析蛋白质序列分析四、隐马尔可夫模型在语音识别中的应用四、隐马尔可夫模型在语音识别中的应用1.1.利用利用HMMHMM进行孤立字语音识别，每一字必须有一进行孤立字语音识别，每一字必须有一个个HMMHMM模型模型 来描述，通过学习和训来描述，通过学习和训练来完成练来完成。字库字库语语文文学学音音语语S1S2S3,A B2.2.现对一个要识别的未知字语音，首先通过分帧、现对一个要识别的未知字语音，首先通过分帧、参数分析和特征参数提取，取得一组向量序列参数分析和特征参数提取，取得一组向量序列XX1 1,X,X2 2,.X,.XN N,N,N为帧长。为帧长。wenwenXX1 1,X,X2 2,
17、.X,.XN N 发音发音3.3.通过矢量量化把通过矢量量化把XX1 1,X,X2 2,.X,.XN N 转化成一组符号转化成一组符号序列（码字）序列（码字）O=oO=o1 1,o,o2 2,.o,.oN N,o,oi i为码本中的码为码本中的码字字,这个码本是所有字的一个共同的码本。这个码本是所有字的一个共同的码本。XX1 1,X,X2 2,.X,.XN N y y1 1y y2 2y yJ Joo1 1,o,o2 2,.o,.oN N 码本码本 4.4.用这组符号用这组符号oo1 1,o,o2 2,.o,.oN N 计算在每个计算在每个HMMHMM上的上的输出概率，输出概率最大的输出概率，
18、输出概率最大的HMMHMM对应的孤立字，就对应的孤立字，就是识别结果。是识别结果。oo1 1,o,o2 2,.o,.oN N 字库字库语语文文学学音音S1S2S3S1S2S3S1S2S3S1S2S3无声无声段段鼻音鼻音段段声母声母辅音段辅音段元音元音段段送气送气段段前过前过渡段渡段后过后过渡段渡段1)1)发音的各个段（稳定段，用一个全极点的滤发音的各个段（稳定段，用一个全极点的滤波器来描述）构成相应的状态。波器来描述）构成相应的状态。(2)(2)声学变化（声学变化（LPCLPC倒谱）对应输出序列，概率分倒谱）对应输出序列，概率分布成混合高斯密度函数。布成混合高斯密度函数。(3)(3)基本单元发
19、音速率（停留时间和转移时间）基本单元发音速率（停留时间和转移时间）对应状态转移概率对应状态转移概率(0.5)(0.5)。五、隐马尔可夫模型的基本算法五、隐马尔可夫模型的基本算法n识别问题：给定观测符号序列识别问题：给定观测符号序列 和模和模型型 ，如何快速有效地计算输出概率，如何快速有效地计算输出概率 n估计模型产生观测符号序列的最有可能经过的路径。估计模型产生观测符号序列的最有可能经过的路径。所有可能的路径中，概率最大的路径。所有可能的路径中，概率最大的路径。n模型训练问题：调整模型参数，使得输出概率最大。模型训练问题：调整模型参数，使得输出概率最大。,A B12,TOO OO(/)P O1
20、 1、前向后向算法、前向后向算法Forward-BackwardForward-Backwardp给定一个观测序列给定一个观测序列 以及一个模以及一个模型型 ，由模型产生出的概率，由模型产生出的概率p直接方法，列举所有可能的路径，计算输出概率，然后直接方法，列举所有可能的路径，计算输出概率，然后求和。计算量为求和。计算量为2TN2TNT T。如状态数。如状态数N=5,N=5,观测值序列长度观测值序列长度T=100T=100，计算量为，计算量为10107272。p前向后向算法前向后向算法12,TOO OO,A B(/)P O前向算法前向算法p一个前向变量一个前向变量 给定模型下，产生给定模型下，
21、产生t t以前的部分观测符号序列（包含以前的部分观测符号序列（包含t t 在在内）内），且，且t t时刻又处于状态时刻又处于状态 的概率。的概率。p迭代算法迭代算法 初始化：初始化：迭代计算：迭代计算：最后计算：最后计算：()ta i12()(,;)ttia iP O OO S12,tO OOiS11()()1iia ib OiN 11121()()()1NttijjtitTaja i a b OjN 1()()NTiP Oa i11()()1iia ib OiN 1111121111()()()1(1)()(2)()()()NttijjtitjjttjjttNjjttTaja i a b O
22、jNaa b Oaa b Oa N a b O 初始状态初始状态 和初始观测和初始观测 的的联合概率。联合概率。1OiS无论无论t t时刻处于哪个状态，它都会以一定概率在时刻处于哪个状态，它都会以一定概率在t+1t+1时刻转移到时刻转移到jSjSt+1t1S2S3SNS1ja2 ja3 jaN ja()tijai a表示表示t t时刻的观测的时刻的观测的符号序列符号序列 ，并由并由t t时刻时刻 转移到转移到t+1t+1时刻的状态时刻的状态 发发生的概率。生的概率。12,tO OOiSjS1()()NTiP Oai1()Ntijiai a观测到的符号序列观测到的符号序列 且在且在t+1t+1时
23、时刻的处于状态刻的处于状态 发生的概率。发生的概率。12,tO OOjS111()()()Nttijjtiaiai a bO 给定模型下，产生给定模型下，产生t t1 1以前的部分观测符号以前的部分观测符号序列（包含序列（包含t t1 1 在内）在内），且时，且时刻又处于状态刻又处于状态 的概率。的概率。jS121,ttO OO O将所有将所有 的对的对i i求和求和()Tai所需总乘数为：所需总乘数为：N(N+1)(T-1)N(N+1)(T-1)总加数为：总加数为：N(N-1)(T-1)N(N-1)(T-1)S1S2S32.08.0ba3.011a4.022a7.03.0ba5.012a01
24、ba01ba5.05.0ba2.013a6.023a1(1)1a2(1)0.24a3(1)0.0576aaab0.240.241(2)0a2(2)0.5a3(2)0.18a0.50.121(3)0a2(3)0a3(3)0.15a0.50.34(3)0.054a00.31S2S3S后向算法后向算法n一个后向变量一个后向变量 给定模型下，给定模型下，t t时刻处于状态时刻处于状态 ,产生观测符号产生观测符号序列序列 的概率。的概率。n迭代算法迭代算法 初始化：初始化：迭代计算：迭代计算：最后计算：最后计算：()ti12()(,)tttTiiiP OOOS12,ttTOOOiS()11TiiN 11
25、111()()()1NttijjtjtTij a b OiN 11()()NiP OiS1S2S32.08.0ba3.011a4.022a7.03.0ba5.012a01ba01ba5.05.0ba2.013a6.023a1(1)0.0542(1)0.153(1)0aab1(2)02(2)0.0363(2)0.30.50.121(3)02(3)03(3)00.54(3)100.31S2S3S0.242.2.维特比（维特比（viterbiviterbi）算法）算法n一个前向变量一个前向变量 给定模型下，产生给定模型下，产生t t以前的部分观测符号序列（包含以前的部分观测符号序列（包含t t 在在
26、内）内），且时刻又处于状态，且时刻又处于状态 的最大概率。的最大概率。()ti12()max(,;)ttiiP O OO S12,tO OOiS11()()1iiib OiN 11121()max()()1ttijjti NtTji a b OjN 迭代算法迭代算法 （1 1）初始化：）初始化：（2 2）迭代计算：）迭代计算：（3 3）最后计算：）最后计算：1()max()MAXTi NPOi 1(1)12(1)0.243(1)0.0576aab0.240.241(2)02(2)0.53(2)0.120.50.121(3)02(3)03(3)0.0150.50.34(3)0.03600.3S
27、S1 1S S1 1S S2 2S S3 30.30.80.510.60.5=0.0361S2S3SS1S2S32.08.0ba3.011a4.022a7.03.0ba5.012a01ba01ba5.05.0ba2.013a6.023a3.Baum-Welch算法算法(模型训练算法模型训练算法)n目的：给定观察值序列目的：给定观察值序列O O，通过计算确定一个模，通过计算确定一个模型型 ，使得，使得 最大。最大。n算法步骤：算法步骤：1.1.初始模型（待训练模型）初始模型（待训练模型）,2.2.基于基于 以及观察值序列以及观察值序列O O，训练新模型训练新模型 ；3.3.如果如果 ，说明训练说
28、明训练已经达到预期效果，算法结束。已经达到预期效果，算法结束。4.4.否则，令否则，令 ，继续第继续第2 2步工作步工作 ,A B(/)P O000log(/)log(/)P OP O0 给定模型和观测给定模型和观测序列条件下，在时间序列条件下，在时间t t处于状态处于状态i i，而在，而在t+1t+1处于状态处于状态j j的概率。的概率。11111111(,|)(,)(,|,)(|)()()()()()()()()()()ijtijtijjtttijjttNNtijjttijP SSOi jP SSOP Oi a bOjP Oi a bOji a bxj iSt+1t1S2S3SNSjS1S
29、2S3SNS()ti1()ijjta b O1()tj11111111()(,)()(,)(,)NttjTTNttttjTttiijiijij 给定模型和观测序列条件下，在给定模型和观测序列条件下，在时间时间t t处于状态处于状态i i的概率。的概率。在时间在时间T T内，从状态内，从状态i i进行进行转移的次数。转移的次数。在时间在时间T T内，从状态内，从状态i i转移到转移到j j的次数。的次数。Baum-Welch算法算法 重估：,Oexpected number of times in stateand observing symbol()expected number of tim
30、es in state()()tjttkttjkb kjjjReestimate :expected count of transitions from i to jexpected count of stays at i(,)(,)ijttttjai ji j1()ii表示在时刻表示在时刻T T内，状态内，状态i i转移到状转移到状态态j j的总次数，除以在时间的总次数，除以在时间T T内，内，状态状态i i被经过的总次数；被经过的总次数；表示在时刻表示在时刻T T内，经过状态内，经过状态j j，并且状态并且状态j j对应的观测事件为对应的观测事件为v vk k的总数除以时间的总数除以时间T
31、 T内，经过状态内，经过状态j j的总数。的总数。表示在表示在t=1t=1处于状态处于状态i i的次数的次数几种典型形状的马尔可夫链几种典型形状的马尔可夫链na.A A矩阵没有零值的矩阵没有零值的MarkovMarkov链链nb.Ab.A矩阵有零值的矩阵有零值的MarkovMarkov链链nc./d.c./d.左右形式左右形式的的MarkovMarkov链链1.1.前向后向算法计算前向后向算法计算P(O|)P(O|)；2.2.Baum-Welch Baum-Welch 算法算法求出最优解求出最优解*=argmaxP(O|=argmaxP(O|)；3.3.ViterbiViterbi算法解出最佳
32、状态转移序列；算法解出最佳状态转移序列；4.4.根据最佳状态序列对应的根据最佳状态序列对应的给出候选音节或声韵母给出候选音节或声韵母;5.5.通过语言模型形成词和句子。通过语言模型形成词和句子。经典经典HMM语音识别一般过程语音识别一般过程Baum-WelchRe-estimationSpeechdatabaseFeatureExtractionConverged?127HMMwaveformfeatureYesNoend经典经典HMM语音识别训练过程语音识别训练过程SelectSelectmaximummaximumRecognizedRecognizedwordwordSpeechSpee
33、chFeatureextractionLikelihoodLikelihoodcomputationcomputation1LikelihoodLikelihoodcomputationcomputation V.P(O|1)P(O|V)HMMHMM1 1HMMHMMV V经典经典HMM语音识别识别过程语音识别识别过程1.1.语音信号预处理与特征提取语音信号预处理与特征提取2.2.声学模型与模式匹配声学模型与模式匹配3.3.语言模型与语言处理语言模型与语言处理语音信号预处理与特征提取参数初始化：参数初始化：起始状态概率起始状态概率()()状态转移概率状态转移概率(A)(A)观测序列概率观测序列
34、概率(B)(B)根据观测序列概率表示方法的不同：根据观测序列概率表示方法的不同：离散的离散的HMMHMM（DHMMDHMM）连续的连续的HMMHMM（CHMMCHMM）半连续的半连续的HMMHMM（SCHMMSCHMM）声学模型与模式匹配声学模型与模式匹配DHMMDHMM：离散的符号作为观测量离散的符号作为观测量b bj j(x(x)b bj j(k(k)b bj j(x(x)CHMMCHMM：观测量为连续概率密度函数观测量为连续概率密度函数 每个状态有不同的一组概率每个状态有不同的一组概率密度函数密度函数SCHMMSCHMM：观测量为连续概率密度函观测量为连续概率密度函数数 所有状态共享一组
35、概率密所有状态共享一组概率密度函数度函数声学模型与模式匹配声学模型与模式匹配采用统计语法的语言模型采用统计语法的语言模型基本原理：采用大量的文本资料，统计各个词的出基本原理：采用大量的文本资料，统计各个词的出现概率及相互关联的条件概率，并将这些知识与声现概率及相互关联的条件概率，并将这些知识与声学模型结合进行结果判决，减小误识。学模型结合进行结果判决，减小误识。设设W=wW=w1 1,w,w2 2,w,wQ Q,其概率表示为：其概率表示为：P(W)=P(wP(W)=P(w1 1,w,w2 2,w,wQ Q)=P(w =P(w1 1)P(w)P(w2 2|w|w1 1)P(WP(WQ Q|W|W1 1,W,W2 2,W WQ-1Q-1)
