# 第 5 章 隐含马尔可夫模型

## 通信的过程

语音识别，汉英翻译等都符合通信模型。通信的过程本质上就是：发送者编码——信道传播——接收者解码。如何根据接收端的观测信号![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)来推测信号源的发送信息![s\_1,\ s\_2,\ s\_3,\ \cdots](https://www.zhihu.com/equation?tex=s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots)呢？我们需要从所有的信息源中找到最可能产生观测信号的那一个信息。

![通信模型](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEZd_1FY3_7kmtUNqbM%2F-LEZgo54wWgHqR8wZPhk%2F%E6%B6%A8%E8%B7%8C%E5%81%9C%E4%BB%B7%E6%A0%BC%E5%AD%90%E7%B3%BB%E7%BB%9F.png?alt=media\&token=c9cebed8-3969-4552-93fe-f9237983a172)

用概率论的语言描述，即是在已知![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)的情况下，求得令条件概率![P\left( s\_1,\\,\\,s\_2,\\,\\,s\_3,\\,\\,\cdots \mid o\_1,\\,\\,o\_2,\\,\\,o\_3,\\,\\,\cdots \right) ](https://www.zhihu.com/equation?tex=P%5Cleft\(%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cmid%20o_1%2C%5C%2C%5C%2Co_2%2C%5C%2C%5C%2Co_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cright\)%20)达到终于打值的那个信息串![s\_1,\\,\\,s\_2,\\,\\,s\_3,\\,\\,\cdots ](https://www.zhihu.com/equation?tex=s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20)，即：

![（5.1）](https://www.zhihu.com/equation?tex=s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%3D%5Ctext%7BArg%7D%5Cunderset%7B%5Ctext%7Ball%20%7Ds_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%7D%7B%5Ctext%7BMax%7D%7DP%5Cleft\(%20s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%20%5Cmid%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\))

其中![\text{Arg}](https://www.zhihu.com/equation?tex=%5Ctext%7BArg%7D)是参数 Argument 的所需，表示能获得最大值的那个信息串。

利用贝叶斯公式，公式（5.1）可等价变换为：

![（5.2）](https://www.zhihu.com/equation?tex=P%5Cleft\(%20s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%20%5Cmid%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\)%3D%5Cfrac%7BP%5Cleft\(%20o_1%2C%5C%2C%5C%2Co_2%2C%5C%2C%5C%2Co_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cmid%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cright\)%20%5Ccdot%20P%5Cleft\(%20s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%20%5Cright\)%7D%7BP%5Cleft\(%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\)%7D)

其中，![P(o\_{1},\ o\_{2},\ o\_{3},\ ...\mid s\_{1},\ s\_{2},\ s\_{3},\ ...)](https://www.zhihu.com/equation?tex=P\(o_%7B1%7D%2C%5C%20o_%7B2%7D%2C%5C%20o_%7B3%7D%2C%5C%20...%5Cmid%20s_%7B1%7D%2C%5C%20s_%7B2%7D%2C%5C%20s_%7B3%7D%2C%5C%20...\))表示信息![s\_{1},\ s\_{2},\ s\_{3},\ ...](https://www.zhihu.com/equation?tex=s_%7B1%7D%2C%5C%20s_%7B2%7D%2C%5C%20s_%7B3%7D%2C%5C%20...)在传输后变成接收的信号![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)的概率，这个可以通过训练得出；![P(s\_{1},\ s\_{2},\ s\_{3},\ ...)](https://www.zhihu.com/equation?tex=P\(s_%7B1%7D%2C%5C%20s_%7B2%7D%2C%5C%20s_%7B3%7D%2C%5C%20...\))表示![s\_1,\ s\_2,\ s\_3,\ \cdots](https://www.zhihu.com/equation?tex=s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots)本身是一个在接收端合乎情理的信号的概率； ![P\left( o\_1,\ o\_2,\ o\_3,\ \cdots \right)](https://www.zhihu.com/equation?tex=P%5Cleft\(%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\))表示在发送端产生信息![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)的概率。

为了简化问题，一旦信息![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)产生了，就不会再改变，这时![P\left( o\_1,\ o\_2,\ o\_3,\ \cdots \right)](https://www.zhihu.com/equation?tex=P%5Cleft\(%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\))就是一个可以忽略的常数，上述公式就可等价成

![（5.3）](https://www.zhihu.com/equation?tex=P%5Cleft\(%20o_1%2C%5C%2C%5C%2Co_2%2C%5C%2C%5C%2Co_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cmid%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cright\)%20%5Ccdot%20P%5Cleft\(%20s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%20%5Cright\))

## 马尔科夫模型

要介绍隐含马尔可夫模型，还是要从**马尔科夫链**说起。如下图，在这个马尔科夫链中，状态m1只可能转换成状态m2；状态m2有60%概率转换成状态m3，有40%概率转换成状态m4；……以此类推。

<div align="center"><img src="https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEZd_1FY3_7kmtUNqbM%2F-LEZozQ6-Qx9DLVhaxbd%2F%E6%B6%A8%E8%B7%8C%E5%81%9C%E4%BB%B7%E6%A0%BC%E5%AD%90%E7%B3%BB%E7%BB%9F2.png?alt=media&#x26;token=b6d152b0-8aad-4bb7-9e9c-287cd559c6a4" alt="马尔科夫链"></div>

{% hint style="info" %}

#### 马尔科夫链

马尔可夫假设为随机过程中各个状态![s\_t](https://www.zhihu.com/equation?tex=s_t)的概率分布，只与它的前一个状态![s\_{t-1}](https://www.zhihu.com/equation?tex=s_%7Bt-1%7D)有关，即![P\left( s\_t\mid s\_1,\\,\\,s\_2,\\,\\,\cdots ,\\,\\,s\_{t-1} \right) =P\left( s\_t\mid s\_{t-1} \right) ](https://www.zhihu.com/equation?tex=P%5Cleft\(%20s_t%5Cmid%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2C%5Ccdots%20%2C%5C%2C%5C%2Cs_%7Bt-1%7D%20%5Cright\)%20%3DP%5Cleft\(%20s_t%5Cmid%20s_%7Bt-1%7D%20%5Cright\)%20)。
{% endhint %}

这里然使用非常简单的天气模型来做说明。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbjz_2OcFQEF3ELpBU%2F-LEbmjyb1dZCu5l9lraV%2FMH.jpg?alt=media\&token=a2630a58-1efd-4988-acb5-ad1ac859f5de)

在这个马尔可夫模型中，存在三个状态：Sunny， Rainy， Cloudy，同时图片上标的是各个状态间的转移概率。

[Markov Chains in Python: Beginner Tutorial](https://www.datacamp.com/community/tutorials/markov-chains-python-tutorial?utm_source=mybridge\&utm_medium=blog\&utm_campaign=read_more)

## 隐含马尔可夫模型（ HMM）

以下三个 Table，从左往右：

* Table1简单介绍 是对隐含马尔科夫模型的简单讲解。
* Table2详细理解 是以经典的“掷骰子”案例对隐含马尔科夫模型进行讲解。
* Table3有趣的例子 结合一些实际仔细理解隐含马尔科夫模型。

{% tabs %}
{% tab title="简单介绍" %}
隐含马尔科夫模型是马尔科夫链的一个扩展：任一时刻![t](https://www.zhihu.com/equation?tex=t)的状态![s\_t](https://www.zhihu.com/equation?tex=s_t)的不可见的。但隐含尔科夫模型在每个时刻![t](https://www.zhihu.com/equation?tex=t)会输出一个符![o\_t](https://www.zhihu.com/equation?tex=o_t)，而且![o\_t](https://www.zhihu.com/equation?tex=o_t)仅和![s\_t](https://www.zhihu.com/equation?tex=s_t)相关。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbbh1K28Ryh_T6nb7O%2F%E9%9A%90%E5%90%AB%E9%A9%AC%E5%B0%94%E7%A7%91%E5%A4%AB%E6%A8%A1%E5%9E%8B.png?alt=media\&token=1e577f50-d7fa-4521-a544-b87eb7804d09)

{% hint style="info" %}

#### 隐含马尔科夫模型（ Hidden Markov Models，HMM）

**隐马尔可夫模型**（Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔科夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。

在**正常**的马尔可夫模型中，状态对于观察者来说是直接可见的。这样状态的转换概率便是全部的参数。而在**隐**马尔可夫模型中,状态并不是直接可见的，但受状态影响的某些变量则是可见的。每一个状态在可能输出的符号上都有一概率分布。因此输出符号的序列能够透露出状态序列的一些信息。
{% endhint %}

举一个经典的例子：一个东京的朋友每天根据天气{下雨，天晴}决定当天的活动{公园散步,购物,清理房间}中的一种，我每天只能在twitter上看到她发的推“啊，我前天公园散步、昨天购物、今天清理房间了！”，那么我可以根据她发的推特推断东京这三天的天气。在这个例子里，显状态是活动，隐状态是天气。

任何一个HMM都可以通过下列五元组来描述：

| param obs | 观测序列               |
| --------- | ------------------ |
| states    | 隐状态                |
| start\_p  | 初始概率（隐状态）          |
| trans\_p  | 转移概率（隐状态）          |
| emit\_p   | 发射概率（隐状态表现为显状态的概率） |

假设模型在每个时刻![t](https://www.zhihu.com/equation?tex=t)会输出一个符![o\_t](https://www.zhihu.com/equation?tex=o_t)，而且![o\_t](https://www.zhihu.com/equation?tex=o_t)仅和![s\_t](https://www.zhihu.com/equation?tex=s_t)相关（即马尔科夫假设），我们可以计算出某个特定状态序列![s\_1,\ s\_2,\ s\_3,\ \cdots](https://www.zhihu.com/equation?tex=s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots)产生输出符![o\_1,\ o\_2,\ o\_3,\ \cdots](https://www.zhihu.com/equation?tex=o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots)的概率 。则有：

![（5.4）](https://www.zhihu.com/equation?tex=P%5Cleft\(%20s_1%2C%5C%20s_2%2C%5C%20s_3%2C%5C%20%5Ccdots%20%2C%5C%20o_1%2C%5C%20o_2%2C%5C%20o_3%2C%5C%20%5Ccdots%20%5Cright\)%20%3D%5Cprod_t%7BP%5Cleft\(%20s_t%5Cmid%20s_%7Bt-1%7D%20%5Cright\)%20%5Ccdot%20P%5Cleft\(%20o_t%5Cmid%20s_t%20%5Cright\)%7D)

现在，将**马尔科夫假设**和**独立输出假设**用于通信的解码问题（5.3），即是将

![（5.5）](https://www.zhihu.com/equation?tex=P%5Cleft\(%20o_1%2C%5C%2C%5C%2Co_2%2C%5C%2C%5C%2Co_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cmid%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cright\)%20%3D%5Cprod_t%7BP%5Cleft\(%20o_t%5Cmid%20s_t%20%5Cright\)%7D)

![（5.6）](https://www.zhihu.com/equation?tex=P%5Cleft\(%20s_1%2C%5C%2C%5C%2Cs_2%2C%5C%2C%5C%2Cs_3%2C%5C%2C%5C%2C%5Ccdots%20%5Cright\)%20%3D%5Cprod_t%7BP%5Cleft\(%20s_t%5Cmid%20s_%7Bt-1%7D%20%5Cright\)%7D)

（5.5），（5.6）带入（5.3）就可得（5.4）。

如何让找到概率最大值，需运用**维特比算法**（后面会提到）。（注：![s\_t](https://www.zhihu.com/equation?tex=s_t)可能会生成![o\_t](https://www.zhihu.com/equation?tex=o_t)，即生成概率；也可能会转化为![s\_{t-1}](https://www.zhihu.com/equation?tex=s_%7Bt-1%7D)，即**转移概率**）。
{% endtab %}

{% tab title="详细理解" %}
**隐马尔可夫模型**（Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。

是在被建模的系统被认为是一个马尔可夫过程与未观测到的（隐藏的）的状态的统计马尔可夫模型。

下面用一个经典的例子（掷骰子）来阐述：

假设我手里有三个不同的骰子。第一个骰子是我们平常见的骰子（称这个骰子为D6），6个面，每个面（1，2，3，4，5，6）出现的概率是1/6。第二个骰子是个四面体（称这个骰子为D4），每个面（1，2，3，4）出现的概率是1/4。第三个骰子有八个面（称这个骰子为D8），每个面（1，2，3，4，5，6，7，8）出现的概率是1/8。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbdZiIAqCKjUDD2sMN%2FHMM1.png?alt=media\&token=6d8fac93-ea77-472e-b1a9-fb632a055295)

假设我们开始掷骰子，我们先从三个骰子里挑一个，挑到每一个骰子的概率都是1/3。然后我们掷骰子，得到一个数字，1，2，3，4，5，6，7，8中的一个。不停的重复上述过程，我们会得到一串数字，每个数字都是1，2，3，4，5，6，7，8中的一个。例如我们可能得到这么一串数字（掷骰子10次）：1 6 3 5 2 7 3 5 2 4

这串数字叫做可见状态链。但是在隐马尔可夫模型中，我们不仅仅有这么一串可见状态链，还有一串隐含状态链。在这个例子里，这串隐含状态链就是你用的骰子的序列。比如，隐含状态链有可能是：D6 D8 D8 D6 D4 D8 D6 D6 D4 D8

一般来说，HMM中说到的马尔可夫链其实是指隐含状态链，因为隐含状态（骰子）之间存在转换概率（transition probability）。在我们这个例子里，D6的下一个状态是D4，D6，D8的概率都是1/3。D4，D8的下一个状态是D4，D6，D8的转换概率也都一样是1/3。这样设定是为了最开始容易说清楚，但是我们其实是可以随意设定转换概率的。比如，我们可以这样定义，D6后面不能接D4，D6后面是D6的概率是0.9，是D8的概率是0.1。这样就是一个新的HMM。

同样的，尽管可见状态之间没有转换概率，但是隐含状态和可见状态之间有一个概率叫做输出概率（emission probability）。就我们的例子来说，六面骰（D6）产生1的输出概率是1/6。产生2，3，4，5，6的概率也都是1/6。我们同样可以对输出概率进行其他定义。比如，我有一个被赌场动过手脚的六面骰子，掷出来是1的概率更大，是1/2，掷出来是2，3，4，5，6的概率是1/10。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbdmMF_C1N7MIqTdec%2FHMM2.png?alt=media\&token=76e8945e-e028-4420-bae8-cb226020b1e1)

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbdrva4Pf_6ZhQeUau%2FHMM3.png?alt=media\&token=2668d9b1-b324-4f8d-94d6-a2010414d2ad)

其实对于HMM来说，如果提前知道所有隐含状态之间的转换概率和所有隐含状态到所有可见状态之间的输出概率，做模拟是相当容易的。但是应用HMM模型时候呢，往往是缺失了一部分信息的，有时候你知道骰子有几种，每种骰子是什么，但是不知道掷出来的骰子序列；有时候你只是看到了很多次掷骰子的结果，剩下的什么都不知道。如果应用算法去估计这些缺失的信息，就成了一个很重要的问题。这些算法我会在下面详细讲。

## 更深层次的的理解

要了解一个算法，要做到以下两点：会其意，知其形。和HMM模型相关的算法主要分为三类，分别解决三种问题：&#x20;

**1）知道骰子有几种（隐含状态数量），每种骰子是什么（转换概率），根据掷骰子掷出的结果（可见状态链），我想知道每次掷出来的都是哪种骰子（隐含状态链）。** \
这个问题呢，在语音识别领域呢，叫做解码问题。这个问题其实有两种解法，会给出两个不同的答案。每个答案都对，只不过这些答案的意义不一样。第一种解法求最大似然状态路径，说通俗点呢，就是我求一串骰子序列，这串骰子序列产生观测结果的概率最大。第二种解法呢，就不是求一组骰子序列了，而是求每次掷出的骰子分别是某种骰子的概率。比如说我看到结果后，我可以求得第一次掷骰子是D4的概率是0.5，D6的概率是0.3，D8的概率是0.2.第一种解法我会在下面说到，但是第二种解法我就不写在这里了，如果大家有兴趣，我们另开一个问题继续写吧。

**2）还是知道骰子有几种（隐含状态数量），每种骰子是什么（转换概率），根据掷骰子掷出的结果（可见状态链），我想知道掷出这个结果的概率。** \
看似这个问题意义不大，因为你掷出来的结果很多时候都对应了一个比较大的概率。问这个问题的目的呢，其实是检测观察到的结果和已知的模型是否吻合。如果很多次结果都对应了比较小的概率，那么就说明我们已知的模型很有可能是错的，有人偷偷把我们的骰子給换了。

**3）知道骰子有几种（隐含状态数量），不知道每种骰子是什么（转换概率），观测到很多次掷骰子的结果（可见状态链），我想反推出每种骰子是什么（转换概率）。** \
这个问题很重要，因为这是最常见的情况。很多时候我们只有可见结果，不知道HMM模型里的参数，我们需要从可见结果估计出这些参数，这是建模的一个必要步骤。

问题阐述完了，下面就开始说解法。（0号问题在上面没有提，只是作为解决上述问题的一个辅助）&#x20;

**0.一个简单问题** \
其实这个问题实用价值不高。由于对下面较难的问题有帮助，所以先在这里提一下。 \
知道骰子有几种，每种骰子是什么，每次掷的都是什么骰子，根据掷骰子掷出的结果，求产生这个结果的概率。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbeaxgO1sMwL-V1V1S%2FHMM4.png?alt=media\&token=9fdf8c80-0b2a-4571-9b37-bd43dd51920c)

解法无非就是概率相乘：&#x20;

![](http://zhihu.com/equation?tex=P%3DP%28D6%29%2AP%28D6%5Crightarrow+1%29%2AP%28D6%5Crightarrow+D8%29%2AP%28D8%5Crightarrow+6%29%2AP%28D8%5Crightarrow+D8%29%2AP%28D8%5Crightarrow+3%29)

![](http://zhihu.com/equation?tex=%3D%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B6%7D+%2A%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B8%7D+%2A%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B8%7D+)

**1.看见不可见的，破解骰子序列** \
这里我说的是第一种解法，解最大似然路径问题。 \
举例来说，我知道我有三个骰子，六面骰，四面骰，八面骰。我也知道我掷了十次的结果（1 6 3 5 2 7 3 5 2 4），我不知道每次用了那种骰子，我想知道最有可能的骰子序列。

其实最简单而暴力的方法就是穷举所有可能的骰子序列，然后依照第零个问题的解法把每个序列对应的概率算出来。然后我们从里面把对应最大概率的序列挑出来就行了。如果马尔可夫链不长，当然可行。如果长的话，穷举的数量太大，就很难完成了。&#x20;

\
另外一种很有名的算法叫做Viterbi algorithm. 要理解这个算法，我们先看几个简单的列子。&#x20;

\
首先，如果我们只掷一次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbfHvB-4d3mammS0df%2FHMM5.png?alt=media\&token=bbab8f58-4a95-4aa4-8845-5aaf0c7533c3)

看到结果为1.对应的最大概率骰子序列就是D4，因为D4产生1的概率是1/4，高于1/6和1/8. \
把这个情况拓展，我们掷两次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbfNE8ApbYF8jzC68O%2FHMM6.png?alt=media\&token=e4731b7b-e442-4d64-bb35-98d06851e4c5)

结果为1，6.这时问题变得复杂起来，我们要计算三个值，分别是第二个骰子是D6，D4，D8的最大概率。显然，要取到最大概率，第一个骰子必须为D4。这时，第二个骰子取到D6的最大概率是 \\

![](http://zhihu.com/equation?tex=P2%28D6%29%3DP%28D4%29%2AP%28D4%5Crightarrow+1%29%2AP%28D4%5Crightarrow+D6%29%2AP%28D6%5Crightarrow+6%29)

![](http://zhihu.com/equation?tex=%3D%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B4%7D+%2A%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B6%7D)

\
同样的，我们可以计算第二个骰子是D4或D8时的最大概率。我们发现，第二个骰子取到D6的概率最大。而使这个概率最大时，第一个骰子为D4。所以最大概率骰子序列就是D4 D6。&#x20;

\
继续拓展，我们掷三次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbfZRnWpN1Jg0gmzpu%2FHMM7.png?alt=media\&token=600195eb-f572-41d1-803d-9a5e31836aa3)

同样，我们计算第三个骰子分别是D6，D4，D8的最大概率。我们再次发现，要取到最大概率，第二个骰子必须为D6。这时，第三个骰子取到D4的最大概率是

![](http://zhihu.com/equation?tex=P3%28D4%29%3DP2%28D6%29%2AP%28D6%5Crightarrow+D4%29%2AP%28D4%5Crightarrow+3%29)

![](http://zhihu.com/equation?tex=%3D%5Cfrac%7B1%7D%7B216%7D+%2A%5Cfrac%7B1%7D%7B3%7D+%2A%5Cfrac%7B1%7D%7B4%7D)

\
同上，我们可以计算第三个骰子是D6或D8时的最大概率。我们发现，第三个骰子取到D4的概率最大。而使这个概率最大时，第二个骰子为D6，第一个骰子为D4。所以最大概率骰子序列就是D4 D6 D4。

写到这里，大家应该看出点规律了。既然掷骰子一二三次可以算，掷多少次都可以以此类推。我们发现，我们要求最大概率骰子序列时要做这么几件事情。首先，不管序列多长，要从序列长度为1算起，算序列长度为1时取到每个骰子的最大概率。然后，逐渐增加长度，每增加一次长度，重新算一遍在这个长度下最后一个位置取到每个骰子的最大概率。因为上一个长度下的取到每个骰子的最大概率都算过了，重新计算的话其实不难。当我们算到最后一位时，就知道最后一位是哪个骰子的概率最大了。然后，我们要把对应这个最大概率的序列从后往前推出来。&#x20;

\
**2.谁动了我的骰子？** \
比如说你怀疑自己的六面骰被赌场动过手脚了，有可能被换成另一种六面骰，这种六面骰掷出来是1的概率更大，是1/2，掷出来是2，3，4，5，6的概率是1/10。你怎么办么？答案很简单，算一算正常的三个骰子掷出一段序列的概率，再算一算不正常的六面骰和另外两个正常骰子掷出这段序列的概率。如果前者比后者小，你就要小心了。 \\

比如说掷骰子的结果是：&#x20;

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbgDBbPpHqCODCZcnU%2FHMM7.png?alt=media\&token=9f7c15c3-7133-4d9c-89a4-630e0de21907)

要算用正常的三个骰子掷出这个结果的概率，其实就是将所有可能情况的概率进行加和计算。同样，简单而暴力的方法就是把穷举所有的骰子序列，还是计算每个骰子序列对应的概率，但是这回，我们不挑最大值了，而是把所有算出来的概率相加，得到的总概率就是我们要求的结果。这个方法依然不能应用于太长的骰子序列（马尔可夫链）。 \\

我们会应用一个和前一个问题类似的解法，只不过前一个问题关心的是概率最大值，这个问题关心的是概率之和。解决这个问题的算法叫做前向算法（forward algorithm）。 \
首先，如果我们只掷一次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbgLVbWNNtnWBuM4sw%2FHMM5.png?alt=media\&token=877ab353-1945-4148-815c-f948bbbe080f)

看到结果为1。产生这个结果的总概率可以按照如下计算，总概率为0.18：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbgcXnQyR3SzUvNIN4%2FHMM8.png?alt=media\&token=777af41c-8690-435d-abe8-f3427bea02d2)

把这个情况拓展，我们掷两次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbgr3iqjHYYAeadzN8%2FHMM6.png?alt=media\&token=5533ab22-71f4-40c0-b7d2-93f7c3dfee88)

看到结果为1，6。产生这个结果的总概率可以按照如下计算，总概率为0.05：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbh57fsWZlZEWIf6Bc%2FH%2C%2C9.png?alt=media\&token=5e3b7725-39ce-4a17-b722-ea001347eaed)

继续拓展，我们掷三次骰子：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbgDBbPpHqCODCZcnU%2FHMM7.png?alt=media\&token=9f7c15c3-7133-4d9c-89a4-630e0de21907)

看到结果为1，6，3.产生这个结果的总概率可以按照如下计算，总概率为0.03：

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbTcngpxdRLC9_46gx%2F-LEbhnOfAi6U6vMSApiG%2FHMM10.jpg?alt=media\&token=74a4930c-adfe-4c43-94ba-8a68c4d37f56)

同样的，我们一步一步的算，有多长算多长，再长的马尔可夫链总能算出来的。用同样的方法，也可以算出不正常的六面骰和另外两个正常骰子掷出这段序列的概率，然后我们比较一下这两个概率大小，就能知道你的骰子是不是被人换了。

#### 参考

[一文搞懂HMM（隐马尔可夫模型）](https://www.cnblogs.com/skyme/p/4651331.html)

[如何用简单易懂的例子解释隐马尔可夫模型？](https://www.zhihu.com/question/20962240)
{% endtab %}

{% tab title="有趣的例子" %}
作者：Nong Bloody\
链接：<https://www.zhihu.com/question/20962240/answer/33561657\\>
来源：知乎

### **1. 赌场风云(背景介绍)**

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbjz_2OcFQEF3ELpBU%2F-LEbomfzdyO8NCq-_5PK%2F1.jpg?alt=media\&token=3434ff8b-7463-4837-8bcc-458dba3bfb39)

最近一个赌场的老板发现生意不畅，于是派出手下去赌场张望。经探子回报，有位大叔在赌场中总能赢到钱，玩得一手好**骰子**，几乎是战无不胜。而且每次玩骰子的时候周围都有几个保镖站在身边，让人不明就里，只能看到每次开局，骰子飞出，沉稳落地。老板根据多年的经验，推测这位不善之客使用的正是江湖失传多年的"偷换骰子大法”(编者注:**偷换骰子大法，用兜里自带的骰子偷偷换掉均匀的骰子**)。老板是个冷静的人，看这位大叔也不是善者，不想轻易得罪他，又不想让他坏了规矩。正愁上心头，这时候进来一位名叫HMM帅哥，告诉老板他有一个很好的解决方案。\\

不用近其身，只要在远处装个摄像头，把每局的骰子的点数都记录下来。

然后HMM帅哥将会运用其强大的数学内力，用这些数据推导出：

1. 该大叔是不是在出千?
2. 如果是在出千，那么他用了几个作弊的骰子?　还有当前是不是在用作弊的骰子。
3. 这几个作弊骰子出现各点的概率是多少?

天呐，老板一听，这位叫HMM的甚至都不用近身，就能算出是不是在作弊，甚至都能算出别人作弊的骰子是什么样的。那么，只要再当他作弊时，派人围捕他，当场验证骰子就能让他哑口无言。

### **2. HMM是何许人也?**

在让HMM开展调查活动之前，该赌场老板也对HMM作了一番调查。

HMM(Hidden Markov Model), 也称隐性马尔可夫模型，是一个概率模型，用来描述一个系统**隐性状态**的转移和**隐性状态**的表现概率。\\

**系统的隐性状态**指的就是一些外界不便观察(或观察不到)的状态, 比如在当前的例子里面, 系统的状态指的是大叔使用骰子的状态，即

{正常骰子, 作弊骰子1, 作弊骰子2,...}

**隐性状态的表现**也就是, 可以观察到的，由隐性状态产生的外在表现特点。这里就是说, 骰子掷出的点数.

{1,2,3,4,5,6}

HMM模型将会描述，系统**隐性状态的转移概率**。也就是大叔切换骰子的概率,下图是一个例子，这时候大叔切换骰子的可能性被描述得淋漓尽致。![](https://pic4.zhimg.com/50/de1e09aa9c09b1a0928f5b91ba45d352_hd.jpg)

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbjz_2OcFQEF3ELpBU%2F-LEbpRaqxQ_NNbzkjXrv%2F2.jpg?alt=media\&token=5a337e05-d138-4fdb-a252-6f76027ba690)

很幸运的，这么复杂的概率转移图，竟然能用简单的矩阵表达, 其中a\_{ij}代表的是从i状态到j状态发生的概率

![](https://pic2.zhimg.com/80/0a28bf2d267ba6aa16dde74771796bbc_hd.jpg)

当然同时也会有，**隐性状态表现转移**概率。也就是骰子出现各点的概率分布, (e.g. 作弊骰子1能有90%的机会掷到六，作弊骰子2有85%的机会掷到'小’). 给个图如下,![](https://pic1.zhimg.com/50/2f6e49ac23b9f99cc21cf9016435ae39_hd.jpg)

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbjz_2OcFQEF3ELpBU%2F-LEbpcZc-z6XgGERU_qM%2F3.jpg?alt=media\&token=a92f2c93-05e1-4483-81d5-a7adf60b35df)

隐性状态的表现分布概率也可以用矩阵表示出来，

![](https://pic4.zhimg.com/80/9974153a9ac8963c329c4195878c5312_hd.jpg)

把这两个东西总结起来，就是整个HMM模型。

这个模型描述了隐性状态的转换的概率，同时也描述了每个状态外在表现的概率的分布。总之，HMM模型就能够描述扔骰子大叔作弊的频率(骰子更换的概率)，和大叔用的骰子的概率分布。有了大叔的HMM模型，就能把大叔看透，让他完全在阳光下现形。

### **3. HMM能干什么!**

总结起来HMM能处理三个问题。

#### 3.1 解码(Decoding)

解码就是需要从一连串的骰子中，看出来哪一些骰子是用了作弊的骰子，哪些是用的正常的骰子。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEbjz_2OcFQEF3ELpBU%2F-LEbq-xSn-G0YZryA3W9%2F4.jpg?alt=media\&token=8de98c0a-c76c-41de-a4bb-0f7a9e771485)

比如上图中，给出一串骰子序列(3,6,1,2..)和大叔的HMM模型, 我们想要计算哪一些骰子的结果(隐性状态表现)可能对是哪种骰子的结果(隐性状态).

#### 3.2学习(Learning)

学习就是，从一连串的骰子中，学习到大叔切换骰子的概率，当然也有这些骰子的点数的分布概率。这是HMM最为**恐怖**也最为**复杂**的招数！！

#### 3.3 估计(Evaluation)

估计说的是，在我&#x4EEC;***已经知道***&#x4E86;该大叔的HMM模型的情况下，估测某串骰子出现的可能性概率。比如说，在我们已经知道大叔的HMM模型的情况下，我们就能直接估测到大叔扔到10个6或者8个1的概率。

### 4. **HMM是怎么做到的?**

#### 4.1 估计

估计是最容易的一招，在完全知道了大叔的HMM模型的情况下，我们很容易就能对其做出估计。

现在我们有了大叔的状态转移概率矩阵A,B就能够进行估计。比如我们想知道这位大叔下一局连续掷出10个6的概率是多少? 如下

![](https://pic2.zhimg.com/80/f893ed100b894616bffef0bae9f461da_hd.jpg)

这表示的是，在一开始隐性状态(s0)为1，也就是一开始拿着的是**正常的骰子**的情况下，这位大叔连续掷出10个6的概率。

现在问题难就难在，我们虽然知道了HMM的转换概率，和观察到的状态V{1:T}, 但是我们却不知道实际的隐性的状态变化。

好吧，我们不知道隐性状态的变化，那好吧，我们就先**假设**一个**隐性状态序列**, 假设大叔前5个用的是正常骰子, 后5个用的是作弊骰子1.

![](https://pic3.zhimg.com/80/468da543a29861571622d107d845bc42_hd.jpg)

好了，那么我们可以计算，在这种隐性序列假设下掷出10个6的概率.\\

![](https://pic2.zhimg.com/80/4f15b94f31eb9fbe8370a1ad6b90e730_hd.jpg)

这个概率其实就是，隐性状态表现概率B的乘积。

![](https://pic1.zhimg.com/80/c1616bab1b90e3daa3b01c93a27f5c07_hd.jpg)

但是问题又出现了，刚才那个隐性状态序列是我假设的，而实际的序列我不知道，这该怎么办。好办，把**所有可能出现**的隐状态序列组合全都试一遍就可以了。于是,

![](https://pic1.zhimg.com/80/b007c2e9628c6db1de871bc5c52e24b6_hd.jpg)

R就是所有可能的隐性状态序列的集合。现在问题好像解决了，我们已经能够通过尝试所有组合来获得出现的概率值，并且可以通过A,B矩阵来计算出现的总概率。\
\
但是问题又出现了，可能的集合太大了, 比如有三种骰子，有10次选择机会, 那么总共的组合会有3^10次...这个量级O(c^T)太大了，当问题再大一点时候，组合的数目就会大得超出了计算的可能。所以我们需要一种更有效的计算P(V(1:T)概率的方法。\
比如说如下图的算法可以将计算P(V1:T)的计算复杂度降低至O(cT).

![](https://pic4.zhimg.com/80/7a7efeb3e50a827cd8305f1c1dde360f_hd.jpg)

有了这个方程，我们就能从t=0的情况往前推导，一直推导出P(V1:T)的概率。下面让我们算一算，大叔掷出3,2,1这个骰子序列的可能性有多大(假设初始状态为1, 也就是大叔前一次拿着的是正常的骰子)?

#### **4.2 解码(Decoding)**

解码的过程就是在给出一串序列的情况下和已知HMM模型的情况下，找到最可能的隐性状态序列。![](https://pic3.zhimg.com/50/4a40f1a93aa25adce92f5441e6e2cfb9_hd.jpg)

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEc1vQiBJQzrwjyWOUC%2F-LEc3EwKpicutGhxZ5wo%2F5.jpg?alt=media\&token=01d1ea18-83dd-48ec-8922-2241209e11fd)

用数学公式表示就是, (V是Visible可见序列, w是隐性状态序列, A,B是HMM状态转移概率矩阵)(公式太多，请具体看我博客中的推导[机器学习 --- 4. 大内密探HMM(隐马尔可夫)围捕赌场老千](https://link.zhihu.com/?target=http%3A//blog.csdn.net/ppn029012/article/details/8923501))\\

然后又可以使用**估计(4.1)**&#x4E2D;的**前向推导法**，计算出最大的P(w(1:T), V(1:T)).

在完成前向推导法之后，再使用**后向追踪法**(Back Tracking)，对求解出能令这个P(w(1:T), V(1:T))最大的隐性序列.这个算法被称为维特比算法(Viterbi Algorithm).

#### **4.3 学习(Learning)**

学习是在给出HMM的结构的情况下(比如说假设已经知道该大叔有3只骰子，每只骰子有6面),计算出最有可能的模型参数。(公式太多，请具体看我博客中的推导[机器学习 --- 4. 大内密探HMM(隐马尔可夫)围捕赌场老千](https://link.zhihu.com/?target=http%3A//blog.csdn.net/ppn029012/article/details/8923501))

### **5. HMM 的应用**

以上举的例子是用HMM对掷骰子进行建模与分析。当然还有很多HMM经典的应用，能根据不同的应用需求，对问题进行建模。

但是使用HMM进行建模的问题，必须满足以下条件,

1.**隐性状态的转移**必须满足马尔可夫性。(状态转移的马尔可夫性:一个状态只与前一个状态有关)

2\. 隐性状态必须能够大概被估计。

在满足条件的情况下,确定问题中的**隐性状态是什么**,隐性状态的**表现**可能又有哪些。

HMM适用于的问题在于，真正的状态(隐态)难以被估计，而状态与状态之间又存在联系。

#### **5.1 语音识别**

语音识别问题就是将一段**语音信号**转换为**文字序列**的过程. 在个问题里面

* 隐性状态：即是语音信号对应的文字序列。
* 显性状态：即是语音。

![](https://543297831-files.gitbook.io/~/files/v0/b/gitbook-legacy-files/o/assets%2F-LEY4jsxH4p0F7hFIFwd%2F-LEc1vQiBJQzrwjyWOUC%2F-LEc4DZHAZgFhUZ1sTcR%2F6.jpg?alt=media\&token=0c0ad51c-2bdf-42ab-91fc-5e1a23d5f942)

HMM模型的学习(Learning): 语音识别的模型学习和上文中通过观察骰子序列建立起一个最有可能的模型**不同**.　语音识别的HMM模型学习有两个步骤:

1. 统计文字的发音概率,建立隐性表现概率矩阵Ｂ
2. 统计字词之间的转换概率(这个步骤并不需要考虑到语音,可以直接统计字词之间的转移概率即可)

语音模型的估计(Evaluation): 计算"是十四”,"四十四"等等的概率,比较得出最有可能出现的文字序列.

#### **5.2 手写识别**

这是一个和语音差不多,只不过手写识别的过程是将字的图像当成了显性序列。

#### 5.3 中文分词

“总所周知，在汉语中，词与词之间不存在分隔符（英文中，词与词之间用空格分隔，这是天然的分词标记），词本身也缺乏明显的形态标记，因此，中文信息处理的特有问题就是如何将汉语的字串分割为合理的词语序。例如，英文句子：you should go to kindergarten now 天然的空格已然将词分好，只需要去除其中的介词“to”即可；而“你现在应该去幼儿园了”这句表达同样意思的话没有明显的分隔符，中文分词的目的是，得到“你/现在/应该/去/幼儿园/了”。那么如何进行分词呢？主流的方法有三种：第1类是基于语言学知识的规则方法，如：各种形态的最大匹配、最少切分方法；第2类是基于大规模语料库的机器学习方法，这是目前应用比较广泛、效果较好的解决方案．用到的统计模型有N元语言模型、信道—噪声模型、最大期望、HMM等。第3类也是实际的分词系统中用到的，即规则与统计等多类方法的综合。”\[1][使用HMM进行中文分词.](https://link.zhihu.com/?target=http%3A//www.52nlp.cn/itenyh%25E7%2589%2588-%25E7%2594%25A8hmm%25E5%2581%259A%25E4%25B8%25AD%25E6%2596%2587%25E5%2588%2586%25E8%25AF%258D%25E4%25B8%2580%25EF%25BC%259A%25E5%25BA%258F)

#### 5.4 HMM实现拼音输入法

拼音输入法,是一个估测拼音字母对应想要输入的文字(隐性状态)的过程(比如, ‘pingyin’ -> 拼音)

[使用HMM实现简单拼音输入法](https://link.zhihu.com/?target=http%3A//www.sobuhu.com/archives/1008)
{% endtab %}
{% endtabs %}

## 隐含马尔科夫模型的训练

首先有三个基本问题：

1. 给定一个模型，如何计算某个特定输出序列的概率；
2. 给定一个模型和某个特定的输出序列，如何找到最可能产生这个输出的状态序列；
3. 给定足够的观测数据，如何估算隐含马尔可夫模型的参数。

问题1可参考贾里尼克《Statistical Methods for Speech Recognition 》。

问题2使用维特比算法来解码（后面会提到）。

关于问题3，通过大量的观察信号推测模型参数的生成概率、转移概率，以寻找最可能的模型，主要使用的是**鲍穆-韦尔奇算**法。首先，找到能够产生![o](https://www.zhihu.com/equation?tex=o)序列的模型参数；然后，计算出这个模型产生![o](https://www.zhihu.com/equation?tex=o)的概率，以及产生![o](https://www.zhihu.com/equation?tex=o)的所有可能路径和产生这些路径的概率。最终，计算出一组新的模型参数，根据新的模型参数再继续寻找更好的模型参数。以此类推，直到目标函数的输出概率达到最大化。这个过程被称为期望最大化（Expectation-Maximization，即**EM**）。EM能保证算法收敛到一个局部最优点，却不能保证找到全局最优点。

## 小结

隐含马尔科夫模型最初应用与通信领域，继而推广到语音和语言处理中，成为连接自然语言处理和通信的桥梁。隐含马尔可夫模型也是机器学习的主要工具。几乎和所有机器学习的主要工具一样，它需要一个训练算法（鲍姆—韦尔奇算法）和使用时的解码算法（维特比算法）。 掌握了这两类算法，就基本上可以使用隐含马尔科夫模型这个工具了。

如今，隐含马尔可夫模型被广泛应用于机器翻译、拼音纠错、手写体识别、图像处理、基因序列分析以及股票预测和投资。
