在之前对序列模型中的 HMM(隐马尔可夫模型) 启动掌握，有必要对另外一个序列模型CRF启动掌握，由于这两个模型都是人造言语处置序列模型中的**模型。在之前引见的概率有向图模型，如HMM，即贝叶斯网络，相对应的概率无向图模型就称为马尔可夫网络或许马尔可夫随机场(MRF)，本篇文章所引见的CRF就是马尔可夫随机场的一种。
1.马尔可夫随机场
马尔可夫随机场也叫马尔可夫网络，同时也是一种无向图模型。在概率图模型的基础上，针对无向图模型，首先要求对无向图模型的基础概念启动肯定水平上的掌握。
1.1. MRF相关概念
无向图模型MRF所特有的一些概念如下：
1.2. Hammersley-Clifford定理
在关于势函数与团相关通常掌握的基础上，由此引申出随机场的基础定理，即Hammersley-Clifford定理。该定理的详细定义为：关于具备N个变量的马尔可夫随机场，已知变量为),这些变量中一切团所构成的汇合为T，同时与团对应的变量汇合记作，则其对应的联结概率为：
上式中，就是与团S所对应的势函数，其作用为对团中的变量相关启动建模。为规范化因子，其难以计算，在普遍状况下，无需计算出的准确值。在针关于团不是极大团的状况时，由于非极大团必然属于某个极大团的性质，所以还是可以用极大团启动计算来代替非极大团的联结概率，即:
上式中的就是一切极大团的汇合。Hammersley-Clifford定理是随机场的基础定理，其为马尔可夫随机场被表白为正概率散布的充沛必要条件。针关于1.1中的示例图，其联结概率就为：
1.3. 分别集与马尔科夫性
在对各种马尔可夫性启动掌握前，首先要求了解分别集的概念。分别集的定义为：设A、B、C都是马尔可夫随机场中的节点汇合，假设从汇合A中的节点到汇合C中的节点都肯定要经过汇合B中的节点，那么就可以称汇合A和汇合C被汇合B给分别，其中汇合B就为分别集。如下图所示：
有了分别汇合的概念，对上方几种马尔可夫性的了解就相对繁难了，马尔可夫性的定义为：当一个随机环节在给定形态及一切过去形态状况下，其未来形态的条件概率散布仅依赖于形态，即只需给定了形态，未来形态是与过去形态有关的，也是条件独立的，该随机环节也就具备了马尔可夫性。同理，在马尔可夫随机场中，马尔可夫性可解释为形态看作为无向图中的一个节点，过去形态就是与形态节点有边衔接的其余节点。针关于马尔可夫性和下图，又有：
综上可知，这三种马尔可夫性相互之间是关联等价的，经过全局马尔可夫性可以获取部分马尔可夫性，经过部分马尔可夫性也可获取成对马尔可夫性，经过成对马尔科夫性又可以推出全局马尔可夫性。因此只需满足三种性质的一种的无向图就称为马尔可夫随机场(MRF)。
2.条件随机场——CRF
经过上述论述，读者们可以对马尔可夫随机场，即马尔可夫无向图有了基本的掌握与了解。在此基础上，本文就引出条件随机场CRF。
由上述可知，CRF模型是无向图模型的一种，但是其与马尔可夫随机场(MRF)有所不同，关键区别在于MRF模型是生成模型，而CRF模型是判断式模型，其是对条件散布启动建模。两者之间也存在关联，即CRF是有条件的马尔可夫随机场，也就是在给定随机变量的条件下的马尔可夫随机场。
CRF的基本定义为：设X和Y是随机变量，是给定X条件下Y的条件概率散布。若随机变量Y构成一个无向图的马尔可夫随机场，则称条件概率散布为CRF。对应于马尔可夫性可了解为，假设随机变量Y构成一个无向图，且图中每一个变量Y,都满足马尔可夫性(至少满足全局马尔可夫性、部分马尔可夫性、成对马尔可夫性中一种)，则称为CRF。其中X为输入变量，即要求标注的观测序列，Y为输入变量，示意形态或标志序列。在人造言语处置畛域中，普遍的输入变量X和输入变量Y具备相反图结构。
2.2.CRF线性链
在实践运行中，关于CRF的经常使用最多的状况是线性链CRF，线性链的结构如下所示：
普通地，当X和Y具备相反图结构时，线性链结构就变为如下所示：
在上图中，X就为观测序列，Y就为形态序列。同时在给定随机变量序列X的条件下，假设随机变量序列Y相关于序列X的条件概率散布P(YIX)构成条件随机场，那么可得随机变量Y也满足马尔可夫性。公式表白为：
即Y形态只与相衔接的前后两个形态有关，而与其余形态相互独立，为线性衔接的相关。此时称P(YIX)为条件随机场，相应的，X为输入或许观测序列，Y为输入或许形态序列。
2.3. CRF相关计算
入选定好势函数后，这里选取指数函数，经过引入特色函数，可以获取条件概率为：
其中，t和 s区分为特色函数，t定义为边上的特色函数，也叫转移特色，它依赖于节点和前一个节点; s定义为结点上的特色函数，也叫形态特色，只依赖于结点。普通状况下，t和s的取值为1或许0，即满足特色条件时为1，不满足则为0。λ和区分为t和s所对应的权值。Z(x)为规范化因子，来保障P(YIX)为概率散布。
关于上述公式的了解，经过一个繁难例子可以更好地去掌握。例如设输入观测序列X X为 （ ） 对应的形态序列Y为 ，其中 的取值为1或许2。关于第一条衔接边，设特色和权值为：
对应的特色函数为：
依据上式，同时给定相对应的权重可写出:
由此可计算形态为的非规范化条件概率为(不要求除以规范化因子Z)。
3.CRF模型处置的三种疑问类型
相较于之前的HMM模型，CRF模型雷同要求处置三种疑问，区分为概率计算疑问、预测疑问和学习疑问。
4.总结
相较于HMM模型，CRF模型计算的环节更为复杂，但是关于全体掌握CRF模型的影响并不大，只要求在思绪上明确CRF模型和HMM模型在实践运行中所要求处置的三种疑问即可，针关于特定疑问中给定的已知条件来成功求解指标。
在人造言语处置畛域，关于概率统计模型的掌握其实也就是关于HMM模型和CRF模型的掌握。只管，HMM和CRF模型盛行于在人造言语处置畛域经常使用深度学习技术之前，但是还是那句话，目前针关于人造言语处置畛域深度学习技术的瓶颈疑问，无妨换个思想，思考下概率统计模型来处置，兴许能取得不错的成果。
作者引见
稀饭，社区编辑，曾任职某电商人工默认研发中心大数据技术部门，做介绍算法。目前攻读默认网络与大数据方向的钻研生，关键长于畛域有介绍算法、NLP、CV，经常使用代码言语有Java、Python、Scala。