定义
隐马尔可夫模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测随机序列的过程。
举例
如图所示,三种骰子对应各自可能产生的结果。
每次随机抽取1个骰子投掷进行观测,比如抽取3次,抽取顺序依次为D4,D6,D8(不可观测),投掷结果为3,5,6。根据定义,D4,D6,D8为隐含状态序列,3,5,6为观测序列。
状态变迁图
HMM模型
概率计算算法
1.前向概率和后向概率
1)前向概率:给定隠马尔科夫模型 λ ,在时刻 t ,观测序列为O1,O2,...Ot, t 时刻的状态为 qi 的概率。
2)后向概率:给定隠马尔科夫模型λ ,在时刻 t 状态为 qi 的条件下,从t+1到T的观测序列为Ot+1,Ot+2,...OT 的概率。
2.前向算法
步骤1:t=1时,状态为i的前向概率,初始状态为i的概率和状态i下产生观测O1的概率的乘积。
步骤2:t+1时刻的前向概率为,t时刻的所有可能状态(j)的前向概率乘以该状态下一时刻(t+1)转换为状态(i)的概率,即为t+1时刻为状态i的概率(该概率包含t时刻的前向概率,所以此时观测序列为O1,O2,...Ot),再乘以t+1时刻观测为Ot+1的概率。
步骤3:T时刻观测序列为O1,O2,...OT,所有可能状态(i)的前向概率。
3.后向算法
步骤1:对最终时刻T所有状态i,规定后向概率为1。
步骤2:t时刻状态为i的后向概率定义为,t时刻状态为i且观测序列为Ot+1,Ot+2,...OT 的概率,即t时刻状态为i,t+1时刻状态为所有可能状态j,计算i状态到j状态的转移概率,乘以j状态产生观测为Ot+1的概率,再乘以t+1时刻状态为j的后向概率(此时观测为Ot+2,...OT)。
步骤3:初始状态为i的概率,乘以该状态产生观测O1的概率,再乘以t=1时的后向概率(观测序列为O2,O3,...OT 的概率),最后对所有可能的状态i求和。