题目要求:用归纳法证明公式2.38是归一后的Dirichlet概率分布形式
想了很久没明白,于是果断看答案。个人最难理解的是这块:
非常不能理解积分上限的取值。根据Dirichlet的特性,sum_{j=1}^{M}\mu_j = 1, 那么 \mu_{M-1}可取范围应该是(0, 1-sum_{j=1}^{M-2} - \mu_M)。
我的疑惑在于为什么积分掉第M个变量之后,P_{M-1}仍然是个Dirichlet。换句话说,为什么积分之后的边缘概率的变量之间仍然能保证如下性质:
(能不能在文中插入Latex啊啊啊)
查阅了一些资料之后,找到两点间接证明:
- Beta分布是Dirichlet的M=2的特殊情况,假设题中M=3, 那么就很好理解
-
来自网上的资料,245页介绍Dirichlet分布的最后一段,显然还是个草稿,截图如下:
简单地应用一下第二点就是,从P_{M-1}推导到P_{M},如果P_{M-1}符合Dirichlet分布,那么我可以把第M-1类拆分成第{M-1}和第{M}类,拆分后得到的P_{M}仍然符合Dirichlet分布。从最后证明的结果也可以看出第{M-1}个变量对应的参数是等于\alpha_{M-1} + \alpha_{M}的。
另外发现一个对Dirichlet分布中参数的解释,可以加深理解Beta和Dirichlet分布在贝叶斯推论中的理解:https://stats.stackexchange.com/questions/244917/what-exactly-is-the-alpha-in-the-dirichlet-distribution