さて、今回は混合モデルに対する効率的な学習アルゴリズムとして、崩壊型ギブスサンプリング(Collapsed Gibbs Sampling)*1を紹介します。ベースとなるアイデア自体はギブスサンプリングそのものなのですが、標準的な方法と比べて種々の計算テクニックが必要になってくるのと、実際に推論精度が向上することが多いのでここで紹介したいと思います。 また、今回の実験で使用したソースコードはGithubにおいてあります。 GitHub - sammy-suyama/MLBlog: source codes used in MLBlog [必要な知識] 下記をさらっとだけ確認しておくといいです。 ポアソン混合モデルにおけるギブスサンプリング ベイズ推論 カテゴリカル分布 1、崩壊型ギブスサンプリングのアイデア 基本的なアイデアとしては、対象の確率モデル(同時分布)から一部の確率変数をあらかじめ
![ベイズ混合モデルにおける近似推論③ ~崩壊型ギブスサンプリング~ - 作って遊ぶ機械学習。](https://cdn-ak-scissors.b.st-hatena.com/image/square/769be71ef0b4f2ea928aaf4e1e92037637e2ad91/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fs%2Fsammy-suyama%2F20160813%2F20160813151157.png)