『混合多項分布のEMアルゴリズム』

ぽんのブログ自分用の備忘録ブログです。書いてある内容、とくにソースは、後で自分で要点が分かるよう、かなり簡略化してます（というか、いい加減）。あまり信用しないように（汗 L 面 （面の数が L 個） のサイコロがあり、各目の出る確率が であるとします。ここに は、l番目の目の出る確率です。 このサイコロを M 回振った時、各目の出る回数が （ i 番目の目が出る回数が x_i ）である確率は多項分布 で求められます。 が所与の時、パラメータ の最尤推定値は、こちらのPDFのようにして と求められます。 次にこの L 面サイコロを K 個用意します。k 番目のサイコロが選ばれる確率を とすれば、各目の出る回数が である確率は、混合多項分布 に従います。 ここで で、これはk番目の L 面サイコロの各目の出る確率で、 はこの k 番目のサイコロの l 番目の目の出る確率です。 今、K 個のサ