機械学習でも平均場近似使うの知ってる? | マサムネの部屋

EMアルゴリズムの復習 簡単にEMアルゴリズムの復習をしておきます。 例えば、食の好みのアンケートを取った時にラーメン焼肉ハンバーガーが上位に並んでいたら、なんとなく男性ばかりがアンケートに答えたのかなと思いますね。(私はそう思ってしまいます。) もしかしたら、男性だけがアンケートに答えたのかもしれませんし、ラーメン屋の前でアンケートを取ったのかもしれません。こんな感じに、ぱっと見のデータには表れてこない情報を隠れ変数と呼びます。そのような状況の問題を考えます。 EMアルゴリズムで解く問題設定は以下のようにします。 未知の確率分布 $$\begin{eqnarray} p(X| \theta ) \end{eqnarray}$$ の\( \theta \)(が従う確率分布)を決めたいのですが、隠れ変数\(Z \)の存在と、その確率分布の形\(q(Z) \)、更に\( p(X,Z) \)が分