機械学習でベイジアンモデルを使うという選択肢 - Qiita

概要 機械学習やデータ解析を勉強していると時々目にするベイジアンモデルをざっくり理解するために以下の内容をまとめました。 どのような背景でベイジアンモデルが研究されているのか イメージをつかむために簡単なベイジアンモデルを実装してみる 一般的な機械学習とベイジアンモデルとの対応 ベイジアンモデルが研究される背景 Zoubin Ghahramani氏の見解 ベイジアンモデルのメリット フレームワークが単純で、一意的。ニューラルネットワークのように任意性のある正則化項が登場したりしない。 Gaussian Processのようなノンパラメトリック・ベイジアンモデルは表現力が高い（関数空間のカバー領域が広い）。 過適合が生じない。 ベイジアンモデルのデメリット 並列処理に向かない。 モデルの解釈が難しいことがある。 アルゴリズムの再現性がない場合がある。 （追記 2017/02/17） 本節の内

[Aobei]

Gibbs sampling