こんにちはtatsyです。 はじめてのMCMCもまだ少し書き足そうと思っていることがありつつですが、ノンパラベイズについて最近勉強を始めたので備忘録的に記事にしておこうかと思います。 内容は、PRML本を読んでみたものの、何でこの数式が正しいか良く分からないのでプログラムを書いて実践してみようという方針で書いております。 紹介してあるプログラムはPython3系 + numpy/scipy + matplotlibという環境で動かしております。 ノンパラメトリック法とは? 私は機械学習の専門家ではないので、少し語弊があるかもしれませんが、ノンパラメトリック法とは「無限のパラメータを持つ確率分布から適当にサンプルを得る方法」のことだと思ってます。大事なことは別にパラメータが1つのないということではないんだよということ。 ガウス過程とは? 集合X上に定義された関数fがガウス過程である、とはとX
![はじめてのノンパラメトリック法 (ガウス過程)](https://cdn-ak-scissors.b.st-hatena.com/image/square/ea1a6e16570c24db92fe3ee1679cc26102d173ab/height=288;version=1;width=512/https%3A%2F%2Ftatsyblog.wordpress.com%2Fwp-content%2Fuploads%2F2014%2F04%2Fgaussian_process_01.png%3Fw%3D300)