かなり甘い感じなディリクレ過程のお話。 - photogenic blue note
photogenic blue note "We cannot all do great things, but we can do small things with great love." 空間Xがあるとしよう。この空間上に定義された関数を考える。この関数がどんなものかについては、漠然と、Xの一部分Aについて、Aの範囲で積分を計算できる、ぐらいに思っておく。もちろん、Xの一部分と言えるものは、いろいろありえる。なお、いま言った「積分」がどんな積分かは、ここでは厳密には考えないことにする。 しかも、この関数を、X全体で積分すると、1になるとしよう。そういう関数だけを考える。 X上に定義された関数で、X全体で積分すると1になるものは、無数にある。これら無数にあるものの上に、確率分布を定義することができる。本当にできるのかどうかは、ここでは気にしないことにする。とにかく、できる。 ディリク
ディリクレ過程(Dirichlet Process)を調査中 - EchizenBlog-Zwei
そろそろ階層ディリクレ過程(Hierarchical Dirichlet Processes)を理解したい気分だったので調査中。とりあえずディリクレ過程について現時点での理解をメモしておく。間違ってる可能性もあるので悪しからず。 やりたい事。データの系列x={x1, x2, ..., xn}について、P(x)を求めたい。もしくはP(x)からxをサンプリングしたい。このP(x)がディリクレ過程。 事前分布としてG0という分布を考える。この分布は何でも良く、とりあえず正規分布とかを思い描くと良い。加えてαというスケーリングパラメータを用意する。 このG0とαをパラメータとした分布DP(G; α, G0)を考える。これは具体的にはDir(αG0(x1), αG0(x2), ...)というディリクレ分布となっている。従ってDPは足して1になるパラメータセットθ={θ1, θ2, ..., θn}に
スライド 1
ノンパラメトリックベイズモデル 上田 修功 NTT コミュニケーション科学基礎研究所 2009年 3月13日 パターン認識応用の視点で解説 CVIM/PRMU研究会 ノンパラメトリックベイズの基礎に関連する キーワード ディリクレ過程(DP: Dirichlet Process) 棒折り過程 (SBP: Stick Breaking Process) ディリクレ混合過程(DPM) 中華レストラン過程(CRP: Chinese Restaurant Process) 階層ディリクレ混合過程(HDPM) FAQ Q1: 新しい分野？ No! 創始者Ferguson(1973)，近年，機械学習で流行 Q4: ディリクレ過程はディリクレ分布と関係する？ Yes! それこそが本質 Q２: “ノンパラメトリック”の意味は？ 直観的には”massive parametric”が妥当 Q３: 通常のベイ
A Tutorial on Dirichlet Processes and Hierarchical Dirichlet Processes
A Tutorial on Dirichlet Processes and Hierarchical Dirichlet Processes Yee Whye Teh Gatsby Computational Neuroscience Unit University College London Mar 1, 2007 / CUED Yee Whye Teh (Gatsby) DP and HDP Tutorial Mar 1, 2007 / CUED 1 / 53 Outline 1 Dirichlet Processes Definitions, Existence, and Representations (recap) Applications Generalizations Generalizations 2 Hierarchical Dirichlet Processes Gr
Nonparametric Bayes Tutorial
This 3-part tutorial addresses a machine learning audience, not assumed to be familiar with measure theory or the theory of stochastic processes. The course is intended to provide (1) an overview of what nonparametric Bayesian models exist beyond those already used in machine learning, and (2) a basic understanding of the mathematical construction of ''process'' models, both existing ones and new
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
変分ベイズでディリクレ過程混合モデル（Blei論文を解く）
Scientific Programmes | Isaac Newton Institute for Mathematical Sciences
http://www.gatsby.ucl.ac.uk/~ywteh/research/npbayes/dp.pdf
thesis_1spc.dvi
http://www.phontron.com/dirichlettopic/dirichlet-topic.pdf
An Introduction to Bayesian Nonparametric Modelling
Nonparametric Bayes for Non-Bayesians
Home - Department of Statistics - Purdue University
https://people.eecs.berkeley.edu/~jordan/courses/281B-spring04/lectures/dpmixtures2.pdf
https://people.eecs.berkeley.edu/~jordan/courses/281B-spring04/lectures/dp2.pdf
https://people.eecs.berkeley.edu/~jordan/courses/281B-spring04/lectures/dp1.pdf