MAP推定 - 機械学習の「朱鷺の杜Wiki」
MAP推定 (maximum a posteriori estimation)† 訓練サンプル集合 \(X\) が与えられたときの， パラメータ \(\theta\) の事後分布 \(\Pr[\theta|X]\) を最大にする値をパラメータの推定値とする方法． \[\hat{\theta}=\arg\max_{\theta} \Pr[\theta|X]\] パラメータが与えられたときの条件付分布のモデル \(\Pr[X|\theta]\) と，パラメータの事前分布 \(\Pr[\theta]\) を与えれば，ベイズの定理により次式のようにパラメータの事後分布は計算できる． \[\Pr[\theta|X]=\frac{\Pr[X|\theta]\Pr[\theta]}{\int\Pr[X|\theta]\Pr[\theta]d\theta}\] パラメータを確率変数として扱うのでベイズ主義
共役事前分布 - 機械学習の「朱鷺の杜Wiki」
共役事前分布 (conjugate prior)† 尤度関数と掛けて事後分布を求めると，その関数形が同じになるような事前分布． 指数型分布族ではこのような共役事前分布が存在し，次のような形．(表記は指数型分布族の項を参照) \[\Pr[\mathbf{\theta}|\mathbf{\eta},\nu]=f(\mathbf{\eta},\nu)Z(\mathbf{\theta})^\nu\exp(\nu\sum_{j=1}^p \theta_j\eta_j)\] ただし，\(\mathbf{\eta}=(\eta_1,\ldots,\eta_p)\) と \(\nu\) はパラメータ． 確率分布と，その分布に対する共役事前分布の例
complement naive Bayes - 機械学習の「朱鷺の杜Wiki」
多項モデル† 単純ベイズで文書分類をする場合によく用いられるのが多項モデル． 単純ベイズでは，文書 \(\mathbf{x}_i\) が与えられたとき，クラス \(c\) になる確率は次式 \[\Pr[c|\mathbf{x}]\propto\Pr[\mathbf{x}|c]\Pr[c]\] \(w\) 種類の語があるとき，文書ベクトル \(\mathbf{x}_i=(x_{i1},x_{i2},\ldots,x_{iw})\) の要素は，語 \(j\) が文書 \(i\) 内で生じる回数． 多項モデルでは，この要素の頻度が多項分布に従うとする．クラス \(c\) の任意の文書のある語を選んだとき，その語が語 \(j\) である確率を \(\theta_{cj}\) で表す．すると，文書 \(\mathbf{x}_i\) は次式で決まるクラスに分類される \[\arg\max_c=\ln\
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
