タグ

生成モデルに関するhsato2011のブックマーク (3)

  • 生成モデル - 機械学習の「朱鷺の杜Wiki」

    生成モデル (generative model) / 識別モデル (discriminative model)† クラス分類を解くための手法は識別モデルと生成モデルに分けられる. データとクラスの確率変数をそれぞれ \(X\) と\(C\) で表す. パラメータは \(\theta=(\theta_1,\theta_2)\). 生成モデル (generative model) \(X\) と\(C\) の結合確率をモデル化: \[\Pr[X,C|\theta]=\Pr[X|C,\theta_1]\Pr[C|\theta_2]\] パラメータはデータ集合とパラメータの同時確率を最大化するように学習: \[\Pr[\{x_i,c_i\}_i^N,\theta]=\Pr[\theta]\prod_i^N\Pr[x_i,c_i|\theta]=\Pr[\theta]\prod_i^N\Pr[x_i

    hsato2011
    hsato2011 2016/11/09
    機械学習のクラス分類で使う代表的なモデルの説明
  • 統計的機械学習入門 | 中川研究室

    導入pdf 情報の変換過程のモデル化 ベイズ統計の意義 識別モデルと生成モデル 最尤推定、MAP推定 データの性質 情報理論の諸概念 (KL-divergenceなど) 距離あるいは類似度 数学のおさらいpdf 行列の微分 線形代数学の役立つ公式 多次元正規分布 条件付き正規分布 Bayes推論pdf Bayseによる確率分布推定の考え方 多項分布、ディリクレ分布 事前分布としてのディリクレ分布の意味<\li> 正規分布と事後分布 指数型分布族 自然共役事前分布の最尤推定 線形回帰および識別pdf 線形回帰のモデル 正則化項の導入 L2正則化 L1正則化 正則化項のBayes的解釈 線形識別 2乗誤差最小化の線形識別の問題点 生成モデルを利用した識別 学習データと予測性能pdf 過学習 損失関数と Bias,Variance, Noise K-Nearest Neighbor法への応用 b

  • 統計的機械学習入門

    上田 修功 統計的機械学習入門 NTTコミュニケーション科学基礎研究所 NII軽井沢土曜講話会 2011年11月4日 (於:軽井沢国際高等セミナーハウス) 機械学習って何? どんな研究? 人の学習に例えると… 教師あり学習 (先生に習う) 教師なし学習 (自習する) 半教師あり学習 (膨大な情報を 活用する) アンサンブル学習 (皆で教え合う) 出力 情報処理システム 文字 7210 文(文章) こんにちは 日語 これはペンです。 フォーマルには… 機械(情報処理システム)に 学習能力を持たせる技術 入力 文字認識 画像 音声認識 音声信号 機械翻訳 英語 This is a pen. :所与のデータ(学習データ)だけでなく、未知のデータ(テ ストデータ)でも性能を発揮する汎化能力 学習能力 汎化誤差の最小化が実用上重要 情報処理=情報変換(価値創造) x y 入力 出力(目標値) (

    hsato2011
    hsato2011 2016/07/04
    生成モデルとか統計モデルの概要が記載されているので良い
  • 1