スライド 1

通信路モデル Bayes統計 最尤推定とMAP推定 データの性質 導入  情報源を記号列（例えば単語列 あるいは文字列）とする  Noisy Channel Model 機械学習の先史時代 --情報の変換過程のモデル化-- 情報源記号 列：t tx 情報変換 雑音（N(0,σ2) etc) 推定処理 :推定さ れた情報 源記号列 出力された記号 列＝推定処理 への入力 x 出力された記号列＝推定処理への入力データxから 情報源記号列tを推定し を計算する tˆ tˆ  Bayesの定理  P(t|x)は、新たな出力記号列xが得られたときの情 報源から出力された記号列 t を推定する式で、これ を最大化する t すなわち を求めるのが目標。  ところが、このままでは、既に得られている情報を 使えないので、Bayesの定理で変換する。  すると、既知の情報源状態と出力記号列のペ