学習アルゴリズムの情報幾何 - 知能システム科学特別講義第２(2007年度夏学期)学習の幾何 村田 昇 はじめに 情報幾何入門 EM の幾何 EM の拡張* 集団学習 おわりに 学習アルゴリズムの情報幾何 知能システム科学特別講義第２ (2007 年度夏学期) 村田 昇 早稲田大学 理工学術院 Aug. 3, 2007 / 東京工業大学 学習の幾何 村田 昇 はじめに 情報幾何入門 EM の幾何 EM の拡張* 集団学習 おわりに Outline 1 はじめに 2 情報空間の幾何学 3 EM アルゴリズムの幾何学 4 EM アルゴリズムの拡張* 5 集団学習の幾何学 学習の幾何 村田 昇 はじめに 学習とは何か 歴史的背景 学習問題の定式化 確率モデル 情報幾何入門 EM の幾何 EM の拡張* 集団学習 おわりに 工学における種々の問題 以下のような例を考えてみる． 画像を圧縮する． 画素値 X の分布 P(X) を求め，情報量 log 1/P(X) に基 づいて情
