クリスマスぐらいから人工知能を作りたくなったのでいろいろ調べてみました。 ・階層型ニューラルネットワーク ・逆伝播法 ・事前学習 などなどいろんな専門用語があり、なかなか歯ごたえのある分野ですね。 とりあえずこのブログをメモ代わりに使うことにします^^; 今日は事前学習の一つ制限ボルツマンマシンについて書きます。 deep learningに使われる制限ボルツマンマシン(RBM)についてわかったこと・・・ ・RBMとはニューロンの接続を制限したボルツマンマシン(BM)のこと。(同じ階層のニューロンとは接続しない) ・ではボルツマンマシンとはなにか? 確率を考慮したホップフィールドネットワークのこと ・ではホップフィールドネットワークとはなにか? ニューロンどうし関係を持っているネットワークのこと。つまりニューラルネットワークの原型。。。かな? 別分野のエネルギー関数をまねて作ったエネルギー