高度経済成長にかげりが見え始め、エネルギー問題や環境問題がクローズアップされ出した1980年代の終わりから90年代にかけて、「エントロピーの経済学」と題する本が出版されるなど、ひところ話題となったので、エントロピーという言葉をお聞きになったことのある方、あるいはその内容をご存知の方も多いことと思います。 私たちの生命や生活、経済的な営みなどを含めて万物は、根源的に『エントロピー増大の法則』という法則に支配されています。私たちが自分たちの生命や生活を維持しようとする活動、あるいはエネルギー問題への取り組み等は、エントロピーの増大を防ごうとする活動にほかなりません。 ところが、「回収した資源ごみをリサイクルして再生する過程は、新たなエントロピーの増大を生む。それで果たして、エネルギー問題を解決しようとしていることになるのか?」という命題を、『エントロピー増大の法則』は提起するのです。 エントロ
東京大学 松尾研究室が主催する深層強化学習サマースクールの講義で今井が使用した資料の公開版です. 強化学習の基礎的な概念や理論から最新の深層強化学習アルゴリズムまで解説しています.巻末には強化学習を勉強するにあたって有用な他資料への案内も載せました. 主に以下のような強化学習の概念やアルゴリズムの紹介をしています. ・マルコフ決定過程 ・ベルマン方程式 ・モデルフリー強化学習 ・モデルベース強化学習 ・TD学習 ・Q学習 ・SARSA ・適格度トレース ・関数近似 ・方策勾配法 ・方策勾配定理 ・DPG ・DDPG ・TRPO ・PPO ・SAC ・Actor-Critic ・DQN(Deep Q-Network) ・経験再生 ・Double DQN ・Prioritized Experience Replay ・Dueling Network ・Categorical DQN ・Nois
統計力学は, 気体の分子の運動のようなミクロ記述とボイル=シャルルの法則のようなマクロ記述とをつなぐ学問です. 統計力学を学ぶと, 我々はミクロからマクロへつながる階層的な構造が自然界のいたるところに存在することを意識し, 物理学の枠組みを超えて統計力学が活躍できるような気がしてきます. 例えば, 脳や情報にもミクロとマクロの階層性が存在します. 脳にある百億以上の神経細胞の活動から, 我々の意識や感情が生じています. 0 と 1 のビットがある種のルールに従って並ぶと, そのビット系列は画像や音声などの意味ある情報になります. これらを統計力学的に議論できる鍵はスピングラス・レプリカ法に代表されるランダムスピン系の統計力学にありました. ± 1 の二値状態を取る Ising スピンを脳の神経細胞の活動や情報のビットに対応させることで, 統計力学は脳の神経回路モデルや情報・通信理論の難問を
今日、英語版Wikipediaの「制限ボルツマンマシン」のページの翻訳を終えました。終えましたけれども、内容はよく理解出来ていません。それでも得るところはありました。ひとつは自分のボルツマンマシンの理解がかなり表面的であったことを自覚したことです。私はボルツマンマシンの元になったホップフィールド・ネットワークを勉強していた時、ホップフィールド・ネットワークのエネルギーの定義がいかにも取ってつけたような感じがして、これは別段エネルギーと見なす必要はなくてたとえばエントロピーと見なしてもいいではないか、などと思っていました。しかし、英語版Wikipediaの制限ボルツマンマシンのページに登場した の式を見た時に、おお、まさしく統計力学の式だ、と感じました。この式に出てくるは統計力学であればエネルギーが出てくる位置にあります。なぜ、こんなにうまくいくのだろう? なぜ、統計力学との平行関係がこんな
制限ボルツマンマシンのアルゴリズムの導出が難しかったので忘れないようにまとめておいた。今回から数回にわたって 可視変数のみのボルツマンマシンの導出(2.4節) 隠れ変数ありのボルツマンマシンの導出(2.5節) 制限ボルツマンマシンの導出(2.7節) の順番に書いてみる予定。表記法は下の深層学習に準じた。この本は紙面の都合か教育的配慮かわからないが最終結果しか書いてない。この記事ではなるべく1ステップずつ展開していって無理なく理解できるレベルにまで落とし込みたいと思っている。ボルツマンマシン自体の説明は非常にわかりやすいこの本に譲ってここでは純粋に式展開とポイントだけをまとめる。 深層学習 Deep Learning (監修:人工知能学会) 作者: 麻生英樹,安田宗樹,前田新一,岡野原大輔,岡谷貴之,久保陽太郎,ボレガラダヌシカ,人工知能学会,神嶌敏弘出版社/メーカー: 近代科学社発売日:
この内容は拙著『進化しすぎた脳』の巻末に「付論」として掲載されたもので、 脳科学講義として中学生・高校生たちに説明したときの録音テープから起こした文章です。 (朝日出版社の許可を得てここに掲載しております) この課外時間では、数学を使っただけで簡単に「記憶」のモデルができるという話をしよう。 この講義で習った知識を使っただけで簡単な脳のモデルができるんだ。神経細胞がたった3個からなる模型。ほんとの脳ははるかに複雑だけど、ここでは単純化したネットワークを考えてみよう。 まず、モデルの話をする前に、ちょっと基礎練習をしてみよう。いま、この図のように、2つの神経が結合している。 こんな感じで神経1は神経2とシナプスを作っている。丸が神経で、矢印がシナプスの記号。この場合は神経1が送信側で、神経2が受信側だ。つまり信号は神経1から2へ行く。 この図で重要なのは何かというと、2つの神経が結びつく強さ
ある程度予想はしていましたが、期末試験の結果は悲惨なものでした。 中でもテイラー展開は目も当てられないありさまでした。 日ごろ数学で苦労しているメンバーはともかく、 数学を得意としている皆さんも壊滅に近い状態でした。 とりあえず教科書に書いてある式を当てはめてみて、 何かやってる振りはしているけれども、 書いている本人が何をやってるのかわからない状態で、 他人が読んで意味がわかるわけがありませんよね。 テイラー展開が何なのか、がわかってないんだな。 基本思想を以下に説明するので、今学期 最後のチャンスと思って理解してください。 ちょっと (1.0007)15を計算してみてくださいな (1.0007)15、どうやって求めます?馬鹿正直に1.0007を15回掛けますか。 「俺 関数電卓あるから。」 ああそうですか。じゃあ電卓持ったまま読んでね。 0.0007 はとっても小さいから、1.0007
こんにちは。 今回は、サイコロを使いながら 隠れマルコフモデル(Hidden Markov Model) をテーマにしたいと思います。 隠れマルコフモデルはDNA解析や、音声解析で利用されている基礎テクニックです。 画像認識と強化学習(DQN)を中心とした、ディープラーニングの書籍「実装 ディープラーニング」をオーム社から出版しました。詳しくはこちらをご覧下さい。 サイコロゲーム サイコロは、みなさん良くご存じのとおり、1~6 までの目があって、その目の出方(確率)は、どの目をみても「同様に確からしい」というものです。 今回は少し物語風です。 AさんとBさんは、Cさんの家で 3 人でサイコロゲームを行いました。 ゲームはいたって簡単で、それぞれが見えないように数字を紙に書いて、 1 個のサイコロを振って、紙の数字とサイコロの目があっていれば勝ちというものです。 サイコロを振るのはCさんで、
私がAI(人工知能)や機械学習って難しいナーと感じるところは、数学の前提知識がある程度必要なところです。 GoogleからTensorflowが出たときに、私もいっちょやってみるかなんて思ったのですが、参考にした記事もなかなか難しくてあんまり理解できなかったのを覚えてます。途中まで理解出来てたのに、急に数式が出てきて「なるほどわからん!」ってなることが多かったですね。 「というかエンジニアなのに数学苦手なのw」とビックリされる方もいらっしゃると思いますが、エンジニアっつったって、今の御時世理系出身エンジニアばかりじゃないんです。でもエンジニア女子やってると自動でリケジョ扱いされるから面白いですね。 当面の目標としては、AIの中でも機械学習を学んでいきたいので(DeepLearningできるようになりたい!)、あると嬉しい数学の知識としては以下です。 線形代数 確率・統計 微分・積分 AIの
概要 勢いでシリーズ全巻そろえた岩波講座「現代数学への入門」、 せっかく全部買って全部読んだんだし、簡単にまとめを。 一通り読んだ今となって思えば、 読む順番をちゃんと考えて読めばもうちょっと楽に読めたかなぁと思うところがあるので、 近代数学の発展の流れを、本シリーズのタイトルに沿ってまとめておこうというのが主な趣旨。 別の出版社のシリーズで数学を学ぶにしても、 大体同じような流れがあるはず。 一覧 岩波講座「現代数学への入門」 全16巻。 レベルとしては、 大学の理系学部で習う内容。 微分と積分〈1〉初等関数を中心に 微分と積分〈2〉多変数への広がり 現代解析学への誘い 複素関数入門 力学と微分方程式 熱・波動と微分方程式 代数入門 数論入門 行列と行列式 幾何入門 曲面の幾何 双曲幾何 電磁場とベクトル解析 解析力学と微分形式 現代数学の流れ〈1〉 現代数学の流れ〈2〉 全体の流れ ま
大学と大学院の,理工系の講義ノートPDFのまとめ。 PDF形式の教科書に加え,試験問題と解答,および授業の動画も集めた。 学生・社会人を問わず,ぜひ独学の勉強に役立ててほしい。 内容は随時,追加・更新される。 (※現在,60科目以上) カテゴリ別の目次: (1) 数学の講義ノート (2) 物理学の講義ノート (3) 情報科学の講義ノート (4) 工学の講義ノート ※院試の問題と解答のまとめはこちら。 (1)数学の講義ノート 解析学: 解析学の基礎 (大学1年で学ぶ,1変数と多変数の微分・積分) 複素解析・複素関数論 (函数論) ルベーグ積分 (測度論と確率論の入門) 関数解析 (Functional Analysis) 代数: 線形代数 (行列論と抽象線形代数) 群論入門・代数学 (群・環・体) 有限群論 (群の表現論) 微分方程式: 常微分方程式 (解析的および記号的な求解) 偏微分方程
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く