ただの微分幾何学徒だった僕がデータサイエンスを何故/どのように勉強したのか - Obey Your MATHEMATICS.
こんにちは。久々の投稿です。 僕のTwitterをフォローしてくれている方はご存知かと思いますが、4月から機械学習エンジニア/データサイエンティスト(見習い)として働く事が決まりました。 今日六本木の某社から正式に内定を頂きましたが、間違いなくTwitterのおかげでありTwitterこそ就活の全てであると確信した次第でございます— マスタケ (@MATHETAKE) 2017年2月23日 良い区切りですので今回はタイトルの通り、ただの純粋数学の学生だった僕がデータサイエンスの勉強を何故/どのようにしてきたのか、についての思い出せる範囲で書こうと思います。 Disclaimer: この記事は基本的に、"What I did" に関する記事であって決して "What you should do" についての記事ではありません。そんな勉強方法おかしいとか、こうすべきだ、みたいなマサカリは一切受
ガウス過程の定義と存在を測度論の言葉を使って、出て来る言葉の定義を全て与えて、ごまかさないで、しっかりと、数学的に説明してみようと思ったけど、ただの機械学習のための測度論的確率論超絶速習コースになってしまいました。 - Obey Your MATHEMATICS.
こんにちは。 今回は、このブログを読んでいる機械学習界隈の人なら必ず一度は聞いたことがあるであろう ガウス過程(Gaussian Process) についてです。かの有名な悪名高いPRMLにも頻繁に登場しますし、機械学習の本や論文にはしょっちゅう出て来る存在だと思います。僕の大好きなベイズ最適化 mathetake.hatenablog.com においても非常に重要な数学的概念です。 ガウス過程の説明でよくあるあるのは、 「確率変数の集まりであって、有限個取った場合にその同時分布はガウシアンである」 と言うものですが、、、。 肝心なのは、皆さん、 ・確率変数って何か分かってますか？ ・確率分布ってなにか分かってますか？ ・そもそも確率って何か分かっていますか？ と言う話なのです。曖昧な土台の上で議論や話を進めるの、もうやめにしませんか？気持ち悪くありませんか？ そして重要なのは、ガウス過程
Obey Your MATHEMATICS.
§1. はじめに こんにちは こんばんは 久しぶりの投稿です。 タイトルはスーパーマン松本さんのアレから拝借しました: codezine.jp 今日はポエムを書きます。 なにか技術記事を期待してた方、もしいましたらすみません。また次回。 完全に僕の観測範囲での主観に基づいていますので、燃えるかもしれません。 この文書は you should do ではなく what I didがメインです §2. 背景 数学しか知らなかった僕がGunosyに入社して、約7ヶ月ほど経ちました。 数学しか知らなかった、と書いたものの「数学は知っていたのか」と言われるNOです。 3ミリぐらいしか知りません。 僕が機械学習エンジニアになった経緯は↓の２つの記事にだいたい書いてあります: mathetake.hatenablog.com gunosiru.gunosy.co.jp 7ヶ月がむしゃらに仕事をしてきて
Taking the Human Out of the Loop -ベイズ最適化のすゝめ- - Obey Your MATHEMATICS.
こんにちは。タイトルは次の論文から拝借しました; Taking the Human Out of the Loop: A Review of Bayesian Optimization - IEEE Xplore Document という訳で今話題沸騰中(？？？？？？？？)の Bayesian Optimization(ベイズ最適化)についてまとめたいと思います。 また、日本語で「ベイズ最適化」とググるといくつか良い記事が見つかるのでそちらも合わせて参照してみて下さい。いくつかピックアップして、この記事の下の方に”参考記事”としてまとめておきました。 また、佐藤一誠さんの講演動画も導入としてかなり参考になると思います。20分程度なので是非！ www.youtube.com しっかりと数学的なセッティングについて言及した記事があまりないように思われたので、そこにフォーカスして書きたいと思いま
何故DeepNeuralNetworkの学習は難しいのか:特異点と対称性の視点から: Chapter 1 - Obey Your MATHEMATICS.
こんにちは。 今回はInformation Geometryの話ではありません。笑 ネット上、そして市販されている書籍、どこを覗いても Deep Neural Network (以下DNN)の学習やその各種パラメータ調節は難しい、 と言う事実は語っていても どうして難しいのか まで踏み込んで説明してる文章は少ないように思われます。 そしてとんでもなく ヒューリスティックが多い。多い。うざいぐらい多い。 ですので今回のシリーズでは、 特異モデルと呼ばれる統計モデル視点と 特異点と群作用と言う幾何学的な視点から どうしてDNNの学習が難しいのか そして どうしてDNNの理論的理解が乏しいのか を説明したいと思います。 巷に転がっている文章の用に ※※ふわっと解説はしませんので※※ 少々数学的に高度な話になりますが、頑張って噛み砕いて書くので、ついてきてください。 いきなりDNNの話に入る前に、
Deep Learningの理論的論文リスト - Obey Your MATHEMATICS.
§1はじめに Deep Learningってどのくらい理論的に解明されているのか？ってやっぱり気になりますよね。 それに関して、次のQuoraのスレッドに非常に有益なコメントがあります。 When will we see a theoretical background and mathematical foundation for deep learning? - Quora How far along are we in the understanding of why deep learning works? - Quora 深層学習界の大御所であるYoshua Bengio、Yann LeCunの二人が 実際ディープラーニングの理論的理解ってどうなのよ？？ って質問に直々にコメントしています。 LeCunのコメントの冒頭を少し引用しますと; That’s a very active
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
