タグ

ブックマーク / www.hellocybernetics.tech (6)

  • TensorFlow Probability コードメモ ① 確率分布周りの基本と最尤推定 - HELLO CYBERNETICS

    mainyaa
    mainyaa 2018/12/01
  • 【TensorFlow Probability】edward2 モジュールの使い方 MCMCまで【更新】 - HELLO CYBERNETICS

    はじめに 概要 コードの前提 Edward2 肝は tfp.edward2.RandomVariableクラス ベイズロジスティック回帰 ロジスティック回帰を書く 事後分布を書く 事前分布のセッティング 対数尤度 MCMCの実行 事後分布を見る 最後に はじめに 概要 現在開発が急ピッチで進んできている(ように私には見える)、TensorFlow Probabilityですが、 PyroやStanなどの先発組に比べて明らかに遅れを取っているように見えます。 このことに関して「ネット上に良いサンプルコードが見当たらない」ということと「ドキュメントを読んでもどのAPIを使えば良いか分からない」ということが大きな原因かなと思います。 特にtfp.distributionsとtfp.edward2の差異は明確ではなく、どっちをどのように使うのか…というのはかなりわかりづらいところです。 結論を述べ

    【TensorFlow Probability】edward2 モジュールの使い方 MCMCまで【更新】 - HELLO CYBERNETICS
  • 【多様体学習】LLEとちょっとT-SNE - HELLO CYBERNETICS

    多様体学習の必要性 クラスタリングという観点 次元削減という観点 多様体とは 多様体学習の狙い 多様体学習の例 Locally Linear Embedding(LLE) 他の多様体学習の紹介 Modified Locally Linear Embedding t-distributed Stochastic Neighbor Embedding 多様体学習の発展版 最後に 多様体学習の必要性 クラスタリングという観点 データがD次元空間にプロットされる際には、データに意味があれば、似たようなデータは近い位置に現れることが期待できます。そのような考えに基づいて、K平均法などによってデータをクラスタリングすることが可能になります。 s0sem0y.hatenablog.com しかし、実際には似たようなデータが必ずしもD次元空間上で近い位置に現れるとは限りません。例えば以下のようなデータがあ

    【多様体学習】LLEとちょっとT-SNE - HELLO CYBERNETICS
    mainyaa
    mainyaa 2017/08/29
  • 人工知能の歴史 AIを如何にして達成しようとしたか - HELLO CYBERNETICS

    ※めちゃくちゃ長いです。一連の流れで読むと理解が深まると思います。自身の復習のためにも書き下しました。個々の章で完結しているので、それぞれ別の記事としても掲載しています。 近年は人工知能ブームが到来し、人工知能というワードを当たり前のように使う時代がやってきました。情報技術を学んでいる人にとって人工知能は、情報処理を効率的に行う素晴らしい技術の一つとして認識できるかと思います。一方で、技術的話題にあまり興味がない人にとっては、人工知能というワードに対して各々の解釈をして、時には誤解のような意見も見受けられます(人工知能の全容がハッキリしないうちは誤解というのはあまりにも強すぎる言い方ですが)。 人工知能がどういうものであるのかを知るには、人工知能技術的にいかにして達成しようとしたかの歴史を知ることが一番であると思います。 ここでの記事の目的は技術的な観点からの人工知能について説明すること

    人工知能の歴史 AIを如何にして達成しようとしたか - HELLO CYBERNETICS
  • 見たら瞬時に理解すべき数式 - HELLO CYBERNETICS

    機械学習で現れる数式に関して、これを見たら瞬時に理解すべきものを載せておきます。 機械学習で現れる数式には大量の添字があり、それらのせいで一体どのような計算が行われているのかを瞬時に把握するのが難しくなっています。しかしもはやこれは慣れの問題です。 教科書を根気強く理解できるようにするのもいいですが、予めどのような表現があるのかを知っていれば、もっと楽に読み進めることができるはずです。そのための言わば事前に知っておくと言い数式たちを載せておきます。 行列の行と列の数 計算の法則 特に頻出する形式 和の計算と行列表現 内積 行列計算 出現場面 固有値と固有ベクトル 固有ベクトルは、ほとんど変換を受けないベクトル 固有値とは、固有ベクトルがどれだけ定数倍されたかを表す 出現場面 勾配 勾配はスカラー関数の各成分の傾き 勾配はスカラー関数の等高線の法線ベクトル 出現場面 終わりに 行列の行と列の

    見たら瞬時に理解すべき数式 - HELLO CYBERNETICS
  • 機械学習を学ぶ上で抑えておきたい数学2 - HELLO CYBERNETICS

    機械学習や深層学習を学ぶ上で、数学は言語である 線形代数学 行列とベクトルは連立方程式を解くための記法 機械学習での活躍 どこまで学ぶか 最適化数学 学習とは 教師あり学習 教師なし学習 最適化を行う際の重要ワード「正則化」 どこまで学ぶ必要があるか 確率・統計 最低限知っておくべき定理や性質 最低限知っておくべき推定法 確率分布には見慣れるしかない 何に役立つのか 情報理論 情報を確率で記述する 何に役立つのか 情報幾何学 発祥は日 機械学習での役割 海外での方が有名? 機械学習や深層学習を学ぶ上で、数学は言語である 以前、学びたい機械学習のレベルに応じて、どんな数学が必要になってくるのかを紹介しました(以下の記事)。 s0sem0y.hatenablog.com そのときにも述べましたが、数学というのは何らかの操作を非常に簡潔に表現してくれます。要するに情報をギュッと圧縮して伝える手

    機械学習を学ぶ上で抑えておきたい数学2 - HELLO CYBERNETICS
  • 1